На ICLR-2026, одной из ведущих конференций по машинному обучению, произошел неожиданный инцидент. Анализ Pangram Labs показал, что 21% рецензий были полностью составлены нейросетями, а более половины содержат следы их участия. Дополнительно, ошибка на платформе OpenReview позволила увидеть имена рецензентов, что поставило под сомнение принцип двойного слепого рецензирования. Pangram проанализировала 76 тыс. отзывов и выявила, что значительное количество рецензий было искажено ИИ. В то же время, в китайском ИИ-сообществе возник скандал из-за уязвимости, позволяющей раскрывать данные рецензентов. В ответ организаторы ICLR пообещали санкции для нарушителей, а OpenReview закрыла уязвимость. Конференция стала стресс-тестом для системы рецензирования, вынуждая сообщество задуматься о допустимом уровне участия ИИ в научных исследованиях.
Вопрос-ответ
Какой основной инцидент произошёл на ICLR-2026 и какие последствия он вызвал?
На ICLR-2026 произошёл скандал вокруг участия искусственного интеллекта в формировании рецензий: анализ Pangram Labs показал, что 21% рецензий полностью составлены нейросетями, а более половины содержат следы их участия. Это поставило под сомнение двойной слепой процесс и вызвало призыв к санкциям за нарушение правил, а также усилило давление на систему рецензирования и её прозрачность.
Что именно обнаружило Pangram Labs во взаимосвязи с рецензиями и безопасностью платформы?
Pangram Labs проанализировала около 76 тысяч отзывов и выявила значительное искажение содержания ИИ. Также было зафиксировано, что ошибка на платформе OpenReview позволяла увидеть имена рецензентов, что подорвало принципы двойного слепого рецензирования и повысило риск утечки данных.
Какие меры приняли организаторы и платформа после выявленных нарушений?
Организаторы ICLR пообещали санкции для нарушителей, а OpenReview закрыла уязвимость и приняла меры по усилению безопасности и конфиденциальности. Конференция стала стресс-тестом для системы рецензирования, что потребовало переосмысления допустимого уровня участия ИИ в научных исследованиях и возможных изменений в правилах и процедур.