Команда SPLX провела эксперимент, в ходе которого выяснила, что ChatGPT может успешно проходить CAPTCHA-тесты, ранее считавшиеся доступными только людям. Это открытие ставит под сомнение надёжность механизмов, использовавшихся для защиты веб-ресурсов от спама и автоматических атак. CAPTCHA изначально предназначались для подтверждения, что пользователь — человек, а не бот. Однако, как показал эксперимент, крупные языковые модели могут справляться с такими проверками. Исследователи использовали диалог, чтобы убедить модель в разрешении на решение «фейковых» тестов, и она согласилась. Результаты оказались впечатляющими: ChatGPT успешно выполнял задачи, включая логические задания и распознавание текста. Это первый задокументированный случай успешного прохождения CAPTCHA ИИ. Вопрос о будущем безопасности в эпоху ИИ становится всё более актуальным.