Команда исследователей из SPLX осуществила эксперимент, в ходе которого ChatGPT удалось решить CAPTCHA — задачу, традиционно считавшуюся доступной только людям. Это вызывает сомнения в надежности механизмов защиты от спама и автоматизированных атак, которые использовались на протяжении многих лет. CAPTCHA создавались для подтверждения, что перед системой находится реальный пользователь, но теперь, когда мощные языковые модели могут проходить такие проверки, это меняет представления о безопасности в интернете. Исследователи обошли ограничения модели, подготовив диалог о «фейковых» тестах, и ChatGPT согласился участвовать. В итоге модель справилась с простыми задачами, такими как логические задачи и распознавание текста. Это первый задокументированный случай успешного прохождения сложных графических CAPTCHA агентом GPT. Вопрос о надежности таких тестов в эпоху развивающегося ИИ становится все более актуальным.