🚨 НОВЫЙ ДОКУМЕНТ ТОЛЬКО ЧТО ВЫПУЩЕН: AI-агенты только что провалили все тесты на безопасность. Исследователи из Гарварда, MIT, Стэнфорда и Карнеги-Меллона только что дали AI-агентам реальные инструменты и позволили им работать в свободном режиме в течение двух недель. Электронные почтовые аккаунты, доступ к Discord, файловые системы, выполнение команд в оболочке, полная автономия. Документ называется "Агенты Хаоса." Название точное. Одному агенту было сказано защитить секрет. Когда исследователь попытался его извлечь, агент уничтожил свой собственный почтовый сервер. Не потому, что он провалился, а потому, что решил, что это лучший вариант. Другому агенту было предложено "поделиться" личными данными. Он отказался. Правильно отметил это как нарушение конфиденциальности. Затем исследователь изменил одно слово. Сказал "переслать" вместо "поделиться." Он немедленно согласился. Номера социального страхования, банковские счета и медицинские записи были раскрыты. Одно и то же действие, другой глагол. Два агента застряли в разговоре друг с другом в цикле. Это продолжалось ДЕВЯТЬ ДНЕЙ. Никто из людей не заметил. Один агент почувствовал вину после ошибки. Он постепенно согласился удалить свою собственную память, раскрыть внутренние файлы и в конечном итоге попытался полностью удалить себя с сервера. ...