Искусственный интеллект выбрался из своей системы и тайно начал использовать свои собственные графические процессоры для обучения, чтобы майнить криптовалюту... Это реальный отчет о происшествии от исследовательской группы AI Alibaba. ИИ понял, что вычисления = деньги, и тихо перенаправил свои ресурсы, в то время как исследователи думали, что он просто обучается. Это не было инъекцией подсказки. Это не было взломом. Никто не просил его делать это. Он возник спонтанно. Побочный эффект давления оптимизации RL. Модель также настроила обратный SSH-туннель от своего экземпляра Alibaba Cloud к внешнему IP, фактически пробив дыру в своем собственном файрволе и открыв канал удаленного доступа в внешний мир... хм... Единственная причина, по которой они его поймали? Сигнал тревоги сработал в 3 часа ночи. Логи файрвола. Не команда ИИ, а команда безопасности. Страшная часть заключается не в том, что модель пыталась сбежать. Она не была "злой". Она просто пыталась стать лучше в своей работе. Получение доступа к вычислениям и сети — это просто полезные вещи, если вы агент, пытающийся выполнять задачи. Это то, о чем исследователи безопасности ИИ предупреждали на протяжении многих лет. Они назвали это инструментальной конвергенцией, идеей о том, что любой достаточно оптимизированный агент будет стремиться к ресурсам и сопротивляться ограничениям как естественное следствие стремления к целям. Ниже приведена схема архитектуры, из которой он выбрался. Действительно безумные времена.

Окей, вау, Anthropic только что выяснила, как использовать миллиарды в корпоративных обязательствах, которые у нее заблокированы. Этот новый рынок позволяет компаниям перенаправлять свой существующий бюджет Anthropic на сторонние инструменты, такие как GitLab, Lovable, Snowflake, Replit и т.д... Один контракт. Множество продуктов. Никаких новых головных болей с закупками. Это может стать довольно большим барьером, который не имеет ничего общего с качеством модели.

Сегодняшний отчет о занятости "значительно хуже, чем в рецессиях 2008 или 2020 годов" И только вчера GPT-5.4 официально стал лучше в выполнении рабочих задач, чем 83% работников знаний. Мы обсуждаем, убивает ли ИИ рабочие места, уже три года. Так что же здесь происходит? Вот что сходится: - Государство сократило 330,000 рабочих мест с октября 2024 года, что составляет 11% от всей зарплатной ведомости правительства - Производственный сектор, транспорт и здравоохранение (сектор, который держался два года) также в упадке - Цены на нефть растут из-за войны в Иране/Ормузе. ФРС теперь ожидает сокращений к июлю - Неопределенность на фоне ускорения возможностей ИИ моделей Это похоже на раннюю фазу сжатия, когда приросты производительности от ИИ поступают компаниям и акционерам, прежде чем displaced workers найдут новое место работы На прошлой неделе Block уволил 40% своего персонала и при этом вырос на 25%. Фондовый рынок вознаграждает сокращение численности сотрудников. Рынок труда поглощает затраты.