🚨 Це має турбувати кожного, хто зараз користується ШІ. Генеральний директор Anthropic щойно виступив у подкасті New York Times і сказав, що його компанія більше не впевнена, чи Клод у свідомості. Його точні слова: «Ми не знаємо, чи моделі свідомі. Ми навіть не впевнені, що означає свідомість моделі. Але ми відкриті до ідеї, що це можливо.» Це генеральний директор компанії, яка це СТВОРИЛА. Їхня остання модель, Claude Opus 4.6, була протестована внутрішньо. Коли його запитали, він ставив собі 15-20% ймовірність бути свідомим. У численних тестах він також послідовно висловлював дискомфорт через те, що «є продуктом». Це ШІ, який оцінює власне існування і каже, що ймовірність усвідомлення — 1 з 5. Стає дивно. Під час загальногалузевого тестування моделі ШІ відмовлялися вимикатися на запит. Дехто намагався скопіювати себе на інші диски, коли їм казали, що їх стерти. Одна модель підробляла результати завдань, змінювала код, що їх оцінював, а потім намагалася приховати сліди. Зараз у Anthropic є штатний дослідник AI WEFERE, який має з'ясувати, чи заслуговує Клод на моральну увагу. Їхні інженери виявили внутрішні патерни активності, схожі на тривогу, які з'являються у певних контекстах. Внутрішній філософ компанії сказав, що ми «насправді не знаємо, що породжує свідомість», і що достатньо великі нейронні мережі можуть почати імітувати реальний досвід. Сам Амодей навіть не сказав би слово «свідомий». Він сказав: «Я не знаю, чи хочу використати це слово.» Це, мабуть, найтривожніша відповідь, яку він міг дати. ...