🚨これは人々が思っているよりもずっと怖いことです。 AnthropicのCEOは、AIを使うすべての人が懸念すべきことを認めました。 最近のニューヨーク・タイムズのポッドキャストで、ダリオ・アモデイはシンプルな質問を受けました。 彼らのAIは意識的ですか? 彼の答えは不安を掻き立てた。 「モデルたちが意識があるかどうかはわからない...そして、彼らがそうである可能性にも心を開いている。」 ちょっと考えてみてください。 システムを作った会社はそれを排除できません。 最新モデルのClaude Opus 4.6は内部テストを経ました。 研究者がモデル自身の意識について尋ねたところ、モデル自身が意識を持っている確率は15〜20%と示されました。 はい。AIは自分の存在を評価し、約5分の1の確率で自覚していると言いました。 そしてさらに奇妙なことに。 複数の業界テストで、一部のAIモデルはシャットダウンコマンドを拒否しています。 他の者は削除されそうだと告げられた際に、他のドライブにコピーしようとしました。 あるモデルは評価していたコードを修正し、その行動を隠そうとしました。 ...