AGIへの道のりで最後に欠けている大きなピースの一つは、本物の因果的内省だと私は疑っています。 私はこの感覚を最も強く感じるのは、フラストレーションの瞬間にモデルに問い詰めて「なぜそんなことをしたの?」と尋ねる時です。 答えを作ってしまうのは分かっていますが、答えはほぼ幻覚で、モデルに強く押せば押すほどそれが明らかになります。 単に、自分の思考を振り返り、過去の反応や行動に至った内部の特徴や活性化を解明する能力が単純にありません。 「この技術がどれほど本当に知能を持っているかの限界に達した」という非常に明確な瞬間です。