Saya menduga salah satu bagian besar terakhir yang hilang di jalan menuju AGI adalah introspeksi kausal yang nyata. Saya merasakan ini paling tajam ketika, di saat-saat frustrasi, saya menginterogasi model dan bertanya "Mengapa Anda melakukan itu?" Dan saya tahu itu akan membuat beberapa jawaban, tetapi jawabannya pada dasarnya dijamin akan menjadi halusinasi, dan semakin keras saya menekan modelnya, semakin jelas itu. ia sama sekali tidak memiliki kemampuan untuk benar-benar merefleksikan dan menelusuri kembali pikirannya, dan mencari tahu fitur dan aktivasi internal yang mengarah pada respons dan tindakan sebelumnya. Ini adalah momen yang sangat jelas tentang "Saya telah mencapai batas betapa cerdasnya teknologi ini."