Bănuiesc că una dintre ultimele mari piese lipsă pe drumul către AGI este reala introspecție cauzală. Simt asta cel mai puternic când, în momente de frustrare, interoghez modelul și întreb "De ce ai făcut asta?" Și știu că va inventa un răspuns, dar răspunsul este practic garantat o halucinație, iar cu cât apăs mai tare pe model, cu atât devine mai evident. pur și simplu nu are capacitatea de a-și reflecta și de a-și reface gândurile și de a identifica trăsăturile interne și activările care au dus la reacția și acțiunile anterioare. Este un moment foarte clar de "am atins limitele cât de cu adevărat inteligentă este această tehnologie."