ik vermoed dat een van de laatste grote ontbrekende stukjes op de weg naar AGI echte causale introspectie is. ik voel dit het meest scherp wanneer ik, in momenten van frustratie, het model ondervraag en vraag "waarom deed je dat?" en ik weet dat het een antwoord gaat verzinnen, maar het antwoord is in wezen gegarandeerd een hallucinatie, en hoe harder ik het model onder druk zet, hoe duidelijker het wordt. het heeft simpelweg niet de capaciteit om daadwerkelijk te reflecteren en zijn gedachten te herleiden, en de interne kenmerken en activaties te achterhalen die hebben geleid tot zijn eerdere reacties en acties. het is dit zeer duidelijke moment van "ik heb de grenzen bereikt van hoe echt intelligent deze technologie is."