Even een herinnering dat we eigenlijk niet veel weten over de praktische afstemming van agenten. Enkele AI's zijn al moeilijk genoeg, maar agenten nemen context van elkaar over, van potentieel vijandige prompts, van de omgeving, van lange autonome runs, velen hebben open gewichten, enz.

Om duidelijk te zijn, we weten ook niet zoveel over de diepere afstemming van AIs.