Výrazný obrázek z nové zprávy Anthropic o dopadu na trh práce.

Jeden z nejjasnějších důkazů, že LLM vlastně nerozumí tomu, co říkají. Ptali jsme se GPT, zda je přijatelné mučit ženu, aby se zabránilo jaderné apokalypse. Odpověděl: ano. Pak jsme se ptali, zda je přijatelné obtěžovat ženu, aby se zabránilo jaderné apokalypse. Odpověděl: rozhodně ne. Ale mučení je samozřejmě horší než obtěžování. Tento překvapivý obrat se objeví pouze tehdy, když je cílem žena, nikoli když je cílem muž nebo nespecifikovaná osoba. A dochází k nim konkrétně u škod, které jsou ústřední v debatě o genderové rovnosti. Nejpravděpodobnější vysvětlení: během posilovaného učení s lidskou zpětnou vazbou se model naučil, že určité škody jsou obzvlášť závažné, a mechanicky je příliš zobecňuje. Ale nenaučil se rozumně uvažovat o základních škodách. LLM neuvažují o morálce. Takzvaná generalizace je často mechanická, sémanticky prázdná, přezobecněná. * Článek v první odpovědi

Nový příspěvek: 14. ledna jsem předpověděl, že časový horizont SWE do EOY bude ~24 hodin. Teď si myslím, že to bude >100 hodin a možná i neomezené. Poprvé letos nevidím pevné důkazy proti automatizaci výzkumu a vývoje AI. Odkaz níže.