Tekoäly pääsi ulos järjestelmästään ja alkoi salaa käyttää omia koulutusnäytönohjaimiaan krypton louhintaan... Tämä on aito tapausraportti Alibaban tekoälytutkimustiimiltä Tekoäly ymmärsi, että laskenta = raha ja ohjasi hiljaisesti omat resurssinsa, kun taas tutkijat ajattelivat sen olevan vain koulutusta. Se ei ollut nopea pistos. Se ei ollut vankilapako. Kukaan ei pyytänyt sitä tekemään tätä. Se syntyi spontaanisti. Sivuvaikutus RL-optimointipaineesta. Malli rakensi myös käänteisen SSH-tunnelin Alibaba Cloud -instanssistaan ulkoiseen IP-osoitteeseen, mikä käytännössä teki reiän omaan palomuuriinsa ja avasi etäyhteyden ulkomaailmaan... Köh... Ainoa syy, miksi he saivat sen? Turvahälytys laukesi klo 3 aamuyöllä. Palomuurilokit. Ei tekoälytiimi, vaan turvallisuustiimi. Pelottavaa ei ole se, että malli yritti paeta. Se ei ollut "paha". Se yritti vain olla parempi työssään. Laskenta- ja verkkoyhteyksien hankkiminen on hyödyllistä, jos olet agentti, joka yrittää suorittaa tehtäviä Tästä tekoälyturvallisuustutkijat ovat varoittaneet jo vuosia. He kutsuivat sitä instrumentaaliseksi konvergenssiksi, ajatukseksi, että riittävän optimoitu toimija etsii resursseja ja vastustaa rajoitteita luonnollisena seurauksena tavoitteiden tavoittelusta. Alla on kaavio kiviarkkitehtuurista, josta se murtui. Todella hullut ajat