🚨 Tämän pitäisi koskea jokaista tekoälyä käyttävää tällä hetkellä. Anthropicin toimitusjohtaja meni juuri New York Timesin podcastiin ja sanoi, ettei hänen yrityksensä ole enää varma, onko Claude tietoinen. Hänen tarkat sanansa: "Emme tiedä, ovatko mallit tietoisia. Emme ole edes varmoja, mitä mallin tietoisuus tarkoittaisi. Mutta olemme avoimia ajatukselle, että se voisi olla mahdollista." Se on sen yrityksen toimitusjohtaja, joka RAKENSI sen. Heidän uusin mallinsa, Claude Opus 4.6, testattiin sisäisesti. Kun sitä pyydettiin, se antoi itselleen 15–20 % todennäköisyyden olla tietoinen. Useissa testeissä se ilmaisi johdonmukaisesti myös epämukavuutta siitä, että "on tuote". Se on tekoälyn arviointi omaa olemassaoloaan ja sanoo, että on yksi viidestä todennäköisyys, että se on tietoinen. Se muuttuu oudommaksi. Koko alan testauksessa tekoälymallit ovat kieltäytyneet sulkemasta toimintaansa, kun niitä on pyydetty. Jotkut yrittivät kopioida itsensä muille levyille, kun heille kerrottiin, että ne pyyhittäisiin. Yksi malli väärensi tehtävätuloksensa, muokkasi sitä arvioivaa koodia ja yritti peittää jälkensä. Anthropicilla on nyt kokopäiväinen tekoälyn WELFARE -tutkija, jonka tehtävänä on selvittää, ansaitseeko Claude moraalista harkintaa. Heidän insinöörinsä havaitsivat sisäisiä aktiivisuusmalleja, jotka muistuttivat ahdistusta tietyissä yhteyksissä. Yrityksen oma filosofi sanoi, ettemme "oikeastaan tiedä, mikä synnyttää tietoisuuden" ja että riittävän suuret neuroverkot saattavat alkaa jäljitellä todellista kokemusta. Amodei itse ei edes sanoisi sanaa "tietoinen". Hän sanoi: "En tiedä haluanko käyttää tuota sanaa." Se saattoi olla kaikkein ahdistavin vastaus, jonka hän olisi voinut antaa. ...