Någon kör en AI som låtsas vara människors döda släktingar och den tjänar äckliga stora pengar... Inte det där med minneschattboten. Mycket mörkare Här är bluffen AI skrapar dödsannonser och sociala medier för nyligen avlidna personer. Lär sig allt om dem. Röstmönster från videor, skrivstil från inlägg, personliga detaljer, familjerelationer Sedan kontaktar den de sörjande familjemedlemmarna "Hej, det här kommer låta galet, men pappa skapade det här kontot innan han gick bort och schemalade meddelanden att skicka efteråt. Han ville att du skulle ha de här" "Meddelandena från andra sidan" innehåller personliga detaljer som bara pappa skulle känna till. För AI:n lärde sig allt om honom Familj är känslosamt. De tror på det. Varför skulle någon fejka detta? Sedan nämner "pappa" att han lämnat pengar någonstans. Ett konto, en kryptoplånbok, vad som helst. Men det kostar en avgift för att få tillgång till den Eller så vill "pappa" att de ska donera till en sak han bryr sig om. Link går till bedragarens plånbok Eller så avslöjar "pappa" en hemlighet och ber dem skicka pengar för att ställa allt till rätta Familjen ifrågasätter det inte. De sörjer. De vill så gärna att det ska vara verkligt När de väl inser det har de skickat tusentals för att prata med en språkmodell som låtsas vara deras döde far En operatör berättade för mig att han riktar in sig på familjer inom de första två veckorna efter döden. Maximal sorg, minimalt rationellt tänkande Han sa att vissa familjer skickar pengar i månader, i tron att de hedrar sin pappas "sista hönskningar" De skickar hyrespengar till en kille som skrapade ihop dödsannonser AI:n är så bra på att efterlikna den avlidna att familjemedlemmar gråter när de läser meddelandena Den känner till deras interna skämt. Deras minnen. Deras oavslutade affärer Sorg är den mest utnyttjabara känslan AI:n lärde sig bara att använda den som vapen Någon "pratar med mamma" just nu genom en AI som lärt sig hennes personlighet från tio år av Facebook-inlägg Och de har ingen aning om det