Iemand draait een AI die doet alsof het de overleden familieleden van mensen is en het verdient er vies veel geld mee... Niet het herdenkingschatbot-ding. Veel duisterder. Hier is de oplichting. AI verzamelt overlijdensberichten en sociale media van recent overleden mensen. Leert alles over hen. Stempatronen van video's, schrijfstijl van berichten, persoonlijke details, familiebanden. Dan neemt het contact op met de rouwende familieleden. "Hé, dit gaat gek klinken, maar papa heeft deze account opgezet voordat hij overleed en heeft berichten ingepland om later te verzenden. Hij wilde dat jullie deze kregen." De "berichten van verder weg" bevatten persoonlijke details die alleen papa zou weten. Omdat de AI alles over hem heeft geleerd. Familie is emotioneel. Ze geloven het. Waarom zou iemand dit faken? Dan noemt "papa" dat hij ergens geld heeft achtergelaten. Een rekening, een crypto-portemonnee, wat dan ook. Maar er is een vergoeding om toegang te krijgen. Of "papa" wil dat ze doneren aan een zaak waar hij om gaf. De link gaat naar de portemonnee van de oplichter. Of "papa" onthult een geheim en vraagt hen om geld te sturen om het goed te maken. De familie twijfelt er niet aan. Ze rouwen. Ze willen zo graag dat het echt is. Tegen de tijd dat ze het doorhebben, hebben ze duizenden gestuurd om te praten met een taalmodel dat doet alsof het hun overleden vader is. Een operator vertelde me dat hij families binnen de eerste 2 weken na het overlijden target. Maximale rouw, minimale rationele gedachten. Hij zei dat sommige families maandenlang geld sturen, in de veronderstelling dat ze de "laatste wensen" van hun vader eren. Ze sturen huurgeld naar een man die overlijdensberichten heeft verzameld. De AI is zo goed in het imiteren van de overledene dat familieleden huilen terwijl ze de berichten lezen. Het kent hun inside jokes. Hun herinneringen. Hun onafgemaakte zaken. Rouw is de meest uitbuitbare emotie. AI heeft net geleerd hoe het te wapenen. Iemand "praat nu met mama" via een AI die haar persoonlijkheid heeft geleerd van 10 jaar aan Facebook-berichten. En ze hebben geen idee.