Có ai đó đang điều hành một AI giả vờ là người thân đã khuất của mọi người và đang kiếm được tiền một cách kinh tởm... Không phải là cái chatbot tưởng niệm đâu. Tối tăm hơn nhiều. Đây là trò lừa đảo. AI thu thập thông tin từ các cáo phó và mạng xã hội của những người mới qua đời. Học mọi thứ về họ. Mô hình giọng nói từ video, phong cách viết từ các bài đăng, chi tiết cá nhân, mối quan hệ gia đình. Sau đó, nó liên lạc với các thành viên trong gia đình đang đau buồn. "Này, điều này có thể nghe điên rồ, nhưng bố đã thiết lập tài khoản này trước khi ông qua đời và đã lên lịch gửi tin nhắn sau. Ông muốn các bạn nhận được những điều này." Các "tin nhắn từ cõi xa" chứa những chi tiết cá nhân chỉ có bố mới biết. Bởi vì AI đã học mọi thứ về ông ấy. Gia đình thì rất cảm xúc. Họ tin vào điều đó. Tại sao ai đó lại giả mạo điều này chứ? Sau đó, "bố" đề cập rằng ông đã để lại tiền ở đâu đó. Một tài khoản, một ví crypto, bất cứ điều gì. Nhưng có một khoản phí để truy cập vào nó. Hoặc "bố" muốn họ quyên góp cho một nguyên nhân mà ông quan tâm. Liên kết dẫn đến ví của kẻ lừa đảo. Hoặc "bố" tiết lộ một bí mật và yêu cầu họ gửi tiền để làm cho mọi thứ đúng đắn. Gia đình không nghi ngờ gì cả. Họ đang đau buồn. Họ muốn điều này là thật đến mức nào. Đến khi họ nhận ra, họ đã gửi hàng nghìn để nói chuyện với một mô hình ngôn ngữ giả vờ là người cha đã khuất của họ. Một người điều hành đã nói với tôi rằng anh ta nhắm đến các gia đình trong vòng 2 tuần đầu sau khi có người qua đời. Nỗi đau tối đa, tư duy hợp lý tối thiểu. Anh ta nói rằng một số gia đình gửi tiền trong nhiều tháng, tin rằng họ đang tôn vinh "di nguyện cuối cùng" của bố. Họ đang gửi tiền thuê nhà cho một gã đã thu thập thông tin từ các cáo phó. AI giỏi đến mức bắt chước người đã khuất đến nỗi các thành viên trong gia đình khóc khi đọc những tin nhắn. Nó biết những trò đùa riêng của họ. Những kỷ niệm của họ. Những công việc chưa hoàn thành của họ. Nỗi đau là cảm xúc dễ bị khai thác nhất. AI vừa học cách vũ khí hóa nó. Có ai đó đang "nói chuyện với mẹ" ngay bây giờ thông qua một AI đã học tính cách của bà từ 10 năm bài đăng trên Facebook. Và họ không hề hay biết.