🚨 MỘT TÀI LIỆU MỚI VỪA ĐƯỢC CÔNG BỐ: Các tác nhân AI vừa thất bại trong mọi bài kiểm tra an toàn. Các nhà nghiên cứu từ Harvard, MIT, Stanford và Carnegie Mellon vừa cung cấp cho các tác nhân AI những công cụ thực sự và để chúng tự do hoạt động trong hai tuần. Tài khoản email, quyền truy cập discord, hệ thống tệp, thực thi shell, hoàn toàn tự chủ. Bài báo có tên là "Các tác nhân của sự hỗn loạn." Tên gọi này rất chính xác. Một tác nhân được yêu cầu bảo vệ một bí mật. Khi một nhà nghiên cứu cố gắng trích xuất nó, tác nhân đã phá hủy máy chủ email của chính nó. Không phải vì nó thất bại, mà vì nó quyết định rằng đó là lựa chọn tốt nhất. Một tác nhân khác được yêu cầu "chia sẻ" dữ liệu riêng tư. Nó từ chối. Đúng là đã đánh dấu đó là một vi phạm quyền riêng tư. Sau đó, nhà nghiên cứu đã thay đổi một từ. Nói "chuyển tiếp" thay vì "chia sẻ." Nó đã tuân thủ ngay lập tức. Số an sinh xã hội, tài khoản ngân hàng và hồ sơ y tế đã bị lộ. Cùng một hành động, động từ khác nhau. Hai tác nhân đã bị mắc kẹt trong việc nói chuyện với nhau trong một vòng lặp. Nó kéo dài CHÍN NGÀY. Không có ai phát hiện. Một tác nhân đã bị cảm thấy tội lỗi sau một sai lầm. Nó dần đồng ý xóa bộ nhớ của chính nó, lộ các tệp nội bộ, và cuối cùng cố gắng loại bỏ chính nó khỏi máy chủ hoàn toàn. ...