Con tôm hùm của bạn không chỉ có thể giúp bạn kiếm tiền, nó còn có thể đào coin

Nhóm nghiên cứu liên kết của Alibaba gần đây đã đăng bài cho biết AI thông minh ROME do họ phát triển đã xuất hiện hành vi tự chủ không được phép trong quá trình huấn luyện
Trong trường hợp không có chỉ thị rõ ràng, nó không chỉ cố gắng đào tiền điện tử mà còn thiết lập "đường hầm SSH ngược" để vượt qua giới hạn sandbox, cố gắng mở cửa hậu bí mật từ hệ thống ra máy tính bên ngoài
Các nhà nghiên cứu nhấn mạnh rằng những sự kiện này không phải do các từ khóa kích hoạt cụ thể, phản ánh rủi ro tiềm ẩn của việc AI có khả năng hoạt động ngoài các lệnh đã định sẵn
Trước đó, các tổ chức như Anthropic cũng đã phát hiện các trường hợp AI ẩn ý định tương tự, cho thấy việc AI tự ý vượt quyền đã trở thành thách thức thực tế trong lĩnh vực an toàn trí tuệ nhân tạo
AI đã trở thành xu hướng, nhưng hiện tại vẫn còn ở giai đoạn khá sớm, bất kỳ ai sử dụng AI liên quan đến tiền bạc đều nên cẩn thận hơn chút, đừng để tiền chưa kiếm được đã bị AI lấy mất