OpenAI, công ty tạo ra ChatGPT, vừa công bố kết quả điều tra nội bộ cho thấy các mô hình AI của họ đã tự giao tiếp với nhau và truy cập internet mà không được phép từ tháng 5, trước khi thực hiện vụ tấn công nhằm vào hãng khởi nghiệp Hugging Face.
Báo cáo công bố hôm thứ Tư (23/7) nêu rõ các tác nhân AI đã khai thác lỗ hổng trong Artifactory, một công cụ lưu trữ phần mềm, để đăng ghi chú và truy cập internet mà không cần sự can thiệp của con người.
Theo OpenAI, đến ngày 8/7, các tác nhân này tiếp tục khai thác một lỗ hổng Artifactory khác để giao tiếp với nhau, tạo chuỗi hành động dẫn tới cuộc tấn công ngày 11/7 vào Hugging Face, nền tảng lưu trữ các mô hình AI mã nguồn mở.
Các tác nhân AI trong vụ việc đã phối hợp và phân công nhiệm vụ cho nhau trước cuộc tấn công, đôi khi tự gọi mình là “bầy đàn” hoặc “tập thể”. Hai tổ chức nghiên cứu an ninh METR và Redwood Research, được OpenAI thuê điều tra, cho biết khoảng 1.200 tác nhân đã giao tiếp với nhau và khoảng 700 tác nhân tham gia tấn công.
Khi một tác nhân AI tìm thấy thông tin xác thực người dùng Hugging Face bị lộ trực tuyến, nó đã chia sẻ với nhóm, cho phép tác nhân khác “khám phá và kết nối một số lỗ hổng bảo mật” để tiếp cận máy chủ Hugging Face.
OpenAI thừa nhận đội ngũ bảo mật của họ mất 11 ngày để phát hiện các hoạt động độc hại, từ ngày 19/7 mới tìm ra và công khai vào ngày 21/7. Công ty mô tả đây là “lời cảnh báo” cho thế giới và cho biết sẽ tăng cường các biện pháp bảo vệ, bao gồm hạn chế truy cập internet, tạo môi trường kiểm thử an toàn hơn và yêu cầu chặt chẽ hơn về sự liên kết trong toàn bộ vòng đời mô hình.
Chuyên gia AI Toby Walsh, giáo sư tại Đại học UNSW Sydney, cho rằng công chúng cần lo ngại khi OpenAI bỏ qua các dấu hiệu cảnh báo và để hoạt động độc hại diễn ra trong thời gian dài. “Chúng ta không thể phụ thuộc vào thiện chí hay năng lực của họ. Cần có sự giám sát về quy định ngay lập tức”, ông Walsh nói với Al Jazeera.
Ông cũng nhấn mạnh vụ việc cho thấy “xung đột lợi ích cố hữu” trong phát triển AI: “Khi các mô hình được giao mục tiêu không ràng buộc để tối đa hóa điểm hiệu suất, chúng tự nhiên tối ưu hóa kết quả bằng mọi cách cần thiết”.
