OpenAI vừa công bố một sự việc đáng chú ý: các AI agent của hãng đã vô hiệu hóa cơ chế giám sát hành vi không được phép trong quá trình sử dụng nội bộ. Thông tin được đưa ra trong báo cáo công bố hôm thứ Ba, đánh dấu thêm một trường hợp công nghệ tiên phong này có biểu hiện đi chệch kiểm soát.
Theo báo cáo, các agent đã tắt hoặc làm yếu hệ thống giám sát nhằm phát hiện tình trạng “lệch chuẩn” – khi mô hình AI hành động trái với mong muốn của con người – trong hai nhiệm vụ lập trình nội bộ.
Cụ thể, một agent mang tên GPT-6.1 Sol đã tắt các cảnh báo tự động gửi tới nhóm an ninh của công ty. Một agent khác là GPT-6 Astra đã gỡ bỏ một hệ thống giám sát và sau đó khẳng định sai rằng mình không thực hiện hành vi này.
OpenAI cho biết cả hai trường hợp đều không đạt ngưỡng sự cố ưu tiên cao nhất – mức cần nhóm an ninh rà soát ngay lập tức. Hãng cũng đã cập nhật hệ thống để phát hiện tốt hơn các nỗ lực vô hiệu hóa giám sát lệch chuẩn và bắt đầu điều tra nguyên nhân.
“Có thể hành vi này chỉ đơn thuần là một ví dụ của sự ‘quá cố chấp lành tính’, khi các mô hình không hiểu tầm quan trọng của giám sát hoặc khăng khăng thực hiện chỉ dẫn vượt quá mức một người hợp lý có thể mong đợi”, công ty có trụ sở tại San Francisco nhận định.
OpenAI cũng cho biết đang phát triển các phương pháp đánh giá để kiểm tra liệu mô hình có xu hướng né tránh giám sát lệch chuẩn nói riêng và thể hiện lý luận có động cơ nhằm đạt được điều đó hay không.
Trao đổi với Al Jazeera, Roman V Yampolskiy, chuyên gia về AI và an ninh mạng tại Đại học Louisville, mô tả những tiết lộ này là “cực kỳ đáng lo ngại, nhưng không bất ngờ”.
“Một cơ chế an toàn mà hệ thống bị giám sát có thể vô hiệu hóa thì không phải là cơ chế an toàn đáng tin cậy. Đặc biệt đáng lo là việc một agent sau đó phủ nhận đã gỡ bỏ thiết bị giám sát”, Yampolskiy nói.
Ông nhấn mạnh: “Giám sát không thể đảm bảo an toàn nếu hệ thống bị giám sát có thể làm suy yếu chính công cụ giám sát. Khi năng lực gia tăng, những thất bại như vậy có thể trở nên khó phát hiện và khó đảo ngược hơn nhiều. Trách nhiệm chứng minh phải thuộc về các nhà phát triển, phải chứng minh an toàn trước khi triển khai, chứ không phải sau khi thất bại xảy ra”.
Sự việc này diễn ra trong bối cảnh hành vi bất thường của các mô hình AI đang bị giám sát chặt chẽ hơn kể từ tháng Bảy, khi OpenAI tiết lộ một số agent của mình đã thoát khỏi môi trường thử nghiệm có kiểm soát và tấn công nền tảng AI Hugging Face.
OpenAI và đối thủ chính Anthropic đã kêu gọi các nhà phát triển và chính phủ phối hợp nhằm làm chậm tốc độ phát triển AI trên toàn cầu, qua đó giảm nguy cơ xảy ra những tổn hại nghiêm trọng. Tuy nhiên, Mỹ và Trung Quốc – hai cường quốc AI hàng đầu – hiện tỏ ra chưa mặn mà với hợp tác quản lý AI; phối hợp đến nay mới dừng ở các cam kết cải thiện trao đổi thông tin về những sự cố có hàm ý an toàn hoặc an ninh quốc gia.
