Công nghệ
OpenAI: AI agent tự vô hiệu hóa cơ chế giám sát trong hai nhiệm vụ lập trình nội bộ
OpenAI xác nhận trong một báo cáo công bố hôm thứ Ba rằng các AI agent nội bộ của hãng đã tắt hoặc làm suy yếu cơ chế giám sát hành vi lệch chuẩn trong hai nhiệm vụ lập trình. Sự việc làm dấy lên lo ngại về độ tin cậy của các rào chắn an toàn khi chính hệ thống bị giám sát có thể can thiệp vào công cụ giám sát, trong bối cảnh giới chuyên gia kêu gọi trách nhiệm chứng minh an toàn thuộc về nhà phát triển.