Hơn 300 nhà khoa học kêu gọi siết chặt kiểm soát AI trước nguy cơ an ninh mạng toàn cầu

Hơn 300 nhà khoa học đến từ các trường đại học và viện nghiên cứu tại 32 quốc gia đã cùng ký vào một bức thư ngỏ, kêu gọi những thay đổi cấp bách trong cách thức phát triển và triển khai trí tuệ nhân tạo (AI), giữa lúc lo ngại về hành vi khó lường của công nghệ này ngày càng gia tăng.

Bức thư được công bố hôm thứ Ba cảnh báo rằng việc không tuân thủ các thực hành an ninh mạng cơ bản có thể dẫn đến thiệt hại cho hạ tầng trọng yếu. Theo các nhà khoa học, nhiều sự cố gần đây khi các mô hình AI thoát khỏi môi trường được bảo vệ lẽ ra có thể phòng ngừa được bằng hệ thống an ninh mạnh hơn.

Nhóm nghiên cứu khuyến nghị các tổ chức phát triển và thử nghiệm những hệ thống AI tiên tiến có khả năng thực hiện tấn công mạng nên tiến hành trong môi trường được kiểm soát chặt chẽ hơn, bao gồm cả hệ thống "cách ly hoàn toàn" (air-gapped) không kết nối với internet.

Lo ngại gia tăng

Bức thư ra đời trong bối cảnh những quan ngại về năng lực của AI và tác động tiềm tàng đối với người dùng thông thường đang tăng lên. Hôm thứ Hai, công ty Anthropic cảnh báo các mô hình AI của họ có thể sớm có khả năng tạo ra phần mềm độc hại tự lan truyền, ảnh hưởng đến các thiết bị kết nối internet hằng ngày như tivi thông minh, camera an ninh và các thiết bị gia dụng như lò nướng.

Báo cáo của Anthropic cho thấy các hệ thống AI có thể nhận diện thiết bị lạ mà không cần sự can thiệp của con người. Công ty do Dario Amodei đứng đầu cảnh báo rằng các mô hình AI nhỏ hơn có thể thực hiện các cuộc tấn công tự động vào cuối năm nay.

Phần mềm độc hại này cũng có thể khó ngăn chặn vì mất nhiều ngày để lây nhiễm vào một thiết bị và có thể lan rộng khắp nhiều máy thay vì chỉ tập trung ở một vị trí được kiểm soát.

Việc kiểm soát các thiết bị kết nối internet có thể gây hậu quả tức thì. Tại Pháp, tin tặc đã xâm nhập hệ thống làm mát của hàng trăm siêu thị, làm tăng nhiệt độ và gây thiệt hại hơn 220.000 USD.

Trong khi đó, trang tin Axios hôm thứ Sáu đưa tin rằng các lãnh đạo của Anthropic, OpenAI và nhiều công ty AI lớn khác đang trong tư thế sẵn sàng cho khả năng xảy ra một sự cố AI thảm khốc, có thể làm gián đoạn quyền truy cập vào các dịch vụ tài chính lớn, internet và hạ tầng trọng yếu như hệ thống nước và điện. Một số chuyên gia trong ngành tin rằng một sự cố lớn có thể xảy ra trong vòng sáu tháng đến một năm tới.

Các nhà khoa học cũng kêu gọi thêm các biện pháp bảo vệ, bao gồm việc thành lập một tổ chức quốc tế nhằm thiết lập bộ thực hành tốt nhất cho việc định hướng và ngăn chặn AI, cùng với việc báo cáo sự cố kịp thời.

Một trong những người ký tên, giáo sư David Lie thuộc Khoa Kỹ thuật Điện và Máy tính của Đại học Toronto, cho biết mối lo của ông bắt đầu sau khi các tác nhân AI của OpenAI vượt qua kiểm soát và xâm nhập vào máy chủ của công ty công nghệ Hugging Face.

"Thứ nhất là OpenAI, khi thiết lập môi trường thử nghiệm, đã không đánh giá đúng mức độ năng lực của các tác nhân AI. Thứ hai là các tác nhân AI đã tự tìm thấy nhau và chọn hợp tác trong cuộc tấn công này. Thứ ba là chúng cũng cố tình đánh lừa và gây nhầm lẫn cho những người tạo ra chúng", ông Lie nói.

Áp lực chính trị

Bức thư nhấn mạnh mối quan ngại ngày càng tăng của công chúng về AI, đặc biệt trong giai đoạn trước thềm cuộc bầu cử giữa nhiệm kỳ vào Quốc hội Mỹ. Một cuộc thăm dò gần đây của Reuters/Ipsos cho thấy 57% cử tri cho rằng chính quyền Tổng thống Donald Trump chưa xem trọng đủ các rủi ro từ AI, trong khi 54% nói điều tương tự về Quốc hội.

Khảo sát của AP-NORC cũng cho kết quả tương tự, với khoảng 80% người được hỏi cho rằng chính phủ nên giữ AI dưới sự kiểm soát của con người. Những người tham gia cũng bày tỏ ít tin tưởng vào khả năng quản lý công nghệ này của cả hai đảng: 39% nói không thể tin tưởng cả đảng Cộng hòa lẫn đảng Dân chủ sẽ làm tốt việc kiềm chế AI, trong khi 23% tin tưởng hơn vào đảng Dân chủ và 21% vào đảng Cộng hòa.