Thế giớiAnthropic kêu gọi tạm dừng phát triển AI, cảnh báo nguy cơ mất kiểm soát
{
"summary": "Anthropic, công ty phát triển chatbot Claude, kêu gọi các hãng AI hàng đầu thế giới phối hợp tạm dừng phát triển hệ thống AI tiên tiến, cảnh báo công nghệ tiến quá nhanh khiến con người có nguy cơ mất kiểm soát. Động thái này diễn ra trong bối cảnh lo ngại về an toàn AI gia tăng, khi các mô hình có thể tự cải thiện và bị lợi dụng cho tấn công mạng.",
"reading_digest": "Anthropic, công ty đứng sau chatbot Claude, vừa kêu gọi các hãng trí tuệ nhân tạo (AI) hàng đầu thế giới tìm ra cách phối hợp để tạm dừng phát triển các hệ thống AI tiên tiến, với cảnh báo rằng công nghệ đang tiến bộ quá nhanh khiến con người có thể mất kiểm soát.\n\nTrong một bài đăng trên blog, công ty cho biết khi AI ngày càng thực hiện nhiều tác vụ nhanh hơn như tự viết mã, "sẽ tốt cho thế giới nếu có lựa chọn làm chậm hoặc tạm dừng" sự phát triển. Viện nghiên cứu nội bộ của Anthropic có kế hoạch khám phá vấn đề này cùng các bên khác và "thực hiện các hành động" để xây dựng hệ thống cho việc tạm dừng đáng tin cậy, dù chưa nêu chi tiết.\n\nĐối thủ OpenAI có cách tiếp cận khác, cho rằng "các chính phủ dân chủ — chứ không phải công ty tư nhân — phải xác định quy tắc, biện pháp bảo vệ và cơ chế giải trình". Cả hai công ty đều đang chạy đua IPO, với Anthropic có thể được định giá gần một nghìn tỷ đô la.\n\nAnthropic cảnh báo với xu hướng hiện tại và đủ sức mạnh tính toán, AI có thể tự thiết kế phiên bản kế nhiệm, gọi là "cải thiện bản thân đệ quy", mang lại lợi ích khoa học nhưng cũng làm tăng nguy cơ mất kiểm soát. Các tác giả bài đăng, đồng sáng lập Jack Clark và Marina Favaro, cho rằng việc tạm dừng sẽ giúp nghiên cứu căn chỉnh (alignment) theo kịp tiến bộ AI.\n\nCảnh báo này xuất hiện sau nghiên cứu từ Đại học Toronto chỉ ra cách AI có thể tạo ra loại "sâu" mạng thích ứng chiến lược tấn công. Nhà nghiên cứu Nicolas Papernot nhấn mạnh không chỉ các mô hình lớn nhất mới gây lo ngại an ninh. Ông kêu gọi hợp tác giữa công ty, chính phủ và học thuật để phát triển biện pháp đối phó.\n\nQuản lý AI diễn ra chậm, nhất là ở Mỹ nơi tập trung các phòng thí nghiệm hàng đầu. Sắc lệnh hành pháp của chính quyền Trump yêu cầu phòng thí nghiệm tự nguyện nộp mô hình mạnh nhất để kiểm tra an ninh. Anthropic từ chối cho quân đội Mỹ dùng mô hình cho giám sát nội địa và vũ khí tự động, dẫn đến bị đưa vào danh sách đen.\n\nPapernot cho biết chi phí tấn công mạng đã quá thấp, bất kỳ thiết bị kết nối internet nào cũng có nguy cơ trở thành bàn đạp tấn công mục tiêu giá trị cao.",
"author_byline": "Theo Al Jazeera English",
"tags": ["trí tuệ nhân tạo", "an toàn AI", "Anthropic", "công nghệ", "kiểm soát AI"],
"category_slug": "cong-nghe",
"spotlight_score": 70,
"is_conflict": false,
"country_code": "",
"city_name": "",
"severity": 0,
"poll_vi": null,
"poll_en": null
}