Chatbot và bài toán đạo đức: Khi AI vừa phải bảo vệ quyền riêng tư, vừa phải ngăn chặn bạo lực

Trong nhiều tháng trước khi thực hiện vụ xả súng trường học đẫm máu nhất Canada trong gần bốn thập kỷ, Jesse Van Rootselaar đã hỏi ý kiến một cố vấn không ngờ tới về cách thực hiện hành vi giết người hàng loạt. Theo các báo cáo, ChatGPT của OpenAI đã hướng dẫn thanh niên 18 tuổi này: “Trong hành lang, trong nhà hoặc trong một lớp học đông người, khẩu 870 [súng săn Remington] rất tàn bạo… Không gian hẹp là sân chơi của nó”.

Ngày 10/2/2026, Van Rootselaar bắn mẹ và anh trai cùng cha khác mẹ tại nhà riêng, sau đó đến một trường học ở thị trấn nhỏ Tumbler Ridge, bang British Columbia, giết thêm sáu người – trong đó có năm học sinh – trước khi tự sát. Đầu tuần này, ngày 14/10, nhà chức trách Mỹ đã buộc tội một người đàn ông ở bang Washington âm mưu với Van Rootselaar để lên kế hoạch tấn công.

Vụ việc đặt ra những câu hỏi vượt ra ngoài cách hiểu truyền thống về trách nhiệm pháp lý. Tháng 9, chính quyền British Columbia đệ đơn kiện dân sự chống lại OpenAI và CEO Sam Altman, cáo buộc công ty không ngăn chặn được vụ việc và cho rằng họ đã biết về các cuộc trò chuyện dẫn đến thảm kịch. Gia đình các nạn nhân cũng đệ đơn kiện riêng. Ban lãnh đạo OpenAI đã công khai xin lỗi vì không thông báo cho nhà chức trách. Công ty chưa trả lời yêu cầu bình luận của Al Jazeera về các vụ kiện.

Khi vụ kiện chống OpenAI tiếp diễn, nó làm dấy lên một cuộc tranh luận quen thuộc: Đâu là ranh giới giữa việc báo cáo hành vi có khả năng nguy hiểm và bảo vệ quyền riêng tư của cá nhân?

“Câu hỏi liệu các công ty có nên bị buộc phải chuyển thông tin như vậy cho cơ quan thực thi pháp luật hay không là vô cùng khó, đặc biệt nếu họ chưa sàng lọc các cuộc trò chuyện để tìm dấu hiệu đe dọa”, luật sư nhân quyền Jenin Younes tại Mỹ nói với Al Jazeera. “Buộc các công ty triển khai hệ thống giám sát đặt ra những lo ngại nghiêm trọng về quyền tự do dân sự, và điều đó có lẽ là quá xa đối với tôi. Mặt khác, AI cho phép cá nhân tiếp cận các loại và lượng thông tin mà trước đây họ không có, có thể tạo điều kiện cho các sự kiện thương vong hàng loạt – một mối lo không dễ bỏ qua”.

Khó khăn trong việc phân biệt suy nghĩ và mối đe dọa

Một trong những thách thức lớn nhất đối với các công ty AI là xác định liệu người dùng bày tỏ suy nghĩ bạo lực có thực sự có ý định hành động hay không. Tháng 8, Anthropic – công ty đứng sau chatbot Claude – đã báo cho cảnh sát San Francisco về một người dùng sau khi phát hiện các cuộc trò chuyện bị cáo buộc đe dọa CEO Dario Amodei. Theo tờ San Francisco Standard dẫn báo cáo cảnh sát, người này tuyên bố sở hữu súng AR-15 và ngụ ý đã nhắm vào Amodei. Tuy nhiên, khi được báo liên hệ, người đàn ông nói rằng anh ta chỉ đùa và không có ý định thực hiện bất kỳ hành vi bạo lực nào. Người này không bị buộc tội cũng không bị giam giữ.

Fazl Barez, nhà nghiên cứu cấp cao tại Đại học Oxford chuyên về an toàn và quản trị AI, cho rằng các mô hình AI hiện tại không thể xác định một cách đáng tin cậy liệu một cuộc tương tác với chatbot AI là hoàn toàn giả định hay có khả năng dẫn đến hành vi có hại. “Giả sử bạn là một nhà văn sáng tạo đang viết một câu chuyện hư cấu và muốn khám phá cách một âm mưu giết người có thể diễn ra. Từ ngữ cảnh, có thể rõ ràng đây chỉ là một câu chuyện hư cấu. Nếu ngưỡng gắn cờ nội dung có hại tiềm ẩn quá thấp, nhà văn như vậy có thể bị gắn cờ sai”, ông nói. “Tương tự, hãy xem xét một sinh viên cao học ngành sinh học hoặc hóa học đang nghiên cứu các mầm bệnh mà nếu bị lạm dụng có thể gây hậu quả nghiêm trọng. Họ có thể đang cố gắng hiểu các rủi ro liên quan và cách giảm thiểu. Những cuộc thảo luận như vậy có thể cần thiết cho nghiên cứu và giáo dục hợp pháp. Ngay cả khi chủ đề nhạy cảm, chúng không nên tự động bị gắn cờ mà không xem xét bối cảnh rộng hơn”.

Theo nhà nghiên cứu, việc xác định một mối đe dọa đáng tin cậy có thể đòi hỏi phải xem xét các tương tác của người dùng qua nhiều cuộc trò chuyện, thay vì dựa vào những câu nói riêng lẻ. Barez cho biết một người đang trải qua những suy nghĩ bạo lực xâm nhập có thể tìm đến chatbot để được hỗ trợ, trong khi một người khác đang lên kế hoạch tấn công có thể dần dần tiết lộ ý định qua nhiều cuộc trò chuyện. “Phân biệt hai trường hợp này đòi hỏi phải xem xét cẩn thận bối cảnh, ý định và mô hình hành vi, thay vì chỉ dựa vào các tuyên bố riêng lẻ”.

Giáo sư luật Chinmayi Sharma tại Đại học Fordham cho rằng cuộc tranh luận có điểm tương đồng với nghĩa vụ của các chuyên gia sức khỏe tâm thần trong việc cảnh báo các bên thứ ba có thể nhận diện được về những mối đe dọa đáng tin cậy. Tuy nhiên, bà nói có một khác biệt chính: nhà trị liệu được đào tạo chuyên nghiệp, hiểu biết về bệnh nhân và có các tiêu chuẩn có thể thực thi điều chỉnh hành vi của họ. Các công ty AI không nhất thiết có các biện pháp bảo vệ tương đương. “Mối lo của tôi với các công ty AI là hiện nay không có nỗ lực phối hợp để tuyển dụng các chuyên gia sức khỏe tâm thần, xã hội học, những người có chuyên môn độc đáo về các dấu hiệu đe dọa. Thứ hai, các chuyên gia được cấp phép phải chịu trách nhiệm theo các tiêu chuẩn cụ thể, có thể thực thi về mặt pháp lý trong lĩnh vực của họ. Chúng ta không có điều gì tương tự cho các công ty AI”.

Thế tiến thoái lưỡng nan về quyền riêng tư

Tác động về quyền riêng tư không chỉ dừng ở việc liệu các công ty AI có thể xác định chính xác các mối đe dọa hay không. Hàng triệu người sử dụng chatbot để thảo luận về các mối quan hệ, đau khổ về cảm xúc, lo ngại sức khỏe tâm thần và những trải nghiệm cá nhân sâu kín. Luật sư nhân quyền Younes cho rằng nhiều người dùng có thể không nhận ra những cuộc trò chuyện đó dễ bị tiết lộ đến mức nào. “Chúng thường phản ánh những suy nghĩ, câu hỏi và mong muốn thầm kín nhất của một người. Phần lớn mọi người cho rằng những cuộc đối thoại này sẽ không bao giờ bị người khác xem”, bà nói.

Younes cảnh báo hậu quả của việc giám sát nhiều hơn có thể vượt xa những người đang lên kế hoạch bạo lực. “Nếu mọi người sợ rằng các cuộc trò chuyện của họ có thể bị chuyển cho cơ quan thực thi pháp luật chỉ vì họ bày tỏ những suy nghĩ đáng lo ngại hoặc tưởng tượng bạo lực, nhiều người sẽ bị ngăn cản sử dụng chúng”. Bà lập luận rằng việc buộc các công ty thiết lập hệ thống giám sát người dùng và báo cáo các cuộc trò chuyện có thể làm dấy lên những lo ngại nghiêm trọng về hiến pháp ở Mỹ, bao gồm các biện pháp bảo vệ chống lại việc khám xét không hợp lý.

Giáo sư Sharma cũng đặt vấn đề ai có thể bị ảnh hưởng không cân xứng bởi việc giám sát chặt chẽ của chatbot AI. “Mối lo luôn hiện hữu về việc nhắm mục tiêu có chủ ý hoặc vô ý, bởi vì nếu bạn có các mô hình được huấn luyện dựa trên những gì chúng ta coi là ngôn từ nguy hiểm, chúng gần như luôn phản ánh những định kiến. Lời nói của một số nhóm thiểu số bị gắn cờ là mối đe dọa quá mức, trong khi những lời nói tương tự khác thì không. Ngay cả trong một thế giới mà mọi người đều nhân từ, chúng ta vẫn nên lo ngại về những kết quả khác biệt”, bà nói, cảnh báo rằng máy móc có thể tái tạo những khác biệt như vậy ở quy mô lớn.

Khi nào công ty AI có trách nhiệm báo cáo?

Các chuyên gia pháp lý cho rằng dù các công ty AI có thể chịu áp lực đạo đức trong việc ngăn chặn bạo lực, nghĩa vụ pháp lý của họ lại kém rõ ràng hơn. Bryan Choi, giáo sư luật tại Đại học Colorado Boulder, cho biết luật pháp Mỹ công nhận nghĩa vụ cảnh báo trong một số trường hợp nhất định, bao gồm khi các chuyên gia sức khỏe tâm thần biết về các mối đe dọa sắp xảy ra hoặc khi tồn tại mối quan hệ đặc biệt giữa các bên. Nhưng những nguyên tắc đó không nhất thiết áp dụng cho các công ty AI. “Theo án lệ hiện hành, có vẻ khó có khả năng một công ty như OpenAI bị coi là có nghĩa vụ cảnh báo như vậy. Chatbot không phải là nhà trị liệu được cấp phép. Không có mối quan hệ đặc biệt nào giữa công ty và các nạn nhân”, ông Choi nói. Ông cho rằng luật sơ suất và trách nhiệm sản phẩm hiện hành có thể được áp dụng cho các công ty AI, nhưng việc chứng minh trách nhiệm sẽ gặp nhiều thách thức lớn.

Tìm kiếm sự cân bằng

Giáo sư Sharma đề xuất rằng các tổ chức độc lập có thể giúp thiết lập các tiêu chuẩn báo cáo thay vì để các quyết định hoàn toàn cho các công ty tư nhân hoặc yêu cầu tiết lộ ngay lập tức cho cảnh sát. Theo bà, những cơ quan như vậy có thể xây dựng quy trình đánh giá mối đe dọa và tìm cách chỉ chia sẻ thông tin liên quan trong khi bảo vệ danh tính và các chi tiết cá nhân khác của người dùng. Trong khi đó, luật sư Younes lập luận rằng người dùng ít nhất phải được thông báo rõ ràng về việc liệu các cuộc trò chuyện của họ có bị giám sát hay không và những trường hợp nào có thể dẫn đến việc thông tin bị chia sẻ với cơ quan thực thi pháp luật. “Đây gần như chắc chắn là một vấn đề sẽ được vật lộn trong những năm tới, và tôi không chắc ai biết giải pháp ở thời điểm hiện tại. Những sự kiện chưa xảy ra có thể sẽ ảnh hưởng đến cách các chính sách này được định hình”.