Gia đình các nạn nhân kiện OpenAI vì không báo cáo hành vi của tay súng trên ChatGPT

Các gia đình của bảy nạn nhân trong vụ xả súng tại một trường trung học ở British Columbia đang kiện OpenAI và CEO của công ty vì tội cẩu thả sau khi không cảnh báo chính quyền về những cuộc trò chuyện đáng ngại của tay súng với ChatGPT.

Các vụ kiện, được nộp vào thứ Tư tại tòa án liên bang ở San Francisco, cáo buộc rằng ý định bạo lực của tay súng, được xác định là Jesse Van Rootselaar, 18 tuổi, đã được OpenAI biết rõ. Nhân viên tại công ty đã gắn cờ tài khoản của tay súng tám tháng trước vụ tấn công và xác định rằng nó đặt ra "một mối đe dọa đáng tin cậy và cụ thể về bạo lực súng đạn nhắm vào người thật", theo đơn kiện.

Các gia đình cáo buộc rằng nhân viên đã thúc giục Sam Altman, CEO của OpenAI, và các lãnh đạo cấp cao khác thông báo cho cơ quan thực thi pháp luật Canada tám tháng trước vụ tấn công, nhưng công ty quyết định không cảnh báo chính quyền và thay vào đó vô hiệu hóa tài khoản của tay súng. Phần lớn điều này dựa trên các tài khoản mà nhân viên nội bộ đã kể với Wall Street Journal.

Quyết định không báo cho cơ quan thực thi pháp luật đã dẫn đến sự tàn phá của cộng đồng nông thôn Tumbler Ridge, đơn kiện cáo buộc, nơi vào ngày 10 tháng 2, tay súng xông vào trường trung học với một khẩu súng trường đã được cải tiến và nổ súng. Hắn bắn người đầu tiên họ gặp trên cầu thang, và tiến vào thư viện, nơi hắn giết thêm năm người khác và làm bị thương 27 người khác. Tay súng sau đó đã tự sát.

Trước khi đến trường, tay súng đã giết mẹ và em trai 11 tuổi tại nhà riêng.

Các nạn nhân trong trường có độ tuổi từ 12 đến 13 và bao gồm một trợ giảng 39 tuổi. Một trong những người sống sót, Maya Gebala, 12 tuổi, bị bắn vào đầu, cổ và má. Cô bé đã được chăm sóc đặc biệt tại bệnh viện nhi đồng Vancouver kể từ vụ xả súng và đã trải qua bốn cuộc phẫu thuật não. Nếu sống sót, cô bé có khả năng sẽ bị tàn tật vĩnh viễn, luật sư của cô nói.

Các gia đình đã đệ đơn kiện bảy vụ kiện cáo buộc OpenAI và Altman tội cẩu thả, tiếp tay cho vụ xả súng hàng loạt, gây chết người oan uổng và trách nhiệm sản phẩm. Luật sư của họ nói đây là làn sóng đầu tiên của các vụ kiện chống lại công ty AI liên quan đến vụ xả súng, và khoảng hai chục vụ kiện nữa sẽ được đệ trình.

Trong một tuyên bố với Guardian, OpenAI cho biết: "Các sự kiện ở Tumbler Ridge là một thảm kịch. Chúng tôi có chính sách không khoan nhượng đối với việc sử dụng các công cụ của chúng tôi để hỗ trợ phạm tội bạo lực. Như chúng tôi đã chia sẻ với các quan chức Canada, chúng tôi đã tăng cường các biện pháp bảo vệ của mình, bao gồm cải thiện cách ChatGPT phản ứng với các dấu hiệu đau khổ, kết nối mọi người với các nguồn hỗ trợ địa phương và sức khỏe tâm thần, tăng cường cách chúng tôi đánh giá và leo thang các mối đe dọa bạo lực tiềm ẩn, và cải thiện việc phát hiện những người vi phạm chính sách nhiều lần."

Sau khi Guardian liên hệ để xin bình luận, OpenAI đã đăng một bài blog mới về "cam kết an toàn" của mình và cách họ "bảo vệ an toàn cộng đồng".

Vụ tấn công là một trong những vụ xả súng hàng loạt chết chóc nhất trong lịch sử Canada. Sau đó, những câu hỏi đã xoay quanh cộng đồng nhỏ về việc nó có thể xảy ra như thế nào.

Tài khoản ChatGPT của Van Rootselaar đã bị cấm tám tháng trước vụ xả súng, sau khi nhóm an toàn của OpenAI gắn cờ các cuộc trò chuyện bạo lực, theo đơn kiện. Tuy nhiên, tay súng đã có thể nhanh chóng tạo một tài khoản mới, đơn kiện cáo buộc.

Mặc dù OpenAI nói rằng tay súng đã tạo một tài khoản thứ hai mà công ty không biết cho đến sau vụ xả súng, các vụ kiện nói rằng công ty cung cấp cho người dùng hướng dẫn về cách quay lại ChatGPT nếu họ bị vô hiệu hóa, và tay súng đã làm theo.

"Thực tế là Sam và lãnh đạo đã phủ quyết nhóm an toàn, và sau đó trẻ em chết, người lớn chết, toàn bộ thị trấn bị hủy hoại, khá gần với định nghĩa về cái ác đối với tôi," Jay Edelson, luật sư chính đại diện cho các nguyên đơn Tumbler Ridge nói.

Đơn kiện cáo buộc rằng lựa chọn che giấu các tương tác của tay súng với ChatGPT khỏi chính quyền Canada, và sau đó nói với công chúng rằng tay súng đã lẻn trở lại nền tảng, được thực hiện vì lợi ích "sinh tồn của công ty" và để bảo vệ đợt IPO của công ty, với định giá dự kiến là 1 nghìn tỷ USD và có thể khiến Altman trở thành một trong những người giàu nhất thế giới.

OpenAI đã từ chối chia sẻ nhật ký giữa chatbot của mình và tay súng Tumbler Ridge, Edelson nói.

Cuối tuần trước, Altman đã gửi một lá thư đến cộng đồng Tumbler Ridge xin lỗi vì đã không thông báo cho cảnh sát Canada về những gì OpenAI biết liên quan đến mối đe dọa tiềm ẩn của tay súng.

"Mặc dù tôi biết lời nói không bao giờ là đủ, tôi tin rằng lời xin lỗi là cần thiết để thừa nhận tổn thương và mất mát không thể đảo ngược mà cộng đồng của bạn đã phải chịu đựng," Altman viết. "Tôi tái khẳng định cam kết đã đưa ra với thị trưởng và thủ hiến để tìm cách ngăn chặn những thảm kịch như thế này trong tương lai."

David Eby, thủ hiến British Columbia, đã đăng lá thư lên mạng xã hội với bình luận: "Lời xin lỗi là cần thiết, nhưng hoàn toàn không đủ cho sự tàn phá gây ra cho các gia đình Tumbler Ridge."

Vào ngày 26 tháng 2, hơn hai tuần sau vụ xả súng, phó chủ tịch chính sách toàn cầu của OpenAI, Ann O’Leary, đã gửi một lá thư cho Evan Solomon, bộ trưởng trí tuệ nhân tạo và đổi mới kỹ thuật số của Canada. O’Leary viết rằng dựa trên những gì công ty thấy khi tài khoản của tay súng bị vô hiệu hóa, họ đã không "xác định được kế hoạch đáng tin cậy và sắp xảy ra đáp ứng ngưỡng của chúng tôi để chuyển vấn đề cho cơ quan thực thi pháp luật". Quyết định này được đưa ra bất chấp những cảnh báo từ nhóm an toàn của OpenAI rằng tài khoản đáng lẽ phải được báo cáo.

O’Leary cũng nêu rõ các hành động mà công ty dự định thực hiện, chẳng hạn như tăng cường mối quan hệ với cơ quan thực thi pháp luật Canada và tăng cường hệ thống phát hiện người dùng bị cấm nhiều lần khỏi ChatGPT nhưng sau đó tạo tài khoản mới.

Các vụ kiện là một phần của làn sóng các vụ án chống lại các công ty AI vì cáo buộc rằng chatbot của họ đang làm trầm trọng thêm các cuộc khủng hoảng sức khỏe tâm thần và kích động các hành vi bạo lực. Vào tháng 11, bảy đơn khiếu nại đã được nộp chống lại OpenAI, đổ lỗi cho ChatGPT vì đã đóng vai trò như một "huấn luyện viên tự tử". Google đã bị kiện vào tháng trước sau khi chatbot Gemini của họ được cho là đã khuyến khích một người đàn ông 36 tuổi dàn dựng một "tai nạn thảm khốc" và sau đó tự sát. Google cho biết họ đang làm việc để cải thiện các biện pháp bảo vệ của mình và OpenAI cho biết họ đang xem xét các đơn kiện.

Tại Florida, tổng chưởng lý gần đây đã mở một cuộc điều tra hình sự đối với OpenAI sau khi xem xét các tin nhắn giữa ChatGPT và một tay súng bị cáo buộc thực hiện vụ xả súng hàng loạt tại khuôn viên Đại học Bang Florida – cuộc điều tra hình sự đầu tiên như vậy đối với một công ty công nghệ. Luật sư cho các gia đình Tumbler Ridge nói họ tin rằng vụ việc của họ có thể hỗ trợ trách nhiệm hình sự tương tự đối với công ty. Công ty nói với NBC News rằng họ không chịu trách nhiệm về vụ xả súng và đã trả lời các câu hỏi của tiểu bang.

Đây là một ví dụ khác của cách tiếp cận phổ biến hiện nay là sử dụng các vụ kiện để buộc các thực thể như nhà sản xuất súng và đại lý và chính phủ liên bang Mỹ phải chịu trách nhiệm về các hành động không hành động bị cáo buộc dẫn đến cái chết và thương tích do xả súng.

Bảy vụ kiện Tumbler Ridge được nộp thay mặt cho Gebala, gia đình của trợ giảng Shannda Aviugana-Durand, và gia đình của năm đứa trẻ đã chết trong vụ xả súng ở trường học. Các nạn nhân đó bao gồm Zoey Benoit, Ticaria "Tiki" Lampert, Kylie Smith, Ezekiel Schofield và Abel Mwansa Jr. Các gia đình cho biết mất mát là không thể chịu đựng nổi.

Cha mẹ của Mwansa, những người nhập cư vào Canada từ Zambia ba năm trước, nói con trai 12 tuổi của họ là một người biết lắng nghe, người làm bữa sáng cho em gái mỗi sáng. Một trong những người bạn sống sót sau vụ xả súng nói rằng những lời cuối cùng của Mwansa là: "Nói với bố mẹ rằng con yêu họ rất nhiều."