AI bị vũ khí hóa chống lại phụ nữ Hồi giáo ở Ấn Độ

New Delhi, Ấn Độ – Khi Samreen Ayoub lần đầu xem video, cô đã bị sốc. Người mẫu tự do đến từ Kashmir do Ấn Độ quản lý đang lướt điện thoại vào năm ngoái thì một người bạn gửi cho cô một đoạn clip đang lan truyền trên Instagram. Video có vẻ kể lại câu chuyện cuộc đời cô ở New Delhi, với giọng kể, phụ đề cuộn và tiêu đề như một bản tin truyền hình. Nhưng nó hoàn toàn được bịa đặt.

“Nó giống như bị theo dõi thực sự,” Ayoub, 24 tuổi, nói. “Họ đã theo dõi cuộc sống của tôi từ học kỳ đầu tiên đến kỳ cuối cùng ở trường đại học.” Video ghép các bức ảnh từ thời Ayoub là sinh viên tại Đại học Jamia Millia Islamia ở New Delhi – những hình ảnh từ những khoảnh khắc hàng ngày trong khuôn viên trường, bao gồm các dự án nhóm, bữa tiệc chia tay và ảnh tự sướng với bạn cùng lớp. Giọng kể, được tạo bằng trí tuệ nhân tạo, tuyên bố sai sự thật rằng cô là một phụ nữ Hồi giáo “bán thân thể” cho đàn ông Hindu. Nó xác định sai người trong ảnh và gọi chính anh trai cô là “ma cô”.

“Nó trông rất thật đến nỗi nếu ai đó, thậm chí bố mẹ tôi, xem video, họ sẽ nghĩ nó có thật,” Ayoub nói. Cô là một trong số nhiều phụ nữ Hồi giáo đã trải qua điều mà các nhà nghiên cứu mô tả là một mô hình ngày càng rõ ràng: việc sử dụng AI để tạo ra hình ảnh tình dục hóa và tuyên truyền. Al Jazeera đã liên hệ với một số phụ nữ Hồi giáo từng bị nhắm mục tiêu. Họ từ chối nói công khai với lý do xấu hổ và nguy cơ bị tổn thương lại.

Xu hướng tình dục hóa hình ảnh và video của phụ nữ Hồi giáo đang diễn ra cùng với sự tham gia ngày càng tăng của Ấn Độ vào các cuộc thảo luận toàn cầu về quản trị AI, bao gồm Hội nghị thượng đỉnh về tác động AI cấp cao được tổ chức tại New Delhi đầu năm nay. Một nghiên cứu của Trung tâm Nghiên cứu Thù hận có tổ chức (CSOH) có trụ sở tại Washington, DC đã phân tích 1.326 hình ảnh và video do AI tạo ra được thu thập từ 297 tài khoản công khai trên X, Facebook và Instagram từ tháng 5/2023 đến tháng 5/2025. Các nhà nghiên cứu phát hiện ra rằng các mô tả tình dục hóa phụ nữ Hồi giáo tạo ra sự tương tác cao nhất – hơn 6,7 triệu lượt tương tác trên các nền tảng.

“AI tạo sinh đã giúp biến tưởng tượng tình dục thành hình ảnh một cách nhanh chóng và không tốn kém,” Zenith Khan, đồng tác giả nghiên cứu và nhà phân tích nghiên cứu kỹ thuật số tại CSOH cho biết. “Các trình tạo hình ảnh và deepfake cho phép cá nhân chuyển đổi các câu chuyện thù địch thành tài liệu trực quan cực kỳ thực tế với chuyên môn kỹ thuật tối thiểu.”

Các nhà nghiên cứu không phải là những người duy nhất theo dõi xu hướng này. Meri Trustline, một đường dây trợ giúp an toàn trực tuyến do Quỹ RATI có trụ sở tại Mumbai điều hành, cũng chứng kiến số lượng các vụ việc như vậy ngày càng tăng. Báo cáo năm 2024 của đường dây trợ giúp cho thấy một mô hình đáng lo ngại: trong khi truyền thông thường tập trung vào người nổi tiếng và chính trị gia, thì phụ nữ không thuộc diện công chúng cũng đang bị nhắm mục tiêu thông qua những hình ảnh mặc dù được tạo ra nhân tạo nhưng có khả năng gây ra tác hại thực sự. Các nhân viên tư vấn tuyến đầu tại đường dây trợ giúp, bao gồm Salman Mujawar, cho biết họ đã ghi nhận sự gia tăng số lượng các vụ việc như vậy. Kể từ khi thành lập vào năm 2022, Meri Trustline đã xử lý hơn 482 vụ việc, khoảng 10% trong số đó liên quan đến tài liệu bị thao túng kỹ thuật số – một tỷ lệ đang tăng lên khi các công cụ AI trở nên dễ tiếp cận hơn.

Video của Ayoub đã lan truyền qua nhiều tài khoản mạng xã hội trong vòng vài giờ. Những bình luận lạm dụng, cuộc gọi điện thoại đe dọa và cáo buộc về nhân phẩm của cô nhanh chóng xuất hiện. “Nó giống như một cuộc 'linh trưởng kỹ thuật số',” cô nói. “Không chỉ một mà hơn một chục tài khoản đã đăng video đó ở khắp mọi nơi, và hàng trăm người khác đang chia sẻ lại nó.”

Bộ dữ liệu do CSOH biên soạn bao gồm các meme do AI tạo ra mô tả phụ nữ Hồi giáo trong trang phục tôn giáo trong các tình huống gợi dục cũng như hình ảnh khiêu dâm bịa đặt nhắm vào các nhà báo và nhà hoạt động. Các nhà nghiên cứu quan sát thấy một mô hình hình ảnh lặp đi lặp lại: một “phụ nữ mã Hồi giáo” đi cùng với một “người đàn ông mã Hindu”. “Trong những câu chuyện này, đàn ông Hồi giáo thường được miêu tả là bạo lực hoặc suy đồi đạo đức,” Khan nói. “Trong khi đó, phụ nữ Hồi giáo được miêu tả là phục tùng hoặc được đàn ông từ cộng đồng đa số 'cứu'.”

Hình ảnh này, các nhà nghiên cứu lập luận, không phải ngẫu nhiên trong diễn ngôn chính trị – nó là một phần của nó. Sahana Udupa, nhà nhân chủng học truyền thông tại Đại học Ludwig Maximilian của Munich, mô tả hiện tượng này là một phần của “sự khiêu dâm hóa chính trị” rộng lớn hơn nhắm vào phụ nữ và cộng đồng thiểu số. Các nền văn hóa kỹ thuật số cánh hữu, cô nói, kết hợp hài hước, meme và hình ảnh tình dục hóa để bình thường hóa lạm dụng. Hệ sinh thái đó, các học giả lưu ý, có nguồn gốc tư tưởng sâu xa hơn là chỉ đơn thuần là ghét phụ nữ. Viết trên tạp chí South Asia Multidisciplinary Academic Journal, nhà nghiên cứu Soma Basu lập luận rằng những gì đang diễn ra là chính trị hóa bản thân tình dục. Cơ thể phụ nữ Hồi giáo đã trở thành chiến trường cho sự thống trị của cộng đồng – một động lực tìm thấy biểu hiện rõ ràng nhất trong các cuộc tranh cãi “Sulli Deals” và “Bulli Bai”, các nền tảng đấu giá giả nhắm vào phụ nữ Hồi giáo ở Ấn Độ.

“Ở nhiều nền văn hóa Nam Á, phụ nữ được miêu tả là danh dự của gia đình,” Khan nói. “Vì vậy, tấn công phụ nữ Hồi giáo bằng hình ảnh trở thành một cách để miêu tả người Hồi giáo là thấp kém.” Đáp lại những lo ngại này, Atif Rasheed, một chính trị gia BJP, cho biết AI “có thể được sử dụng cả tích cực và tiêu cực” và kêu gọi các quy định chặt chẽ hơn để ngăn chặn việc lạm dụng nó. Ông gọi nội dung deepfake và khiêu dâm rõ ràng là “rất đáng thất vọng” và cho rằng cần có hành động nghiêm khắc chống lại thủ phạm. Tuy nhiên, ông bác bỏ việc nhìn nhận vấn đề qua lăng kính tôn giáo, nói rằng BJP “tôn trọng phụ nữ thuộc mọi tôn giáo” và các vụ “Sulli Deals” và “Bulli Bai” đã được xử lý theo luật.

Các tập Sulli Deals và Bulli Bai xảy ra vào năm 2021 và 2022 đã sử dụng hình ảnh bị làm giả. Cả hai đều gây ra sự phẫn nộ rộng rãi và điều tra của cảnh sát. Các nhà chức trách Ấn Độ đã bắt giữ Aumkareshwar Thakur, bị cáo buộc tạo ra tài khoản “Sulli Deals”, và Niraj Bishnoi, được xác định là người tạo ra “Bulli Bai”, vào tháng 1/2022. Cả hai đều được tại ngoại vì “lý do nhân đạo” hai tháng sau đó. Các nhà nghiên cứu tin rằng sự gia tăng của AI tạo sinh đã mở rộng đáng kể quy mô và tốc độ quấy rối phụ nữ Hồi giáo trực tuyến. Các ứng dụng mới cho phép người dùng tải ảnh lên và tự động tạo ra hình ảnh tình dục hóa. Những công cụ như vậy có sẵn rộng rãi trực tuyến, thường miễn phí và không yêu cầu chuyên môn kỹ thuật.

Đối với những người đã sống chung với sự quấy rối liên tục, sự xuất hiện của hình ảnh do AI tạo ra đã thêm một khía cạnh sợ hãi mới. Afreen Fatima, 27 tuổi, một nhà nghiên cứu và nhà hoạt động từng bị lạm dụng trực tuyến kể từ khi lên tiếng phản đối Đạo luật sửa đổi quyền công dân (CAA) của Ấn Độ năm 2019, là một trong số hàng chục phụ nữ Hồi giáo có ảnh bị tải lên và “bán đấu giá” trên Sulli Deals. Bốn năm sau cuộc tranh cãi Sulli Deals, sự lạm dụng hầu như không giảm bớt. Các tài khoản ẩn danh, thường sử dụng tên Hindu phổ biến, tiếp tục tìm đến cô bằng những tin nhắn lạm dụng, đe dọa hiếp dâm và quấy rối có mục tiêu. “Mỗi vài ngày, lại có một tin nhắn từ một tài khoản ngẫu nhiên với lời đe dọa hiếp dâm hoặc đe dọa giết chết,” cô nói. Viễn cảnh về hình ảnh tình dục do AI tạo ra đã làm tăng thêm nỗi sợ hãi đó. Fatima cho biết sự thù ghét trực tuyến cũng định hình cách cô điều hướng không gian công cộng. “Tôi cảm thấy không thoải mái khi đi du lịch một mình,” cô nói. “Khi bạn thấy những tưởng tượng như vậy lan truyền trực tuyến về phụ nữ Hồi giáo, bạn bắt đầu tự hỏi liệu ai đó có thể tấn công bạn trong đời thực không.”

Sau khi video lan truyền, cơ hội nghề nghiệp của Ayoub bắt đầu biến mất. “Là một người mẫu, danh tiếng của bạn rất quan trọng,” cô nói. “Nếu những bình luận tiêu cực xuất hiện trên hồ sơ của bạn, các thương hiệu sẽ ngừng tiếp cận bạn.” Trong bốn hoặc năm tháng, các tài khoản giả mạo tràn ngập hồ sơ của cô với những bình luận lạm dụng, ngăn cản khách hàng tiềm năng. Sự quấy rối cũng thay đổi mối quan hệ của cô với mạng xã hội. “Instagram từng là không gian an toàn của tôi,” cô nói. “Bây giờ tôi không cảm thấy an toàn ở đó, và tôi hạn chế những gì và cách tôi đăng.” Ayoub đã báo cáo vụ việc với đơn vị tội phạm mạng của cảnh sát ở New Delhi, nộp đơn khiếu nại bằng văn bản. “Không có gì xảy ra,” cô nói, thêm rằng hầu hết nội dung lạm dụng đã bị xóa chỉ vì bạn bè cô đã báo cáo các tài khoản đó hàng loạt.

Các chuyên gia pháp lý cho biết luật hiện hành của Ấn Độ gặp khó khăn trong việc theo kịp nội dung do AI tạo ra. “Tác hại là có thật ngay cả khi bản thân hình ảnh là giả mạo,” Apar Gupta, luật sư và giám đốc sáng lập của Quỹ Tự do Internet cho biết. Theo Mục 66E của Đạo luật Công nghệ thông tin Ấn Độ, các hình phạt hình sự áp dụng cho việc chụp hoặc xuất bản hình ảnh về các khu vực riêng tư của một người mà không có sự đồng ý. Nhưng nếu cơ thể của mục tiêu không bao giờ thực sự được ghi lại – nói cách khác, nếu hình ảnh hoàn toàn do AI tạo ra – điều khoản này có thể không được áp dụng. “Ngay cả khi hình ảnh là giả, nó tạo ra một 'chữ A đỏ' vĩnh viễn cho phụ nữ,” Gupta nói. Các nền tảng kỹ thuật số được hưởng quyền bảo vệ “bến cảng an toàn” miễn là họ xóa tài liệu bất hợp pháp sau khi được thông báo. Nhưng Gupta cho biết nhiều nạn nhân gặp khó khăn ngay cả trong việc đạt được điều đó. Nếu không có những thay đổi về cấu trúc đối với thiết kế nền tảng, ưu tiên thuật toán và khuôn khổ pháp lý, việc lạm dụng AI sẽ tiếp tục lan truyền nhanh hơn bất kỳ hệ thống pháp lý nào có thể ứng phó, ông cảnh báo.

Trong kịch bản như vậy, trách nhiệm giải trình vẫn khó nắm bắt đối với phụ nữ Hồi giáo bị nhắm mục tiêu. “Điều tôi muốn nhất là tìm ra những người đứng sau các tài khoản đó,” Ayoub nói. “Họ đã phá hủy danh tiếng của tôi mà thậm chí không biết tôi.”