Deepfake AI tràn vào bầu cử giữa kỳ Mỹ: Loạt quảng cáo giả mạo gây nhiễu loạn thông tin

San Francisco, Mỹ: Bruce Blakeman, một ứng viên đảng Cộng hòa đang tranh cử chức thống đốc bang New York, đã tung ra các quảng cáo vận động có sự xuất hiện của Zohran Mamdani, thị trưởng thành phố New York, và Kathy Hochul, thống đốc bang, cùng nhau làm vườn và hợp tác để tăng giá cho người dân. Một quảng cáo khác cho thấy Hochul nói về việc tăng phí cầu đường và giá vé tàu điện ngầm khiến người dân không thể chi trả cho việc lái xe hoặc đi tàu.

Thực tế, cả Hochul và Mamdani đều không xuất hiện trong các quảng cáo này, vốn được tạo ra bằng trí tuệ nhân tạo (AI). Một loạt quảng cáo do AI tạo ra, rõ ràng là giả mạo nhưng thu hút sự chú ý của cử tri, đã trở thành đặc điểm của các chiến dịch trước thềm cuộc bầu cử giữa kỳ quan trọng tại Mỹ vào ngày 3 tháng 11.

Theo Scott Babwah Brennen, giám đốc Trung tâm Chính sách Công nghệ thuộc Đại học New York và là đồng tác giả của báo cáo gần đây có tên "Political Slopaganda", trong khi các quy định tập trung vào việc dán nhãn deepfake AI có thể gây nhầm lẫn cho cử tri, thì chính "slopaganda" – hay quảng cáo giả mạo có thể nhận diện được – lại là đặc trưng của mùa bầu cử này.

Theo Dự án Truyền thông Wesleyan, một tổ chức theo dõi quảng cáo bầu cử phi đảng phái, các ứng viên chính trị và người ủng hộ họ đã chi hơn 80 triệu USD để tạo ra hơn 164 quảng cáo dựa trên AI trong mùa bầu cử này. Nhóm này phát hiện rằng các ứng viên đảng Cộng hòa và những người ủng hộ họ đứng sau 80% số quảng cáo đó.

Blakeman bảo vệ các quảng cáo của mình, nói rằng chúng được dán nhãn rõ ràng là do AI tạo ra – một tuyên bố miễn trừ trách nhiệm mà quảng cáo có hiển thị trong vài giây đầu – và tuân theo truyền thống lâu đời về châm biếm và nhại lại trong chính trị Mỹ.

Tuy nhiên, slopaganda – sự kết hợp giữa "slop" AI chất lượng thấp và tuyên truyền – đang được sử dụng để "truyền đạt những sự thật sâu xa hơn thay vì sự thật khách quan", theo Brennen. Điều này có nghĩa là nó có thể định hình nhận thức về tính cách hoặc hệ tư tưởng của một ứng viên và có thể "ảnh hưởng đến lòng tin của cử tri".

Các quảng cáo tương tự khác cho thấy Sherrod Brown, một ứng viên đảng Dân chủ vào Thượng viện từ bang Ohio, là vị khách cuối cùng tại một bữa tiệc, đã ở lại quá lâu. James Talarico, một ứng viên đảng Dân chủ vào Thượng viện từ bang Texas, được mô tả trong chiếc váy xanh tương tự nhân vật Maria trong phim The Sound of Music, trong khi Mike Rogers, một ứng viên đảng Cộng hòa vào Thượng viện từ Michigan, xuất hiện như một siêu anh hùng.

Tại San Francisco, khi Thượng nghị sĩ bang California thuộc đảng Dân chủ Scott Wiener tung ra một chatbot AI trong cuộc đua nổi bật để kế nhiệm Chủ tịch Hạ viện danh dự Nancy Pelosi, người đại diện cho thành phố công nghệ này tại Quốc hội, nó đã ngay lập tức gây phản ứng dữ dội. Chatbot trả lời khoảng 5.000 câu hỏi về đối thủ của ông, Connie Chan, nhại lại thành tích của bà trong việc được cho là ngăn chặn phát triển bất động sản trong thành phố, giọng nói cũng như quốc tịch nhập tịch của bà. Động thái này đã gây chỉ trích vì mang tính phân biệt đối xử và Wiener đã rút lại chatbot, nói rằng mặc dù nó sáng tạo nhưng "nó đã không đạt được mục tiêu".

Không có luật liên bang

Các quảng cáo deepfake xuất hiện trong bối cảnh nhằm bảo vệ quyền tự do ngôn luận chính trị, bao gồm cả khi được thực hiện qua hình thức nhại lại. Mặc dù không có luật liên bang quy định về quảng cáo được tạo bằng deepfake AI, 31 bang đã thông qua luật riêng yêu cầu dán nhãn cho quảng cáo sử dụng AI.

"Luật của các bang làm những gì có thể mà không xâm phạm Tu chính án thứ nhất", Ilana Beller, giám đốc Quản trị và Chính sách AI cấp bang tại Public Citizen, một nhóm vận động quyền lợi người tiêu dùng có trụ sở tại Washington, DC, cho biết. "Vẫn cần có luật liên bang", bà nói.

Adam Rose, giám đốc điều hành của Starling Lab, một trung tâm nghiên cứu về công nghệ và nhân quyền do Đại học Stanford và Đại học Nam California đồng sáng lập, cho rằng một số thay đổi do AI thực hiện có thể chỉ là chỉnh sửa màu sắc hoặc giọng nói mà chính phủ không cần phải dán nhãn. Ông nói rằng quảng cáo do AI tạo ra không nên bị cấm.

Thay vào đó, Rose cho biết, các ứng viên luôn tham gia vào việc đưa ra "các quyết định phán đoán" về quảng cáo và những quyết định này phản ánh họ. Đối với Wiener, Rose nói, việc phát hành chatbot "cho thấy phán đoán kém. Nó cho cử tri thấy điều gì đó về ông ấy".

Wiener đang tranh cử để đại diện cho San Francisco tại Quốc hội Mỹ, một thành phố là tâm chấn toàn cầu của ngành công nghiệp AI với hai trong số các công ty AI lớn nhất, Open AI và Anthropic, đặt trụ sở tại đó. Người đại diện của thành phố sẽ đóng vai trò quan trọng khi luật về AI xuất hiện, đặc biệt khi các cuộc thăm dò cho thấy đa số người Mỹ lo ngại hơn là hào hứng với công nghệ này.

"Đây là thời điểm chuyển giao khi AI đang định hình lại xã hội của chúng ta", Ian Krager, phát ngôn viên của Connie Chan, nói. "Cuộc đua này là điềm báo cho cả nước. Đây là thời điểm chúng ta có thể cho thế giới thấy Mỹ có thể dẫn đầu về phát triển AI mà không yêu cầu người lao động phải gánh chịu chi phí".

"Và rõ ràng Connie Chan đứng về phía các gia đình lao động trong khi Scott Wiener đứng về phía các công ty AI", ông nói, đề cập đến chatbot AI.

Khi còn là thượng nghị sĩ bang, Wiener đã soạn thảo một luật của California vào năm ngoái yêu cầu các công ty AI tiết lộ các sự cố an ninh liên quan đến các hệ thống tự trị được tạo bởi các mô hình AI cực lớn tham gia vào các sự cố nguy hiểm hoặc có hại. Một phiên bản ít nghiêm ngặt hơn đã trở thành luật vào năm ngoái. Văn phòng của ông không phản hồi yêu cầu bình luận của Al Jazeera.

Nhãn rõ ràng như nhãn thực phẩm

Nhìn vào giai đoạn cuối của cuộc bầu cử giữa kỳ tháng 11 và xa hơn, Beller của Public Citizen cho biết cần phải làm cho việc dán nhãn quảng cáo sử dụng AI rõ ràng và dễ hiểu như nhãn thực phẩm để cử tri có thể đánh giá chúng một cách phù hợp. "Mọi người cần biết tìm nhãn", bà nói, vì điều quan trọng là tạo nhận thức về quảng cáo deepfake AI, đặc biệt là ở cử tri trẻ và người cao tuổi.

Tại New York, đảng Dân chủ đã đệ đơn khiếu nại lên hội đồng bầu cử bang nói rằng các quảng cáo vi phạm yêu cầu tiết lộ và "gây nhầm lẫn cho cử tri". Nhưng Blakeman đã nói rằng "mọi người thấy nó hài hước. Họ thích châm biếm".

Các quảng cáo đang "cố gắng thu hút sự chú ý khi các ứng viên biết rằng có quyền lực chính trị để đạt được bằng cách thu hút sự chú ý", Brennen của NYU cho biết.

Với việc quảng cáo deepfake AI ngày càng gia tăng, một số ứng viên đã công khai nói rằng họ sẽ không sử dụng chúng. "Mọi người dường như thích [các ứng viên] vì điều đó", Beller nói.