Một nhóm chiến dịch trên Twitter ủng hộ Ron DeSantis với tư cách là ứng cử viên tổng thống của Đảng Cộng hòa năm 2024 đã bị phát hiện sử dụng hình ảnh giả mạo do AI tạo ra trong các quảng cáo tấn công nhắm vào đối thủ Donald Trump, The Verge đưa tin.

Được phát hành vào ngày 6 tháng 6 và hiện có hơn 3 triệu lượt xem, video nêu bật mối quan hệ của Trump với Anthony Fauci, cựu cố vấn y tế của Nhà Trắng, người có công trong việc định hình phản ứng của Hoa Kỳ đối với đại dịch COVID-19.

Fauci đã trở thành một nhân vật gây tranh cãi trong chính trị cánh hữu, đặc biệt là trong số những người ủng hộ chống vắc-xin và quảng cáo tấn công nhằm mục đích lợi dụng tình cảm này bằng cách miêu tả Trump và Fauci là cộng tác viên thân thiết.

Nhóm chiến dịch phát hành video do AI tạo

Video kết hợp các clip thực tế về Trump thảo luận về Fauci cùng với tổng hợp sáu hình ảnh cho thấy hai người đàn ông cùng nhau. Tuy nhiên, các chuyên gia đã xác định rằng ba trong số những hình ảnh này là giả mạo do AI tạo ra.

AFP là người đầu tiên vạch trần hàng giả, hiển thị hình ảnh chân thực và làm nổi bật sự khác biệt trong hình ảnh do AI tạo ra.

Hình ảnh do AI tạo ra thể hiện một số dấu hiệu nhận biết, bao gồm kết cấu sáng bóng và mờ, các tư thế vật lý khó thực hiện và khó xử cũng như các chi tiết không chính xác trong phòng họp báo của Nhà Trắng được mô tả trong nền.

Các chuyên gia pháp y về hình ảnh bày tỏ sự tin tưởng cao rằng hình ảnh thực sự là giả mạo, do họ không thể tìm thấy nó trong tìm kiếm hình ảnh ngược.

Bầu cử Hoa Kỳ, Chiến dịch dựa trên AI

Vào tháng 4, chúng tôi đã nhấn mạnh trong một báo cáo về việc không có quy tắc rõ ràng quản lý việc sử dụng AI trong chính trị. Việc thiếu quy định này cho phép các đặc vụ từ các đảng phái chính trị khác nhau khai thác công nghệ theo nhiều cách khác nhau.

Điều này bao gồm định hình lại các chiến dịch và thao túng cử tri thông qua các chiến thuật như tạo video giả, gian lận và khiến cử tri tràn ngập thông tin sai lệch.

Tuy nhiên, có vẻ như một cuộc chiến khốc liệt về tuyên truyền đen do AI điều khiển đang diễn ra.

Tài khoản Twitter chịu trách nhiệm chia sẻ video, được gọi là “Phòng chiến tranh DeSantis”, được Christina Pushaw, một phụ tá chính trị của DeSantis, thành lập vào tháng 8.

Đọc thêm: AI hiện có thể dự đoán kết quả bầu cử, hành vi của cử tri: Một nghiên cứu

Đầu năm nay, cựu Tổng thống Donald Trump đã chia sẻ hình ảnh ông đang cầu nguyện do AI tạo ra. Vào tháng 3, những bức ảnh đã được chỉnh sửa xuất hiện cho thấy Trump chống lại việc bắt giữ và chạy trốn khỏi cảnh sát một cách thô bạo.

Tương tự, các đảng viên Cộng hòa đã phát hành các quảng cáo tấn công có hình ảnh do AI tạo sau khi Joe Biden tuyên bố ý định tái tranh cử vào năm 2024.

Khi được đưa ra bình luận, Matt Wolking, phát ngôn viên của Never Back Down PAC hỗ trợ chiến dịch DeSantis, thừa nhận rằng chiến dịch Trump đã tham gia vào các tác phẩm deepfake và photoshop gây hiểu lầm.

Cái gì tiếp theo?

Việc sử dụng deepfakes làm mờ ranh giới giữa thông tin nhại và thông tin sai lệch, khiến người xem ngày càng khó phân biệt sự thật với hư cấu.

Những quảng cáo tấn công này thao túng nhận thức của người xem và củng cố niềm tin hiện có bằng cách kết hợp hình ảnh thật và giả trong một ảnh ghép.

Deepfakes đang trở thành một công cụ mạnh mẽ để các chính trị gia định hình phiên bản thực tế của họ và những tác động đối với diễn ngôn chính trị trong tương lai và niềm tin của công chúng là rất đáng lo ngại.

Vẫn được đăng ở đây tại Tech Times.

Những bài viết liên quan: Giám đốc điều hành OpenAI kêu gọi Thượng viện điều chỉnh việc sử dụng AI trong các cuộc bầu cử; Quá trễ?