Những kẻ săn mồi trẻ em lợi dụng trí tuệ nhân tạo AI để tạo ra nội dung giả mạo mô tả hành vi lạm dụng tình dục trẻ em. Các chuyên gia cảnh báo công chúng cần lưu ý những hình ảnh này, chúng có thể gây nguy hiểm đến danh tính của một số người.

Kẻ săn mồi trẻ em lạm dụng công nghệ AI

(Ảnh: Trenton Stevens của Bapt)
Các chuyên gia tiết lộ rằng việc sử dụng AI đột phá để sản xuất nội dung khai thác tình dục giả mạo là đáng lo ngại.

Bloomberg báo cáo rằng trong bốn tháng đầu năm 2023, nhiều bức ảnh chụp nội dung nhạy cảm trực tuyến được tạo ra một cách giả tạo đang được lưu hành.

ActiveFence, một công ty khởi nghiệp chuyên kiểm duyệt nội dung, nhận thức được hiện tượng này. Người đứng đầu bộ phận an toàn trẻ em và bóc lột con người Avi Jager cho biết có những diễn đàn thúc đẩy việc bóc lột trẻ em và có 68 bộ ảnh được thay đổi bằng AI trên mạng.

Jager giữ bí mật những người cung cấp thông tin về tên diễn đàn để bảo mật. “Chúng tôi hy vọng rằng điều này sẽ lớn hơn. Đây mới chỉ là khởi đầu,” Jager nói.

ActiveFence đã xác nhận rằng không có con người thực sự nào tham gia vào những hình ảnh nhạy cảm. Có vẻ như mọi thứ đều được tạo ra thông qua các công cụ AI.

Thật đáng báo động khi biết rằng rất nhiều nội dung săn mồi đang biến mất khỏi chính quyền. Giờ đây, việc thay đổi hình ảnh thông qua AI trở nên dễ dàng hơn, nhiều kẻ săn mồi trẻ em đang nắm bắt cơ hội để nhắm mục tiêu vào những nạn nhân dễ bị tổn thương nhất của chúng.

Những bài viết liên quan: Trí tuệ nhân tạo của Google gắn cờ nhầm cha mẹ cho tài liệu lạm dụng tình dục trẻ em sau khi chụp ảnh trẻ mới biết đi để sử dụng trong y tế

Cách chính quyền chống lại nội dung NSFW

Thật vậy, việc lạm dụng các công cụ AI cho các mục đích bất hợp pháp có thể ảnh hưởng đến những người khác, những người trở thành con mồi của những cái bẫy xấu xa của hình ảnh do AI tạo ra.

Theo Giám đốc truyền thông của Stability AI, Motez Bishara, công ty đã thực hiện các kỹ thuật giảm thiểu quan trọng để giảm nguy cơ các mô hình của họ tiếp xúc với nội dung NSFW (Không an toàn cho công việc).

Một giải pháp họ đã thực hiện để loại bỏ dần tài liệu lạm dụng tình dục là chặn và lọc nội dung độc hại khỏi hệ thống của họ.

Những kẻ săn mồi trực tuyến sẽ không dừng lại cho đến khi chúng có thể tống tiền nạn nhân bằng các tập lệnh do AI tạo ra. Vẫn còn thời gian để hành động và bảo vệ trẻ vị thành niên bằng mọi giá trước khi quá muộn.

Mặc dù việc sản xuất hình ảnh có nội dung lạm dụng trẻ em không bị coi là bất hợp pháp ở Hoa Kỳ, nhưng điều này không có nghĩa là các quốc gia khác cũng có bộ quy tắc tương tự. Ví dụ, nó không bị cấm ở Anh, Canada và Úc.

Tại Úc, Ủy ban An toàn Điện tử đã cảnh báo rằng những kẻ săn mồi có thể tự động hóa việc chải chuốt cho trẻ em thông qua các chương trình do AI tạo ra, theo The Guardian.

AI có thể chấm dứt lạm dụng trẻ em

Trong khi một số công cụ AI được tạo ra để tạo ra những hình ảnh sai lệch về lạm dụng trẻ em, một số công nghệ AI được thiết kế để chấm dứt nó, theo AI For Good.

Joelle Casteix, một thành viên sáng lập của Dự án Không lạm dụng, cho biết nhóm hiện đang làm việc để đưa AI đến mục tiêu ngăn chặn lạm dụng và bóc lột trẻ em.

Với Project G, giờ đây các tổ chức có thể phát hiện các yếu tố rủi ro liên quan đến hành vi săn mồi. Ngoài những kẻ lạm dụng tình dục trẻ em, dự án còn nhằm giải quyết vấn đề những người che đậy hành vi bóc lột tình dục.

Cũng đọc: Elon Musk hối hận khi phát hành ChatGPT của OpenAI

Joseph Henry