Những kẻ ấu dâm được cho là đang khai thác công nghệ trí tuệ nhân tạo (AI) để sản xuất và phát tán những hình ảnh có độ chân thực cao về lạm dụng tình dục trẻ em.

Được phát hiện bởi một cuộc điều tra gần đây của BBC, xu hướng đáng báo động này làm dấy lên mối lo ngại ngay lập tức về những thách thức đạo đức do công nghệ AI tiên tiến gây ra và nhu cầu có các biện pháp mạnh mẽ hơn để chống lại sự gia tăng của nội dung bất hợp pháp.

(Ảnh: Lionel BONAVENTURE/AFP)
Ảnh chụp vào ngày 26 tháng 4 năm 2023 ở Toulouse, tây nam nước Pháp, cho thấy một màn hình hiển thị logo của Stable Diffusion, một ứng dụng trí tuệ nhân tạo, do stable.ai tạo ra.

Thế tiến thoái lưỡng nan của AI: Khai thác tiềm năng của sự khuếch tán ổn định

Bằng cách sử dụng phần mềm AI có tên là Khuếch tán ổn định, ban đầu được dành cho nghệ thuật và thiết kế đồ họa, các cá nhân có thể tạo ra các mô tả ngược đãi trẻ em giống như thật, bao gồm cả những cảnh khiêu dâm liên quan đến trẻ sơ sinh và trẻ nhỏ.

Với Khuếch tán ổn định, người dùng có thể nhập dấu nhắc từ để mô tả bất kỳ hình ảnh mong muốn nào và chương trình sẽ tạo hình ảnh đó tương ứng. Tuy nhiên, một cuộc điều tra của BBC tiết lộ rằng công nghệ này hiện đang được khai thác để tạo ra những hình ảnh đau buồn về lạm dụng tình dục trẻ em, bao gồm cả hiếp dâm trẻ sơ sinh và trẻ em.

Đọc thêm: Meta thực hiện hành động chống lại hành vi bóc lột trẻ em trên Instagram sau những phát hiện đáng lo ngại

‘Không khoan nhượng’ của Patreon và Pixiv

Khả năng tiếp cận những hình ảnh tục tĩu này đã được tạo điều kiện thông qua các nền tảng như Patreon, nơi một số cá nhân trả phí đăng ký để có quyền truy cập. Trong khi Patreon tuyên bố có chính sách “không khoan nhượng” đối với hình ảnh như vậy, Hội đồng Tổng thanh tra đã chỉ trích các nền tảng thu lợi từ nội dung này trong khi trốn tránh trách nhiệm đạo đức.

Nhóm điều tra lạm dụng trẻ em trực tuyến của Vương quốc Anh đã tìm thấy nội dung như vậy, cho thấy mức độ nghiêm trọng của vấn đề. Kể từ khi hình ảnh do AI tạo ra ra đời, nội dung tục tĩu không chỉ liên quan đến các cô gái trẻ mà còn cả trẻ nhỏ đã gia tăng đáng kể.

Điều quan trọng cần lưu ý là “hình ảnh giả” do máy tính tạo ra mô tả lạm dụng tình dục trẻ em được coi là tài liệu bất hợp pháp ở Vương quốc Anh, chịu hậu quả pháp lý giống như ảnh hoặc video thực.

Ian Critchley, người đứng đầu bộ phận bảo vệ trẻ em tại Hội đồng Cảnh sát trưởng Quốc gia (NPCC), đã cảnh báo chống lại quan niệm sai lầm rằng không có mối nguy hiểm nào khi hình ảnh tổng hợp được tạo ra. Ông lưu ý rằng những kẻ ấu dâm có thể tiến triển từ việc xem những hình ảnh như vậy đến việc thực sự lạm dụng trẻ em còn sống.

Việc chia sẻ hình ảnh bị lạm dụng này tuân theo quy trình gồm ba bước: Những kẻ ấu dâm tạo hình ảnh bằng phần mềm AI, sau đó quảng cáo chúng trên các nền tảng như Pixiv, một trang web chia sẻ hình ảnh của Nhật Bản chủ yếu được sử dụng bởi các nghệ sĩ chia sẻ manga và anime. Tài khoản này trên Pixiv cung cấp các liên kết hướng người đăng ký đến những hình ảnh rõ ràng hơn, có thể được truy cập thông qua các nền tảng như Patreon.

Việc Pixiv được lưu trữ tại Nhật Bản, nơi việc chia sẻ phim hoạt hình và tranh vẽ khiêu dâm dành cho trẻ em là hợp pháp, cho phép người sáng tạo sử dụng Pixiv làm nền tảng để quảng bá tác phẩm của họ.

Họ tham gia các nhóm và sử dụng thẻ bắt đầu bằng # để tiếp cận nhiều đối tượng hơn. Pixiv đã bày tỏ cam kết giải quyết vấn đề này và cấm tất cả các hình ảnh mô tả chân thực về nội dung khiêu dâm liên quan đến trẻ vị thành niên.

Sản xuất hình ảnh lạm dụng trẻ em trên quy mô công nghiệp

Stability AI, công ty của Vương quốc Anh dẫn đầu sự hợp tác toàn cầu đằng sau việc tạo ra trình tạo hình ảnh AI khuếch tán ổn định, đã xác nhận rằng họ nghiêm cấm việc sử dụng các sản phẩm của mình cho các mục đích bất hợp pháp hoặc vô đạo đức.

Tuy nhiên, phiên bản mã nguồn mở của Stable Diffusion phát hành năm ngoái cho phép người dùng bỏ qua các bộ lọc và đào tạo phần mềm để tạo ra bất kỳ hình ảnh nào, kể cả nội dung bất hợp pháp. Khi công nghệ AI tiếp tục phát triển nhanh chóng, ngày càng có nhiều lo ngại về những rủi ro tiềm tàng đối với quyền riêng tư, nhân quyền và an ninh.

Critchley đưa ra những lo ngại khác, nói rằng sự phong phú của hình ảnh thực tế hoặc “tổng hợp” của AI có thể cản trở quá trình xác định nạn nhân thực sự của lạm dụng và chuyển hướng các nguồn tài nguyên quý giá khỏi các trường hợp thực sự.

Ông chỉ ra rằng xã hội đang ở một ngã rẽ quan trọng, nơi nó phải quyết định liệu internet và công nghệ sẽ vẫn là cơ hội tuyệt vời cho những người trẻ tuổi hay trở thành một nơi nguy hiểm hơn.

Ông tuyên bố rằng hành động khẩn cấp là cần thiết để giải quyết vấn đề cấp bách này và bảo vệ những cá nhân dễ bị tổn thương khỏi bóng tối của đổi mới AI.

Những bài viết liên quan: Trình tạo hình ảnh AI tiến bộ nhanh, máy dò không thể theo kịp: Nghiên cứu

Thời báo công nghệ