Trong thế giới luôn kết nối của chúng ta, sự gia tăng của những hình ảnh tinh vi do AI tạo ra đã dẫn đến mối lo ngại ngày càng tăng về khả năng phân biệt sự thật với hư cấu. Để giải quyết vấn đề này, một làn sóng các công ty mới đã xuất hiện, cung cấp dịch vụ phát hiện nội dung do AI tạo ra và tách nội dung đó khỏi hình ảnh chân thực do con người tạo ra.

Mặc dù các công cụ phát hiện AI này đã đạt được những tiến bộ đáng kể, nhưng vẫn có những thách thức cần phải vượt qua cùng với những tiến bộ nhanh chóng trong công nghệ AI.

Các công cụ theo dõi AI có luôn hiệu quả không?

(Ảnh: Gerd Altmann từ Pixabay) Công nghệ phát hiện AI đã giúp dễ dàng phân biệt AI với thực tế, nhưng nó đáng tin cậy đến mức nào?

Để đo lường hiệu quả của công nghệ phát hiện AI hiện tại, The New York Times gần đây đã tiến hành một thử nghiệm mở rộng, sử dụng hơn 100 hình ảnh tổng hợp và ảnh thực. Kết quả cho thấy mặc dù dịch vụ đang phát triển nhanh chóng nhưng vẫn có những trường hợp dịch vụ bị lỗi.

Trình phát hiện hình ảnh AI, bao gồm cả các tùy chọn trả phí như Sensiti và các tùy chọn thay thế miễn phí như Trình phát hiện nghệ thuật AI của Umm-maybe, chủ yếu dựa vào các thuật toán phức tạp phân tích nội dung hình ảnh để tìm các điểm đánh dấu đặc biệt cho biết hình ảnh do AI tạo.

Những điểm đánh dấu này bao gồm các mẫu tinh tế trong cách sắp xếp pixel, độ sắc nét và độ tương phản, thường được tạo ra khi chương trình AI tạo hình ảnh.

Tuy nhiên, một nhược điểm đáng kể là các máy dò này không phải lúc nào cũng xem xét các tín hiệu theo ngữ cảnh. Ví dụ, họ có thể không nhận ra khả năng có một bức ảnh mô tả tỷ phú doanh nhân Elon Musk đang ôm một con rô-bốt sống động như thật. Việc không có phân tích theo ngữ cảnh đặt ra một hạn chế đáng kể khi chỉ dựa vào công nghệ AI để xác định hàng giả.

Các bài viết liên quan: Trình phát hiện AI: Bạn có thể phát hiện nội dung do AI tạo không? Toán nói Không

Phát hiện AI cần cải thiện hơn nữa

Thừa nhận sự không hoàn hảo của các công cụ của họ, một số công ty tham gia phát hiện AI, chẳng hạn như Sensity, Hive và Inholo, đã thừa nhận những cải tiến liên tục để theo kịp những phát triển mới nhất trong việc tạo hình ảnh AI.

Hơn nữa, họ cũng nhấn mạnh rằng việc phân loại sai có thể xảy ra, đặc biệt là khi phân tích hình ảnh chất lượng thấp hoặc bị thay đổi. Tuy nhiên, các công ty như Umm-maybe và Optic không bình luận về kết quả thử nghiệm.

Công cụ theo dõi AI sẽ ảnh hưởng đến nghệ sĩ như thế nào?

Một thách thức đáng kể đối với các máy dò AI hiện tại là phân biệt hình ảnh bị thay đổi hoặc chất lượng thấp. Khi một trình tạo AI, chẳng hạn như Midjourney, tạo tác phẩm nghệ thuật chân thực, mỗi pixel chứa thông tin có giá trị về nguồn gốc của nó.

Tuy nhiên, nếu hình ảnh bị biến dạng, thay đổi kích thước hoặc giảm độ phân giải, tín hiệu kỹ thuật số này sẽ bị mất, khiến máy dò khó phân loại chính xác hơn. Phiên bản hình ảnh được chuyển đổi với độ phân giải cao hơn đã cho thấy kết quả phát hiện tốt hơn, củng cố tầm quan trọng của chất lượng hình ảnh.

Việc xác định sai gây rủi ro không chỉ cho người dùng mà còn cho các nghệ sĩ, những người có thể bị cáo buộc sai về việc sử dụng các công cụ AI để tạo ra tác phẩm nghệ thuật của họ. Sensiti đã chứng minh khả năng gắn nhãn chính xác cho hầu hết các hình ảnh do AI tạo ra, nhưng nó cũng phân loại sai một số ảnh thực là do AI tạo ra.

Khả năng dán nhãn sai cho hình ảnh chân thực này làm dấy lên mối lo ngại về việc phân bổ chính xác các tác phẩm nghệ thuật và tránh bị buộc tội sai.

Theo Chenhao Tan, một chuyên gia AI đến từ Đại học Chicago chuyên về khoa học máy tính, công nghệ phát hiện AI vẫn chưa thuyết phục.

“Nói chung, tôi không nghĩ chúng tuyệt vời và tôi không lạc quan rằng chúng sẽ như vậy. Trong ngắn hạn, có khả năng chúng sẽ có thể biểu diễn với độ chính xác nhất định, nhưng về lâu dài, Bất cứ điều gì đặc biệt mà con người làm với hình ảnh, AI cũng sẽ có thể tái tạo lại và sẽ rất khó để nhận ra sự khác biệt”, Tan nói.

Trong khi đó, Finance Magnates liệt kê vai trò và lợi thế của AI trong việc phát hiện gian lận.

Cũng đọc: Những kẻ ấu dâm khai thác các công cụ AI để sản xuất, phân phối hình ảnh lạm dụng tình dục trẻ em

Joseph Henry