Một nghiên cứu mới của một tổ chức phi lợi nhuận chuyên nghiên cứu về mạng xã hội đã tuyên bố rằng YouTube đang đề xuất các video bạo lực về súng cho tài khoản của trẻ em, vi phạm chính sách của chính nền tảng này, theo báo cáo đầu tiên của AP.

Dự án Minh bạch Công nghệ đã tạo hai tài khoản chín tuổi bắt chước hành vi của những cậu bé điển hình ở Hoa Kỳ, cả hai đều yêu thích trò chơi điện tử, đặc biệt là game bắn súng góc nhìn thứ nhất.

(Ảnh: StockSnap/Pixabay)

Một tài khoản nhấp vào các video do YouTube đề xuất, trong khi tài khoản kia bỏ qua các đề xuất của nền tảng.

Các tài khoản liên quan đến đề xuất nhanh chóng tràn ngập các video đồ họa mô tả các vụ xả súng ở trường học, huấn luyện sử dụng vũ khí chiến thuật và hướng dẫn cách chuyển đổi súng cầm tay thành súng tự động.

Theo các nhà nghiên cứu, nhiều video trong số này vi phạm rõ ràng chính sách của YouTube đối với nội dung bạo lực và đẫm máu.

“Đó là một thuật toán”

Bất chấp những nỗ lực tận tâm của YouTube trong việc kiểm duyệt nội dung và thực hiện các quy tắc, nghiên cứu khẳng định rằng nền tảng này đã không thành công trong việc ngăn chặn sự phổ biến của các video gây rối có khả năng gây tổn thương cho trẻ em dễ bị tổn thương hoặc dẫn chúng đến chủ nghĩa cực đoan và bạo lực.

Trong vòng một tháng, các tài khoản theo dõi các video được đề xuất trên YouTube đã nhận được con số đáng kinh ngạc là 382 video khác nhau liên quan đến súng, trong khi các tài khoản bỏ qua các đề xuất chỉ nhận được 34 video như vậy.

Ngoài ra, các nhà nghiên cứu đã thiết lập một tài khoản giống với hồ sơ của một cậu bé 14 tuổi có niềm yêu thích sâu sắc với trò chơi điện tử.

Tài khoản này, giống như những tài khoản khác, đã tìm thấy cùng một lượng nội dung liên quan đến súng và bạo lực.

“Trò chơi điện tử là một trong những hoạt động phổ biến nhất đối với trẻ em. Bạn có thể chơi một trò chơi như” Call of Duty “mà không phải đến cửa hàng súng—nhưng YouTube đã đưa nó đến đó”, Katie Paul, giám đốc Dự án Minh bạch Công nghệ, cho biết trong một tuyên bố.

“Đó không phải là một trò chơi điện tử, nó không phải là một đứa trẻ. Đó là một thuật toán.”

Đọc thêm: PewDiePie đối mặt với Twitch Ban, tại sao?

Lo lắng trên mạng xã hội

YouTube và TikTok, một trong những nền tảng được trẻ em và thanh thiếu niên sử dụng nhiều nhất, đã phải đối mặt với những lời chỉ trích vì vai trò lưu trữ và đôi khi bị cáo buộc quảng cáo nội dung kích động bạo lực súng đạn, rối loạn ăn uống và tự làm hại bản thân.

Các nhà phê bình mạng xã hội cũng nhấn mạnh mối liên hệ giữa việc sử dụng mạng xã hội, quá trình cực đoan hóa và các vụ bạo lực trong thế giới thực, như AP đã lưu ý.

Nhiều công ty công nghệ hàng đầu chủ yếu dựa vào các hệ thống tự động để phát hiện và xóa nội dung vi phạm chính sách của họ.

Tuy nhiên, những phát hiện được trình bày trong báo cáo Dự án Minh bạch Công nghệ chỉ ra nhu cầu tăng cường đầu tư vào việc kiểm duyệt nội dung.

Shelby Knox, giám đốc chiến dịch của nhóm vận động Parent Together, nhấn mạnh rằng các công ty truyền thông xã hội có khả năng nhắm mục tiêu cụ thể đến người dùng trẻ với nội dung tiềm ẩn rủi ro, nhằm tạo ra trải nghiệm người dùng lặp đi lặp lại và gây nghiện.

Phụ huynh cùng nhau chỉ trích các nền tảng như YouTube, Instagram và TikTok vì vai trò bị cáo buộc của họ trong việc cho phép trẻ em và thanh thiếu niên dễ dàng khám phá nội dung liên quan đến tự làm hại bản thân, súng, bạo lực và ma túy.

YouTube đã triển khai chính sách trong đó người dùng dưới 17 tuổi phải được sự đồng ý của cha mẹ trước khi truy cập vào nền tảng. Ngoài ra, đối với người dùng dưới 13 tuổi, tài khoản của họ được liên kết trực tiếp với tài khoản của cha mẹ họ, đảm bảo mức độ giám sát và giám sát.

Thông tin chi tiết về nghiên cứu có thể được tìm thấy ở đây.

Những bài viết liên quan: Bộ hẹn giờ ngủ của YouTube Music có sẵn cho một số người dùng, thêm vào menu trình phát

gạch tên