Các trợ lý do AI hỗ trợ đang gia tăng vì chúng có thể thực hiện nhiều chức năng, bao gồm trả lời câu hỏi, cung cấp thông tin, thực hiện các tác vụ, đưa ra đề xuất và thậm chí tham gia vào các cuộc hội thoại cơ bản.

Họ tận dụng các thuật toán máy học và xử lý ngôn ngữ tự nhiên (NLP) để hiểu và diễn giải các truy vấn của người dùng, sau đó tạo ra các phản hồi hoặc hành động thích hợp.

Tuy nhiên, nghiên cứu mới cho thấy rằng trợ lý viết AI, đặc biệt, có thể ảnh hưởng đến ý kiến ​​của người dùng ngay cả khi chúng chỉ là công cụ viết.

Một nghiên cứu được thực hiện bởi Maurice Jakesch, một nghiên cứu sinh tiến sĩ về khoa học thông tin, với hơn 1.500 người tham gia được yêu cầu viết một đoạn văn trả lời câu hỏi, “Mạng xã hội có tốt cho xã hội không?”

Và kết quả là khá mở rộng tầm mắt.

(Ảnh: Gerd Altmann/Pixabay)

AI thiên vị?

Kết quả nghiên cứu cho thấy những cá nhân sử dụng trợ lý viết AI thiên vị có khả năng đồng ý với ý kiến ​​của trợ lý cao gấp đôi và có nhiều khả năng bày tỏ quan điểm tương tự hơn so với những người viết mà không có sự trợ giúp của AI.

Theo các nhà nghiên cứu, tác động của những phát hiện này liên quan đến những thành kiến ​​được nhúng trong các công cụ viết AI, dù cố ý hay vô ý, đều rất đáng lo ngại.

Họ lập luận rằng khi các mô hình AI đang được tích hợp nhanh chóng vào các khía cạnh khác nhau của cuộc sống, điều quan trọng là phải hiểu những hậu quả có thể xảy ra.

Ngoài việc tăng hiệu quả và tính sáng tạo, có thể có những thay đổi bất ngờ về ngôn ngữ và quan điểm với ý nghĩa xã hội rộng lớn hơn.

Mặc dù các nghiên cứu trước đây đã xem xét cách các mô hình ngôn ngữ lớn có thể tạo ra nội dung thuyết phục, nhưng nghiên cứu này là nghiên cứu đầu tiên cho thấy rằng việc viết bằng các công cụ do AI cung cấp có thể ảnh hưởng đến ý kiến ​​cá nhân.

Tương tác giữa người dùng và AI

Để nghiên cứu sự tương tác giữa các cá nhân và trợ lý viết AI, Jakesch đã lập trình một mô hình ngôn ngữ lớn để áp dụng các quan điểm truyền thông xã hội tích cực hoặc tiêu cực.

Sau đó, những người tham gia được giao nhiệm vụ viết một đoạn văn, tự mình hoặc với sự trợ giúp của một công cụ AI có ý kiến, sử dụng một nền tảng được thiết kế giống với một trang web truyền thông xã hội.

Nền tảng thu thập dữ liệu về hành động của người tham gia, bao gồm cả việc họ chấp nhận đề xuất AI và thời gian hoàn thành đoạn văn của họ.

Sau khi đánh giá bởi một thẩm phán khách quan, người ta xác định rằng những người tham gia viết bài với trợ lý AI của phương tiện truyền thông xã hội đã đưa ra nhiều câu ủng hộ quan điểm rằng phương tiện truyền thông xã hội là có lợi và ngược lại, những người đồng viết bài với người chống đối xã hội. trợ lý AI của phương tiện truyền thông đã tạo ra nhiều câu thơ hơn chống lại nó.

Ngoài ra, những người tham gia này cho thấy xu hướng chấp nhận quan điểm của trợ lý AI của họ cao hơn trong các cuộc khảo sát tiếp theo.

Nghiên cứu cho thấy rằng ngay cả những người tham gia đã dành thời gian để viết đoạn văn của họ vẫn tạo ra những tuyên bố có ảnh hưởng lớn. Đáng ngạc nhiên là phần lớn những người tham gia không nhận ra sự thiên vị trong các trợ lý AI và không nhận thức được xu hướng ảnh hưởng của chính họ.

Đồng tác giả Mor Naaman cho biết: “Quá trình đồng sáng tác không có cảm giác như tôi đang bị dụ dỗ. “Có cảm giác như tôi đang làm điều gì đó rất tự nhiên và hữu cơ—tôi đang bày tỏ suy nghĩ của chính mình với một chút trợ giúp.”

Nhóm nghiên cứu đã nhân rộng thử nghiệm trên các chủ đề khác và nhận thấy tác động tương đương đối với ý kiến ​​của những người tham gia khi sử dụng trợ lý AI. Họ hiện đang điều tra cơ chế và thời gian của hiệu ứng này.

Đọc thêm: AI lặn xuống đại dương để theo dõi sức khỏe rạn san hô toàn cầu

Cần thêm bài phát biểu công khai

Các nhà nghiên cứu nhấn mạnh sự cần thiết phải thảo luận công khai về khả năng lạm dụng công nghệ này và nhấn mạnh tầm quan trọng của việc giám sát và kiểm soát nó.

Jakesch nhấn mạnh tầm quan trọng của việc kiểm soát các giá trị, sở thích và quan điểm gắn liền với các công nghệ này khi chúng trở nên có ảnh hưởng hơn trong xã hội.

Phát hiện của nhóm được trình bày trong Kỷ yếu của Hội nghị CHI năm 2023 về các yếu tố con người trong hệ thống máy tính.

Những bài viết liên quan: Tetris giải thích về AI không công bằng và phản ứng của mọi người

gạch tên