Theo một báo cáo của AP, hai luật sư và một công ty luật đã bị thẩm phán liên bang phạt mỗi người 5.000 đô la sau khi gửi nghiên cứu pháp lý không có thật trong một yêu cầu bồi thường thương tích hàng không, đổ lỗi cho mô hình ngôn ngữ AI của ChatGPT về vụ việc.

Thẩm phán P. Kevin Castel mô tả hành động của họ là ác ý nhưng thừa nhận lời xin lỗi và nỗ lực của họ để làm cho mọi việc trở nên đúng đắn. Ông lưu ý rằng mặc dù có thể chấp nhận sử dụng các công cụ trí tuệ nhân tạo đáng tin cậy để hỗ trợ, nhưng các luật sư có trách nhiệm đảm bảo tính chính xác trong hồ sơ của họ.

Thẩm phán đã chỉ trích các luật sư và công ty của họ, Levidow, Levidow & Oberman, PC, vì đã trình bày quan điểm tư pháp không tồn tại với các trích dẫn và trích dẫn hư cấu do ChatGPT tạo ra.

Hơn nữa, ông tuyên bố rằng họ tiếp tục bảo vệ quan điểm sai lầm ngay cả sau khi sự tồn tại của họ bị đặt câu hỏi theo lệnh tư pháp.

(Ảnh: JACK GUEZ/AFP qua Getty Images)
Logo của công ty trí tuệ nhân tạo Hoa Kỳ OpenAI được hình dung trong buổi nói chuyện của người đồng sáng lập tại khuôn viên Đại học Tel Aviv ở Tel Aviv vào ngày 5 tháng 6 năm 2023.

Luật sư trả lời các quyết định

Đáp lại quyết định này, công ty luật tuyên bố rằng họ sẽ tuân thủ lệnh nhưng không đồng ý với việc phát hiện hành vi gian dối.

Họ khẳng định rằng họ đã phạm sai lầm một cách thiện chí khi không nhận ra rằng công nghệ có thể tạo ra những trường hợp hư cấu. Công ty đang xem xét khả năng kháng cáo.

Các luật sư có liên quan, Steven A. Schwartz và Peter LoDuca, đã thu hút sự chú ý vì dựa vào thông tin do ChatGPT tạo ra được trình bày trước tòa. Vụ án ban đầu xoay quanh việc một người đàn ông kiện một hãng hàng không vì thương tích cá nhân và các luật sư đã viện dẫn các vụ kiện trước đó để lập luận rằng vụ việc được phát triển dựa trên tiền lệ.

Các luật sư đã kháng cáo để thẩm phán không trừng phạt họ vì đã sử dụng ChatGPT.

Schwartz giải thích rằng LoDuca không biết nghiên cứu pháp lý được tiến hành như thế nào vì anh ta không tham gia vào quá trình này. Schwartz bày tỏ sự hối tiếc khi dựa vào các chatbot AI và hứa sẽ không sử dụng lại chúng cho nghiên cứu pháp lý trong tương lai.

Điều quan trọng cần lưu ý là OpenAI, tổ chức đứng sau ChatGPT, bao gồm tuyên bố từ chối trách nhiệm trên trang chủ của mô hình AI, thừa nhận khả năng tạo ra thông tin sai lệch. Ngoài ra, kiến ​​thức của ChatGPT chỉ giới hạn ở những thông tin có sẵn cho đến tháng 9 năm 2021, nghĩa là nó không có bản cập nhật hoặc phát triển nào sau thời điểm đó.

Đọc thêm: OpenAI thêm ‘Các lệnh gọi hàm’ vào GPT-4, GPT 3.5 Turbo

“Xu hướng ảo giác”

ChatGPT đã được báo cáo là có “xu hướng ảo giác” hoặc tạo ra thông tin sai lệch. Trên thực tế, một người dẫn chương trình phát thanh đã kiện OpenAI sau khi chatbot bị cáo buộc cung cấp thông tin sai lệch và phỉ báng liên quan đến một vụ kiện pháp lý.

Mark Walters đã đệ đơn khiếu nại của mình lên Tòa Thượng Thẩm Quận Gwinnett.

Theo các cáo buộc, vào ngày 4 tháng 5 năm 2023, Fred Riehl, một nhà báo và là khách hàng của ChatGPT, đã tương tác với nền tảng liên quan đến Khiếu nại. Riehl đã chia sẻ một liên kết URL tới đơn khiếu nại được lưu trữ trên trang web của Tổ chức Tu chính án Thứ hai và yêu cầu bản tóm tắt các cáo buộc.

Tuy nhiên, ChatGPT được cho là đã cung cấp một bản tóm tắt gây hiểu lầm để phản hồi, ám chỉ sai sự thật rằng Walters tham gia vào các hoạt động gian lận và biển thủ tiền từ quỹ.

Theo đơn khiếu nại, bản tóm tắt chứa thông tin sai lệch về vai trò và hành động của Walters trong tổ chức.

Những bài viết liên quan: ChatGPT tạo ra ‘Những trò đùa của bố’ – Chúng có hài hước không?

gạch tên