MIT và IBM đã hợp tác phát triển một công cụ mới nhằm giúp người dùng lựa chọn phương pháp sử dụng trí tuệ nhân tạo (AI) phù hợp, theo MIT News.

Trong các tình huống trong thế giới thực nơi các mô hình máy học được sử dụng, điều quan trọng là người dùng phải quyết định thời điểm tin tưởng vào các dự đoán do các mô hình này đưa ra.

Tuy nhiên, do sự phức tạp của các mô hình này, ngay cả những người tạo ra chúng cũng thường thiếu hiểu biết thấu đáo về cách chúng tạo ra các dự đoán. Để giải quyết thách thức này, các nhà nghiên cứu đã phát triển các phương pháp nổi bật nhằm giải thích hành vi của các mô hình này.

(Ảnh: Gerd Altmann từ Pixabay)

thẻ cứu trợ

Nhận thấy rằng các phương pháp cứu hộ mới tiếp tục được giới thiệu, các nhà nghiên cứu từ MIT và IBM Research đã tạo ra một công cụ để giúp người dùng chọn phương pháp cứu hộ phù hợp nhất cho nhiệm vụ cụ thể của họ.

Họ đã tạo ra các thẻ nổi bật, cung cấp tài liệu được tiêu chuẩn hóa về cách thức hoạt động của một phương pháp, chứa thông tin về điểm mạnh, điểm yếu và giải thích của nó để tạo điều kiện giải thích chính xác.

Đồng tác giả chính Angie Boggust, một sinh viên tốt nghiệp ngành kỹ thuật điện và khoa học máy tính tại MIT, giải thích rằng mục đích là trao quyền cho người dùng chọn phương pháp quan tâm phù hợp dựa trên loại mô hình học máy họ đang sử dụng và nhiệm vụ. đang biểu diễn.

Các nhà nghiên cứu đã thực hiện các cuộc phỏng vấn với các chuyên gia AI và các chuyên gia từ nhiều lĩnh vực khác nhau, tiết lộ rằng thẻ ưu tiên tạo điều kiện so sánh nhanh các phương pháp khác nhau, cho phép người dùng chọn kỹ thuật phù hợp nhất cho nhiệm vụ của họ.

Bằng cách chọn đúng phương pháp, người dùng sẽ hiểu chính xác hơn về hành vi của mô hình và có thể diễn giải các dự đoán của mô hình một cách chính xác.

Boggust nhấn mạnh rằng các thẻ nổi bật được thiết kế để cung cấp một bản tóm tắt ngắn gọn về các phương pháp nổi bật, làm nổi bật các thuộc tính quan trọng nhất của chúng theo cách lấy người dùng làm trung tâm.

Những thẻ này phục vụ cho nhiều đối tượng người dùng, bao gồm cả các nhà nghiên cứu máy học và những cá nhân lần đầu tiên muốn hiểu và lựa chọn các phương pháp nổi bật.

Đọc thêm: AI sẽ yêu cầu nhiều sức mạnh tính toán hơn từ đám mây, Qualcomm cho biết

Kích hoạt điều tra thêm

Ngoài việc tạo thuận lợi cho việc lựa chọn phương pháp, thẻ nổi bật còn là một cách để xác định các lỗ hổng trong nghiên cứu. Các nhà nghiên cứu nhận thấy rằng họ không thể xác định được một phương pháp nổi bật nào vừa hiệu quả về mặt tính toán vừa có thể áp dụng phổ biến cho bất kỳ mô hình học máy nào.

Khám phá này đã khơi mào cho cuộc điều tra sâu hơn để khám phá liệu một phương pháp như vậy có tồn tại hay không hoặc liệu có mâu thuẫn cố hữu giữa hai yêu cầu này hay không.

Nhóm đã tiến hành nghiên cứu người dùng với sự tham gia của tám chuyên gia trong lĩnh vực này, bao gồm một nhà khoa học máy tính và một bác sĩ X quang không quen thuộc với máy học. Những người tham gia nhận thấy các mô tả ngắn gọn được cung cấp bởi các thẻ nổi bật có giá trị trong việc ưu tiên các thuộc tính và so sánh các phương pháp.

Đáng chú ý, các bác sĩ X quang, mặc dù ít quen thuộc với máy học, nhưng đã có thể hiểu các thẻ và sử dụng chúng để tham gia vào quá trình lựa chọn phương pháp.

Sắp tới, các nhà nghiên cứu nhằm mục đích điều tra các đặc tính không được đánh giá cao này và có khả năng tạo ra các phương pháp nổi bật được thiết kế riêng cho các nhiệm vụ cụ thể.

Ngoài ra, họ tìm cách nâng cao hiểu biết của mình về cách các cá nhân cảm nhận kết quả của các phương pháp nổi bật, điều này có thể dẫn đến các biểu diễn trực quan tốt hơn.

Để khuyến khích cộng tác và nhận thông tin đầu vào có giá trị, các nhà nghiên cứu làm cho công việc của họ có thể truy cập được trong các kho lưu trữ công cộng.

Boggust hình dung thẻ mức độ nổi bật như một tài liệu sống sẽ phát triển cùng với sự phát triển của các phương pháp và đánh giá mức độ nổi bật mới. Cuối cùng, sáng kiến ​​này đánh dấu sự khởi đầu của một cuộc trò chuyện rộng hơn về bản chất nổi bật của các phương pháp và sự liên quan của chúng đối với các nhiệm vụ khác nhau.

Những bài viết liên quan: Các chuyên gia AI cho biết Deepfakes khó phát hiện hơn trước

gạch tên