Nhiều cơ quan quản lý vẫn phản đối việc các cơ quan thực thi pháp luật và các công ty sử dụng các công cụ giám sát AI. Tuy nhiên, các báo cáo cho rằng AI cấp độ quân sự hiện có thể được sử dụng để theo dõi thường dân Mỹ.

Một báo cáo của Wired tuyên bố rằng một số công cụ giám sát AI, ban đầu được phát triển bởi các nhà thầu quốc phòng để sử dụng cho mục đích tình báo, hiện đang được bán cho người sử dụng lao động.

Một số công ty được cho là đã nổi lên để bán các dịch vụ như “thông tin tình báo nguồn mở”, “quản lý danh tiếng” và “đánh giá mối đe dọa nội bộ”, có thể được sử dụng để vi phạm quyền riêng tư và bảo mật của một người.

(Ảnh: Kevin Ku từ Bapt)

Công cụ giám sát AI cấp quân sự được sử dụng để theo dõi thường dân?

Báo cáo của Wired tập trung vào các công cụ giám sát AI cấp độ quân sự đang được sử dụng để theo dõi thường dân và công chúng thậm chí còn không biết về nó.

“Thật khó để tưởng tượng rằng bạn là mục tiêu của một công cụ gián điệp, nhưng theo dõi công nhân là biên giới tiếp theo của AI quân sự. Các kỹ thuật giám sát quen thuộc với các chế độ độc tài giờ đây đã được tái sử dụng để nhắm mục tiêu vào công nhân Mỹ”, bài báo viết.

Báo cáo cho biết những công cụ giám sát AI này đã trở nên tiên tiến hơn rất nhiều trong những năm gần đây, với việc sếp của bạn có thể sử dụng phân tích dữ liệu để xác định những người chỉ trích công ty, những người tố cáo nội bộ và những người tổ chức lao động.

Đọc thêm: Nhà Trắng điều tra các công ty sử dụng công cụ tự động để giám sát nhân viên

Công cụ giám sát AI tại nơi làm việc?

Theo bài báo, các công ty lớn như Amazon đã giám sát việc hợp nhất. Công cụ giám sát AI này ban đầu được phát triển để xác định các nhóm khủng bố có thể được sử dụng để xác định những người tổ chức lao động và những người sử dụng lao động này có thể sa thải họ bất hợp pháp ngay cả trước khi họ có thể thành lập công đoàn.

Báo cáo nói thêm rằng việc sử dụng các công cụ này trong quá trình tuyển dụng cũng có thể khiến nhà tuyển dụng không thuê những người tổ chức này ngay từ đầu.

Điều này khác xa với việc sử dụng AI cấp độ quân sự, vốn chỉ nhằm vào kẻ thù của quốc gia Mỹ. Do đó, các cuộc thảo luận về việc điều chỉnh công nghệ giám sát AI là điều bắt buộc và theo Thú vị Kỹ thuật, các biện pháp bảo vệ phải được đưa ra để ngăn chặn việc sử dụng nó đối với công dân.

Báo cáo của Wired nói rằng công chúng nên “quan tâm đến ý tưởng rằng cùng một hệ thống hiện có thể được sử dụng rộng rãi bởi bất kỳ ai có khả năng chi trả.”

Chính phủ lên án giám sát AI

Nhiều nỗ lực đang được thực hiện để ngăn chặn việc sử dụng các công cụ giám sát AI ở những nơi khác trên thế giới. Nghị viện Châu Âu đã thông qua Đạo luật AI nhằm điều chỉnh việc sử dụng AI ở Châu Âu vào tuần trước.

Mặt khác, Ủy ban Thương mại Liên bang (FTC) mong muốn chấm dứt việc sử dụng AI và giám sát thương mại một cách không công bằng để bảo vệ công chúng, đặc biệt là thanh thiếu niên, trên internet.

Theo một báo cáo khác của WIRED, FTC lo ngại rằng việc theo dõi trực tuyến có thể làm gia tăng các nỗ lực lừa đảo, lừa mọi người mua sản phẩm hoặc tiết lộ thông tin cá nhân và thậm chí chia sẻ dữ liệu vị trí với các cơ quan thực thi pháp luật hoặc chính phủ nước ngoài.

Cơ quan này được cho là đang cân nhắc xem có nên áp dụng luật mới để điều chỉnh việc thu thập dữ liệu cá nhân và AI được điều khiển bởi dữ liệu đó hay không. FTC hiện đang yêu cầu sự giúp đỡ của công chúng trong việc trả lời các câu hỏi như liệu có nên mở rộng định nghĩa phân biệt đối xử ngoài chủng tộc hoặc giới tính, trong số những thứ khác, để điều chỉnh giám sát thương mại và AI hay không.

Các công ty bán các công cụ giám sát AI cấp độ quân sự được cho là đang gia tăng. Một số thậm chí còn quảng cáo rằng họ sẽ sớm đưa công nghệ AI thế hệ tiếp theo vào các công cụ giám sát của mình, với các tính năng hứa hẹn tạo điều kiện thuận lợi cho việc khám phá các nguồn dữ liệu đa dạng thông qua các lời nhắc đơn giản.

Những bài viết liên quan: Thế vận hội Paris 2024: Các nhà lập pháp Pháp bỏ phiếu về dự luật gây tranh cãi hợp pháp hóa giám sát do AI cung cấp

Ê-sai Richard