Microsoft đã gần đây đã cập nhật chính sách của mình nhằm cấm các hoạt động của Hoa Kỳ. các sở cảnh sát sử dụng AI tổng hợp cho mục đích nhận dạng khuôn mặt thông qua Dịch vụ Azure OpenAI của mình. Dịch vụ Azure OpenAI, một bộ cấp doanh nghiệp toàn diện được xây dựng dựa trên các công nghệ của OpenAI, hiện bao gồm ngôn ngữ trong điều khoản dịch vụ cấm rõ ràng việc sử dụng các khả năng của nó cho các nhiệm vụ nhận dạng khuôn mặt “bởi hoặc cho” các sở cảnh sát ở Hoa Kỳ. Điều này bao gồm mọi hoạt động tích hợp với các mô hình phân tích giọng nói và văn bản nâng cao của OpenAI.
Hạn chế toàn cầu và miễn trừ cụ thể
Việc sửa đổi chính sách vượt ra ngoài biên giới Hoa Kỳ Các quốc gia bao gồm các cơ quan thực thi pháp luật trên toàn thế giới, đặc biệt cấm triển khai “công nghệ nhận dạng khuôn mặt theo thời gian thực” trên các thiết bị di động như máy ảnh đeo trên người và camera hành trình. Điều này nhằm mục đích ngăn chặn việc nhận dạng các cá nhân trong môi trường không được kiểm soát. Tuy nhiên, lệnh cấm không áp dụng cho việc nhận dạng khuôn mặt được thực hiện bằng camera cố định ở những nơi được kiểm soát, chẳng hạn như văn phòng, mặc dù nó vẫn hạn chế mọi nỗ lực nhận dạng khuôn mặt của các sở cảnh sát Hoa Kỳ.
Động thái này diễn ra sau khi mối lo ngại về sản phẩm mới của Axon, nổi tiếng với công nghệ sản xuất và vũ khí cho quân đội và thực thi pháp luật, sử dụng mẫu GPT-4 của OpenAI để tóm tắt âm thanh từ camera gắn trên cơ thể. Các nhà phê bình đã nêu bật các vấn đề tiềm ẩn như việc các mô hình AI tạo ra thông tin không chính xác và việc đưa ra các thành kiến về chủng tộc từ dữ liệu đào tạo. Điều này đặc biệt đáng lo ngại khi tỷ lệ người da màu bị cảnh sát chặn lại quá cao.
Quan điểm phát triển của Microsoft và OpenAI về AI và thực thi pháp luật
Các điều khoản được cập nhật phản ánh sự thay đổi rộng rãi hơn trong cách tiếp cận của Microsoft và OpenAI đối với vai trò của AI trong các hợp đồng quốc phòng và thực thi pháp luật. Bất chấp sự dè dặt trước đây của OpenAI về việc cung cấp công nghệ AI của mình cho các tổ chức quân sự, các báo cáo gần đây đã tiết lộ sự hợp tác với Lầu Năm Góc trong các dự án an ninh mạng cùng nhiều dự án khác. Tương tự, Microsoft đã đề xuất sử dụng công cụ tạo hình ảnh của OpenAI, DALL-E, để phát triển phần mềm hỗ trợ các hoạt động của Bộ Quốc phòng.
Dịch vụ Azure OpenAI đã được giới thiệu cho dịch vụ Azure Government của Microsoft vào tháng 2, được thiết kế để đáp ứng nhu cầu cụ thể của các cơ quan chính phủ, bao gồm cả cơ quan thực thi pháp luật, với các tính năng quản lý và tuân thủ nâng cao. SVP của Liên bang Microsoft, Candice Ling, đã đảm bảo rằng dịch vụ này sẽ trải qua các quy trình ủy quyền tiếp theo để triển khai trong các nhiệm vụ của DoD.
Sau khi xuất bản bản cập nhật chính sách, Microsoft đã làm rõ rằng có lỗi trong điều khoản dịch vụ ban đầu đã được sửa chữa, nêu rõ rằng lệnh cấm nhận dạng khuôn mặt chỉ áp dụng cho Hoa Kỳ chứ không phải là lệnh cấm chung đối với việc sử dụng dịch vụ.
