Google đã xóa một hạn chế chính khỏi các nguyên tắc AI của mình, dỡ bỏ các ứng dụng trí tuệ nhân tạo đối với vũ khí và giám sát. hoặc cho phép giám sát hàng loạt ngoài các quy tắc được quốc tế chấp nhận./winbuzzer.com/wp-content/uploads/2025/01/google-deepmind.jpg”>
Bản sửa đổi chính sách được trình bày chi tiết trong bài đăng trên blog Đồng tác giả bởi James Manyika, người đứng đầu nghiên cứu của Google và Demis Hassabis, CEO của Google Deepmind. Chúng tôi tin rằng các nền dân chủ nên dẫn đến sự phát triển của AI, được hướng dẫn bởi các giá trị cốt lõi như tự do, bình đẳng và tôn trọng nhân quyền”, họ viết. Cảnh quan công nghệ, nói rằng các công ty, chính phủ và tổ chức của người Viking chia sẻ các giá trị này nên hợp tác để tạo AI bảo vệ con người, thúc đẩy tăng trưởng toàn cầu và hỗ trợ an ninh quốc gia.”Báo cáo thu nhập mới nhất, giảm kỳ vọng của Phố Wall mặc dù doanh thu quảng cáo tăng 10%. Đồng thời, công ty đã công bố khoản đầu tư 75 tỷ đô la vào các dự án AI trong năm nay, vượt quá đáng kể các ước tính thị trường trước đây. Để cạnh tranh chặt chẽ hơn với các công ty như Microsoft, Palantir và Amazon. Rõ ràng loại trừ sự phát triển của vũ khí hoặc các công nghệ khác có mục đích chính hoặc thực hiện là gây ra hoặc trực tiếp tạo điều kiện cho mọi người.”
Ngoài ra, công ty đã cam kết không theo đuổi các công nghệ Giám sát vi phạm các tiêu chuẩn được quốc tế chấp nhận.”Những cam kết này, được thành lập lần đầu tiên vào năm 2018, hiện đã bị xóa khỏi trang chính sách AI công cộng của công ty. Điều đó đã sử dụng AI để giám sát và nhắm mục tiêu bằng máy bay không người lái. Phản ứng dữ dội buộc Google phải từ bỏ hợp đồng và sau đó rút khỏi đấu thầu hợp đồng đám mây trị giá 10 tỷ đô la của quân đội Hoa Kỳ. nỗ lực bảo mật. Điều này đưa công ty phù hợp với các đối thủ cạnh tranh như Microsoft và Palantir, cả hai đều đã mở rộng đáng kể khả năng phòng thủ điều khiển AI của họ. >
Ngành công nghiệp AI đang chứng kiến sự chồng chéo ngày càng tăng giữa phát triển thương mại và các ứng dụng quân sự. Microsoft đã đưa các mô hình Openai, vào cơ sở hạ tầng đám mây của chính phủ Azure, cho phép quân đội Hoa Kỳ tích hợp các công cụ AI vào các hoạt động tình báo an toàn. Trong khi đó, Palantir gần đây đã bảo đảm một hợp đồng trị giá 480 triệu đô la với Lầu năm góc để mở rộng khả năng ra quyết định chiến đấu dựa trên AI. Blog/đối tác quy mô với-cdao-to-Test-and-eval-Llms”> AI tỷ lệ , đã làm việc với Lầu năm góc Văn phòng Trí thông minh nhân tạo và kỹ thuật số (CDAO) để kiểm tra và đánh giá các mô hình ngôn ngữ lớn cho các ứng dụng quân sự. Đầu tư vào các hệ thống phòng thủ do AI cung cấp. Câu hỏi bây giờ là sự thay đổi này sẽ tác động đến văn hóa nội bộ của công ty như thế nào, đặc biệt là về lịch sử kháng chiến của nhân viên đối với các dự án AI quân sự. P> Lịch sử của Google với các dự án AI quân sự đã được đánh dấu bằng sự kháng cự nội bộ mạnh mẽ. Ví dụ nổi tiếng nhất là tranh cãi về Project Maven, dẫn đến các cuộc biểu tình của nhân viên rộng rãi và buộc Google phải hủy bỏ sự tham gia của mình.
Tuy nhiên, những căng thẳng tương tự đã xuất hiện gần đây với Project Nimbus, một đám mây trị giá 1,2 tỷ đô la và hợp đồng AI với Amazon cung cấp các dịch vụ cho chính phủ và quân đội Israel. Trong một loạt các cuộc biểu tình của nhân viên, đỉnh cao là Google sa thải hơn 50 công nhân đã tham gia Trong các cuộc biểu tình tại nơi làm việc chống lại hợp đồng. Các nhân viên đã lập luận rằng dự án đã mâu thuẫn với các nguyên tắc AI trước đây của Google, trong đó loại trừ rõ ràng một số ứng dụng giám sát và quân sự. Một số nhà nghiên cứu của nó đã bày tỏ lo ngại về vai trò của AI, trong an ninh quốc gia, đặc biệt là trong các hệ thống ra quyết định tự trị. Với sự thay đổi chính sách mới nhất này, vẫn không chắc chắn liệu lực lượng lao động của Google sẽ một lần nữa huy động chống lại quyết định của lãnh đạo hay không. Bản sửa đổi chính sách AI của Google cho thấy các cân nhắc về chiến lược và tài chính đóng vai trò quan trọng. Báo cáo thu nhập mới nhất của bảng chữ cái giảm xuống dưới mức mong đợi của các nhà phân tích, mặc dù có 10% doanh thu quảng cáo. Khi cạnh tranh trong AI tăng cường, Google có thể tự định vị để đảm bảo các nguồn doanh thu mới vượt ra ngoài kinh doanh quảng cáo cốt lõi của mình. Microsoft đã củng cố vai trò của mình trong lĩnh vực này thông qua quan hệ đối tác với Palantir, nơi có mối quan hệ sâu sắc với các cơ quan an ninh quốc gia. Microsoft cũng đã hợp tác với DARPA cho một thách thức an ninh mạng do AI cung cấp nhằm đảm bảo cơ sở hạ tầng quan trọng.-Claude-hạt nhân thông tin-an toàn”> Nhân chủng học đã hợp tác với Bộ Năng lượng Hoa Kỳ để đánh giá sự an toàn của các mô hình AI Claude trong môi trường an ninh hạt nhân. Với các công ty AI lớn tham gia vào các mối quan hệ đối tác của chính phủ, quyết định của Google về việc loại bỏ các hạn chế AI tự áp đặt của mình cho thấy họ muốn duy trì khả năng cạnh tranh trong lĩnh vực phát triển nhanh chóng này. Strong>
Mặc dù sự thay đổi chính sách, sự không chắc chắn theo quy định vẫn tiếp tục xuất hiện trong việc sử dụng của AI trong các ứng dụng quân sự. Mặc dù các chính phủ trên toàn thế giới đã đưa ra các hướng dẫn an toàn của AI, không có khung pháp lý rõ ràng, có thể thi hành được điều chỉnh vai trò của AI trong an ninh quốc gia. Vẫn còn phần lớn trong tay các công ty tư nhân.. Các tiêu chuẩn và công nghệ (NIST) Khung quản lý rủi ro AI )
Trong thông báo chính thức của mình, Google nhấn mạnh rằng họ sẽ tiếp tục phù hợp với các nguyên tắc được chấp nhận rộng rãi của luật pháp quốc tế và nhân quyền.”Tuy nhiên, Không có các cơ chế thực thi cụ thể để lại câu hỏi mở về cách công ty sẽ đánh giá và giảm thiểu các rủi ro tiềm ẩn liên quan đến các ứng dụng AI quốc phòng. Phát triển. Đối với đạo đức và an ninh quốc gia.
Tuy nhiên, phản ứng từ các nhân viên của Google và các bộ phận nghiên cứu AI vẫn chưa chắc chắn. Với lịch sử đẩy lùi nội bộ chống lại các hợp đồng quốc phòng, công ty có thể phải đối mặt với sự phản đối mới từ lực lượng lao động của mình. Đồng thời, sự giám sát theo quy định về vai trò của AI trong các hoạt động quân sự dự kiến sẽ tăng lên, định hình thêm cách các công ty tư nhân tham gia với các cơ quan quốc phòng và tình báo. Một công ty AI tránh các ứng dụng an ninh quốc gia.