Google telah menghapuskan sekatan utama dari prinsip AI, mengangkat pengharaman aplikasi kecerdasan buatan untuk senjata dan pengawasan.
atau membolehkan pengawasan massa melampaui norma-norma yang diterima di peringkat antarabangsa.
Langkah ini menandakan peralihan pendekatan Google kepada etika AI, terutamanya berhubung dengan aplikasi keselamatan dan pertahanan negara.
post blog yang dikarang oleh James Manyika, ketua penyelidikan Google, dan Demis Hassabis, Ketua Pegawai Eksekutif Google DeepMind.”Kami percaya demokrasi harus memimpin dalam pembangunan AI, dipandu oleh nilai teras seperti kebebasan, kesamaan dan penghormatan terhadap hak asasi manusia,”tulis mereka.
landskap teknologi, menyatakan bahawa”syarikat, kerajaan, dan organisasi yang berkongsi nilai-nilai ini harus bekerjasama untuk mewujudkan AI yang melindungi orang, menggalakkan pertumbuhan global, dan menyokong keselamatan negara.”
Masa peralihan bertepatan dengan abjad Laporan pendapatan terkini, yang tidak dapat dijangkakan oleh Wall Street walaupun kenaikan pendapatan pengiklanan sebanyak 10%. Pada masa yang sama, syarikat itu mengumumkan pelaburan $ 75 bilion dalam projek AI tahun ini, dengan ketara melebihi anggaran pasaran sebelumnya.
Pembuangan sekatan AI boleh membolehkan Google meneruskan kontrak kerajaan dalam pertahanan dan kecerdasan, membawanya ke dalam persaingan yang lebih dekat dengan firma seperti Microsoft, Palantir, dan Amazon. secara eksplisit menolak pembangunan”senjata atau teknologi lain yang tujuan atau pelaksanaan utamanya adalah untuk menyebabkan atau secara langsung memudahkan kecederaan kepada orang.”
Selain itu, syarikat itu berjanji untuk tidak meneruskan”teknologi yang mengumpulkan atau menggunakan maklumat untuk pengawasan yang melanggar norma-norma yang diterima di peringkat antarabangsa.”Komitmen ini, yang pertama kali ditubuhkan pada tahun 2018, kini telah dikeluarkan dari halaman dasar AI awam syarikat. yang menggunakan AI untuk pengawasan dan penargetan drone.
Beribu-ribu pekerja menandatangani petisyen yang menuntut syarikat menamatkan penyertaannya, dengan beberapa mengundurkan diri sebagai protes. Serangan balik memaksa Google untuk meninggalkan kontrak dan kemudian menarik diri daripada membida kontrak cloud Jedi $ 10 bilion. usaha keselamatan. Ini membawa syarikat selaras dengan pesaing seperti Microsoft dan Palantir, yang kedua-duanya telah memperluaskan keupayaan pertahanan AI mereka. >
Industri AI melihat peningkatan pertindihan antara pembangunan komersial dan aplikasi ketenteraan. Microsoft telah membenamkan model OpenAI ke dalam infrastruktur awan kerajaan Azure, yang membolehkan tentera A.S. mengintegrasikan alat AI ke dalam operasi perisikan yang selamat. Sementara itu, Palantir baru-baru ini memperoleh kontrak $ 480 juta dengan Pentagon untuk memperluaskan keupayaan membuat keputusan medan perang AI.
Pemain utama lain di ruang ini adalah
Perubahan dasar Google menunjukkan ia tidak lagi bersedia untuk duduk di luar kerana AI menjadi komponen utama strategi pertahanan negara. Persoalannya sekarang ialah bagaimana peralihan ini akan memberi kesan kepada budaya dalaman syarikat, terutamanya memandangkan sejarah rintangan pekerja terhadap projek AI tentera.
Rintangan dalaman dan tindak balas pekerja P> Sejarah Google dengan projek AI tentera telah ditandai dengan rintangan dalaman yang sengit. Contoh yang paling terkenal ialah kontroversi terhadap Projek Maven, yang membawa kepada protes pekerja yang meluas dan memaksa Google membatalkan penglibatannya.
Walau bagaimanapun, ketegangan yang sama muncul semula baru-baru ini dengan Projek Nimbus, kontrak awan $ 1.2 bilion dan AI dengan Amazon yang menyediakan perkhidmatan kepada kerajaan dan tentera Israel. Dalam satu siri demonstrasi pekerja, memuncak dalam Google menembak lebih 50 pekerja yang telah mengambil bahagian di tempat kerja protes terhadap kontrak. Pekerja berpendapat bahawa projek itu bertentangan dengan prinsip-prinsip AI yang terdahulu Google, yang secara eksplisit menolak aplikasi ketenteraan dan pengawasan tertentu. Sesetengah penyelidiknya telah menyatakan kebimbangan mengenai peranan AI dalam keselamatan negara, terutamanya dalam sistem membuat keputusan autonomi. Dengan perubahan dasar terkini ini, masih tidak pasti sama ada tenaga kerja Google sekali lagi akan menggerakkan keputusan kepimpinan.
Motivasi kewangan dan strategik di belakang perubahan
Semakan dasar AI Google mencadangkan pertimbangan strategik dan kewangan memainkan peranan utama. Laporan pendapatan terbaru Alphabet jatuh di bawah jangkaan penganalisis, walaupun kenaikan 10% pendapatan iklan.
Selain itu, syarikat itu mengumumkan rancangan untuk membelanjakan $ 75 bilion untuk pembangunan AI pada tahun 2025, melebihi anggaran pasaran sebelumnya sebanyak 29%. Sebagai persaingan di AI menguatkan, Google mungkin meletakkan dirinya untuk mendapatkan aliran pendapatan baru di luar perniagaan pengiklanan terasnya.
Sementara itu, kerajaan A.S. telah secara agresif memperluaskan penggunaan AI dalam pertahanan. Microsoft telah memperkuat peranannya dalam sektor ini melalui perkongsiannya dengan Palantir, yang mempunyai hubungan yang mendalam kepada agensi keselamatan negara. Microsoft juga bekerjasama dengan DARPA untuk cabaran keselamatan siber AI yang bertujuan untuk mendapatkan infrastruktur kritikal.
-Claude-nuklear-informasi-keselamatan”> Anthropic telah bekerjasama dengan Jabatan Tenaga A.S. untuk menilai keselamatan model Claude AI dalam persekitaran keselamatan nuklear. Dengan firma AI utama yang terlibat dalam perkongsian kerajaan, keputusan Google untuk menghapuskan sekatan AI yang dikenakan sendiri menunjukkan ia mahu kekal berdaya saing dalam sektor yang berkembang pesat ini. Strong>
Walaupun pergeseran dasar, ketidakpastian pengawalseliaan terus menjulang ke atas penggunaan AI dalam aplikasi ketenteraan. Walaupun kerajaan di seluruh dunia telah memperkenalkan garis panduan keselamatan AI, tidak ada kerangka undang-undang yang jelas dan boleh dikuatkuasakan yang mengawal peranan AI dalam keselamatan negara. kekal sebahagian besarnya di tangan syarikat swasta. (Lihat inisiatif Proses’Hiroshima’2023 G-7, Akta Eu Ai, dan Institut Kebangsaan AS Rangka Kerja Pengurusan Risiko Piawaian dan Teknologi (NIST) AI )
Dalam pengumuman rasminya, Google menekankan bahawa ia akan terus menyelaraskan dengan”prinsip undang-undang antarabangsa dan hak asasi manusia yang diterima secara meluas. Ketiadaan mekanisme penguatkuasaan tertentu meninggalkan soalan terbuka tentang bagaimana syarikat akan menilai dan mengurangkan potensi risiko yang berkaitan dengan aplikasi pertahanan AI. berkembang kepada etika dan keselamatan negara. Sebaik sahaja sebuah syarikat yang menjauhkan diri dari aplikasi AI tentera, Google kini memberi isyarat untuk melibatkan diri dalam kerja AI yang berkaitan dengan pertahanan.
Walau bagaimanapun, tindak balas daripada pekerja Google dan bahagian penyelidikan AI masih tidak menentu. Dengan sejarah pushback dalaman terhadap kontrak pertahanan, syarikat itu mungkin menghadapi pembangkang yang diperbaharui dari tenaga kerja. Pada masa yang sama, pengawasan pengawalseliaan mengenai peranan AI dalam operasi ketenteraan dijangka meningkat, terus membentuk bagaimana syarikat swasta terlibat dengan agensi pertahanan dan perisikan.
sebuah syarikat AI yang secara mutlak mengelakkan aplikasi keselamatan negara.