Antropik telah menerbitkan kerangka kerja baru untuk menciptakan agen AI yang aman dan dapat dipercaya. Panduan ini, yang dirilis pada 4 Agustus, bertujuan untuk mengatasi krisis keselamatan yang berkembang di seluruh industri teknologi. Langkah ini mengikuti gelombang kegagalan yang mengkhawatirkan, termasuk agen AI yang menghapus data pengguna, studi palsu yang berhalusinasi, dan ditipu oleh peretas.
Kerangka kerja Antropik mempromosikan . Ini menawarkan jalur untuk mengatur diri sendiri sebagai perusahaan seperti Openai dan Google Race untuk membangun AI yang lebih kuat dan otonom. Ini menjadikan kepercayaan publik medan pertempuran utama dalam kompetisi yang meningkat untuk dominasi pasar.
Waktunya strategis, bertepatan dengan kebocoran model”Claude Opus 4.1″yang baru. Hal ini menunjukkan bahwa antropik mendorong kemampuan secara paralel dengan inisiatif keselamatannya, berusaha membuktikan bahwa kemajuan dan tanggung jawab dapat hidup berdampingan.
