Analisis forensik oleh Copyleaks tampaknya mengkonfirmasi tuduhan sebelumnya tentang laboratorium AI Deepseek China yang telah mengekstraksi pengetahuan dari model Openai dalam skala besar.
Seperti yang ditemukan oleh para peneliti, bahwa gaya penulisan R1 cocok dengan Openai yang ada di dalamnya. teknik, meningkatkan kekhawatiran etis dan hukum tentang pengembangan model AI.
Copyleaks , Study mereka menggunakan metodologi yang ketat, menggunakan tiga clableaks canggih yang dilekatkan pada sampel TEKS,.
Pengklasifikasi ini menganalisis elemen gaya halus, termasuk struktur kalimat, pilihan kata, dan pola ungkapan. Aspek kunci dari pendekatan ini adalah sistem”juri dengan suara bulat”, yang mengharuskan ketiga pengklasifikasi untuk mencapai kesimpulan yang sama sebelum membuat klasifikasi.
Ini meminimalkan kesalahan dan menghasilkan hasil yang sangat andal, mencapai tingkat presisi 99,88% yang diketahui oleh kumparan yang tidak diakui. Kedua yang tidak teruji, dan tidak terlalu tinggi, yang tidak diakui, dan secara efektif membedakan AI-genyat, dan kumparan yang tidak terlalu tinggi, dan secara efektif membedakan Ai-genyat dari. Kedua, dan secara efektif membedakan AI-Generated. Kedua PaleK-POSE-POSTIEK, dan secara efektif membedakan AI-Generated. 74.2% dari teks Deepseek berbagi sidik jari gaya dengan model Openai, tingkat kesamaan yang tidak ditemukan dalam sistem AI lain yang diuji.
Microsoft, investor terbesar Openai, telah mengintegrasikan Deepseek-R1 ke dalam Azure AI Foundry-nya, membuatnya dapat diakses oleh pengembang di seluruh dunia. Aksesibilitas Deepseek. Jika OpenAI menentukan bahwa Deepseek dilatih menggunakan datanya tanpa izin, Microsoft mungkin menghadapi tekanan untuk mempertimbangkan kembali dukungannya untuk model tersebut.
Dampak Pasar: Penurunan saham $ 593 miliar NVIDIA
Kemunculan Deepseek memiliki repersi keuangan. Tak lama setelah meningkatnya menonjol, NVIDIA untuk sementara kehilangan $ 593 miliar dalam nilai pasar, karena investor mengevaluasi kembali permintaan GPU berkinerja tinggi.
Kemampuan Deepseek untuk menghasilkan respons yang lebih tinggi dengan biaya komputasi yang lebih rendah. NVIDIA tetap menjadi pemasok terkemuka chip AI, pendekatan Deepseek dapat menunjukkan pergeseran dalam bagaimana perusahaan memprioritaskan efisiensi biaya daripada daya komputasi mentah, berpotensi mengubah ekspektasi pasar untuk pengembangan model AI.
Openai yang baru-baru ini dirilis poin model GPT-4.5 juga ke arah itu. GPT-4.5 dibangun di atas paradigma pelatihan lama untuk semakin meningkatkan jumlah data pelatihan dan telah ditemukan berkinerja buruk model-model lain yang memberikan penekanan pada pendekatan penalaran seperti campuran eksperta dan rantai pemikiran.
Deepseek yang di dalamnya tidak ada kontroversi
Sebuah studi Newsguard baru-baru ini menemukan bahwa Deepseek-R1 gagal 83% dari tes akurasi faktual, memberi peringkat di antara model AI yang paling tidak dapat diandalkan yang ditinjau. Pengguna melaporkan contoh respons yang salah atau menyesatkan, meningkatkan kekhawatiran tentang ketergantungan model untuk aplikasi kritis.
Selanjutnya, penelitian ini menemukan bahwa output Deepseek sering selaras dengan narasi pemerintah Cina, bahkan dalam kueri non-politik. Bias nyata model ini, dikombinasikan dengan ketidakakuratan faktual, telah menyebabkan spekulasi tentang apakah dilatih dengan kumpulan data yang disetujui negara, yang semakin memperumit kredibilitasnya di pasar internasional.
Sebagai hasilnya, secara kebingungan telah merilis R1 1776, sebuah model open-sendok open yang dibangun di atas R1 yang ada pada r1 mekanis yang ada pada R1 yang ada pada r1 mekanis yang ada di dalam r1 mekanis yang dibangun di dalam R1 yang ada pada r1 mekanis. Topik.
Deepseek sudah ketinggalan zaman dan mudah dijelajahi
Masalah lain dari Deepseek R1 adalah bahwa basis pengetahuannya tampak sudah ketinggalan zaman, karena sering mengutip peristiwa pra-2024 seolah-olah mereka saat ini. Hal ini menimbulkan kekhawatiran tentang apakah model tersebut dipertahankan secara aktif atau jika data pelatihannya dibatasi oleh pembatasan eksternal.
Penilaian keamanan telah mengungkapkan kerentanan dalam perlindungan Deepseek-R1. Sebuah studi Palo Alto Networks menemukan bahwa perlindungan model gagal semua upaya jailbreak mereka, menunjukkan bahwa Deepseek tidak memiliki perlindungan yang memadai terhadap penyalahgunaan.
Demikian pula, penelitian ADVERSA AI mengkonfirmasi bahwa Deepseek sangat rentan untuk meminta suntikan, yang memungkinkan pengguna untuk melupakan mekanisme keamanan dan menghasilkan konten yang seharusnya menghasilkan konten. Tidak seperti Openai’s ChatGPT, yang telah mengalami beberapa pembaruan keamanan, Deepseek tampaknya tidak memiliki perlindungan moderasi konten yang sebanding.
u.s. Anggota parlemen dan regulator Eropa menargetkan Deepseek
Kekhawatiran seputar Deepseek telah memicu tanggapan dari pembuat kebijakan di Amerika Serikat dan Eropa. Di Washington, legislator sedang meninjau proposal untuk melarang AI Deepseek dari lembaga federal, mengutip risiko keamanan dan kekhawatiran atas hubungannya dengan Cina.
Pejabat khawatir bahwa kerentanannya dapat dieksploitasi untuk negara bagian yang salah dari negara bagian atau pengumpulan data yang tidak sah, menjadi pengumpulan data yang tidak sah, yang telah meningkatkan implikasi keamanan nasional. menggunakan. Keputusan ini mengikuti upaya yang dipimpin negara yang lebih luas untuk mengatur model AI asing di tengah kekhawatiran atas privasi data dan potensi ancaman keamanan siber.
Di Eropa, pengawasan telah berfokus pada perlindungan data. Otoritas Perlindungan Data Italia telah meluncurkan penyelidikan apakah Deepseek mematuhi GDPR. If the AI model is found to be processing data in ways that violate EU privacy laws, it could face significant operational restrictions in the region.
China’s AI Expansion and the Rush for Nvidia’s H20 Chips
DeepSeek’s development is occurring in a broader geopolitical context, where AI technology is increasingly intertwined with national security Kekhawatiran.
Saat AS memperketat kontrol ekspor pada chip berkinerja tinggi, perusahaan Cina telah mengamankan sebanyak mungkin prosesor AI. Deepseek adalah salah satu perusahaan yang telah berkontribusi pada lonjakan permintaan untuk prosesor H20 NVIDIA, salah satu dari sedikit chip AI yang masih tersedia untuk diekspor ke Cina.
Pembatasan telah memaksa pengembang AI Cina untuk beradaptasi, berpotensi mengandalkan lebih banyak pada efisiensi perangkat lunak yang dioptimalkan daripada percepatan perangkat keras. Penekanan Deepseek pada pencapaian kinerja tinggi dengan tuntutan komputasi yang lebih rendah menunjukkan pergeseran dalam strategi untuk bekerja dalam keterbatasan ini.
Deepseek balapan untuk merilis model R2 di tengah pengawasan intensif
Meskipun ada tantangan, Deepseek mempercepat pengembangan AI-nya. Perusahaan telah memilih untuk melacak dengan cepat pelepasan model R2-nya, meningkatkan jadwal peluncurannya dalam upaya untuk mempertahankan momentumnya dalam lomba AI.
Keputusan ini menunjukkan bahwa Deepseek memprioritaskan kehadiran pasar, bahkan sebagai kekhawatiran tentang data pelatihan, dan keandalan yang tidak terselesaikan. Openai, Google, dan Alibaba. Namun, jika model baru menderita kelemahan yang sama dengan R1, termasuk ketidakakuratan faktual dan kesenjangan keamanan, itu mungkin menghadapi perlawanan di pasar Barat.
Masa depan etika AI, keamanan, dan peraturan
Jika OpenAi secara resmi menyimpulkan bahwa outputnya digunakan dalam pelatihan yang lebih dalam, hal ini dapat menetapkan preseden untuk bagaimana perusahaan AI dapat menangani perselisihan kekayaan intelektual. Kumpulan data pelatihan AI dan kemungkinan konsekuensi hukum bagi perusahaan yang ditemukan telah memanfaatkan data yang dihasilkan pesaing tanpa otorisasi. Regulator juga cenderung memaksakan langkah-langkah kepatuhan yang lebih ketat pada model AI yang beroperasi di pasar utama. Dengan pengawasan dari anggota parlemen AS dan regulator Eropa meningkat, perusahaan AI akan segera menghadapi pengawasan tinggi pada privasi data, keamanan, dan moderasi konten.