Deepseek, perusahaan AI Cina yang telah mendapatkan perhatian karena menawarkan alternatif berbiaya rendah untuk Openai, telah mengumumkan penangguhan sementara atas top-up layanan API karena permintaan yang tinggi.
Keputusan itu datang sebagai Perusahaan berjuang dengan masalah kapasitas server, membuat pengembang tidak yakin tentang akses ke model yang banyak digunakan. Pembatasan, yang mencegah pembelian kredit baru untuk penggunaan API, telah menambah kekhawatiran yang ada atas kecepatan inferensi yang lambat, risiko keamanan, dan pengawasan peraturan di sekitar ekspansi Deepseek di pasar barat.
Deepseek Membekukan Pembelian Kredit API API. Untuk menghindari gangguan lebih lanjut
Di situs web resminya, Deepseek mengkonfirmasi bahwa mereka telah menghentikan top-up API untuk mencegah ketidakstabilan layanan yang lebih luas, meskipun kredit yang ada akan tetap dapat digunakan.
Perusahaan menyatakan, “Daya Sumber Daya Segera, kami telah menangguhkan Sumber Daya Segera, kami telah menangguhkan kembali Sumber Daya Tempor. Dampak potensial pada operasi Anda. Saldo yang ada masih dapat digunakan untuk panggilan. Kami menghargai pemahaman Anda!”
Meskipun tidak ada garis waktu resmi untuk resolusi yang disediakan, penangguhan menandakan bahwa Deepseek berjuang untuk mengikuti permintaan yang luar biasa yang mengikuti adopsi cepat modelnya.
Model AI Deepseek telah diadopsi secara luas karena keterjangkauannya, dengan banyak startup beralih dari model GPT Openai ke Deepseek untuk penghematan biaya.
A.S. AI Deepseek. Sementara model perusahaan telah dipandang sebagai alternatif yang hemat biaya untuk antropik dan openai, masalah kinerja telah melanda adopsi.
Neal Shah, CEO Counterforce Health, telah menemukan penghalang jalan besar sebelum penangguhan penskorsan, CEO Counterforce, telah menemukan penghalang jalan besar sebelum penangguhan penskorp. Perusahaannya, yang menggunakan AI untuk membantu pasien dalam menentang klaim asuransi yang ditolak, berusaha menjalankan model Deepseek melalui beberapa penyedia cloud.
“Kami berada di penyedia ketujuh kami,”kata Shah kepada Business Insider .”Yang lain terlalu lambat atau tidak dapat diandalkan.”
P> Data dari Layanan Pelacakan Kinerja Analisis Buatan mengkonfirmasi bahwa Model Deepseek telah berjalan pada kecepatan yang dikurangi secara signifikan pada penyedia cloud pihak ketiga di AS, yang beroperasi hanya sepertiga dari kecepatan yang dimaksudkan dalam banyak kasus.
API Deepseek sendiri menghadapi ketidakstabilan yang terus-menerus
Pengembang yang sebelumnya mengandalkan API asli Deepseek sebagai solusi untuk layanan cloud lambat sudah menghadapi masalah bahkan sebelum penangguhan top-up. Pada tanggal 26 Januari, API Deepseek menjadi offline mengikuti apa yang digambarkan perusahaan sebagai”serangan jahat.”
Untuk startup seperti Ping, platform pengembangan AI, gangguan tersebut menyebabkan kemunduran besar. founder Theo Browne telah menguji model Deepseek selama berbulan-bulan sebelum adopsi yang meluas menyebabkan ketidakstabilan API.
“ Sebagian besar perusahaan menawarkan pengalaman yang sangat buruk saat ini,”Browne mengatakan kepada Business Insider . “Butuh 100 kali lebih lama untuk menghasilkan respons daripada penyedia model tradisional mana pun.”
Meskipun Deepseek sejak itu sebagian memulihkan akses ke API-nya, pengembang terus melaporkan ketidakkonsistenan, dengan kecepatan inferensi yang lambat membuat aplikasi real-time waktu nyata Hampir tidak dapat digunakan. >
Bahkan sebelum API membeku, risiko keamanan dan pengawasan peraturan telah membuat beberapa perusahaan ragu-ragu untuk mengadopsi model Deepseek. Angkatan Laut AS telah memberlakukan pembatasan yang sama.
Pukar Hamal, CEO Security Pal, menyatakan keraguan tentang kelayakan Deepseek untuk klien perusahaan.
“Saya menjalankan perusahaan keamanan jadi saya harus super Paranoid,”Hamal mengatakan kepada Business Insider. “Saat startup ingin menjual ke perusahaan, sebuah perusahaan ingin tahu seperti apa sistem arsitektur data Anda yang tepat. Jika mereka melihat Anda sangat mengandalkan LLM buatan Cina, tidak mungkin Anda bisa menjualnya.”
Studi bersama oleh Cisco dan University of Pennsylvania menemukan bahwa Chatbot Deepseek gagal 100% dari tes keamanan yang dirancang untuk mencegah jailbreak AI.”https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/10096856″>Italy’s data protection authority, Garante, has launched an investigation into whether DeepSeek complies with GDPR data privacy laws , khususnya mengenai transfer data lintas batas.
Microsoft dan Openai manfaat dari perjuangan Deepseek
Karena Deepseek bergulat dengan ketidakstabilan server dan pembatasan API, raksasa industri Openai Openai Dan Microsoft memanfaatkan situasi dengan memperkuat penawaran AI mereka sendiri sambil meneliti praktik Deepseek.
Microsoft telah mengambil pendekatan ganda untuk kenaikan Deepseek. Saat mengintegrasikan Deepseek R1 ke dalam model pengecoran AIure AI dan Github, Microsoft juga telah menyelidiki apakah Deepseek mungkin telah menyalahgunakan data pelatihan Openai dalam proses pengembangannya.
Openai telah merespons lebih agresif dengan meluncurkan O3-Mini, yang lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih murah dan lebih agresif, Model penalaran AI yang lebih efisien yang dirancang untuk mencegah pengembang beralih ke Deepseek karena masalah harga. The move is widely seen as a preemptive effort to undercut DeepSeek’s market appeal.
Meanwhile, SoftBank has distanced itself from DeepSeek, announcing that it has paused its use of the company’s models while shifting resources toward its $3 billion annual Investasi di Openai. Keputusan tersebut mencerminkan keraguan yang lebih luas di antara perusahaan-perusahaan besar untuk mengadopsi model AI Cina karena ketidakpastian peraturan dan masalah keamanan.
Investigasi peraturan menargetkan Infrastruktur AI Deepseek
Di luarnya Suspensi API, Deepseek juga menghadapi pengawasan pengaturan yang tinggi. U.S. officials are investigating whether DeepSeek has circumvented export restrictions to acquire high-performance AI chips through third parties in Singapore.
Under current U.S. regulations, Chinese companies cannot legally purchase Nvidia’s H100 GPUs, which are essential for training and mengoperasikan model AI besar. Namun, laporan menunjukkan bahwa Deepseek mungkin telah memperoleh chip ini melalui rantai pasokan tidak langsung, menimbulkan pertanyaan tentang celah dalam kebijakan kontrol ekspor A.S. Pasar AI, di mana perusahaan seperti Deepseek mengembangkan ekosistem AI yang sepenuhnya independen, membuat pengawasan peraturan menjadi lebih sulit.
penyedia cloud dan pengembang menyesuaikan diri dengan keterbatasan Deepseek
Perjuangan teknis Deepseek yang berkelanjutan, penyedia cloud dan startup AI masih mencari cara untuk mengintegrasikan modelnya-meskipun dengan meningkatnya hati-hati.
Perusahaan perangkat keras AI Groq, yang memposisikan dirinya sebagai pesaing untuk NVIDIA, telah memilih untuk Gunakan model penalaran Deepseek untuk meningkatkan llama AI meta alih-alih menjalankan model Deepseek secara asli.
GroQ mengkhususkan diri dalam unit pemrosesan bahasa (LPU), yang berbeda dari unit pemrosesan grafis NVIDIA (GPU). Strategi ini telah menarik lebih dari 37.000 organisasi yang mencari solusi AI alternatif yang tidak bergantung pada API tidak stabil Deepseek sendiri. Pada bulan Agustus 2024, Groq mengumpulkan $ 640 juta yang mengesankan Dalam putaran pendanaan Seri D yang dipimpin oleh BlackRock Private Equity Partners.
Sementara itu, Baseten, penyedia infrastruktur cloud AI, telah menguji berbagai metode penyebaran untuk mengoptimalkan kecepatan inferensi Deepseek . CEO Tuhin Srivastava revealed that before DeepSeek’s January 26 API outage, Baseten’s deployment was actually faster than DeepSeek’s own native API.
At Hyperbolic Labs, an AI cloud infrastructure company, CEO Jasper Zhang told Business Insider that inference users increased sebesar 150% setelah menambahkan model Deepseek, sementara total pendaftaran pengguna baru melonjak 400% pada bulan Januari saja. Angka-angka menunjukkan bahwa meskipun ada batasan teknis, permintaan untuk model AI yang terjangkau tetap tinggi.
pengembang mencari alternatif karena masa depan Deepseek tetap tidak pasti
Sementara beberapa perusahaan berada Mencoba mengatasi keterbatasan Deepseek, orang lain sedang mempertimbangkan untuk menjauh darinya. Penangguhan sementara dari top-up layanan API telah menyebabkan pertanyaan tentang keandalan jangka panjang Deepseek, dengan beberapa pengembang khawatir bahwa masalah ini bisa menjadi masalah berulang.
Untuk aplikasi yang tidak memerlukan kinerja latensi rendah rendah , Pengembang masih bersedia bekerja dengan model Deepseek. Misalnya, Neal Shah dari Counterforce Health mengatakan bahwa sedikit keterlambatan dalam memproses banding klaim asuransi dapat dikelola. Namun, untuk aplikasi AI yang membutuhkan respons waktu nyata, seperti layanan pelanggan otomatis atau interaksi suara, kecepatan inferensi yang lambat Deepseek tetap menjadi penghalang jalan utama.
Shah juga mengembangkan alat bertenaga AI yang akan menghubungi asuransi. Perusahaan atas nama pasien, kasus penggunaan yang menuntut AI untuk beroperasi dengan kecepatan percakapan manusia. Jika kecepatan dan stabilitas API Deepseek tidak membaik, Shah mengatakan perusahaannya harus beralih ke penyedia lain.
Penangguhan sementara Deepseek atas top-up layanan API lebih dari sekadar masalah teknis-itu mencerminkan lebih dalam Tantangan infrastruktur dalam industri AI. Dengan meningkatnya permintaan model bahasa besar, penyedia AI harus dapat meningkatkan skala infrastruktur mereka tanpa mengorbankan kinerja.
Selain itu, karena intervensi pemerintah dalam infrastruktur AI meningkat, perusahaan seperti Deepseek harus menavigasi lingkungan pengatur yang kompleks. Sementara beberapa pembuat kebijakan berpendapat bahwa membatasi model AI Cina adalah prioritas keamanan nasional, yang lain khawatir bahwa memblokir akses AI sepenuhnya dapat menyebabkan isolasi teknologi, membuat kolaborasi global lebih sulit.
Untuk saat ini, Deepseek tetap menjadi murah Tapi opsi yang tidak stabil untuk startup. Jika dapat menyelesaikan masalah skalabilitas, risiko keamanan, dan masalah peraturan, itu bisa menjadi pesaing serius untuk Openai dan Anthropic. Namun, jika ketidakstabilan API dan pembatasan perdagangan A.S. tetap ada, kehadirannya di pasar barat mungkin sangat terbatas.