Microsoft nampaknya membangunkan alat perisian baru untuk menjalankan perisian AI NVIDIA pada cip AMD yang lebih murah, menurut komen dari pekerja yang diberi perhatian yang muncul pada minggu ini.
Platform CUDA proprietari ke format ROCM sumber terbuka AMD. Jika benar, strategi itu akan mencerminkan trend industri yang lebih luas, sebagai gergasi teknologi seperti Oracle dan OpenAI meningkatkan pergantungan mereka pada perkakasan AMD untuk memupuk persaingan.
Senjata rahsia terhadap dominasi AI Nvidia? Forum , rangkaian pakar yang bereputasi yang menyediakan wawancara paywalled kepada pelanggan institusi. href=”https://x.com/jukanlosreve/status/1986803290420723945″sasaran=”_ blank”> dikongsi melalui tangkapan skrin pada x Kos dengan kesimpulan. Hanya memikirkan ketumpatan di rak dan mendapatkan penyejukan cecair di rak.”Platform CUDA Nvidia telah menjadi platform yang kuat dan sangkar emas untuk pemaju AI. Sebagai platform pengkomputeran selari yang perpustakaan yang teguh menjadikannya standard industri, CUDA telah mencipta”parit”yang kuat yang menjadikan sukar bagi pesaing untuk mendapatkan bahagian pasaran. Walaupun AMD’s ROCM adalah alternatif sumber terbuka yang mampu, laluan penukaran yang boleh dipercayai akan membolehkan pelanggan Azure Microsoft mendapat manfaat kos perkakasan AMD tanpa meninggalkan persekitaran CUDA yang biasa.
toolchain , atau yang zluda tool , yang memintas panggilan CUDA. Walau bagaimanapun, kehilangan kecekapan dan masalah kestabilan akibat penukaran/terjemahan terus menjadi halangan yang berterusan yang Microsoft nampaknya ingin menangani. Boom
Didorong oleh perbelanjaan belon operasi AI, gergasi teknologi kini secara agresif mengejar langkah-langkah penjimatan kos. Penceramah dalam transkrip itu menekankan bahawa motivasi utama di sebalik toolkit yang dikatakan adalah kewangan, terutamanya untuk peringkat kesimpulan AI, di mana model terlatih diletakkan untuk bekerja. Perkakasan harga premium, dengan syarat penghalang perisian dapat diatasi.
Di luar kos perisian dan cip, kekangan pusat data fizikal menjadi hambatan kritikal. Sumber dalam transkrip itu menyatakan bahawa cabaran asas tidak lagi hanya memperoleh elektrik yang mencukupi tetapi menguruskannya dengan berkesan.
Dorongan yang signifikan, seluruh industri untuk memupuk rantaian bekalan perkakasan AI yang lebih kompetitif. Bagi Nvidia, yang kepimpinan pasarannya dibina sebanyak perisiannya sebagai silikonnya, trend ini merupakan ancaman jangka panjang.
Oracle, pemain utama dalam infrastruktur awan, baru-baru ini mengumumkan perkongsian utama untuk menggunakan 50,000 AMD AI cip. Karan Batta, naib presiden kanan Oracle Cloud, secara eksplisit menunjuk kepada nilai alternatif ini untuk beban kerja sensitif kos.
Makmal Penyelidikan AI yang terkemuka juga membuat langkah tegas untuk mempelbagaikan asas pengiraannya. Ia memalsukan perjanjian berjuta-juta dolar yang pasti dengan AMD untuk menggunakan 6 gigawatts GPUSnya. Intel sedang berbincang untuk mengeluarkan cip untuk AMD, menonjolkan kepentingan strategik rantaian bekalan semikonduktor yang pelbagai.
Jika tuntutan mengenai toolkit Microsoft adalah tepat, syarikat itu bukan hanya bekerja untuk menyelesaikan masalah kos dalaman tetapi menyumbang kepada evolusi pasaran yang lebih luas. Toolkit penukaran yang berjaya dapat menandakan masa depan perkakasan perkakasan AI perkakasan, membebaskan pemaju dari penguncian vendor.
