TL;DR
Pendanaan: Gimlet Labs mengumpulkan $80 juta dalam pendanaan Seri A yang dipimpin oleh Menlo Ventures untuk platform inferensi AI multi-silikonnya. Teknologi: Perangkat lunak startup ini membagi beban kerja AI di seluruh chip dari NVIDIA, AMD, Intel, dan lainnya, mengklaim percepatan inferensi 3x hingga 10x. Daya Tarik: Gimlet diluncurkan dengan pendapatan 8 digit pada bulan Oktober 2025 dan sejak itu telah meningkatkan basis pelanggannya sebanyak tiga kali lipat di laboratorium AI terdepan. Konteks Pasar: Belanja pusat data diproyeksikan mencapai hampir $7 triliun pada tahun 2030, dengan tingkat pemanfaatan perangkat keras saat ini hanya 15 hingga 30 persen.
Gimlet Labs pada tanggal 23 Maret mengumumkan telah mengumpulkan $80 juta di Pendanaan Seri A untuk perangkat lunak yang membagi beban kerja AI di seluruh chip dari NVIDIA, AMD, Intel, dan lainnya secara bersamaan. Startup ini mengklaim percepatan inferensi 3x hingga 10x dengan biaya dan daya yang sama. Menlo Ventures memimpin putaran ini, dengan Factory, Eclipse Ventures, Prosperity7, dan Triatomic juga berpartisipasi.
Dipimpin oleh asisten profesor dan pengusaha serial Stanford, Zain Asgar, startup ini menyebut platformnya sebagai cloud inferensi multi-silikon. Daripada mengunci pelanggan ke dalam satu vendor chip, perangkat lunak ini secara otomatis memetakan beban kerja agen ke chip yang sesuai tanpa mengharuskan pengembang menulis ulang kode mereka.
Menurut Asgar, aplikasi AI saat ini hanya menggunakan perangkat keras yang diterapkan sebanyak 15 hingga 30 persen, sehingga menyebabkan ratusan miliar dolar komputasi tidak digunakan. Hasilnya, Gimlet dibuat untuk menutup kesenjangan pemanfaatan tersebut, mengarahkan setiap fase beban kerja AI ke prosesor mana pun yang tersedia yang menanganinya dengan efisiensi terbesar, apa pun vendornya.
“Cara lain untuk memikirkan hal ini: Anda membuang-buang ratusan miliar dolar karena hanya menyisakan sumber daya yang menganggur. Tujuan kami pada dasarnya adalah mencoba mencari tahu bagaimana Anda dapat membuat beban kerja AI menjadi 10x lebih efisien dari sebelumnya, hari ini.”
Zain Asgar, CEO dan Salah Satu Pendiri Gimlet Labs (melalui TechCrunch)
Cara Kerja Inferensi Multi-Silikon
Tahap inferensi AI yang berbeda memberikan tuntutan yang berbeda pada perangkat keras. “Pengisian awal terikat pada komputasi; dekode terikat pada memori; dan panggilan alat terikat pada jaringan,” tulis partner Menlo Ventures, Tim Tully, dalam blog investasi milik perusahaan tersebut. Arsitektur GPU tunggal tidak dapat mengoptimalkan ketiganya secara bersamaan, itulah sebabnya pusat data saat ini membiarkan begitu banyak kapasitas yang kurang terpakai.
Berdasarkan analisis ini, tesis Tully adalah bahwa keragaman perangkat keras sudah ada di seluruh industri, namun yang hilang adalah lapisan abstraksi perangkat lunak yang mampu mengoordinasikannya. Menlo menggambarkan visi Gimlet sebagai membangun inferensi multi-silikon dan cloud komputasi pertama, yang menerapkan GPU tradisional bersama silikon SRAM-sentris yang dibuat khusus untuk beban kerja intensif memori, mengekstraksi nilai dari perangkat keras yang telah dibayar oleh operator.
Dalam praktiknya, perangkat lunak Gimlet mengatasi ketidaksesuaian ini dengan membagi beban kerja di berbagai perangkat keras, membagi model yang mendasarinya sehingga berjalan di berbagai arsitektur chip yang berbeda, mengarahkan setiap bagian ke prosesor yang optimal. Operasi pra-pengisian komputasi yang berat dialihkan ke GPU, tugas dekode intensif memori dijalankan pada chip bandwidth tinggi, dan panggilan alat terikat jaringan dialihkan ke akselerator latensi rendah.
Gimlet bekerja dengan memecah beban kerja di sistem multi-generasi dan multi-vendor, sehingga inferensi dapat mewarisi karakteristik kinerja dan biaya dari perangkat keras terbaik untuk setiap tugas. (Sumber: MENLO Ventures)
Peningkatan kinerja khususnya berlaku pada model frontier yang sangat besar, yang memberikan permintaan yang tidak merata pada berbagai jenis perangkat keras. Dengan mencocokkan setiap tahap dengan silikon yang tepat, Gimlet mengklaim dapat memberikan peningkatan kinerja per watt yang sangat besar bagi pelanggan yang beroperasi dalam skala besar.
Mitra perangkat keras yang diumumkan oleh Gimlet meliputi NVIDIA, AMD, Intel, ARM, Cerebras, dan d-Matrix, memastikan lapisan orkestrasi berfungsi di setiap silikon vendor. Sementara itu, d-Matrix, yang berspesialisasi dalam komputasi inferensi dalam memori untuk pusat data, bersama dengan Gimlet mengumumkan bahwa gabungan tumpukan mereka memberikan peningkatan kecepatan 10x dengan peningkatan efisiensi daya yang signifikan untuk beban kerja AI terdepan. Tully menggambarkan keseluruhan peluang ini dengan tegas: “armada multi-silikon sudah siap, hanya saja tidak memiliki lapisan perangkat lunak untuk membuatnya berfungsi.”
Gimlet menawarkan perangkat lunak dan API melalui Gimlet Cloud yang dikelolanya, dengan opsi bagi pelanggan untuk menerapkannya pada infrastruktur pusat data mereka sendiri. Target pasarnya adalah laboratorium model AI yang besar dan operator pusat data, bukan pengembang aplikasi umum.
Secara lebih luas, Asgar menggambarkan pendekatan ini sebagai cara untuk mengatasi hambatan mendasar: kecepatan kecerdasan telah menjadi kendala, dan perangkat keras yang heterogen adalah hal yang membuka lompatan kinerja berikutnya untuk kasus penggunaan seperti agen pengkodean. Beban kerja agen menambah tantangan karena mereka menyatukan beberapa panggilan inferensi, pemanggilan alat, dan pengambilan memori dalam satu sesi, sehingga menciptakan pola permintaan yang tidak dapat dilayani oleh satu jenis chip pun secara efisien.
Detail Traksi dan Pendanaan
Gimlet Labs diluncurkan dengan pendapatan 8 digit pada bulan Oktober 2025, sebuah tonggak sejarah yang tidak biasa bagi perusahaan yang bangkit dari sembunyi-sembunyi. Dalam lima bulan sejak itu, menurut siaran pers, pelanggannya meningkat tiga kali lipat di laboratorium terdepan. Gimlet kini merupakan salah satu dari tiga laboratorium terdepan dan salah satu dari tiga hyperscaler global teratas di antara kliennya, dua dari lingkungan beban kerja AI dengan volume tertinggi di industri.
Namun, mendapatkan laboratorium terdepan dan hyperscaler teratas dalam waktu lima bulan setelah peluncuran menunjukkan daya tarik perusahaan di tingkat tertinggi industri AI. Akun-akun tersebut memvalidasi kemampuan platform untuk beroperasi pada skala di mana peningkatan efisiensi yang kecil sekalipun dapat menghasilkan penghematan infrastruktur tahunan sebesar ratusan juta.
Asgar mengatakan mereka mendapat “sejumlah besar pendanaan”setelah peluncuran pada bulan Oktober. Menlo Ventures memimpin Seri A, dengan Factory, Eclipse Ventures, Prosperity7, dan Triatomic juga berpartisipasi, menurut Pengumuman pendanaan Seri A Gimlet.
Menurut pengumuman bulan Oktober 2025, Gimlet sebelumnya telah mengumpulkan putaran pendanaan senilai $12 juta yang dipimpin oleh Pabrik, sehingga menghasilkan total pendanaan sebesar $92 juta. Gimlet saat ini mempekerjakan 30 orang, sebuah tim yang ramping berdasarkan standar ambisi dan profil pelanggannya.
Selain itu, angel investor menandakan koneksi industri yang mendalam: pendukungnya termasuk Bill Coughran dari Sequoia, Profesor Stanford Nick McKeown, mantan CEO VMware Raghu Raghuram, dan CEO Intel Lip-Bu Tan. Memiliki CEO Intel yang aktif di antara para pendukungnya merupakan hal yang penting bagi perusahaan yang fokusnya bergantung pada perutean beban kerja di seluruh arsitektur chip yang bersaing.
Selain itu, Prosperity7, cabang ventura Saudi Aramco, menambahkan dimensi kekayaan negara yang mencerminkan meningkatnya minat Timur Tengah terhadap investasi infrastruktur AI. Baik eksekutif perusahaan chip maupun dana kekayaan negara yang mendukung startup yang sama menggarisbawahi betapa luasnya tesis multi-silikon bergema di berbagai kategori investor strategis.
Skala Masalah Inferensi
Keyakinan investor didasarkan pada skala pasar yang konkret. Menurut McKinsey, pengeluaran pusat data akan mencapai hampir $7 triliun pada tahun 2030, TechCrunch melaporkan, jika tren penerapan lebih banyak perangkat keras saat ini terus berlanjut. Menurut siaran pers, pada tahun 2026 saja industri ini bersiap untuk menghabiskan $650 miliar dalam belanja modal pusat data AI, sementara volume inferensi telah mencapai kuadriliun token per bulan dan masih terus berkembang.
Pada skala penerapan modal sebesar itu, peningkatan efisiensi lapisan perangkat lunak menjadi sangat berharga dibandingkan dengan peningkatan perangkat keras tambahan. Dengan latar belakang tersebut, rendahnya tingkat pemanfaatan perangkat keras yang diidentifikasi Asgar menunjukkan inefisiensi struktural senilai ratusan miliar dolar, suatu hal yang tidak dapat diperbaiki oleh pengadaan perangkat keras dari vendor tunggal saja. Gimlet bertaruh bahwa lapisan perangkat lunak yang menyatukan armada heterogen yang ada dapat mengekstraksi lebih banyak nilai dari infrastruktur yang sudah ada.
Sachin Katti, yang sebelumnya menjabat sebagai Intel Chief Technology dan AI Officer, menyatakan secara langsung:
“Industri ini mencapai batas infrastruktur AI satu ukuran untuk semua yang homogen dan terintegrasi secara vertikal. Aplikasi AI agen pada dasarnya heterogen, mempertimbangkan berbagai model, modalitas, dan sumber data.”
Sachin Katti, mantan Chief Technology and AI Officer Intel (melalui laporan beban kerja agen Gimlet)
Apakah Gimlet dapat memenuhi klaim kinerja 3x hingga 10x dalam skala besar masih harus dibuktikan di basis pelanggan yang lebih luas. Namun demikian, tim pendiri memiliki kredensial yang relevan.
Menurut perusahaan, Asgar sebelumnya adalah seorang arsitek GPU di NVIDIA dan pemimpin teknik di Google AI, memberinya pengalaman langsung dalam merancang dan menerapkan arsitektur silikon yang kini diatur oleh perusahaannya melintasi batasan vendor. Sebelum Gimlet, para pendiri sebelumnya bekerja sama di Pixie, sebuah alat observasi Kubernetes open source yang diakuisisi oleh New Relic pada bulan Desember 2020, hanya dua bulan setelah Seri A senilai $9 juta yang dipimpin oleh Benchmark.
Akuisisi cepat menunjukkan kemampuan tim untuk membangun perangkat lunak infrastruktur yang diadopsi oleh perusahaan besar dengan cepat dan dalam skala produksi. Selain Asgar, salah satu pendiri Michelle Nguyen, Omid Azizi, dan Natalie Serrino menghadirkan kedalaman teknik dan sistem yang mencakup keseluruhan infrastruktur AI modern.
