Perusahaan chip senilai 1 triliun dolar berikutnya

1.Perusahaan chip bernilai 1 triliun dolar berikutnya kemungkinan akan berasal dari akselerator inferensi era pasca-GPT, namun syarat utamanya adalah harus menjadi yang pertama memproduksi sistem tingkat-rak secara massal dan mendapatkan klien tematik terdepan.Jendela peluang saat ini semakin sempit, Tenstorrent, Etched, dan SambaNova diperkirakan akan mengirimkan rak produksi massal pada tahun 2026, dan saat ini memimpin sementara.

2.Groq dan Cerebras membuktikan bahwa meskipun arsitekturnya memiliki kelemahan, selama chip produksi massal tersedia pada waktu yang tepat dan mengalahkan GPU pada indikator kunci seperti interaktivitas, mereka dapat mencapai hasil kelas 10 miliar dolar.Saat ini, permintaan token jauh melebihi pasokan; token terdepan dengan latensi rendah sangat langka, hal ini membuka peluang serupa bagi akselerator pasca-GPT. Namun, terlambat satu tahun sangat mahal, perusahaan yang mengirim produk pada 2027 dan setelahnya akan menghadapi tantangan yang lebih besar.

Perusahaan chip bernilai 1 triliun dolar berikutnya kemungkinan akan berasal dari akselerator inferensi era pasca-GPT, namun syarat utamanya adalah harus menjadi yang pertama memproduksi sistem tingkat-rak secara massal dan mendapatkan klien tematik terdepan. Jendela peluang saat ini semakin sempit, Tenstorrent, Etched, dan SambaNova diperkirakan akan mengirimkan rak produksi massal pada tahun 2026, dan saat ini memimpin sementara.

I. Perusahaan Chip Bernilai 1 Triliun Dolar Berikutnya

Jawabannya mungkin lebih sederhana daripada yang Anda bayangkan. Etched, Fractile, MatX, Positron, Rebellions, SambaNova, Tensordyne, Tenstorrent, dan lainnya.

Dalam satu tahun terakhir, dua startup chip AI meraih hasil finansial luar biasa.Groq diakuisisi dengan nilai 20 miliar dolar, Cerebras mempunyai nilai pasar lebih dari 40 miliar dolar setelah IPO. Skala cukup besar, namun belum mencapai 1 triliun dolar. Dalam lingkungan saat ini, jika sebuah sistem yang berfokus pada inferensi, mampu menjalankan model terdepan dan mengembangkan daya komputasi hingga tingkat gigawatt, dapat tumbuh skala serta terus berkembang dan go public, memang ada peluang mencapai nilai pasar 1 triliun dolar.

Namun arsitektur yang digunakan Groq dan Cerebras tidaklah sempurna.Keduanya dirancang sebelum model bahasa besar menjadi tren, pilihan desain awal tidak cocok untuk model saat ini. Saya menyebut mereka sebagai akselerator "pra-GPT".

Contoh paling terkenal, ini telah dibahas luas, adalah mereka hanya menggunakan SRAM.Bahkan untuk melayani satu model kecil, diperlukan banyak rak Groq; sedangkan keajaiban wafer-scale Cerebras yang mengintegrasikan 900.000 core di satu chip silicon, tetap tidak mampu menampung seluruh bobot model terdepan dalam satu wafer, sehingga harus diperluas ke beberapa sistem wafer-scale. Kurang ekonomis, cache KV sulit berkembang lancar, dan sebagainya.

Jujur saja, setelah meneliti detail teknik tersebut, saya pernah mengira perusahaan-perusahaan ini tidak punya harapan di bidang model bahasa besar.Tentu saja, adil untuk berkata, sepuluh tahun lalu siapa yang bisa memprediksi model bakal berkembang sebesar ini? Namun tanpa memori bandwidth tinggi untuk mendukung konteks panjang... bagaimana mereka bisa bertahan? Semakin panjang konteks, semakin baik... sulit untuk berkembang?

Kuncinya adalah, kedua perusahaan saat itu sudah punya chip siap diproduksi.Apapun kelemahan arsitektur SRAM murni, mereka unggul dari GPU pada satu indikator kinerja utama: interaktivitas. Seperti yang jelas diperlihatkan Jensen kepada kita, menjalankan decoding dengan chip SRAM membuka kemungkinan baru pada Pareto frontier 2026:

Inilah alasan mereka meraih hasil kelas 10 miliar dolar.Ratusan miliar dolar, cukup gila, bukan!

Saya pernah benar-benar salah, mengira kelemahan arsitektur akan menghalangi kesuksesan mereka.

Jika menengok ke belakang, apa yang paling penting?Timing.

Saat Nvidia datang, Groq sudah memasuki produksi massal; saat OpenAI mendekat, Cerebras juga demikian.Lupakan semua kelemahan arsitektur itu. Jika Anda bisa mengirim produk dan membuka Pareto frontier baru, hal baik akan terjadi. Nyatanya, saya sempat berpikir masalah utama Groq dan Cerebras adalah terlalu dini, memutuskan desain sebelum Transformer menjadi tren. Terlalu awal sama dengan salah...

Benar, memulai lebih awal hampir membuat mereka tumbang; dua perusahaan ini pernah hampir kehabisan dana.Tapi memulai lebih awal juga merupakan seluruh keunggulan mereka, karena saat gelombang inferensi yang tak diduga datang, mereka sudah memiliki chip yang siap diproduksi massal. Namun, sebelum Meta merilis Llama, keduanya tetap berada di status default "mati". Llama adalah model bahasa besar open weight pertama yang benar-benar usable; inilah yang membuat Groq dapat menunjukkan kepada dunia betapa hebatnya pengalaman chatbot berkecepatan tinggi.

Sekali lagi, yang penting sebenarnya cuma dua hal: memiliki chip produksi massal pada waktu yang tepat, dan mencapai Pareto frontier yang tidak dapat dicapai GPU.Kemudian, Dynamo dari Nvidia memberi tambahan, memisahkan beban kerja sehingga tugas decoding yang terhambat memori dapat dijalankan di chip SRAM.

II. Era Pasca-GPT

Jika era pertama inferensi adalah milik GPU, maka Groq dan Nvidia melalui inferensi GPU+LPU membuka era berikutnya.Namun, akan datang era baru: akselerator era pasca-GPT. Mulai dari perkalian matriks, interkoneksi hingga hierarki memori, sistem tingkat-rak ini dirancang khusus untuk inferensi model bahasa besar sejak hari pertama.

Ada banyak startup di bidang ini, belum lagi chip custom XPU seperti Maia, MTIA, Trainium, dan lainnya.Lalu, siapa dari mereka yang bisa menjadi Groq atau Cerebras berikutnya, mendapat klien utama dan berhasil diakuisisi atau IPO?

III. Apa yang Dibutuhkan untuk Menjadi Perusahaan Chip Bernilai 1 Triliun Dolar Berikutnya

Jika ada pelajaran yang kita dapat sejauh ini, itu adalah tidak perlu terlalu terobsesi dengan arsitektur teknik.Tentu, dalam jangka panjang arsitektur penting, namun dalam lingkungan permintaan saat ini, pesaing hanya perlu memenuhi empat kriteria berikut:

1. Mampu menjalankan model terdepan dengan 1T+ parameter
2. Mampu mengirim sistem tingkat-rak
3. Mengalahkan pemimpin pasar saat ini pada indikator kinerja utama
4. Mendapatkan klien terdepan sebagai anchor

Mampu menjalankan model terdepan dengan 1T+ parameter.Model terdepan adalah tempat realisasi nilai dan ekspansi skala terjadi, karenanya klien terdepan paling berminat dan punya motivasi untuk melakukan deployment akselerator era pasca-GPT secara skala besar. Sistem yang tidak mampu menjalankan model 1T parameter hanya bisa bersaing di pasar sub-terdepan. Saya optimis atas kegunaan model sub-terdepan, khususnya untuk dunia enterprise, namun potensi skala pasarnya lebih kecil; itu tidak bisa menjadi Groq atau Cerebras berikutnya.

Mampu mengirim sistem tingkat-rak.Kompetisi inferensi tingkat gigawatt berbasis rak. Untuk menang, sistem rak dari akselerator harus didesain dan dideploy secara cepat dan andal.

Mengalahkan pemimpin pasar saat ini pada indikator kinerja utama secara jelas.Penantang tak perlu terbaik di segalanya, tapi harus menang satu aspek dengan margin yang besar.

Mendapatkan klien terdepan sebagai anchor.Penantang harus menemukan klien yang serius menerapkan skala gigawatt, mengadopsi roadmap, dan bersedia menjalin hubungan jangka panjang. Laboratorium model atau cloud hyperscaler adalah pilihan terbaik, bisa saja pengusaha cloud besar baru, tapi kecil kemungkinan klien utama berasal dari pemerintah.

Tentu saja, dukungan software hanyalah syarat dasar.

Selain itu, saya rasa perkara memang sesederhana itu.

Tepat, detail teknis memang penting, termasuk kuantisasi, hierarki memori, skala ekspansi vertikal, dan sebagainya.Tapi secara jujur, untuk saat ini, pentingnya hanya pada apakah bisa memunculkan performa diferensiasi, yaitu "mengalahkan pemimpin pasar saat ini pada indikator kinerja utama". Arsitektur tiap pesaing bisa dianalisa secara terbuka; di sini, cukup menilai dari performa indikator kunci yang dihasilkan.

Ini adalah periode yang unik.Kebutuhan token jauh melebihi pasokan, sedangkan token terdepan dengan latensi rendah sangat langka, sebab GPU tak mampu mengikuti kebutuhan, atau hanya bisa mengejar throughput dengan biaya ekonomi rendah. Kelangkaan token berinteraksi tinggi ini membuat "chip produksi massal dan arsitektur cukup baik" menjadi kunci kemenangan Groq dan Cerebras.

Namun peluang ini terbatas waktu; jendela peluang pernah muncul, dan Groq/Cerebras memanfaatkannya.Menjadi yang pertama sangat krusial.

Jadi, pertanyaan berikutnya: apa jendela peluang selanjutnya, siapa yang akan tiba paling dulu?

Mungkin kita hanya butuh menjawab satu pertanyaan: siapa yang paling cepat deploy akselerator inferensi pasca-GPT dengan kapasitas 1 gigawatt?

Untuk menjawab pertanyaan ini, berikut isi sisa artikel.

1. Kompetisi terdepan: urutkan 11 perusahaan berdasarkan waktu pengiriman rak terdepan, disajikan dalam ranking dan timeline
2. Tenstorrent breakdown lengkap: satu-satunya perusahaan yang sudah menyediakan rak tingkat terdepan, juga contoh gratis konten due diligence
3. Breakdown 10 perusahaan lainnya: nilai satu per satu dan cantumkan sumbernya, mencakup penantang terdepan, kartu ekspansi decoding dan produk kelas sub-terdepan
4. Bukti: dari 8 perusahaan tingkat terdepan, hanya 2 yang punya data pihak ketiga yang terpercaya
5. Siapa yang betul-betul berpeluang menjadi perusahaan chip bernilai 1 triliun dolar berikutnya, serta argumen yang mendefinisikan ulang keseluruhan ranking

IV. Kompetisi Terdepan: Siapa yang Bisa Mencapai Skala Rak Terlebih Dulu

Jadi, "startup mana yang bisa melampaui 4 ambang batas ini?Bagaimana urutan pengiriman produk yang paling awal?" Mari kita lihat. Saya mengurutkan waktu yang dinyatakan tiap perusahaan untuk mengirim produk tingkat terdepan berskala rak. Perlu kehati-hatian, dan ingat, di sini belum membahas performa, hanya membandingkan waktu pengiriman chip seperti yang diakui mereka.

Perlu diperhatikan, banyak perusahaan sudah meluncurkan produk, tapi produk awal tersebut adalah kelas sub-terdepan dan kemudian beralih bertahap menuju rak skala model bahasa besar modern terdepan.Karena itu, saya hanya fokus pada waktu pengiriman produk yang memiliki kemampuan terdepan menurut roadmap mereka.

Jika kita menelusuri semua sumber terbuka, termasuk rilis pers, blog, dan podcast, hasilnya sebagai berikut:

Visualisasinya seperti berikut:

Namun perlu diperjelas, setiap item di atas adalah tonggak rak atau sampel pertama saja, bukan data tingkat gigawatt.Menurut saya, rak pertama penting, tapi waktu yang dibutuhkan sampai mencapai gigawatt paling krusial.

Rak pertama membuktikan sistem dapat berjalan, tapi skala gigawatt membuktikan perusahaan mampu beroperasi.

Siapa yang Bisa Mengirim Produk di Tahun 2026, Siapa yang Tidak?

Tenstorrent, Etched, dan SambaNova akan mengirim rak produksi massal tahun 2026.

Positron, Tensordyne, dan Rebellions tertinggal 1 tahun.Rebellions mengklaim akan mengirim produk tahun 2026, namun REBEL mereka yang kelas terdepan masih tahap sampel, jadi rak produk riil kemungkinan baru datang tahun 2027.

Fractile dan MatX tertinggal 2 tahun.Roadmap kedua perusahaan mencantumkan tonggak tahun 2027, tapi itu hanya sampel dan peluncuran awal, bukan pengiriman produksi massal berskala. Klien mendapatkan rak produksi massal, lebih realistis, mungkin baru tahun 2028.

Dalam lingkungan kekurangan pasokan seperti ini, terlambat satu tahun sangatlah mahal.Bukan berarti perusahaan yang mengirim produk tahun 2027 dan setelahnya secara teknis kurang kompetitif, atau dalam jangka panjang tidak bisa dapat klien besar. Toh, cukup dapat satu klien besar saja untuk skala. Tapi hanya yang turun gelanggang yang bisa ikut bersaing! Sehebat apapun arsitektur, kalau tidak masuk lapangan, bukan pesaing riil.

Siapa yang Akan Turun Gelanggang Terlebih Dulu?

Tenstorrent mengklaim "saat ini sedang mengirimkan chip produksi massal".Ini menjanjikan! Tapi bagaimana dengan klien? Tenstorrent sudah mendapat pelanggan cloud baru dan pemerintah; namun belum mengumumkan laboratorium terdepan atau pelanggan hyperscaler cloud besar. Mampukah pelanggan awal mendorong Tenstorrent ke skala gigawatt? Akan dibahas lebih lanjut pada breakdown di bawah ini.

Akuisisi bisa mempercepat Tenstorrent masuk pasar, sebab perusahaan chip besar telah punya relasi dengan cloud hyperscaler.Menurut laporan, Qualcomm pada pertengahan Juni sempat menimbang transaksi sekitar 8 sampai 10 miliar dolar. Tapi kabarnya Keller baru-baru ini membantah negosiasi dengan Qualcomm, jadi jalur ini tampaknya sedang dingin.

Etched kini lebih kompetitif dari beberapa bulan sebelumnya.Mereka mengklaim akan mengirim produk tingkat rak musim panas ini, jauh lebih awal dari MatX dan Fractile. Saya pikir Etched sempat dianggap gugur, tapi ternyata masih aktif dan merasa berada di barisan pertama.

Patut dicatat, Etched bicara soal skala gigawatt.Perusahaan mengklaim "sudah punya jalur mencapai skala gigawatt 2027", membangun infrastruktur perusahaan, termasuk pabrik di Taiwan, pusat data, fasilitas pengujian, dan lab prototipe di San Jose. Cofounder Rob Wachen dalam rilis pers berkata: "Cara kami membangun sejak awal adalah untuk skala gigawatt... Produksi massal adalah produk."

Etched belum mengumumkan klien spesifik, namun menyebut sudah menandatangani kontrak di atas 1 miliar dolar.Yang dimaksud "jalur menuju skala gigawatt" dan "untuk skala gigawatt" tampaknya berarti klien target adalah perusahaan dengan skala tersebut.

Etched benar-benar bisa mencapai skala gigawatt tahun 2027 masih perlu dibuktikan, namun jika mereka ingin ikut kompetisi 1 triliun dolar, setidaknya sudah membidik target yang benar.

SambaNova juga mengklaim, rak SN50 kelas terdepan akan deploy pada paruh kedua 2026.Jika semua, SambaNova, Etched, dan Tenstorrent, benar-benar mengirim rak kompetitif, akhir 2026 dan awal 2027 bakal sangat menarik!

Sejauh ini, pelanggan SambaNova yang diumumkan termasuk korporasi Morgan Stanley dan Softbank, dan jelas ini bukan deployment gigawatt.

SambaNova telah menandatangani kontrak multi-tahun dengan Morgan Stanley. Liang mengatakan, "Ini terobosan karena sebagian besar vendor belum tahu cara masuk pasar korporasi. Pasar korporasi akan sangat penting; mungkin bukan 100%, tapi akan menjadi kekuatan yang tak bisa diabaikan dan kami mulai melihat tren tersebut." Liang menyatakan, pelanggan korporasi ingin hosting model privat dan data privat di lingkungannya sendiri, dan lingkungan seperti itu tidak mungkin berupa data center gigawatt.