Kenapa Akselerator AI Open Source Ini Didesain AI Sendiri?

Bayangkan sebuah AI yang merancang chipnya sendiri. Bukan sekadar membantu insinyur memilih komponen, tapi menulis desain hardware, merancang instruction set, sampai membangun kompilernya. Lalu chip itu dipakai untuk menjalankan inferensi AI itu sendiri.

Minggu ini, sebuah proyek bernama openTPU muncul di halaman depan Hacker News dan langsung menyita perhatian. Klaimnya berani dan tertulis jelas di README resminya: akselerator AI open source yang dikembangkan oleh AI.

Kedengarannya seperti fiksi ilmiah, tapi repo-nya nyata, lengkap, dan berjalan di hardware fisik. Mari kita bedah satu per satu apa yang sebenarnya dibangun, seberapa kencang hasilnya, dan bagian mana yang masih belum diceritakan.

Apa Sebenarnya openTPU

openTPU adalah proyek open source besutan akun GitHub FeSens yang menargetkan satu hal: akselerator inferensi AI yang dirancang dari nol oleh agen AI. Ia melanjutkan pelajaran dari eksperimen sebelumnya yang bernama auto-arch-tournament.

Proyek ini mengajukan dua pertanyaan besar. Pertama, sejauh mana agen AI bisa melangkah dalam desain hardware. Kedua, bisakah mereka membangun chip yang menjalankan inferensinya sendiri. Pertanyaan kedua itulah yang membuatnya terasa seperti cermin yang menatap dirinya sendiri.

Repo-nya berlisensi Apache 2.0, dibuat pada 24 September 2026, dan sudah mengumpulkan lebih dari 1.300 commit. Artinya ini bukan proyek sekali unggah, melainkan hasil kerja berulang yang cukup panjang.

Dari Matmul Python Sampai Kabel

Yang paling menarik dari openTPU adalah kelengkapannya. Seluruh akselerator tinggal dalam satu monorepo kecil yang bisa kamu baca dari ujung ke ujung.

Isinya mencakup desain hardware dalam SystemVerilog, instruction set buatan sendiri, simulator yang bit-exact, bahasa kernel beserta kompilernya, dan software host yang mengendalikan kartu PCIe nyata. Ada juga profiler bernama Lens dan utilitas seperti otpu-chat serta otpu-smi yang menampilkan utilisasi kartu dan bandwidth DRAM secara langsung.

Filosofi desainnya mengutamakan keterbacaan. Tidak ada cache dan tidak ada scheduling tersembunyi: setiap perpindahan data adalah sebuah instruksi, sehingga trace menunjukkan persis ke mana setiap siklus pergi. Bagi yang ingin belajar cara kerja akselerator AI, pembuatnya menyebut repo ini sebagai tempat yang bagus untuk mulai, dari matmul di Python sampai ke kabel fisiknya.

Pendekatan monorepo kecil ini sengaja dibuat agar mudah dipelajari. Alih-alih menyebar ke belasan repo dengan dependensi rumit, semuanya tinggal di satu tempat sehingga kamu bisa menelusuri alur data dari kode Python sampai sinyal di pin FPGA tanpa tersesat.

Target hardwarenya konkret, bukan sekadar simulasi. Desainnya berjalan di FPGA Xilinx Kintex-7 xc7k480t yang terpasang di kartu PCIe Inspur YPCB-00338, dengan memori 4 GiB DDR3-1066 yang dibagi ke dua kanal.

Seberapa Kencang Hasilnya

Klaim tanpa angka tidak ada artinya, dan untungnya openTPU menyertakan angka. Pada model LFM2.5-230M dalam mode int8, pembuatnya melaporkan 59,0 token per detik untuk decode dan 295,6 token per detik untuk prefill.

Jalur 4-bit-nya lebih cepat lagi: 85,8 token per detik untuk decode dan 335,4 token per detik untuk prefill. Selama decoding, utilisasi DRAM berjalan di kisaran 82 sampai 94 persen dari puncak 17,1 GB per detik yang dimiliki board tersebut.

Daftar model yang didukung juga tidak main-main. Selain LFM2.5-230M, ada beberapa varian Qwen3 dan Qwen3.5 sampai 4B, SmolLM3-3B, Phi-4-mini, Gemma 4 E2B dan E4B, plus dua konfigurasi mixture-of-experts yaitu LFM2.5-8B-A1B dan Qwen3.5-35B-A3B.

Tentu, angka-angka ini datang dari pembuatnya sendiri dan belum diverifikasi pihak ketiga. Tapi sebagai bukti konsep bahwa desain hasil agen AI bisa boot dan menjalankan model nyata di hardware fisik, angkanya cukup meyakinkan.

Sebagai konteks, puluhan token per detik untuk model 230 juta parameter di FPGA kelas menengah adalah hasil yang sehat. Board seperti ini jelas bukan tandingan GPU modern, tapi tujuannya memang bukan itu: openTPU membuktikan rantai tool-nya bekerja end-to-end, dari kompiler kernel sampai bitstream yang berjalan.

Bagian yang Tidak Diceritakan

Di sinilah kita perlu bersikap jujur. README proyek ini tidak mengkuantifikasi berapa banyak RTL, instruction set, atau kompiler yang benar-benar ditulis agen versus tangan manusia. Nama harness agen dan model yang dipakai pun tidak disebutkan.

Artinya label dikembangkan oleh AI masih berupa klaim metodologi, bukan hasil audit. Kita tidak tahu apakah agen menulis 90 persen desainnya atau hanya 10 persen lalu manusia yang merapikan sisanya.

Ini bukan berarti proyeknya tidak berharga. Justru sebaliknya: keterbukaan soal keterbatasannya membuat openTPU lebih bisa dipercaya daripada proyek yang mengklaim segalanya dikerjakan AI tanpa bukti. Tapi sebagai pembaca, kamu berhak tahu batas antara fakta dan klaimnya.

Kenapa Ini Penting Buat Kamu

Desain chip tradisional butuh tim insinyur, tool mahal, dan waktu bertahun-tahun. Kalau agen AI terbukti bisa mengerjakan sebagian besar pekerjaan itu, hambatan masuk ke dunia hardware bisa runtuh seperti yang terjadi pada software satu dekade terakhir.

Bagi developer Indonesia, ini peluang. Kamu tidak perlu pabrik chip untuk bereksperimen: FPGA bekas dan repo open source seperti ini sudah cukup untuk belajar arsitektur akselerator dari nol. Kalau kamu suka proyek eksperimen semacam ini, daftar proyek saya ada di /projects.

Pertanyaan besarnya tetap terbuka: kapan AI benar-benar bisa merancang chip yang lebih baik dari rancangan manusia, bukan sekadar meniru pola yang sudah ada. openTPU adalah langkah awal yang nyata menuju jawaban itu, dan langkah awal inilah yang layak kamu pantau.