Kepala Nvidia di podcast All-In mengungkapkan pendapatnya tentang ke mana arah teknis industri dan bagaimana proses pengembangan akan berubah:

⚙️ AI sebagai sistem operasi baru
Huang mendefinisikan AI modern bukan sebagai model, layanan, atau perpustakaan, tetapi sebagai komputer pribadi yang lengkap. Ini benar-benar OS baru yang dapat mengelola sumber daya, melakukan perencanaan, memiliki subsistem I/O dan API untuk menjalankan banyak aplikasi.

🔐 Perangkat lunak agen dan keamanan
Industri beralih ke sistem yang dapat secara mandiri mengeksekusi kode, mengakses basis data, dan berkomunikasi dengan dunia luar. Huang menekankan: ketika Anda memiliki perangkat lunak agen seperti itu, keamanan menjadi prioritas utama. Arsitektur harus menjamin perlindungan privasi dan isolasi proses yang ketat secara perangkat keras dan perangkat lunak ketika agen mendapatkan akses ke informasi sensitif.

📈 Pertumbuhan komputasi eksponensial
Evolusi AI membutuhkan peningkatan daya komputasi yang berlipat ganda pada setiap tahap:
▪️ Transisi dari generasi dasar ke model dengan penalaran (reasoning) membutuhkan peningkatan sumber daya komputasi sekitar 100 kali lipat.
▪️ Transisi dari model penalaran ke sistem agen (agentic) yang lengkap akan membutuhkan tambahan x100 daya komputasi di atasnya.

👨‍💻 Paradigma pemrograman baru
Proses pembuatan perangkat lunak itu sendiri berubah secara fundamental. Menurut Huang, menulis kode secara manual sudah ketinggalan zaman. Dalam realitas baru, tugas insinyur akan berkisar pada:
▫️ Merancang arsitektur sistem.
▫️ Menulis spesifikasi dan ide yang tepat.
▫️ Mengatur "tim" agen AI dan merutekan tugas di antara mereka.
▫️ Menentukan metrik evaluasi (evaluation metrics) — formalisasi ketat tentang apa yang merupakan keberhasilan penyelesaian tugas untuk sistem tertentu, dan apa yang merupakan kesalahan.

🤑 Dan yang terpenting
Huang menyatakan bahwa token — adalah investasi dalam produktivitas. Dan jika seorang insinyur dengan gaji $500k tidak menghabiskan SETIDAKNYA $250k untuk token — itu adalah sinyal yang mengkhawatirkan.
"Siapa penerima manfaatnya" — Anda bertanya?

Siap bertaruh setengah gaji bahwa dalam beberapa waktu kita akan memberikan setengah gaji untuk perangkat AI?