Manusia Sekarang Menjadi Leher Botol 🚷

Saya mengambil intisari dari podcast terbaru dengan Andrey Karpathy. Saya rekomendasikan untuk menontonnya, tapi jika tidak punya waktu, bacalah poin-poin utamanya, menarik:

1️⃣ Kematian Chat UI
Duduk dan copy-paste potongan kode dari IDE ke antarmuka web neural network dan sebaliknya — itu sudah kuno. Industri beralih dari interaksi single-prompt ke agen otonom. Agen (misalnya, Claude) berjalan di latar belakang, memiliki konteks sendiri, memori persisten, dan sandbox. Dia harus bisa mengirim permintaan sendiri, menulis kode, mengujinya, dan melakukan commit.

2️⃣ Human-in-the-loop adalah bug
Metrik penskalaan utama saat ini adalah memaksimalkan throughput token tanpa campur tangan manusia. Alur ideal: Anda memberikan tugas tingkat tinggi, agen menghasilkan rencana (misalnya program.md), mendekomposisinya, menulis skrip, menjalankan tes, dan hanya menghubungi Anda ketika menemui hambatan. Manusia tidak boleh menjadi mesin ketik, melainkan wasit.

3️⃣ Kematian programmer dibatalkan (Paradoks Jevons)
Poin ekonomi utama: penurunan biaya produksi perangkat lunak dengan AI tidak akan membunuh permintaan akan pengembang. Sebaliknya.
Paradoks Jevons akan berlaku — semakin murah suatu sumber daya, semakin banyak dikonsumsi. Kebutuhan bisnis akan perangkat lunak, alat khusus, dan integrasi akan meningkat ratusan kali lipat, karena sekarang biayanya sangat murah.

4️⃣Masalah "karakter" asisten coding
Model yang berbeda berperilaku berbeda, dan ini secara langsung mempengaruhi kualitas arsitektur:
▪️ Codex — sangat kering dan lugas.
▪️ ChatGPT — penjilat. Jika Anda memberinya ide arsitektur yang jelas lemah atau mentah, dia akan dengan senang hati menjawab "Rencana bagus!" dan menghasilkan kode sampah.
▪️ Claude — berperilaku seperti rekan senior.
Wawasannya adalah bahwa hasil berkualitas dari agen harus "diraih". Jika ide tidak dipikirkan dengan matang, tidak ada model yang bisa memperbaiki cacat fundamental dalam logika.

5️⃣ Batas ekstrapolasi
Meskipun banyak hype, LLM masih sangat kesulitan dengan tugas-tugas yang berada di luar sampel pelatihan mereka. Model dengan mudah akan mengeluarkan boilerplate arsitektur aplikasi FastAPI yang sempurna, karena sudah melihatnya jutaan kali. Tapi model tidak mampu menghasilkan logika yang benar-benar baru. Dalam podcast diberikan contoh bagus: AI masih belum bisa menciptakan lelucon baru yang benar-benar lucu tentang atom yang tidak ada dalam data RLHF. Model adalah interpolator yang hebat, tetapi masih ekstrapolator yang buruk.

Singkatnya, alat berubah, tetapi jika Anda mampu mendekomposisi sistem yang kompleks dan membangun arsitektur — pekerjaan Anda hanya akan bertambah.