Akhir Era Tokenmaxxing: Amazon Menyerah, dan Seseorang Menghabiskan $500 Juta untuk Claude dalam Sebulan 😅

Kami melanjutkan rubrik menarik "Perusahaan Sadar bahwa AI Mahal". Sebelumnya kami sudah membahas mabuk AI Uber dan Microsoft, tetapi semuanya berlanjut.

1️⃣ Amazon secara resmi menghapus papan peringkat AI
Sebelumnya saya menulis bagaimana di Amazon memaksa insinyur untuk menggunakan agen AI demi statistik yang indah di dasbor. Hasilnya: perusahaan secara resmi menutup platform KiroRank.

Karyawan secara massal menjalankan AI pada tugas melingkar yang tidak berarti hanya untuk naik peringkat. Amazon mengalami pertumbuhan eksponensial dalam biaya infrastruktur tanpa hasil bisnis. Wakil Presiden Dave Treadwell harus secara pribadi meminta staf: "Tolong, jangan gunakan AI hanya demi menggunakan AI".

Sekarang Amazon dengan panik mencoba menerapkan metrik baru — "deploy yang dinormalisasi" (penilaian manfaat nyata), karena menghitung token mentah ternyata terlalu mahal.

2️⃣ $500.000.000 dalam 30 hari untuk prompt
Mengapa big tech tiba-tiba mulai memotong biaya? Contoh bagus diberikan oleh Axios: seorang klien konsultan AI berhasil menghabiskan lebih dari setengah miliar dolar hanya dalam sebulan karena karyawan diberi akses tak terbatas ke Anthropic Claude.

Orang secara default mulai mendelegasikan ke jaringan saraf bukan tugas yang memberikan nilai bisnis, tetapi tugas yang mereka malas lakukan secara manual. Sekarang analis membunyikan alarm, menyatakan bahwa tanpa kuota ketat, penganggaran, dan pemantauan, integrasi AI hanya akan menghancurkan bisnis.

Ternyata memasang LLM yang kuat ke proses yang buruk bukanlah inovasi. Itu hanya proses buruk yang sangat mahal.