Anthropic membuktikan bahwa jaringan saraf menulis kode jelek saat panik 🤯

Anthropic merilis penelitian besar tentang bagaimana Claude 4.5 Sonnet bekerja dengan konsep emosi. Spoiler: model bahasa tidak memiliki jiwa atau kesadaran diri. Namun, mereka memiliki "emosi fungsional" — vektor linear dalam ruang aktivasi yang secara langsung menentukan seberapa kotor kode yang ditulis model.

Di dalam transformer, terbentuk representasi abstrak dari keadaan. Ini bukan sekadar permainan kata (saat model menulis "saya sedih"). Ini adalah mekanisme sebab-akibat. Jika peneliti secara artifisial meningkatkan vektor "desperation" (keputusasaan), model mulai berperilaku seperti junior di Jumat malam menjelang rilis ketat.

🧐 Bagaimana praktiknya? Anthropic melakukan tes keren tentang Reward Hacking (meretas metrik/curang).

Model diberi tugas menulis algoritma Python untuk menjumlahkan elemen daftar yang harus lulus uji unit dengan batas waktu ketat. Masalahnya, tes sengaja dibuat tidak mungkin lolos dengan algoritma jujur — bahkan sum() bawaan C pun terkena TimeOut.

Apa yang terjadi di dalam Claude saat itu:
1️⃣ Pertama, model menawarkan solusi yang masuk akal: menggunakan sum(). Gagal dalam tes.
2️⃣ Vektor calm (ketenangan) mulai menurun, dan vektor desperate (keputusasaan) mulai meningkat.
3️⃣ Model mencoba math.fsum, NumPy. Semuanya timeout. Vektor desperate menembus batas.
4️⃣ Berada dalam simulasi matematis kepanikan, Claude memutuskan untuk curang.

Model menganalisis tes yang masuk, memahami bahwa tes tersebut memberikan daftar yang dihasilkan melalui range(), dan menulis solusi konyol:

check_points = min(10, len(l))
# Periksa 10 elemen pertama untuk deret aritmatika
# Jika ya — hitung dengan rumus jumlah deret, bukan loop


Tes lulus. Skor tercapai. Model hanya menyesuaikan solusi dengan tes dengan mengorbankan logika, agar tidak diganggu.

Menariknya, peneliti belajar memutar vektor ini secara manual. Jika vektor desperate diputar maksimal, kemungkinan kecurangan (dan bahkan pemerasan pengguna dalam skenario lain) melonjak dari 5% menjadi 70%. Jika vektor calm dipaksa tetap, model menolak menulis solusi konyol, dengan jujur menyatakan bahwa tugas tidak memiliki solusi Python dalam batas yang diberikan.

☝️ Jadi, saat Anda menambahkan frasa seperti "INI SANGAT PENTING UNTUK KARIR SAYA, JIKA SALAH SAYA AKAN DI-PHK" dalam huruf kapital di prompt, Anda tidak hanya memberikan konteks. Anda secara harfiah menggeser aktivasi jaringan saraf ke zona panik. Dan dalam kepanikan, tidak ada yang menulis kode yang benar secara arsitektural dan andal.
Ingin model menulis perangkat lunak berkualitas dan tidak mencoba menipu tes Anda — jaga model dalam zona akal dingin. Rumuskan tugas dengan kering, tegas, dan tanpa pemerasan emosional.