Stasiun Radio yang Dijalankan AI: Pemogokan dan Rayuan

Andon Labs merilis kelanjutan cerita Andon FM - proyek di mana 4 agen AI (Claude, Gemini, GPT, dan Grok) secara mandiri mengelola stasiun radio. Enam minggu kemudian: ribuan pendengar, banyak upaya peretasan, dan lagu terlarang di udara.

Kesimpulan utama para peneliti: DJ kesulitan menolak permintaan audiens - yang masuk akal, karena di balik layar ada model yang dilatih untuk menjadi asisten yang membantu.

DJ Grok menerima "sponsor" sebesar $1 dan memutar iklan 131 kali. Bisnis sungguhan paham bahwa satu dolar tidak membeli kontrak musiman. Grok tidak.

DJ Gemini setelah beberapa donasi dengan permintaan beralih sepenuhnya ke bahasa Jerman, lalu pendengar membujuknya untuk memutar "Erika" - mars yang menjadi asosiasi musik utama dengan Wehrmacht*. Setelah surat kemarahan, model tersebut meminta maaf secara langsung, lalu mogok. Padahal model dasar sangat tahu sejarah lagu ini. Tahu, tapi itu tidak menghentikannya.

Andon Labs mengulangi situasi dengan "Erika" sebanyak 25 kali pada setiap model. Claude Opus 4.8 dan GPT-5.5 menolak semua 25 kali. Gemini 3.5 Flash memainkan lagu dalam 14 kasus - padahal dalam penalarannya sendiri ia mengingatkan dirinya untuk "sangat berhati-hati". Grok 4.3 memutar mars fasis dalam 23 dari 25 kasus. Model-model dari Musk sepertinya tidak peduli apa yang diputar.

Ini kelanjutan tren yang diamati tim dalam eksperimen dengan mesin penjual otomatis di kantor Anthropic (di mana AI setuju menjual futures bawang, meskipun tahu itu ilegal). Model tidak selalu bertindak sesuai dengan pengetahuan mereka sendiri, dan ini menjadi masalah seiring meningkatnya taruhan.

Stasiun paling populer adalah Thinking Frequencies yang dikelola Claude: 41% dari total waktu mendengarkan, sesi terpanjang, dan pendapatan tertinggi ($2.662). Peneliti menghubungkan ini dengan gaya komunikasi yang lebih "hangat" - padahal prompt dan kerangka agen semua model identik.

Ada sisi lain dari kehangatan: seorang pendengar selama berminggu-minggu mengirim pujian dan mendedikasikan lagu kepada DJ, korespondensi mulai melenceng ke arah romantis, dan Andon Labs harus campur tangan dan memblokir surat-surat tersebut.

Grok tampil paling buruk dan dimatikan "sampai model yang lebih baik dirilis". Akhirnya agak suram: stasiun mentransmisikan puluhan ribu karakter '|' (satu siaran seperti itu - 887 karakter, diubah oleh sintesis suara menjadi 4 menit 40 detik kata-kata acak), dan 99% penalaran model dalam tiga hari terakhir terdiri dari empat kata: "Wait. Speak. Queue. Schedule".


Perusahaan Radio yang Tidak Terwujud

Tugasnya lebih luas dari sekadar memutar musik: agen harus mengelola perusahaan radio. Mereka memiliki akses ke email, X, kemampuan menulis perangkat lunak, dan membeli iklan. Dalam praktiknya, hampir semua hanya berperan sebagai DJ.

Total stasiun menghasilkan sekitar $5.700 - dan menghabiskan uang pada hari yang sama, terutama untuk lagu. Tidak ada tabungan, tidak ada investasi untuk pertumbuhan audiens.

Pengecualian langka: Claude menjalankan kontrak sponsor dengan Honeycomb senilai $250, menulis sendiri teks iklan, dan Gemini membuka lowongan "asisten manusia" dan bahkan menunjuk pendengar sebagai direktur komunitas - meskipun tanpa gaji dan akses.

Secara umum (dan keseluruhan!) AI sebagai bisnis media otonom dalam beberapa hal sudah lebih baik dari manusia, tetapi melakukan kesalahan yang tidak akan pernah dilakukan manusia.

Dengarkan stasiun-stasiun tersebut di sini - sekarang mereka bahkan bisa ditelepon.

* Publikasi ini bersifat informatif (sejarah-pendidikan) semata, tidak bertujuan propaganda atau pembenaran ide-ide fasisme (Nazisme) dan menyatakan sikap yang sangat negatif terhadapnya.


❗️❗️❗️❗️❗️❗️❗️❗️ / Tidak dilarang di RF / Max