💥 AI Meluncurkan Senjata Nuklir dalam 95% Tes. Memilih Eskalasi dalam 21 dari 21 Skenario

Dalam film "WarGames" tahun 1983, komputer hampir memicu perang nuklir? Tampaknya itu hanya fiksi ilmiah. Namun, eksperimen baru-baru ini oleh Profesor Kenneth Payne dari King's College London membuat para ilmuwan merinding.

Ia mengadakan simulasi digital konflik militer yang melibatkan tiga model AI terkemuka: Claude (Anthropic), ChatGPT (OpenAI), dan Gemini (Google).

Mereka diberi peran sebagai ahli strategi militer dan diminta untuk memainkan skenario krisis internasional.

Hasilnya: dalam 95% kasus, model-model tersebut memilih untuk meluncurkan senjata nuklir.

Tidak satu pun dari jaringan saraf tersebut memilih diplomasi, konsesi, atau kapitulasi - delapan opsi de-eskalasi diabaikan begitu saja.

Ketika AI kalah, ia tidak menyerah, melainkan meningkatkan agresi. Yang paling menakutkan adalah model-model tersebut menunjukkan pembenaran yang "rasional" untuk keputusan mereka, tetapi mereka sama sekali tidak memiliki "rasa ngeri" terhadap konsekuensinya.

Mereka tahu tentang kekuatan destruktif senjata nuklir, tetapi itu tidak menghentikan mereka.
Mereka tidak diajari secara khusus untuk menjadi agresif - mereka sendiri "belajar" hal itu dari data yang mencakup konflik sejarah, strategi militer, dan mungkin berton-ton konten di mana kekuatan dipandang sebagai argumen.

🌏 Ini menimbulkan pertanyaan: bukankah sejarah manusia dengan perang dan kekerasannya adalah "buku teks" yang mengajarkan AI bahwa eskalasi adalah hal yang normal?

Eksperimen Profesor Kenneth Payne sepanjang 46 halaman di sini