AI Menang

Jaringan saraf sudah mengendalikan dunia Anda. Tapi, mungkin tidak seperti yang Anda kira.

Ketika berbicara tentang bahaya AI, biasanya digambarkan dua skenario. Pertama — membosankan: jaringan saraf mempercepat kerja, menggantikan sebagian profesi, mengurangi biaya, dan selanjutnya entah bagaimana kita akan mengatasinya. Kedua — sinematik: kecerdasan super, manipulasi, bencana, tombol pemusnahan dunia.

Kedua skenario itu nyaman. Keduanya menempatkan masalah di suatu tempat di masa depan. Tapi kabar buruknya adalah kemenangan utama AI sudah ada di sini.

Bukan dalam bentuk robot bermata merah. Bukan dalam bentuk pengangguran instan. Ia terlihat jauh lebih biasa: seperti paragraf teks yang ditulis rapi.


Teks — format paling licik

Dengan gambar lebih mudah. Enam jari, beruang memasak borscht — otak menerima sinyal: ini palsu. Dengan video juga kita belajar lebih berhati-hati.

Tapi teks — penyelundup ideal.

Jika ia rapi, percaya diri, dan ditulis tanpa omong kosong yang jelas, kebanyakan orang tidak akan memeriksa ulang apakah percepatan gravitasi tidak sama dengan 11, bahwa "berguna makan satu batu sehari" — bukan rekomendasi medis, dan bahwa daftar sumber itu benar-benar ada. Mesin menyampaikan omong kosong dengan intonasi buku referensi.


Otoritas baru

Di kepala kita ada bug lama: komputer benar karena ia komputer.

Ada rumus di Excel — berarti ada logika ketat di suatu tempat. Jika jawaban terlihat mulus — berarti ia didasarkan pada sesuatu. Jika AI berkata dengan yakin — berarti ia "tahu sesuatu".

Tapi LLM adalah mesin probabilistik untuk merakit frasa yang masuk akal. Masalahnya adalah orang sering membaca ini sebagai jenis otoritas baru.

Dan penelitian juga membicarakan hal ini. Dalam karya Microsoft Research dengan 319 "pekerja pengetahuan", kepercayaan yang lebih tinggi pada GenAI dikaitkan dengan lebih sedikit pemikiran kritis, dan kerja dengan AI sering bergeser dari analisis mandiri ke verifikasi jawaban yang sudah jadi.

Dalam serangkaian eksperimen, orang bahkan menganggap sumber AI sebagai kurang bias, lebih informatif, dan kurang tertarik untuk meyakinkan dibandingkan manusia. Artinya, "ketidakmanusiawian" sistem itu sendiri meningkatkan kredibilitas bagi banyak orang.


Kita mulai berpikir dalam kerangka orang lain

Selanjutnya — orang menyebarkan jawaban model sebagai kesimpulan mereka sendiri. Bukan karena mereka bodoh. Karena itu lebih murah secara usaha.

Maka muncullah bentuk ketergantungan yang sangat aneh: kita sepertinya masih berbicara sendiri, tapi semakin sering — dengan kata-kata, logika, dan kerangka yang sudah disarankan oleh mesin.

Dan di sini bahkan label "ini ditulis AI" tidak banyak membantu. Dalam eksperimen dengan 1601 peserta, label semacam itu hampir tidak mengubah daya persuasif pesan, penilaian akurasinya, atau kesediaan untuk membagikannya lebih lanjut. Dengan kata lain, fakta asal-usul buatan teks tidak membuat orang jauh lebih berhati-hati.


Keburukan yang memperkuat diri sendiri

Selanjutnya, mekanisme paling berbahaya dimulai — lingkaran umpan balik.

Model salah
→ Manusia menyalin kesalahan ke posting, catatan, komentar, teks SEO, abstrak, presentasi
→ Massa teks ini mengendap di internet
→ Model berikutnya belajar dari dunia di mana fiksi secara statistik terlihat seperti bagian normal dari realitas.

Dalam karya Shumailov, proses ini digambarkan sebagai model collapse: saat pembelajaran rekursif pada data yang dihasilkan, model mulai kehilangan ekor distribusi dan semakin buruk mencerminkan realitas asli, sambil mempertahankan tampilan kerja normal. Artinya, degradasi bisa terjadi secara diam-diam dan hampir tidak terlihat.

AI tidak harus menjadi lebih pintar dari manusia untuk mulai membentuk realitas. Cukup baginya untuk menjadi masif, nyaman, dan cukup meyakinkan.

Bukan kiamat. Kiamat setidaknya terlihat. Tapi di sini semuanya terjadi dalam mode nyaman. Anda tidak terbaring di bawah reruntuhan peradaban. Anda hanya hidup di dunia di mana kebenaran semakin sering ditentukan bukan oleh verifikasi, melainkan oleh daya persuasif rumusan. Dan di mana kedalaman pemahaman perlahan digantikan oleh akses ke model yang lebih mahal, lebih cepat, lebih "pintar".


❗️❗️❗️❗️❗️❗️❗️❗️ / Tidak dilarang di RF