Saya tidak ada selama beberapa bulan. Bukan karena saya pergi ke hutan, retret, atau detoks digital - meskipun kadang terdengar menggoda😌.

Saya akhirnya mendalami apa yang sudah lama ingin saya dalami: membangun produk AI baru, memahami arsitektur model bahasa, dan kadang merasa seperti orang yang membuka lemari, lalu semua kotak jatuh menimpanya.

Beberapa hari lalu saya melihat postingan: UOM - universitas tempat saya belajar nutrisi dan sangat saya percayai - secara resmi meluncurkan program "Jaringan Saraf untuk Profesional Pembantu".

Dan saya benar-benar senang. Karena apa yang saya lakukan selama setahun terakhir tidak lagi menjadi hobi aneh seseorang yang terlalu banyak bicara dengan ChatGPT, tetapi telah menjadi bidang yang diakui bahkan dalam proyek pendidikan serius.

Ini bukan lagi "suatu saat nanti". Ini terjadi sekarang.
Sementara itu, Perplexity dan Alisa sudah menawarkan interpretasi tes dan rekomendasi, dan para influencer berlomba-lomba menyarankan: "Kumpulkan data medis Anda dan berikan ke AI".

Kedengarannya modern. Nyaman. Hampir seperti masa depan akhirnya membawakan sandal dan teh☕️.

Dan dalam beberapa hal, memang begitu.
Tapi setiap kali saya mendengar saran seperti itu, ada lampu peringatan kecil di dalam diri saya yang menyala. Karena saya tahu apa yang biasanya tidak terlihat dari luar.

Ada yang namanya halusinasi model bahasa.
Kedengarannya hampir romantis, tapi sebenarnya lebih sederhana: model dapat dengan percaya diri melaporkan sesuatu yang tidak ada dalam data Anda.
Bukan karena model itu jahat, licik, atau memutuskan untuk merusak malam Anda. Tapi karena cara kerjanya: menghasilkan respons yang paling mungkin secara statistik, bukan mengambil fakta terverifikasi dari brankas bertanda "Kebenaran".

Dan dalam konteks medis, ini bukan sekadar bug lucu.

Dalam sebuah studi ringkasan kasus medis, tingkat halusinasi tanpa langkah pengurangan khusus mencapai 64,1%. Dan tolok ukur MedHallu pada 10.000 pertanyaan dari literatur medis menunjukkan bahwa bahkan model kuat, termasuk GPT-4o dan Llama-3.1, kesulitan mengenali halusinasi medis yang kompleks: skor terbaik dalam kategori tersulit adalah F1-score 0,625.

Dan tidak, ini tidak berarti AI harus segera dibungkus aluminium foil, disimpan di laci jauh, dan tidak pernah dikeluarkan.
Saya sendiri menggunakannya terus-menerus. NutriAgent andalan saya memangkas waktu analisis kasus klien dari beberapa hari menjadi beberapa jam.
Ia benar-benar bekerja dengan baik di mana tugasnya bersifat algoritmik: merangkum indikator, membandingkannya dengan optimal, menyoroti penyimpangan, membantu membangun hipotesis. Dalam beberapa detik, ia melakukan apa yang dulu memakan waktu satu jam kerja manual, dan tidak lupa melihat ke tempat yang mata manusia setelah tabel ketiga sudah tidak mau melihat.

Tapi.
Kadang-kadang saya menangkap basah ia berhalusinasi. Ia dengan percaya diri menggambarkan detail yang tidak ada dalam materi sumber.
Artinya, ia menemukan hal utama. Lalu memutuskan untuk sedikit menulis novel✍🏻.

Dan inilah masalah sebenarnya AI dalam topik kesehatan: bukan karena ia salah. Tapi karena Anda tidak selalu tahu di mana tepatnya ia mulai mengarang.
Ketika data tidak mencukupi atau ambigu, model tidak selalu berkata: "Saya tidak tahu". Kadang ia melengkapi gambaran dengan apa yang "biasanya terjadi" dalam kasus serupa. Dengan percaya diri, tenang, dengan gaya siswa berprestasi di papan tulis.

Dan tanpa konteks profesional, hampir mustahil membedakan jawaban seperti itu dari kesimpulan berdasarkan indikator spesifik Anda.

🤫Kemarin saya berbicara dengan seorang ahli tentang okeosyachka untuk sauna.
Okeosyachka adalah struktur khusus di bukaan, tanpa itu rumah kayu saat penyusutan dapat merusak pintu dan jendela. Jadi ini hal penting. Terutama jika Anda, seperti saya, sebelumnya mengira itu hanya kata dari kategori "sesuatu yang lucu".

Pada satu titik saya menyadari bahwa saya hampir tidak mengerti apa pun dari penjelasan ahli. Saya jujur mengakuinya.
Ia berpikir dan berkata:
"Nah, Anda harus mempelajari semuanya sendiri, atau percaya pada seseorang yang mengerti."

Dan saya seperti: ini dia. Seluruh percakapan tentang AI, tes, dan kesehatan dalam satu kalimat.
Entah Anda mendalami cukup dalam untuk melihat kesalahan, atau Anda beralih ke orang yang sudah melalui jalan itu.

AI belum ada dalam daftar itu.
Ia bukan dokter. Bukan ahli gizi. Bukan spesialis yang bertanggung jawab atas kesimpulan.
Ia adalah alat di tangan ahli.
Sangat kuat, cepat, berguna. Tapi tetaplah alat.
Kira-kira seperti bor: barang hebat, selama Anda tidak memintanya membangun sauna sendiri, menghitung penyusutan rumah kayu, dan memilihkan jendela untuk Anda.

Apakah Anda sudah mencoba mengunggah tes atau gejala Anda ke jaringan saraf? Jika ya, seberapa besar Anda percaya pada hasil yang didapat?

@nastroi_zdorovie 🎧