Longread baru saya di Habr baru saja lolos seleksi untuk Tekhnotekst 8. Di sana saya menguraikan pola arsitektur yang membuat LLM bekerja lebih berkualitas dan dapat diprediksi dengan contoh kode Python dan LangChain.
Isinya:
🔵 XML-isolasi: bagaimana memisahkan secara struktural instruksi sistem dari input pengguna dan melindungi dasar dari prompt injection.
🔵 Negative Constraints: bagaimana membuat LLM patuh melalui sistem denda
[PENALTY].🔵 Format Forcing: prefill respons. Bagaimana memaksa model untuk secara fisik melanjutkan string JSON, memotong kemungkinannya untuk menulis "Tentu, ini jawaban Anda".
🔵 Generated Knowledge & Self-Consistency: bagaimana mengobati halusinasi dengan generasi dua tahap dan voting mayoritas.
🔵 Tree of Thoughts: pencarian strategi terarah untuk tugas-tugas di mana harga kesalahan adalah anggaran yang habis.
🔵 Meta-prompting: bagaimana mendelegasikan penulisan prompt ke model itu sendiri, sehingga ia menghasilkan prompt sesuai kerangka kerja ketat Anda.
Spoiler: teknik favorit banyak orang "kamu adalah senior dengan pengalaman 20 tahun" dalam tugas diskriminatif seringkali memperburuk kualitas. Dalam artikel saya jelaskan mengapa hal itu terjadi, dengan bukti dari penelitian.
👉🏻 Baca: Pola Prompt Engineering: Cara Merancang Sistem LLM di ProductionTentu saya tidak berharap menang, tapi kita lihat apakah kali ini masuk daftar pendek. Kalian like ya 🤗
Materi ini didasarkan pada salah satu siaran sebelumnya dari Tochka Sborki. Begitulah levelnya, saya undang: t.me/TScompiler_bot ☕️
Komentar
0Belum ada komentar.
Masuk untuk ikut berdiskusi.