Utama/Video/Apa Itu RAG (Retrieval-Augmented Generation) & Bagaimana Ia Menghalang Halusinasi AI?
Teknologi dan AI dalam 2 Minit
Apa Itu RAG (Retrieval-Augmented Generation) & Bagaimana Ia Menghalang Halusinasi AI?
Kalau kau tanya chatbot ei ai terus, kau anggap otaknya dah hafal semua benda dalam dunia ni. Robot tu pun jawab dengan yakin, walaupun sebenarnya dia main teka!
Apa anda akan pelajari
Tapi el el em hanya ingat data latihan lama, dan bila tak tahu, ia reka jawapan yang bunyi meyakinkan tapi salah!
Jadi, mesin pemotong memecahkan setiap dokumen kepada cebisan kecil beberapa perenggan, supaya hanya bahagian penting dihantar.
Tapi ei ai masih boleh abaikan rujukan dan tambah fakta sendiri, dan kau tak tahu mana satu boleh dipercayai!
Siri Teknologi dan AI dalam animasi 3D LEGO (V916-001) oleh KongsikanDotCom.
Kongsi video ini
Nota video
Teks penuh video
Kalau kau tanya chatbot ei ai terus, kau anggap otaknya dah hafal semua benda dalam dunia ni. Robot tu pun jawab dengan yakin, walaupun sebenarnya dia main teka! Tapi el el em hanya ingat data latihan lama, dan bila tak tahu, ia reka jawapan yang bunyi meyakinkan tapi salah!
Jadi, sebelum menjawab, robot kau mesti lari ke perpustakaan dulu, ambil dokumen yang berkaitan, dan baca sebagai rujukan. Ini namanya Retrieval-Augmented Generation, atau ar ei ji. Tapi buku manual setebal seribu muka surat takkan muat dalam context window ei ai yang terhad!
Jadi, mesin pemotong memecahkan setiap dokumen kepada cebisan kecil beberapa perenggan, supaya hanya bahagian penting dihantar. Ini namanya chunking. Tapi kalau cari ikut kata kunci tepat, soalan pasal kereta tak akan jumpa dokumen yang guna perkataan kenderaan!
Jadi, setiap cebisan ditukar jadi embedding, iaitu senarai nombor yang mewakili maksud, lalu disimpan dalam vector database untuk dicari ikut makna paling hampir. Ini namanya carian semantik. Tapi carian pantas itu kadang-kadang bawa balik cebisan yang hampir sama tapi tak menjawab soalan, lalu mengelirukan ei ai!
Jadi, model penilai kedua menyusun semula semua calon ikut ketepatan, dan hanya beberapa cebisan terbaik dihantar kepada el el em. Ini namanya reranking. Tapi ei ai masih boleh abaikan rujukan dan tambah fakta sendiri, dan kau tak tahu mana satu boleh dipercayai!
Jadi, prompt mengarahkan ei ai menjawab hanya berdasarkan cebisan yang diberi, mengaku tak tahu jika tiada maklumat, dan menyertakan sumber untuk setiap fakta. Ini namanya grounding dengan sitasi. Tahniah, kau dah faham ar ei ji!
Sekarang aliran ar ei ji kau lengkap, iaitu potong dokumen, tukar jadi embedding, cari ikut makna, susun semula, dan jawab berpandukan sumber. Hasilnya, ei ai kau lebih tepat, mudah dikemas kini tanpa perlu dilatih semula, dan halusinasi berkurang dengan ketara. Lepas ni nak belajar apa pula?
Siri Teknologi dan AI dalam animasi 3D LEGO (V916-001) oleh KongsikanDotCom. Tonton lagi di
Animasi 3D dibina dengan kod (Three.js); suara latar dijana dengan bantuan AI dan disemak oleh pasukan KongsikanDotCom.
Jangan terlepas video seterusnya
Langgan channel YouTube KongsikanDotCom untuk video ilmu, sains & fakta serta doa harian — kandungan baharu diterbitkan setiap hari.
