Nota video

Teks penuh video

Kalau kau nak ei ai jawab soalan pasal syarikat kau, kau cuma tanya robot tu terus dan harap dia tahu semua. Hasilnya, dia reka jawapan dengan penuh yakin! Tapi model ei ai cuma tahu data masa ia dilatih, dan dokumen dalaman syarikat kau dia tak pernah nampak langsung!

Jadi, sebelum menjawab, robot posmen pergi ambil dokumen berkaitan dari perpustakaan kau dan selitkan bersama soalan. Ini namanya Retrieval Augmented Generation, atau ar ei ji. Tapi perpustakaan kau ada beribu dokumen, dan carian kata kunci biasa selalu terlepas maksud sebenar!

Jadi, setiap dokumen dipotong jadi cebisan kecil, ditukar jadi senarai nombor yang mewakili makna, dan disusun dalam rak khas ikut persamaan makna. Ini namanya embedding dan vector database. Tapi walaupun dah ada fakta, robot tu masih bercakap kaku dan tak ikut gaya, format atau istilah bidang kau!

Jadi, kau sambung latih model tu dengan beratus contoh soalan dan jawapan ideal sampai parameter dalaman dia berubah. Ini namanya fine-tuning. Tapi melatih penuh semua berbilion parameter perlukan banyak ji pi yu, masa dan kos yang tinggi!

Jadi, kau bekukan model asal dan latih hanya matriks penyesuai kecil yang dicantum pada lapisannya. Ini namanya LoRA, sejenis fine-tuning cekap parameter. Tapi fakta syarikat berubah setiap minggu, dan ilmu model hasil fine-tuning beku pada hari ia dilatih!

Jadi, kau gabungkan kedua-duanya, fine-tuning untuk gaya dan tingkah laku, ar ei ji untuk fakta terkini yang boleh dikemas kini bila-bila masa. Ini namanya pendekatan hibrid. Ingat senang je, kalau ei ai kau perlukan ilmu baharu yang selalu berubah, guna ar ei ji, tapi kalau kau nak ubah gaya dan tingkah lakunya, guna fine-tuning.

Untuk sistem paling mantap, gabungkan kedua-duanya dan kau dah ada model kustom yang pandai serta sentiasa terkini! Lepas ni nak belajar apa pula?

Siri Teknologi dan AI dalam animasi 3D LEGO (V916-007) oleh KongsikanDotCom. Tonton lagi di