Nota video

Teks penuh video

Kalau kau nak bina ei ai yang pandai cari maklumat, senang je. Lambak semua dokumen dalam satu rak, lepas tu suruh robot cari perkataan yang sama sebiji! Tapi kau tanya pasal kereta, robot tak jumpa dokumen yang tulis automobil, sebab dia cuma padankan huruf, bukan makna!

Jadi, kau hantar setiap ayat ke mesin model ei ai yang tukarkan maknanya jadi senarai ratusan nombor, macam koordinat dalam peta makna. Ini namanya embeddings. Tapi nombor-nombor tu tak berguna kalau kau tak tahu macam mana nak bandingkan makna dua ayat!

Jadi, setiap vektor diletak sebagai titik dalam ruang berbilang dimensi, dan ayat yang maknanya serupa akan duduk berdekatan, diukur guna cosine similarity. Ini namanya carian semantik. Tapi bila kau ada berjuta vektor, robot kena bandingkan soalan kau dengan setiap satu, dan carian jadi lambat gila!

Jadi, vektor disusun dalam indeks berlapis macam graf eic en es dablyu, supaya robot terus lompat ke kawasan jiran terdekat tanpa periksa semua. Ini namanya Approximate Nearest Neighbor search. Tapi database biasa yang guna jadual baris dan lajur tak direka asalnya untuk simpan dan cari berjuta senarai nombor sepantas itu!

Jadi, kau guna gudang khas yang simpan vektor, indeks dan metadata sekali, contohnya Pinecone di cloud atau Chroma yang open source. Ini namanya vector database. Tapi chatbot ei ai kadang-kadang reka jawapan sendiri bila dia tak tahu fakta terkini syarikat kau!

Jadi, sebelum menjawab, sistem cari dulu dokumen paling relevan dalam vector database, lepas tu masukkan ke dalam prompt supaya ei ai jawab berdasarkan fakta sebenar. Ini namanya Retrieval Augmented Generation, atau ar ei ji. Sekarang kau faham, vector database simpan makna dalam bentuk embeddings, cari jiran terdekat dalam sekelip mata, dan jadi memori jangka panjang untuk ei ai.

Sebab tu ia tulang belakang carian semantik, chatbot pintar dan sistem cadangan hari ini. Lepas ni nak belajar apa pula?

Siri Teknologi dan AI dalam animasi 3D LEGO (V916-009) oleh KongsikanDotCom. Tonton lagi di