Nota video

Teks penuh video

Kalau kau nak telefon kau jadi pandai, kau suruh posmen bawa setiap soalan kau panjat tangga sampai ke kilang ei ai gergasi atas awan, lepas tu tunggu dia turun bawa jawapan, walaupun kau cuma nak tahu warna baju! Tapi perjalanan naik turun awan itu makan masa, dan kalau tiada internet, posmen langsung tak boleh bergerak! Jadi, kau bina kilang ei ai kecil terus di dalam telefon, supaya data diproses di tempat ia dihasilkan.

Ini namanya Edge ei ai, atau pemprosesan setempat. Tapi otak biasa telefon, iaitu si pi yu, terpaksa mengira berbilion operasi ei ai dengan hanya beberapa teras, sampai panas dan bateri cepat habis! Jadi, kau pasang cip khas yang buat beribu kiraan matriks serentak dengan tenaga yang sangat rendah.

Ini namanya en pi yu, atau Neural Processing Unit. Tapi model ei ai dari awan terlalu besar, macam perpustakaan gergasi yang tak muat dalam memori telefon! Jadi, kau mampatkan setiap nombor dalam model daripada tiga puluh dua bit kepada lapan atau empat bit, sampai saiznya mengecil berkali ganda tanpa banyak hilang kepandaian.

Ini namanya kuantisasi model. Tapi kalau ei ai nak belajar daripada tabiat menaip kau, data peribadi kau terpaksa keluar rumah ke awan! Jadi, setiap telefon belajar sendiri secara setempat, dan hanya hantar pelajaran ringkas tanpa data mentah untuk digabungkan di pelayan.

Ini namanya federated learning. Tapi ada kerja yang terlalu berat untuk telefon, macam menjana video panjang atau menjawab soalan yang sangat rumit! Jadi, kerja ringan dan peribadi diproses dalam telefon, manakala kerja gergasi sahaja dihantar ke awan secara automatik.

Ini namanya hybrid ei ai. Sekarang telefon kau ada kilang ei ai sendiri yang laju, jimat bateri, berfungsi tanpa internet dan simpan rahsia kau dalam poket. Awan masih membantu, tapi otak harian kini duduk di tapak tangan kau.

Tahniah, kau dah faham Edge ei ai! Lepas ni nak belajar apa pula?

Siri Teknologi dan AI dalam animasi 3D LEGO (V916-015) oleh KongsikanDotCom. Tonton lagi di