Silabus Pelajaran 88 dari 156 · AI Pribadi
AI Pribadi

Model di perangkat

Kenapa ini penting Model di perangkat menjawabmu tanpa kata-katamu pernah meninggalkan komputer atau ponselmu. Itu mengubah "percayakan datamu kepada kami" menjadi "kami tidak pernah memegang datamu". Begitulah cara kerja penyempurnaan AI di CV Builder dan tutor kursus ini, dan kamu bisa memeriksanya sendiri.

Koki di dapurmu

AI cloud itu seperti restoran: kamu menyerahkan pesananmu kepada pelayan dan memasaknya terjadi di luar pandangan. Model di perangkat itu seperti mendatangkan koki ke dapurmu. Kokinya harus datang ke tempatmu sekali (itulah unduhannya), tetapi setelah itu setiap hidangan dimasak di rumah, dan tidak ada orang lain yang melihat apa yang kamu makan.

Model: file besar berisi angka (disebut bobot) ditambah kode yang memakainya untuk memprediksi kata-kata berikutnya dari sebuah teks. "Menjalankan model" berarti melakukan banyak matematika dengan angka-angka itu.

Model di perangkat: model yang bobotnya diunduh ke perangkatmu dan dijalankan di sana, memakai prosesor atau chip grafismu sendiri. Prompt-mu dan jawabannya tetap di perangkat.

Cara kerjanya di browser

Floati memakai WebLLM, pustaka sumber terbuka yang menjalankan model bahasa di dalam halaman web. Tiga bagian membuatnya berjalan:

  • WebGPU, fitur browser yang membolehkan sebuah halaman memakai chip grafismu (GPU) untuk matematika yang cepat. Model bahasa butuh banyak matematika, jadi inilah yang membuatnya bisa dipakai di sebuah tab.
  • Model kecil yang dikompresi. Tutor kursus dan CV Builder memakai model kecil yang mengikuti instruksi, sekitar setengah miliar parameter, dikompresi supaya muat di browser (diperiksa Oktober 2026).
  • Cache browser, yang menyimpan bobot yang sudah diunduh supaya kunjungan berikutnya mulai jauh lebih cepat.

Parameter: angka-angka individual di dalam sebuah model. Lebih banyak parameter biasanya berarti model yang lebih mampu, dan unduhan yang lebih besar.

Kuantisasi: menyimpan setiap angka dengan lebih sedikit bit (misalnya 4 bit alih-alih 16 atau 32). Seperti menyimpan foto dengan kualitas lebih rendah: jauh lebih kecil, sedikit kurang tajam.

Apa yang benar-benar lewat jaringan

Kejujuran penting di sini. Memakai model di perangkat bukan berarti "tidak ada jaringan sama sekali". Dua hal diunduh:

  1. Kode pustaka yang menjalankan model.
  2. Bobot model, yang berukuran ratusan megabyte, diunduh sekali lalu disimpan di cache.

Keduanya adalah unduhan ke kamu. Yang tidak pernah dikirim adalah sisi milikmu: pertanyaan yang kamu ajukan dan teks yang kamu tempel. Server yang menampung bobot itu tahu bahwa seseorang mengunduh sebuah model, sama seperti mengunduh file apa pun, tetapi ia tidak pernah melihat percakapanmu.

Untung ruginya

Model cloudModel di perangkat
Siapa yang melihat teksmuPenyediaHanya perangkatmu
KualitasBiasanya jauh lebih kuatBagus untuk tugas kecil yang terfokus
Pemakaian pertamaLangsungSatu unduhan besar sekali saja
ButuhKoneksi internetBrowser dengan WebGPU dan memori yang cukup
Bekerja offlineTidakYa, setelah diunduh

WebGPU tersedia di versi desktop terbaru Chrome, Edge, dan Safari, dan di Firefox pada sebagian sistem (diperiksa Oktober 2026). Di perangkat lama atau yang memorinya kecil, model mungkin tidak bisa dimuat sama sekali, karena itulah CV Builder Floati juga punya pemberi saran sederhana berbasis aturan yang tidak butuh model. Pahami bedanya: pemberi saran itu berjalan di server Floati sendiri, jadi teks CV-mu dikirim ke sana, walaupun tidak pernah ke perusahaan AI.

Kesalahpahaman umum

"Model kecil tidak berguna." Model setengah miliar parameter tidak akan menulis novelmu, tetapi ia bagus untuk tugas sempit: menyusun ulang kalimat, memberi petunjuk, meringkas paragraf. Untuk banyak tugas pribadi, model lokal yang kecil adalah alat yang tepat, dan model cloud raksasa adalah kelebihan yang dibayar dengan datamu.

Coba sendiri Buka sebuah pelajaran dengan tutor lalu buka DevTools browsermu (F12, atau Cmd+Option+I di Mac), lalu tab Network. Nyalakan tutornya: kamu akan melihat unduhan besar untuk modelnya. Setelah dimuat, bersihkan daftarnya dan ajukan pertanyaan ke tutor. Perhatikan daftarnya: kamu mungkin melihat penghitung halaman kecil, tetapi tidak ada permintaan yang membawa pertanyaan atau kodemu.

Ringkasan

  • Model di perangkat berjalan di perangkat kerasmu sendiri, jadi prompt dan jawabanmu tidak pernah meninggalkan perangkat.
  • Di browser ini memakai WebGPU, model kecil yang dikuantisasi, dan cache; tutor dan CV Builder Floati memakai WebLLM dengan cara ini.
  • Kode dan bobotnya diunduh ke kamu sekali; teksmu tidak pernah diunggah.
  • Harganya adalah kualitas yang lebih rendah, unduhan pertama yang besar, dan syarat perangkat.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.