Model di perangkat
Kenapa ini penting Model di perangkat menjawabmu tanpa kata-katamu pernah meninggalkan komputer atau ponselmu. Itu mengubah "percayakan datamu kepada kami" menjadi "kami tidak pernah memegang datamu". Begitulah cara kerja penyempurnaan AI di CV Builder dan tutor kursus ini, dan kamu bisa memeriksanya sendiri.
Koki di dapurmu
AI cloud itu seperti restoran: kamu menyerahkan pesananmu kepada pelayan dan memasaknya terjadi di luar pandangan. Model di perangkat itu seperti mendatangkan koki ke dapurmu. Kokinya harus datang ke tempatmu sekali (itulah unduhannya), tetapi setelah itu setiap hidangan dimasak di rumah, dan tidak ada orang lain yang melihat apa yang kamu makan.
Model: file besar berisi angka (disebut bobot) ditambah kode yang memakainya untuk memprediksi kata-kata berikutnya dari sebuah teks. "Menjalankan model" berarti melakukan banyak matematika dengan angka-angka itu.
Model di perangkat: model yang bobotnya diunduh ke perangkatmu dan dijalankan di sana, memakai prosesor atau chip grafismu sendiri. Prompt-mu dan jawabannya tetap di perangkat.
Cara kerjanya di browser
Floati memakai WebLLM, pustaka sumber terbuka yang menjalankan model bahasa di dalam halaman web. Tiga bagian membuatnya berjalan:
- WebGPU, fitur browser yang membolehkan sebuah halaman memakai chip grafismu (GPU) untuk matematika yang cepat. Model bahasa butuh banyak matematika, jadi inilah yang membuatnya bisa dipakai di sebuah tab.
- Model kecil yang dikompresi. Tutor kursus dan CV Builder memakai model kecil yang mengikuti instruksi, sekitar setengah miliar parameter, dikompresi supaya muat di browser (diperiksa Oktober 2026).
- Cache browser, yang menyimpan bobot yang sudah diunduh supaya kunjungan berikutnya mulai jauh lebih cepat.
Parameter: angka-angka individual di dalam sebuah model. Lebih banyak parameter biasanya berarti model yang lebih mampu, dan unduhan yang lebih besar.
Kuantisasi: menyimpan setiap angka dengan lebih sedikit bit (misalnya 4 bit alih-alih 16 atau 32). Seperti menyimpan foto dengan kualitas lebih rendah: jauh lebih kecil, sedikit kurang tajam.
Apa yang benar-benar lewat jaringan
Kejujuran penting di sini. Memakai model di perangkat bukan berarti "tidak ada jaringan sama sekali". Dua hal diunduh:
- Kode pustaka yang menjalankan model.
- Bobot model, yang berukuran ratusan megabyte, diunduh sekali lalu disimpan di cache.
Keduanya adalah unduhan ke kamu. Yang tidak pernah dikirim adalah sisi milikmu: pertanyaan yang kamu ajukan dan teks yang kamu tempel. Server yang menampung bobot itu tahu bahwa seseorang mengunduh sebuah model, sama seperti mengunduh file apa pun, tetapi ia tidak pernah melihat percakapanmu.
Untung ruginya
| Model cloud | Model di perangkat | |
|---|---|---|
| Siapa yang melihat teksmu | Penyedia | Hanya perangkatmu |
| Kualitas | Biasanya jauh lebih kuat | Bagus untuk tugas kecil yang terfokus |
| Pemakaian pertama | Langsung | Satu unduhan besar sekali saja |
| Butuh | Koneksi internet | Browser dengan WebGPU dan memori yang cukup |
| Bekerja offline | Tidak | Ya, setelah diunduh |
WebGPU tersedia di versi desktop terbaru Chrome, Edge, dan Safari, dan di Firefox pada sebagian sistem (diperiksa Oktober 2026). Di perangkat lama atau yang memorinya kecil, model mungkin tidak bisa dimuat sama sekali, karena itulah CV Builder Floati juga punya pemberi saran sederhana berbasis aturan yang tidak butuh model. Pahami bedanya: pemberi saran itu berjalan di server Floati sendiri, jadi teks CV-mu dikirim ke sana, walaupun tidak pernah ke perusahaan AI.
Kesalahpahaman umum
"Model kecil tidak berguna." Model setengah miliar parameter tidak akan menulis novelmu, tetapi ia bagus untuk tugas sempit: menyusun ulang kalimat, memberi petunjuk, meringkas paragraf. Untuk banyak tugas pribadi, model lokal yang kecil adalah alat yang tepat, dan model cloud raksasa adalah kelebihan yang dibayar dengan datamu.
Coba sendiri Buka sebuah pelajaran dengan tutor lalu buka DevTools browsermu (F12, atau Cmd+Option+I di Mac), lalu tab Network. Nyalakan tutornya: kamu akan melihat unduhan besar untuk modelnya. Setelah dimuat, bersihkan daftarnya dan ajukan pertanyaan ke tutor. Perhatikan daftarnya: kamu mungkin melihat penghitung halaman kecil, tetapi tidak ada permintaan yang membawa pertanyaan atau kodemu.
Ringkasan
- Model di perangkat berjalan di perangkat kerasmu sendiri, jadi prompt dan jawabanmu tidak pernah meninggalkan perangkat.
- Di browser ini memakai WebGPU, model kecil yang dikuantisasi, dan cache; tutor dan CV Builder Floati memakai WebLLM dengan cara ini.
- Kode dan bobotnya diunduh ke kamu sekali; teksmu tidak pernah diunggah.
- Harganya adalah kualitas yang lebih rendah, unduhan pertama yang besar, dan syarat perangkat.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.