AI कैपस्टोन: आपका कोड एक on-device LLM चलाता है
यह कैपस्टोन है, और ढाँचा बनाने वाले आप हैं। पूरा ट्रैक एक विचार की ओर बढ़ रहा था: आपका Python मॉडल का संचालन करता है। LLM बस एक हिस्सा है जिसे आप बुलाते हैं -> आपका कोड तय करता है कि वह कौन-सा डेटा देखे, अनुरोध का आकार कैसा हो, और कोई मॉडल load न होने पर क्या हो। आप वह संचालन लगभग ख़ाली फ़ाइल से बनाएँगे।
हर असली AI feature एक ही loop है। आपका कोड भरोसेमंद काम करता है, मॉडल शब्द चुनता है:
- तथ्य pandas में निकालें। कोड गणित में सटीक है; मॉडल नहीं। इसलिए पंक्तियों की गिनती, कुल, औसत, और top category एक DataFrame से आते हैं, कभी LLM से नहीं। गढ़ी संख्याओं से बचने का यही अकेला तरीका है।
- अनुरोध का आकार ख़ुद बनाएँ। एक दोबारा इस्तेमाल होने वाला prompt template system निर्देश (मॉडल को कौन होना चाहिए) को उपयोगकर्ता संदेश (उसे क्या करना चाहिए) से अलग रखता है, फिर उन्हें एक स्ट्रिंग में जोड़ता है जो एक बारी निशान पर ख़त्म होती है ताकि मॉडल जाने कि कहाँ से लिखना शुरू करना है।
- हमेशा एक offline रास्ता रखें। on-device मॉडल को WebGPU चाहिए और वह अनिश्चित है, इसलिए आप एक नियम-आधारित generator भी लिखते हैं जो उन्हीं तथ्यों को एक वाक्य में बदलता है। feature बिना किसी मॉडल के भी काम करता है।
आप क्या बनाएँगे
शुरू से दो फ़ंक्शन। build_prompt(system, user) एक साफ़ स्ट्रिंग लौटाता है जिसमें दोनों हिस्से हों और जो Assistant: पर ख़त्म हो। insight(df) एक जुड़ी ख़र्च तालिका पर आँकड़े निकालता है और सादी भाषा की एक पंक्ति लौटाता है जो आपकी सबसे बड़ी category और कुल का नाम लेती है। एक छोटा spend_stats(df) helper pandas का काम करता है ताकि रिपोर्ट और insight दोनों एक ही संख्याओं से पढ़ें।
AI क़दम (ऐप में आज़माएँ)
Floati अपना मॉडल WebGPU पर WebLLM से client की तरफ़ चलाता है -> कोई खाता नहीं, कोई key नहीं, कोई cloud नहीं, आपके prompts कभी मशीन नहीं छोड़ते। ऐप एक अकेला साझा engine window._floatiTutor पर जोड़ता है। build_prompt बना लेने के बाद यह असली कॉल है (यह ग्रेडर के बाहर रहती है क्योंकि इसे GPU चाहिए और यह अनिश्चित है):
// Floati already created window._floatiTutor (a WebLLM engine).
const prompt = build_prompt("You explain budgets in one warm sentence.", report);
const reply = await window._floatiTutor.chat.completions.create({
messages: [{ role: "user", content: prompt }],
temperature: 0.5, max_tokens: 120,
});
console.log(reply.choices[0].message.content);ध्यान दें कि मॉडल सिर्फ़ आपके Python की बनाई report स्ट्रिंग देखता है -> मॉडल के बोलने से पहले संख्याएँ पहले से सही हैं। अपनी offline pipeline को आँकड़े और नियम-आधारित insight print करते देखने के लिए Run दबाएँ; वह print हुई रिपोर्ट ठीक वही है जो आप ऊपर मॉडल को देंगे। ग्रेडर आपके prompt का आकार और आपकी निश्चित insight जाँचता है, कभी कोई मॉडल आउटपुट नहीं।
संचालन बनाएँ। ख़र्च DataFrame df आपके लिए जुड़ा है (10 पंक्तियाँ, कॉलम category और amount)। तीन चीज़ें लिखें: (1) spend_stats(df) -> rows, total, average, top_category, top_amount कुंजियों वाली dict (कुल/औसत 2 दशमलव तक गोल, top category जोड़ी राशि से); (2) build_prompt(system, user) -> एक स्ट्रिंग जिसमें system और user दोनों हों और जो Assistant: पर ख़त्म हो ताकि मॉडल वहाँ से आगे बढ़े; (3) insight(df) -> सादी भाषा की एक ग़ैर-ख़ाली स्ट्रिंग (नियम-आधारित विकल्प) जो top category का नाम ले और 2-दशमलव पैसे के साथ TOTAL: <amount> दिखाए। फिर report = insight(df) और print(report) सेट करें।
इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें
यह अभ्यास जल्द खुलेगा
इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।
यह ब्राउज़र learn.floati.life के लिए कुकी रोक रहा है, इसलिए यहाँ पूरे किए गए पाठ क्रम से नहीं खुल सकते। इस साइट के लिए कुकी की अनुमति दें और फिर से लोड करें।