AI キャップストーン:あなたのコードがデバイス上の LLM を動かす
これがキャップストーンで、設計者はあなたです。このトラック全体が、ひとつの考え方に向けて積み上げてきました。あなたの Python がモデルを指揮する ということです。LLM はあなたが呼び出す部品のひとつにすぎません -> どんなデータを見せるか、リクエストをどんな形にするか、モデルが読み込まれていないときにどうするかを決めるのは、あなたのコードです。ほぼ空のファイルから、その指揮を作ります。
本物の AI 機能はどれも同じループです。信頼できる仕事はあなたのコードが、言葉づかいはモデルが担います:
- 事実は pandas で計算する。 コードは計算が正確ですが、モデルはそうではありません。だから行数、合計、平均、最大のカテゴリーは DataFrame から出し、決して LLM からは出しません。これが、でっち上げの数字を避ける唯一の方法です。
- リクエストの形は自分で決める。 再利用できるプロンプトのテンプレートが、システムの指示(モデルが誰であるべきか)をユーザーのメッセージ(何をすべきか)と分けておき、それから、モデルがどこから書き始めればよいかわかるよう、番の目印で終わるひとつの文字列に組み立てます。
- オフラインの道を必ず用意する。 デバイス上のモデルは WebGPU が必要で非決定的なので、同じ事実を文に変えるルールベースの生成器も書きます。モデルがまったくなくても、機能は動きます。
作るもの
2 つの関数をゼロから作ります。build_prompt(system, user) は、両方の部分を含み Assistant: で終わる、ひとつのきれいな文字列を返します。insight(df) は埋め込まれた支出の表で統計を計算し、最も大きいカテゴリーと合計を挙げた、わかりやすい英語の一行を返します。小さな補助関数 spend_stats(df) が pandas の仕事をこなすので、レポートとインサイトの両方が同じ数字を読みます。
AI のステップ(アプリで試す)
Floati はモデルを クライアント側 で、WebGPU の上の WebLLM で動かします -> アカウントなし、キーなし、クラウドなしで、プロンプトがマシンの外に出ることは決してありません。アプリは共有のエンジンをひとつ window._floatiTutor につないでいます。build_prompt を作ったら、これが本物の呼び出しです(GPU が必要で非決定的なので、採点の外にあります):
// Floati already created window._floatiTutor (a WebLLM engine).
const prompt = build_prompt("You explain budgets in one warm sentence.", report);
const reply = await window._floatiTutor.chat.completions.create({
messages: [{ role: "user", content: prompt }],
temperature: 0.5, max_tokens: 120,
});
console.log(reply.choices[0].message.content);モデルが見るのは、あなたの Python が作った report の文字列だけであることに注目してください -> モデルが話す前に、数字はすでに正しいのです。Run を押して、オフラインのパイプラインが統計とルールベースのインサイトを表示するのを見てみましょう。その表示されたレポートこそが、上のモデルに渡すものです。採点が確認するのはプロンプトの形と決定的な insight で、モデルの出力は決して見ません。
指揮を作ります。支出の DataFrame df は埋め込まれています(10 行、列は category と amount)。3 つのものを書いてください:(1) spend_stats(df) -> キー rows、total、average、top_category、top_amount を持つ辞書(合計と平均は小数 2 桁に丸め、最大のカテゴリーは金額の合計で決める)、(2) build_prompt(system, user) -> system と user の両方を含み、モデルがそこから続けるよう Assistant: で 終わる ひとつの文字列、(3) insight(df) -> 最大のカテゴリーを挙げ、小数 2 桁の金額で TOTAL: <amount> を示す、空でないわかりやすい英語の文字列(ルールベースの予備)。最後に report = insight(df) とし、print(report) します。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。