シラバス レッスン 148 中 92 · うそをつくレッスン
うそをつくレッスン

自信満々で間違い

なぜ大切か 言語モデルは、正しい答えと同じ落ち着いた、整った口調で間違った答えを書きます。口調からは何もわかりません。失敗するテストは、すべてを教えてくれます。

流暢さはこうしたモデルが訓練される目的なので、モデルにとっては何のコストもかかりません。正しさは別の性質で、どちらを得ているかは文章には現れません。決まったやり方のように聞こえる助言(「とにかくリトライすればいい」「この正規表現が標準だ」「名前と大きさで十分だ」)が最も危険です。もう一度見直す気を起こさせないからです。

スタンフォード大学の研究では、AI のアシスタントを使ってセキュリティに関わるコードを書いた人は、使わなかった人より安全でないコードを書き、しかも自分のコードが安全だと信じやすい傾向がありました(Perry et al. 2023)。同じ隔たりは速さにも現れます。2025 年の試験では、AI の道具を使った経験豊富なオープンソースの開発者は、自分は速くなったと信じながら、実際には作業に長くかかりました(METR 2025)。答えにどれだけ自信を感じるかは、その答えの測定ではありません。

議論せず、証明する

助言がおかしいと感じたとき、いちばん強い返事はより良い議論ではありません。助言どおりのコードでは失敗し、正しい版では通る小さなテストです。議論には議論で言い返せます。失敗するテストは話を終わらせ、コードベースに残るので、間違いが戻ってこられません。

反例:主張が偽になる具体的な入力ひとつです。「これはいつも動く」を沈めるには、ひとつで十分です。

このモジュールの進め方

各レッスンでは、コード付きの仕込まれた助言を示します。助言はこのコースのために書かれ、わざと、本物の助言が間違うのと同じ形で間違えています。あなたはテストを書きます。テストは、助言どおりのコード、それによく似たいくつかの版、そして隠れた正しい版に対して動きます。正しい版を通し、ほかのものを十分に捕まえなければなりません。

まとめ 流暢であることは正しいことではありません。疑いを反例に変え、反例をテストに変えましょう。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。