سرفصل‌ها درس 92 از 148 · درس دروغ
درس دروغ

مطمئن و اشتباه

چرا اهمیت دارد یک مدل زبانی پاسخ اشتباه را با همان صدای آرام و خوش‌قالب مانند پاسخ درست می‌نویسد. لحن هیچ چیزی به شما نمی‌گوید. یک آزمون شکست‌خورده همه چیز را به شما می‌گوید.

سیالیت چیزی است که این مدل‌ها برای آن آموزش دیده‌اند، بنابراین برایشان هیچ هزینه‌ای ندارد. درستی ویژگی جداگانه‌ای است و متن نشان نمی‌دهد کدام یک را دریافت می‌کنید. نصایحی که مانند یک رویه تثبیت‌شده به نظر می‌رسند («فقط دوباره امتحان کن»، «این ریجکس استاندارد است»، «نام و اندازه کافی است») خطرناک‌ترین هستند، زیرا به بازنگری دوباره دعوت نمی‌کنند.

در مطالعه‌ای در دانشگاه استنفورد، افرادی که با کمک یک دستیار هوش مصنوعی کد حساس به امنیت می‌نوشتند، کد کمتری امن نسبت به افرادی که از چنین کمکی استفاده نمی‌کردند نوشتند و احتمال بیشتری داشت که باور کنند کدشان امن است (پری و همکاران، ۲۰۲۳). همین شکاف در زمینه سرعت نیز دیده می‌شود: در یک آزمایش در سال ۲۰۲۵، توسعه‌دهندگان باتجربه متن‌باز که از ابزارهای هوش مصنوعی استفاده می‌کردند، در انجام وظایف خود زمان بیشتری صرف کردند، در حالی که معتقد بودند سریع‌تر بوده‌اند (METR 2025). میزان اطمینانی که به یک پاسخ دارید، معیار سنجش آن نیست.

آن را ثابت کنید، استدلال نکنید

وقتی توصیه‌ای اشتباه به نظر می‌رسد، قوی‌ترین پاسخ، ارائه یک استدلال بهتر نیست. بلکه یک تست کوچک است که روی کد توصیه‌شده شکست می‌خورد و روی نسخه صحیح، موفق می‌شود. یک استدلال را می‌توان با استدلال رد کرد، اما یک تست ناموفق بحث را پایان می‌دهد و در پایگاه کد باقی می‌ماند تا اشتباه دوباره تکرار نشود.

مثال نقض: یک ورودی مشخص که در آن ادعا نادرست است. یک مثال برای رد کردن عبارت «این همیشه کار می‌کند» کافی است.

نحوه کار این ماژول

هر درس یک قطعه از یک توصیهٔ از پیش طراحی‌شده را به همراه کد نشان می‌دهد. این توصیه برای این دوره نوشته شده و عمداً اشتباه است، به شیوه‌هایی که توصیه‌های واقعی اشتباه هستند. شما یک تست می‌نویسید. این تست روی کد توصیه‌شده، چندین کد نزدیک به آن و یک نسخهٔ صحیح پنهان اجرا می‌شود. این تست باید روی نسخهٔ صحیح قبول شود و به اندازهٔ کافی موارد دیگر را رد کند.

خلاصه: Fluent درست نیست. یک شک را به یک ضد مثال تبدیل کنید، و ضد مثال را به یک تست تبدیل کنید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.