سرفصل‌ها درس 7 از 148 · پیش‌فرض را نقشه‌برداری کنید
پیش‌فرض را نقشه‌برداری کنید

چرا پاسخ‌ها همگرا می‌شوند

چرا اهمیت دارد اگر شما و همهٔ افراد از یک دستیار یک سؤال یکسان بپرسید، تقریباً پاسخ یکسانی دریافت می‌کنید. این برای کارهای روتین مفید است، اما وقتی پاسخ روتین برای مورد شما نادرست باشد، مشکل‌ساز می‌شود.

یک مدل زبانی کلمه بعدی را با انتخاب از میان کلماتی که با توجه به همه چیزهای قبلی بیشترین احتمال را برای آمدن دارند، می‌نویسد. وقتی یک سؤال طراحی از آن پرسیده می‌شود، پاسخی را تولید می‌کند که در آنچه یاد گرفته است، اغلب پس از سؤالاتی مانند سؤال شما آمده است. این، به تعریف، پاسخ رایج است: اغلب یک پاسخ خوب، و به ندرت آنی که با یک محدودیت غیرمعمول مطابقت دارد.

پیش‌فرض: پاسخی که شما (یا یک مدل) ابتدا ارائه می‌دهید، زیرا آشنا‌ترین است. از نظر تعریف اشتباه نیست؛ فقط بررسی نشده است.

شواهدی درباره یکنواختی

در یک آزمایش نوشتاری، افرادی که می‌توانستند از ایده‌های داستانی یک هوش مصنوعی مولد استفاده کنند، داستان‌هایی نوشتند که خوانندگان آن‌ها را خلاقانه‌تر و بهتر نوشته‌شده ارزیابی کردند، به‌ویژه در میان نویسندگان کم‌خلاق‌تر. اما این داستان‌ها همچنین بیشتر از داستان‌های نوشته‌شده بدون ایده‌های هوش مصنوعی به یکدیگر شباهت داشتند (دوشی و هاوزر ۲۰۲۴). هر فرد عملکرد بهتری داشت؛ گروه یکنواخت‌تر شد.

آن مطالعه درباره داستان‌ها بود، نه کد، اما انتظار کشش مشابه در کد نیز آسان است. اگر هر تیمی بپرسد «چگونه این نقطه پایانی (endpoint) را سریع‌تر کنم؟»، همه پاسخ «یک کش اضافه کن» را دریافت می‌کنند. در حالی که مشکل واقعی، نبود یک نمایه (index) یا تغییر اندازه کند تصویر در داخل درخواست است، یک میدان پر از کش‌ها، میدانی پر از همان نقطه کور است.

با این چه باید کرد

نه «هرگز از اولین پاسخ استفاده نکنید». در عوض، آن را نقشه‌برداری کنید: بدانید پیش‌فرض برای یک نوع سؤال چیست، تا بتوانید تشخیص دهید چه زمانی در آستانه ارائه آن هستید و بررسی کنید که آیا مشکل شما مورد عادی است یا خیر. دو درس بعدی دقیقاً همین کار را با سی پاسخ انجام می‌دهند.

خلاصه: اولین پاسخ یک مدل، محتمل‌ترین پاسخ است. کمک هوش مصنوعی می‌تواند کیفیت کار هر فرد را افزایش دهد و در عین حال کار همه را شبیه به هم کند. پیش‌فرض را بشناسید تا بتوانید آگاهانه آن را انتخاب کنید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.