سرفصل‌ها درس 203 از 250 · تنظیم دقیق مفهومی
تنظیم دقیق مفهومی

تقسیم قطعی آموزش/اعتبارسنجی

وقتی مجموعه داده‌هایتان تمیز شد، باید آن را تقسیم کنید: بیشتر سطرها به بخش آموزش می‌روند (آنچه مدل از آن یاد می‌گیرد) و یک برش نگه‌داشته‌شده به بخش اعتبارسنجی می‌رود (آنچه بر اساس آن نمره‌دهی می‌کنید). مجموعهٔ کنار گذاشته شده مقدس است. اگر یک مثال به هر دو بخش نشت کند، عدد اعتبارسنجی شما دروغین است، چون مدل روی چیزی که روی آن آموزش دیده آزمایش شده است. بنابراین تقسیم‌بندی باید یک جداسازی تمیز باشد: بدون تداخل، بدون هیچ‌گونه از دست رفتن.

همچنین باید قابل بازتولید باشد. عبارت «امتیاز ۰.۸۱ گرفت» بی‌معنی است اگر اجرای مجدد اسکریپت، داده‌ها را به شکلی متفاوت مرتب کرده و امتیاز ۰.۷۹ بدهد. راه‌حل همان چیزی است که در هر جایی که تصادفی بودن در یادگیری ماشین وجود دارد، استفاده می‌کنید: مقدار seed را برای ژنراتور تعیین کنید. همان بذر همیشه تقسیم‌بندی یکسانی را تولید می‌کند، بنابراین آزمایش شما قابل تکرار است و یک همکار تیمی می‌تواند اعداد دقیق شما را بازتولید کند.

توجه داشته باشید که ما شاخص‌ها را جابه‌جا می‌کنیم، نه خود سطرها را، و به جای دستکاری مقدار سراسری، یک بذر مشخص را به یک تولیدکننده خصوصی می‌فرستیم:

import random

def split_dataset(rows, val_frac, seed):
    indices = list(range(len(rows)))
    rng = random.Random(seed)   # a private RNG, does not disturb global state
    rng.shuffle(indices)
    n_val = int(round(len(rows) * val_frac))
    ...

استفاده کنید random.Random(seed) (یک تولیدکنندهٔ تازه و ایزوله)، نه random.seed(...) روی ماژول جهانی، بنابراین فراخوانی تابع شما به طور پنهانی تصادفی بودن را در سایر بخش‌های برنامه تغییر نمی‌دهد.

تابع split_dataset(rows, val_frac, seed) را بسازید که مقدار زیر را بازگرداند: {"train": [...], "val": [...]} که در آن:

  • اندازه اعتبارسنجی است int(round(len(rows) * val_frac))، و train باقی‌مانده است؛
  • train و val از هم مستقل هستند و در مجموع هر سطر اصلی را دقیقاً یک بار در بر می‌گیرند؛
  • همین seed همیشه همان تقسیم‌بندی را تولید می‌کند، و seed متفاوت معمولاً تقسیم‌بندی متفاوتی را به وجود می‌آورد.

این آماده‌سازی تعیین‌کننده، تمام چیزی است که اجرای GPU به آن وابسته است. آموزش واقعی (آداپتورهای LoRA، یک بهینه‌ساز، منحنی زیان) روی سخت‌افزاری انجام می‌شود که این sandbox فاقد آن است. دکمه Run را فشار دهید تا یک لیست تقسیم شود و تأیید کنید که دو نیمه کل را بازسازی می‌کنند.

نوبت شما

نوشتن split_dataset(rows, val_frac, seed) که بازمی‌گرداند {"train": [...], "val": [...]}. یک لیست از شاخص‌ها را با random.Random(seed) (نه RNG سراسری)، اولی را بردار int(round(len(rows) * val_frac)) را به‌عنوان مجموعه اعتبارسنجی و بقیه را به‌عنوان مجموعه آموزش در نظر بگیرید. این دو نیمه باید از هم مستقل باشند، باید در مجموع هر سطر اصلی را دقیقاً یک‌بار شامل شوند و برای یک بذر مشخص قابل بازتولید باشند.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.