رگرسیون لجستیک و احتمالها
درخت تصمیم به شما یک برچسب داد. اما سیستمهای واقعی معمولاً بیش از «هرزنامه» یا «غیرهرزنامه» نیاز دارند -> آنها به میزان اطمینان مدل نیاز دارند تا بتوانید آستانهای تعیین کنید، در مواقع عدم اطمینان خودداری کنید یا موارد مطمئن را بهطور خودکار مسیریابی کنید. مدل اصلی برای این کار رگرسیون لجستیک است و با وجود نامش، یک طبقهبندیکننده است، نه رگرسیور.
ایده اصلی پشت آن این است. یک مدل خطی مجموع وزنی ویژگیها را محاسبه میکند که میتواند هر عددی از بینهایت منفی تا بینهایت مثبت باشد. رگرسیون لجستیک آن عدد را از طریق تابع سیگموئید به یک احتمال بین ۰ و ۱ تبدیل میکند:
sigmoid(z) = 1 / (1 + e**(-z))
# z = -4 -> 0.018 z = 0 -> 0.5 z = 4 -> 0.982بنابراین مدل خروجی میدهد P(class = 1). هر مقداری بالاتر از ۰.۵، کلاس ۱ را پیشبینی میکند، هر مقداری پایینتر، کلاس ۰ را پیشبینی میکند، و مقداری نزدیک به ۰.۵ به معنای این است که مدل میگوید «مطمئن نیستم.» این عدد واحد، اساس تمام ترفندهای آستانه اطمینان و مسیریابی بعدی در این دوره است.
کد، همان روال فیت/پیشبینی (fit/predict) مشابه درخت است، با یک متد جدید، predict_proba، که به جای برچسبهای سخت، احتمالها را بازمیگرداند:
from sklearn.linear_model import LogisticRegression
clf = LogisticRegression()
clf.fit(X, y)
clf.predict(X) # hard labels: 0 or 1
clf.predict_proba(X) # one [P(0), P(1)] row per sample, each row sums to 1شما آن را روی یک مجموعه داده کوچک و شهودی آموزش خواهید داد: ساعات مطالعه در مقابل اینکه آیا دانشآموز قبول شده است. ساعات کم -> مردود (0)، ساعات زیاد -> قبول (1). از آنجا که الگو یکنواخت است، مدل برازششده باید به کسی که بیشتر مطالعه کرده، احتمال قبولی بالاتری بدهد. دو ستون از predict_proba هستند P(class 0) و P(class 1) به ترتیب clf.classes_ (در اینجا [0, 1])، بنابراین شاخص ستون 1 احتمال عبور است.
یک مجموعه داده تکویژگهای داده شده است: hours مطالعه شده و passed (0 یا 1). (1) ایجاد یک LogisticRegression() و fit آن را روی X, y. (2) برچسبهای سخت را برای X در preds. (3) از predict_proba برای ذخیره احتمال قبولی (کلاس ۱) برای مطالعه ۲ ساعت در p_low، و برای ۷ ساعت در p_high. مدل باید به اندازهی کافی مطمئن باشد که p_high > p_low، و هر دو احتمالهای واقعی بین 0 و 1 هستند.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.