対照付きの、モデルの中のひとつの発見
なぜ大切か モジュール 21 のレッスンを自分のモデルに当てはめます:プローブの点数は、同じプローブが一度も訓練しなかったネットワークから読むものと比べるまで、何も意味しません。
あなたのトラックのためのプローブの組は、それぞれの入力についてひとつの問い(meaning)を尋ねます:language のトラックでは「次の文字は母音か?」、images のトラックでは「写真にどの物体があるか?」。
基準(シード 0)を訓練してください。その隠れ層(studio.hidden_units(model, X))を読み、プローブの組の前半で線形プローブを訓練し、後半で試します(ssl.probe、300 ステップ)。対照:同じ形とシードの 訓練していない ネットワークの上の同じプローブ(studio.MLP(track.n_in, width, track.n_out, seed=0))。ランダムな ReLU のユニットはすでに入力を多くの特徴に変え、プローブはそこから多くを読めます。訓練がそこに置いたものは、対照より上の部分だけです。
このレッスンの言葉と記号
- 基準
- 同じシードの上で、どの変更もそれと比べて測る素の実行
trained、control、base_rate(テストの半分での最もよくあるラベルの割合)を埋めてください。trained が control に 0.02 より多く勝てば finding を "above control" に、そうでなければ "not above control" に設定します。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。