पाठ्यक्रम 246 में से पाठ 162 · Module 14: Run Clinic II, sequence models का इलाज
Module 14: Run Clinic II, sequence models का इलाज

Clinic: एक अच्छा model बुरा लिखता हुआ

यह क्यों मायने रखता है एक प्रशिक्षित model भी कचरा बना सकता है अगर उसके आस-पास का code ग़लत हो। ये गड़बड़ियाँ sampling code में रहती हैं, weights में नहीं, और लोग वहाँ देखने से पहले दिनों तक फिर train करते हैं।

नीचे का हर case वही दर्ज चौड़ाई-64 model इस्तेमाल करता है, जो temperature 0.8 पर ठीक-ठाक text लिखता है। हर case में text sample या decode होने के तरीके में एक गड़बड़ी है:

  • too_cold: temperature 0 के पास। model हमेशा अपना पसंदीदा अगला अक्षर लेता है और एक loop में गिरता है।
  • too_hot: temperature 1 से बहुत ऊपर। वितरण तब तक चपटा होता है जब तक दुर्लभ चिह्न अक्षरों जितनी बार न निकलें।
  • shifted_decode: ids वापस अक्षरों में एक से खिसकी वर्णमाला के साथ बदले जाते हैं, इसलिए एक ठीक sample एक कूट जैसा पढ़ता है: हर space "!" बन जाता है।

Probes: sample(c) text दिखाता है; repeat_share(text) और space_share(text) उसे मापते हैं।

आपकी बारी

cases A, B और C के लिए diagnosis और fixes भरें। आपके इलाज के बाद, हर setting को स्वस्थ वाले से मेल खाना होगा, और sample को फिर text जैसा पढ़ना होगा।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।