Knowledge Cutoff

یبس Knowledge cutoff یعنی آخرین تاریخی که اطلاعات داخل مغز یه Model آپدیت شده و مدل از هیچ چیزی که بعد اون تاریخ اتفاق افتاده باشه، اطلاعی نداره!

مثلاً اگه یه SDK v5 بعد از Knowledge cutoff منتشر شده باشه، مدل هنوز فکر می‌کنه آخرین نسخه همون v4 ـه. برای همین وقتی ازش کد می‌خوای، با اعتمادبه‌نفس همون سینتکس قدیمی رو می‌نویسه.

شاید حتی کدت بدون ارور هم Build بشه، ولی دقیقا جاهایی که توی نسخه جدید تغییر کرده خراب درمیاد.

دلیلش هم اینه که موقع Training یه اسنپ‌شات از اینترنت و کلی متن رو داخل Parameters مدل فشرده می‌کنن. بعد از اون دیگه اون Parameters قفل میشن و چیزی بهشون اضافه نمی‌شه.

یعنی مدل خودش نمی‌فهمه که اطلاعاتش قدیمی شده و فقط سعی می‌کنه با چیزایی که بلده حدس بزنه جواب درست چیه. همین باعث میشه جواباش خیلی منطقی به نظر برسن، ولی خب در واقع اشتباه باشن.

راه‌حلش خیلی ساده‌ست: خودت باید اطلاعات جدید رو وارد Context کنی.

مثلاً داکیومنت نسخه جدید، changelog ، فایل‌های تایپ ( type definitions ) یا هر سورس به‌روز دیگه رو به مدل بدی یا ازش بخوای خودش بره از وب بخونه و وقتی این اطلاعات داخل Context باشن، مدل به اونا بیشتر از چیزایی که از قبل توی Parameters یاد گرفته اعتماد می‌کنه و بر اساس همون جواب می‌ده.