Context pointer

خب Context pointer یعنی به جای اینکه کل اطلاعات رو از همون اول داخل context window بریزی، فقط یه اشاره‌ی کوتاه بذاری که اگه لازم شد، agent خودش بره اطلاعات کامل رو بیاره.

دلیلش هم واضحه: context گرونه!

اگه یه فایل بزرگ رو همیشه داخل context نگه داری، توی همه‌ی sessionها کلی token اضافه مصرف میشه، حتی اگه هیچ‌وقت از اون اطلاعات استفاده نشه. ولی با یه context pointer فقط یه خط داخل context میاد و محتوای اصلی فقط وقتی لود میشه که واقعاً بهش نیاز باشه.

یه context pointer خوب فقط اسم یه فایل نیست بلکه باید یه توضیح کوتاه هم داشته باشه که agent بفهمه چه موقع باید بره سراغش.

بر فرض مثال اگه به جای اینکه فقط بنویسی guide.md ، بهتره بنویسی «اگه این تسک درباره‌ی تست بود، guide.md رو بخون.» اینطوری مدل می‌فهمه چه زمانی باید اون فایل رو وارد context کنه.

از این ایده تقریبا همه‌جا میشه استفاده کرد. هرجا اطلاعات زیادی داری که همیشه لازم نیست، به جای نگه داشتنش داخل context، فقط یه context pointer بذار تا موقع نیاز لود بشه. Context pointer حتی برای خلاصه‌ها هم مفیده. اگه یه خلاصه از یه متن یا جلسه ساختی، بهتره داخلش اشاره کنی که متن اصلی کجاست. اینطوری اگه یه روز خلاصه کافی نبود، agent می‌تونه برگرده سراغ نسخه‌ی کامل و چیزی رو از دست نده.