Effort
Effort مشخص میکنه Model قبل از جواب دادن چقدر فکر کنه، هرچی بیشتر باشه، معمولاً جواب دقیقتره، ولی زمان و هزینهی بیشتری هم داره.
Effort یه تنظیماته که مشخص میکنه Model قبل از اینکه جواب بده، چقدر روی مسئله فکر کنه.
هرچی Effort رو بالاتر بذاری، مدل زمان بیشتری صرف استدلال و بررسی راهحلهای مختلف میکنه و بعد جوابش رو مینویسه.
این فکر کردن هم مثل بقیهی کارهای مدل، موقع Inference انجام میشه. معمولا Harness این بخش رو بهت نشون نمیده، ولی خب اون پشت واقعا داره اتفاق میفته.
البته این "فکر کردن" رایگان نیست. مدل برای این فرآیند هم Token تولید میکنه و همونها هم جزو Output Tokens حساب میشن.
یعنی هرچی Effort بیشتر باشه، هم باید بیشتر منتظر بمونی، هم پول بیشتری بدی.
به طور کلی Effort چهار سطح داره. Low برای کارهای ساده مثل تغییر اسم یا ویرایشهای مشخصه. Medium همون حالتیه که بیشتر وقتها برای برنامهنویسی استفاده میشه. High برای دیباگینگ یا کار های سخت یا کلا کارهایی که چند مرحله فکر میخوان مناسبه. Max هم برای سختترین مسئلههاست و جاهایی که یه جواب اشتباه میتونه داستان بشه.
اگه Effort رو برای یه مسئلهی سخت خیلی پایین بذاری، مدل سریع جواب میده، ولی ممکنه فقط یه جواب سطحی و مزخرف تحویلت بده که بعدا معلوم بشه اشتباه بوده.
از اون طرف، اگه برای یه تغییر خیلی ساده Max رو انتخاب کنی، فقط وقت و هزینهی بیشتری صرف میشه، بدون اینکه تاثیر اونچنانی روی نتیجه داشته باشه.
پس Effort رو بر اساس همون کاری که الان داری انجام میدی تنظیم کن، نه کل Session.
برای بخشهای سخت بیشترش کن و وقتی رسیدی به کارهای تکراری یا ساده، دوباره بیارش پایین.