Output tokens

توکن های خروجی یا Output Tokens همون Tokenهایی هستن که Model به عنوان جواب تولید می‌کنه. هر چیزی که مدل می‌نویسه، از متن و کد گرفته تا Tool Callها، جزو Output Tokens حساب میشه.

هزینه‌ی Output Tokens معمولا از Input Tokens بیشتره، چون تولید کردن متن برای مدل سخت‌تر از خوندن متنه و قدرت پردازشی بیشتری می‌خواد.

یه نکته‌ای که خیلی‌ها نمی‌دونن اینه که حتی اون "فکر کردن" که مدل قبل از جواب دادن انجام میده هم جزو Output Tokens محسوب میشه. ممکنه Harness این بخش رو بهت نشون نده، ولی مدل همچنان اون Tokenها رو تولید کرده و Model Provider پول اون توکن هارو ازت میگیره.

و خب به همین خاطر، هرچی Effort رو بیشتر کنی، معمولا تعداد Output Tokens هم بیشتر میشه.

توکن های خروجی روی سرعت جواب دادن هم تأثیر دارن. مدل می‌تونه Input رو خیلی سریع بخونه ولی جواب رو باید Token به Token تولید کنه. برای همین وقتی حس می‌کنی مدل داره طولانی فکر می‌کنه، معمولا دلیلش اینه که هنوز مشغول ساختن Output ـه و نه خوندن ورودی!

اگه هم یه Agent به جای اینکه فقط چند خط کد رو تغییر بده، هر بار کل فایل رو از اول تولید کنه، تعداد Output Tokens خیلی زیاد میشه و هزینه هم به همون نسبت بالا میره.