سناریوی آشنا: یک ساعت با مدل روی یک پروژه کار کرده‌اید، بعد جمله‌ای می‌نویسید و مدل انگار همین حالا وارد گفتگو شده — اولین توافقتان را از یاد برده. مدل «فراموش‌کار» نشده؛ به سقفی خورده که همه‌ی مدل‌های زبانی دارند: پنجره‌ی زمینه. فهمیدن این مفهوم، از آن دسته دانش‌هایی است که مستقیم به کیفیت کارتان تبدیل می‌شود: می‌فهمید چرا فایل پیوست بهتر از متن چسبانده است، چرا گفتگوی تازه گاهی بهتر جواب می‌دهد و چرا اسناد خیلی طولانی را نمی‌توان یک‌جا به مدل داد.

پنجره‌ی زمینه دقیقاً چیست؟

مدل زبانی حافظه‌ی بلندمدت از گفتگوی شما ندارد؛ هر بار که توکن جدیدی تولید می‌کند، «همه‌ی گفتگوی تا این لحظه» را از اول می‌بیند. پنجره‌ی زمینه، بیشترین حجمی است که همین «همه» می‌تواند داشته باشد — بر حسب توکن. اگر گفتگو از این سقف بزرگ‌تر شود، ابتدای آن از دید مدل خارج می‌شود؛ مثل کسی که فقط صفحه‌ی آخر یادداشت‌های شما را می‌خواند.

نکته‌ی کلیدی که کمتر کسی می‌داند: پنجره‌ی زمینه فقط پیام‌های شما نیست. این‌ها همه داخل آن حساب می‌شوند:

  • پرامپت سیستم: دستورهای پنهانی که رفتار مدل را تعیین می‌کنند.
  • کل تاریخ گفتگو: همه‌ی پیام‌های شما و همه‌ی پاسخ‌های مدل.
  • فایل‌ها و متن‌های پیوست: سندی که می‌چسبانید یا آپلود می‌کنید.
  • پاسخ در حال تولید: توکن‌هایی که مدل همین حالا می‌سازد.

یعنی گفتگوی شما از دو طرف فشار می‌آورد: تاریخچه از پشت، پاسخ‌های طولانی از جلو. برای متن فارسی هم به‌خاطر داشته باشید هر کلمه توکن بیشتری مصرف می‌کند و پنجره زودتر پر می‌شود؛ جزئیاتش در مطلب توکن چیست.

مدل صفحه‌ی آخر یادداشت‌های شما را می‌خواند، نه دفترچه را؛ هر چه به ابتدای دفتر نزدیک‌تر باشد، احتمال محوشدنش بیشتر است.

چرا مدل‌های جدید پنجره‌های عظیم دارند و باز هم سقف مهم است؟

رقابت مدل‌ها پنجره‌ها را از چند هزار توکن به صدها هزار و حتی میلیون‌ها توکن رسانده است؛ یعنی امکان دادن کتاب‌ها و مخازن کد بزرگ به مدل. اما سه دلیل عملی باعث می‌شود سقف همچنان دغدغه باشد.

اول، هزینه و سرعت: در بیشتر معماری‌ها هر توکن زمینه در هر مرحله پردازش می‌شود؛ گفتگوی بزرگ‌تر یعنی پاسخ کندتر و گران‌تر، حتی وقتی هنوز به سقف نرسیده‌اید. دوم، کیفیت میانی: با پر شدن پنجره، توجه مدل روی حجم بیشتری پخش می‌شود و جزئیات ظریف وسط سند — که به آن «گم‌شدن در میانه» می‌گویند — کمتر دیده می‌شود؛ پنجره‌ی بزرگ مطمئن نیست، فقط بزرگ‌تر است. سوم، سقف واقعی هر محصول با سقف مدل فرق دارد؛ ابزارهایی که روی مدل سوارند معمولاً سقف خودشان را برای مدیریت هزینه می‌گذارند.

نشانه‌های رسیدن به مرز

  • مدل به چیزی که ابتدای گفتگو agreeing شده بود، بی‌اعتنا می‌شود یا آن را انکار می‌کند.
  • به سؤالات درباره‌ی فایل‌هایی که در ابتدا داده‌اید، جواب‌های کلی می‌دهد.
  • لحن و قالبی که اول خواسته بودید، کم‌کم از بین می‌رود.
  • پیام جدید ارسال نمی‌شود یا هشدار «گفتگو طولانی است» می‌بینید.

هفت راهکار عملی برای کار با محتوای بزرگ

  1. گفتگو را بر اساس موضوع بشکنید: برای هر پروژه یا موضوع تازه، گفتگوی جدید. تاریخچه‌ی بی‌ربط، هم هزینه است هم نویز.
  2. خلاصه‌ی کاری بسازید: قبل از پایان گفتگوی مهم، از مدل بخواهید همه‌ی تصمیم‌ها و قراردادهای گفتگو را خلاصه کند؛ این خلاصه را در گفتگوی بعدی بچسبانید — پُل زدن بین پنجره‌ها.
  3. سند را فشرده کنید، نه خام: به‌جای چسباندن کل گزارش، فقط فصل‌های مرتبط یا جدول‌های کلیدی را بدهید.
  4. فایل پیوست کنید، نه متن بچسبانید: وقتی ابزار پشتیبانی می‌کند (مثل آپلود فایل در ماین‌دبیس)، پیوست تمیزتر و ارزان‌تر از متنِ داخل پیام است.
  5. دستورهای ثابت را در پرامپت سیستم بگذارید: نه در هر پیام تکرار کنید؛ هم پنجره را می‌پراند هم هزینه می‌سازد.
  6. درخواست‌ها را نزدیک محتوا نگه دارید: سؤال خود را بعد از متن مربوطه بگذارید، نه در انتهای یک سند عظیم؛ موقعیت واقعاً روی کیفیت اثر دارد.
  7. برای اسناد عظیم، RAG را بشناسید: الگویی که به‌جای دادن کل آرشیو، فقط بخش‌های مرتبط را به مدل می‌دهد؛ پایه‌ی محصولات سازمانی و موضوع RAG چیست.

پنجره‌ی زمینه در API چه فرقی دارد؟

در استفاده از API، مدیریت پنجره کاملاً دست خودتان است: شما لیست پیام‌ها را می‌سازید و می‌فرستید. سه الگوی رایج این است: «پنجره‌ی لغزان» که فقط N پیام آخر را نگه می‌دارد؛ «خلاصه‌سازی دوره‌ای» که تاریخچه را هر چند پیام یک‌بار جمع می‌کند؛ و «بازیابی» که به‌جای تاریخچه، اطلاعات مرتبط را از منبع بیرونی می‌آورد. انتخاب بین این‌ها تابع نوع محصول است — چت پشتیبانی با دستیار حقوقی یک‌جا نیست — و در هر سه، حسابداری توکن همان چیزی است که مطلب توکن چیست توضیح داد.

جمع‌بندی

پنجره‌ی زمینه، حافظه‌ی کارِ مدل در هر لحظه است و همه‌چیز را حساب می‌کند: تاریخچه، فایل‌ها، دستورها و پاسخ در حال تولید. فراموشی مدل یعنی پر شدن همین پنجره، نه بی‌هوشی. با سه عادت ساده — گفتگوی موضوعی، خلاصه‌ی کاری بین گفتگوها و پیوست فایل به‌جای متن چسبانده — بیشترِ دردهای این حوزه حل می‌شود؛ و وقتی محتوا واقعاً بزرگ است، وقتش است با RAG آشنا شوید: روشی که به‌جای بزرگ‌تر کردن پنجره، فقط چیزهای مرتبط را به مدل می‌رساند.