از مدل می‌پرسید «چه کسی فلان سریال را کارگردانی کرد؟» و جواب دقیق می‌گیرید؛ می‌پرسید «امروز دمای تهران چند است؟» و یا جوابی کهنه می‌گیرید یا به‌راحتی می‌گذاردتان. همین دوگانه — هم‌زمان دانا و نادان بودن — منشأ بیشترِ ناامیدی‌های تازه‌کارها و بیشترِ خطاهای حرفه‌ای‌هاست. در این مطلب مرز دانش مدل‌های زبانی را دقیق می‌بینیم: این مدل‌ها چگونه «می‌دانند»، کجا دانش‌شان تمام می‌شود و با آن سمتِ مرز چه باید کرد.

دانش مدل چطور ساخته می‌شود؟

مدل زبانی دنیا را از متن می‌شناسد، نه از تجربه. در آموزش، حجم عظیمی از متن — صفحات وب، کتاب‌ها، مقالات، کد — به مدل داده می‌شود و مدل با تمرینِ حدس زدن ادامه‌ی متن‌ها، ناچار الگوهای واقعیت را هم یاد می‌گیرد: وقتی هزاران بار «پایتخت فرانسه» را در کنار «پاریس» دیده، این پیوند در پارامترهایش تثبیت می‌شود. دانش مدل یعنی همین پیوندهای آماری؛ نه آرشیوی از اسناد و نه یک دیتابیس که استعلام بگیرد. اگر دوست دارید این سازوکار از پایه توضیح داده شود، مطلب مدل زبانی چیست پیش‌نیاز همین بحث است.

از همین‌جا دو ویژگی بنیادین بیرون می‌آید: دانش مدل «ایستا» است — با هر گفتگو یاد نمی‌گیرد و فردا هم همان چیزی را می‌داند که امروز — و «تقریبی» است — خروجی احتمال است نه بازیابی سند؛ برای همین ممکن است در مرزهای دانسته‌هایش، پاسخ محتمل ولی غلط بسازد.

مرز زمانی: تاریخ قطع داده‌ی آموزش

مهم‌ترین مرز، زمانی است. داده‌ی آموزش هر مدل تا لحظه‌ای جمع شده و بعد بسته می‌شود؛ به این لحظه «تاریخ قطع دانش» می‌گویند و مدل‌ها معمولاً آن را اعلام می‌کنند — برای مدل‌های مختلف، ماه‌ها تا بیش از یک سال عقب‌تر از امروز. هر چیزی بعد از این تاریخ — رویدادها، قیمت‌ها، نسخه‌های جدید نرم‌افزارها، قوانین تازه — صرفاً وجود ندارد؛ مدل نه درباره‌اش می‌داند و نه می‌داند که نمی‌داند.

دقت کنید که تاریخ قطع درباره‌ی «وقوع رویدادها»ست نه «اعتبار اطلاعات»: اگر قانونی سال قبل تصویب شده و مدل شما تا شش ماه بعد آموزش دیده، آن را می‌داند؛ اما اگر ماه گذشته اصلاح شده، نسخه‌ی اصلاح‌شده در دسترسش نیست. برای موضوعاتی که زمان‌حساس‌اند — نرخ ارز، وضعیت بازار، آخرین نسخه‌ی یک ابزار — همیشه باید منبع به‌روز به مدل داد یا ابزاری وصل کرد که خودش جست‌وجو کند.

مرز عمق: دانش عمومی در برابر دانش اختصاصی

مرز دوم، عمق است. مدل در دانستنی‌های عمومی — که در هزاران منبع تکرار شده — بسیار قوی است: مفاهیم علمی پایه، تاریخ رویدادهای بزرگ، دستور زبان، الگوهای برنامه‌نویسی رایج. اما هرچه به سمت دانستنی‌های اختصاصی می‌رویم، کیفیت افت می‌کند: اسناد داخلی شرکت شما، قراردادهای سازمان، داده‌های مشتریان، مستندات محصولات جدید یا کم‌کاربر. این‌ها در داده‌ی آموزش نبوده‌اند؛ مدل از روی شباهت با چیزهای مشابه «حدس» می‌زند و حدس در این حوزه یعنی خطر توهم.

مدل آن‌چه را هزاران منبع تکرار کرده‌اند محکم می‌داند؛ آن‌چه فقط در فایل‌های شماست، اصلاً نمی‌داند مگر اینکه بدهیدش.

مرز شکل: جنس چیزهایی که مدل خوب می‌داند و بد می‌داند

حتی داخل دانسته‌هایش، مدل در بعضی شکل‌ها قوی‌تر است. متنِ منظم، تعریف‌ها، خلاصه‌سازی و کد — چون الگوی تکرارشونده دارند — نقطه‌ی قوتش است. اما شکل‌هایی که ماهیتاً با «حدس آماری» ناسازگارند، ضعف شناخته‌شده دارند: محاسبات دقیق چندرقمی، شمارش حرف‌به‌حرف، کار با اعداد و تاریخ‌های خیلی خاص و کم‌تکرار، و هر چیزی که «فراخوانی دقیق» می‌خواهد نه «الگوی مشابه». این ضعف‌ها در مدل‌های جدید کمتر شده اما هنوز در کار حساس باید به ابزار تخصصی یا چک دستی تکیه کرد.

خطر اصلی مرز: توهم

وقتی سؤال داخل مرز است، احتمال پاسخ درست بالا و ریسک کم است. وقتی سؤال بیرونِ مرز است — رویداد بعد از قطع داده یا سند اختصاصی شما — مدل هنوز باید «چیزی» بگوید و مکانیزم تولیدش، محتمل‌ترین پاسخ را می‌سازد، نه راست‌ترین را. نتیجه همان توهم معروف است: منبع ساختگی، عدد از خودبافته، روایت مطمئنِ غلط. مهم‌ترین راهکار عملی کاهش توهم، دادن منبع به مدل است که در مطلب RAG چیست به آن می‌پردازیم؛ اما قاعده‌ی طلایی همین‌جاست: هر چه سؤال به مرز نزدیک‌تر است، بیشتر باید منبع بدهید و خروجی را راستی‌آزمایی کنید.

با سمتِ تاریکِ مرز چه کنیم؟ پنج راهکار عملی

  1. تاریخ قطع مدل را بدانید: اولین سؤال برای هر کار زمان‌حساس؛ اگر مدل ندانست، از خودش نپرسید، منبع بدهید.
  2. دانش اختصاصی را به گفتگو تزریق کنید: متن قرارداد، مستندات و داده‌ها را داخل پرامپت یا فایل پیوست بدهید؛ مدل روی «همین متن» بسیار دقیق‌تر از حافظه‌ی تاریخی‌اش کار می‌کند.
  3. برای آرشیوهای بزرگ، بازیابی بسازید: وقتی دانستنی‌های شما بیش از اندازه‌ی یک پرامپت است، الگوی RAG — موضوع مطلب RAG چیست — بخش مرتبط را پیدا و به مدل می‌دهد.
  4. پاسخ‌های نقلی را بپرسید، نه بپذیرید: برای ادعاهای واقعی، منبع بخواهید و چک کنید؛ «از کجا آمده؟» سؤال طلایی است.
  5. حساسیت‌ها را ابزاری حل کنید: محاسبه دقیق را به کد یا ماشین‌حساب بسپارید؛ داده‌ی زنده را از API بگیرید و فقط تحلیل را به مدل.

جمع‌بندی

مدل زبانی را این‌طور تصور کنید: کتابدانی که یک نسخه‌ی عظیم از اینترنت تا یک تاریخ مشخص را خوانده، همه را حفظ است اما هیچ کتابخانه‌ای برای استعلام ندارد و اگر چیزی از حفظ نبود، به‌جای «نمی‌دانم» گاهی داستانی محتمل می‌سازد. با این تصویر، همه‌ی تصمیم‌های عملی روشن می‌شود: دانستنی‌های عمومی را می‌توانید بپرسید، دانش اختصاصی را باید بدهید و خروجی‌های واقعی را باید چک کنید. قدم بعدی در این مسیر، RAG است؛ ابزار اصلی پاسخ‌گویی از روی منبع، دقیقاً جایی که این مرزها رعایت نشوند.