RAG در برابر Fine-tuning: کدام برای دانش سازمانی فارسی؟

تقریباً هر هفته همین سؤال را از کارفرماها می‌شنویم: «برای اینکه مدل دانش سازمان ما را بداند، fine-tune کنیم یا RAG؟» پاسخ کوتاه: برای ۹۰٪ سازمان‌ها با دانش به‌روزشونده، RAG. پاسخ بلند را در این مقاله می‌خوانید.

دو مسیر، دو مسئله متفاوت

بیایید اول روشن کنیم هر کدام چه چیزی را حل می‌کند:

• RAG (بازیابی-افزوده‌شده): دانش بیرون مدل می‌ماند و لحظه پرسش، قطعات مرتبط داخل پرامپت می‌نشیند → تازگی دانش را حل می‌کند.
• Fine-tuning: وزن‌ها روی داده اختصاصی تنظیم می‌شوند → سبک، لحن و فرمت پاسخ را حل می‌کند نه دانش واقعی.

یک مدل fine-tune‌شده هنوز هم برای «آخرین تغییر ماده ۱۲ قانون مالیات» دروغ می‌گوید؛ چون آن دانش در وزن‌ها نیست یا تاریخ‌گذارده شده است.

# ترکیب پیشنهادی: RAG برای دانش + سیستم‌پرامپت برای لحن
def answer(question: str, org_id: str) -> str:
    context = vector_search(question, org=org_id, top_k=8)
    return llm.chat(
        system=ORG_TONE_PROMPT,          # لحن سازمانی (ثابت)
        user=f"بر اساس مستندات:
{context}

سؤال: {question}",
        cite=True,                        # ارجاع به شماره سند
    )

وقتی Fine-tuning واقعاً انتخاب درستی است

سه حالت که توصیه ما عوض می‌شود:

1. فرمت خروجی بسیار سخت‌گیرانه (مثلاً JSON با اسکیمای خاص) که با چند نمونه هم ثابت نمی‌شود.
2. زبان تخصصی بسیار محدود با اصطلاحاتی که در پایگاه عمومی تقریباً نیست.
3. محدودیت تأخیر/هزینه به‌حدی که نمی‌توان ۸ سند در پرامپت گذاشت.

جدول تصمیم

معیار	RAG	Fine-tuning
به‌روزرسانی دانش روزانه	عالی (فقط ایندکس)	ضعیف (بازآموزی)
هزینه اولیه	متوسط (زیرساخت برداری)	بالا (داده+GPU)
ارجاع‌پذیری پاسخ	ذاتی (نقل‌قول از سند)	نیاز به ترفندهای جدا
حریم خصوصی داده	کنترل کامل (On-Premise)	کنترل کامل (On-Premise)
امنیت داده در طول آموزش	داده وارد وزن نمی‌شود	داده در وزن‌ها تثبیت می‌شود

اگر پاسخی باید «به این سند، در این تاریخ» استناد کند، Fine-tuning به‌تنهایی هرگز کافی نیست.

نتیجه‌گیری

برای دانش سازمانی فارسی — که قراردادها، دستورالعمل‌ها و تعرفه‌هایش هفتگی عوض می‌شوند — RAG ستون اصلی است و Fine-tuning فقط برای پرداختن به لحن و فرمت، آن هم بعد از تثبیت RAG، معنا دارد. ترتیب درست کار همین است: اول RAG، بعد اگر لازم شد، fine-tune سبک.