Prompting, RAG чи Fine-Tuning: обирайте метод під конкретну проблему

Вибір між prompting, RAG і fine-tuning — це вибір методів для різних проблем, а не сходинок зрілості системи. RAG означає retrieval-augmented generation — генерацію з доповненням контексту знайденими матеріалами. Ці методи можна поєднувати, якщо кожен усуває проблему, виявлену під час оцінювання.

Prompting уточнює постановку завдання

За допомогою промптів уточнюйте мету, обмеження, формат відповіді, правила використання інструментів і приклади. Prompting — найшвидший спосіб покращити результат, коли модель неправильно розуміє завдання, пропускає обов’язкові елементи структури або потребує кількох прикладів.

Водночас цей метод не забезпечує надійного доступу до зовнішніх фактів, що змінюються. Якщо додати чинну політику до одного величезного системного промпту, підтримувати його актуальність теж буде складно.

RAG додає зовнішні знання

Retrieval доречний, коли відповідь залежить від приватної, актуальної або специфічної для певного джерела інформації. Система шукає в погодженому корпусі матеріалів і додає релевантні фрагменти до контексту. Так можна посилатися на джерела й оновлювати інформацію без перенавчання моделі.

Помилка в RAG може виникнути ще до початку генерації: невдалий chunking, відсутні метадані, застарілі індекси або неправильний запит можуть залишити потрібні докази поза контекстом. Оцінюйте retrieval окремо від якості відповіді.

Fine-tuning змінює поведінку моделі

Fine-tuning використовує навчальні приклади, щоб модель стабільніше виконувала завдання, дотримувалася формату або стилю. У рекомендаціях OpenAI щодо оптимізації радять починати з оцінювання та наголошують на репрезентативності навчальної вибірки й окремої тестової вибірки, яка не бере участі в навчанні. Fine-tuning — не оновлення бази даних. Він погано підходить для додавання фактів, які часто змінюються або потребують точних посилань на джерела.

Доступність продуктів також змінюється. Поточна документація OpenAI описує зміни у власній платформі fine-tuning. Це нагадування: підтримку конкретного постачальника потрібно перевіряти під час реалізації, а не закладати припущення про продукт у довгострокову архітектуру.

Prompting, RAG чи fine-tuning: матриця вибору

Поєднуйте методи з конкретною метою

Агент підтримки може використовувати промпт для визначення ролі й правил ескалації, RAG — для доступу до чинної політики, а меншу модель після fine-tuning — для стабільної класифікації. Така архітектура виправдана лише тоді, коли кожен компонент усуває конкретну виміряну помилку.

Щоб обрати між prompting, RAG і fine-tuning, почніть із набору для оцінювання та найпростішого промпту. Додавайте retrieval, коли причиною помилок є брак знань. Розглядайте fine-tuning, коли вже є достатньо якісних прикладів, але поведінка моделі залишається нестабільною. Після кожної зміни повторюйте те саме оцінювання.

Коли жодного з цих методів недостатньо

Детерміновані бізнес-правила, дозволи й розрахунки мають виконуватися в коді. Жодному методу оптимізації не слід довіряти дотримання точного грошового ліміту або правила контролю доступу без зовнішнього валідатора.

Читайте також: RAG, Long Context чи Search, Context Engineering та Як оцінити AI-агента.

Першоджерела

• OpenAI: Optimizing LLM accuracy
• OpenAI: Model optimization
• OpenAI: Fine-tuning best practices
• OpenAI: Retrieval

Примітка про адаптацію: під час підготовки статті використано концепції знань, контексту та post-training із книги AI Agents in Depth: Design Principles and Engineering Practice авторства Bojie Li та співавторів, Apache License 2.0. Стаття має самостійну структуру й оновлена за актуальною первинною документацією.