Співбесіда з серії AI 8: Що таке RAG? Чому виникла ідея зробити проект RAG?

Що таке RAG?

RAG розшифровується як Retrieval-Augmented Generation, українською — Пошуково-збагачене покоління.

Простими словами, це технологія, яка дає великій мовній моделі «довідник, який можна завжди перегорнути».

Ви можете уявити велику мовну модель як «супервідмінника» з феноменальною пам'яттю та глибокими знаннями. Але в цього відмінника є дві природжені «вади»:

1. Дата закінчення знань: Його знання обмежені даними, на яких він навчений. Про події після 2023 року він нічого не знає.
2. Можливість «вигадувати»: Коли він стикається з невідомим питанням, він не скаже «Я не знаю», а натомість «вигадає» правдоподібну відповідь (це називається галюцинацією ШІ).

RAG створений саме для вирішення цих двох проблем. Його робочий процес простий і складається з трьох кроків:

1. Пошук: Коли ви ставите запитання, система швидко шукає в «зовнішній базі знань» (наприклад, усі документи вашої компанії, актуальна Вікіпедія або набір юридичних текстів) і знаходить найбільш релевантні фрагменти інформації. Це як студент, який гортає підручник у пошуках відповіді.
2. Збагачення: Система об'єднує «ваше запитання» та «знайдені релевантні фрагменти» в один «збагачений» запит. Це як дати студентові довідкові матеріали.
3. Генерація: Велика мовна модель на основі цього «збагаченого» запиту формує остаточну відповідь. Тепер вона покладається не лише на старі знання зі своєї «пам'яті», а головним чином на надані «довідкові матеріали». Це як студент, який відповідає, дивлячись у книгу, а не фантазуючи.

Проста аналогія:
- Традиційна LLM: «Як відремонтувати мій велосипед моделі XX?» → Модель відповідає з пам'яті, можливо, застарілою або помилковою інформацією.
- RAG: «Як відремонтувати мій велосипед моделі XX?» → Спочатку пошук у найновішому офіційному посібнику з ремонту → Потім генерація: «Згідно з розділом 3 посібника з ремонту 2024 року, вам слід спочатку...»

Чому виникла ідея зробити проект RAG?

Створення проекту RAG по суті є способом використати переваги та уникнути недоліків, щоб розкрити справжній потенціал великих мовних моделей. Є кілька основних рушійних сил:

1. Вирішення проблем «застарілих знань» та «галюцинацій»

   • Мотивація: Хочеться, щоб LLM відповідала на питання про найновіші події, внутрішні дані, приватні документи, при цьому відповіді підкріплювалися джерелами.
   • Цінність: Медична система питань-відповідей з RAG може посилатися на останні медичні журнали, відповідаючи «Симптоми новітнього варіанту COVID-19», замість застарілої інформації 2021 року, і наводити джерела, що значно знижує ризик «безпідставних тверджень».

2. Дозволити ШІ працювати з «приватними даними», зберігаючи безпеку

   • Мотивація: Кожна компанія має власну базу знань (контракти, код, записи підтримки тощо). Ці дані не можна використовувати для перенавчання або доналаштування моделі (висока вартість, складність, ризик витоку даних).
   • Цінність: За допомогою RAG ви можете створити внутрішнього «AI-помічника з питань» для компанії. Співробітник ставить питання, а AI шукає відповідь у внутрішніх приватних документах. Приватні дані завжди залишаються всередині компанії, не надсилаються постачальнику моделі для навчання, що дозволяє використовувати здатність LLM до розуміння, забезпечуючи безпеку даних.

3. Зниження витрат, підвищення ефективності

   • Мотивація: Перенавчання або доналаштування великої моделі для засвоєння нових знань — це як перечитувати всю бібліотеку, що потребує величезних обчислювальних ресурсів і витрат.
   • Цінність: RAG майже не потребує навчання, достатньо побудувати пошукову систему. Витрати можуть становити 1% або навіть менше від витрат на доналаштування. Крім того, коли база знань оновлюється, результати пошуку автоматично оновлюються, модель не потрібно перенавчати — це «оновлення в реальному часі».

4. Зробити AI таким, що «знає, що знає, і знає, чого не знає»

   • Мотивація: Бажання, щоб модель чітко усвідомлювала межі своїх знань.
   • Цінність: Система RAG може мати правило: якщо не знайдено релевантних документів, відповідати «Вибачте, я не знайшов відповідної інформації в базі знань. Будь ласка, уточніть ваше запитання». Цей механізм «невдалого посилання» робить роботу AI більш надійною та прозорою.

Підсумуємо:

Ідея створення проекту RAG виникла тому, що ми хочемо одночасно мати потужну здатність великих мовних моделей до розуміння та генерації тексту, а також зробити їх «чесними, надійними, актуальними та обізнаними у приватних справах». Це як встановити на супердвигун (LLM) точне кермо та карту з оновленнями в реальному часі (пошукова система). Це один із найефективніших і найпопулярніших технічних шляхів для серйозного впровадження LLM у таких сферах, як підприємства, медицина, юриспруденція та фінанси.