Глосарій · Визначення
Галюцинація
Галюцинація — коли мовна модель упевнено стверджує щось хибне чи непідтверджене: вигаданий факт, посилання, правило чи число.
Автор: Nythrex EngineeringОновлено 1 хв читання
Простими словами
Мовні моделі генерують правдоподібний текст, а правдоподібне — не те саме, що правдиве. Коли відповіді немає в наданому контексті — або контексту бракує, — модель може заповнити прогалину. Рішення — не сподіватися на кращу модель, а дизайн: опора на джерела, посилання й дозвіл казати «не знаю».
Коли це важливо для вас
- Будь-яка відповідь, за якою діятимуть користувачі
- Асистенти для клієнтів
- Юридичний, фінансовий чи медичний контент
Типові помилки
- Думати, що більша модель це вирішить
- Немає посилань, тож помилок не помітити
- Штрафувати відповіді «не знаю» під час оцінювання
Читайте також
ПослугаРозробка RAGРозробка RAG: AI-асистенти, що відповідають з ваших документів і даних — з посиланнями, правами доступу й виміряною точністю, у вашій хмарі.ГайдОцінювання LLM для не-ML командЯк оцінювати LLM-функцію без команди data science: тестовий набір, метрики, обережне використання LLM-суддя, оцінювання в CI та читання результатів.ГлосарійОбмеження (guardrails)Guardrails — перевірки й ліміти навколо AI-системи — на входах, виходах і діях, — що тримають її в межах призначення й політик.
Потрібен другий погляд на ваш проєкт?
Розкажіть, що ви будуєте і де застрягли. Протягом одного робочого дня відповімо з найпрактичнішим наступним кроком — навіть якщо цей крок не з нами.