Коротко: Явище, коли велика мовна модель із високою впевненістю генерує фактично неправдиву, вигадану або безглузду інформацію.
Що таке AI Hallucination (Галюцинації ШІ)?
Відбувається тому, що модель прогнозує статистично ймовірні слова, а не перевіряє факти за базою істини.
Ключові особливості та переваги
- Головний ризик впровадження ШІ у критичних сферах (медицина, юриспруденція)
- Знижується використанням архітектури RAG, системних підказок та перевірки фактів
- Вимагає контролю людиною у відповідальних сценаріях
Сфери застосування та практичне значення
Враховується всіма інженерами при створенні надійних додатків на базі штучного інтелекту.