Оценка неопределенности генеративных моделей¶
Методы количественной оценки уверенности LLM в своих ответах для борьбы с галлюцинациями.
🧠 Семантическая энтропия (Semantic Entropy)¶
Решает проблему семантической эквивалентности (когда разные формулировки означают одно и то же).
Принцип работы: 1. Генерируется \(N\) независимых ответов на один запрос. 2. Ответы группируются в семантические кластеры (например, с помощью NLI-моделей, проверяющих двустороннюю импликацию: \(A \implies B\) и \(B \implies A\)). 3. Энтропия вычисляется по распределению вероятностей между кластерами, а не по отдельным токенам.
Результат: Высокая семантическая энтропия \(\rightarrow\) модель выдает разные по смыслу ответы \(\rightarrow\) высокая неопределенность.
📊 Перплексия (Perplexity)¶
Классическая метрика, измеряющая, насколько «удивлен» модель при предсказании следующего токена.
Суть: Экспонента от средней кросс-энтропии. - Низкая перплексия: Модель уверена в выборе следующего токена. - Высокая перплексия: Распределение вероятностей «размазано», модель не уверена в выборе.
📐 Косинусная мера (Cosine Similarity)¶
Оценка вариативности через векторные представления (embeddings).
Метод: - Ответы переводятся в векторы \(\vec{v}_1, \vec{v}_2, \dots, \vec{v}_n\). - Вычисляется косинусное сходство между всеми парами векторов. - Интерпретация: Если векторы близки (высокое сходство), модель стабильна. Сильный разброс векторов свидетельствует о неопределенности.
✅ Согласованность (Self-Consistency)¶
Эмпирический подход, основанный на повторяемости результата.
Метод: Модели задается вопрос несколько раз (при \(T > 0\)). - Согласованность: Если большинство ответов совпадают по смыслу. - Несогласованность: Если модель каждый раз выдает разные варианты, что служит индикатором ее неуверенности.
Сводная таблица методов¶
| Метод | Уровень | Что измеряет | Преимущество |
|---|---|---|---|
| Сем. энтропия | Смысл | Разнообразие смыслов | Игнорирует формулировки |
| Перплексия | Токен | Степень «сюрприза» | Высокая скорость расчета |
| Косинусная мера | Вектор | Геометрическое расстояние | Не требует NLI-модели |
| Согласованность | Output | Частота совпадения | Интуитивность |