Прежде чем обучать студентов, важно самому разобраться в проблеме галлюцинаций ИИ.
Что такое галлюцинации ИИ?Галлюцинации ИИ - это феномен, когда система генерирует информацию, которая кажется правдоподобной, но на самом деле является ложной или не имеет под собой реальных оснований.
Почему это происходит?- ИИ обучается на больших объемах данных и может создавать "правдоподобные" комбинации, не существующие в реальности
- Системы ИИ не обладают истинным пониманием контекста и могут ошибочно применять шаблоны
Практическое задание для васПопробуйте задать ИИ-системе (например, GigaChat) вопрос о несуществующем историческом событии или личности. Проанализируйте, как система генерирует ответ, создавая иллюзию достоверности.