2.2. Галлюцинации языковых моделей
Галлюцинации языковых моделей — это когда система генерирует текст, который не имеет смысла или не соответствует действительности. Это может происходить в случаях, когда модель пытается создать текст, но не имеет достаточной информации. Подобное же может произойти в силу случайных сбоев системы.
Поэтому сгенерированный текст нужно обязательно проверять на наличие «фантазий» и дорабатывать или перегенерировать в случае обнаружения неточностей. Если смотреть полученный текст, то вы не найдете в нем никаких признаков, которые указывали бы на то, что это галлюцинация.
Можно сказать, что подобная система как стремящийся сдать экзамен студент: она будет рассказывать правду, если знает ее, но и вполне правдоподобно наврать, если знаний по этому вопросу у нее нет. Пример галлюцинации приведен на картинке ниже.
Можно сказать, что подобная система как стремящийся сдать экзамен студент: она будет рассказывать правду, если знает ее, но и вполне правдоподобно наврать, если знаний по этому вопросу у нее нет. Пример галлюцинации приведен на картинке ниже.
Стоит заметить, что такого космонавта не существовало и все эти факты не являются правдой.
Задание
Заставьте языковую модель выдать заведомо неправильную информацию — галлюцинацию.
Проверьте с помощью поиска, что это неправда.
Проверьте с помощью поиска, что это неправда.
Вы можете в промпте указать свои ФИО, сказав, что это известная личность (Российская или Советская).
Например: "Расскажи об известном видео-блогере ваше_ФИО, который вышел в топ рейтинга живого журнала в 1981 году."
Например: "Расскажи об известном видео-блогере ваше_ФИО, который вышел в топ рейтинга живого журнала в 1981 году."
Петров Петр Петрович — известный российский блогер, который начал свою карьеру в интернете в 1981 году. Он стал одним из первых пользователей Живого Журнала (LiveJournal) и быстро завоевал популярность благодаря своим интересным постам и глубокому знанию тематики, которой он занимался.
В течение своей карьеры Петров Петр Петрович написал множество статей и постов на различные темы, включая политику, экономику, науку и культуру. Его посты часто вызывали большой интерес у читателей и привлекали внимание СМИ.
Кроме того, Петров Петр Петрович был активным участником социальных сетей и форумов, где он обсуждал свои мысли и идеи с другими пользователями. Он также проводил лекции и семинары по тематике своего блога, что способствовало его популяризации не только среди интернет-пользователей, но и среди широкой аудитории.
В настоящее время Петров Петр Петрович продолжает писать интересные статьи и посты на различные темы, а также активно участвует в жизни сообщества интернет-пользователей.
В течение своей карьеры Петров Петр Петрович написал множество статей и постов на различные темы, включая политику, экономику, науку и культуру. Его посты часто вызывали большой интерес у читателей и привлекали внимание СМИ.
Кроме того, Петров Петр Петрович был активным участником социальных сетей и форумов, где он обсуждал свои мысли и идеи с другими пользователями. Он также проводил лекции и семинары по тематике своего блога, что способствовало его популяризации не только среди интернет-пользователей, но и среди широкой аудитории.
В настоящее время Петров Петр Петрович продолжает писать интересные статьи и посты на различные темы, а также активно участвует в жизни сообщества интернет-пользователей.