1.4 Базовые понятия: промпт и промпт-инжиниринг
Взаимодействие с GigaChat устроено в виде диалога: вы задаёте ему вопросы, он отвечает.

Вопросы нейросети мы будем называть промпты (с английского prompt — «запрос», «подсказка»), это общеупотребительное слово, оно ещё не раз вам встретится. А взаимодействие с нейросетью будем называть промпт-инжинирингом или промптингом.

Поскольку нейросеть «понимает» текст буквально, её ответ зависит от формулировки и детализации вашего промпта. Сравните содержание двух ответов:
И ещё:
Память всех языковых моделей ограничена. Любой ваш промпт, как и ответ GigaChat может вместить до 4096 токенов — это не больше 16 тыс. знаков или около шести страниц А4 14-м кеглем. Токен — это часть текста, которую языковая модель обрабатывает как одну единицу. Можно представить его как одно слово, часть слова, символ или цифру.

Когда вы вводите текст, модель разбивает его на токены и анализирует, чтобы сгенерировать ответ. Например, слово «привет» очень часто встречается в языке и записывается одним токеном. А слово «синхрофазотрон» используется редко и генерируется по кусочкам.

Резюмируем:

  • GigaChat, как и ChatGPT — это большая языковая модель, которая учится на всевозможных текстах и использует язык подобно людям.
  • С одним исключением: модель не понимает значения слов, так что качество её ответов всегда зависит от качества вашего запроса.
  • Запросы нейросети мы будем называть «промптами», а построение этих запросов — «промпт-инжинирингом». Это общеупотребимые термины.
  • GigaChat пока не имеет доступа в интернет, так что не даёт последнюю информацию, например, новости.
  • Используйте любой удобный способ взаимодействия с GigaChat: телеграм-бот, бот ВКонтакте, GigaChat на умных устройствах Sber или веб-версию. Последний способ открывает большие возможности для решения задач бизнеса. Об этом — в следующих уроках курса.