О чём этот урок
В этом уроке мы рассмотрим, как языковая модель составляет ответ на сообщение. Языковая модель — это программа, обученная работать с текстом: она получает текст и пишет текст в ответ. Такие модели работают внутри ChatGPT, Claude, GigaChat, Алисы AI и других ИИ-помощников. С их помощью составляют письма, разбирают документы, пишут и проверяют код, и пользоваться ими можно, совсем не задумываясь о том, как устроена модель.
Однако многие особенности её поведения без такого понимания выглядят странными. Модель может дать два разных ответа на один и тот же вопрос, уверенно сослаться на источник, которого не существует, или заметно изменить ответ после небольшой правки в формулировке. Всё это следует из того, как модель составляет ответ, поэтому курс и начинается с этого вопроса.
Сначала мы разберём, что модель делает с полученным текстом. Затем посмотрим, откуда у неё эта способность и как из неё получается помощник, который отвечает на вопросы. В конце урока соберём выводы, которые пригодятся в работе и на которые будут опираться следующие уроки.
Модель предсказывает продолжение текста
Начнём с главного — с того, что именно модель делает с текстом, который ей передали. Ответы, которые она даёт, бывают очень сложными, но в их основе лежит одна операция: модель смотрит на имеющийся текст и оценивает, какой фрагмент вероятнее всего должен идти следующим.
Посмотрим, как это выглядит, на простом примере. Возьмём начало фразы «Давай перенесём встречу на». Продолжить её можно по-разному: «завтра», «пятницу», «понедельник», «следующую неделю». Модель оценивает сразу все возможные варианты и каждому приписывает вероятность. Результат может выглядеть так (числа условные и нужны только для наглядности):
| Продолжение | Вероятность |
|---|---|
| завтра | 31% |
| пятницу | 18% |
| понедельник | 12% |
| следующую | 9% |
| … | … |
Вероятности распределились именно так потому, что подобные фразы модель много раз встречала во время обучения и усвоила, какие продолжения для них обычны. После слов «перенесём встречу на» слово «завтра» встречается часто, а слово «картошку» почти никогда, и это отражается в оценках модели. Как именно она этому научилась, мы разберём чуть ниже.
Фрагменты текста, с которыми работает модель, называются токенами. Токеном может быть целое слово, часть слова или знак препинания. Подробно токены разберём во втором уроке, а пока для простоты будем считать, что модель предсказывает следующее слово.
Как из отдельных предсказаний складывается ответ
Одно предсказание даёт только один следующий токен, тогда как ответ модели обычно занимает несколько предложений, а то и страниц. Поэтому следующий вопрос — как из таких одиночных шагов получается целый ответ.
Ответ складывается из повторения одного и того же шага. Модель выбирает токен, дописывает его в конец текста и снова делает предсказание, но уже для текста, ставшего на один токен длиннее. Затем выбирает следующий токен, снова дописывает его, и так до тех пор, пока не выберет особый токен, обозначающий конец ответа. Каждое новое предсказание учитывает и исходное сообщение, и всё, что модель успела написать к этому моменту.
Именно поэтому в чате ответ появляется постепенно: интерфейс показывает токены по мере того, как модель их выбирает. Готового ответа заранее нигде нет: модель пишет его по ходу, и экран просто показывает эту работу. Из этого следует ещё одна особенность: уже написанное модель не стирает. Если в начале ответа появилась ошибка, дальнейший текст пишется с учётом этой ошибки. Модель может заметить её и поправиться, но нередко продолжает в том же духе.
Остаётся понять, где именно происходит эта работа. Модели, о которых идёт речь в курсе, работают на серверах компаний-разработчиков, то есть на мощных компьютерах в дата-центрах. Когда мы нажимаем «Отправить», приложение или сайт передаёт наше сообщение через интернет на такой сервер. Там модель составляет ответ, и готовые токены сразу, небольшими порциями, возвращаются на наше устройство. Телефон или ноутбук при этом только отправляет сообщение и показывает ответ, самой модели на нём нет.
- Мы пишем сообщение в приложении или на сайте и нажимаем «Отправить».
- Приложение передаёт сообщение через интернет на серверы компании-разработчика.
- Модель работает на этих серверах. Она выбирает первый токен ответа.
- Готовые токены сразу возвращаются на ноутбук, поэтому ответ появляется постепенно.
- Ноутбук только отправил сообщение и показал ответ. Сама модель на нём не работала.
Интересный факт можно ли запустить модель у себя
Небольшие модели можно запустить и на собственном компьютере, например в программах LM Studio или Ollama. Тогда сообщение никуда не уходит, но такие модели заметно уступают тем, что работают в дата-центрах. Крупнейшие модели работают сразу на нескольких серверных видеокартах и на обычный компьютер не поместятся.
Откуда у модели эта способность
Итак, модель оценивает вероятности продолжений и составляет из них ответ. Остаётся понять, откуда она знает, какие продолжения вероятны: никто не записывал в неё таблицу, где сказано, что после слов «перенесём встречу на» чаще всего идёт «завтра». Эта способность появляется в ходе обучения.
Внутри модели есть множество чисел, от которых зависят её вычисления. Их называют параметрами, и у современных моделей их миллиарды. Когда модель получает текст, именно параметры определяют, какие вероятности она выдаст для следующего токена. Если изменить параметры, изменятся и вероятности, поэтому обучение модели сводится к тому, чтобы подобрать такие параметры, при которых она предсказывает хорошо.
Подбирают их на огромном количестве текстов: книгах, статьях, сайтах, документации, программном коде. Модели показывают фрагмент такого текста и просят предсказать следующий токен. Правильный ответ при этом заранее известен — это токен, который на самом деле стоит в тексте дальше. Предсказание модели сравнивают с ним, и если правильному токену модель дала низкую вероятность, параметры немного изменяют так, чтобы в похожей ситуации эта вероятность стала выше. Такой шаг повторяют огромное число раз, на триллионах токенов, и с каждым разом предсказания модели становятся немного точнее. Заметим, что после похожих начал в разных текстах стоят разные слова: в одних письмах встречу переносят на завтра, в других на пятницу. Поэтому модель в итоге усваивает, насколько часто встречается каждое продолжение, — отсюда и вероятности, которые мы видели в таблице.
Стоит остановиться на том, чему модель учится в ходе такой тренировки. Чтобы хорошо угадывать продолжение самых разных текстов, мало запомнить частые сочетания слов. Модели приходится улавливать грамматику, факты вроде того, что столица Франции — Париж, то, как обычно строятся письма и договоры, как устроен код и как развиваются рассуждения. Никто не прописывает ей эти правила вручную: они постепенно складываются в параметрах, потому что помогают точнее предсказывать следующий токен. Так из простой на первый взгляд задачи — угадывать продолжение текста — вырастает способность писать связные тексты на самые разные темы.
Как языковая модель становится помощником
Однако способность продолжать текст — это ещё не умение отвечать на вопросы и выполнять просьбы. Чтобы увидеть разницу, представим, что модели, прошедшей только описанное обучение, передали текст «Как вежливо отказать клиенту в скидке?». Она продолжит его так, как подобные тексты обычно продолжаются в обучающих данных. В интернете такие вопросы часто идут списком, например в разделах частых вопросов или в оглавлениях статей, поэтому вполне правдоподобным продолжением окажутся новые вопросы:
Как ответить клиенту, который требует вернуть деньги? Как успокоить недовольного покупателя?
С точки зрения обучения модель не ошиблась: она правдоподобно продолжила текст. Но пользы от такого продолжения нет, и поэтому модели, на которых работают ИИ-помощники, проходят ещё один этап обучения. На этом этапе им показывают большое количество диалогов, в которых на вопрос следует хороший ответ, а на просьбу — её выполнение. Кроме того, люди сравнивают разные ответы модели и отмечают, какие из них полезнее, точнее и аккуратнее, а параметры модели подстраивают под эти оценки.
После такого обучения модель продолжает текст уже в роли ассистента: если в сообщении вопрос, наиболее вероятным продолжением для неё становится ответ, а если просьба — её выполнение. Сам механизм при этом остаётся прежним. Модель по-прежнему пишет ответ токен за токеном, выбирая каждый следующий по вероятностям; изменилось лишь то, какие продолжения она считает вероятными.
Оба этапа обучения проходят до того, как модель начинают использовать. Когда помощник отвечает на наши сообщения, параметры модели уже не меняются, и всё, что мы пишем, влияет на ответ только как часть текста, который она продолжает. Поэтому если поправить модель в чате, исправление станет частью текста разговора и повлияет на следующие ответы, но саму модель не изменит. Переписку разработчики могут использовать при обучении следующих версий, но модель, которая отвечает нам сейчас, от этого не меняется. Как чат удерживает предыдущие сообщения, мы разберём в третьем уроке.
Почему ответы каждый раз разные
Теперь можно объяснить одну из особенностей, упомянутых в начале урока: если задать модели один и тот же вопрос дважды, ответы почти наверняка будут отличаться. Причина кроется в том шаге, на котором модель выбирает очередной токен.
До сих пор мы говорили, что модель выбирает токен по вероятностям, но не уточняли, как именно. Самый простой способ — всегда брать токен с наибольшей вероятностью. Однако тексты, составленные таким образом, часто выходят однообразными, а иногда начинают ходить по кругу и повторяться. Поэтому обычно токен выбирают случайно, но с учётом вероятностей: в нашем примере «завтра» будет выпадать примерно в трети случаев, «пятницу» — реже, а маловероятные варианты почти никогда.
Из-за этой случайности два ответа на один и тот же вопрос могут разойтись уже на первых словах. А поскольку каждый следующий токен зависит от предыдущих, различие в начале уводит весь дальнейший текст в другую сторону. Так что разные ответы на один и тот же вопрос — обычное поведение модели, никакого сбоя в этом нет.
Насколько случайным будет выбор, определяет настройка, которая называется температурой. При низкой температуре модель почти всегда выбирает самые вероятные токены, и её ответы на один и тот же вопрос становятся гораздо более похожими друг на друга. При высокой в ответах чаще появляются менее вероятные варианты: тексты становятся разнообразнее, но и ошибок в них может стать больше. В обычном чате температуру заранее выбирают его разработчики. При работе через API — программный интерфейс, с помощью которого модель подключают к своим приложениям и сервисам, — её иногда можно задать самостоятельно, но у многих современных моделей, особенно у тех, что рассуждают перед ответом, эту настройку убрали и подбирают её сами.
Интересный факт почему её больше не настраивают
Ещё недавно температуру можно было задать почти у любой модели, и, чтобы ответы повторялись, её часто ставили на ноль. С появлением моделей, которые рассуждают перед ответом, эту возможность стали убирать. У последних моделей OpenAI температура доступна, только если рассуждение выключено, а новейшие модели Claude в ответ на запрос с температурой возвращают ошибку.
Что из этого следует
Подведём итог. Языковая модель составляет ответ, раз за разом предсказывая следующий токен, а способность к таким предсказаниям она получила, обучаясь на огромном количестве текстов. Из этого вытекают три следствия, которые важны для работы с моделью и к которым мы будем возвращаться в следующих уроках.
Первое: модель не ищет ответ в готовом хранилище. Базы, в которой лежали бы ответы на вопросы, у неё нет; то, что она усвоила при обучении, распределено по её параметрам. Даже известное стихотворение модель воспроизводит тем же способом: она встречала его при обучении так часто, что может предсказать строку за строкой. Каждый ответ модель пишет заново, и поэтому она способна составить письмо или текст, которого никогда раньше не видела.
Второе: модель пишет правдоподобный текст, а правдоподобие ещё не гарантирует верности. Модель выбирает продолжения, которые хорошо согласуются с уже написанным. Часто правдоподобное и верное совпадают: известные факты много раз встречались в обучающих текстах, и модель воспроизводит их правильно. Но если нужных сведений у модели нет, она может составить связный и уверенный текст, просто его содержание окажется выдуманным. Помощников при обучении приучают в таких случаях признавать, что сведений не хватает, но срабатывает это не всегда. Поэтому уверенный тон ответа ничего не говорит о его правильности. О том, как проверять ответы, пойдёт речь в седьмом уроке.
Третье: сообщение пользователя — это начало текста, который продолжает модель. Всё, что написано в сообщении, влияет на вероятности следующих токенов, а значит, и на весь ответ. Если указать, кому адресовано письмо, изменится его тон; если приложить документ, модель будет опираться на его содержание. Именно поэтому формулировка запроса так сильно влияет на результат и небольшая правка в вопросе может заметно изменить ответ. Как составлять запросы с учётом этого, мы подробно разберём в восьмом уроке.