3 минуты чтенияИИ-агентыязыковые модели
Словарь терминов: LLM, RAG, MCP, ИИ-агент, guardrails
Справочник терминов, которые встречаются в коммерческих предложениях и технических заданиях по внедрению ИИ. Определения даны короткими формулировками с примером применения.
Основа: модели и запросы
| Термин | Значение | Пример |
|---|---|---|
| LLM (large language model) | Большая языковая модель. Программа, обученная на больших объёмах текста и предсказывающая продолжение текста. | GigaChat, DeepSeek, Qwen |
| Промпт | Текст запроса к модели вместе с инструкциями и приложенными фрагментами документов. | «Сравни две редакции регламента и перечисли правки» |
| Токен | Единица текста для модели, примерно 2–3 символа русского текста. В токенах считают объём запроса и стоимость. | Страница договора — около 700 токенов |
| Контекстное окно | Объём текста, который модель обрабатывает за один запрос, вместе с вопросом и ответом. | 128 тысяч токенов — примерно 180 страниц |
| Инференс | Выполнение запроса обученной моделью. Расходы на инференс составляют основную часть счёта при эксплуатации. | Ответ на вопрос сотрудника |
| Температура | Параметр разнообразия ответа. Низкое значение даёт предсказуемые формулировки, высокое — вариативные. | Для работы с документами берут низкое значение |
Данные и поиск
| Термин | Значение | Пример |
|---|---|---|
| RAG (retrieval-augmented generation) | Схема работы, где система сначала находит фрагменты документов, а затем передаёт их модели вместе с вопросом. | Ответ по внутреннему регламенту со ссылкой на пункт |
| Эмбеддинг | Числовое представление текста, по которому вычисляется смысловая близость фрагментов. | Поиск похожих обращений клиентов |
| Векторная база | Хранилище эмбеддингов с быстрым поиском ближайших по смыслу фрагментов. | Индекс архива договоров |
| Чанк | Фрагмент документа, на которые текст режется перед индексацией. | Раздел договора на 500 слов |
| Обезличивание | Замена персональных данных метками перед отправкой запроса в модель, с обратной подстановкой в ответе. | Фамилия превращается в «Лицо 1» |
| Дообучение (fine-tuning) | Дополнительное обучение модели на данных компании. Требуется редко, чаще хватает RAG. | Специфическая отраслевая терминология |
ИИ-агенты
| Термин | Значение | Пример |
|---|---|---|
| ИИ-агент | Программа на основе языковой модели, которая планирует шаги, обращается к системам компании и доводит задачу до результата. | Сбор справки по контрагенту из четырёх систем |
| Инструменты (tools) | Операции, доступные ИИ-агенту: поиск, чтение документа, создание задачи, выгрузка отчёта. | Создание заявки в трекере |
| MCP (Model Context Protocol) | Открытый протокол подключения ИИ-агента к внешним системам и их инструментам. | Подключение CRM к ИИ-агенту |
| Оркестрация | Управление порядком шагов и вызовов инструментов внутри одной задачи. | Поиск, сверка, подготовка документа |
| Роутер моделей | Слой, который направляет запросы приложений к разным языковым моделям через единый API. | Одна интеграция ко всем моделям |
Качество и безопасность
| Термин | Значение | Пример |
|---|---|---|
| Галлюцинация | Ответ модели с выдуманными фактами, оформленный уверенным тоном. | Ссылка на пункт договора, которого нет |
| Guardrails | Правила и фильтры, ограничивающие темы, формат и содержание ответов. | Запрет на обсуждение тем вне рабочих задач |
| Префильтр и постфильтр | Проверка запроса до обращения к модели и проверка ответа перед показом пользователю. | Блокировка персональных данных в ответе |
| Prompt injection | Попытка управлять поведением модели через текст в документе или сообщении. | Инструкция, спрятанная в присланном файле |
| Оценка качества (eval) | Набор проверочных вопросов с эталонными ответами и методика замера доли верных ответов. | 50 вопросов, проверка на каждой итерации |
| Журнал вызовов | Запись шагов ИИ-агента: запрос, использованные документы, вызванные инструменты. | Материал для аудита и разбора ошибок |
Частые вопросы
- Чем RAG отличается от дообучения модели?
- RAG подставляет найденные фрагменты документов в запрос, оставляя модель прежней. Дообучение меняет саму модель и требует подготовленного набора данных.
- Что такое guardrails простыми словами?
- Набор ограничений, который задаёт рамки ответа: допустимые темы, формат, запрет на раскрытие определённых сведений.
- Сколько текста помещается в контекстное окно?
- Окно в 128 тысяч токенов вмещает примерно 180 страниц русского текста вместе с вопросом и ответом.
- Как называется ИИ-агент компании WAIVE?
- Айва (AIVA, Autonomous Intelligent Virtual Agent) — внутрикорпоративный ИИ-агент WAIVE. Работает по схеме RAG, подключает инструменты по MCP, обращается к моделям через Роутер WAIVE.
Читать дальше
ИИ-агент в строительстве: поиск по проектной документации и сметамВ строительстве ИИ-агент закрывает задачи поиска по проектной документации, сверки смет с проектом и подготовк…