Способы возникновения чат-ботов можно разделить на три группы, приняв за основу классификации источник происхождения:
Изначально самостоятельно разработанные чат-боты — созданные разработчиком с нуля, без опоры на внешние готовые диалоговые модели.
Межъязыковые заимствования — чат-боты, возникшие путём переноса моделей или технологий из других задач (например, машинного перевода, языкового моделирования) в диалоговую сферу.
Внутриязыковые наследования — чат-боты, созданные на основе уже существующих диалоговых систем путём дообучения, дистилляции или повторного использования архитектуры.
1. Изначально самостоятельно разработанные чат-боты
Это чат-боты, полностью спроектированные и обученные с нуля, чьи способности не зависят от параметров или структуры уже существующих диалоговых систем. К ним относятся ранние системы на правилах (например, ELIZA, PARRY), а также первые нейросетевые диалоговые модели, обученные со случайной инициализации. «Первичность» таких систем проявляется в том, что стратегия диалога, языковая модель и база знаний строятся независимо, а не переносятся или наследуются от других систем.
2. Межъязыковые заимствования
Это чат-боты, в которых способности, приобретённые в недиалоговых задачах, переносятся в диалоговую сферу. До эпохи больших языковых моделей исследователи часто дообучали на диалоговых данных языковые модели, предварительно обученные на больших текстовых корпусах (например, ранние версии GPT): базовая языковая способность такой модели возникла не для диалога, а была «заимствована» из задачи общего языкового моделирования. Другой типичный путь — прямой перенос архитектуры «кодировщик–декодировщик» из машинного перевода в задачу генерации диалога.
3. Внутриязыковые наследования
Это чат-боты, созданные на основе уже существующих диалоговых систем путём дообучения, дистилляции, продолженного предобучения или повторного использования архитектуры. Например, диалоговые ассистенты, полученные путём инструкционного дообучения открытых базовых моделей (LLaMA, Qwen и др.), «наследуют» от базовой модели способности к пониманию и порождению языка. К внутриязыковым наследованиям относится и случай, когда при переходе от старой версии чат-бота к новой частично используются параметры или обучающие данные предыдущей версии.
