Загрузка данных


Для нашего проекта Genesis я бы использовал не LLM для каждого действия, а очень маленькую нейросеть, обучаемую с подкреплением (Reinforcement Learning, RL).

Она может принимать решения за доли миллисекунды, потому что вместо генерации текста сразу выдаёт действие.

Например, получает:

`[энергия, температура, положение, соседние объекты, опасность]`

И возвращает:

`[двигаться вправо, взять объект, исследовать, отступить]`

## Какие варианты подходят

| Архитектура                     | Скорость принятия решений | Для чего                              |
| ------------------------------- | ------------------------- | ------------------------------------- |
| MLP, 10–100 тыс. параметров     | Очень высокая             | Движение, выживание, простые действия |
| GRU, 100 тыс.–1 млн             | Очень высокая             | Действия с краткосрочной памятью      |
| Маленький Transformer, 1–10 млн | Высокая                   | Более сложное поведение               |
| SmolLM2-135M                    | Значительно ниже          | Планирование, гипотезы, анализ опыта  |

Скорость здесь указана относительно: конкретная задержка зависит от оборудования, реализации и размера наблюдения.

## Оптимальная архитектура для Genesis

Я бы разделил интеллект агента на два уровня:

SmolLM2-135M — медленное мышление

Научные гипотезы, планирование, анализ ошибок, создание новых стратегий

GRU / MLP — быстрый интеллект

Выбор действий, перемещение, получение энергии, избегание опасностей

Физический мир

Наблюдения, эксперименты и последствия действий

Это соответствует подходу иерархического обучения с подкреплением: сложные действия могут состоять из множества низкоуровневых решений. 

[image](https://www.google.com/s2/favicons?domain=https://www.sciencedirect.com\&sz=32)

ScienceDirect



### Что я рекомендую для первой версии

- Быстрая сеть: GRU с 128 скрытыми нейронами, ориентировочно 100–300 тыс. параметров в зависимости от входов и выходов.
- Медленная сеть: SmolLM2-135M.
- Частота решений: быстрая сеть — каждый логический шаг агента, LLM — только при необходимости планирования.
- Обучение: PPO для быстрого контроллера, отдельное дообучение LLM по накопленному опыту.
- Наследование: веса обеих сетей и общая память могут передаваться новым поколениям.

На RTX 3060 можно пакетно обрабатывать множество маленьких сетей. Необязательно запускать отдельный экземпляр SmolLM2 для каждой особи.

Но есть более интересная возможность: постепенно передавать навыки от медленной модели быстрой через дистилляцию. Тогда поведение, для которого раньше требовались десятки или сотни токенов рассуждений, может превратиться в мгновенное решение маленькой сети.

При этом LLM не должна навсегда оставаться управляющим ядром. В ходе эволюции быстрая сеть потенциально сможет освоить всё больше функций самостоятельно.

Для нашего эксперимента я бы выбрал GRU + SmolLM2 с возможностью независимого изменения и наследования их весов. Это позволит изучить не только рост интеллекта, но и постепенное превращение сложных рассуждений в быстрые приобретённые навыки.