Демонстрация ИИ / обучение

Как обучается ваша модель

Посмотрите, как в учебном примере меняются ответ, ошибка, уверенность токенов и условные компоненты. Все значения заданы заранее и служат только концептуальной визуализацией.

Демонстрационная симуляция

Здесь показана концепция, а не настоящее обучение модели: ответы, ошибка, уверенность и все значения компонентов заданы заранее и являются синтетическими. Данные не отправляются во внешнюю модель и ничего не обучают.

Учебный пример

Кот гонится за мячом

Фраза служит фиксированным примером для всех шагов симуляции.

Условная ошибка

84%

Синтетические пункты, не метрика реальной модели

Ошибка симуляции84%

Пошаговая симуляция

Исходный ответ

Шаг 1 из 5

Сравнение ответов

До симуляции и на выбранном шаге

До симуляции

Кот смотрит на мяч.

Ответ на выбранном шаге · симуляция

Кот смотрит на мяч.

Следующий токен

Условная уверенность в целевых токенах

Проценты придуманы для примера и не являются вероятностями работающей модели.

Кот

Условная уверенность52%

гонится

Условная уверенность24%

за

Условная уверенность31%

мячом

Условная уверенность20%

Внутри модели

Условные компоненты модели

Все шкалы синтетические и меняются только для наглядности.

Представление токена

Условные координаты слова «гонится»

V₁18%
V₂42%
V₃27%

Внимание к токенам

Условное распределение, %

Кот20%
гонится15%
за30%
мячом35%

Выходной слой

Синтетические варианты ответа, %

смотрит68%
бежит20%
гонится12%

Интерактивная схема / LoRA

Как работает адаптер LoRA

Только учебная симуляция

Здесь нет запуска обучения, пользовательских данных или настоящих весов модели. Матрицы, примеры и условная активность синтетические; базовая модель остаётся неизменной.

Базовый ответ

Этап 1 из 5

Сначала фиксируем исходный ответ модели.

Фиксированный пример

Кот гонится за мячом.

Базовая модель

Исходное состояние

Исходные веса W₀

Ответ базовой модели

Кот смотрит на мяч.

Обучаемый адаптер

Условные параметры
Матрица A · сжатие: Пока не активна

Матрица A · сжатие

d × r

Пока не активна

Матрица B · возврат: Пока не активна

Матрица B · возврат

r × d

Пока не активна

Выход симуляции

До применения поправки

Кот смотрит на мяч.

Условный сигнал0%

W′ = W₀ + (α / r) · B · A