Тема

Induction-Heads-TinystoriesGPT-2 Small

Induction-Heads-TinystoriesGPT-2 Small: 1 свежих материалов из 1 источников, связанные сущности и продолжение темы на одной странице.

Материалы

Источники

Последнее обновление

07.04.2026 18:26

Habr 07.04.2026 18:26 Инструменты разработки

Induction Heads на TinyStories: почему простой датасет мешает In-context Learning

Код: https://github.com/fanat503/Induction-Heads-TinystoriesGPT-2 Small обучена с нуля на TinyStories (473М токенов). Эксперимент показал, что Previous Token Heads формируются с...

Heads In-context Learning Induction Induction Heads

Читать статью habr.com

Рекламный слот

Реклама на странице темы

Зарезервированный партнерский слот для релевантных сервисов, продуктов и специальных размещений.

Нативное размещение