ВСЕ СТАТЬИ

← Вернуться к статьям
Нейросеть, которая помнит всё: заморозка ядра вместо «костылей» (Frozen Core Decomposition).
21 декабря в 12:33
habr.comтехнологии

Нейросеть, которая помнит всё: заморозка ядра вместо «костылей» (Frozen Core Decomposition).

21 декабря в 12:33•faviconhabr.com•технологии

Нейросеть, которая помнит всё: заморозка ядра вместо «костылей» (Frozen Core Decomposition). Frozen Core Decomposition (FCD) — инновационный метод для решения проблемы катастрофического забывания в continual learning. Используя разложение Tucker, метод достигает 96.1% точности на Split MNIST с минимальным забыванием (0.2%) и поддерживает работу с CNN, ResNet, GPT-2 и другими архитектурами. В статье разбираем математику, результаты экспериментов и реализацию на PyTorch.

Еще статьи из категории

Еще статьи