ВСЕ СТАТЬИ
[Перевод] Могут ли нейросети понять самих себя?
habr.comнаука
•
habr.com•наука
[Перевод] Могут ли нейросети понять самих себя?. Большие языковые модели остаются загадкой даже для собственных создателей. Исследователи постепенно раскрывают отдельные механизмы: модели используют специфические паттерны активации для различения знакомых и незнакомых людей, оценки правдивости утверждений, кодирования пространственно-временных координат. Но знают ли сами модели об этих внутренних представлениях? Способны ли они описать собственный мыслительный процесс?