Как живой

Современные нейросети впечатляют, но работают иначе, чем живой мозг: их активация определяется входным сигналом, и они зачастую не обладают собственной спонтанной динамикой. Ученые МФТИ совместно с коллегами из ННГУ им. Н. И. Лобачевского предложили механизм, который наделяет спайковые нейронные сети — архитектуры, максимально приближенные к биологическому мозгу,— способностью к гомеостатической пластичности.

Сеть отслеживает уровень активности каждого нейрона и удерживает его в заданных пределах, а кратковременная синаптическая депрессия не дает возникнуть перевозбуждению, грозящему потерей работоспособности. В основе разработки — совместное действие кратковременной синаптической депрессии и долговременной пластичности, а результатом становится устойчивая к шуму передача сигналов и путь к энергоэффективности, сопоставимой с эффективностью человеческого мозга. О том, что именно удалось сделать исследователям, почему пачечная активность важна для памяти и обучения и где такие саморегулирующиеся системы найдут применение, в интервью «Ъ-Науки» с Алексеем Жариновым, лаборантом-исследователем лаборатории нейробиоморфных технологий МФТИ.

— Искусственные нейронные сети (ИНС), которые сейчас приобрели большую популярность в области распознавания изображений, обработки больших объемов данных, поиска информации, работают как очень сложные математические функции. В отличие от них, спайковые нейронные сети (СНС), которые исследовались нами, позволяют воспроизводить активность и явления, наблюдаемые в реальных клетках живых нейронных сетей.

Активность коры головного мозга устроена не так, как в большинстве искусственных сетей. В искусственных нейронных сетях активация определяется входным сигналом, сеть может даже не обладать собственной спонтанной динамикой. В живой коре картина иная. Нейроны разряжаются не равномерно, а пачками — короткими сериями импульсов, чередующимися с периодами молчания. Такая пачечная активность является характерной чертой кортикальных сетей. Она наблюдается как в экспериментах на животных, так и в культурах нейронов.

Почему ее важно изучать? Показано, что одиночные спайки часто оказываются недостаточными, чтобы вызвать долговременные изменения связей, тогда как пачка надежно запускает пластичность. Поэтому пачечная активность — это не просто «фон» или побочный эффект. Именно она, как показывают эксперименты, опосредует процессы памяти и обучения. Более того, пачки несут информацию не только в частоте их возникновения, но и в том, как именно следуют импульсы друг за другом.

В нашей работе мы исследовали, каким образом происходит регуляция такой активности в спайковых нейронных сетях. Сеть, которая генерирует пачки, должна как-то удерживать себя в рабочем режиме. Пачки не должны становиться слишком редкими, иначе сеть «замолчит». Но в то же время и не должны становиться слишком частыми и продолжительными, иначе она потеряет способность обрабатывать информацию. В живой коре эта регуляция осуществляется за счет нескольких механизмов пластичности, работающих одновременно и на разных временных масштабах. Мы построили модель, в которой эти механизмы действуют совместно, и показали, как они удерживают сеть в стабильном режиме, совместимом с обучением.

— Гомеостаз — это способность системы поддерживать свои параметры в заданных пределах, несмотря на внешние возмущения. В биологии он знаком каждому: поддержание температуры тела, уровня сахара в крови, кислотно-щелочного баланса. В нейронных сетях такую функцию выполняет гомеостатическая пластичность, только регулирует не температуру, а уровень активности.

В нашей модели этот принцип реализован через механизм, который отслеживает активность каждого отдельного нейрона и подстраивает его входной сигнал. Работает это так. У каждого нейрона есть целевая частота — то значение, к которому сеть должна стремиться. Сеть непрерывно измеряет, как часто разряжается каждый нейрон за определенное временное окно, и сравнивает эту текущую частоту с целевой. Если нейрон разряжается реже, чем нужно, входящий возбуждающий ток усиливается — нейрон получает больше возбуждения и начинает разряжаться чаще. Если чаще — ток ослабляется. Технически это реализуется через динамический коэффициент, который масштабирует синаптический ток, приходящий на нейрон от возбуждающих связей.

Но самое интересное — не сам механизм обратной связи, а то, как сеть достигает целевой частоты. Мы показали, что адаптация к целевой частоте может происходить двумя путями. В первом случае в сети изменяется частота, с которой генерируются сетевые пачки. Во втором — число спайков внутри каждой пачки. При этом какой путь доминирует, зависит от величины целевой частоты, но в обоих случаях произведение указанных параметров приблизительно равно целевой частоте.

— Как уже упоминалось, пачечная активность представляет собой одновременную генерацию возбуждения нейронами сети с периодическими периодами молчания. Такая пачечная активность — нормальный режим работы, она характерна и для живых культур нейронов, и для кортикальных сетей.

Но у этого режима есть крайняя форма. Если обратная связь в сети работает плохо, пачки начинают растягиваться. В них вовлекается все больше нейронов, каждый нейрон генерирует все больше спайков, и в какой-то момент пачка перестает быть коротким событием. Она превращается в суперпачку — продолжительное событие, в котором каждый нейрон успевает разрядиться сотни раз.

Такой режим «опасен» тем, что сеть перестает нормально обрабатывать информацию. Пока длится суперпачка, сеть «занята» ею и не только не может ответить на новый стимул, но и не способна переключиться на другую задачу. В биологии это напоминает патологическую гиперсинхронизацию, которая наблюдается, например, при эпилепсии. Для нас, как для исследователей, это еще и сигнал о том, что модель вышла из режима, совместимого с обучением: в таком состоянии никакая пластичность не работает так, как должна.

— В нашей модели мы показали, что подавить суперпачки можно с помощью кратковременной синаптической пластичности. Это механизм, при котором синапс истощается при высокой частоте сигналов: чем чаще нейрон разряжается, тем меньше медиатора остается в синапсе и тем слабее передается следующий сигнал. Соответственно, когда сеть пытается «уйти» в суперпачку, синапсы между нейронами истощаются, передача ослабевает, и суперпачка разбивается на короткие отдельные события. В нашей работе мы сравнили два случая: сеть без кратковременной пластичности и сеть с ней. В первом случае суперпачки возникали, во втором — исчезали, а активность оставалась в контролируемом режиме.

— Спайковые сети способны воспроизводить именно те режимы, которые характерны для живой коры. Примером этого является спонтанная и пачечная активность, моделируемая в нашем исследовании. Это сходство также определяет вычислительное преимущество, поскольку событийная природа спайков, которая делает активность похожей на корковую, лежит в основе энергоэффективности. В обычной искусственной нейросети, чтобы обработать сигнал, нужно пересчитать все веса и активации. Даже если на входе изменится один пиксель, сеть все равно выполнит полный пересчет всех весов и активаций. В спайковых сетях вычисления запускаются событиями, в качестве которых выступают спайки, а не непрерывным пересчетом всех активаций. Мозг решает задачи, которые современным системам пока недоступны, учится с одного примера, адаптируется к изменениям среды, строит внутренние модели мира. Спайковые нейронные сети — возможный путь для достижения подобной эффективности.

— Сетевой спайк — это коллективное событие. Если часть нейронов «не заметила» слабый сигнал из-за шума, событие все равно произойдет, потому что в нем участвует большая часть популяции. Мы можем установить порог по уровню вовлечения популяции в ответ и таким образом модерировать чувствительность сети. Если задать его высоко, сеть будет отвечать только тогда, когда в событие вовлекается почти вся популяция. Это делает ее устойчивой к шуму, но менее чувствительной: слабые сигналы она будет игнорировать. Если задать порог низко, сеть станет чувствительнее, но и более уязвимой к ложным срабатываниям. То есть порог позволяет выбирать между надежностью и чувствительностью. Именно поэтому сетевые спайки оказываются удобным режимом для практических приложений.

— В нашей работе показано, что сеть с гомеостатической и кратковременной пластичностью удерживает стабильную активность в заданном режиме, а при периодической стимуляции входит в устойчивую синхронизацию с внешним сигналом. Именно эти свойства нужны автономной системе для обеспечения возможности самостоятельного поддерживания рабочего режима и способности надежно отвечать на сигналы, даже если среда меняется. Автономная робототехника — главный кандидат именно потому, что там эти свойства критичны. Современные автономные платформы требуют принятия решений в реальном времени при жестких ограничениях по энергии и вычислениям. Обычные архитектуры с этим плохо справляются: они энергозатратны и имеют задержку. Нейроморфные подходы, основанные на спайковых сетях, предлагают низкое энергопотребление и малую задержку за счет событийной обработки, что естественно сочетается с событийными сенсорами. Конкретные применения следуют из этих свойств. В нейроморфных устройствах для роботов уже реализуются сенсорные системы, способные к мультимодальному восприятию и точному управлению движением в сложных средах.

— Начнем с того, что уже делается. Структурная пластичность, которой называется процесс формирования и элиминации синапсов,— это не гипотетический механизм, а реально наблюдаемое явление, которое привлекает внимание исследователей по всему миру. Существует большое число моделей структурной пластичности. Но задача, о которой вы спрашиваете, сложнее. Одно дело, удалять слабые связи и создавать новые случайно или по вероятностному правилу, другое — создавать их целенаправленно, взамен именно тех, которые были утрачены и которые были важны. Это принципиально иной уровень.

В другой нашей статье 2025 года был продемонстрирован эффект сетевой консолидации памяти, который заключается в том, что структурная пластичность позволяет закрепить ранее сформированные следы памяти непосредственно в анатомической структуре спайковой нейронной сети. Этот результат важен именно в контексте вашего вопроса. Он показывает, что структурная пластичность способна не просто «перетасовывать» связи, а целенаправленно сохранять те из них, которые поддерживают сформированный след. В нашей модели структурная пластичность избирательно удерживает связи, обеспечивающие направленное распространение активности, и элиминирует те, что в этом процессе не участвуют. То есть сеть уже «знает», какие связи важны, но знает это не потому, что где-то хранится их список, а потому, что они функционально вовлечены в воспроизведение паттерна.

Однако если утрачена функциональная — например, в результате повреждения или случайной элиминации,— задача восстановления именно ее остается открытой.