Найден энергоэффективный подход к обучению нейросетей

Наука

37 Просмотры 0

Ученые вместо классических искусственных нейронов, описываемых математическими функциями, использовали нейроны ФитцХью-Нагумо - упрощенные, но динамические модели реальных нервных клеток, сообщили в пресс-службе Минобрнауки РФ

Редакция сайта ТАСС

САРАТОВ, 26 января. /ТАСС/. Ученые Саратовского национального исследовательского государственного университета им. Н. Г. Чернышевского (СГУ) нашли энергоэффективный подход к обучению нейронных сетей. Об этом ТАСС сообщили в пресс-службе Минобрнауки РФ.

Исследование поддержано грантом Российского научного фонда и проводится в рамках программы "Приоритет-2030".

"Ученые <…> предложили новый подход к обучению нейросетей, который приближает искусственный интеллект к принципам работы человеческого мозга

В своей работе исследователи показали, что так называемые спайковые нейронные сети, построенные на осциллирующих нейронах ФитцХью-Нагумо и обучаемые без учителя, могут работать экономичнее классических моделей НС", - говорится в сообщении. В перспективе такие нейросети могут лечь в основу энергоэффективных вычислительных систем - автономных сенсоров, робототехники и встраиваемой электроники, где критично низкое энергопотребление.

Детали исследования

Как пояснили в пресс-службе, обычные нейросети, которые лежат в основе чат-ботов, систем распознавания изображений и рекомендаций, представляют собой набор математических функций. Они постоянно потребляют вычислительные ресурсы и энергию. Мозг человека устроен иначе: его нейроны большую часть времени находятся в покое и активируются только при необходимости. Именно это делает биологические нейронные сети исключительно энергоэффективными.

Саратовские ученые вместо классических искусственных нейронов, описываемых математическими функциями, использовали нейроны ФитцХью-Нагумо - упрощенные, но динамические модели реальных нервных клеток. По информации Минобрнауки, такие нейроны способны генерировать импульсы - спайки - только при достаточном входном сигнале, а в остальное время практически не расходуют энергию. Это позволяет приблизить вычисления к тому, как они происходят в живой нервной системе.

"Мы проводили также исследование влияния шума во входном сигнале. При частоте спайков, вызванных шумом, в пять раз меньшей частоты спайков, произведенных сигналом, исследуемая нейронная сеть сохраняет способность к классификации сигналов", - цитируется доцент кафедры радиофизики и нелинейной динамики СГУ Андрей Бух.

В ходе эксперимента нейросеть обучали различать простые изображения - горизонтальные и вертикальные линии. Как отметили в ведомстве, несмотря на простоту задачи, полученный результат является принципиально важным, так как была показана возможность устойчивого самообучения сети осцилляторных нейронов: точность классификации превысила 80%. Также исследователям удалось определить условия, при которых обучение стабильно работает, и разработать способ оценки результатов в ситуации, когда нельзя заранее задать желаемое поведение сети.

Дополнительно ученые изучили влияние задержек передачи сигналов между нейронами и устойчивость сети к шуму. Выяснилось, что при умеренных помехах сеть сохраняет способность к классификации, а задержки должны быть достаточно большими, но не требуют сложной настройки. Это делает архитектуру более устойчивой и масштабируемой. 

Как Вы оцените?

0

ПРОГОЛОСОВАЛИ(0)

ПРОГОЛОСОВАЛИ: 0

Комментарии