Российские ученые приблизили ИИ к энергоэффективному будущему

Российские исследователи сделали шаг к созданию более быстрых и экономичных нейросетей, разработав новую структуру биполярного морфологического нейрона и метод его обучения. Это открытие может значительно повысить эффективность искусственного интеллекта, сообщили в Центре научной коммуникации МФТИ.  

В отличие от классических нейронов, широко используемых в современных системах ИИ, новый тип нейронов заменяет сложные математические операции (умножение) на более простые (взятие максимума). Это делает работу нейросетей потенциально более энергоэффективной, однако ранее такие модели было трудно обучать.  

Ученым удалось уменьшить число вычислительных ветвей с четырех до одной, что решает ключевую проблему морфологических нейросетей. Дополнительно они предложили метод дистилляции знаний, который передает информацию от «учительской» сети к ученической, позволяя моделям достигать точности, сравнимой с классическими нейросетями.  

Проведенные тесты на базе популярных архитектур LeNet и ResNet-22 подтвердили эффективность подхода: новые модели показали сравнимую точность при снижении вычислительных затрат.  

В перспективе эта технология может существенно сократить энергопотребление систем ИИ и ускорить их работу, что особенно важно для мобильных устройств, облачных вычислений и встроенного ИИ.