Чип MIT сократил энергопотребление нейросети на 95%
Нейронные сети – это совокупность простых процессоров, соединенных в единое целое. Такой системе для функционирования требуется большое количество энергии. Специалисты из Массачусетского технологического института (MIT) презентовали уникальный в своем роде микрочип, уменьшающий потребление электроэнергии на невероятные 95%. Это сделает возможным функционирование нейронных систем на портативных устройствах с аккумуляторами.
С каждым днем смартфоны становятся «умнее», располагают все большим количеством встроенных функций, которые стали возможными благодаря изобретению искусственного интеллекта. Зачастую нейронные сети работают с данными приложений на «облаке», в то время как смартфоны выступают в роле приемников и передатчиков этих данных.
Такой принцип несовершенен. Он требует широкий канал связи, а также хранение и передачу данных вне зоны деятельности юзера. При такой работе требуются значительные объемы энергии, которая питает нейросети, функционирующие на процессорах с графическим ядром. Все это не получилось бы осуществить на портативном девайсе, который имеет маломощный источник питания.
Созданный в MIT чип снижает расход энергии на 95%. Он почти полностью устраняет необходимость в транспортировке данных от процессора к чиповой памяти и назад.
Нейронные сети – это десятки тысяч искусственно созданных нейронов, которые имеют между собой связь и располагаются слоями. Любой нейрон обрабатывает входящие данные от соседних нейронов нижнего порядка и в случае преодоления комбинированным вводом заданного значения, отправляет информацию вышестоящим нейронам. Связь между несколькими нейронами зависит от веса, который будет установлен при обучении.
Другими словами, чип обязан взять у определенного нейрона полученные данные, которые нужны для установленной связи и вес соединения из памяти, перемножить их, записать полученное значение, после чего проделать эту операцию для каждого ввода. При этом туда и обратно перемещается большое количество данных. В итоге это ведет к перерасходу энергоресурсов.
Созданный чип решает данную проблему, он параллельно рассчитывает данные всех вводов в памяти с помощью аналоговых схем.Важно понимать, что это позволяет существенно снизить количество передаваемой информации и сэкономить большое количество энергии.
Первые тестирования доказали, что это не окажет существенного влияния на точность. Специалисты выяснили, что отличие в результатах функционирования чипа составит порядка 3–4% от привычной искусственной нейронной сети, установленной на обычном компьютере.
Ученые собрали чип, способный изменять данные в памяти для уменьшения потребления энергии нейросетью. Впервые данный способ был применен для функционирования мощной нейросети, которая прославилась своей работой с изображениями.
Этим заинтересовались не только группы «R&D». Желание применять ИНС на портативном устройстве или бытовой технике провоцирует использование чипов с минимальными энергозатратами.
Apple успешно внедрила свою «Neural Engine» в их iPhone X, для работы системы, распознающая лица. По мнению экспертов, Amazon также создает уникальные чипы аналогичные цифровым помощникам Echo.
Серьезные корпорации все больше опираются на машинное обучение, которое стимулирует производство энергосберегающего оборудования. ARM уже презентовала два чипа собственного производства: проц. «Arm Machine Learning», который выполняет общие функции ИИ вроде идентификации лиц, перевода текста, а также процессор Arm Object Detection, способный узнавать лица на фотографиях.
Современный чип Qualcomm Snapdragon 845 с графическим процессором приспособлен на работу с ИИ. Был представлен «Snapdragon 820E», способный функционировать в боевых роботах, беспилотных системах в промышленных системах.
Попытаться сделать так, чтобы чипы разумно расходовать электроэнергию батарей при работе с нейросетями будет довольно непросто. Но оценивая имеющиеся темпы развития технологического прогресса, их применение не кажется таким уж нереальным.