Новый AI-чип IBM обеспечивает 22-кратное ускорение при «умопомрачительной» энергоэффективности

IBM недавно представила новый прототип чипа искусственного интеллекта (ИИ), который должен быть быстрее и гораздо более энергоэффективным, чем любой другой чип, доступный в настоящее время.

Согласно исследованию, опубликованному в журнале Science Magazine 19 октября, новый чип, получивший название NorthPole, «достигает в 25 раз более высокого показателя энергопотребления» в соответствующем тесте «и в 22 раза более низкого показателя времени задержки».

Якобы это означает потенциальную производительность после графического процессора за небольшую часть затрат на энергопотребление.

Дэмиен Керлиоз, исследователь наноэлектроники из Университета Париж-Сакле в Палезо, в статье, опубликованной в журнале Nature, охарактеризовал энергоэффективность Северного полюса как «потрясающую».

Согласно документу исследовательской группы IBM:

«NorthPole превосходит все распространенные архитектуры, даже те, которые используют более продвинутые технологические процессы».

Одно из основных препятствий на пути улучшения обработки ИИ называется «узким местом фон Неймана». Используя доступную в настоящее время архитектуру, чипы искусственного интеллекта, как правило, обладают более быстрыми вычислительными возможностями, чем память, необходимая для запуска процессов. В результате при каждой передаче информации между процессором и оперативной памятью возникает задержка.

Это особенно актуально на «периферии», где чипы и данные хранятся вместе. Многие эксперты уже давно считают, что устранение этого узкого места является ключом к запуску мощных нейронных сетей локально на устройствах.

Публикация на этой неделе в @ScienceMagazine новейшего прототипа искусственного интеллекта IBM Research, NorthPole, может помочь нам перейти к более энергоэффективному искусственному интеллекту. Узнайте больше: pic.twitter.com/eFklLNSqkW

— IBM Research (@IBMResearch) 19 октября 2023 г.

По данным IBM Research, новый прототип чипа, созданный в лаборатории компании в Аламадене, Калифорния, обходит узкое место фон Неймана, по сути, интегрируя компонент памяти в сам процессор.

Как выразился ведущий разработчик чипа Дхармендра Модха, NorthPole — это «целая сеть на кристалле», которая «прокладывает путь, совершенно отличный от архитектуры фон Неймана».

Чип NorthPole на карте PCIe. Источник: исследования IBM.

Тест ResNet50, используемый для демонстрации эффективности чипа, представляет собой 50-слойную нейронную сеть, в основном используемую для тестирования задач компьютерного зрения, таких как классификация изображений.

Результаты, полученные аппаратным обеспечением NorthPole в этом тесте, показывают, что оно может исключительно хорошо справляться с сопутствующими задачами, такими как автономная хирургия, эксплуатация беспилотных автомобилей и других транспортных средств, а также многочисленные проекты, связанные с робототехникой.

IBM Research уже много лет занимается исследованием следующего чипа, использующего архитектуру NorthPole. Согласно блогу компании: «Это только начало работы Modha на Северном полюсе».