Процессор NorthPole отказался от оперативной памяти для увеличения скорости

Исследователи разработали процессор, построенный на основе нейронных сетей, который может решать задачи искусственного интеллекта гораздо быстрее, чем обычные чипы, используя необходимость доступа к внешней памяти.
Даже самые лучшие процессоры сталкиваются с узкими местами при обработке данных, поскольку для компьютера необходимо использовать оперативную память, а такое перемещение данных туда и обратно приводит к неэффективности. По данным Nature , IBM надеется решить так называемое узкое место фона Неймана с помощью своего чипа NorthPole.
Процессор Северного полюса встраивает небольшой объем памяти в каждое из своих 256 ядер, которые соединяются между собой так, как части мозга соединяются вместе с белым веществом. Это означает, что чип полностью используется в узком месте.
Ищем вдохновение в человеческом мозге
NorthPole от IBM — это наглядное подтверждение концепции, что полностью функционирующий чип, способный конкурировать с такими процессорами, как AMD и Nvidia. Например, он включает в себя всего 224 МБ ОЗУ, что далеко не соответствует масштабу, необходимому для искусственного интеллекта или для запуска больших языковых моделей (LLM).
Чип также может просто заранее запустить запрограммированные нейронные сети, обученные на отдельном компьютере. Но его уникальная архитектура означает, что настоящим выдающимся достижением является энергоэффективность, которую он может назвать. Исследователи полагают, что если бы Северный полюс был создан сегодня с использованием самых современных производственных стандартов, он был бы в 25 раз более эффективным, чем лучшие графические процессоры и лучшие центральные процессоры .
«Его энергоэффективность просто ошеломляет», — сказал Дэмиен Керлиоз, исследователь наноэлектроники из Университета Париж-Сакле в Палезо, согласно журналу Nature. «Работа, опубликованная в журнале Science, показывает, что вычисление и память могут быть интегрированы в больших масштабах», — говорит он. «Я считаю, что эта статья поколеблет общепринятое мышление в области компьютерной конструкции».
Он также может опережать системы искусственного интеллекта в таких задачах, как распознавание изображений. Его архитектура нейронной сети означает, что нижний уровень принимает такие данные, как пиксельные изображения, а уровни уровня начинают находить закономерности, которые становятся более сложными для передачи информации от одного слоя к процедуре. Следующий самый верхний уровень дает конечный результат, например, предположение, содержит изображение текущего объекта.
Больше от TechRadar Pro
- Это лучшие процессоры от AMD и Intel.
- с нашим обзором самых быстрых процессоров
- Видия, будьте осторожны! У IBM есть новый оригинальный чип искусственного интеллекта, который может организовать конкуренцию H100 за свои деньги.
Вы профессионалы? Подпишитесь на нашу новостную рассылку
Свяжитесь со мной, чтобы сообщить новости и предложения других брендов Future. Получайте от нас электронные письма от имени наших доверенных партнеров или спонсоров. Отправляя свою информацию, вы соглашаетесь с Условиями использования и Политикой конфиденциальности, и вам исполнилось 16 лет.
Источник
В Китае представлен собственный высокопроизводительный чип облачного искусственного интеллекта
Технологический стартап Cambricon Technologies запустил в Шанхае производство нового поколения чипов облачного ...