Стартап AI, поддерживаемый Microsoft, превосходит Nvidia H100 в ключевых тестах с графически-подобной картой, оснащенной 256 ГБ оперативной памяти.

Corsair C8 заявляет, что пропускная способность в девять раз выше, чем у современных графических процессоров.

Уникальная вычислительная платформа D-Matrix, известная как Corsair C8, может претендовать на то, чтобы вытеснить лидера в области графического процессора Nvidia H100 — по крайней мере, согласно некоторым шокирующим результатам, опубликованным стартапом.

Corsair C8, специально разработанный для генеративных рабочих процессов искусственного интеллекта, отличается от графических процессоров, в которых используется эффективная архитектура компьютера с цифровой памятью (DIMC) d-Matrix.

Результат? Пропускная способность выросла в девять раз по сравнению с лидирующей в отрасли Nvidia H100 и в 27 раз по сравнению с A100.

Корсар С8 мощность

Стартап — один из самых популярных в Кремниевой долине: в последнем раунде финансирования он привлек $110 млн на остановке, включая финансирование от Microsoft. Это повлекло за собой инвестиционный раунд в размере 44 миллионов долларов от таких спонсоров, как Microsoft, SK Hynix и других, в конце концов в 2022 году.

Его флагманская карта Corsair C8 включает 2048 ядер DIMC со 130 миллиардами транзисторов и 256 ГБ оперативной памяти LPDDR5. Он может обеспечивать производительность процессора от 2400 до 9600 терафлопс и пропускную способность между чипами 1 ТБ/с.

Эти уникальные карты могут обеспечить от 20 раз большую пропускную способность для генерации результатов на больших языковых моделях (LLMS), до 20 раз меньшую задержку результата для LLM и до 30 раз экономию средств по сравнению с консервативными графическими процессорами.

В условиях быстрого развития генеративного искусственного интеллекта используются технологии в гонку для создания все более мощного оборудования для будущих технологий.

Ведущими компонентами являются графические процессоры, а точнее, Nvidia A100 и более новые устройства H100. Но, согласно данным d-Matrix, графические процессоры не эффективны для вывода LLM, а обработка для рабочей модели II требует слишком большого количества графических процессоров, что приводит к увеличению потребления энергии.

Это связано с тем, что требования к полосе пропускания для выполнения результатов AI приводят к тому, что графические процессоры тратят много времени просто на ожидание поступления данных из DRAM. Перемещение данных из DRAM также обеспечивает более высокое энергопотребление, а также снижение пропускной способности и увеличение задержки. Это означает, что требования к охлаждению повышаются.

Решением, как утверждает эта фирма, является специализированная архитектура DIMC, которая разрешает многие проблемы графических процессоров. D-Matrix утверждает, что ее решение может снизить затраты в 10–20 раз, а в некоторых случаях и в 60 раз.

Помимо технологии d-Matrix, в гонке за тем, чтобы опередить H100 от Nvidia, начинают появляться и другие игроки. В августе IBM представила новый оригинальный чип искусственного интеллекта , который имитирует человеческий мозг и может работать в 14 раз эффективнее.

Больше от TechRadar Pro

• Мы собрали видеокарту: лучшие графические процессоры на любой бюджет.
• Встречайте графический процессор Nvidia, который оживляет ChatGPT
• Видия, будьте осторожны! У IBM есть новый оригинальный чип искусственного интеллекта, который может организовать конкуренцию H100 за свои деньги.

Вы профессионалы? Подпишитесь на нашу новостную рассылку

Подпишитесь на информационный бюллетень TechRadar Pro, чтобы всегда получать самые важные новости, мнения, функции и рекомендации, необходимые вашему бизнесу для успеха!

Свяжитесь со мной, чтобы сообщить новости и предложения других брендов Future. Получайте от нас электронные письма от имени наших доверенных партнеров или спонсоров. Отправляя свою информацию, вы соглашаетесь с Условиями использования и Политикой конфиденциальности, и вам исполнилось 16 лет.

Источник