IBM построила прибыльный суперкомпьютер с искусственным интеллектом в своем облаке

IBM построила прибыльный суперкомпьютер с искусственным интеллектом в своем облаке

Ответ IBM на прибыльный суперкомпьютер работает уже несколько месяцев, но недавно произошла утечка ощутимой информации о так называемом проекте Candela.

Обратившись к своему блогу (откроется в новой вкладке), чтобы обсудить детали, IBM обнаружила, что исследование, написанное 5 сотрудниками компании, направлено на решение проблем с предыдущими суперкомпьютерами и их неготовностью к будущим задачам ИИ.

Чтобы точно настроить модель суперкомпьютера для этого будущего типа рабочей нагрузки, компания подчеркивает решения, которые она приняла с точки зрения использования более мощного доступного оборудования.

Суперкомпьютер Candela AI от IBM

В книге отмечается, что «создание суперкомпьютеров означало голые металлические узлы, высокопроизводительное сетевое оборудование… параллельные файловые системы и другие вещи, обычно связанные с высокопроизводительными вычислениями (HPC).

Хотя нет никаких сомнений в том, что эти суперкомпьютеры могут справляться с большими рабочими нагрузками ИИ, в том числе разработанными для OpenAI, стартапа популярного программного обеспечения для онлайн-чатов ChatGPT, отсутствие оптимизации означает, что традиционные суперкомпьютеры могут потерять ценную мощность и иметь избыток в других областях. , что приводит к расточительным расходам. .

Хотя «голые» узлы уже давно признаны наиболее идеальными для ИИ, IBM хотела изучить возможность их предложения на виртуальной машине (ВМ). Результатом, по словам Big Blue, является огромный прирост производительности.

«После значительного количества исследований и открытий мы изобрели способ раскрыть все возможности узлов (графический процессор, центральный процессор, сеть и хранилище) в виртуальной машине, чтобы накладные расходы на виртуализацию составляли менее пяти процентов, что составляет самые низкие накладные расходы в отрасли, о которых мы знаем.

Что касается конструкции узла, Candela поставляется с 4 ГБ или памятью графического процессора, одним с XNUMX ТБ DRAM и XNUMX накопителями NVMe по XNUMX ТБ.

По оценкам Next Platform (opens in a new tab), если бы IBM захотела, чтобы ее суперкомпьютер занял место в Top500, она предложила бы около двадцати семи позиций с производительностью девять петафлопс, что поставило бы ее на пятнадцатое место в ноябрьском двухлетнем рейтинге. тысяча двадцать два

В то время как современные суперкомпьютеры способны справляться с рабочими нагрузками ИИ, огромные разработки в области искусственного интеллекта в сочетании с насущной потребностью в прибыльности подчеркивают необходимость такой машины.