ИТ компанията Core 4 Solutions предлага за продажба мащабен изчислителен клъстер, предназначен за задачи с изкуствен интелект, машинно обучение и високопроизводителни изчисления. Офертата е на стойност 59,7 млн. долара и включва общо 300 сървърни шкафа с 9600 ускорителя NVIDIA A100 и хиляди процесори AMD EPYC. Необичайното е, че подобна инфраструктура се продава чрез eBay, а доставката по стандартен наземен транспорт в САЩ е обявена като безплатна.

Според публикуваната обява всеки от 300-те шкафа съдържа четири изчислителни възела, оборудвани с по осем ускорителя NVIDIA A100 с 40 GB памет, два 64-ядрени процесора AMD EPYC от поколението Rome и 1 TB оперативна памет DDR4-2933.

Това означава, че само изчислителните възли осигуряват общо 9600 ускорителя NVIDIA A100 и 1200 процесора AMD EPYC. Към тях се добавят три управляващи сървъра във всеки шкаф, всеки с по два 64-ядрени процесора и 192 GB оперативна памет. Така общият брой на процесорите достига 4200, а броят на физическите процесорни ядра — приблизително 268 800. Това не е просто колекция от мощни сървъри, а цялостна инфраструктура за паралелна обработка на огромни обеми данни. Подобни системи могат да се използват за обучение и изпълнение на модели с изкуствен интелект, научни симулации, анализ на данни и други задачи, при които множество изчислителни ускорители работят съвместно.

Ускорителят NVIDIA A100 е базиран на архитектурата Ampere и е разработен основно за изчислителни натоварвания, а не за традиционни геймърски компютри. Той разполага със специализирани Tensor ядра за операции, използвани при обучението и изпълнението на модели с изкуствен интелект. Посочените в обявата версии са с 40 GB памет HBM2 и използват формата SXM4. Тези ускорители могат да работят съвместно чрез високоскоростни връзки, което ги прави подходящи за големи изчислителни клъстери. Макар A100 да принадлежи към по-старо поколение, той продължава да има практическа стойност. Не всяка организация се нуждае от най-новото оборудване, а за определени модели, научни изследвания и услуги с изкуствен интелект употребяваната инфраструктура може да бъде икономически изгодна алтернатива.

Същото важи и за процесорите AMD EPYC Rome от серията 7002. Те използват архитектурата Zen 2 и предлагат до 64 ядра на чип, осемканална DDR4 памет и поддръжка на PCI Express 4.0 — характеристики, които остават полезни при сървърни и високопроизводителни изчислителни задачи.

Оправдана ли е цената от близо 60 млн. долара?

На пръв поглед сумата изглежда огромна, но стойността на подобна система не се определя единствено от цената на процесорите и ускорителите. В нея влизат още сървърните платформи, мрежовото оборудване, захранването, охлаждането, паметта и останалата инфраструктура.

Анализ посочва ориентировъчна оценка от около 24 млн. долара за ускорителите A100, 3 млн. долара за процесорите EPYC Rome и 1,1 млн. долара за DDR4 паметта. Така общата стойност на тези основни компоненти достига приблизително 28,1 млн. долара, без да се включва останалото оборудване. Това е приблизителна оценка, а не независима оценка на реалната пазарна стойност на целия клъстер. Същественото уточнение е, че става дума за употребявано, изведено от експлоатация оборудване. Не е посочено независимо потвърждение, че всички компоненти са тествани и работят безупречно. При покупка на подобна система състоянието на ускорителите, историята на натоварване, гаранционните условия и наличието на резервни части са от ключово значение.

Обявата на Core 4 Solutions в eBay предлага безплатно получаване на място или доставка чрез FedEx Ground/FedEx Home Delivery в рамките на посочените от продавача условия. Посочени са и платени варианти за по-бърза доставка — 25 долара за двудневна и 50 долара за доставка на следващия ден.

Разбира се, подобна оферта не означава, че 300 шкафа могат лесно да бъдат разположени в обикновен офис или домашен гараж. Експлоатацията им изисква сериозен електрически капацитет, ефективно охлаждане, надеждна мрежова свързаност и подходяща инфраструктура за физическа сигурност. Потенциалният купувач трябва да предвиди и разходите за електроенергия, климатизация, поддръжка и евентуална подмяна на дефектни компоненти. Без тези условия дори изключително мощен клъстер няма да може да работи ефективно.

Снимка: Unsplash

Виж още: Четири ИИ агента на Google DeepMind победиха Minecraft за 27 часа, като написаха сами 2783 програми