Невронните процесори (NPU) стават обичайни в чиповете на Intel и AMD, след като няколко години бяха нещо, което се намираше предимно в смартфони и таблети (и Mac). Но тъй като все повече компании се стремят да извършват повече генеративна обработка на изкуствен интелект, редактиране на изображения и създаване на чатботове на място в устройството, а не в облака, възможността за измерване на производителността на NPU ще става все по-важна за хората, които вземат решения за покупка.

Сега идва ред на Primate Labs, разработчици на Geekbench. Основното приложение Geekbench е предназначено за тестване на производителността на процесорите и на графичните процесори, но през последните няколко години компанията експериментира със страничен проект, наречен Geekbench ML (за „Machine Learning“), за тестване на производителността на NPU. Сега, когато инициативата Copilot+ на Microsoft се разгръща, а Intel, AMD, Qualcomm и Apple се стремят да увеличат производителността на NPU, Primate Labs повишава Geekbench ML до версия 1.0 и го преименува на „Geekbench AI“ - промяна, която вероятно ще ѝ помогне да се възползва от вълната от шум, свързан с изкуствения интелект.

„Точно както работните натоварвания, свързани с процесори, се различават по начина, по който могат да се възползват от няколко ядра или нишки за мащабиране на производителността (което налага както едноядрени, така и многоядрени показатели в повечето свързани бенчмаркове), работните натоварвания с изкуствен интелект обхващат редица нива на прецизност в зависимост от необходимата задача и наличния хардуер“, пише Джон Пул от Primate Labs в публикация в блога за актуализацията. „Geekbench AI представя своето обобщение за редица тестове за работно натоварване, осъществени с данни с единична точност, данни с полуточност и квантувани данни, покривайки разнообразието, използвано от разработчиците както по отношение на точността, така и по отношение на предназначението в системите за ИИ.“

В допълнение към измерването на скоростта, Geekbench AI се опитва да измери и точността, която е важна за работните натоварвания с машинно обучение, които разчитат на постигането на последователни резултати (например идентифициране и каталогизиране на хора и обекти във фототека).

Geekbench AI поддържа няколко рамки за изкуствен интелект: OpenVINO за Windows и Linux, ONNX за Windows, QNN на Qualcomm за Arm PC със Snapdragon, CoreML на Apple за macOS и iOS, както и редица специфични за производителя рамки за различни устройства с Android. Приложението може да изпълнява тези работни натоварвания на CPU, GPU или NPU поне когато устройството ви има инсталиран съвместим NPU.

На персонални компютри с Windows, където поддръжката на NPU и API като DirectML на Microsoft все още са в процес на разработка, Geekbench AI поддържа NPU на Intel и Qualcomm, но не и на AMD (все още).

„Надяваме се да добавим поддръжка на AMD NPU в бъдеща версия, след като получим повече яснота за това как най-добре да ги активираме от AMD“, казва Пул.

Geekbench AI е наличен за Windows, macOS, Linux, iOS/iPadOS и Android. Той е безплатен за използване, въпреки че лицензът Pro ви дава инструменти за команден ред, възможност да изпълнявате бенчмарка, без да качвате резултатите в Geekbench Browser, и няколко други предимства. Въпреки че днес приложението достига версия 1.0, екипът на Primate Labs очаква често да го актуализира за нов хардуер, рамки и работни натоварвания, ако е необходимо.

Снимка: Unsplash/Primate Labs

Виж още: Разплащанията и спестяването стават още по-лесни с новите функции на картата neon на tbi bank