Според The Information, Apple е провела срещи с PrismML относно начините, по които би могла да използва технологията на стартъпа, за да изпълнява значително по-големи модели за изкуствен интелект директно на iPhone.

PrismML е стартъп в областта на изкуствения интелект и изследователска лаборатория, създадена като спин-оф на Калифорнийския технологичен институт (Caltech), която е пионер в разработването на търговски приложими архитектури на невронни мрежи с 1-битова и тернарна (+1, 0, -1) прецизност. Чрез съхранението на теглата на моделите с изключително ниска битова прецизност, PrismML намалява размера на моделите за изкуствен интелект с фактори от порядъка на величина, без да се налага значително да се жертват способностите за разсъждение или генериране.

В доклада се посочва, че PrismML е успяла да оптимизира големия езиков модел с отворен код на Alibaba – Qwen 3.6 – така, че да работи изцяло на iPhone 17 Pro. Моделът разполага с 27 милиарда параметри, което е повече от вградения в устройството модел AFM 3 Core Advanced на Apple с 20 милиарда параметри. Моделът на Apple стои в основата на подобренията в iOS 27, като например по-изразителните гласове на Siri AI и подобреното диктовка в цялата система на моделите iPhone 17 Pro и iPhone Air.

За разлика от AFM 3 Core Advanced, всички параметри на Qwen 3.6 могат да бъдат активни едновременно.

„Един нов модел на Apple, работещ на самото устройство, има 20 милиарда параметри, но използва така наречената „разредена архитектура“, при която едновременно са активни само от 1 до 4 милиарда параметри“, се посочва в доклада във връзка с AFM 3 Core Advanced. „В случая с модела на PrismML, работещ на самото устройство, всички 27 милиарда параметри са активни едновременно.“

По-големите модели, работещи директно на iPhone, биха позволили повече функции на Apple Intelligence да се изпълняват на самото устройство, вместо на сървърите на Private Cloud Compute на Apple, което би могло да намали разходите на Apple и да подобри още повече поверителността на потребителите.

Снимка: Unsplash

Виж още: Електромагнитна война: Оръжие като от научна фантастика вече е на разположение на американските Космически сили