През изминалата година в индустрията за роботика се водеха ожесточени дебати относно архитектурата на физическата интелигентност, като се колебаеха между финото настройване на съществуващите езикови модели и изграждането на „модели на света“ от нулата. Сега Dyna Robotics представи това, което може би е най-солидното емпирично доказателство досега в подкрепа на втория подход, като представи Dyna-2 — модел „свят-действие“ (WAM), предварително обучен въз основа на зашеметяващия обем от един милион часа видеоданни с участието на хора.

Според техническия доклад на компанията и придружаващия го коментар в социалните медии, този огромен мащаб е отключил „Свещения Граал“ на въплътения изкуствен интелект: закон за мащабиране на трансфера от човек към робот. Накратко, Dyna-2 доказва, че подаването на повече видеоматериали с хора към модела предсказуемо подобрява способността му да контролира робот, който никога преди не е виждал.

Историческата пречка в обучението на роботите са самите данни. Макар телеоперацията да осигурява висококачествени данни с етикети за действията, събирането им е бавно и скъпо. Теоретичната алтернатива е да се учи от безкрайния източник на видеоматериали с хора в интернет, но превръщането на движението на човешката ръка в действие на роботизирания захват — т.нар. „разлика в въплъщението“ — се оказа изключително трудно.

Dyna-2 решава този проблем изцяло чрез мащаб и обективен дизайн. Компанията подбра вложени подгрупи от видеоклипове с егоцентрични човешки манипулации, вариращи от 1 000 до 1 000 000 часа, като запази същите пропорции от всеки източник. При оценка по метода „zero-shot“ на 39 различни задачи за роботи на две стационарни платформи с две ръце, производителността на Dyna-2 се подобряваше монотонно с увеличаването на данните от предварителното обучение с човешки действия. Между 10 000 и 100 000 часа се появи точка на прелом, което подсказва, че трансферът на знания между различни въплъщения възниква естествено, ако моделът просто наблюдава достатъчно човешка дейност.

Освен това тази способност за обучение без предварителни данни се прояви и след обучението. Само с няколко часа данни, специфични за робота, и без никакво съгласуване между човек и робот, моделите на Dyna-2, преминали допълнително обучение, решаваха задачи, вариращи от манипулиране на деформируеми обекти до отвиване на капачки на бутилки.

От решаващо значение е, че Dyna Robotics установи, че самото предсказване на следващите действия не е достатъчно, за да се преодолее тази празнина. В една екосистема, която понастоящем се доминира от модели от типа „Визия-Език-Действие“ (VLA), Dyna-2 разчита в голяма степен на „съвместно обучение с видео“ — принуждавайки модела да предсказва едновременно както бъдещи действия, така и бъдещи видеокадри. Това е в тясна връзка с залозите за когнитивната архитектура, които правят изследователи като Ян ЛеКун, който отхвърли подходите, базирани на големи езикови модели, като фундаментално погрешни за физическото разсъждение.

Контролираните експерименти на Dyna показват, че съвместното премахване на шума единодушно превъзхожда обучението, фокусирано само върху действията, във всеки мащаб и при всички 39 задачи. Освен това компанията установи, че самото видео е „нова ос на мащабиране“. Дори когато данните, маркирани по действия, са ограничени, простото мащабиране на неанотирани видеоклипове с хора продължава да подобрява способностите за генерализация на модела при различни роботизирани реализации. Тази емпирична подкрепа предоставя критично потвърждение за компании като 1X, която наскоро промени курса си, за да заложи всичко на модели на света за обработка на необработени интернет видеоклипове.

Известен недостатък на генеративните модели на света е „пропускът в реактивността“ — огромните изчислителни ресурси, необходими за прогнозиране на бъдещи състояния, преди роботът да може физически да действа. За да реши този проблем, Dyna-2 въвежда нова едноетапна верига за дестилация при генерирането на видео. Като съпоставя обучаващия модел с еволюиращо целево разпределение, а не с фиксирано такова, компанията намали латентността при генерирането на видео от 10 203 милисекунди до едва 110 милисекунди на един-единствен H100 GPU. Това позволява на модела да „сънува“ висококачествени, обусловени от инструкции бъдещи състояния почти мигновено, без да се жертва качеството.

Докато конкуренти като Generalist AI набират стотици милиони за обучение на физически модели от нулата, а други изграждат масивни симулационни двигатели за тяхната оценка, постижението на Dyna-2 от един милион часа бележи значително ескалиране в надпреварата във физическата изкуствена интелигентност. Както заявява компанията, един милион часа е „само началото на нова ера на мащабиране в роботиката“.

Снимка: Unsplash/Dyna Robotics

Виж още: NASA модифицира лаптопите на МКС, така че всеки да използва едно и също зарядно устройство