Независимо дали става дума за ChatGPT, Google Gemini или някой друг чатбот на големите технологични компании, тези инструменти са се превърнали в неразделна част от съвременния живот. С нарастването на потребителското търсене на чатботи се увеличава и нуждата от повече природни ресурси. Базираната в Европа компания Squeez Labs представи концепция за чатбот, чиято цел е да направи генеративната изкуствена интелигенция икономична и по-малко ресурсоемка, като използва обикновена ръчна манивела.

Умно наречена CrankGPT, тази малка кутийка няма батерия и разчита изцяло на манивела за генериране на енергия. Казано по-просто, тя се държи като обикновен чатбот, но се захранва изцяло чрез завъртане на манивелата. Вътре в тази малка кутийка се намира 20-ватов генератор с ръчна манивела, задвижван от стандартен Raspberry Pi 5 с 8 GB RAM.

Тази ефективна конфигурация позволява на CrankGPT да разпознава казаното от вас, да го обработва и след това да дава отговор, използвайки гласовия модел Piper. Както може да се очаква, малките модели са най-подходящи за работа на CrankGPT, като създателите препоръчват вариантите 350M и 1.2B на Liquid AI LFM2 или Gemma (1B).

Както се вижда от видеото по-долу CrankGPT съвсем не е тихо устройство. Това обаче е малък компромис за устройство, което трябва да бъде едновременно защитено и енергийно ефективно. Въпреки че, според информацията, създателите са се опитали да генерират изображения, поезия и дори код с помощта на CrankGPT, устройството очевидно е по-подходящо за малки, ежедневни запитвания.

Разработчиците са вградили и вентилатор за охлаждане, за да поддържат топлината под контрол. Те допълват, че манивелата може да стане „много по-трудна за въртене“, когато синтезът на реч и LLM изводите се извършват едновременно.

Може би най-добрият аргумент в полза на устройство с такива размери и възможности е, че то работи на базата на изцяло локален модел, който винаги е под контрола на потребителя.

„Нашето европейско чувство за практичност при малките автомобили беше засегнато, когато видяхме как хората около нас харчат киловати и хиляди токени за задачи, които малките модели биха могли да изпълнят точно толкова добре, колкото и големите, при това за една малка част от разходите и енергията“, заявиха създателите на CrankGPT.

Уебсайтът на CrankGPT представя доста добре предимствата на този продукт, макар че липсва информация за по-широко пускане на пазара или евентуална цена. Можете обаче да заявите демонстрация на устройството.

Независимо дали този продукт някой ден ще се превърне в нещо повече от концепция, той показва, че има начини да се използва изкуствен интелект, без това да се отразява на нашите природни ресурси. Все пак си струва да се има предвид, че обучението на тези модели за изкуствен интелект също натоварва сериозно ресурсите на Земята, така че докато този проблем не бъде решен, тези решения имат ограничени възможности.

Въпреки това CrankGPT може да се окаже началото на нещо по-голямо, особено като се има предвид, че изкуственият интелект става все по-неразделна част от живота ни – за добро или за лошо.

Снимка: Unsplash/Squeez Labs

Виж още: Този нов спускателен апарат на Astrobotic е стъпка към базата ни на Луната