Google Chrome започна автоматично да изтегля и инсталира файл с ИИ модел на устройството, наречен weights.bin, за да захранва Gemini Nano. Моделът с размер 4 GB се инсталира на устройствата на потребителите без съгласие, уведомление или опция за отказ, а изтриването на файла кара Chrome да изтегли модела отново, без да ви уведоми.

Според Александър Ханф от The Privacy Guy това поведение отразява модел, наблюдаван по-рано при Claude Desktop на Anthropic.

Файлът weights.bin се съхранява в директорията OptGuideOnDeviceModel във вашия потребителски профил в Chrome. Той тежи цели 4 GB и се инсталира на устройства, които отговарят на определени системни изисквания, без да се иска съгласието на потребителя или да се предлага опция за деактивиране в настройките. За да спрете повторно изтеглянето му след изтриване, трябва да го деактивирате чрез chrome://flags или чрез инструменти за корпоративна политика. В момента изглежда, че Windows и macOS са засегнати от това тайно изтегляне.

При тестовете на Ханф на Chrome му отне само 14 минути да създаде директорията OptGuideOnDeviceModel и да изтегли модела, като през цялото време не даде никакъв сигнал на потребителите, че изтегля този голям файл. Той заяви, че тази дейност на Google включва много „тъмни модели“, подобни на тези, наблюдавани в настолното приложение Claude, за което той е писал и преди.

Изброените „тъмни модели“ включват:

Принудително обединяване в пакети извън границите на доверието
Невидима настройка по подразбиране без възможност за избор
По-трудно за премахване, отколкото за инсталиране
Възможност за предварителна подготовка, която потребителят не е поискал
Общо/замъглено наименование: OptGuideOnDeviceModel срещу GeminiNanoLLM
Регистрация без конфигурация от страна на потребителя
Липса на документация за обикновените потребители
Автоматично преинсталиране след изтриване
Ретроактивно запазване на бъдещо съгласие
Доставя се чрез канал за стабилни версии

Най-новата версия на Chrome, версия 147, вече включва бутон за ИИ режим в универсалната лента, но той пренасочва заявките към ИИ сървъри в облака. Този ИИ не използва локалния модел, а вместо това го използва за функции като „Помогни ми да напиша“.

Ханф твърди, че тихата инсталация на модела потенциално може да бъде незаконна в няколко юрисдикции. Някои от законите, които според него се нарушават, включват член 5, параграф 3 от Директивата за електронната поверителност, който забранява съхраняването на информация на терминалното оборудване на потребителя без предварително съгласие, както и член 5, параграф 1 и член 25 от Общия регламент за защита на данните (GDPR), които насърчават прозрачността и защитата на данните още при проектирането и по подразбиране.

Той отбелязва също, че внедряването на този модел в устройствата има значително въздействие върху климата, като генерира 640 000 тона CO2e. За потребители с ограничения на данните или такива, които разчитат на мобилни данни, изтеглянето може да изчерпи целия им трафик и да ги остави в недоумение какво се случва.

За да се справят с тези проблеми, Ханф препоръчва Google да получи съгласието на потребителите преди да започне изтеглянето, да предостави на потребителите лесен начин за изтриване на модела и да не го преинсталира автоматично след изтриването.

Снимка: Unsplash

Виж още: Xiaomi 17 и Xiaomi 17 Ultra: шедьовър във флагман мобилната фотография с невероятните възможности на Leica