Носимите технологии за проследяване на съня стават все по-популярни, предлагайки на потребителите възможност да анализират своите навици, мозъчна активност и физиологични показатели по време на почивка. Зад тези на пръв поглед безобидни функции обаче се крие сериозен въпрос, свързан със защитата на личните данни. Разследване на списание Science, проведено съвместно с мрежата AI Accountability Network към Pulitzer Center, установява, че компании в областта на невротехнологиите са събрали десетки милиони часове електроенцефалографски (EEG) записи от потребители. Част от тези данни се използват за разработването и обучението на ново поколение модели с изкуствен интелект, известни като базови мозъчни модели (brain foundation models), без подобна практика първоначално да е била достатъчно ясно посочена в политиките за поверителност на някои от производителите.

Сред засегнатите компании е канадската Interaxon, която стои зад популярната серия устройства Muse – специализирани ленти за глава, предназначени за проследяване на мозъчната активност по време на сън и медитация. Устройствата регистрират електрическите сигнали на мозъка, както и други физиологични показатели, след което обработват събраната информация и предоставят на потребителите отчети за качеството на съня и промените в техните модели на почивка. Оказва се обаче, че същите записи могат да имат и второ предназначение – да бъдат използвани като обучителен материал за системи с изкуствен интелект.

По информация на Tom’s Hardware Interaxon вече е обучила ИИ модел с приблизително 50 000 часа EEG записи. От компанията посочват, че преди използването им премахват идентифициращата информация, включително имена, имейл адреси и адреси на потребителите. Главният маркетингов директор на Interaxon Надя Кументас заявява, че компанията има намерение да използва възможно най-голяма част от наличния масив от данни, който отговаря на нейните критерии за обработка. Проблемът е, че преди разследването на Science политиката за поверителност на производителя не е разкривала изрично, че мозъчните записи на клиентите могат да бъдат използвани за обучение на базови ИИ модели. След отправените въпроси компанията актуализира документацията си, като Кументас признава, че потребителите трябва да бъдат информирани ясно и изрично за подобна практика.

Това повдига и въпроса какво се случва с вече събраните данни, които са били използвани за обучение на алгоритми, преди потребителите да бъдат надлежно уведомени. Премахването на имена и имейл адреси не означава автоматично, че информацията е напълно анонимна или че не може да бъде свързана с конкретен човек при определени обстоятелства. Неврологичните данни са особено чувствителна категория информация, тъй като могат да разкриват характеристики на мозъчната активност и физиологичното състояние на човека. Именно затова начинът, по който се събират, съхраняват, споделят и използват подобни записи, придобива все по-голямо значение.

Interaxon не е единственият производител, който използва потребителски EEG записи за разработването на изкуствен интелект. Друг пример е Emotiv – компания, специализирана в производството на носими устройства за измерване на мозъчната активност. Тя работи върху собствен модел, наречен Large Brain, като част от обучителните данни идват от записи, направени с нейните по-висок клас устройства. След като Science поставя въпроси относно практиките ѝ, Emotiv също актуализира политиката си за поверителност и уточнява, че деидентифицирани неврологични данни могат да бъдат използвани за обучение на модели при наличие на изрично съгласие от потребителя.

Разследването разкрива и по-широк проблем в индустрията: повече от две трети от изследваните компании са допускали прехвърляне на корпоративни данни без съгласието на потребителите. Това е особено важно при евентуално придобиване или сливане на технологична компания. Ако малък производител на невротехнологии бъде купен от по-голяма корпорация, натрупаната база от мозъчни записи потенциално може да премине към новия собственик. Така информация, предоставена първоначално за проследяване на съня или друга конкретна услуга, може да се окаже част от значително по-мащабна система за разработване на изкуствен интелект. В САЩ вече има опити за законодателна реакция – щатите Колорадо и Калифорния са разширили законите си за защита на потребителската информация, така че да обхващат и неврологичните данни, но законодателството в останалите щати все още изостава.

Снимка: Unsplash

Виж още: Zodiac колекцията с iPhone Duo на Caviar е наполовина смартфон, наполовина зодиакална карта