Миналата година проучванията, представени на годишната среща на Американското дружество по клинична онкология, показаха, че IBM Watson е доста добър в създаването на планове за лечение на пациенти с рак. Изглежда обаче, че изкуственият интелект все още е далеч от съвършенство: според вътрешни документи, разгледани от здравноориентираната публикация Stat, някои медицински експерти, работещи за IBM в тяхната система Watson for Oncology, са открили "множество примери за опасни и неправилни препоръки за лечение".

В един конкретен случай на 65-годишен мъж е изписано лекарство, което може да доведе до "тежък или фатален кръвоизлив", въпреки че той вече страда именно от тежко кървене.

Докладът поставя вината върху инженерите на IBM и лекарите в Онкоцентъра на Memorial Sloan Kettering, които помогнаха за обучението на AI. Те явно са заредили в Watson хипотетични данни за пациентите и препоръки за лечение лекари вместо реална информация за пациентите. Подходът очевидно не работи така, както са се надявали. Един лекар от Florida Jupiter Hospital дори казал на IBM при тестване на системата, че продуктът им е "боклук". Струва си обаче да се отбележи, че хората от IBM вярват, че примерът, включващ 65-годишния пациент, е само част от тестването на системата, а не реална препоръка за лечение.

Независимо от това, че лекарят от Florida Jupiter Hospital дал доста негативни отзиви, говорител на болницата казва пред Gizmodo, че тя все още използва препоръките на Watson. Нейните лекари обаче не разчитат напълно на плановете, които машината изготвя, и ги виждат като допълнително мнение, когато не могат да се споразумеят за лечение. Що се отнася до IBM, тя знае, че Watson for Oncology все още се нуждае от работа и е взела обратна връзка от клиентите, за да разработи множество софтуерни актуализации с нови и подобрени функции през изминалата година.