Бизнесът се учи по трудния начин, че бързото внедряване на инструменти с изкуствен интелект – и принуждаването или силното насърчаване на служителите им да ги използват – може да има сериозни обратни последици.

Последният пример изглежда е Amazon – макар че може да се спори дали си извлича правилните поуки. Financial Times съобщи, че гигантът в електронната търговия е свикал голяма група инженери на среща, посветена на скорошните прекъсвания, които са засегнали онлайн бизнеса му за търговия на дребно, някои от които са били свързани с инструменти за кодиране с изкуствен интелект.

В информационна бележка от срещата компанията описва „тенденцията на инциденти“ като характеризираща се с „висок радиус на взрив“ и „промени, подпомогнати от Gen-AI“. Като „допринасящ фактор“ в бележката се посочва „ново използване на GenAI, за което най-добрите практики и предпазни мерки все още не са напълно установени“.

„Както вероятно знаете, стабилността на сайта и свързаната с него инфраструктура не е добра напоследък“, казва Дейв Тредуел, старши вицепрезидент на eCommerce Services на Amazon, пред служителите в имейл, цитиран от FT.

Срещата е резултат от близо шестчасово прекъсване миналата седмица, което свали уебсайта и приложението за пазаруване на Amazon, оставяйки клиентите неспособни да правят поръчки. Впоследствие компанията обвини за това неуспешно „разполагане на софтуерен код“.

В друга серия от инциденти в подразделението за облачни изчисления, Amazon Web Services, бяха причинени два отделни прекъсвания, след като инженерите позволиха на вътрешния инструмент за кодиране с изкуствен интелект на компанията да направи катастрофални промени, разкриха допълнителни доклади на FT миналия месец. В един от случаите инструментът с изкуствен интелект е изтрил и пресъздал цялата среда за кодиране.

В отговор на по-ранните доклади, Amazon определи тези грешки като проблем, свързан с протоколите им относно използването на изкуствен интелект и „контрола на потребителския достъп“, а не като проблем с автономността на изкуствения интелект, и изглежда, че се придържа към своите позиции. Компанията няма да се откаже от внедряването на изкуствен интелект, но вместо това настоява за по-силни предпазни мерки и по-голям надзор върху начина, по който той се използва.

Младшите и средните инженери вече ще изискват от по-старши инженери да одобряват всички промени, подпомогнати от изкуствен интелект, каза Тредуел на срещата, според репортаж на FT. Тредуел помоли персонала да присъства на обикновено незадължителната среща.

Няма съмнение, че инструментите с изкуствен интелект, ако изобщо трябва да се използват, трябва да бъдат под строг надзор, особено в програмистките роли. Както всеки генеративен модел на изкуствен интелект, инструментите за кодиране с изкуствен интелект често допускат грешки и понякога се затрудняват да следват инструкциите, което означава, че могат да предприемат действия, които потребителят никога не е възнамерявал.

Но подновеният фокус на Amazon върху прилагането на по-голям човешки надзор идва на фона на уволнението на стотици работници от отдела си за облачни изчисления и на целта на съкращаването на 30 000 служители в корпоративния си персонал като цяло. Междувременно ръководството се обляга на програмистите да използват интензивно инструменти с изкуствен интелект, като служителите вече са заявили пред FT, че компанията е поставила за цел 80% от разработчиците да използват изкуствен интелект за задачи, свързани с кодиране, поне веднъж седмично.

Снимка: Unsplash

Виж още: Това е повратната точка, когато стареенето на тялото ви се ускорява