Штучний інтелект порадив японцю з'їсти отруйний гриб: старенький опинився у лікарні
"Вибачте, я помилився".
У японській префектурі Нара 70-річний місцевий житель потрапив до лікарні з ознаками отруєння після того, як довірився рекомендації програми на основі штучного інтелекту. Нейромережа помилково ідентифікувала отруйний гриб як безпечний для вживання.
Пенсіонер знайшов у лісі гриби, які візуально нагадували відомі їстівні види, такі як гливи або шіїтаке, але не був впевнений у їхній придатності. Він намагався звернутися за консультацією до місцевого ботанічного саду, однак через відсутність фахівців на місці вирішив скористатися доступними технологіями.
Чоловік сфотографував свою знахідку та завантажив зображення у застосунок зі штучним інтелектом. Система відповіла, що знахідка "схожа на шіїтаке або гливи" і "їстівна". Довірившись висновку ШІ, літній чоловік приготував гриби вдома і з'їв їх. Вже через тридцять хвилин у нього розпочалася сильна блювота, і його терміново госпіталізували. На щастя, симптоми виявилися тимчасовими, і пацієнт повністю відновився.
Експертиза пізніше підтвердила, що чоловік спожив цукійотаке (Omphalotus japonicus), відомий як "гриб місячної ночі" — це отруйний вид, який часто плутають з безпечними грибами. Цей прикрий випадок став суворим нагадуванням про небезпеку сліпого покладання на інструменти штучного інтелекту, особливо коли йдеться про питання, критичні для здоров'я та безпеки.
Штучний інтелект систематично вводить користувачів в оману. Так, нещодавно наївні польські туристи поклалися на штучний інтелект - і заблукали в горах.