Amazon продає купу книг з дивними порадами та нісенітницями, які написав штучний інтелект: в мережі б'ють на сполох

Платформа Amazon продає купу книг з дивними порадами та нісенітницями, які написав штучний інтелект. В мережі вже б'ють на сполох, адже нейромережа навіть посягнула на медичні книги з випадковими порадами, які можуть нашкодити людині. До речі, читай на Люкс про те, чого ніколи не зможе осягнути ШІ.

Як пише Guardian, американська компанія Originality.ai, яка виявляє контент, створений штучним інтелектом, проаналізувала зразки з восьми книг. Експерти компанії заявили, що кожна з них мала рейтинг 100% за показником виявлення ШІ, що означає, що книги були написані чат-ботом. Експерти кажуть, що ця сфера наразі ніяк не регулюється, а тому існує ризик поширення небезпечної дезінформації.

Дослідник інформатики з Королівського коледжу Лондона Майкл Кук сказав, що генеративні системи штучного інтелекту відомі тим, що дають небезпечні поради, наприклад, щодо вживання токсичних речовин, змішування небезпечних хімічних речовин або ігнорування рекомендацій щодо здоров'я.

Системи генеративного штучного інтелекту, такі як ChatGPT, можливо, були навчені на багатьох медичних підручниках та статтях, але вони також були навчені псевдонауці, теоріям змови та вигадкам, – додав Кук.

Кук також зазначив, що бізнес-модель Amazon стимулювала таку практику, оскільки компанія заробляла гроші щоразу, коли люди купували книгу, незалежно від того, чи була робота гідною довіри, чи ні. Своєю чергою компанії, що займаються генеративним штучним інтелектом та створювали ці продукти, не несли відповідальності.

Читай також на Люкс про те, як користувачка ChatGPT розлучилася з коханим після того, як ШІ "розшифрував" результат ворожіння на кавовій гущі.