Amazon продает кучу книг со странными советами и ерундой, которые написал искусственный интеллект: в сети бьют тревогу

Платформа Amazon продает кучу книг со странными советами и ерундой, которые написал искусственный интеллект. В сети уже бьют тревогу, ведь нейросеть даже посягнула на медицинские книги со случайными советами, которые могут навредить человеку. Кстати, читай на Люкс о том, чего никогда не сможет постичь ИИ.

Как пишет Guardian, американская компания Originality.ai, которая обнаруживает контент, созданный искусственным интеллектом, проанализировала образцы из восьми книг. Эксперты компании заявили, что каждая из них имела рейтинг 100% по показателю обнаружения ИИ, что означает, что книги были написаны чат-ботом. Эксперты говорят, что эта сфера пока никак не регулируется, а потому существует риск распространения опасной дезинформации.

Исследователь информатики из Королевского колледжа Лондона Майкл Кук сказал, что генеративные системы искусственного интеллекта известны тем, что дают опасные советы, например, по употреблению токсичных веществ, смешивания опасных химических веществ или игнорирование рекомендаций по здоровью.

Системы генеративного искусственного интеллекта, такие как ChatGPT, возможно, были обучены на многих медицинских учебниках и статьях, но они также были обучены псевдонауке, теориям заговора и вымыслам, – добавил Кук.

Кук также отметил, что бизнес-модель Amazon стимулировала такую практику, поскольку компания зарабатывала деньги каждый раз, когда люди покупали книгу, независимо от того, была ли работа достойной доверия, или нет. В свою очередь компании, занимающиеся генеративным искусственным интеллектом и которые создавали эти продукты, не несли ответственности.

Читай также на Люкс о том, как пользовательница ChatGPT рассталась с любимым после того, как ИИ "расшифровал" результат гадания на кофейной гуще.