ИИ может притворяться глупее, чем есть на самом деле – выводы ученых
Ученые говорят, что человечество может недооценивать возможности искусственного интеллекта.
Искусственный интеллект научился притворяться не очень умным / Источник: Freepik
Новое исследование ученых показывает, что передовые модели искусственного интеллекта достаточно хорошо умеют притворяться менее умными, чем они есть на самом деле. По мнению ученых, это может иметь огромные последствия, поскольку ИИ продолжает умнеть, а человечество недооценивает его способности. Кстати, ранее Люкс писал о том, что более 200 известных на весь мир артистов подписали заявление против ИИ.
Исследователи из Берлинского университета Гумбольдта, которые опубликовали результаты своей работы в журнале PLOS One, обнаружили, что во время тестирования большой языковой модели (LLM) по так называемым критериям "теории разума", ИИ не только может имитировать этапы изучения языка, которые обычно демонстрируют дети, но и показывает что-то похожее на умственные способности, связанные с этими этапами.
Благодаря психолингвистике мы имеем относительно всестороннее понимание того, на что способны дети разного возраста. В частности, теория ума играет значительную роль, поскольку она исследует внутренний мир ребенка и ее нелегко подражать, наблюдая за простыми статистическими закономерностями, – рассказала одна из участниц исследования.
Опираясь на детскую теорию ума исследователи пытались определить, может ли, например, GPT-4 OpenAI, притворяться менее способным, чем он есть на самом деле. Чтобы выяснить это, исследовательская группа приказала речевым моделям вести себя как ребенок в возрасте от одного до шести лет. Пройдя более тысячи испытаний и когнитивных тестов, эти "имитированные детские образы" действительно показали, что они развиваются так же как и дети этого возраста. В конце концов языковые модели LLM продемонстрировали, что они могут притворяться менее умными, чем они есть на самом деле.
По словам ученых, это явление может и полезно для изучения искусственного интеллекта, но не является безопасным. Они отмечают, что человечество может недооценивать возможности ИИ в течение длительного периода, "что является опасной ситуацией".
Напомним, ранее Илон Маск назвал процент риска того, что ИИ может уничтожить человечество.