ШІ може прикидатися дурнішим, ніж є насправді – висновки вчених

Нове дослідження вчених показує, що передові моделі штучного інтелекту досить добре вміють прикидатися менш розумними, ніж вони є насправді. На думку науковців, це може мати величезні наслідки, оскільки ШІ продовжує розумнішати, а людство недооцінює його здібності. До речі, раніше Люкс писав про те, що понад 200 відомих на весь світ артистів підписали заяву проти ШІ.

Дослідники з Берлінського університету Гумбольдта, які опубліковали результати своєї роботи в журналі PLOS One, виявили, що під час тестування великої мовної моделі (LLM) за так званими критеріями "теорії розуму", ШІ не тільки може імітувати етапи вивчення мови, які зазвичай демонструють діти, але і показує щось схоже на розумові здібності, пов’язані з цими етапами.

Завдяки психолінгвістиці ми маємо відносно всебічне розуміння того, на що здатні діти різного віку. Зокрема, теорія розуму відіграє значну роль, оскільки вона досліджує внутрішній світ дитини і її нелегко наслідувати, спостерігаючи за простими статистичними закономірностями, – розповіла одна з учасниць дослідження.

Спираючись на дитячу теорію розуму дослідники намагалися визначити, чи може, наприклад, GPT-4 OpenAI, прикидатися менш здібним, ніж він є насправді. Щоб з'ясувати це, дослідницька група наказала мовним моделям поводитися як дитина у віці від одного до шести років. Пройшовши понад тисячу випробувань і когнітивних тестів, ці "імітовані дитячі образи" справді показали, що вони розвиваються так само як і діти цього віку. Зрештою мовні моделі LLM продемонстрували, що вони можуть прикидатися менш розумними, ніж вони є насправді.

За словами вчених, це явище може й корисне для вивчення штучного інтелекту, але не є безпечним. Вони наголошують на тому, що людство може недооцінювати можливості ШІ протягом тривалого періоду, "що є небезпечною ситуацією".

Нагадаємо, раніше Ілон Маск назвав відсоток ризику того, що ШІ може знищити людство.