213 3 хв Юлія Бражнік

Як і слід було чекати: штучний інтелект навчився свідомо брехати співрозмовнику

Розумника спеціально ніхто не навчав говорити неправду та прикидатися людиною.

Як і слід було чекати: штучний інтелект навчився свідомо брехати співрозмовнику

Штучний інтелект навчився брехати / Джерело: Freepik

Тільки нещодавно науковці навчили штучний інтелект розпізнавати сарказм людини й побоювалися, що він почне так само відповідати з сарказмом, як ось вже з'явилась чергова новина. Виявляється, штучний інтелект навчився свідомо брехати співрозмовнику. Науковці кажуть, що спеціально його цьому не вчили.

Відео дня

Дослідники з Массачусетського технологічного інституту (США) розповіли, що ШІ навчається на величезній кількості текстів, які не завжди містять правдиву інформацію. Тому ШІ може іноді видавати людині цю інформацію, щиро вважаючи, що говорить правду. Але останнє дослідження показало, що нейромережа може вводити в оману свого співрозмовника свідомо.

Науковці проаналізували поведінку великих мовних моделей (таких як GPT-4) і моделей, які навчені виконувати більш специфічні завдання, наприклад, проходження відеоігор або торги на ринку. В одному з випадків нейромережа GPT-4 змогла обдурити людину, змусивши її пройти за неї стандартну перевірку "Доведи, що ти не робот".

Штучний інтелект обманює людей / Patterns

За словами авторів дослідження, схильність до обману вища у більш сучасних і складніших нейромереж. На думку науковців, ці нейромережі вміють краще знаходити ефективні стратегії поведінки, які частіше використовують брехню й удавання. І хоча дослідники кажуть, що ще рано говорити про те, що ШІ дійсно навмисно обманює людей, проте закликали виробників звернути на це увагу. Схоже, що розробникам тепер потрібно створювати детектор брехні, який виявлятиме не тільки сарказм ШІ, а й те, наскільки щирий він з людиною.

Реклама

Раніше Люкс розповідав про те, що науковці навчили нейромережу розпізнавати діпфейки.

LifestyleПублікаціїТехноПоділитись:

Новини партнерів

Реклама