Як і слід було чекати: штучний інтелект навчився свідомо брехати співрозмовнику

Тільки нещодавно науковці навчили штучний інтелект розпізнавати сарказм людини й побоювалися, що він почне так само відповідати з сарказмом, як ось вже з'явилась чергова новина. Виявляється, штучний інтелект навчився свідомо брехати співрозмовнику. Науковці кажуть, що спеціально його цьому не вчили.

Дослідники з Массачусетського технологічного інституту (США) розповіли, що ШІ навчається на величезній кількості текстів, які не завжди містять правдиву інформацію. Тому ШІ може іноді видавати людині цю інформацію, щиро вважаючи, що говорить правду. Але останнє дослідження показало, що нейромережа може вводити в оману свого співрозмовника свідомо.

Науковці проаналізували поведінку великих мовних моделей (таких як GPT-4) і моделей, які навчені виконувати більш специфічні завдання, наприклад, проходження відеоігор або торги на ринку. В одному з випадків нейромережа GPT-4 змогла обдурити людину, змусивши її пройти за неї стандартну перевірку "Доведи, що ти не робот".

За словами авторів дослідження, схильність до обману вища у більш сучасних і складніших нейромереж. На думку науковців, ці нейромережі вміють краще знаходити ефективні стратегії поведінки, які частіше використовують брехню й удавання. І хоча дослідники кажуть, що ще рано говорити про те, що ШІ дійсно навмисно обманює людей, проте закликали виробників звернути на це увагу. Схоже, що розробникам тепер потрібно створювати детектор брехні, який виявлятиме не тільки сарказм ШІ, а й те, наскільки щирий він з людиною.

Раніше Люкс розповідав про те, що науковці навчили нейромережу розпізнавати діпфейки.