Ученые выяснили, сможет ли искусственный интеллект самостоятельно выступить против человечества

Ученые из Университета Бат и Технического университета Дармштадта провели исследование и выяснили, что большие языковые модели (LLM) не способны самостоятельно развивать новые навыки. Это делает их предсказуемыми и контролируемыми, а это значит, что они не могут самостоятельно восстать против человечества. Хотя раньше Люкс писал об Илоне Маске, который уверен, что ИИ может уничтожить человечество и даже назвал процент вероятности этого.

По данным ученых, LLM могут выполнять только те инструкции и задачи, которые им задает человек. Самостоятельно, за пределами своего программного обеспечения, они не могут ничего сделать. Проще говоря, ИИ в какой-то момент не превратится в сверхразумный мозг, превосходящий человеческий, чтобы затеять что-то плохое против человека.

Наша работа является фундаментальным шагом в объяснении производительности языковых моделей, предоставляя шаблон для их эффективного использования и проясняя парадокс их способности достигать успеха в одних случаях, тогда как в других они терпят неудачу. Таким образом, мы демонстрируем, что их возможности не стоит переоценивать, – говорится в исследовании ученых.

Но, по мнению ученых, угроза от ИИ все же существует, а точнее не от самого ИИ, а от действий людей, которые могут иметь плохие намерения. В частности, искусственный интеллект уже научился врать своему собеседнику, создавать фейковые новости и манипулировать.