Ученые заявили, что люди не смогут сдерживать сверхразумный компьютер

1385
1 минута
Ученые заявили, что люди не смогут сдерживать сверхразумный компьютер

pixabay.com

Искусственный интеллект может вырваться из-под контроля человека.

Такие опасения высказаны в публикации в журнале Journal of Artificial Intelligence Research, сообщает ToDay News Ufa. В материале, в частности, содержатся вывод о невозможности управлять сверхразумным устройством.

Авторы статьи сфокусировали внимание на проблеме сверхразумного ИИ. Такой суперкомпьютер был бы умнее всех остальных машин и по интеллекту превосходил бы человеческий. Доступ такого сверхкибера к интернету и накопленным знаниям человечества может привести к утопии или антиутопии.

В настоящее время эксперты изучают возможность контроля ИИ с обеспечением соблюдения этических принципов. Предполагается, что искусственный интеллект можно сдержать алгоритмами, отключающими тот или иной функционал при обнаружении деструктивных действий.

Однако, согласно теории информатики, любой алгоритм сдерживания уязвим тем, что может при некоторых обстоятельствах отключать сам себя. Поэтому он оказывается неприменим, поскольку не гарантирует собственной работы. Вывод - сдержать сверхразумный ИИ человеком практически невозможно, резюмируют авторы статьи.

Ранее мы писали: Ученые Microsoft: создание искусственного интеллекта станет мейнстримом.

Нравятся наши новости? Подпишитесь на ToDay News Ufa и читайте интересные материалы одними из первых.