Регионы
logo logo_white
inform
18+
Все регионы Санкт-Петербург Москва Красноярск Нижний Новгород Пермь Оренбург Архангельск Екатеринбург Новосибирск Омск Башкирия Кемерово Карелия Приморье Калининград Самара Казань Сочи Ростов-на-Дону Волгоград Саранск

Ученые заявили о невозможности контролировать сверхразумный ИИ

Ученые выяснили, что человек не сможет контролировать поведение сверхразумной системы с ИИ, и, вероятно, даже упустит момент ее создания.
666 12 Января 2021 20:49 Наука
Ученые заявили о невозможности контролировать сверхразумный ИИ
Ученые заявили о невозможности контролировать сверхразумный ИИ
Загрузка...

Предположим, что в будущем людям удастся создать искусственный интеллект, превосходящий человеческий, и способный к самообучению, который возьмет на себя управление всеми машина и компьютерами по сети. Будет ли он решать задачи на благо общества или решит поработить человечество? Исследователи из Института Макса Планка решили проверить, сможет ли человек контролировать ИИ, чтобы он не стал угрозой для мира. Результаты работы опубликованы EurekAlert.

Ученые рассмотрели два основных способа контроля над сверхразумной машиной. Первый путь заключается в том, чтобы искусственно ограничить способности ИИ, отключив его от интернета или других устройств, позволяющих контактировать с внешним миром. Однако этот метод автоматически сделает систему менее полезной для людей.

Второй способ заключается в том, чтобы создать некий надзирающий алгоритм, способный следить за действиями ИИ и остановить его в случае опасности для человечества. Как оказалось в процессе изучения, на практике этот механизм будет абсолютно бесполезен.

«Если разбить проблему до базовых правил теоретической информатики, окажется, что алгоритм, который мог бы приказать ИИ не разрушать мир, непреднамеренно прекратит свою работу. Если это произойдет, мы не будем знать, то ли он все еще анализирует угрозу, то ли остановился, чтобы сдержать опасный ИИ. Фактически, это делает надзирающий алгоритм бесполезным», — объяснил директор Центра человека и машин Института Макса Планка Ийад Рахван.

Таким образом, ни один созданный алгоритм не поможет определить, опасен ли сверхразум. Исследователи также отметили, что человечество может пропустить даже момент создания такого ИИ, поскольку, вероятно, не сможет определить, превосходит ли система разум человека.

Подпишитесь и получайте новости первыми
lenta
Новости партнеров
star
Новости партнеров
Наверхнаверх