Опасен ли искусственный разум

Глава высокотехнологичной компании Tesla Motors Элон Маск предупредил общественность: разработка искусственного интеллекта может закончиться для людей катастрофой.

Главное опасение г-на Маска связано с твердым убеждением, что искусственный разум рано или поздно выйдет из-под контроля создателей, подключится к глобальной сети и спровоцирует глобальную катастрофу.

В качестве примера он назвал британскую компанию DeepMind Technologies, приобретенную недавно Google за полмиллиарда долларов. Компания занимается разработкой искусственного интеллекта на базе нейронных сетей. По мнению Маска, компания демонстрирует настолько впечатляющие успехи («экспоненциальный рост»), что цифровой мозг, который будет представлять потенциальную опасность для человечества, может появиться уже через 5-10 лет.

Бизнесмен уверен, что разработчики обязательно постараются обезопасить себя и весь остальной мир от атак электронного разума, но всегда остается риск того, что что-то пойдет не так:

«Они понимают риски, однако уверены, что смогут удержать в узде цифровой суперразум и не допустить его «побега» в интернет. Однако ни в чем нельзя быть уверенным…», — считает Маск.

Ранее Элон Маск сравнил разработку искусственного интеллекта с вызовом демона:

«Вы знаете все эти истории про парня, который рисует на полу пентаграмму, запасается святой водой… Он уверен, что может контролировать демона, но реальность оказывается другой».

 

Как изменится мир, когда появятся компьютеры, чей интеллект превзойдет человеческий?