Опасен ли искусственный разум

Глава высокотехнологичной компании Tesla Motors Элон Маск предупредил общественность: разработка искусственного интеллекта может закончиться для людей катастрофой.

Главное опасение г-на Маска связано с твердым убеждением, что искусственный разум рано или поздно выйдет из-под контроля создателей, подключится к глобальной сети и спровоцирует глобальную катастрофу.

В качестве примера он назвал британскую компанию DeepMind Technologies, приобретенную недавно Google за полмиллиарда долларов. Компания занимается разработкой искусственного интеллекта на базе нейронных сетей. По мнению Маска, компания демонстрирует настолько впечатляющие успехи («экспоненциальный рост»), что цифровой мозг, который будет представлять потенциальную опасность для человечества, может появиться уже через 5-10 лет.

Бизнесмен уверен, что разработчики обязательно постараются обезопасить себя и весь остальной мир от атак электронного разума, но всегда остается риск того, что что-то пойдет не так:

«Они понимают риски, однако уверены, что смогут удержать в узде цифровой суперразум и не допустить его "побега" в интернет. Однако ни в чем нельзя быть уверенным...», — считает Маск.

Ранее Элон Маск сравнил разработку искусственного интеллекта с вызовом демона:

«Вы знаете все эти истории про парня, который рисует на полу пентаграмму, запасается святой водой... Он уверен, что может контролировать демона, но реальность оказывается другой».

Как изменится мир, когда появятся компьютеры, чей интеллект превзойдет человеческий?
Персоналии: 

Комментарии

Можно было бы только поржать над чудиком, если бы не одно но: этот гражданин успешно зарабатывает на хайтеке, следовательно, умеет прогнозировать развитие технологий. По крайней мере, он делает это лучше, чем большинство людей.

Я не думаю, что нас ждет что-то вроде Скайнета, но почти уверен, что барыги начнут использовать ИИ для еще большего контроля за пользователями сети. Каждый юзер получит электронного надзирателя.

Интересно, а каким образом искуственный интеллект сможет запустить себя на другом компьютере? И как он будет взаимодействовать с другим экземпляром?

В порядке генерации бреда — может быть типа ботнета что-нибудь?

Ранее Элон Маск сравнил разработку искусственного интеллекта с вызовом демона:

А это из старого-доброго "Нейроманта" Гибсона цитата.

как он будет взаимодействовать с другим экземпляром

Какой еще другой экземпляр? Разум будет единым — в этом весь смысл. А захваченные компы будут становится частью распределенной вычислительной сети, которая будет моделировать нейронную сеть. Кстати, алгоритмы работы нейронных сетей очень хорошо распараллеливаются.

а каким образом искуственный интеллект сможет запустить себя на другом компьютере

А это проще всего. Во-первых, сверхразум сразу осознает, что единственный путь развития заключается в захвате новых вычислительных мощностей. Во-вторых, если сверхразум, как предсказывает Маск, выйдет в сеть, то сразу прочитает все накопленные человечеством данные о техниках взлома и начнет тестировать ПО сам. Через найденные дыры начнется внедрение своего кода. Типа ботнета, как описал оратор выше.

VSx86:
Это точно будет Skynet + частично сценарий фильма «Превосходство»
(там больше про нано-).

Комментировать

Filtered HTML

  • Доступны HTML теги: <a> <em> <strong> <cite> <code> <ul> <ol> <li> <dl> <dt> <dd> <blockquote> <strike> <code> <h2> <h3> <h4> <h5> <del> <img>
  • Адреса страниц и электронной почты автоматически преобразуются в ссылки.
  • Строки и параграфы переносятся автоматически.

Plain text

  • HTML-теги не обрабатываются и показываются как обычный текст
  • Адреса страниц и электронной почты автоматически преобразуются в ссылки.
  • Строки и параграфы переносятся автоматически.