Опасен ли искусственный разум

Глава высокотехнологичной компании Tesla Motors Элон Маск предупредил общественность: разработка искусственного интеллекта может закончиться для людей катастрофой.

Главное опасение г-на Маска связано с твердым убеждением, что искусственный разум рано или поздно выйдет из-под контроля создателей, подключится к глобальной сети и спровоцирует глобальную катастрофу.

В качестве примера он назвал британскую компанию DeepMind Technologies, приобретенную недавно Google за полмиллиарда долларов. Компания занимается разработкой искусственного интеллекта на базе нейронных сетей. По мнению Маска, компания демонстрирует настолько впечатляющие успехи («экспоненциальный рост»), что цифровой мозг, который будет представлять потенциальную опасность для человечества, может появиться уже через 5-10 лет.

Бизнесмен уверен, что разработчики обязательно постараются обезопасить себя и весь остальной мир от атак электронного разума, но всегда остается риск того, что что-то пойдет не так:

«Они понимают риски, однако уверены, что смогут удержать в узде цифровой суперразум и не допустить его "побега" в интернет. Однако ни в чем нельзя быть уверенным...», — считает Маск.

Ранее Элон Маск сравнил разработку искусственного интеллекта с вызовом демона:

«Вы знаете все эти истории про парня, который рисует на полу пентаграмму, запасается святой водой... Он уверен, что может контролировать демона, но реальность оказывается другой».

Как изменится мир, когда появятся компьютеры, чей интеллект превзойдет человеческий?
Ваша оценка: Нет Средняя оценка: 5 (3 votes)
pomodor

Можно было бы только поржать над чудиком, если бы не одно но: этот гражданин успешно зарабатывает на хайтеке, следовательно, умеет прогнозировать развитие технологий. По крайней мере, он делает это лучше, чем большинство людей.

Я не думаю, что нас ждет что-то вроде Скайнета, но почти уверен, что барыги начнут использовать ИИ для еще большего контроля за пользователями сети. Каждый юзер получит электронного надзирателя.

Ваша оценка: Нет Средняя оценка: 4.7 (3 votes)
Sunrise

Интересно, а каким образом искуственный интеллект сможет запустить себя на другом компьютере? И как он будет взаимодействовать с другим экземпляром?

Ваша оценка: Нет
dk

В порядке генерации бреда — может быть типа ботнета что-нибудь?

Ранее Элон Маск сравнил разработку искусственного интеллекта с вызовом демона:

А это из старого-доброго "Нейроманта" Гибсона цитата.

Ваша оценка: Нет
pomodor

как он будет взаимодействовать с другим экземпляром

Какой еще другой экземпляр? Разум будет единым — в этом весь смысл. А захваченные компы будут становится частью распределенной вычислительной сети, которая будет моделировать нейронную сеть. Кстати, алгоритмы работы нейронных сетей очень хорошо распараллеливаются.

а каким образом искуственный интеллект сможет запустить себя на другом компьютере

А это проще всего. Во-первых, сверхразум сразу осознает, что единственный путь развития заключается в захвате новых вычислительных мощностей. Во-вторых, если сверхразум, как предсказывает Маск, выйдет в сеть, то сразу прочитает все накопленные человечеством данные о техниках взлома и начнет тестировать ПО сам. Через найденные дыры начнется внедрение своего кода. Типа ботнета, как описал оратор выше.

Ваша оценка: Нет Средняя оценка: 4.8 (5 votes)

VSx86:
Это точно будет Skynet + частично сценарий фильма «Превосходство»
(там больше про нано-).

Ваша оценка: Нет Средняя оценка: 3 (1 vote)
Отправить комментарий
КАПЧА
Вы человек? Подсказка: зарегистрируйтесь, чтобы этот вопрос больше никогда не возникал. Кстати, анонимные ссылки запрещены.
CAPTCHA на основе изображений
Enter the characters shown in the image.
Linux I класса
Linux II класса
Linux III класса
Счетчики
  • Самый популярный сайт о Linux и Windows 10
  • Индекс цитирования