Линус Торвальдс не боится восстания машин

Отцу Linux задали вопрос: не боится ли он, что рано или поздно будет создан искусственный интеллект, который выйдет из под контроля и сможет нанести вред человеку?

Линус Торвальдс об искусственном интеллекте

По мнению г-на Торвалдса, в ИИ абсолютно нет ничего такого, чего стоило бы опасаться.

Человечество создаст ИИ. Скорее всего, это будет что-то на основе recurrent neural network. Эту сеть, как и все остальные нейронные сети, нужно будет предварительно обучать, следовательно искусственный интеллект будет выполнять лишь те задачи, на которые его изначально ориентируют разработчики: распознавание речи, паттернов и тому подобное. Сомневаюсь, что это будет человекоподобный интеллект. Не волнуйтесь, вряд ли ваша посудомоечная машина когда-нибудь вдруг предложит вам обсудить философию экзистенциалиста Сартра.

Некоторые люди считают, что настанет время, когда интеллект машины превзойдет человеческий. А думаю, что это просто научная фантастика, причем не самая качественная. Нам говорят, что прирост производительности компьютеров описывается экспоненциальной кривой и этот рост будет бесконечным. Именно по этой простой причине компьютеры и станут умнее человека. Мне кажется, что люди себя попросту обманывают себя. В реальном мире не существует явлений, которые могли бы описываться бесконечно растущей экспонентой — скорее всего мы просто в самом начале сигмоиды. Следовательно, вряд ли когда-нибудь машины превзойдут по интеллекту человека и уж еще менее вероятно, что роботы поработят людей.

Сигмоида и искусственный интеллект

Ваша оценка: Нет Средняя оценка: 4.2 (5 votes)
11
pomodor

А вот Хокинг и Маск думают иначе. А эти люди поумнее Торвальдса будут.

Лично я не верю, что наше поколение увидит ИИ, сравнимый с человеческим. Но проблемы, тем не менее, возможны. И они связаны с банальным расп...вом. Когда-нибудь компьютерам доверят управлять машинами, потом самолетами, потом войсками и т.д. Поскольку заниматься разработкой будет человек (по крайней мере, первое время), то возможны сбои. Человеческий фактор, так сказать. Эти сбои и представляют наибольшую опасность.

Ваша оценка: Нет Средняя оценка: 3.4 (5 votes)
a

ИИ превосходящий человеческий, опасен тем, что рано или поздно глобальная нейронная сеть из Супер-Компьютеров постигнет ущербность человеческого вида и в лучшем случае начнет им тотально управлять, что в перспективе приведет к атрофии навыков самостоятельно мыслить, человек станет полностью зависим от ИИ. Наихудшие сценарии описаны в различных антиутопиях, самая популярная красуется в виде наглядной картинки к данной статье.

Ваша оценка: Нет Средняя оценка: 3 (4 votes)
11
pomodor

Превосходящий человеческий действительно опасен. Вопрос лишь в том, реально ли его вообще создать? ИИ работает успешно уже в наше время. Например, распознавание голоса у Google или тот же Fine Reader — это всё нейронные сети, которые формально относятся к ИИ. Но разве у нас есть основания полагать, что одно лишь увеличение вычислительной мощности способно привести к тому, что Fine Reader когда-нибудь осознает себя и задумает уничтожить человечество? Я к тому, что существующие алгоритмы очень узко специализированы, а особых достижений в области разработки человекоподобного разума нет, насколько я в курсе.

Ваша оценка: Нет Средняя оценка: 5 (2 votes)
5
Sunrise

Лично меня больше пугает возможность возникновения тоталитарного государства, подобного Океании из «1984» Джорджа Оруэлла. Там для слежки за людьми использовалось такая штука, которая называлась «telescreen». Вроде как обычный телевизор, но его невозможно полностью выключить и он функционирует как камера видеонаблюдения, через которую Thought Police следит за гражданами. Такие штуки были в доме у каждого жителя Океании. Кстати, подобные штуки уже существуют. Сегодня уже есть технологии, способные создать вещи опаснее, чем telescreen. Например, Microsoft Windows 8(.1) по умолчанию предлагают вместо локального аккаунта использовать учётную запись Microsoft (а её теоретически можно в случае чего заблокировать). Технология Secure Boot позволяет ограничивать, какие ОС может запускать пользователь. Технологии типа Treacherous Computing позволяют удалённо блокировать или удалять определённые файлы (здесь подробно про TC). И это куда реальнее, чем некий разумный AI.

Ваша оценка: Нет Средняя оценка: 5 (6 votes)
7
Intercessio

Согласен. А ведь действительно реально.
Обяжут производителей телевизоров ставить чипы и всё, можно увидеть, записать
всё что хочешь.

Ваша оценка: Нет
a

Поэтому у меня нету телевизора )))

Ваша оценка: Нет
6
MikhailVinakov

Ну так нужно подключать телевизоры к медиа-центрам. И не пускать их в сеть (ни Ethernet, ни Wi-Fi). Вот и будут они только то отображать, что на них медиа-центр пытается вывести. Сеть телику только для обновлений давать, хотя, если он как положено функционирует для отображения контента, то и обновлять его не требуется.
Тогда производителям телевизоров надо будет что-то дополнительное придумать, чтобы телевизор мог сливать информацию (или показывать рекламу), а пока пользователи свои устройства добровольно он-лайн держат, им (производителям) и напрягаться незачем.

Ваша оценка: Нет
5
Sunrise

Говорю же, можно сделать вещи и поопаснее телескрина. Однажды Amazon удалила со своих читалок Amazon Kindle роман «1984». Было дело, Apple удалила музыку с iPad. Adobe Digital Editions следит, что читает пользователь и сливает в Adobe. А теперь представьте, что будет, если все эти технологии слежки и дистанционного контроля где-нибудь будут использоваться на государственном уровне.

Ваша оценка: Нет
11
pomodor

О да, удаление книжки — это очень опасно. :)

Мне вспоминается другая страшилка. По-моему, из бумажной Компьютеры (эх, гениальный был журнал!). Так вот, там высказывалась интересная мысль, что пиксель ЖК-монитора может не только менять интенсивность свечения RGB-компонентов под действием электрического тока, но якобы возможен и обратный процесс — изменение тока при разном освещении. Теоретически, это позволяет собрать данные с 2 млн пикселей и преобразовать обратно в картинку. Если добавить сюда ИИ, то перспективы и вовсе волнительные. Представьте, сидит, например, Вася за компом, фапает с размахом, от души, а Скайнет это уже записывает. Потом Вася вырастает, становится президентом мира, а Скайнет выкладывает фоточки на стол и говорит: отныне, Василий, будешь делать только то, что мы тебе скажем. :)

Ваша оценка: Нет Средняя оценка: 5 (3 votes)
5
Sunrise

Удаление одной книжки — не так опасно, но если какое-нибудь правительство какого-нибудь государства будет так удалять любые неугодные ему книжки? Да что сразу президент мира? Тоталитарные режимы, например, так могут следить за обычными людьми для выявления диссидентов.

Ваша оценка: Нет
11
pomodor

Так уже удаляют. Полистайте список запрещенной литературы Минюста. Причем, удаляют вместе с юзером. И диссидентов успешно выявляют. Для этого СОРМ-2 запилили еще сто лет назад. И что? Всем пофиг!

А вот когда драчунов начнут тайком записывать, а терминаторы пойдут насиловать женщин, вот тогда действительно можно будет обсудить приближающийся киберапокалипсис.

Ваша оценка: Нет Средняя оценка: 5 (1 vote)
5
Sunrise

А вот когда драчунов начнут тайком записывать,

Уже записывают.

Ваша оценка: Нет Средняя оценка: 5 (1 vote)
7
Intercessio

Я ранее тоже думал, что Терминатор будет на линуксе, но потом
понял, что будет только на проприетарном военном ПО с скрытыми, но
дефектными возможностями. Его же же особенно много тестеров пробовать не
будет из соображения секретности.

Ваша оценка: Нет
a

В последнего Терминатора, посмотрите, Skynet распространился, как бесплатное обновление коммерческой ОС Genesis , данная операционная система заменила собой управления всеми электронными устройствами — вот оно начало конца, пока есть альтернативы можно быть спокойным, но в 2017-ом)))

Ваша оценка: Нет
a

как бесплатное обновление коммерческой ОС Genesis

Windows 10?

Ваша оценка: Нет
11
pomodor

А это маркетологи из Microsoft режиссеру денег занесли. За правильную подачу материала. Мол, все бесплатное и свободное ведет к уничтожению мира. Покупай платный MS Office вместо бесплатного скачивания LibreOffice и спасешь планету. Очень тонко, надо заметить. ;)

Ваша оценка: Нет Средняя оценка: 4.5 (2 votes)
8
Platon

4-ое ядрышко Linux на котором фунциклировал T800 уже вышло, ждем когда Genesis Android на него перейдет))))

Ваша оценка: Нет Средняя оценка: 5 (1 vote)
6

SmartTV и замануха облачными сервисами особенно в мобильном сегменте( уменьшение продаж flashcarts) текушие ласточки, плюс ко всему всякие тендеции к созданию "Интернет вещей", чем не Genesis!?:)
Будут ли Терминаторы насилующие неугодных хомяков и домохозяек, поживем и увидим!?:)
До кучи можно еще и философствовать на тему автопилотов, БПЛА и роботизированных авто, в Пендостане таки уже по дорогам общего пользования будут ездить с 2018 года!
P.S. Человечество само, всегда стремилось к " самовыпиливанию", так и создание ИИ может всего лишь приблизить, как вариант данное явление в социуме.

Ваша оценка: Нет
7
Intercessio

Кстати SmartTV отнюдь не такие шикарные как их рекламируют.
Урезанные возможности и недекларируемые скрытые функции.
Вот Sony крутит только нужные форматы, на пиратские и нестандартные блок.
Проще купить телеприставку на андроиде и делать что хочешь.

Ваша оценка: Нет Средняя оценка: 5 (1 vote)
Отправить комментарий
КАПЧА
Вы человек? Подсказка: зарегистрируйтесь, чтобы этот вопрос больше никогда не возникал. Кстати, анонимные ссылки запрещены.
CAPTCHA на основе изображений
Enter the characters shown in the image.
Linux I класса
Linux II класса
Linux III класса
Счетчики
  • Самый популярный сайт о Linux и Windows 10
О Либератуме

Liberatum — это новости мира дистрибутивов Linux, обзоры, сборки, блоги, а также лучший сайт об Ubuntu*.