Опасность искусственного интеллекта недооценили

На людей, которые предупреждают об опасностях, которые несет искусственный интеллект, смотрят как на чудаков на букву «М». Ну какой там Skynet, если даже самая всесильная компания Google не научила свой переводчик на базе ИИ более-менее сносно переводить текст?

Опасности искусственного интеллекта

Но крутые спецы по AI знают, в чем таится настоящая опасность. Один такой эксперт, на условиях анонимности, поделился своими опасениями с редакцией Либератума. Дело вот в чем: как известно, любая нейронная сеть должна пройти обучение на тестовой выборке. Выборку подготавливает человек. Допустим, что специалист случайно или преднамеренно подобрал данные некорректно. Далее нейронная сеть обучается, тестируется и поступает в эксплуатацию. Например, есть такая система — Northpointe COMPAS. Она использует нейросетки для того, чтобы предсказать вероятность повторного совершения преступления. Некоторые судьи, выносящие решения о досрочном освобождении зэков, используют ее при принятии решений. Если исходные данные были подобраны неудачно, то работа алгоритмов может напрямую сказаться на судьбах людей. ИИ может выпустить на свободу убийцу-рецидивиста или оставить на нарах какого-нибудь безобидного ботаника. Так вот спецы проверили работу COMPAS и пришли к выводу, что искусственный мозг выносил, в некоторых случаях, предвзятые решения. А теперь представьте, как предвзятость может отразиться на системах, которые используются в медицине и других критически важных областях.

Видишь суслика? А он есть!

ИИ вряд ли осознает себя и шмальнет ядерными ракетами по человечеству. Но получить некачественное лечение и умереть, либо отправиться в тюрьму на основе неверного решения рискует каждый.

Ваша оценка: Нет Средняя оценка: 5 (6 votes)
pomodor

Наш корреспондент по телефону:

Ваша оценка: Нет Средняя оценка: 5 (6 votes)

Искусственный интеллект лишен самосознания и поэтому является отморозком без чести и совести.

Ваша оценка: Нет Средняя оценка: 4.1 (7 votes)
Texnoline

Глупое утверждение, а что в реальности — не бывает отморозков с самосознанием биологического вида!?:)

Ваша оценка: Нет Средняя оценка: 2.3 (3 votes)

Наличие самосознания не гарантирует высоких моральных качеств. Поэтому в реальности встречаются серийные убийцы с высшим образованием. Но для наличия высоких моральных качеств самосознание обязательно.
У Вас путаница с необходимыми и достаточными условиями.

Ваша оценка: Нет Средняя оценка: 3.3 (4 votes)
Texnoline

Да нет у меня путаницы, что вы сударь!?:) Окружение делает убийц, плюс самосознание — когда определяет, что бытие — определяет сознание, а не наоборот и т.д. Это старая полемика, еще между Аристотелем и его учеником Александром Великим, один доказывал, что бытие, а другой что сознание определяет поступки и жизнь каждого человека!
P.S. на щите одного римского легионера было написано золотом:"Жить ради жизни своей, или ради жизней других", и никаких секретов здесь нет, все просто - как все гениальное:)

Ваша оценка: Нет Средняя оценка: 5 (1 vote)

Я очень рад, что у Вас нет путаницы. Вам остался сущий пустяк: понимать смысл употребляемых Вами слов. Желаю успеха.

Ваша оценка: Нет Средняя оценка: 4 (3 votes)

Самое слабое звено в информационной системе — человек. Человек-врач так же мог ошибиться как и человек-программист, сделавший этот ИИ.

Ваша оценка: Нет Средняя оценка: 3.7 (3 votes)
Texnoline

Это бывает, при начальном уровне развития нейронной сети, затем происходит самоорганизация, при глубоком и глубинном обучении и человек-программер, здесь не влияет на исход данного процесса, от слова — ВООБЩЕ!

Данная истерии с человеческим фактором, хорошо показана на основе разбирательств с автопилотами Tesla, где видно только ошибки человека, а не ИИ!

Ваша оценка: Нет Средняя оценка: 4 (4 votes)
Отправить комментарий
КАПЧА
Вы человек? Подсказка: зарегистрируйтесь, чтобы этот вопрос больше никогда не возникал. Кстати, анонимные ссылки запрещены.
CAPTCHA на основе изображений
Enter the characters shown in the image.