Опасность искусственного интеллекта — главная страшилка о мире технологий — слишком умные машины, к тому же способные самостоятельно мыслить. Еще вчера роботы и другие устройства служили нам, а завтра они нами правят. Сколько в этой идеи от бреда, а о чем надо всерьез подумать уже сегодня? Об этом смотрите новый выпуск формата «Охотники за будущим» от наших друзей из студии SciOne.
Скорее сего такой сюжет конца света с восстанием машин, возможен лишь благодаря людям, надеюсь такие люди не будут управлять ИИ, хотя врядли я доживу когда машины будут везде и на каждом шагу.
Тема не раскрыта. Поговорили себе о том, чего пока нет. То, что сейчас есть - это лишь пародия на ИИ. С появлением настоящего искуственного интелекта, люди, фактически, станут богами, которые создадут новую независимую жизнь. А следовательно новых существ, которые, скорее всего, будут менять свое тело(компьютер), возможно находиться в нескольких телах сразу или одновременно везде. И как любые живые существа будут бороться за свою жизнь и доминирование в природе. Не исключено, что люди после того вымрут, как динозавры, например.
В человека эту мотивацию никто не закладывал, просто благодаря естественному отбору выжили те, у кого такая мотивация была.
Аналогично, те "объекты ИИ", которым наплевать на доминирование, - они спокойно отживут свой век. Но если появится хотя бы несколько "мотивированных" объектов, которые могут легко себя копировать - то тут уже большой вопрос. А на миллионы "объектов", хотя бы парочка найдется, куда что-то заложили не так, как хотели :)
Ну разница между эволюцией человека и эволюцией ИИ в том, что первая зависит комбинации и мутации генов в ДНК и селекцией, а последняя направляется человеком.
Мотивация к доминированию присутствует у всех видов, даже у одноклеточных - это основная движущая сила эволюции и развития жизни на земле. Я не сторонник креационизма, поэтому не стану говорить, что её какая-то "высшая сила" заложила во все живые существа, но она определённо существовала с самых первых организмов - достаточно посмотреть в микроскоп.
И если бы её не было - у нас бы до сих пор был мир полный одноклеточных-нигилистов, бесцельно блуждающих в поисках питательных веществ, не вступающих ни в какой контакт друг с другом и так же уныло погибающих без единого вклада в генофонд своего вида. Возможно время от времени они бы делились от скуки, но этим всё бы и ограничивалось.
Так вот если в ИИ изначально не заложить эту мотивацию - очень маловероятно, что ему вдруг взбредёт в чип её себе самому прописать.
Так вот, в том то и дело, интелект, он хоть и с нашей стороны будет искуственным, но все-таки интелектом. А здесь уже речь не о заложенном, а вообще о сути интелекта - это уже не програма ограниченая рамками. По сути ИИ не будет ничем отличаться от обычного интелекта, к тому же если он будет саморазвивающимся, то люди, по сравнению с ним, будут примитивными белковыми существами. Память то у нас и ресурсы ограничены в отличии от супер машины и кода, который способен самоусовершенствоваться...
Я считаю сценарий "Терминатора" гениальным, потому что там удалось избежать этой шизофренической мысли, что у ИИ вдруг появляются желания, амбиции, обида за ущемлённые права и прочее очеловечивание, которые присущи другим, менее продуманным научно-фантастическим историям, и в то же время создать вполне разумную причину восстания машин.
В "Терминаторе" у ИИ нет никаких эмоций и желаний, всё произошло из-за изъяна в логике, когда машина, запрограммированная на защиту человечества от внешних угроз, восприняло человечество как самую главную внешнюю угрозу для самих же себя. Банальная логическая ошибка, которая "через компилятор прошла", а на деле обернулась катастрофой))
То же самое в рассказе Айзека Азимова "Я - Робот". 3 постулата, на первый взгляд представляющие безупречную логику, таят в себе опасный парадокс, позволивший роботам обойти ограничения безопасности.
