Человечество у порога роботического апокалипсиса?

Очень скоро наступит эра роботов, довольно маловероятно что машины приведут человечество к разрушению, но риски, связанные с развитием искусственного интеллекта являются очень реальными.

Все больше экспертов технологической отрасли призывает к широкой дискуссии о возможных неблагоприятных последствиях развития искусственного интеллекта. Есть ли у прогнозов ученых о неминуемую гибель человечества в исполнении роботов какие-либо законные основания? Как обеспечить человечеству безопасность и защиту от дьявольски умных машин? Какие средства защиты стоит внедрять? И от чего, собственно, защищаться?

[quote]Перед нами еще долгий путь, если речь идет о развитии суперинтеллектуальных компьютеров, но уже сегодня мы должны начать задумываться над внедрением соответствующих правил и практик[/quote]

Соединение результатов работы ученых в двух ключевых областях, как робототехника и искусственный интеллект, может принести человечеству огромные, совершенно невообразимые преимущества. Нет сомнений в том, что создание машин с уровнем интеллекта, сравнимым с человеческим разумом подтолкнет развитие цивилизации в совершенно новом направлении. Одновременно, отовсюду слышны голоса, что ученые не уделяют достаточного внимания потенциальным последствиям социальной жизни, которые связаны с возникновением таких новаторских изобретений.

Перед нами еще долгий путь, если речь идет о развитии суперинтеллектуальных компьютеров, но уже сегодня мы должны начать задумываться над внедрением соответствующих правил и практик, которые позволят человечеству подготовить себя для будущих революций, – говорит Рональд Аркин, заместитель декана американского университета Georgia Tech College of Computing.

Скрывающиеся долго опасения о захвате господства над миром роботами в последние месяцы приобрели новый смысл. Ведущие представители мира технологий, стали публично делиться своими опасениями относительно угрозы со стороны искусственного интеллекта. Это были, между прочим, Билл Гейтс, Стивен Хокинг и Элон Маск. Их прогнозы, похоже, подтверждают последние достижения в области технологий: голосовой помощник Siri от Apple или самоходные транспортные средства от Google. Быстрый прогресс заставляет некоторых людей верить в быстрый приход господства машин и сверхчеловеческого интеллекта.

Ученые не в состоянии точно предсказать когда воплотятся в жизнь такие предсказания. Это вполне может случиться через десять или через сто лет, как утверждает Нат Соарес, исполнительный директор в американском Институте Исследований над Интеллектом Машин (англ. Machine Intelligence Research Institute). Современные роботы способны научиться выполнять определенные задачи, но создание машины, которая будет в состоянии полностью имитировать поведение человека, по-прежнему требует многих часов кропотливой работы и несколько революционных открытий. Нат Соарес считает одновременно, что безответственное внедрение решений, на основании искусственного интеллекта, несет с собой больше угроз чем выгоды.

Президент ITIF (англ. Information Technology and Innovation Foundation), Роберт Аткинсон предостерегает, однако, от чрезмерного демонизирование риска, связанного с развитием искусственного интеллекта. По его мнению, необоснованным нагнетании истерии может привести к снижению финансирования научно-исследовательских работ, конечным результатом чего может быть замедление развития технологий. Вместо этого, следовало бы показать, что научное сообщество ответственно относится к своей миссии и заботится о надежной защите. Хотя бы потому, что мало других технологических решений, которые вызывали бы столь высокий уровень естественного страха, как искусственный интеллект.

[quote]Самая большая сложность заключается в том, что мы сами до конца не знаем, какими именно ценностями руководствуется сегодня человечество, и поэтому мы не можем идеально управлять поведением машин[/quote]

В настоящее время люди по-прежнему осуществляют контроль над развитием роботов и других интеллектуальных устройств, а не наоборот. Это не означает, конечно, что дискуссия бессмысленна, однако не следует преувеличивать.

Одним из аргументов в пользу сохранения спокойствия является то, что компьютеры по-прежнему лишены важной особенности-идентификатора человека, а именно целесообразности действия. С этим утверждением однако не согласен Стюарт Рассел, профессор Университета Калифорнии в Беркли, занимающийся инженерией и компьютерными науками. Он считает, что намерения вовсе не являются условием возникновения опасности.

Проблема возникает уже тогда, когда компьютер приближается к человеку с точки зрения умения по сбору информации и составления прогнозов, и кроме того, не обязательно руководствуется теми же целями – объяснит Стюарт Рассел. – Самая большая сложность заключается в том, что мы сами до конца не знаем, какими именно ценностями руководствуется сегодня человечество, и поэтому мы не можем идеально управлять поведением машин. Известны ведь случае, когда, несмотря на подробные инструкции, передаваемых машине, она не работает должным образом, – добавляет он.

Стюарт Рассел утверждает, что все это может привести к созданию порочного круга, в котором человек не будет в состоянии выключить ПК, потому что он (ПК) – одаренный сверхчеловеческим интеллектом — узнает его намерения и будут перед ним защищаться, прекрасно зная, что отключение системы является для него самой большой угрозой.

Все указывает на то, что будущее людей и роботов лежит в наших руках. Создатели искусственного интеллекта должны постоянно помнить о том, чтобы созданные ими решения, являлись частью человеческой экосистемы, а не выходили за наши собственные горизонты. Тогда, как утверждают некоторые ученые, в будущем роботы могут стать лучшими спутниками человека – рядом с собаками и кошкаки.

ОСТАВЬТЕ ОТВЕТ