Даже если владелец робота не желает проживать в новой стране, то его робот может делать это за него. Еще одно преимущество: робот может действовать от имени своего владельца, например, посещая заседания совета директоров, и даже принимать финансовые решения автономно, если они находятся в пределах полномочий, делегированных роботу. Это было бы полезно для бизнесмена с целым рядом деловых интересов в разных странах, он мог бы удобно и комфортно управлять своим роботом (или роботами) из своего домашнего офиса, пишет Citizenship by investment.
Прежде, не обращая внимания на вышеприведенный сценарий и обозначив его как научную фантастику, важно рассмотреть несколько фактов. В октябре 2017 года Королевство Саудовская Аравия предоставило свое гражданство роботу по имени София. Спустя несколько недель после этого объявления, «мальчик» с искусственным интеллектом (AI) по имени Шибуя Мирай стал первой машиной, получившей разрешение на проживание в центре Токио. Шибуя Мирай также является первым ИИ, пол которого официально признан государством (создатели Софии, Robonics Hanson, небрежно называют ее местоимением, обозначающим вещь). Являются ли эти события отдельными инцидентами или мы видим начало новой эпохи, когда граждане для продажи станут реальной бизнес-моделью для робототехники?
Прежде чем прийти к окончательным выводам, давайте обсудим некоторые из принципов, которые могут или не могут помешать этой возможности. В большинстве стран под лицом, обладающим правами, понимается физическое (человек) или юридическое (компания) лицо. Для того, чтобы София стала гражданином, признанным во всем мире, нам необходимо внести поправки в определение лица, обладающего правами, включив в него роботов. Только тогда концепция предоставления гражданства роботам станет правдоподобной. ЕС сейчас изучает искусственный интеллект, чтобы гарантировать, что роботы несут ответственность за свои действия.
Однако, куда это приведет наше общество?
Юридическое лицо должно отвечать за свои действия. Совет директоров корпорации ответственен за действия корпорации. В состав совета директоров входят люди. Человек может быть наказан, например, приговорен к тюремному заключению или уплате штрафа. Изоляция и пребывание в тюрьме вызывают психологическое расстройство. Выплата штрафа уменьшает ресурсы, доступные человеку, оказывая финансовые или ресурсные нагрузки, которые вызывают психологический дискомфорт.
Общества обычно полагаются на психологическое воздействие, вместо физического наказания. По-видимому, такая форма рассматривается по закону как более гуманная и справедливая; в конце концов, именно психические процессы принятия решений, заставляют человека действовать таким образом, чтобы заслужить наказание.
Будет ли тюремный срок причинять Софии психологический дискомфорт? Что означает тюрьма для Шибуя Мирай, когда у этого робота нет физического тела и он живет только в киберпространстве? Даже если у машин появятся эмоции, позволит ли это испытывать такой дискомфорт, который будет считаться достаточным? Даже если психологические неудобства будут достаточными, что может помешать машине действовать ненадлежащим образом? Какова была бы альтернативная форма наказания для машин, которая бы заставила ее нести ответственность за свои действия? Вне научной фантастики это сложные этические, моральные и технологические вопросы, не имеющие ответов на сегодняшний день.
В конечном счете, человечество еще не имеет значимого механизма для обеспечения ответственности машины. Итак, как мы можем предоставлять гражданство машине, которая не может нести ответственность за свои действия, как в случае с Софией и Шибуя Мирай?
«Граждане для продажи» предлагает инновационную бизнес-модель, в которой Джон может нести ответственность за действия граждан-роботов, которых он покупает. Джон несет ответственность от имени своих роботов. Если эти роботы действительно умны, заслуживают доверия и надежны, они будут естественно и автономно действовать в интересах Джона. В случае, если «граждане для продажи» могут подтвердить надежность этих роботов, признает ли общество это достаточной причиной для Джона принять риск ответственности за действия своих роботов?
В этом случае все равно существует, по крайней мере, три проблемы. Во-первых, предоставление гражданства - это решение государства. Концепция гражданства не может быть передана, унаследована или продана человеком. Государство вполне может предоставить гражданство сыновьям и дочерям гражданина, но сам гражданин не имеет права сделать это. Для человека гражданство является привилегией. Как только привилегия предоставляется, люди получают доступ к правам, определенным под эгидой государства. Из-за этого София не имеет права передавать свое гражданство Джону.
Вторая проблема заключается в передаче ответственности. В принципе, родители могут нести ответственность за действия своих детей, если эти действия являются результатом халатности со стороны родителей. Однако не каждая ошибка, которую совершает ребенок, приведет к привлечению родителей к ответу. Вопрос в том, при каких условиях владелец должен быть привлечен к ответственности в случае роботов? Кроме того, при каких условиях мы будем прощать робота за нарушения, если это не имеет ничего общего с владельцем или производителем, а стало скорее результатом воздействия неприемлемых привычек и результатом нежелательного научного поведения? Действия роботов будут влиять на людей напрямую и / или косвенно, но от каких из прав человека мы должны отказаться, чтобы простить робота за некоторые проступки?
Третья проблема связана с этикой и моральными ценностями. Те умные роботы, которые будут действовать в интересах Джона, лояльны к Джону. Но что произойдет, если интересы Джона будут неэтичными или нарушат моральные нормы общества? Для того, чтобы эти роботы были этически и морально совместимы с людьми, мы должны однозначно согласиться с правилами, которые должны соблюдать роботы при определении этического поведения. К сожалению, проблема здесь не технологическая.
На сегодняшний день люди не смогли четко и объективно сформулировать этические границы. Это может быть связано с тем, что эти идеалы очень зависимы от контекста, человеческое разнообразие подразумевает, что универсальный консенсус нецелесообразен.
В то время как большинство людей сочли присвоение гражданства Софии пиар-компанией, растиражированной СМИ, трудно отрицать, что принцип «граждане на продажу» уже на рынке, что требует согласованного интеллектуального участия. Даже если это медиа-трюк, подобное использование концепции гражданства превращает ее в товар.
Итак, что нас ждет впереди? Один из вариантов - оставаться в страхе и отрицать реальность, к которой мы движемся, в то время как есть и другой вариант - начать планировать регулирование новой реальности. У нас осталось немного времени, чтобы подготовиться к этой будущей реальности, основанной на технологиях. Утешает мысль о том, что большинство проблем не будут повсеместными. Это позволит нам как следует подготовиться к будущему и улучшить регулирование новой реальности.
Тема исследования надежной автономии искусственного интеллекта является необходимой для разработки этических и моральных норм для роботов, сглаживания взаимоотношений между людьми и роботами, а также разработки сертификации и обеспечения качества интеллектуальных роботов. Все разработки должны быть направлены на поддержание человеческого достоинства и прав.
Если права человека подвергаются риску, то наименьшее из требований, предъявляемых производителями - это уверенность в надежности роботов, со всем, что подразумевает концепция доверия. Однако, прежде чем мы можем потребовать этого, нам нужно инвестировать в определение того, что технологически достижимо, а что нет.
Тем не менее, это оставляет нам два вопроса: кто больше всего выгоден - и, следовательно, кто должен инвестировать в обеспечение надежности интеллектуальных автономных систем?
Автор статьи: профессор Хуссейн Аббас, Школа инженерных и информационных технологий Университета Нового Южного Уэльса, Австралия.