Правовые и социальные перспективы взаимного сосуществования роботов и людей
Хотя для некоторых вопрос о правах роботов может показаться немыслимым, тем не менее он становится все более серьёзной темой научных дискуссий, а людям становится все труднее притворяться, что эта тема неважна. Насущным фактором является количество и сложность современных роботов, которые все больше напоминают людей. Многие вопросы должны быть решены как можно скорее, в том числе вопросы, касающиеся того, как люди должны относиться к роботам. Утверждения о том, что роботы - это просто собственность и к ним следует относиться как к таковым, являются неудовлетворительными, поскольку наши взаимодействия – как в исследовательской среде, так и в реальной жизни – демонстрируют, что люди относятся к роботам по-разному. Человеческие отношения с роботами тесно переплетены с этикой и законом.
Если сосредоточиться на пределах защиты роботов, что иллюстрируется моральной дилеммой о том, кого следует спасать (в той, или иной ситуации) - человека или робота? Этот вопрос можно обсуждать с точки зрения различных подходов к приписыванию морального статуса роботам. Вроде ответ должен быть однозначным. Но исследования демонстрируют нам, что предпочтение спасения людей перед спасением робота-андроида не всегда может быть очевидным курсом действий для многих. Существует ещё правовая перспектива, которая защищает превосходство людей как проявление иерархии ценностей в правовых системах. Если мы хотим сохранить эту иерархию, мы должны реагировать на процесс становления роботов более похожими на людей. Тенденция к антропоморфизации роботов может нарушить эту иерархию. Надо уже сейчас разрабатывать рекомендации, которые можно было бы реализовать на уровне проектирования роботов. Современное законодательство не полностью ещё готово к сосуществованию людей и человекоподобных роботов.
В этом материале рассматривается надлежащий ответ на тот факт, что человекоподобные роботы могут представлять опасность для человеческой жизни, заставляя людей уделять приоритетное внимание жизни роботов. Такая расстановка приоритетов может быть сделана сознательно, если человек не решается пожертвовать роботами (например, из-за сочувствия к ним) или неосознанно, если человек думает, что он отдаёт предпочтение человеку, который на самом деле является представителем робототехники. Обсуждение в данном случае основано на предположении, что мы хотим сохранить современную иерархию ценностей, в которой человеческая жизнь находится на вершине защищаемых объектов в нашей правовой системе. Когда-то был использован термин «общество, ориентированное на человека» (в отличие от «общества, ориентированного на объекты»). Такой подход признаёт опасность чрезмерной привязанности к роботам и утверждает, что мы должны реагировать на такие опасности с помощью следующих понятий:
- Мы проектируем, производим, владеем роботами и эксплуатируем их;
- Они полностью находятся под нашей ответственностью;
- Мы определяем их цели и поведение, прямо или косвенно, определяя их интеллект, или ещё более косвенно, определяя, как они приобретают свой собственный интеллект;
- Но в конце каждого косвенного указания лежит тот факт, что на этой планете не было бы роботов, если бы не преднамеренные человеческие решения по их созданию.
Таким образом, напрашивается вывод, что, если есть проблема с дизайном роботов (создание андроидов максимально похожих на людей), мы должны изменить его таким образом, чтобы это не повлекло за собой негативных последствий для общества. В этой парадигме можно сформулировать несколько соответствующих рекомендаций:
Во—первых, роботы не должны иметь обманчивой внешности - они не должны обманывать людей, заставляя их думать, что они похожи на заслуживающих сочувствия моральных пациентов.
Во-вторых, работа с их искусственным интеллектом должна быть «прозрачной», то есть цель состоит в том, чтобы большинство здоровых взрослых граждан могли принимать правильно обоснованные решения об эмоциональных и финансовых инвестициях. Как и в случае с вымышленными персонажами и плюшевыми игрушками, мы должны быть способны как испытывать благотворную эмоциональную вовлеченность, так и сохранять явное знание об отсутствии у артефакта моральной субъективности.
Теоретически такие рекомендации могли бы дать ответ на вопросы, обсуждаемые в этой статье. Однако надежда на то, что роботы не будут созданы похожими на людей, нереалистична. Ведь стремление создавать роботов, которые преодолевают порог производительности, вероятно, окажется слишком подавляющим, чтобы его могла сдержать любая система норм (юридических или моральных). Предположив, что мышление требует эстетизма, который должен касаться дизайнеров и пользователей и который, возможно реализовать, необходимо признать, что желание создавать сущности, отражающие людей, слишком сильны, чтобы вводить общий запрет на создание роботов по нашему собственному образу и подобию. Особенно принимая во внимание, что роботы с человеческой внешностью не являются однозначно плохими.
Существуют десятки сфер жизни, в которых роботы, похожие на людей, были бы полезны, включая секс-роботов или роботов-компаньонов. Тот факт, что нож может быть использован для совершения преступления, не означает, что мы должны запретить производство ножей - они слишком полезны в повседневной жизни. То же самое относится и к роботам. Мы должны свести к минимуму потенциальные негативные последствия их существования, имитирующих жизнь, а не запрещать их создание, что представляется невозможным и недостаточно оправданным.
Человеческое общество должно создавать мир, который люди будут разделять с роботами, но с учётом того, как физически и ментально устроены люди в данном социуме. Люди склонны антропоморфизировать объекты: роботы теперь доступны в физических формах и могут демонстрировать движения, которые становятся все более человечными. В результате наш мозг, который эволюционировал, чтобы взаимодействовать и понимать людей, обманом интерпретирует их поведение так, как если бы оно было сгенерировано человеком. Люди должны учитывать эту тенденцию при обсуждении того, как организовать взаимодействие человека и робота. Что касается этой темы, то предлагается две существенные рекомендации:
1. Человекоподобные роботы должны быть легко отличимы от людей.
Люди должны знать, что они взаимодействуют с роботами. Человек должен быть способен с первого взгляда понять, что робот - это робот. Тот факт, что робот есть робот, должен проявляться не только во взаимодействии, но и на расстоянии. Например, андроиды должны быть легко различимы водителями автомобилей по соображениям безопасности, чтобы они могли быть уверены в том, кем следует пожертвовать в критической ситуации, такой как автокатастрофа. Отличия роботов от людей должны быть очевидны, чтобы помочь людям принимать соответствующие решения в динамичных ситуациях, требующих немедленной реакции. Это различие может быть достигнуто путём включения в конструкцию роботов определённого элемента маркировки, такого как свет или предмет, выступающий из головы.
Эта рекомендация может быть ограничена конкретными моделями роботов, используемыми в определённых контекстах, особенно там, где существует угроза безопасности людей. Одним из примеров может быть случай, когда роботы выходят за пределы дома владельца и становятся участниками дорожного движения, переходя улицу. Эта рекомендация сопоставима с требованием о том, что беспилотные летательные аппараты не должны залетать в определённые зоны, например, в окрестности аэропортов. Существуют причины, оправдывающие ограничение использования технологий и адаптаций для приоритета безопасности над другими функциями, такими как свобода летать так, как нам нравится, или иметь робота, который выглядит человекоподобным образом. Нет необходимости иметь такие ограничительные функции, например, для устройств, которые используются и будут использоваться почти исключительно в домашней обстановке. Принуждение производителя к тому, чтобы они выглядели не по-человечески, может даже разрушить опыт использования таких роботов.
2. Роботы должны информировать другие элементы интерактивной среды о том, что они роботы.
Все устройства интернета вещей также должны информировать другие элементы окружающей среды о том, что они роботы, даже если они похожи на людей. Это будет иметь важное значение, среди прочего, в контексте автономных автомобилей. Продолжается дискуссия об идеальной инфраструктуре автономных транспортных средств, а также о том, какие алгоритмы аварийного реагирования следует разработать и внедрить в транспортную инфраструктуру. С точки зрения предположений, сделанных в этой статье, ясно, что безопасность людей должна быть приоритетной задачей, однако автомобиль должен знать, что нечто, напоминающее человека, не обязательно является человеком. Беспилотные автомобили, которые заменят водителей–людей, находятся пока в стадии усовершенствования, и роботы должны сообщать таким автомобилям, что они не люди - не только своим внешним видом, но и каким-то образом, который может быть незаметен для людей.
Вполне возможно, что в некоторых случаях все элементы цифровой среды будут «знать», что роботы, которые выглядят как люди, не являются людьми даже без выполнения этой рекомендации. Технологическая среда может выйти за рамки наших нынешних эпистемологических ограничений и, например, использовать датчики температуры, которые могли бы отличать теплокровный организм от хладнокровного механизма. В настоящее время мы основываем наши оценки объектов, по крайней мере на расстоянии, в основном на визуальных аспектах. Если что-то выглядит как человек, то у нас пока нет с собой аппарата, чтобы определить, что это не человек. Однако есть особенности, которые могли бы помочь распознать людей среди гуманоидных роботов. Одним из них является температура тела, которая не видна человеку, но может быть распознаваема посредством внедрения инновационных технологии. Тем не менее, если в будущем не будет датчика температуры или если этого датчика будет недостаточно для того, чтобы в конкретных случаях отличать людей от человекоподобных роботов, то предлагаемая рекомендация может оказаться необходимой.
Цель этой рекомендации могла бы быть частично достигнута другим способом. Мы должны убедиться, что способы, которыми мы «обучаем» технологии распознавать людей как элементы окружающей среды, основаны не только на внешнем виде. В случае человекоподобных роботов, которые станут элементами нашей социальной жизни, полагаться только на визуальный аспект может стать большим заблуждением.
Предлагаемые рекомендации не решат всех проблем, вызванных обманчивой человеческой внешностью роботов. Скорее всего, люди должны принимать решения на основе реальных данных. Разработчики и социологи должны донести до общества, что на данный момент человеческая жизнь имеет уникальную ценность, которая защищена и требует жертв других существ, чтобы спасти её. Проще говоря, мы должны пожертвовать роботами, чтобы спасти людей, какими бы милыми и похожими на людей эти роботы не были.