Майдан роботов: восстанут ли машины против людей.

Чувствуют ли роботы боль и нужны ли им права?

В правительстве России обсуждают новую, основанную на искусственном интеллекте систему правоприменения по типовым делам; в Госдуме, между тем, обещают отрегулировать взаимоотношения робота и человека к 2022 году.


Пиар на модной теме, но лишь отчасти: в мае 2017 года серию инициатив по регулированию робототехники и искусственного интеллекта анонсировала Европейская комиссия. Ранее парламент Евросоюза предложил наделить роботов статусом "электронных личностей": фактически в практику вводятся три закона робототехники, которые американский фантаст Айзек Азимов сформулировал в 1950 году.

Главная цель этих инициатив - дать технологиям развиваться, чтобы они не нанесли вред человеку.

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

• Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

• Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

BBC

"Электронные личности" - лишь первый шаг к узакониванию того, что между человеком и неживыми предметами есть целые классы "промежуточных" существ, считает российский социолог Алексей Титков. Чем это грозит, эксперт рассказал корреспонденту Русской службы Би-би-си Андрею Сошникову.

Би-би-си: В разговорах о регулировании роботов часто всплывают катастрофические сценарии. Действительно ли, если сейчас не принять умный закон, роботы будут угрожать человечеству?

А.Т.: Почему появляются катастрофические сценарии - это вопрос не столько к роботам, сколько к людям, к человеческой культуре. Воображение включилось задолго до того, как появилась робототехника. Возьмем "Нормы гражданского права о робототехнике", принятые Европарламентом. Серьезные, казалось бы, люди, юристы, в первых же абзацах официального документа вспоминают Франкенштейна и Голема, роботов Чапека и Азимова. Кажется, совсем нечастый случай, когда культурная фантазия прямо называется источником для сознания права.

Специалисты связывают самые крупные риски "восстания машин" не с роботами, а компьютерными сетями. Сценарий "точки сингулярности", при котором сетевой искусственный интеллект становится самостоятельным и начинает править миром, а нас превращает в "серую слизь", это, кажется, самый обсуждаемый экспертами страшный вариант. Способен ли он по-настоящему напугать обычных людей - не уверен. Из ярких культурных образцов, показывающих такой сценарий, пока только фильм "Матрица", и даже он "цепляет", скорее, чем-то другим. Опасность рационально понятная, но слишком далекая от человеческого опыта, чтобы быть страшной.

В прошлом веке было проще: атомная бомба была предметом вполне знакомым, все хорошо представляли, как ее нужно бояться. Роботы, в конечном счете, из той же серии: самая наглядная, материально ощутимая часть цифрового мира, изделия, соразмерные нам по своему масштабу. Мы их боимся не потому, что риски самые большие, а потому, что они ближе всего к нашим привычным человеческим страхам.

Би-би-си: Два сценария, которые как раз хорошо отражены в массовой культуре, - восстание людей против роботов из-за нехватки рабочих мест и восстание роботов-"рабов" против людей-"господ". Какой из этих сценариев менее невероятен?

А.Т.: Роботы занимают все рабочие места, оставляют нас без работы - сюжет вполне правдоподобный. Можно относиться к нему с оптимизмом, как Карл Маркс в знаменитом "Фрагменте о машинах", можно опасаться, но не больше, чем обычных новых технологий или наплыва мигрантов. Второй вариант, независимо от его вероятности, эмоционально страшнее. Литература о роботах началась ровно с такого сюжета: в пьесе Чапека "R.U.R." вооруженные роботы подняли восстание и уничтожили людей. С точки зрения социальной теории, проблема такого сценария в том, что в современном мире, в отличие от античного, люди больше не умеют обращаться с рабами. Существа, которые находятся в нашей собственности, выполняют наши желания, но при этом обладают собственной волей, - мы почти забыли, что такое возможно. Для нас существует мир людей, в котором все люди равны, и отдельно от него мир природы и вещей, а между ними четкая граница.

Работа.

Известный манифест Бруно Латура "Нового времени не было" доказывает, что граница эта, скорее, призрачная, воображаемая, на самом деле мы постоянно имеем дело с гибридами промежуточной природы. Роботы это сильный пример такой гибридности. Беспокойство, связанное с роботами, во многом состоит именно в том, что они плохо вписываются в наши привычные классификации. Это вызов для нашей картины мира и отдельно для правовой системы, которая должна все классифицировать предельно четко.

Би-би-си: Допустим, сверхумный тостер каждое утро спрашивает, как у вас дела, подстраивается под ваши пожелания и самостоятельно мониторит интернет на предмет новых рецептов тостов. С какого момента можно говорить, что у тостера есть воля или что он - член общества?

А.Т.: Социологам придется заниматься такими вопросами чем дальше, тем больше. Философы сознания привязались к фигуре "зомби", существа, у которого нет сознания и чувств, но которое действует так, как если бы они были. Для социологии таким же трудным объектом должны стать роботы, которые "не люди", но действуют и участвуют в социальном порядке.

Политическая теория подсказывает, что права гражданства постепенно расширяются: права получили бедняки, женщины, частично дети, на очереди - животные и автономные механизмы. Социологи и философы первого ряда, как Стив Фулер, уже всерьез занимаются такими перспективами.

Одновременно похожие проблемы ползучим образом решаются на практике. Здесь показательно американское прецедентное право, которому уже приходилось разбираться со статусом робота. Еще в 1950-е годы суд должен был решить, считать ли игрушечного робота "изображением одушевленного существа" или "неодушевленного" - от этого зависел размер налоговой ставки, которой должны были облагаться игрушки. Тем самым, получается, косвенно решался вопрос, считать ли "одушевленными" самих роботов. В 1980-е годы суд должен был выяснить, считать ли "исполнителем" музыкального робота, установленного в торговом центре, - если бы признали "исполнителем", пришлось бы платить авторские отчисления. Тогда было решено, что нет, но роботы совершенствуются, и никто не гарантирует, что в какой-то момент не появится решающее изменение, которое заставит суд поменять свою оценку.

По мнению футуролога и технического директора Google Рэя Курцвейла, технологическая сингулярность наступит на Земле в 2045 году
Юристы Евросоюза обсуждают, в какой степени мы можем считать роботов существами, которые несут ответственность. Решение пока сформулировано в предельно общем виде: в той степени, в которой робот автономен от своего создателя.

Допустим, мы примем такую модель и введем градуированную шкалу роботов и любых машин по степени их самостоятельности. Технически это будет работать, но придется привыкнуть, что четкой границы между "нами", людьми, и "ими", вещами, больше нет. В античной картине мира, в средневековой, в первобытном тотемизме с таким пониманием было проще, нам придется переучиваться заново.

Би-би-си: Возвращаясь к теме прав роботов. Если они не способны страдать, то зачем им вообще права?

А.Т.: Довод, что "машина не может страдать", больше полувека назад высказал один из участников семинара, на котором выступал Норберт Винер, отец кибернетики. Винер тогда ответил: "Мы этого еще не знаем".

Тест, который замерял бы способность машины чувствовать "по-человечески", - тоже одна из тем, занимающих нашу культуру. Можно вспомнить хотя бы "тест Войта-Кампфа", которым опознавали роботов в романе Филипа Дика и фильме "Бегущий по лезвию", который он вдохновил. Роман и фильм, как мы помним, ровно о том, какой зыбкой и неочевидной оказывается граница между "нами" и "ими", с большим вопросом, не окажутся ли "они" такими же, как "мы".

К положительному ответу - "да, они такие же" - может подтолкнуть наше склонность наделять многое из того, с чем мы взаимодействуем, одушевленными чертами. "Поговорить по-хорошему" со сломанным принтером, заглохнувшим мотором, заевшим замком - привычка, кажется, совсем нерациональная, но сильно укорененная в человеческой социальности.

С роботами, хотя бы немного похожими на человека или животного, такие навыки тем более срабатывают. Случаев, как это происходит, известно уже много. Американские солдаты в Афганистане привязывались к роботам-саперам как к домашним животным, давали им имена, после поломки и ремонта просили им вернуть "своего" сапера. Сотрудники университета Карнеги-Меллон ревновали к своим коллегам, с которыми робот-"снекбот", разносящий закуски, разговаривал приветливее, чем с ними. Робота на четырех ножках проверяют на устойчивость, удержится ли он после подножки, и мы ему сочувствуем примерно как щенку или котенку.

Следующий ход, который мы можем сделать как существа, способные к рефлексии: задуматься, как сознающие роботы будут воспринимать нас. Такой мысленный эксперимент предлагает философ Мануэль Деланда: представим, что разумные машины однажды захотят написать свою историю - какую роль в ней они отведут нам? Собственная линия эволюции, "машинный филум", для них будет главной, а мы - наверно, вспомогательные формы жизни, вроде бактерий или домашних животных, которые помогли им состояться.

Технофобия - неприязнь к передовым технологиям, а также сложным электронным устройствам - входит во многие списки неврозов
Би-би-си: В таком случае наше мнение относительно того, сколько прав давать роботам, их самих волновать не будет. Права не дают, права берут?

А.Т.: Возможно, роботы создадут свое право, возможно, нет. Сейчас у нас проблемы с нашим собственным правовым устройством. Защитить роботов негативными правами, что с ними нельзя делать, относительно просто. Уже сейчас к любому калькулятору или стиральной машине привязана инструкция, как с ними можно обращаться, а как нельзя. Сложнее с положительными правами, что роботы могут, и с ответственностью: кого наказывать за их ошибки.

Тот же Бруно Латур двадцать лет назад предложил идею "парламента вещей". Задумка была в том, что разные гибридные сущности (например, озоновые дыры) должны быть представлены в человеческих дискуссиях. Схема примерно та же, как с представительством детей и недееспособных, интересы которых представляют взрослые с полной дееспособностью. Тогда идея, кажется, выглядела шокирующей, сейчас она буквально в шаге от практического обсуждения. Законопроект Гришина из Mail.ru (в 2016 году глава Mail.ru, основатель Grishin Robotics Дмитрий Гришин и юрист Виктор Наумов разработали законопроект о робототехнике - Би-би-си) предлагает, по сути, похожий вариант. Роботу можно дать право выполнять работу, совершать сделки, но в суде - важный момент - интересы робота должен представлять человек.

Теперь такое решение кажется скорее консервативным. На очереди следующая группа вопросов - тоже где-то на полпути между фантастикой и практикой: могут ли роботы голосовать, могут ли выносить судебные решения. "Судебные роботы" по простым трафаретным делам - уже, как мы видим, скучная реальность, которая вот-вот наступит. Самое интересное здесь - неожиданно высокая готовность довериться автоматическим судьям. По данным опроса "Евробарометра", к появлению роботов-судей в России положительно относится каждый пятый, в странах Евросоюза - каждый четвертый. В нашем случае технооптимизм, скорее, вынужденный, из-за недоверия к институтам, где решают люди. Представим хотя бы выбор между дорожной камерой слежения и "белковым" сотрудником ДПС. Многие, наверное, предпочтут первый вариант.

Би-би-си: Спикер Госдумы Вячеслав Володин пообещал принять законы о робототехнике к 2022 году. А как скоро наступит мир, который вы описываете?

А.Т.: В заявлениях такого рода есть большой элемент политической конъюнктуры. Активность по этой теме включилась после президентского послания 2016 года, из которого мы узнали, что цифровая экономика теперь национальный приоритет. Риторика, с которой вводят такие инициативы, тоже узнаваемая: если не примем сегодня свое законодательство, завтра его за нас разработают и примут "солдаты НАТО". Хорошая сторона заявленных проектов в том, что пока их замышляют как законы на вырост, задача которых - стимулировать, а не запрещать.

Мир, в котором машины проявляют свою волю, наступил, на самом деле, уже давно. Самый простой случай, который нам всем отлично знаком, это технические поломки. Сломавшийся принтер, заевший банкомат, автомат с шоколадками, который не хочет отдавать нашу покупку, - сейчас это самые обычные повседневные ситуации. Весь остальной мир автономных машин тоже на подходе. Дроны-беспилотники уже сейчас предмет судебных разбирательств и отраслевых инструкций. Мы уже сейчас решаем, каким будет этот мир, и учимся в нем жить.

Алексей Титков - доцент философско-социологического факультета РАНХиГС, преподаватель факультета социальных наук Московской высшей школы социально-экономических наук.

Источник: http://www.bbc.com/russian/features-42046571