Об искусственном интеллекте: далекая или совсем близкая проблема наших реалий

На всем протяжении развития человечество стремилось к созданию механизмов. И если на первоначальном этапе речь шла преимущественно об устройствах лишенных свойств автоматизации разумного поведения, то в последующем люди все чаще стали задумываться о создании искусственных подобий живых существ.

Прообразы их мы можем найти и в греческих мифах: вспомним, например, бронзового гиганта Талоса, данного Зевсом Европе для охраны острова Крит, и в сказках братьев Гримм (Железный Ганс), Джанни Родари (робот, которому захотелось спать) и среди героев книг Александра Волкова. Не лишена их и отечественная литература. Чего, например, только стоит образ градоначальника Дементия Брудастого из «Истории одного города» Салтыкова-Щедрина. А атоматоны Леонардо да Винчи?

На сегодняшний день искусственный интеллект это область скорее относящаяся к прогностике, а не знаний, поэтому представления о ней носят скорее возможный, а не фундаментальный характер, что само по себе уже является предпосылкой определенного риска.

Далай-лама XIV считает, что нельзя утверждать, что машины обладают сознанием или способностью к познаванию, а утверждение о том, что сознание появляется в силу материальных причин, с точки зрения буддизма неприемлемо.

Другие традиционные конфессии достаточно редко описывают проблематику искусственного интеллекта. Но отдельные богословы тем не менее обращают на это внимание. Например, протоиерей Михаил Захаров, рассуждая с точки зрения христианского мировоззрения, ставит следующий вопрос:

«Человек есть разумно-свободное существо, сотворенное Богом по Его образу и подобию. Мы привыкли все эти определения относить к биологическому виду Homo Sapiens. Но насколько это обосновано?»

И отвечает же сам на этот вопрос так:

«Если предположить, что исследования в области искусственного интеллекта когда-либо приведут к появлению искусственного существа, превосходящего человека по интеллекту, обладающего свободой воли, будет ли это означать, что это существо — человек? … Человек есть творение Божие. Можем ли мы это существо назвать творением Божиим? На первый взгляд, оно есть творение человека. Но и при сотворении человека вряд ли стоит буквально понимать, что Бог Своими руками из глины вылепил первого человека. Вероятно это иносказание, указывающее на материальность человеческого тела, созданного по воле Божией. Но без воли Божией ничего не происходит в этом мире. Человек, как со-творец этого мира, может, исполняя волю Божию, создавать новые твари. Такие твари, созданные руками человека по Божией воле, вероятно можно назвать творениями Божиими. Ведь человек создает новые виды животных и растений. А мы считаем растения и животных творениями Божиими. Так же можно относиться и к искусственному».

И несмотря на то, что современные сверхмощные компьютеры пока могут решать лишь несколько узконаправленных задач, литература, кино и другие виды искусства все чаще обращаются к тематике создания футуристических образов машинно-человеческих гибридов, способных к воспроизведению функции интеллекта человека, в том числе принятию самостоятельных решений и анализу ранее полученного опыта.

Однако, создание искусственного интеллекта хотя бы баловства ради, в конечном итоге может привести к созданию машины (программы) отвечающей иным требованиям и необходимости обслуживать криминальные проявления, в том числе направленные на причинение вреда.

Взять для примера нашумевший ремейк фильма Майкла Крайтона – «Мир Дикого Запада». В основе сюжета тематический парк населенный высокоинтеллектуальными роботами-андроидами, неотличимыми от человека, где туристы за вознаграждение развлекаются в меру своих потребностей и фантазий: убивают, насилуют и т.п. При этом отличить среди роботов реальных людей почти невозможно, лишь одна маленькая деталь позволяет сделать это стороннему зрителю – роботы, в отличие от людей, не могут причинять вред. Но вдруг неожиданный сбой в программе симпатичных и безобидных персонажей превращает в убийц.

И в этой связи становится очевидной неготовность уголовного законодательства, не отвечающего на сегодняшний день этим потенциально опасным вызовам. Как говориться, не за горами приход Терминатора, то никаких последствий за его действия не будет.

Но мы все же попытаемся рассмотреть эту потенциально далекую, а может и весьма близкую, проблему с позиций существующих реалий:

1. Нравственные аспекты создания подобных андроидов для использования их в качестве «живых игрушек» столь похожих на людей. Не приведет ли это к стиранию граней в сдерживании человека в причинении вреда себе подобным?

2. Возможные риски в программных сбоях и пробельность в действующем законодательстве при определении виновного за это:

- «орудие преступления» или «живое орудие»: ведь речь идет об искусственном интеллекте?

- ответственность корпораций и других юридических лиц;

- если это действительно искусственный интеллект, способный к воспроизведению функций человека (эмоциям, анализу, принятию собственных решений), то вопрос вообще никак не урегулирован.

Кого же следует признать виновным в данном случае: лицо, создавшее искусственный интеллект, или самого робота, наделенного им? И какой вид наказания тогда подлежит применению во втором случае?

На эти вопросы еще следует ответить не только отечественному, но и зарубежному законодателю, не имеющему пока никакого опыта в этой отрасли знаний.

И, несмотря на то, что новейшие исследования человеческого мозга, говорят о том, что до создания искусственного интеллекта, равного по возможностям человеческому, способному за какие-то доли секунды обработать такое количество информации и, что самое интересное, даже выдать результат за это же время, еще далеко. Ни одна машина в ближайшей перспективе, не способна и навряд ли будет способна на умение 3-летнего ребенка – прыгать, бегать или различать предметы.

Там где робот механически проанализирует, спрогнозирует и выполнит, человек может совершить вопреки всем прогнозам, анализу и т.п. совершенно алогичный поступок. И, может, в этом есть некая предпосылка явления, определяемого нами как Чудо, что-то вопреки всем законам материи, не поддающееся объяснению, но сопричастное нравственности и морали.

Кажется, можно успокоится, но это было бы преступно небрежным по одной простой причине - создания уже сегодня, в существующей реальности, машин – роботов, выполняющих отдельные функции во много раз лучше человека, пусть программа и ограничена ими. В такой ситуации говорить о вменяемости машины, конечно, не приходится, даже если машина запрограммирована под функцию убийства, как тот же Терминатор. То что это - «орудие или средство преступления» или самостоятельный, не известный пока нам «квазисубъект»?

Учитывая, что отсутствие полноценного мозга делает невозможным признание виновности робота, первый вариант является предпочтительным. Хотя в этом случае, поскольку в создании таких сложных машин зачастую принимают участие целые корпорации, то здесь скорее необходимо поставить вопрос об ответственности не только лица, его создавшего, но иногда и самих коллективных образований.

Показательны в связи с этим примеры зарубежной практики.

Например, в 1978 г. компании Форда Генеральным атторнеем штата Индиана было предъявлено обвинение в убийстве трех человек, сгоревших живыми в автомобилях марки «Pinto». Расследование показало, что руководство компании выпустило автомобиль этой марки в продажу, зная, что его бензобак расположен в опасном месте и может взорваться при столкновении. Это стало первым случаем в истории американского правосудия, когда корпорации было предъявлено обвинение в «чисто общеуголовном» преступлении – убийстве.

В связи с этим, хотелось бы обозначить необходимость введения так давно обсуждаемой уголовной ответственности юридических лиц. Еще в 1994 году, в проекте УК РФ, подготовленном Минюстом России и Государственно-правовым управлением Президента РФ, содержались положения об уголовной ответственности компаний, однако законодатель на том этапе их не реализовал. Позднее, в 2011 году, с аналогичной инициативой выступил Следственный Комитет. И хотя документ выносился на общественное обсуждение, но так и не дошел до Государственной Думы. Вносился он на рассмотрение и в марте прошлого года, но «воз и ныне там».

Главная проблема в решении этого вопроса связана с категорией вины, понимаемой как психическое отношение лица к содеянному и его последствиям. Однако будучи юридической фикцией, юридическое лицо, не обладающее ни телом, ни разумом, не может иметь никакой психики и, соответственно, психического отношения к совершенному.

В связи с этим подходы законодателя, допускающего уголовную ответственность юридического лица, весьма разнятся:

- ряд стран, например Великобритания, Франция и США следуют, так называемому, принципу идентификации (отождествления), при котором вина «контролирующих должностных лиц» корпорации трансформируется в виновность самого юридического лица, как правило, одновременно, хотя и не обязательно, порождая личную ответственность и физического лица и корпорации;

- другие, Австрия и Испания, прибегают к более мягкому, промежуточному варианту, не признавая юридическое лицо самостоятельным субъектом преступления, но допускающие возможность применения к нему различных уголовно-правовых мер принуждения, например, специальной конфискации. Фактически при таком достаточно компромиссном варианте происходит разделение понятий «субъект преступления» и «субъект уголовной ответственности».

Не менее вариативны предложения, высказываемые представителями наук криминального цикла, от ответственности без вины и отказа в этом случае от принципа субъективного вменения, до конструирования специальных моделей вины, применимых исключительно к юридическим лицам.

Мне видится, что проблем здесь становится намного больше чем предлагается решить, разрушив основы понятий виновности и один из главнейших принципов не допустимости объективного вменения, мы можем прийти к серьезным проблемам правоприменения и в отношении физических лиц. Нам видится, что гражданско-правовые инструменты, равно как и административно-правовые в данной ситуации недостаточно реализованы, а применение уголовной ответственности, перечеркнув вышеуказанные меры воздействия было бы на наш взгляд в корне неверным.

Однако, даже решив данную проблему, меня не покидает чувство правовой неопределенности в отношении когда-то созданных в будущем высоко интеллектуальных роботов, способных самостоятельно, независимо от программы выбрать стиль поведения, который, к сожалению, может быть преступным. Учитывая осознанность выбора, мы, наверное, сможем говорить и о вине такого нового субъекта уголовного права, как роботизированная машина.

Давайте пофантазируем. Каков вид наказания мы сможем применить к такому роботу?

Вспоминается фантастические фильмы, такие как «Звездные войны», где применялось наказание в виде заморозки. Вроде бы такой вид наказания схож с лишением свободы, но достигнет ли он целей, предъявляемых к этому институту? Вопрос остается открытым.

Следующий вариант - «уничтожение (утилизация)». Не могу назвать это смертной казнью, но, на наш взгляд, это единственное действенное наказание для роботов. Однако, напрашивается и другой, новый для уголовного права, как впрочем нова и данная категория субъекта ответственности - перепрограммирование на общественно-полезную функцию. И вот по веянию программиста робот-убийца, превращается в робота-уборщика или робота-няньку. Мы сразу достигаем одну из целей наказания - исправление робота. Но вопрос о том, так ли все просто остается дискуссионным.

И наконец, давайте поставим исконно русский вопрос по Чехову «А судьи кто?». Дискуссия на тему применимости роботов в сфере законодательства приобретает все большую ожесточенность.

А ведь ими могут быть тоже роботы. С одной стороны, если речь идет лишь о правовой оценке, то машины с их способностью быстрого анализа огромного массива информации просто незаменимы (выбрать необходимые нормы, обработать материалы данной категории дел, проверить наличие необходимых документов и т.д.). Кроме того, робота уж точно нельзя будет упрекнуть в пристрастности и излишней эмоциональности.

Ведь мы сможем запрограммировать робота и кодифицировать, для начала под «легкие» процессы. А сколько судей освободится от подготовки решений! То есть мы получим полностью роботизированный процесс от написания иска до вынесения решения. Однако, что делать со сложными спорами, будет ли присутствовать в них мораль и нравственность, сможем ли мы роботам - судьям запрограммировать чувство справедливости, причем социальной, то есть человеческой, а не роботизированной. Я боюсь, что нет, но в кино, говорят, что роботы способны любить, страдать и иметь те же чувства, что и человек, например Флаббер или тот же Стартрек.

Между тем, не так давно мир облетела новость, что скоро в судах Англии сможет появиться необычный судья – робот, созданный учеными ведущих университетов Шеффилда и Пенсильвании, а также Университетского колледжа Лондона. Беспристрастный судья в течение считанных секунд с точностью до 79 % может определить, было ли рассматриваемое дело сфальсифицировано или же нет. Для работы робот может оперировать интегрированной в него информацией о 584 случаях нарушений Европейской конвенции о правах человека.

Заместитель председателя Правления ПАО Сбербанк сообщил о сокращении около 3 тысяч рабочих мест за счет замены юристов на роботов.

Дальше могут появиться роботы-полицейские, роботы-прокуроры, роботы-судьи, прототипы которых мы также можем в избытке найти в искусстве (Робот-полицейский, Бегущий по лезвию).

Но от этого становится страшно, если в итоге все заменят роботы, где же останется место человеку.

Задумайтесь об этом, а лично я все же жду Терминатора, который, на мой взгляд, точно вернется и нам будет не очень весело.

Автор: Денис Пучков, кандидат юридических наук, управляющий партнер Puchkov&Partners