Защита специфических прав человека в эпоху технобиореволюции отстает
«Властелином мира станет тот, кто сможет добиться монополии в применении искусственного интеллекта», — полагает президент Владимир Путин. Россия уже включилась в гонку новейших технологий. 30 мая 2019 года на совещании с российскими «пионерами» технобиореволюции глава государства предложил параметры Национальной стратегии развития технологий в области искусственного интеллекта. Между тем, эксперты указывают, что опережающий технократический подход может привести к нарушению прав человека и предлагают обсудить защиту от таких угроз как новый общественный договор.
«По аналогии с человеческим мозгом»
На совещании в «Сбербанке» президент заявил, что государство готово переложить на искусственный интеллект «быстрое принятие оптимальных решений в режиме реального времени на основе больших данных». По его мнению, это даст «колоссальные преимущества в качестве и результативности». Владимир Путин допустил, что такие решения возможны практически в любой сфере: экономике и для повышения производительности труда, в управлении, образовании, здравоохранении и в «повседневной жизни людей». А подобные разработки в сфере безопасности и обороны должны обеспечить национальный суверенитет. Президент отметил, что новейшие технологии стали «полем глобальной конкуренции», а потенциальный монополист в этой сфере «станет властелином мира». Он предложил в ближайшие пять лет сохранить и закрепить мировое лидерство России в развитии технологий компьютерного зрения, распознавания голоса, кибербезопасности.
Глава государства выделил приоритет будущей Стратегии: создание принципов работы искусственного интеллекта (ИИ) по аналогии с человеческим мозгом. Для этого будет создана система финансирования, кадров, законодательства, в том числе по обороту и хранению больших данных. По его словам, надо «снять административные барьеры для технологического первопроходчества».
Будущее наступило
Глава «Сбербанка» Герман Греф, чьи научные центры приоритетно занимаются разработкой ИИ, прямо указал на то, что «повальная гонка» стран в этой области началась два года назад. 30 стран (США, Китай, Франция, Великобритания, ОАЭ) уже приняли собственные национальные стратегии развития искусственного интеллекта.
Греф развеял убежденность многих, что ИИ – дело будущего. По его словам, эти технологии – уже повсюду в системе потребления, а телефон — «маленькая фабрика» ИИ. Оказывается, суды уже используют схожие методы в принятии решений, анализируя весь массив уже принятых ранее решений и выявляя прецедентные. Фактически, Греф прокомментировал причину однотипности в решениях судей, ранее выявленной журналистами.
Вслед за президентом глава «Сбербанка» выделил пять направлений в развитии ИИ: компьютерное зрение, синтез и разпознавание речи, системы принятия решений, самообучение машин. «Мы хотим разработать решения, которые могут обеспечить превосходство над человеком по специальным задачам», — отметил Греф. 2 июня в эфире телепрограммы “Россия. Кремль. Путин” на канале “Россия 1″ он добавил, что «лучшими в мире у нас стать нет шансов… лидерство в этом направлении принадлежит США, однако Россия может войти в топ-5 стран”.
Министр цифрового развития Максим Акимов сообщил на совещании, что в ближайшее время в России начнут формироваться так библиотеки цифровых данных. По его словам, обширный сбор любых подобных данных это – «пища для искусственного интеллекта». Министр пообещал, впрочем, что законодатели позаботятся о гарантиях «обезличенности» этих материалов. В целом, он призвал развивать 13 высокотехнологичных областей, включая геномные технологии. Спецпредставитель президента по вопросам цифрового и технологического развития Дмитрий Песков упомянул о связке разработок ИИ с биологическими технологиями.
Участники совещания предложили распределить разработку новейших технологий между госкорпорациями. Например, «Сбербанк» –ИИ, «Ростелеком» и «Ростех» — мобильная связь пятого поколения, «Ростехнологии» –квантовые сенсоры, технологии для интернета вещей,«Росатом» –квантовые вычисления и новые материалы, РЖД –квантовые коммуникации.
Будет как в Китае?
Похоже, в гонке технологий из двух систем – европейской (консервативная) и китайской (разрешен широкий сбор данных, экспериментирование) – Россия выбирает китайский путь. Именно на китайский опыт ссылались докладчики совещания в Сбербанке. Например, глава Российского фонда прямых инвестиций (РФПИ) Кирилл Дмитриев заявил: «Мы видим, что есть две большие модели управления данными. Одна более признана в Китае, где государство предоставляет больший доступ и контролирует данные, а другая европейская, где доступ к данным очень ограничен. Мы, конечно, считаем, что именно китайская модель позволит двигаться вперёд быстрее».
Герман Греф, не распространяясь о причинах, отметил, что Европейский союз «фактически остановил развитие искусственного интеллекта», утвердив директивы GDPR (англ. General Data Protection Regulation – правила защиты персональных данных). Напомним, Евросоюз принял этот документ год назад, в мае 2018. Согласно GDPR, кампании, занятые слежкой за поведением и предпочтениями пользователей в сети, могут быть наказаны штрафом до 20 миллионов евро.
К защищенным персональным данным европейцев GDPR относит имя, данные о местоположении, онлайн идентификатор, факторы характерные для физиологической, генетической, умственной, экономической, культурной, социальной расовой идентичности, политические и религиозные взгляды; сведения, касающиеся здоровья, сексуальной жизни и ориентации, биометрию.
При создании российского нормативного регулирования Греф призвал не следовать примеру Европы. Он объяснил это бизнес-интересами, сославшись на то, что многие кампании после принятия GDPR свернули деятельность в Европе.
Местом экспериментов по тестированию ИИ Греф предложил сделать Москву. Его поддержали министр цифрового развития Максим Акимов, мэр Москвы Сергей Собянин. Последний рассказал, что Москва по факту уже стала экспериментальной площадкой для технологий. Например, до 70% звонков на горячие линии, уже обслуживают не люди, а чат-боты, распознающие речь. В Москве МВД планирует в ближайшее время объединить в единую следящую систему 200 тыс.камер, включая подъездные и систему распознавания лиц в метрополитене (технология FindFace, разработанная NtechLab). Будет проведен эксперимент по беспилотному транспорту.
«Всем немножко страшно, — признался глава «Яндекса» Аркадий Волож, но нужно дать возможность тестирования решений в области искусственного интеллекта в реальных условиях». Он предложил активнее выпускать на улицы столицы беспилотные автомобили.
Право остаться человеком
Из материалов совещания становится ясно, что элиты увлечены технологическими, экономическими, политическими и бизнес-аспектами техно-биореволюции. Ее возможные угрозы и права человека на совещании в Сбербанке были затронуты лишь вскользь. Владимир Путин отметил, что технологическое первопроходчество должно учитывать «безопасность государства и общества, .. соблюдение прав граждан». «Здесь тоже есть над чем поработать», — отметил он. Для того, чтобы общество оказалось готово к применению новых технологий, Владимир Путин предложил организовать цифровое просвещение.
Попытки расшевелить общественное мнение уже начались. Различные центры и фонды собирают экспертные сообщества для обсуждения социальных, правовых и гуманистических последствий НБИКС (англ. NBICS –конвергенция nano-, bio-, info-, cogno- and socio- технологий).
Например, в тот же день 30 мая в Институте философии РАН студенты философских факультетов на конференции «Искусственный интеллект и философия» пытались представить жизнь рядового человека в новой реальности сближающегося развития нано-, био-, инфо-, когнитивных и социальных технологий. Молодые философы ссылались на мировые авторитеты, изучающие феномен НБИКС, и указывали на опасности технобиоэволюции, которая рано или поздно может привести к превращению человека в постчеловека.
Они цитировали мировых мыслителей, занимающихся этой проблематикой — профессора факультета философии Оксфордского университета, директора Института будущего человечества Ника Бострома, американского социального философа и политолога Фрэнсиса Фукуяму, основателя и директора научного центра Google Ideas Джареда Коэна.
Коэн в своей книге «Новый цифровой мир» (2013) конструирует картину виртуальных государств, сдерживания, репрессий, цифровых двойников, цифрового активизма. Спустя шесть лет после выхода книги, с некоторыми явлениями, описанными в ней, уже сталкиваются многие страны мира.
В России активно ведутся разработки новой модели цифрового государства. Концепция носит условное название «Государство как платформа», в котором отношения управленцев и потребителей государственных услуг максимально виртуализированы. Одноименный доклад РАНХиГС написан в этом году коллективом авторов под руководством директора Центра перспективных управленческих решений Марии Шклярук. Отдельная глава посвящена использованию искусственного интеллекта в госуправлении. В нем отмечены возможные «ошибки» функционирования такого государства с некоторым юмором. Например, когда у «неблагонадежного» читателя книги Джорджа Оруэла «1984» автоматически блокируется только что купленный билет на самолет.
Впрочем, в каждой шутке есть доля истины. Так, автор этой статьи столкнулась с блокированием некоторых сервисов по распоряжению своими финансами в Сбербанке, так как в систему поступила информация о начале процедуры замены гражданского паспорта. И хотя, по российскому законодательству, гражданин в течение 30-дневного срока с начала замены паспорта не может быть поражен в правах, однако «умные» банковские он-лайн сервисы решили иначе.
Защита от угроз технологического будущего может стать предметом нового общественного договора в России. Такое мнение выразили «старшие товарищи» молодых философов, участвовавшие в дискуссии.
Например, научный сотрудник Института философии РАН Маргарита Пилюгина пессимистично оценила «пущенные на самотек» процессы НБИКС, если их заказчиком станет общество потребления.
Философ Никита Соловьев, председатель секции «Free choice: from neurophysiology to education» на конференции
IEEE International Conference «Video and Audio Signal Processing in the Context of Neurotechnologies, 2019» отметил, что в настоящее время общество находится под прессом информационного давления, и даже эффект социального лазера или усиления информационных возмущений в социальных сетях ограничивает свободу человека, заставляя его подчиняться мнению толпы. Если технологии лишат человека фундаментальной свободы выбора, то это может привести к непредсказуемым последствиям для общества. При этом бизнес, который хочет получить выигрыш от внедрения ИИ, может получить глобальный проигрыш из-за деградации творческого потенциала общества.
Сотрудник Центра развития гуманистической экологии и культуры Маринэ Восканян отметила, что «технократизация жизни людей пока не имеет достаточных правовых основ во всем мире», хотя «технологические эксцессы могут серьезно нарушить достоинство человека». Студенческое философское сообщество она призвала формировать в России общественное мнение на этот счет, участвовать в выработке документов, защищающих гуманистические принципы.
Ирина Нагорных, журналист, корреспондент RTVI
Фотография: https://www.paymentscardsandmobile.com/magazines/the-rise-of-the-machines/