Публикуем текст выступления Маринэ Восканян, директора международных программ Центра гуманистической экологии и культуры, на Варшавском совещании ОБСЕ по рассмотрению выполнения обязательств в области человеческого измерения (СРВЧИ) (Human Dimension Implementation Meeting (HDIM)-2019), сессия 13 «Толерантность и недискриминация II (продолжение), в том числе: Борьба с антисемитизмом и дискриминацией в отношении христиан, мусульман и представителей других религий». 24 сентября, 2019. Варшава, Польша
Уважаемый господин модератор!
Уважаемые участники!
Мы хотели бы поблагодарить БДИПЧ ОБСЕ за возможность выступать на данной площадке и обсуждать проблему дискриминации. Тема нашего выступления «Новые технологии и новые формы дискриминации».
70 лет тому назад была принята Всеобщая декларация прав человека, где утверждалось: «все люди наделены разумом и совестью, рождаются свободными и равными в своем достоинстве и правах». Всегда ли материальный и технический прогресс обеспечивает права человека и сохраняет его достоинство, создает условия для равенства и справедливости? Приходится с тревогой констатировать, что ряд тенденций технологического развития, открывая определенные горизонты возможностей, тем не менее, ведет к деградации и самого человека как существа, обладающего разумной и духовной сущностью, и к «расчеловечиванию» социальных и экономических отношений. Не допустить такой деградации и сохранить человека и его благо в качестве определяющего критерия приемлемости тех или иных векторов технологического развития -тема широкой международной общественной дискуссии.
С развитием технологий все больший масштаб приобретает сбор данных обо всех аспектах жизни человека — его общении, перемещениях в пространстве, финансовых операциях, покупках, содержании просматриваемого им контента в Интернете, его рабочих и личных интересах. Собранные данные анализируются с целью формирования его «портрета» и используются для построения с помощью соответствующих систем анализа, а в дальнейшем, во все большей степени — с помощью систем искусственного интеллекта — для выводов и прогнозов о его дальнейшем поведении. Сбор и объединение таких данных транснациональными корпорациями, осуществляемый формально в целях лучшего таргетирования рекламных и информационных потоков, по сути же создает пространство тотального контроля и слежки. В отличие от государства, эти организации распоряжаются этой новой властью и новыми ресурсами только с им известными целями. Человеку должна быть обеспечена защита от любых форм посягательств на безопасность информации конфиденциального и частного характера (Статья 2 Хартии о сохранении цифрового наследия, принятой на Генеральной конференции ЮНЕСКО 15 октября 2003 года).
Обществу предлагается все чаще рассматривать человека не как существо, наделенное свободной волей и самосознанием, а напротив — как объект, поведение которого биологически задано и предсказуемо, вопрос лишь в том, когда наука до конца изучит соответствующие механизмы деятельности мозга, а сбор массивов данных о каждом действии человека позволит дополнить эту картину.
Человек без частной жизни и личного пространства, понимаемый как биообъект для тех или иных манипуляций, лишается неотъемлемых прав на свободу и достоинство. Необходимо сохранить понимание уникальной ценности каждого человека и не допустить построения под видом общества неограниченных свобод системы тотального контроля. Также необходим критический подход к применению систем искусственного интеллекта для анализа и прогноза действий людей и социальных систем — мы не можем сводить представление о человеке к существу, которое определяется набором измеряемых характеристик и поступки которого предсказуемы, как у машины.
На фоне деклараций о демократии и правах человека мы наблюдаем сужение пространства свободы и взаимоуважительного диалога, когда лишь определенные ценности, политические и мировоззренческие теории объявляются верными, а всех, кто с ними не согласен, маргинализируют и пытаются исключить из информационного пространства. Интернет, который предлагается считать наиболее свободным пространством поиска информации все больше превращается в инструмент замаскированных коммерческих и пиар- манипуляций и ограничения доступа к «неудобным» теориям и мнениям, что приводит к ограничению свободы интеллектуального и мировоззренческого поиска под видом доступа к якобы неограниченным информационных ресурсам. Формально идеологически нейтральные интернациональные информационные ресурсы и социальные сети все чаще вводят цензуру, оценивая контент и мнения по собственной шкале соответствия «правильным ценностям». Поисковые системы Интернета выдают информацию с определенным образом отобранных сайтов, в то время как другие оказываются вообще исключенными. В Интернете в большинстве случаев не существует механизмов верификации информации, и часто отсутствуют указания на ее источники. Все это позволяет массово тиражировать любые данные и сведения, не неся при этом никакой ответственности за их достоверность, а также сознательно навязывать определенные мнения, взгляды и теории, умалчивая о других. При этом механизмы новой идеологической цензуры в мировом масштабе вводят не государственные институты, а некие анонимные цензоры. В то же время в мире пока не удалось своевременно разработать стратегии сохранения цифрового наследия (статья 3 Хартии о сохранении цифрового наследия, принятой на Генеральной конференции ЮНЕСКО 15 октября 2003 года).
Каким бы ни было развитие информационного пространства, оно не должно превратиться в сферу тотальной лжи и недоверия. Так же как для отдельного индивида честность является критерием личной морали, общество должно сохранить честность как атрибут сферы знаний и информации, которые в противном случае деградируют до функций коммерциализированного пиара и идеологических манипуляций.
Переход коммуникации между людьми в форматы социальных сетей превращает общение в его далеко не полноценную электронную проекцию, стирает грань между личным и публичным пространствами. Уже сегодня это приводит к деградации форматов общения, возникновению атмосферы взаимной нетерпимости, утрате навыка формирования взвешенных суждений в пользу односложных реакций «нравится» — «не нравится», основанных на эмоциях, к погоне за рейтингами и «лайками».
Виртуальное пространство «без правил» провоцирует человека на неограниченную и не имеющую никаких последствий реализацию любых, даже самых низменных устремлений, среди которых и желание добиться любой ценой популярности и внимания, демонстрация агрессии и насилия, разжигание ненависти и розни. Тот факт, что все это происходит виртуально, не меняет расчеловечивающей сути такого мира без каких бы то ни было этических границ.
Все это деформирует принципиально важную для человека как существа, наделенного свободой и достоинством, способность к осознанной ответственности за свои слова и поступки. Разумное самоограничение и ответственность должны служить ориентирами для человека независимо от того, действует ли он в реальном, или виртуальном мире.
Только с помощью внутреннего нравственного сознания, а не внешних механизмов формальной цензуры, можно формировать информационное пространство, где уважается свобода и достоинство человека.
Таким образом, сегодня мы видим, что, к сожалению, помимо уже известных форм дискриминации человека, появляются новые, связанные с развитием новых технологий (frontier technologies) , в частности, с развитием дигитализации.
Мы часто слышим такие термины как digital divide, и говорим о нарушении прав тех, кто не имеет доступа к цифровым технологиям. Но сегодня пришло время сказать и об обратном явлении — когда технологии становятся сами инструментом нарушения прав человека.
Как уже было указано, в первую очередь речь идёт о сборе данных, контроль над агрегацией которых, фактически, не контролируется, и что грозит уже в ближайшем будущем разрушить фундаментальное право человека на неприкосновенность его частной жизни.
Дискриминации подвергаются те, кто отказывается передавать свои личные данные в системы сбора таких данных. Фактически, без соответствующего аккаунта Вы не можете воспользоваться уже многими функциями современных цифровых устройств. Лица, не имеющие аккаунтов в соцсетях, рассматриваются как нежелательные кандидаты при приеме на работу. Вызывает озабоченность, в частности, требование некоторых стран указывать данные об аккаунтах в соцсетях при подаче обращения за визой.
Вызывает озабоченность также факт непрозрачности алгоритмов работы поисковых систем при выдаче рейтингов интернет- страниц. В частности, нам поступали жалобы владельцев страниц с религиозной символикой, что при аналогичной посещаемости поисковые системы могут ставить такие сайты в рейтингах для рекламодателей ниже, чем аналогичные, где такой символики нет, дискриминируя, таким образом, лиц, имеющих религиозные убеждения.
Мы не должны быть противниками прогресса, но мы призываем БДИПЧ ОБСЕ, в качестве рекомендаций:
— расширить изучение дискриминирующих аспектов цифровизации и уделить внимание сбору соответствующих фактов подобной дискриминации;
— призвать компании из сферы информационных технологий при разработке своих продуктов и систем не допускать дискриминации по признаку убеждений и верований;
— призвать мировое сообщество к защите права человека на частную жизнь и приоритетности этого права перед неконтролируемым сбором и агрегацией цифровых данных о человеке;
— выразить свою позиции в отношении приоритетности прав и достоинства человеческой личности над задачами повышения технологической эффективности во всех сферах, подвергающихся цифровой оптимизации.
Благодарим за внимание.
