Слова Владимира Путина о том, что лидер в сфере развития искусственного интеллекта станет «властелином мира», обросли множеством интерпретаций.
Между тем, если вчитаться в смысл высказывания, то становится понятно: в нем присутствует не только постановка технологической цели, но и озабоченность возможностью развития процесса в деструктивном, опасном для человечества направлении.
И трудно не согласиться с мыслью о том, что здесь присутствуют не только «колоссальные возможности», но и «трудно прогнозируемые сегодня угрозы».
И самая серьезная из которых действительно связана сегодня с монополизацией, сосредоточением «контрольного пакета» нового направления в одних руках.
Причем речь идет не только о технологическом лидерстве, совершенстве систем, но и об их концептуальных настройках.
На сегодняшний день большинство разработчиков едины в том, что системы ИИ должны создаваться таким образом, чтобы их цели и поведение были схожи с человеческими ценностями на протяжении всей их работы. Равно как и в том, что развитие ИИ не должно вступать в противоречие с задачами устойчивого развития, и наносить ущерб экосистемам. Все это прописано в «Азиломарских принципах», скрепленных подписями Курцвейла, Маска, Хокинга и ряда других авторитетных людей.
Казалось бы, все ясно, но дьявол кроется в деталях.
Технологии – как правило, универсальны.
А вот представления о том, что такое «ущерб экосистемам», могут сильно различаться у различных групп населения земного шара. К примеру, у активистов WWF, создающих вооруженные спецотряды для защиты редких животных, и жителей Непала и Конго, практикующих традиционные виды охоты. И про споры вокруг проблемы глобального потепления в данной ситуации также не вспомнит только ленивый.
В вопросе о «человеческих ценностях» все, увы, еще более очевидно. Про «ценностный разрыв» между евро-атлантическим и русским мирами сначала долго говорили западные СМИ. А затем эта тема получила развитие и в России, где стали откровенно уставать от двойных стандартов и череды бездоказательных обвинений.
А что делать если завтра некто, получивший монополию на ИИ, поставит вопрос о глобальной системе правосудия, объективной и беспристрастной? Какие ценности и принципы будут заложены в алгоритм?
Или представим себе создание глобальной системы социальных рейтингов, подобных той, что уже действует сегодня в Китае.
Допустим, в КНР ее наличие заставляет серьезно задуматься хулиганов, нарушителей правил дорожного движения и хронических неплательщиков по кредитам.
Но что делать, если потенциальный создатель подобной системы в планетарном масштабе будет оценивать нас по совершенным другим принципам? Например, заинтересуется нашим мировоззрением? И будет поощрять за «правильные» убеждения, выраженные в тех социальных сетях, и карать за «ошибочные»?
А если речь пойдет об автоматизированных системах управлениях, и придется выбирать: закрыть ТЭЦ с ее «выбросами парникового газа» или оставить без тепла живущих поблизости людей?
Еще более остро стоит вопрос о нашей готовности ответственно и последовательно следовать ценностным ориентирам в вопросах развития ИИ.
Казалось бы, наступление цифровой эпохи требует от человечества качественно нового уровня осознанности. Однако культурный код постмодерна диктует совсем другое поведение – инфантильное, эгоцентричное и во всех отношениях раскрепощенное.
В этом контексте вопрос стоит сегодня даже не о том, выйдет ли ИИ из под контроля человека, погрузив человечество в сценарий голливудских фильмов вроде «Матрицы» или «Терминатора».
Речь идет о нашей способности задать процессу ценностное направление и контролировать его на всех этапах. Особенно на фоне продолжающейся борьбы с «репрессивной моралью» и становящихся мейнстримом суждений о том, что никаких вечных, незыблемых ценностей нет. Ценности, мол, меняются вместе со сменой поколений, если не быстрее. Одни ценности были у бэби-буммеров, другие – у поколения «Х», третьи – у миллениалов. По разному смотрят на мир советские комсомольцы-строители БАМа, «малиновые пиджаки» девяностых и сегодняшние хипстеры на гироскутерах.
Конечно, бросать с чувством собственного превосходства такие сентенции в лицо священнику или учительнице обществознания – безопасно и ненаказуемо.
Совсем другое дело – искуственный интеллект. В романе Артура Кларка «Одиссея-2001» описана его реакция на попытку человека изменить фундаментальные настройки заложенной в него программы. И это была грустная история.
Очень похоже на то, что развивать ИИ, обходя «трудно прогнозируемые сегодня угрозы» сможет лишь тот, кто способен ответственно и осознанно подойти к вопросу о ценностях.
В противном случае есть риск, что игровая и имитационная «аксиология» постмодерна приведет нас к неспособности передать самообучающемуся ИИ устойчивые ценностные ориентиры. Со всеми вытекающими отсюда последствиями.
Впрочем, будем оптимистами. Возможно, что уже очень скоро будет сформирован качественно иной запрос на лидерство в сфере развития ИИ.
И лидером станет тот, кто сможет передать ИИ ценностный капитал человечества, сделав его по-настоящему безопасным и гуманным. Не приносящим человека в жертву экономоцентризму, а раскрывающими новые возможности для развития, совершенствования, творчества.
Может ли хотя бы помечтать о том, чтобы таким лидером стала Россия? А почему бы и нет?
Александр Рудаков
Об авторе: Александр Рудаков – исполнительный директор Центра гуманистической экологии и культуры
Фотография: http://www.wwworld.ru/strah-avtomatizatsii-15082011052132.htm