• Новости проекта
Воскресенье, 7 марта, 2021
  • Войти
  • Регистрация
No Result
Показать все результаты
Гражданский Экзамен
Гражданский экзамен
Общественно-просветительский проект
  • Главная
  • Экзамен
  • Сертификаты
  • О проекте
    • Новости проекта
    • Инициаторы проекта
    • Команда проекта
  • Экспертный совет
  • Блог
  • Новости
  • Конституция 2020
  • Главная
  • Экзамен
  • Сертификаты
  • О проекте
    • Новости проекта
    • Инициаторы проекта
    • Команда проекта
  • Экспертный совет
  • Блог
  • Новости
  • Конституция 2020
No Result
Показать все результаты
Гражданский Экзамен
No Result
Показать все результаты
Главная Блог

Александр Рудаков. Искусственный интеллект и ценности: запрос на взросление

by Сергей Волобуев
2 года назад
в Блог
0 0
0
Александр Рудаков. Искусственный интеллект и ценности:  запрос на взросление
5
Поделились
143
Просмотров
Поделиться в FacebookПоделиться в TwitterПоделиться

Слова Владимира Путина о том, что лидер в сфере развития искусственного интеллекта станет «властелином мира»,  обросли множеством интерпретаций.

Между тем,  если вчитаться в смысл высказывания, то становится понятно: в нем присутствует не только постановка технологической цели, но  и озабоченность возможностью развития процесса в деструктивном, опасном для человечества направлении.

И трудно не согласиться с мыслью о том, что здесь присутствуют не только  «колоссальные возможности», но и «трудно прогнозируемые сегодня угрозы». 

И самая серьезная из которых действительно связана сегодня с монополизацией, сосредоточением «контрольного пакета» нового направления в одних руках.

Причем речь идет не только о  технологическом лидерстве, совершенстве систем, но и об их концептуальных настройках.

На сегодняшний день большинство разработчиков едины в том, что системы ИИ должны создаваться таким образом, чтобы их цели и поведение были схожи с человеческими ценностями на протяжении всей их работы. Равно как и в том, что  развитие ИИ не должно вступать в противоречие с задачами устойчивого развития,  и наносить ущерб экосистемам. Все это прописано в  «Азиломарских принципах», скрепленных подписями Курцвейла, Маска, Хокинга и ряда других авторитетных людей.

Казалось бы, все ясно, но дьявол кроется в деталях.

Технологии –  как правило, универсальны.

А вот представления о том, что такое  «ущерб экосистемам»,  могут сильно различаться у различных групп населения земного шара.  К примеру,  у активистов WWF, создающих вооруженные спецотряды для защиты редких животных, и жителей Непала и Конго, практикующих традиционные виды охоты. И про споры вокруг проблемы глобального потепления в данной ситуации также не вспомнит только ленивый. 

В вопросе о «человеческих ценностях» все, увы, еще более очевидно.  Про «ценностный разрыв» между евро-атлантическим и русским мирами сначала долго говорили западные СМИ. А затем эта тема получила развитие и в России, где стали откровенно уставать от двойных стандартов и череды бездоказательных обвинений.

А что делать если завтра некто,  получивший монополию на ИИ, поставит вопрос о глобальной системе правосудия,  объективной и беспристрастной? Какие ценности и принципы будут заложены в алгоритм?

Или представим себе создание глобальной системы социальных рейтингов, подобных той, что уже действует сегодня в Китае.

Допустим, в КНР ее наличие заставляет серьезно задуматься хулиганов, нарушителей правил дорожного движения и хронических неплательщиков по кредитам.

Но что делать, если  потенциальный создатель подобной системы в планетарном масштабе будет оценивать нас по совершенным другим принципам? Например, заинтересуется нашим мировоззрением? И будет поощрять за «правильные» убеждения, выраженные в тех социальных сетях, и карать за «ошибочные»?    

А если речь пойдет об автоматизированных системах управлениях, и придется выбирать: закрыть ТЭЦ с ее «выбросами парникового газа» или оставить без тепла живущих поблизости людей? 

Еще более остро стоит вопрос о нашей готовности ответственно и последовательно следовать ценностным ориентирам в вопросах развития ИИ.

Казалось бы, наступление цифровой эпохи требует от человечества качественно нового уровня осознанности. Однако культурный код постмодерна диктует совсем другое поведение –  инфантильное, эгоцентричное и во всех отношениях раскрепощенное.  

В этом контексте вопрос стоит сегодня даже не о том, выйдет ли ИИ из под контроля человека,  погрузив человечество в сценарий  голливудских фильмов вроде «Матрицы» или «Терминатора». 

 Речь идет  о нашей способности задать процессу ценностное направление и контролировать его на всех этапах.  Особенно на фоне продолжающейся борьбы с «репрессивной моралью» и  становящихся мейнстримом суждений о том, что никаких вечных, незыблемых ценностей нет. Ценности, мол, меняются вместе со сменой поколений, если не быстрее. Одни ценности были у бэби-буммеров, другие – у поколения «Х»,  третьи  – у миллениалов.  По разному смотрят на мир советские комсомольцы-строители БАМа,  «малиновые пиджаки» девяностых и сегодняшние хипстеры на гироскутерах.

Конечно, бросать с чувством собственного превосходства такие сентенции в лицо священнику или учительнице обществознания – безопасно и ненаказуемо.

Совсем другое дело – искуственный интеллект. В романе Артура Кларка «Одиссея-2001» описана его реакция на попытку человека изменить фундаментальные настройки заложенной в него программы. И это была грустная история.  

Очень похоже на то, что развивать ИИ, обходя «трудно прогнозируемые сегодня угрозы» сможет лишь тот, кто способен ответственно и осознанно подойти к вопросу о ценностях.

 В противном случае есть риск,  что  игровая и имитационная «аксиология» постмодерна приведет нас к неспособности передать самообучающемуся ИИ устойчивые ценностные ориентиры.  Со всеми вытекающими отсюда последствиями.

Впрочем, будем оптимистами. Возможно, что уже очень скоро будет сформирован качественно иной запрос на лидерство в сфере развития ИИ.

И лидером станет тот,  кто сможет  передать ИИ ценностный капитал человечества, сделав его по-настоящему безопасным и гуманным. Не приносящим человека в жертву экономоцентризму, а раскрывающими новые возможности для развития, совершенствования, творчества.  

Может ли хотя бы помечтать о том, чтобы таким лидером стала Россия? А почему бы и нет?  

Александр Рудаков

Об авторе: Александр Рудаков – исполнительный директор Центра гуманистической экологии и культуры

Фотография: http://www.wwworld.ru/strah-avtomatizatsii-15082011052132.htm

Сергей Волобуев

Сергей Волобуев

Next Post
Правительство отказалось от разработки плана действий по правам человека

Правительство отказалось от разработки плана действий по правам человека

Добавить комментарий Отменить ответ

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Рекомендуем

Гражданский экзамен-2020. Конституция Российской Федерации. Часть 6. Правительство Российской Федерации

Гражданский экзамен-2020. Конституция Российской Федерации. Часть 6. Правительство Российской Федерации

3 месяца назад
Ирина Нагорных: Защита от угроз технологического будущего может стать предметом нового общественного договора в России

Ирина Нагорных: Защита от угроз технологического будущего может стать предметом нового общественного договора в России

2 года назад

Популярные новости

  • Безопасное развитие евразийского пространства: гражданский диалог

    Безопасное развитие евразийского пространства: гражданский диалог

    0 поделились
    Share 0 Tweet 0
  • Михаил Смирнов: Гражданство и гражданственность

    7 поделились
    Share 7 Tweet 0
  • Елена Брызгалина: Генетическая паспортизация как вызов

    0 поделились
    Share 0 Tweet 0
  • «Он был нормальный человек. Но канонизировали его не за это» (интервью с автором новой книги о Николае II, историком Андреем Зайцевым)

    0 поделились
    Share 0 Tweet 0
  • Внимание! Идёт «Гражданский экзамен-2020»! 50 вопросов о ценностях, истории, достоянии нашей страны ко Дню России 12 июня

    3 поделились
    Share 0 Tweet 0

Присоединяйтесь к нам

Новостная рассылка

Получайте уведомления о новостных поводах в области образования России

ПОДПИСАТЬСЯ

Категории

  • Активные билеты
  • Архивы экзамена
  • Без рубрики
  • Билеты
  • Блог
  • В мире
  • В России
  • Владимир – Конституция
  • Конституция – Часть1
  • Конституция – Часть2
  • Конституция – Часть5
  • Конституция — Часть3
  • Конституция — Часть4
  • Конституция — Часть6
  • Конституция — Часть7
  • Мониторинг
  • Новости проекта
  • Поправки в Конституцию
  • ФИЛОСОФИЯ. ОБЩЕСТВОЗНАНИЕ. СТРАНОВЕДЕНИЕ

Подписывайтесь

О проекте

«Гражданский экзамен» – массовая общественно-просветительская акция – онлайн-проверка гражданских компетенций в следующих областях:
• высшие ценности российского общества, закрепленные в Конституции;
• конституционные права, свободы и обязанности граждан;
• государственное устройство России;
• избирательная система России и полномочия выборных лиц;
• основные события и этапы новейшей истории России;
• современные вызовы и угрозы безопасности личности, общества и государства.

  • О проекте
  • Контакты
  • Политика обработки персональных данных

© 2021 Гражданский экзамен

No Result
Показать все результаты
  • Главная
  • Экзамен
  • Сертификаты
  • О проекте
    • Новости проекта
    • Инициаторы проекта
    • Команда проекта
  • Экспертный совет
  • Блог
  • Новости
  • Конституция 2020

© 2021 Гражданский экзамен

Добро пожаловать!

Войти через Facebook
Войти через Google
или

Войдите в свою учетную запись

Забыли пароль? Зарегистрироваться

Создать новый профиль

Зарегистрироваться через Facebook
Зарегистрироваться через Google
или

Заполните форму для регистрации

Все поля обязательны для заполнения Авторизоваться

Получить свой пароль

Пожалуйста, введите ваше имя пользователя или адрес электронной почты, чтобы сбросить пароль.

Авторизоваться