2–3 марта 2021 года на базе Сретенской духовной семинарии при поддержке Учебного комитета Русской Православной Церкви прошла международная научно-богословская конференция «Бог — человек — мир». Форум состоялся с использованием гранта Президента Российской Федерации.
Участники форума обсуждали богословские, философские и этические вопросы внедрения передовых технологий в жизнь человека.
В конференции приняли участие ученые из Российской академии наук, МГУ, Оксфорда и духовных семинарий России и других стран, ученые и богословы из Белоруссии, Сербии, Франции, США, кандидаты и доктора наук, молодые исследователи.
На форуме выступил председатель Издательского Совета Русской Православной Церкви, председатель комиссии Межсоборного присутствия по вопросам общественной жизни, культуры, науки и информации митрополит Калужский и Боровский Климент.
Уже давно человечество мечтает переложить обслуживающий труд на плечи «умных» машин. Современная наука напряженно стремится к созданию искусственного интеллекта (ИИ). Кажется, еще немного усилий, и восторжествует человеческая гениальность: человек уподобится своему Творцу. Неужели создание самостоятельной разумной сущности — дело недалекого будущего?
Думаю, по многим причинам это не реально в просматриваемой перспективе, чтобы начинать серьезно относиться к угрозе со стороны ИИ в том отношении, как это прогнозируют фантасты и футурологи. Но уже сегодня перед человечеством встают проблемы, связанные с разработкой и внедрением технологий, имитирующих, а по скорости и объемам обработки информации — многократно превосходящих интеллектуальные способности человека. Остановлюсь на двух вопросах: свободе выбора и глобальном контроле со стороны информационных технологий.
Начну со свободы выбора. Как это ни странно, мы давно живем в эпоху, когда от решения запрограммированных устройств зависит сохранение мира на Земле. С 80-х годов прошлого столетия у нас и в США созданы военные системы гарантированного доведения приказов в условиях глобальной ядерной войны. Электронные машины уже более полувека отвечают за нанесение ответного удара на основании общего массива информации от разнообразных источников, в том числе от сейсмодатчиков. Именно созданные человеком алгоритмы анализа этих данных определяют тонкую грань между миром и войной на всей планете.
В городах водители автотранспорта делегируют право выбора маршрута «навигатору» — программе, которая определяет оптимальное направление движения, обрабатывая актуальные данные о дорожной ситуации. Пользуясь услугами современной авиации, мы и не предполагаем, что значительную часть полета (в том числе и самую сложную — посадку) выполняет автопилот по алгоритмам, заложенным в бортовую вычислительную машину.
Современное сельское хозяйство строится на постоянном наблюдении за посевами на основании компьютерного анализа снимков полей. А первые беспилотные комбайны уже доказали свою экономическую эффективность на полях нашей страны. Вообще во всех без исключения отраслях экономики определяющим фактором эффективности является использование высокоточных автоматизированных систем и новейшего программного обеспечения. В будущем эта тенденция сохранится.
Таким образом, ИИ уже сегодня широко используется в народном хозяйстве. Заложенные в современные вычислительные машины алгоритмы позволяют сохранять мир (в глобальном смысле) и безопасность (на транспорте и в быту), не требуя от человека постоянного волеизъявления.
Но сейчас ИИ имеет эту важную, но исключительно прикладную функцию, и до тех пор, пока он является лишь программой с заложенным человеком алгоритмом действий, опасности он не представляет. Современные ученые называют тот ИИ, с которым мы имеем дело «слабым искусственным интеллектом». Согласно свидетельствам практиков использования этих технологий, в ближайшем будущем, так называемый «сильный ИИ», когда машина сможет мыслить и осознавать себя, а значит и принимать полностью самостоятельные решения, не может быть создан в принципе. Но опасность существует и сейчас, и заключается она как раз в том, что программирует алгоритм человек, а что он решает закладывать в качестве принципа принятия решения машиной может зависеть, в том числе, и от нравственных установок или их отсутствия.
Однако технологический прогресс помимо заманчивых благ цивилизации таит в себе духовную опасность. Речь идет о соблазне переложить на машину не только сохранение и обеспечение жизни и здоровья людей, но и право альтернативного выбора, и наступающую вследствие него моральную ответственность. Каждый подобный выбор независимо от внешних обстоятельств совершается в душе человека и изменяет ее, приближая или отдаляя от Бога.
Чрезвычайно пагубно обманываться иллюзорностью греха даже в виртуальном мире, созданном при помощи ИИ. Тем более не следует отказываться от своей воли и доверяться компьютерной программе в тех сферах жизни, где крайне важен личный выбор.
Сегодня для получения доступа к любому электронному сервису необходимо дать согласие на сбор и обработку личных данных. Без них смартфон, который есть у большей части населения планеты, превращается в примитивный телефон.
В современном Китае существует система социального рейтинга частных лиц, который формируется по данным опубликованных в интернете черных и красных списков государственных органов и компаний, а также на основании сведений, накопленных центральным банком и частными платформами сбора личных данных (Алибаба, Вичат и др.). Рейтинг понижается, например, за просрочку выплат по банковскому кредиту, опасное вождение, курение в неположенном месте и даже за чрезмерно активную покупку видеоигр. В настоящее время использование государством социального рейтинга граждан отрицается, но он учитывается работодателями, банками и частными компаниями.
Например, на основе высокого внутреннего рейтинга пользователи системы Алипэй могут по всему Китаю без залога брать напрокат велосипеды, повербанки, пользоваться услугами каршеринга, а также получить кредит «в один клик». Но вместе с тем, те, у кого низкий рейтинг, рискуют получить отказ при приеме на работу. Уже не первый год обсуждается возможность введения общегосударственного социального рейтинга граждан на основе применения системы распознавания лиц. Казалось бы, всё справедливо, но насколько машина будет совершенна в идентификации, насколько компетентна в определении судьбы человека? Ведь она не знает ни сострадания, ни милосердия.
С недавнего времени российское законодательство предписывает в некоторых случаях оснащать системой видеонаблюдения даже православные храмы. Добрался электронный пастух и до Свято-Троицкого собора в г. Калуге, и до московского метрополитена. Пока он только хранит видео, но кто знает, потребует ли безопасность будущего общества непрерывной обработки ИИ видеопотоков с миллионов и миллиардов камер, расположенных повсюду: в магазинах и офисах, в кафе и в общественном транспорте, на стадионах и в храмах.
Останавливает такого рода угрозу тотального контроля над человеком отсутствие достаточного пространства для хранения и обработки такого невероятного объема информации, а также достаточного количества энергии для обслуживания неких «вселенских» хранилищ данных. Но все же, поскольку локальные системы, внедренные в конкретном городе или даже стране, имеют тенденцию к масштабированию, так что это, возможно, вопрос только лишь времени, пускай и достаточно длительного.
Сбор данных в современном мире подобен сбору пошлины мытарями во времена земной жизни Христа. Никто не может пройти беспрепятственно мимо стола сборщика подати. Большинство жителей планеты уже в этом столетии ощутит всю силу «технологической мытницы». Позволительно ли давать подать новому кесарю? Ответ на этот вопрос тот же, что дал Христос две тысячи лет: «Отдавайте кесарево кесарю, а Божие Богу» (Мф. 22, 21).
С 2015 г. в США существует культ ИИ. Его основатель Энтони Левандовски утверждает, что вскоре ИИ станет настолько всеведущим и всесильным, что уподобится Богу. Но в этом году его движение Way of the Future было ликвидировано как религиозная организация. Признавая, что, прежде всего, Бог — не творение человека, а Бог есть САМ Творец всего мира, мы должны поклоняться Ему «в духе и истине» (Ин. 4, 23), каких бы высот ни достигало развитие наук и технологий.
Кроме того, весьма настораживает, что накопленный научный потенциал в области психологии, социологии и естественных наук уже сегодня с большой уверенностью позволяет не только прогнозировать поведение социума, но и влиять на него определяющим образом, кратно превосходя тоталитаризм XX века. Быть может апокалипсис, который изображен Ф. М. Достоевским в легенде о Великом Инквизиторе (роман «Братья Карамазовы»), в грядущем информационно-технологическом укладе сможет воплотиться и буквально: хлеб в обмен на волеизъявление жить во Христе.
Но более вероятной ситуацией будет то, что общественная мораль будет разлагаться по причине вседозволенности. «Они будут любить нас, как дети, за то, что мы им позволим грешить, — говорит Инквизитор. — Мы скажем им, что всякий грех будет искуплён, если сделан будет с нашего позволения». В этом случае следование евангельским принципам будет ненавистно для подавляющего большинства, сжившегося с грехом. Христианская жизнь станет мученичеством в мире, забывшем Христа и Его Церковь.
В силу особенностей русской культуры наше Отечество может извлечь пользу от грядущей информационно-технологической трансформации человечества. Ведь исповедание Христа «пред человеками» — ответственное следование Его заветам, осуществление Евангельских норм жизни — пролагает путь к тому, что и Сын Человеческий исповедает нас пред Ангелами Божиими (см. Лк. 12, 8). Великий мыслитель, а впоследствии монах Троице-Сергиевой Лавры К. Н. Леонтьев видел историческую миссию России в христианском подвиге послушания. Дисциплина нового технологического уклада может открыть миру высоту этого подвига и принести свой плод «во время свое» (Пс. 1, 3).
Таким образом, эпоха технологических «мытарств» — время испытаний христианской веры может стать настолько же спасительной для человеческой души, как и во времена преподобного Сергия, как и при гонениях на Русскую Церковь в XX веке. (...)
Современным христианам особенно важно иметь духовную жизнь, чтобы одухотворять современный мир свидетельством вечной Истины. Вызовы, связанные с разработкой и использованием ИИ, напоминают нам о необходимости духовного подвига и самодисциплины. Ведь под перманентным надзором машин вся жизнь христианина неизбежно становится непрерывным исповедничеством Сына Божия и Его Евангелия Правды.
В заключение необходимо сказать, что двумя рассмотренными вопросами далеко не ограничиваются все угрозы, которые несет человеку и обществу ИИ.
Одной из задач, которую ставит перед собой рабочая группа комиссии Межсоборного присутствия по рассмотрению проблематики, связанной с развитием искусственного интеллекта, является выработка списка опасений, которые видят в развитии ИИ православные христиане. Есть много ложных страхов и переживаний, связанных с отсутствием информации или с мифологизацией этой темы, а есть и реальные вопросы, которые может сформулировать только человек, имеющий христианское мировоззрение. Нам принципиально важно представить себе тот объем реального беспокойства, которое вызывают технологии ИИ у христианского сообщества. Предлагаю участникам конференции сформулировать те вопросы, которые могут стать началом такого перечня, и необходимо в будущем продолжить изучение вопроса об ИИ со всех сторон, и составить полный список опасений, связанных с бесконтрольным использованием ИИ.
Сайт Сретенской духовной семинарии