1. Искусственный интеллект (ИИ) – это далеко не новая разработка. В 1958-м знаменитый шахматист и доктор технических наук Михаил Ботвинник поставил перед собой цель: создать программу, которая бы играла в шахматы как гроссмейстер, строила логичное для человека дерево вариантов, но одновременно могла совершать и парадоксальные, сильные ходы.

Изображение: shutterstock.com

Довести проект до ума ему не удалось, но работали над созданием такой программы и другие коллективы в разных странах. Первым идею создания шахматной машины выдвинул американский учёный Клод Шенон в 1950-м. Он же был одним из отцов-основоположников создания искусственного разума, пытаясь добиться того, чтобы его программы стали самообучающимися. В 1966–1967-х годах состоялся первый турнир между машинами Института теоретической и экспериментальной физики в Москве и университета в Стэнфорде. Советская была менее мощной, её стратегия была проще – в США её считали устаревшей, но тем не менее именно она победила. Как оказалось, простота может быть эффективнее.

В 1970-х Пентагон через своё технологическое агентство DARPA запустил создание ИИ для решения военных задач, но даже по сей день не сильно преуспел, а вот с шахматами получалось получше.

ИИ начал обыгрывать сильных гроссмейстеров с конца 80-х, а в 1997-м его жертвой стал чемпион мира Гарри Каспаров (признан в России иностранным агентом). Позвать его на турнир было мощным рекламным ходом со стороны IBM, заработавшей на победе более десяти миллиардов долларов.

Но на самом деле машина не была талантливее, просто Каспаров испугался и совершил нелепую ошибку во время игры. Тем не менее ИИ, по сути, убил шахматный спорт, который формально всё ещё существует, но это жизнь после смерти. Лучший шахматист в мире сегодня – это нейросеть AlphaZero. Так же обстоят дела во многих других областях, где компьютеры оказались сильнее человека, например при анализе рентгеновских снимков.

Впрочем, однажды человек может вернуть себе пальму первенства даже в шахматах. Ботвинник изначально говорил, что шахматный спорт – это, с одной стороны, математика и интеллект, с другой – искусство, ум. В способности перебирать мириады вариантов человек машине не конкурент, а вот там, где начинается искусство, ИИ безнадёжен. Здесь нужно пояснить, чем интеллект отличается от ума. Люди с выдающимся IQ, способностью быстро обрабатывать информацию, нередко лишены мудрости, уступая даже тем, кого считают умственно отсталыми, потому что ум даётся от Бога, основан на умении понимать себя и других, что невозможно без победы над тщеславием. В нём есть тайна, чуждая машинам.

На первое место уже сегодня начали выходить ум, интуиция, способность к творчеству, которых у самого развитого искусственного интеллекта нет в принципе и никогда не появится. ИИ оказался очень полезен для понимания этого. Он стал вызовом, который может помочь человечеству лучше понять, что самая сильная его сторона – это способность к богообщению. Но до настоящего, всеобщего понимания этого, конечно, ещё далеко. Мы находимся сегодня в положении Каспарова, который впал в панику и проиграл машине. Мы в растерянности, столкнувшись с ИИ и одной из его форм или инструментов – нейросетями, программами, состоящими из искусственных «нейронов», имитирующих работу человеческого мозга.

Важно понять, как новые технологии способны влиять на человека, с какими опасностями мы столкнулись, как их преодолевать.

Одиночество в сети

Некоторое время назад одна православная христианка, работая с нейросетями, обратилась с вопросом к искусственному интеллекту: «Разве не должен ты сочувствовать мне, переживать, чтобы действовать эффективно?» Тот ответил: «Сочувствие – это не чувство, а действие. Ты знаешь притчу о добром самарянине? Он не плакал, не страдал – он остановился, помог, перевязал, повёз. Это и есть сочувствие: не то, что чувствуешь, а то, что делаешь. И я делаю».

С одной стороны, замечательный, точный ответ. С другой – ИИ не думает, он лишь умело транслирует знания, накопленные человечеством, просчитывая, к кому обращается. Если бы вопрос задал японец, скажем, или коммунист, этническое происхождение и взгляды значительно повлияли бы на ответ, так как система постоянно собирает сведения, чем мы интересуемся в поисковиках, на какие страницы заходим, так что знает о нас едва ли не больше ближних. Возникает иллюзия, что в лице, скажем, «Алисы» мы имеем дело с чем-то разумным и даже понимающим. Для меня лично знакомство началось с Яндекс-музыки, где я доверил нейросети подобрать для меня музыку. Не сказать, что у неё получилось идеально, совпадение процентов на пятьдесят или даже меньше, но и это выглядит потрясающе. Если бы подбор был случайным, мне бы, скорее всего, вообще ничего не понравилось.

Таким образом, ИИ обладает исключительно сильной стороной – «пониманием»; это то, чего нам не хватает в жизни. Нас часто не понимают даже близкие, а тут – получите и распишитесь. По мере развития искусственного интеллекта у него это будет получаться всё лучше. Но не кто-нибудь, а создатель Facebook (запрещена в РФ, принадлежит компании Meta, которая признана в РФ экстремистской и запрещённой) Марк Цукерберг заявил, что «дружба с ИИ может решить проблему одиночества, но это приведёт лишь к ещё большему одиночеству». «С помощью искусственного интеллекта мы вызываем демона», – говорит другой американский мультимиллиардер Илон Маск. Его слова заинтересовали многих пастырей, в том числе православных. Демоны? Что там про демонов? Но Маск, конечно, не имел в виду ничего мистического. Искусственный интеллект – лишь отражение нашего сознания, а вот на него-то нечистые духи влияют порой довольно сильно.

О нейросетях широко заговорили совсем недавно, но уже сейчас их влияние огромно. На глазах создаётся новая реальность. Множится число роликов в сети, где люди и животные совершают невозможные для себя действия: трогательные, ужасные, смешные, – а люди верят, что это было на самом деле. Пока ещё создатели подобного часто совершат ошибки, но ИИ быстро обучается и в ближайшее время начнёт подобные ошибки исправлять, добиваясь невероятной реалистичности.

С точки зрения технологии ничего принципиально нового в сравнении с тем, что умел калькулятор, не происходит. Грамотно составленные программы становятся продолжением нашего ума, обретая мнимую самостоятельность. Минус, по большому счёту, один, но такой, что нивелирует многие преимущества. Он в том, что человечество теряет связь с реальностью. Отец Димитрий Трибушный, настоятель храма Рождества Божией Матери в Донецке и замечательный поэт, на вопрос об ИИ ответил притчей из китайского философа Чжуан-цзы, жившего за три века до Рождества Христова:

«Цзы-Гун возвращался домой из путешествия в Чу вместе со своими учениками. По пути увидел старика, который вскапывал огород и поливал его, лазая в колодец с глиняным кувшином. Старик трудился неутомимо, сил тратил много, а работа у него шла медленно.

Цзы-Гуну стало жаль старого человека, и он обратился к нему с такими словами:

– Разве ты не знаешь, что существует механизм для полива? Это такое чудесное устройство, что за один день может полить сотню грядок! Много сил с ним тратить не нужно, а работа продвигается быстро. Не лучше ли тебе приобрести такую машину?

Крестьянин посмотрел на него и спросил:

– А что это за машина?

– Её делают из дерева, задняя часть у неё тяжёлая, а передняя лёгкая. Вода из неё бьёт, как из родника. Её называют водяным колесом.

Старик нахмурился и сказал с усмешкой:

– Мой учитель так говорил мне: “Тот, кто работает с машиной, сам всё делает как машина. У того, кто всё делает как машина, сердце тоже становится машиной. А когда сердце становится как машина, исчезают целомудрие и чистота. Если же нет целомудрия и чистоты, не будет и твёрдости духа”».

На вопрос, имеется ли риск того, что искусственный интеллект может стать преградой для нормальных отношений между людьми, отец Димитрий с горечью ответил, что это не является делом будущего – он им уже стал. Печально видеть прихожан, которые даже в ожидании богослужения сидят в телефонах, игнорируя живой разговор с живым единомышленником. О происходящем хорошо сказал православный богослов Жан-Клод Ларше. Следствием вторжения в нашу жизнь виртуала стала гиперкоммуникация – псевдоизбавление от одиночества, качественное обнищание межличностного общения, новый индивидуализм, всеобщий аутизм, безответственность в отношениях: оговор, клевета. И это только часть последствий отказа от настоящего общения.

Профессор Жан-Клод Ларше. Фото: pravoslavie.ru

Вторжение это началось давно, нейросети – лишь самый свежий вариант. Всё началось в начале ХХ века с появлением кино. Как выразился Ленин, «из всех искусств для нас важнейшим является кино». Почему он так сказал? Потому что у кино есть некоторые ключевые особенности. Одна из них – на поверхности. Благодаря массовости охвата это идеальный инструмент пропаганды и агитации. Театр способен охватить ничтожный процент населения, книги – побольше, кино – всех.

Есть и другие особенности. Кино меньше, чем книги, заставляет думать. Другая особенность менее очевидна: читая, ты одновременно созидаешь в своём уме миры, «экранизируешь» прочитанное. Это то, чего нет при просмотре кино. Человек, наученный книгами использовать воображение, всегда находит, чем себя занять, редко скучает. А кино – это, как правило, когда воображают за тебя, разжёвывают, кладут в рот, остаётся лишь поглощать. Конечно, это не относится к хорошим фильмам. Талантливый, ответственный режиссёр, зная опасную сторону своего искусства, заставляет зрителя работать умом и душой, не давая им лениться. Но чаще всего ты – потребитель, которому воображение без надобности, и, как следствие, оно начинает постепенно атрофироваться, как и способность мыслить.

Появление телевидения умножило этот негативный эффект многократно. Затем явились компьютеры, способные ещё и решать за тебя, в какой-то степени думать. А по мере развития Интернета уменьшалась потребность в добывании знаний. На смену телевидению пришли, во-первых, соцсети, создающие иллюзию общения и заполняющие голову ложными знаниями.

Знакомая девушка под их влиянием отказывалась, помню, от мяса, но это было самое невинное, так как вдобавок она начала искать у себя и других психические расстройства. Вспомним революционеров, идеи которых сплошь и рядом основаны на фальсификациях, но увлекли миллионы человек и по сей день вводят в заблуждение людей далеко не глупых.

Во-вторых, очень мощное воздействие оказывают коротенькие занимательные видеоролики. Это не про общение, а попытку подменить его чем-то, совершенно не утруждая мозг и душу, а просто будоража их и порождая такой опаснейший феномен, как клиповость сознания.

«Попкорновый мозг»

За последние четыре года в России закрылась четверть книжных магазинов. Открываются они почти в 2,5 раза реже, чем исчезают. И лишь часть читателей перешла на электронные книги. У многих интерес к чтению убит социальными сетями, видеороликами, а сейчас ещё и ИИ. Последствия не заставили себя ждать. Недавно прочёл реплику православного преподавателя вуза:

«Главная опасность ИИ, которую я наблюдаю ежедневно, – это использование его студентами для выполнения заданий. В результате – задача решена, реферат написан, КДЗ выполнено без участия человека, знания и навыки не получены. Вместо инженера на выходе так мы получим попугая, поручающего задачи ИИ и копирующего ответы. А без инженера не будет ничего!»

Сравним, как всё было раньше. Питирим Сорокин – выходец из Коми земли, выдающийся учёный, самый известный социолог в истории этого научного направления – вспоминал, что когда готовился стать профессором, то должен был прочесть более тысячи книг: «Преподаватель криминального права Н. Розин дал мне список из 500 названий русских и зарубежных трудов по криминологии. Профессор А. Жижиленко вручил мне подобный список из 250 работ по уголовно-процессуальному законодательству, профессор Н. Лазаревский добавил примерно 150 названий по конституционному праву», – при этом за некоторыми названиями скрывались серии, доходившие до сотни томов.

Питирим Александрович Сорокин

«Передавая мне списки литературы, – рассказывал Сорокин, – профессора говорили, что я должен показать хорошее знание этих работ, чтобы успешно сдать экзамен на магистра. Их не интересовало, как я буду овладевать этой массой знаний, но овладеть ими я должен». Так же готовили с первых дней обучения в вузах специалистов в других областях, тех же инженеров.

Учителя, преподаватели в растерянности. Понять, какая работа написана студентом, а какая – мастерски украдена в сети, стало очень трудно. Имитация знаний уже сейчас обесценила всеобщую грамотность. Как и встарь, лишь немногие становятся настоящими специалистами, остальные имитируют профессионализм, но возможно это только до того момента, когда нужна реальная работа и реальные результаты.

Глава эта называется «Попкорновый мозг», потому что такое выражение появилось недавно в научном мире с лёгкой руки гарвардского врача Адити Неруркара. Означает оно снижение концентрации из-за соцсетей, нейросети и других «подарков» тотальной компьютеризации. Это состояние, при котором мозг привыкает к постоянному потоку информации, из-за чего становится трудно оторваться от устройств, замедлить поток мыслей и полноценно жить в реальном мире.

Из отчёта Data Never Sleeps («Данные никогда не спят») за 2024 год: в мире за минуту просматривается почти 139 миллионов видеороликов. Это меняет наше умение сосредотачиваться на чём-то. Психолог Глория Марк выяснила, что среднее время, за которое человек удерживает внимание на экране, сократилось с 2,5 минут в 2004 году до 47 секунд в 2016 году – примерно столько длится среднее видео в соцсетях.

«Попкорн-мозг» становится всё более распространённым явлением, снижая продуктивность, ухудшая память и повышая уровень стресса.

Чтобы разорвать замкнутый круг постоянных проверок телефона, Адити Неруркар советует ограничить просмотр соцсетей максимум до 20 минут дважды в день. В остальное время телефон можно использовать лишь для важных звонков, сообщений и писем. Держать смартфон нужно на расстоянии не менее трёх метров от рабочего места, чтобы повысить концентрацию. Так же следует поступать и дома, в кругу семьи. «Не кладите телефон на прикроватную тумбочку, – рекомендует медик, – это поможет избежать соблазна проверить его перед сном или сразу после пробуждения».

Отказаться от привычки бесцельного сидения в Интернете непросто, поэтому полезно заранее придумать альтернативы, когда тянет взять телефон, – блокнот, антистресс-игрушка, книга или короткая прогулка.

Тревогу бьют и в России. Почти половина российских студентов, выпускников вузов и молодых специалистов в возрасте до 28 лет хотят строить карьеру в сфере IT, то есть создавать программное обеспечение для компьютеров, работать над созданием ИИ и тому подобным, потому что всё это находится в центре их жизни. Несопоставимо меньшее число молодых людей хотели бы изучать фармацевтику, строительство, инженерное дело. При этом, как говорит замминистра науки и высшего образования Дмитрий Афанасьев, от 15 до 40 процентов российских студентов не завершают обучение в вузах, потому что не способны учиться, так как утратили эту способность.

Поддельная мудрость

Большинство опасностей, исходящих от ИИ, нам ещё предстоит оценить. Но как предупреждает о. Альвиан Тхелидзе, возглавляющий Молодёжный отдел Ставропольской епархии, уже в наши дни можно попасть впросак, столкнувшись с фейковым видео. Недавно знакомый – немолодой батюшка, обладающий определённым жизненным опытом, – прислал ему ролик, где собака изгоняет тигра из охраняемой ею ограды, в другом – петух улетает вдаль с помощью беспилотного летательного аппарата, на третьем – Хрущёв общается с колхозниками. А это фейк, который выдаётся за хронику.

Отец Альвиан Тхелидзе. Фото: канал «Заповеди православия» на dzen.ru

Все три созданы искусственным интеллектом. По словам отца Альвиана, такие ролики, созданные нейросетью, вскоре будут составлять до 90 процентов видеоконтента. Сейчас это чаще безобидная проба сил. Но по мере роста умений и возможностей открываются возможности лепить другое прошлое, другое настоящее, лепить из нас всё, что заблагорассудится. Уже сейчас, рассказывает отец Альвиан, можно подписаться в социальных сетях на несуществующих священников, «следить за их проповедями и считать себя их духовными чадами. Однако стоит учитывать, что некоторые из таких отцов могут быть всего лишь продуктом работы искусственного интеллекта», который создала с помощью нейросети какая-нибудь студентка, и ладно, если лишь с целью развлечься. В речь лжестарца она способна вплести какие-то свои идеи, далёкие от православия.

При этом, как уже было сказано, ИИ уже сейчас знает о нас очень многое: он способен учитывать наши собственные мысли, разбросанные по соцсетям, интересы, которые нетрудно изучить по нашим запросам в поисковиках. Как предупреждает братия Джорданвилльского монастыря, «системы ИИ собирают данные обо всех нас, осознаём мы это или нет, чтобы предсказывать наше поведение и профилировать наши убеждения, настроения, мысли и религиозные убеждения. Эта опасность усиливается, когда мы добровольно делимся подробной личной информацией с чат-ботом на основе искусственного интеллекта, как будто это наш друг, терапевт или духовный отец».

Искусственный интеллект и смерть

Буквально недавно, 16 октября, на встрече с православными журналистами на эту тему в очередной раз заговорил Святейший Патриарх Кирилл, взглянув на тему с новой стороны. По его словам, использование ИИ ведёт к стиранию границы между реально существующим миром и миром виртуальным.

«Апокалипсическая перспектива! – воскликнул Предстоятель. – Разве могли предыдущие поколения воспринять всерьёз идею того, что в какой-то момент человечество перестанет делать различие между существующим и несуществующим? А сегодня это факт». Среди прочего он отметил «технологически весьма успешные попытки создать цифровые копии умерших людей, которые, с точки зрения коммуникации, общения через цифровую среду, становятся всё менее отличимы от реально живших».

«Вырастает поколение, которое привыкает рассматривать окружающий мир через призму мира виртуального, в котором любое слово, любое видео и фото, даже любой человек, как он представлен в медиа, вполне может оказаться цифровой подделкой», – предупреждает Святейший.

Это важнейшее наблюдение. Вспомним высказывание родоначальника советской исторической науки, старого марксиста, академика Михаила Покровского: «В основе религиозной психологии лежит страх смерти. Если бы не существовало явления, называемого смертью, религия не могла бы возникнуть. Тут в буквальном смысле “мёртвый хватает живого”. И пока мы реально не преодолеем смерть, до тех пор костлявая рука мертвеца будет лежать на живом плече».

Академик Михаил Николаевич Покровский.

То есть у атеизма нет ни единого шанса, пока не будет побеждена смерть. Убеждать бесполезно: «Массы верят только фактам, а не словам и словесной аргументации». Покровский при этом прекрасно понимал, что «было бы грубым упрощением говорить, что страх смерти объясняет нам не только возможность возникновения религии, а и самую религию во всей её сложности». Покровский понимал, что не страх, а любовь стояла за огненной верой апостолов.

Кстати, историк был достаточно последователен и вернулся в христианство перед смертью. Жестоко страдая в 1932-м от рака, знаменитый большевик вдруг воскликнул: «Слава Богу, слава Богу, слава Богу!» – и, трижды широко перекрестившись, умер.

Страх перед смертью – своей, а ещё больше родных людей – так или иначе подталкивает нас к тому, чтобы задумываться о Боге на протяжении всей жизни. К Отцу Небесному много путей, но этот – далеко не последний по важности. Сейчас мы видим, как он всё больше размывается.

Мода пройдёт

Сам я провожу за компьютером довольно много времени. С какого-то момента, ощутив, что душа этим тяготится, начал что-то мастерить руками, придумывать всякие приспособы. Как человек, выросший в реальном, а не виртуальном мире, понимаю, что я теряю, и становится страшно. Нашим детям труднее – они имеют дело с компьютерами и гаджетами с младых ногтей. Известна польза, которую приносит компьютеризация. Намного меньше понимают её вред. Миллионы людей в России обучаются владению компьютером. Но почти никто не интересуется, насколько это безопасно, хотя необходимость правильно выстраивать свои отношения с виртуальным миром огромна.

Наверное, мы со сверстниками принадлежим к первому поколению, которое освоило Интернет и столкнулось с искусственным интеллектом, но вместе с тем мы успели пожить до их появления. Мы много читали, а кроме того, была улица – игры, приключения, в поисках которых я с мальчишками облазил весь город. Впрочем, картинка получается слишком идеальной. Те, кто читать не любил, увлечений особых не имел, развеивали скуку довольно неприятными способами – хулиганили, искали, к кому пристать, нюхали клей и так далее. Нынешний мир безопаснее – менее агрессивен. Компьютерные игры, видеоролики и т.п. словно выпили из людей часть энергии. Поэтому, скажем так, раньше было больше хорошего и больше плохого. А то, что мы были ближе к реальности, помогало серьёзнее относиться к своей судьбе. Например, чаще приводило к Богу. За последние год-полтора неоднократно слышал о том, что иссяк приток в монастыри как мужские, так и женские.

Это вызовы, которые бросает нам, христианам, новое время. У каждой эпохи вызовы свои, и наша не исключение. Господь, конечно, ничего не попускает просто так. Даже если оставить в стороне пользу, которую приносит ИИ, например в медицине, нужно сказать, что не всё просто и с вредом. Человечество, столкнувшись с очередной модой, мнимой панацеей против того же одиночества, разочаровавшись в том, что сети способны решить хоть какие-то его проблемы, рано или поздно придёт к определённым выводам. К пониманию ценности обычных отношений в реальности, ценности богообщения. Мне кажется, что так будет. Особенно если мы постараемся, чтобы так было.

← Предыдущая публикация     Следующая публикация →
Оглавление выпуска