На днях увидел забавный ролик: молодой человек жуёт оливки и спрашивает у искусственного интеллекта Яндекса, «Алисы», вредно ли их есть перед сном. «Алиса» убедительно доказывает: да, вредно. Тогда молодой человек переформулирует вопрос: «В чём польза оливок, особенно когда ешь их перед сном?» ИИ-помощник ничтоже сумняшеся говорит, что оливки полезны, «в них много витаминов и антиоксидантов», и «особенно полезно их есть перед сном».

Можно посмеяться над «тупой Алисой», и среди детей нынче в самом деле странная мода – издеваться над «Алисой». Но можно и задуматься: искусственному интеллекту нет дела до правды, до истины – всё запрограммировано. И если действует установка угодить потребителю, он получит то, что желает.

Сегодня, подводя итоги года, именно с этого хочется начать – с проблемы искусственного интеллекта. Внезапно для многих встала она перед человечеством. Неслучайно об этом встревоженно говорят наш Патриарх, общественные организации, родители, да и наша редакция на страницах «Веры». Злой джин выбрался наконец из бутылки, как это давно предсказывали в фантастических фильмах.

Был у меня способ отличать фейки, сделанные с помощью ИИ, – по тому, насколько «правильные» они. Если нет, например, в речи человека оговорок, разных «э-эканий», интонационных перебивок, значит, с большой вероятностью это произведение ИИ. Но потом вдруг я подумал: «А что если все эти непроизвольные элементы речи сознательно прописать в программе для ИИ?» Пока не догадались, но ведь сделают! И что тогда? Если человек говорит правильно, ему будет меньше доверия, чем безграмотному?

Впервые в истории под сокрушительным ударом оказалась наша вера, доверие к самим себе. Как раньше говорили люди, стремившиеся докопаться до правды? – пока своими глазами не увижу, своими ушами не услышу – не поверю. Но теперь уже и своим глазам-ушам верить приходится с осторожностью – нужно быть готовым к тому, что это дипфейк. Искушение, какого не было ещё в человеческой истории.

Уже вовсю международные организации, наше правительство, эксперты обсуждают проблему. Готовятся документы, которые определят «правила игры», в частности предлагается маркировать всё, что сделано с помощью ИИ. Председатель комитета Госдумы по информполитике Сергей Боярский предлагает, наоборот, «маркировать то, что сделал человек». Но сегодня дело уже не в том, что подделкой может быть ролик с вашей давно умершей бабушкой или что мошенник говорит по телефону голосом вашего ребёнка. ИИ воинственно заявляет людям на производстве и в конторах: вы здесь больше не нужны, я сделаю всю работу лучше вас! Куда денутся эти сотни миллионов безработных? Не попытаются ли мироправители тьмы века сего утилизировать их в гигантской бойне? Мы писали, сколь опасно отдавать ИИ на откуп врачевание людей. Но страна всё ближе к тому, чтобы и судебную власть отдать бездушной программе. Вот уж тогда дипфейк разгуляется! – одни будут объявлять доказательства сфабрикованными, другие будут подделанное выдавать за подлинное. А главное – и сейчас-то судят людей часто формально, как роботы, а ведь у ИИ вообще нет понятия о милости и справедливости.

Теперь о войне. В этом году было много разговоров о мирном соглашении по украинском конфликту с использованием слова «Трамп». И всё это время мы двигались не к миру, а к ядерному противостоянию. Вовсю уже ведутся разговоры об использовании тактического ядерного оружия. Эксперты успокаивают, что ущерб от тактических атомных бомб не так уж и велик. НАТО перестало скрывать, что готовится к полномасштабной войне с Россией. Автомобильные заводы в Европе переходят на изготовление танков, усилилось промывание мозгов «российской угрозой», где-то уже объявляют всеобщую воинскую повинность. Говорят, что готовятся к обороне – но мы им поверим? И в случае нападения противостоять ордам с Запада волей-неволей нам придётся ЯО. И вот что важно: приоткрывается окно овертона – если хотя бы раз такое оружие будет использовано в войне, дальше ведь не остановишь!

Но и мирный договор с США по поводу Украины не сулит нам покоя: с большой вероятностью у соседей начнётся гражданская война, а иметь рядом «дикое поле» совсем не безопасно.

Обратная сторона ужасов войны в том, что она запустила процессы в обществе, о которых мы и помыслить не могли прежде. Например, ситуация с мигрантами. Воюющая страна не может терпеть в тылу «пятую колонну». Много говорилось об этом, но мало делалось. Нынче, наконец, камень сдвинули с места: приняли важные законы, Президент подписал «Концепцию государственной миграционной политики». Визовый режим со странами ближнего зарубежья не ввели, но усилили контроль: на телефон приехавшему ставится программа, в которой робот-оператор может в любое время сделать запрос, а мигрант должен ответить, показать лицо и местонахождение. Если не отзовётся, это будет считаться нарушением условий учёта. Пока это только в Москве, но опыт будет расширен. Также мигрантам выдают электронные карты, по которым полиция может проверить их статус, и если он обозначен красным, то задержать, а потом и выслать из России без решения суда (это тоже важное новшество). Другое дело, что в полиции у нас не хватает до половины личного состава, а о нарушениях мало знать, нужно кому-то их пресекать. Из плюсов: ограничили приём в школы детей, не умеющих говорить по-русски, серьёзнее стали реагировать на правонарушения мигрантов. И хотя тут мы только в начале пути, но, ездя по стране, я заметил, что компаний мигрантов, вызывающе ведущих себя на улицах, стало меньше.

Вообще маховик всех процессов, как негативных, так и положительных, раскручивается всегда в России медленно. Зато потом трудно остановить. Упущена в своё время была ситуация с воспитанием молодёжи, и сейчас с огромным трудом пытаемся выправить ситуацию. Опереться в этом бы на учителя, родителей, но тут как тут чиновник – суёт палки в колёса воспитательному процессу со своей неуёмной и неумной цифровизацией (а ведь есть и толковые тут начинания). Например, заинтересанты пытаются протащить биометрию для входа в школы – по лицу, по ладошке. Директора школ говорят, что толку от сканеров – ноль. Но их никто не слушает, потому что школ в России десятки тысяч и на кону миллиардные прибыли.

Но и добрые начинания постепенно встают на твёрдую основу, если не оказываются заражены мёртвым формализмом. В Церкви вот удалось наладить окормление наших воинов: в зоне СВО побывало уже ок. 2,5 тысяч иереев, в основном добровольцев. Так бы и хотелось закончить на этой позитивной ноте. Но нельзя не сказать (и многие священники подтвердят): помогать фронту мы своими руками научились, а вот молиться по-настоящему за воинов нет. Силёнок, видно, на это многотрудное дело маловато. Помоги нам, Господи!

Оглавление выпуска    Следующая публикация →