Мой друг робот?

Железная лапа

В конце нынешней осени Святейший Патриарх посетил на ВДНХ выставку технических достижений в рамках православного студенческого форума. Предстоятеля водили по залам, показывали разработки российских вузов и молодых компаний. И тут произошёл «неловкий инцидент»: робот по имени Фёдор, повинуясь заложенному в нём алгоритму, приветствуя, протянул Святейшему свой манипулятор-руку – «Патриарх же рукопожатием андроида не удостоил». Тему «Патриарх и робот» подхватили многие издания, уж очень она выигрышной показалась журналистам.

Патриарх и робот

Некоторые сетовали: а что же глава Церкви не пожал руку «брату по разуму». От досады или ещё почему переврали слова Патриарха, который якобы высказал предположение, что «в будущем именно роботы займут главенствующую позицию в мире, а люди отойдут на второй план, став маргинальной диковинкой». На самом деле гость выставки просто пошутил, сказав, что через несколько десятков лет мы будем показывать себя этим железякам, как сейчас их показывают нам.

И в самом деле, учёные-кибернетики настроены нынче весьма оптимистично. Они рапортуют, что искусственный интеллект развивается ускоренными темпами: если в 2013 году средний ИИ был на уровне 4-летнего ребёнка, то уже год спустя компьютеру удалось решить одну из знаменитых задач математика Эрдёша, которая обычным школьникам не по силам. Прогнозируется, что при сохранении такой тенденции «к 2020 году средний ИИ будет близок к интеллекту взрослого человека». Здесь речь идёт именно об интеллекте, то есть способности к мышлению, а не о разуме и, тем более, не о душе. Хотя кибернетики не скрывают надежд и на большее, в чём, что примечательно, их поддержал лидер тибетского буддизма Далай-Лама XIV. Он заявил, что не исключает наличия сознания на компьютерной основе.

Спорить с тибетским ламой бессмысленно. Человеческие чувства: любовь, сострадание, стыд, радость, горе – то, что не способна вместить в себя электронная счётная машина, – у буддистов считаются лишним, искажающим человеческую «карму». С религиями не спорят, их принимают или отвергают. И что же получается… Если мы «протянем руку роботу», то тем самым встанем на буддистскую дорожку, которая неведомо куда приведёт.

А искушение «протянуть руку» будет великое, когда роботизация станет неотъемлемой частью нашей жизни. Сколько раз я замечал, что водители автомобилей на полном серьёзе вслух спорят с «Ритой» – голосом из компьютерного навигатора, будто с ними говорит человек. А ведь такие «Риты», «Саши», «Пети» уже в скором времени окружат нас со всех сторон, будут смотреть своими электронными зрачками из дверного замка, холодильника, домашнего суперкомпьютера и так далее. И где гарантии, что, очеловечивая их, мы сами незаметно не станем расчеловечиваться?

Кирпичик разума

Когда я слышу фразу «искусственный разум», то невольно представляю две картины. Первая: старинный готический городок на юге Германии, по узким улочкам которого бродит неприкаянный одинокий человек, вышедший на пенсию инженер-электронщик. Он смотрит на людей и не знает, как с ними заговорить. Вообще-то он даже не понимает, о чём с ними говорить. Вечером этот немец возвращается в свою клетушку и садится за компьютер – вновь и вновь пытается составить программу женщины-подруги, чтобы хоть с кем-то пообщаться. И картина вторая: старинный русский городок с крепостями-монастырями на высоких холмах. На одном из незанятых холмов выросла стеклянная крепость, внутри которой нервно ходит кибернетик со всклоченными волосами. Он машет руками: «Всех, всех сосчитаю! Всех вас по электронным ячейкам рассажу!» Так карикатурно, утрированно отложились в моей памяти две встречи.

Предыстория первой встречи была такая. Подобно вышеописанному кибернетику, сам я, наверное, тоже создаю впечатление одержимого, когда начинаю говорить о программе Notetab. Близкие друзья знают этот мой конёк и затыкают уши, едва заслышав слово «нотетаб». Так, кстати, называется текстовой редактор с функцией допрограммирования, который за два десятилетия стал что-то вроде моего альтер-эго. В чём его уникальность? Он может всё… ну или почти всё. Нажимаешь кнопочку «Paste Board», затем копируешь разные текстовые фрагменты из Интернета и других источников, они автоматически помещаются в файл, который затем можно структурировать по главкам – для этого есть специальные средства. Сначала я раскидывал текст по темам вручную, а затем написал подпрограммку, которая бы делала это автоматически: задаёшь ключевые слова – компьютер ищет абзацы на заданную тему и рассовывает их по нужным разделам. Дальше – больше… Язык допрограммирования в Notetab оказался настолько прост и понятен – даже для меня, гуманитария, – что пустился я во все тяжкие. Встроил в редактор различные словари, в том числе Владимира Даля, автоматизировал подбор синонимов, «сварганил» запоминалку адресов и различных данных с внутренним интеллектуальным поиском, написал множество разных «примочек», нужных для обработки текстов. Взялся даже за то, чтобы текстовой редактор здоровался со мной при его открытии, подсказывал голосом мои ошибки, но вовремя остановился. С той поры смотрю я на всех, кто пользуется майкрософтовским редактором Word, как на потерпевших. Чего они мучаются с этой тупой и неповоротливой программой?!

Да, грешен, увлёкся… А вы бы не увлеклись, попади вам в руки инструмент для создания «искусственного разума»? Первокирпичик такого «разума» довольно прост, он, как и транзистор, построен на принципе троичности. У транзистора, как известно, три проводка: по одному поступает сигнал, по второму сообщается «да» или «нет», а по третьему, в зависимости от сообщения, выводится или не выводится сигнал. Точно такие же распределители имеются и в программном коде: одно значение сопоставляется с другим, в результате чего запускается та или иная команда, в которой сопоставляется с другими значениями, и так далее. Перескакивая от одного сопоставления к другому, программа как бы осмысливает данные значения и делает вывод… Каков же был мой восторг, когда первая написанная мной программка зажила своей отдельной – «осмысленной» – жизнью! Это что же я сотворил?! Как минимум, это «разум» на уровне амёбы, которая различает внешние факторы и реагирует на них. А если чуток усложнить программу, то будет «разум» гусеницы? А если ещё чуток…

Чтобы поделиться своим открытием, в Интернете завёл я сайт www.notetab.narod.ru, куда выложил все свои наработки и советы, как пользоваться «народным допрограммируемым редактором». Спустя время приходит письмо из Германии. Состоялся примерно такой диалог.

В пустоте

«Здравствуйте, коллега! – написал он. – Понравились мне на сайте ваши слова о Notetab-е: “Есть в нём что-то такое квадратное. Ящички, полочки, всё аккуратно разложено. Вот у майкрософта – круги и круги, наползающие друг на дружку, не знаешь, за какой конец ухватиться. А здесь всё чётко. Сразу видно, что немец делал…” Для меня, немца, приятно, что Notetab написал мой единокровник, а похвалил её русский. Дело в том, что я русский немец. Родился в заполярном городе N, там работал инженером, а когда досрочно вышел на пенсию, то переехал жить на историческую родину. Времени свободного много. Взялся писать новеллы… И у меня такой вопрос. Можно ли Notetab так допрограммировать, чтобы он автоматизировал написание художественных текстов?»

«Позвольте, а разве такое возможно?» – спрашиваю его.

«Почему же нет? В художественной литературе набор эпитетов и образов в целом известен, их можно бы включить в программу… Конечно, рассказы писать буду я сам, но интеллектуальная помощь текстового редактора не помешает. Она бы анализировала то, что я ввожу в редактор, и предлагала свои варианты. Или, например, хорошо бы в текст вставлялись эпитеты нажатием определённых клавиш. Разве это трудно сделать?»

В качестве примера своего творчества бывший инженер-электронщик прислал мне несколько новелл. В одной из них герой никак не может завязать знакомство с немецкими женщинами, словно они за стеклянной стеной. Однажды на вокзале женщина заговорила с ним сама. Она была симпатичной и весьма словоохотливой итальянкой. Дала номер своего телефона. И вот на трёх страницах герой размышляет: звонить ей или не звонить? Наконец пришёл к кристально ясному выводу: не звонить. Ведь жизнь – это не вокзал… В другой новелле герой влюбляется в белокурую девушку, которая работает организатором литературных вечеров. Таких камерных вечеров, посвящённых выходу отдельных книг, проводится много в разных клубах баварского городка. Влюблённый не пропускает ни одного. Он дожидается, когда все разойдутся и они останутся вдвоём. Помогает девушке поставить стулья на положенные места, запереть на ключ входную дверь. Затем они говорят друг другу Auf Wiedersehen и чинно расходятся по домам. Однажды инженер невзначай заговорил с девушкой, а та ответила непонимающим взглядом. Вернувшись домой, наш герой долго не мог уснуть: «Как же так получилось, ведь случайно слова вырвались! Так глупо всё испортить, предать свою любовь! Ведь моя любовь – молчание».

К сожалению, ничем помочь немцу я так и не смог. Он написал:

«Ладно, поищу другие программы, есть у меня кое-что на примете. Но всякий труд должен оплачиваться – в чём вы нуждаетесь?»

«Да ничего мне не надо, – отвечаю. – А нуждаюсь в таком ноутбуке, который бы молчал, как механическая пишущая машинка. А то раздражает гудение».

Немец понял буквально, что ноут я использую лишь в качестве пишущей машинки, и поступил очень рационально. На интернет-распродаже купил по бросовой цене (за 500 руб. на наши деньги) допотопный ноут и послал мне. Пересылка оказалась намного дороже компьютера, но тут германский рационализм был бессилен. «Сименс» выпуска начала 90-х годов (одна из первых моделей!) оказался и вправду тихим, как ночь на кладбище, поскольку внутри него обрабатывался мизер информации. Идеальная машинка для печатанья.

Прошло несколько лет. Немецкий мой друг достиг некоторых успехов в роботизации творческого процесса. Вдруг он сообщает: «Я женюсь!» И делится тем, как вычислил невесту. Ввод-ная: она должна быть русская – тут и общность языка, и известная русская домовитость. Ареал поиска: не Германия и не Россия, а Прибалтика – чтобы не была онемеченной, но имела европейскость, для лучшей акклиматизации. Условие: у неё должен быть больной ребёнок, которого можно вылечить в Германии – чувство признательности жены скрепит семью. Ребёнка действительно удалось вылечить. Но, как понял, жена потом вернулась в Ригу, что-то не сложилось в отношениях.

Какова дальнейшая судьба моего приятеля-электронщика, я не знаю. Он молчит. Иногда я достаю его допотопный «Сименс», чтобы полюбоваться чёрным экраном DOS со строчками кодовых команд. Эта первая компьютерная «оболочка» завораживает своей первозданностью. Таковой, наверное, была чёрная пустота, из которой Бог сотворил наш мир. Но что мы, люди, можем извлечь из этой тьмы?

Ещё в старом ноутбуке есть такая функция: одним нажатием клавиши можно любые файлы открыть в исходной ASCII-кодировке, в какой их написали программисты. И вот любопытная деталь. ASCII была разработана и стандартизована в США ещё в 1963 году, а затем, помимо букв алфавита, дополнена различными псевдографическими символами. С них таблица кодировок и начинается – с символов двух улыбающихся рожиц, белой и чёрной. Надо понимать, что это два игрока в карты, поскольку далее следуют карточные символы: червы, бубны, трефы, пики.

Для компьютерного «разума» самое то – картишки раскинуть. Свободной воли у него нет, но в какой-то степени её может заменить случайность, непредсказуемость. А ведь и вправду, надо было подсказать моему немцу использовать этот инструмент – генератор случайных чисел. Глядишь, методом «бросания костей» его компьютер смог бы выдавать оригинальные сочетания образов и эпитетов. Только будет ли это художественным творчеством? Да и невозможно создать абсолютный генератор случайных чисел: сколько ни тасуй колоду, взятки будут повторяться (см. «На грани дозволенного», «Вера», № 474, сентябрь 2004 г.) – это такая глухая стена с крепко-накрепко закрытой дверью, ключ от которой Господь нам не дал. Но люди продолжают туда ломиться, убеждённые, что для них все двери открыты. Можно, конечно, дверь и взломать, но что мы там увидим? DOS-вскую чёрную пустоту без Бога? Как известно, свято место пусто не бывает, и не приведи Господь…

Они будут везде

Вторая встреча состоялась вживую, в Переславле-Залесском, в Институте программных систем, что как крепость высится на одном из холмов городка. Ведущий научный сотрудник этого российского Центра кибернетики Армен Сократович Гаспарян долго и обстоятельно уверял меня, что создают они не искусственный разум, а просто совершенную счётную машину:

– У машины совсем другой стиль мышления – она всего лишь перебирает варианты, пока не подвернётся правильный. А человеку дана интуиция, с её помощью он напрямую выходит к результату. Человек может догадаться, имея очень скудную информацию о предмете. Машина этого никогда не сможет. Она имеет дело только с информацией, а человеческий разум – со знаниями, то есть с пониманием чего-то. Не говори «я думаю», говори – «я понимаю». Машина же не способна понимать, осознавать. У неё нет души. А бытие души признают все учёные, просто они по-разному её интерпретируют.

Начав, как говорится, за здравие, собеседник мой перешёл к конкретике. И как он преобразился, когда стал рассказывать о своей программе, в которую вложен искусственный интеллект! Глаза горят, в голосе чуть ли не обожание: какая умная и замечательная программа – словно о любимой женщине говорил. Имя у неё, правда, подкачало, совсем не женское: «Экспертная система социальной напряжённости в регионе».

Слушал я кибернетика и ужасался: ведь эта «экспертная система» будет оперировать людьми, как картами в колоде! Как она работает? Предположим, какому-нибудь губернатору понадобилось увеличить областной бюджет. И робот-эксперт предлагает ему продать подходящие предприятия, тут же представляет их список. Затем рисует таблицу социальной напряжённости в результате приватизации. Показывает, как поведут себя разные категории населения – пенсионеры, военные, рабочие, чиновники, студенты и так далее. Даёт расчёт – где напряжённость допустима, а где недовольство людей может дестабилизировать обстановку в губернии. Этакий железный архитектор социальной жизни человечишек. Жуть…

После той встречи прошло уже тринадцать лет. О «социальном архитекторе», созданном переславскими кибернетиками, я больше нигде не слышал. Или не пригодился он правительству, или, напротив, засекретили его и сейчас где-то вершит он судьбы людские. Хотя зачем секретить-то? Народ уже свыкся с присутствием компьютерных помощников, которые на каждом шагу, и ещё одного, который будет собирать информацию о людях и прогнозировать их поведение, даже и не заметит. Многие увидят в «социальном архитекторе» определённую пользу для общества. Например, мой знакомый русский немец точно бы его приветствовал, ибо «всё рациональное полезно».

Сейчас вот думаю, что рационализм своего приятеля я прежде объяснял его национальностью: немцы же – они такие, педанты. Но, может, причина не в этом? Всю сознательную жизнь инженер работал с электронной автоматикой, фактически в окружении роботов, имевших уже тогда начатки искусственного интеллекта. И тут уж получается так: с кем поведёшься, от того и наберёшься. Внешнее окружение ведь очень влияет на человека.

Вот мы пытаемся себе и окружающим доказать: в искусственном интеллекте нет ничего плохого, потому что это просто автоматика, а не разум и не душа. И учёные компетентно подтверждают: именно так, у них там «метод перебора» и так далее. И все довольны, проблемы нет. Разве? А как же человек? Как изменимся мы, когда наступит век сплошной роботизации?

А он уже фактически наступил. Мы не замечаем этого, потому что роботизация пока что обкатывается в армии. Так всегда было – новинки сначала военным, а потом уже в «народное хозяйство». И что мы видим в армии? Самолёт пятого поколения «ПАК-ФА» с элементами искусственного интеллекта, новый танк «Армата» с «необитаемой башней», сделанный «на вырост», с возможностью его полной роботизации. В Сирии роботизированные комплексы «Платформа-М» и «Арго» впервые испытали в атаке на «бармалеев» – игиловцы в ужасе бросили башню «Сириатель» в Латакии, когда на них пошли роботы. В связи с этим начальник российского Генштаба заявил, что Россия стремится полностью роботизировать сражение и «возможно, в скором времени мы станем свидетелями того, как роботизированные группы самостоятельно ведут военные действия». Более того, искусственный интеллект сможет управлять и «человеческим» войском…

Разумеется, роботизация происходит не только в армии. Роботы будут везде: на суше, в воздухе, в воде, под водой. Со временем роботов пугаться мы перестанем – попривыкнем. А потом зауважаем. Ну как не уважать такого серьёзного охранника частной собственности, как «Купидон», недавно показанного в США? У него, правда, не крылышки, а четыре вертолётных пропеллера. И не лук со стрелами, а электрический разрядник. Заходишь в гости к приятелю, а он стрекочет над тобой, спрашивает сверху: «Назовите своё имя и цель визита». И если что не так, то шарахнет током. Поневоле станешь вежливым, если не подобострастным.

На улице – грозные роботы-стражи. Дома – домашние роботы-любимцы, всякие «Риты», «Пети» и «Саши». В столице – справедливый суперкомпьютер, архитектор социальной жизни в государстве. Изменится ли человек в таком мире? Скорее всего, да… Каким он будет? Не знаю… Но почему-то вспоминается мой приятель, инженер на пенсии, тенью бредущий по чужим улочкам, разучившийся говорить с себе подобными и безоговорочно подчинившийся закону механического рационализма.

Кто предупреждён – тот вооружён. И в этом смысле надо понимать Святейшего Патриарха, который горько пошутил, что «через несколько десятков лет мы будем показывать себя этим железякам, как сейчас их показывают нам».

← Предыдущая публикация     Следующая публикация →
Оглавление выпуска

1 комментарий

  1. Вадим:

    Простите, Михаил, но откуда Вы взяли эту глупость, — что человеческие чувства у буддистов считаются лишними? Одна из главных заповедей для буддиста — сострадание ко всему живому. Пришлите, пож-та, ссылку на источник вашей информации. Или это личный опыт?

Добавить комментарий