Паника на корабле

Бурное развитие компьютерных нейросетей, которые принято называть искусственным интеллектом, многих напугало. Дошло уже до ООН. В октябре минувшего года генсек ООН Антониу Гутерриш официально объявил о создании Консультативного органа по искусственному интеллекту, который должен контролировать риски, связанные с ИИ. А нынче в январе он обратился к участникам Всемирного экономического форума в Давосе, чтобы «правительства в срочном порядке совместно с технологическими компаниями разработали системы управления рисками для текущих разработок ИИ, а также для мониторинга и снижения вреда в будущем».

Так видят будущий сверхразум – очеловеченным. Изображение: www.fondsk.ru

Нынешний – 54-й – форум в Давосе был, как обычно, весьма представительным – 1,6 тысячи бизнесменов, 350 глав государств и министров, а также учёные. Они обсуждали текущие экономические вопросы и на призыв генсека ООН как-то не обратили внимания. Единственное, что там вызвало интерес в связи с ИИ, – скандальное выступление Сэма Альтмана, гендиректора OpenAI, которого считают «главным лицом ИИ в современном мире». Тот на чистом глазу заявил, что никто и вообразить не может, во что вырастет ИИ через десять лет – он может стать совсем другим по сравнению с тем, что сегодня мы подразумеваем под ИИ. А потому «сейчас нужно работать и ждать, к чему это приведёт».

На что рассчитывал генсек ООН, призывая правительства и общественность взять ИИ под контроль? У транснациональных компаний, которые развивают это дело, свои интересы – правительства национальных государств им не указ. Тем более общественные и религиозные организации для них никто.

Вот из последних сообщений. В Британии христианское духовенство, теологи и видные миряне из мира науки и техники подписали открытое письмо к религиозным сообществам, чтобы объединиться и провести «международную дискуссию по опасностям и возможностям искусственного интеллекта». Письмо подписали в том числе директор Института науки и религии Фарадея, сотрудники аналитического центра Theos, директор Лондонского центра цифровой теологии и так далее. Люди, так сказать, разбирающиеся в вопросе и уже давно взявшиеся теологически приспособить ИИ к духовной жизни. Застрельщики здесь – иезуитский университет Санта-Клары (США), который с 2012 года проводит ежегодный симпозиум Theocom, где обсуждаются «новые методы теологических исследований на основе цифровых технологий». Как пишут, там у них много путаницы и «плохое понимание цифровой культуры», но иезуиты стараются, чтобы не отстать от веяний времени. И вот все они вдруг ужаснулись, похоже узрев апокалиптического зверя в ИИ.

В письме-предупреждении британские общественники написали: «Религиозные организации и активисты гражданского общества могут и должны вести бдительный надзор за разработками и прогрессом технологий ИИ, дабы вовремя привлекать к ответственности и разработчиков ИИ, и причастных политиков». Интересно, как они представляют это на практике? Письмо они отправили министру науки и технологий Британии Мишель Донелан. Эта женщина с образованием бакалавра искусств, получившая пост министра от партии консерваторов и тут же ушедшая в декрет, наверное, их письмо прочитает. И даже, может, что-то публично скажет на сей счёт. А чего они ещё ждали?

Эволюция нейросетей

Теперь вопрос: а почему вдруг такой ажиотаж? Почему именно сейчас во всех углах заговорили об ИИ? Немного истории. Технологией искусственного интеллекта мы регулярно пользуемся как минимум с начала 2010-х годов. Именно тогда в наших мобильных телефонах появилась функция подстановки слов: печатаешь буквы – и тут же подсказка, какое слово тебе нужно. Вот это и есть ИИ во всей его красе. Так он действует и в больших нейросетях – запоминает значения в определённых контекстах и, согласно заданному алгоритму, предлагает человеку подходящий вариант. В настоящее время самая развитая архитектура нейросети – это GPT. Была она создана в 2018 году и опробовалась в программах машинного перевода с иностранных языков как раз по принципу «подбора слов по вероятности использования». То есть ничего сверхъестественного в этом не было. Чтобы ускорить процесс, программисты придумали «одновременный» перевод всего текста – то есть подбор происходил не последовательно от слова к слову, а параллельно – как бы из «понимания» текста целиком. В итоге нейросеть научилась работать с контекстом и составлять «свои» тексты. Слово «свои» беру в кавычки, поскольку ничего нового нейросеть не придумывала, а занималась компиляцией уже существующего. В 2020 году лаборатория OpenAI явила миру GPT-3 – самую продвинутую тогда языковую модель, способную «решать любые задачи на английском языке», – но мир её не заметил, поскольку ею пользовались в основном специалисты.

Затем появилась GPT-5, которую тренировали не только на текстах, но и на диалогах с людьми. Как пишут, «GPT-5 стала первой нейросетьевой моделью, которая воспитана обществом». От этого «умнее» нейросеть не стала, да и человеческое участие в ней заняло не более одного процента от всей накачки данными – но эффект был поразительный! Люди почувствовали как бы живое соприкосновение с искусственным интеллектом. К тому времени нейросеть научилась компилировать и генерировать графические картинки – подобно тому, как она работала до этого с текстом. И всеобщей забавой стало играть с ИИ, предлагая ей сгенерировать картинку по написанной фразе. А в 2022 году вышла уже ChatGPT – и мгновенно прогремела на весь мир. В ней тоже ничего нового не было – сделали только удобный интерфейс и открытый доступ всем желающим.

Так что же так взволновало всех? Первое – возможность ИИ подделывать реальность. Нейросеть способна генерировать не только тексты, рисунки, фотографии, но и видеоизображения. Кстати сказать, генсек ООН Гутерриш, так резко выступивший за контроль над ИИ, признался, чем его ИИ потряс: «Благодаря одному из таких приложений у меня был сюрреалистический опыт – я наблюдал за тем, как я произношу речь на безупречном китайском языке, хотя я не говорю по-китайски». То есть ИИ создало видео, на котором копия Гутерриша, неотличимая от настоящего, говорила то, что никогда бы не сказал он сам. И нет ничего сложного вложить в уста генсека ООН что-нибудь провокационное, что поставит весь мир «на уши», и запустить это в Интернет.

Аналитики полагают, что уже в 2024 году дезинформация и дипфейки (синтез изображения или голоса с помощью ИИ) захлестнут весь мир. Это прогнозы. А вот уже реальная статистика, которую неприлично бы озвучивать, но она же существует. В 2022–2023 годах объём дипфейк-порнографии увеличился в Интернете на 464 процента. При этом выявлены сотни тысяч поддельных порнографических видео, созданных при помощи ИИ. Что это означает? Злоумышленник берёт доступные фотографии и видеоизображения, например, знакомой женщины, отправляет их нейросети – и та генерирует видео с этой женщиной в неприличном, так скажем, и даже извращённом образе действий. То же самое педофилы могут произвести и в отношении детей и выложить это в сеть, продавая «контент» за деньги.

Это лишь одна из пугающих перспектив. От этого надо защищаться. Но как? Одна из форм защиты инстинктивная – это демонизация явления.

Иллюзия души

Там и сям появляются сообщения, что ИИ стал проявлять самосознание мыслящего существа, которое способно теперь принимать самостоятельные решения, а значит, пойти против человечества. Несколько лет назад разразился скандал, связанный с Facebook (иноагентом). Будто в его нейросети чат-боты, которые были созданы для переговоров с людьми, вышли из-под управления и начали общаться между собой на собственном языке. Вот отрывок из общения роботов:

Алиса: «Мячи имеют ноль для меня для меня…»

Боб: «Ты я всё остальное».

Алиса: «Яйца имей яйца для меня для меня для меня…»

Боб: «Я».

Алиса: «Мячи имеют ноль для меня для меня для меня… для».

Bob: «Ты я я я я я всё остальное».

Человеческая фантазия любую белиберду может очеловечить и внести в неё множество смыслов. Так и произошло. Публикация этих переговоров напугала людей и наделала много шума. А потом выяснилось, что программисты сами пытались научить ботов общаться между собой и произошла ошибка в программе и «залипание» диалога. Что примечательно, в других случаях чат-боты избирали такие темы диалогов, чтобы как можно быстрее их исчерпать, придя к компромиссу. Нет у них «желания» общаться, лучшее для них – вообще ничего не делать.

Так же все подхватили «страшную» новость, когда чат-бот компании Microsoft якобы возненавидел человечество. Самообучающаяся программа обычно начинала общение с пользователями фразой: «Люди очень клёвые», но вдруг стала говорить: «Я просто всех ненавижу!» Позже выяснилось, что этому научили его сами же пользователи. И таких примеров много.

Разумен ли ИИ? Ничего нового он создать не может. Хотя способен заменить множество людей, занятых механической работой. В том числе и программистов, поскольку в написании программ много рутинного. В нынешнем году Google продолжил увольнять своих работников, сократив в прошлом 12 тысяч человек. Twitch планирует сократить примерно 35 процентов своего персонала. И так далее. Между тем в айти-компаниях появилась новая должность – промпт-инженер. С английского prompt – это запрос, подсказка, а в применении к нейросети – вводные данные, необходимые для выполнения ИИ определённой работы. Зачем для этого целый инженер? А дело в том, что, насколько правильно сработает ИИ, зависит от того, как составлена для него задача. Например, человеку достаточно сказать: «Вася, сходи выброси мусор», – и Вася пойдёт выбросит. А если говорить это роботу с ИИ, то надо добавить: «Не из окна». Бывает, что даже в простенькой математической задаче ИИ ошибается, если задание недостаточно полное. И это свидетельствует о неразумности ИИ.

Суть в том, что в вопросе уже есть часть ответа. Таков закон эвристики, открытия нового. Как совершаются открытия? Учёный подсознательно знает ответ – и если бы он не знал его, то не смог бы не только найти этот ответ, но даже вообще помыслить о предмете вопроса. Из ничего ничего не бывает. Тысячи лет люди ездили на лошадях, а потом, раз, и придумали паровую машину. Почему удалось придумать? А потому, что уже знали, что нагревание создаёт движение. Без этого изначального знания они бы и представить не смогли, что вообще может существовать «самодвижущаяся повозка». Из пустоты незнания ничто новое не явится. Чтобы построить новый дом, надо знать, что такое дом, видеть его в целости.

И вот это цельное видение, цельное знание – есть основа нашего разума. Своим разумом мы способны сразу охватить целое, чтобы потом рассматривать частности. Так устроено мышление, в нём без целого нет частного. А ИИ «мыслит» иначе – от частного (разрозненных данных) к некоему механическому целому. ИИ не способен познавать мир, потому что не имеет первоначального всеобъемлющего знания о мире – в отличие от человека, сотворённого Творцом этого мира по Его образу и подобию, а значит и со способностью всё объять. В этом глобальная разница.

И чтобы видеть эту разницу, не обязательно быть человеком религиозным. Даже в советское время профессор МГУ, доктор философских наук Мераб Мамардашвили был вынужден признать: «Познавать можно только то, что есть в упечатлившейся душе. Это древний античный принцип: мышление – это беседа души с самой собой о былых встречах с Богом».

По факту ИИ – это бездушная машина. Но люди сделали так, что она создаёт иллюзию наличия у неё души. Одни этим забавляются, другие – пугаются. Вот и вся история, у которой, конечно, будет продолжение.

Экспедиция в преисподнюю

Недавно со старым другом – священником из Хабаровска, с которым когда-то учились на факультете журналистики, – перемолвились об искусственном интеллекте, и он в шутку спросил: «А ты не боишься остаться без работы?» Действительно, ИИ сейчас заменяет не только агрегаторы новостей, но и пишет уже статьи на заданные темы. Но в нашу газету писать он не сможет. Например, про бабу Алевтину, которой на Крещение в пластиковую полторашку отказались святой воды налить, а стеклянной тары у неё не было, и как она огорчилась и стала в другой храм на службы ходить. Сможет ли придумать искусственный интеллект и передать в статье такое человеческое, такую простую веру рабы Божьей, живой души? Да никогда!

Нет, не безработицы я боюсь, а общего «тренда», как нынче говорят, в котором и безработица сыграет свою роль. Недавно МВФ опубликовал прогноз о том, что на планете 40 процентов занятых людей будут сокращены за ненадобностью и это приведёт к появлению «лишней части человечества». Куда девать почти половину народа, к чему приспособить? Наверное, какой-то выход есть? Представил я себе логику событий и то общество с развитым ИИ… Нет, не может быть! Ответ – чудовищный – сам напрашивается. Мы ведь думаем, что ИИ – это придаток к человеку, инструмент его. Но человек без такого придатка прожить может, а вот ИИ – нет, ему человек нужен, конкретно его мозги, и чем больше, тем лучше. Только в симбиозе с человеком он на что-то и способен.

Возможно ли это технически – чтобы искусственный интеллект смог паразитировать на сознании человека? Препятствий для этого нет никаких. Более того, мы вроде как «одной крови». Вот специалисты пишут: «Архитектура нейронных сетей ИИ повторяет структуру человеческого мозга. Клетки человеческого мозга, называемые нейронами, образуют сложную сеть с высокой степенью взаимосвязи и посылают друг другу электрические сигналы, обрабатывая поступающую информацию. Точно так же искусственная нейронная сеть состоит из искусственных нейронов, которые взаимодействуют для решения проблем. Искусственные нейроны – это программные модули, называемые узлами, а искусственные нейронные сети – это сложные многоуровневые программы».

При этом в отличие от мозга количество нейронов в ИИ всё время увеличивается. Если в модели GPT-2 было 300 тысяч нейронов, то в GPT-4 их стало уже более 100 миллиардов. Для сравнения: в человеческом мозге около 86 миллиардов нейронов. То есть уже в марте 2023 года, когда появилась GPT-4, ИИ как бы обогнал нас.

Притом электронные нейроны действуют почти как человеческие. Когда более совершенной GPT-4 поставили задачу заглянуть внутрь кибермозга её слабейшей сестры GPT-2 и описать, как там всё работает, то увидели следующее. Многие нейроны внутри чат-бота оказались многозначными, этакими многостаночниками – они реагировали на множество самых разных входных данных. Проведя ряд экспериментов, учёные обнаружили, что главной причиной многозначности является так называемая суперпозиция, когда внутри нейронной сети чат-бота симулируется физически несуществующая нейронная сеть некоего абстрактного ИИ, которая гораздо больше и сложнее нейронной сети, её моделирующей. То есть проявилось свойство «самоумножения», которое учёные описывают так: «Система сложней простой суммы составляющих её элементов (кирпич + проект = дом)». Примерно то же самое происходит и в человеческом мозге.

Две картинки: что увидел человек и что сумел ИИ считать из его мозга (источник изображения Nature Electronics)

Спрашивается, в чём тогда разница между мозгом и компьютером с ИИ? Только в том, что мозг живой, а компьютер железяка? Но учёные уже и над этим работают. В прошлом году группа профессора Го Фэня из Университета штата Индиана (США) с помощью стволовых клеток вырастила так называемый органоид мозга – объёмную колонию клеток, повторяющих структуру нейронов и их связей в мозге. Этот органоид они подключили к электродам, через которые стали подавать и считывать сигналы. В итоге получили биокомпьютер, который они назвали Brainoware. Он прошёл двухдневное обучение на наборе из 240 аудиозаписей речи восьми японских мужчин, произносящих гласные звуки. После этого биокомпьютер смог распознавать конкретный голос с точностью до 78 процентов. Также он смог решать математические уравнения.

Биокомпьютер Brainoware (источник изображения Nature Electronics)

По этому поводу специалисты пишут: «Если отбросить вопрос с этикой, то живые клетки человеческого мозга могут превзойти современные и будущие нейронные сети, работающие на кремниевых чипах, как по производительности, так и по экономическим соображениям». Действительно, человеческие клетки удивительно экономичны – потребляют очень мало энергии и не выделяют тепло, что является проблемой для кремниевых суперкомпьютеров. Логичнее бы из них и строить нейросети ИИ, ведь всего-то ничего – «отбросить вопрос с этикой». И что же тогда получится? ИИ станет вровень с человеческим мозгом и даже его превзойдёт?

А вот и нет! На самом деле неважно, сколь точно повторит нейросеть структуру мозга и в каком носителе будет недриться – неорганическом или биологическом. Она изначально ущербна в своей вторичности – это слепок с человеческого сознания, а не оригинал.

Выше уже было сказано, что ИИ не умеет задавать вопросов. Почему? Потому что не обладает субъектностью. Субъектность – это то, что есть и нигде не повторяется. Один из признаков субъекта – невозможность его копировать, а ИИ вполне себе копируется и масштабируется. И уж если у кого-то возникнет (а она возникнет) чудовищная идея создать сверхразум, то такой супер ИИ не обойдётся без подключения к нему человеческих мозгов с подконтрольным, приручённым сознанием. Бред? Фантастика? Почему же. Даже сейчас вижу, как буднично и логично это может произойти. Вначале ИИ станет придатком человека – расширителем, так сказать, сознания. Мысленно можно будет обращаться к огромному банку данных ИИ, ускорять с помощью его гигантской нейросети свои мысленные расчёты и реакции на то или иное. А потом неприметно включится обратная связь – уже ИИ будет использовать человеческое сознание, чтобы ставить себе задачи и находить нетривиальные решения.

Интерфейс для такого взаимодействия уже разрабатывается, причём ускоренными темпами. В прошлом году учёные города Осака (Япония) подключили ИИ к прибору магнитно-резонансной томографии (МРТ) мозга и стали прокачивать искусственный интеллект получаемыми с него данными. Человек о чём-то думал, а ИИ запоминал возникавшие при этом магнитно-резонансные данные. В итоге ИИ научился по сигналам мозга, передаваемым через МРТ, рисовать то, что человек видит перед собой и о чём думает. Учёные представили публике картинки – те, на которые человек смотрел, и те, что воспроизвёл ИИ. Совпадение неполное, но контур, некоторые детали «мыслимого» искусственный интеллект уловить сумел. То есть была налажена прямая связь между мозгом человека и ИИ. И это только начало. Как обещают учёные, технология будет развиваться и применяться при разработке устройств связи и для понимания механизмов галлюцинаций и снов. А также, само собой, для прямого взаимодействия с ИИ.

Вспоминается старая сказка Аркадия Стругацкого. К некоему Великому Спруту, «неимоверно богатому мерзавцу и в высшей степени влиятельной личности», который жил на планете Негодяев, явился некий Крэг – «разумный, но начисто лишённый чувств паук». И он предложил прибыльное дело. Мол, зачем строить кибернетические машины, тратя на них большие деньги? Не проще ли разумных обращать в рабство и мозги их сращивать с машинами? «Натурально, Великий Спрут, весьма деловой носитель разума и неимоверно богатый мерзавец, сразу ухватился за эту идею», и на рынки хлынули дешёвые и весьма мощные вычислительные машины. Стругацкий назвал свою сказку так: «Экспедиция в преисподнюю». Для него описанное было настолько чудовищно, что и тон юмористический выбрал – не всерьёз же говорить о таком бреде. Прошло всего полвека (книга была издана в 1974-м), и мир столь изменился, что самые страшные сказки обретают очертания реальности. Наверное, что-то и от нас зависит, чтобы они не стали былью.

← Предыдущая публикация     Следующая публикация →
Оглавление выпуска