Алгоритм согласия

«Триумф цифровых технологий!» – торжествуют московские власти и полицейские. Задержан и доставлен в больницу пациент с коронавирусом, нарушивший условия лечения на дому. Мужчина подписал согласие о самоизоляции и предоставил свой снимок в базу данных городской системы видеонаблюдения. А уже на следующий день вышел на улицу. Тут-то за ним и приехала скорая.

В столице при помощи камер наблюдения выявили более 200 нарушителей домашнего карантина, отчиталась полиция. Всеобщие бурные аплодисменты, в том числе от православных. «Нам нечего скрывать!» – гордо заявляют они по традиции. Это да. А если по ошибке вас опознают как рецидивиста? Ведь не отмыться потом! Или вот гипотетический сценарий, который сегодня уже не видится столь фантастическим: завтра Пасха, а власти запретили совершать праздничную литургию. Карантин, военное положение, задымление от пожаров, заключённые сбежали из тюрем – да что угодно. И вот вы, сговорившись с прихожанами, выезжаете на природу, где под открытым небом на переносном антиминсе батюшка будет совершать главную литургию года. А на выезде из города – раз, и прихватили вас! Спасибо системе видеонаблюдения с использованием искусственного интеллекта (ИИ). Впрочем, чтоб обмануть систему распознавания лиц, достаточно опустить голову, поднять шарф и т.п. То есть изловить благодаря камерам жулика гораздо сложнее, чем отслеживать законопослушного гражданина.

Формальности вроде бы соблюдаются – кто из нас не подписывал в поликлиниках и всяких социальных центрах согласие на обработку персональной информации? И вот новое волшебное слово – «эпидемия» – и люди вновь вынуждены соглашаться: подпишут любую бумагу.

Нет сомнений, что нынешняя ситуация способствует рывку технологий слежения. Глава Католической Церкви, например, неоднократно высказывал опасения, касающиеся использования ИИ, в том числе для распознавания лиц: «Это неправильно, когда немногие избранные знают о нас всё, а мы ничего о них не знаем. Неравенство чрезвычайно расширяется; знания и богатство сосредотачиваются в нескольких руках с серьёзными рисками для демократических обществ». Он привёл пример, когда крупнейшие компании использовали ИИ для проверки кандидатов на вакансии. Израильский историк Юваль Ной Харари пишет: «Если вы обращаетесь в банк за кредитом или устраиваетесь в крупную корпорацию, скорее всего, ваше резюме обрабатывается алгоритмом, а не человеком. Допустим, вам отказали. Вы спрашиваете почему. “Потому что алгоритм сказал «нет»”. – “А почему нет?” – “Мы не знаем, – ответят вам. – Таков алгоритм ИИ”. Дело в том, что машины теперь учатся сами, просеивая горы данных, и находят закономерности, непонятные людям. И нам остаётся этому только верить».

На эту тему Папская академия защиты жизни в феврале организовала конференцию. В итоговом документе – своде этических правил для ИИ – было сказано, что технология должна уважать неприкосновенность частной жизни, работать надёжно и непредвзято, учитывать «потребности всех людей» и быть прозрачной. Корпорации АйБиЭм и «Майкрософт», как ни странно, поддержали этот свод – пообещали не делать бизнес с теми, кто использует ИИ в целях ущемления свобод. Верится, правда, с трудом.

Бог дал нам свободу, а мы: нет, спасибо, нам бы лучше безопасность. А поскольку Бог её дать не может (мы же здравомыслящие люди), за ней надо обращаться в полицию или к врачу. Ну-ну. Я смотрю, что сегодня происходит, и думаю: пробный шар с этой эпидемией пущен – и что? Получилось! Сыграть на человеческих страхах, запустить панику, умело разогреть её в СМИ – и бери всех тёпленькими. Теперь, если понадобится государству ли, корпорациям или любой тёмной силе, повторят.

 

← Предыдущая публикация     Следующая публикация →
Оглавление выпуска

Добавить комментарий