Мы привыкли думать, что тотальная слежка с помощью искусственного интеллекта — это сюжет из антиутопии, угроза где-то на горизонте. Эксперты в области ИИ, правозащитники и даже некоторые инсайдеры технологической индустрии заявляют: это опасное заблуждение. Инфраструктура для массового наблюдения на основе ИИ не «в разработке» — она уже работает. И большинство людей даже не подозревает, насколько глубоко она проникла в их повседневность.
Недавнее журналистское расследование вновь привлекло внимание к тревожным прогнозам специалистов. Они указывают, что общественные дебаты о слежке безнадёжно отстали от технологической реальности. Распознавание лиц, алгоритмы «прогнозной» полицейской работы, инструменты мониторинга соцсетей и биометрические базы данных уже давно развёрнуты в огромных масштабах — и не где-нибудь, а в демократических странах.
Возьмём, к примеру, распознавание лиц. Компания Clearview AI, создавшая базу из миллиардов фотографий из соцсетей, хоть и столкнулась с судами и ограничениями, продолжает работать с государственными структурами. И это лишь один игрок на переполненном рынке. Новое поколение ИИ-систем способно в реальном времени объединять данные с камер, датчиков и из интернета, создавая детальные досье на каждого: перемещения, связи, покупки, онлайн-активность.
Как отмечает Брюс Шнайер, известный эксперт по безопасности, «слежка — это бизнес-модель интернета». ИИ делает эту слежку невероятно эффективной. Если человек-аналитик может отслеживать несколько целей, то ИИ-система — тысячи одновременно, без устали и почти без контроля.
Архитектура этого контроля строится на виду — её создаёт коммерческий сектор, продающий инструменты анализа. Компании вроде Palantir построили целый бизнес на слиянии данных для спецслужб и полиции. Технологии, которые могут выследить террориста, с той же лёгкостью можно направить на журналистов или активистов.
Попытки регулирования пока отстают. В ЕС ввели жёсткие правила, запрещающие массовое биометрическое наблюдение, но с исключениями. В США картина разрозненна: нет единого федерального закона, есть лишь локальные запреты в нескольких городах. При этом акцент властей смещён в сторону развития технологий, а не защиты гражданских свобод.
Где в этой системе место обычного человека? В неведении. Опросы показывают, что люди сильно недооценивают масштабы слежки. Проблема усугубляется «чёрным ящиком» ИИ: когда алгоритм помечает кого-то как «подозрительного», часто даже операторы не могут понять, на каком основании. Это кризис правовых гарантий в масштабе всего общества.
Сторонники технологий приводят аргументы: ИИ помог раскрыть старые преступления, найти пропавших детей. Эксперты не отрицают полезные применения. Они настаивают: внедрение технологий массового наблюдения уже опередило все правовые и этические рамки, которые должны сдерживать злоупотребления. Вопрос стоит не о том, «может ли это случиться», а о том, готово ли общество установить жёсткие границы для системы, которая уже запущена и работает. И времени на ответ остаётся всё меньше.
