Корпорация Palantir: "Большой брат" вышел из тени.Развитие нейросетей ведет наш мир к невиданному до сих пор уровню тоталитарного контроля над обществом

[Цифровой Интеллект 135]

 

1.Корпорация Palantir: "Большой брат" вышел из тени

 

Palantir — это, пожалуй, самая близкая к образу "Большого брата" компания из всех существующих на рынке. Если государству нужно объединить данные разведки, армии, полиции, спутников, камер наблюдения и тысяч других источников в единую систему принятия решений — именно такие задачи решает Palantir. По сути, компания создает цифровой мозг для государств, спецслужб и крупнейших корпораций, позволяя находить связи между событиями, которые невозможно обнаружить вручную.

Именно поэтому Palantir сложно назвать просто Big Data-компанией. Сегодня это один из ключевых игроков на пересечении искусственного интеллекта, оборонных технологий, аналитики данных и национальной безопасности. В отличие от большинства ИT-компаний, которые помогают бизнесу продавать больше товаров или эффективнее управлять процессами, Palantir работает там, где цена ошибки измеряется не деньгами, а человеческими жизнями, безопасностью государств и устойчивостью критической инфраструктуры. Обратной же стороной ее деятельности является весьма своеобразное отношение к морали и этике, что сформировало корпорации — и не без оснований — прямо-таки инфернальную репутацию.

 

 

 

Когда большинство людей говорят об ИИ, они представляют ChatGPT, Midjourney или другие популярные нейросети. Palantir работает на совершенно другом уровне. Компания создает программные платформы, которыми пользуются правительства, армии, спецслужбы, крупнейшие корпорации и стратегически важные организации по всему миру.

 

 

За последние два десятилетия Palantir участвовала в проектах, которые напрямую влияли на безопасность государств, развитие промышленности и внедрение новых технологий. Их решения помогают анализировать данные спецслужб и бороться с терроризмом, координировать поставки вакцин и медицинских ресурсов, оптимизировать производство самолетов Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое. , предотвращать аварии на нефтегазовых объектах, поддерживать военные операции стран Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  и внедрять искусственный интеллект в государственное управление, оборону, логистику и промышленность.

Сегодня Palantir входит в число самых дорогих программных компаний мира. По состоянию на 2026 год ее рыночная капитализация превышает 320 миллиардов долларов, а штат насчитывает около 4,4 тысячи сотрудников. При этом компания демонстрирует темпы роста, которые обычно характерны для молодых стартапов, а не для корпораций такого масштаба. В первом квартале 2026 года выручка выросла на 85 процентов по сравнению с аналогичным периодом прошлого года и достигла 1,63 миллиарда долларов. Прогноз на весь 2026 год составляет около 7,65 миллиарда долларов выручки, что соответствует росту примерно на 71 процент за год.

Основу бизнеса Palantir составляют четыре ключевые платформы. Gotham используется разведывательными службами, армией и государственными структурами. Foundry помогает бизнесу, промышленным предприятиям и медицинским организациям работать с огромными объемами данных. Apollo обеспечивает непрерывное обновление программного обеспечения даже в самых защищенных и сложных средах. А главным драйвером роста последних лет стала AIP (Artificial Intelligence Platform) — платформа, позволяющая внедрять большие языковые модели и агентный ИИ в реальные бизнес-процессы и государственные системы.

Однако наиболее интересное в Palantir — не продукты сами по себе. Настоящий актив компании — это доступ к уникальным данным и глубокая интеграция в процессы клиентов. Более 20 лет Palantir встраивалась в инфраструктуру крупнейших организаций мира и накопила колоссальный опыт работы с закрытыми корпоративными, промышленными и государственными данными, которые невозможно просто найти в интернет

 

 

В эпоху искусственного интеллекта именно такие данные становятся новой нефтью. Любую модель можно обучить на открытой информации, но создать по-настоящему эффективный ИИ для армии, энергетики, медицины, авиации или промышленности можно только при наличии уникальных данных и глубокого понимания предметной области. Именно поэтому многие инвесторы считают, что конкурентное преимущество Palantir заключается не столько в алгоритмах, сколько в сочетании данных, инфраструктуры и многолетних отношений с клиентами.

 

 

Особенно интересны направления развития компании в 2026 году. Palantir активно расширяет присутствие в сфере военного ИИ и цифрового поля боя, автономных систем управления и беспилотников, промышленного ИИ для производственных предприятий, медицины и фармацевтики, финансового сектора, энергетики и государственных цифровых платформ нового поколения.

Одним из наиболее заметных проектов последних лет стала платформа Maven, используемая американскими военными для анализа данных и поддержки принятия решений на поле боя. Компания продолжает получать крупные государственные контракты и расширять сотрудничество с Министерством обороны США, постепенно превращаясь в одного из ключевых поставщиков технологий для новой цифровой военной инфраструктуры. В работе на Пентагон в полной мере проявляется хладнокровная беспощадность цифрового подхода, жертвами которого становится гражданское население, в результате чего Palantir и заработал свою мрачную репутацию.

Но еще важнее то, что Palantir постепенно становится не просто системой аналитики, а полноценной операционной системой современного поля боя. Платформа Maven объединяет данные со спутников, дронов, радаров, средств радиоэлектронной разведки и множества других источников в единую картину происходящего. На основе этих данных искусственный интеллект помогает выявлять потенциальные цели, оценивать угрозы и значительно сокращать время принятия решений. По сути, система помогает военным пройти путь от обнаружения объекта до принятия решения о дальнейших действиях в разы быстрее, чем это было возможно раньше.

Еще один стратегически важный проект компании — TITAN (Tactical Intelligence Targeting Access Node), который также разрабатывается для армии Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое. . Эта система объединяет данные с космических аппаратов, беспилотников, авиации и наземных сенсоров, автоматически анализирует их с помощью искусственного интеллекта и формирует информацию для наведения высокоточного оружия. Если говорить простым языком, TITAN должен сократить время между получением разведданных и передачей координат подразделениям, способным нанести удар. Фактически Palantir строит цифровую нервную систему армии нового поколения, где информация, аналитика и принятие решений работают как единый организм.

 

 

 

Отдельное место в стратегии компании занимают БПЛА. Современная война генерирует колоссальные объемы информации: тысячи дронов ежедневно передают видеопотоки, фотографии, телеметрию и разведывательные данные. Обрабатывать такие массивы информации вручную физически невозможно. Решения Palantir позволяют автоматически анализировать видео с беспилотников, сопоставлять его со спутниковыми снимками, картами, данными разведки и другими источниками информации. Это помогает быстрее обнаруживать цели, отслеживать перемещение техники, выявлять скрытые объекты и оценивать обстановку практически в режиме реального времени.

 

Именно поэтому многие аналитики считают Palantir не просто разработчиком программного обеспечения, а одним из архитекторов новой эпохи алгоритмической войны. В мире, где победу все чаще определяет скорость обработки информации, преимущество получает не тот, у кого больше техники или солдат, а тот, кто быстрее превращает данные в решения.

С инвестиционной точки зрения динамика компании выглядит впечатляюще. Если в 2024 году выручка Palantir составляла около 2,9 миллиарда долларов, то в 2025 году она выросла до 4,48 миллиарда долларов, а в 2026 году руководство ожидает около 7,65 миллиарда. Таким образом, всего за два года бизнес увеличивается более чем в 2,6 раза.

Отдельного внимания заслуживает корпоративная культура компании. Разработчики здесь называются Forward Deployed Engineers — это инженеры, которые работают непосредственно с клиентами и помогают решать реальные задачи на месте. Продакт-менеджерами часто становятся люди, прошедшие через сложные клиентские проекты, а обновления программного обеспечения могут выходить ежедневно. Неудивительно, что многие бывшие сотрудники Palantir впоследствии создают собственные стартапы и становятся успешными предпринимателями.

Главное отличие компании заключается в том, что она не продает коробочное программное обеспечение. Сначала команда глубоко погружается в проблему клиента, затем создает решение под конкретную задачу и только после этого превращает его в универсальный масштабируемый продукт. Такой подход требует высокой вовлеченности и делает работу в компании крайне интенсивной. Высокая нагрузка, сложные проекты и постоянные дискуссии вокруг этической составляющей некоторых контрактов сделали Palantir одной из самых требовательных компаний технологического сектора.

 

Palantir стала отличным примером того, как выглядит настоящая deeptech-компания, то есть компания, создающая прорывные инновации на стыке фундаментальной науки и инженерии в эпоху искусственного интеллекта. Все больше становится очевидно, что в новой технологической гонке побеждает не тот, кто создал очередной GPT, а тот, кто обладает уникальными данными, умеет интегрировать ИИ в реальные процессы и глубоко понимает специфику своих клиентов.

 

 

 

Интересно, что одним из основателей Palantir является Питер Тиль — сооснователь Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  и первый внешний инвестор Facebook*. На первый взгляд эти проекты никак не связаны между собой, но если посмотреть глубже, то во всех случаях речь идет о создании цифровой инфраструктуры, которая меняет целые отрасли.

Именно поэтому Palantir сегодня выглядит не просто как еще одна ИT-компания. По сути, корпорация строит инфраструктуру для принятия решений в самых сложных системах современного мира — от корпораций и энергетических компаний до армий и государственных институтов. И если искусственный интеллект действительно станет новой промышленной революцией, то Palantir уже сейчас занимает в этой экосистеме место одного из ключевых поставщиков "операционной системы" для эпохи ИИ.

 

Возможно, самое интересное в истории Palantir заключается не в самой компании, а в том, какой новый класс организаций она представляет. По сути, это уже не просто разработчик программного обеспечения, а своеобразный цифровой спецназ нового поколения — структура, которая помогает государствам, армиям и крупнейшим корпорациям превращать огромные массивы данных в реальные решения и стратегические преимущества.

Еще несколько десятилетий назад стратегическими ресурсами считались природные богатства, промышленность и военная мощь. Сегодня к этому списку все чаще добавляются данные, вычислительные мощности и системы поддержки принятия решений на базе искусственного интеллекта. В этом смысле компании вроде Palantir постепенно становятся элементом критически важной инфраструктуры современного государства, сопоставимым по значимости с оборонной промышленностью, энергетикой или телекоммуникациями.

С высокой вероятностью в ближайшие годы мы увидим появление аналогичных структур в других странах. Гонка в области искусственного интеллекта, аналитики данных и цифрового управления только начинается, а отставание в этих направлениях способно привести к серьезному технологическому, экономическому и военному разрыву. Поэтому вопрос уже не в том, нужны ли государствам собственные аналоги Palantir, а в том, кто сможет создать их быстрее и эффективнее.

Если этот тренд сохранится, то через десять-двадцать лет подобные компании будут восприниматься как отдельный стратегический сектор экономики — новый слой инфраструктуры, без которого невозможно обеспечить конкурентоспособность государства, эффективность крупных корпораций и безопасность в мире, где главным ресурсом становятся данные и способность принимать решения быстрее конкурентов.

 

* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.

 

2.Развитие нейросетей ведет наш мир к невиданному до сих пор уровню тоталитарного контроля над обществом

 

 

Слежка за людьми с помощью технологий искусственного интеллекта (ИИ) обещает стать одной из самых горячих тем 2019 года. В январе на Давосском форуме миллиардер Джордж Сорос раскритиковал Китай, дальше всех продвинувшийся в развертывании национальной сети видеонаблюдения. По мнению Сороса, китайский режим стремится подчинить себе жизни полутора миллиардов граждан «беспрецедентными в истории методами». На том же форуме гендиректор Microsoft Сатья Наделла призвал государства обратить внимание на проблему распознавания лиц и ограничить самодеятельность в этой сфере законодательными актами.

За последние несколько лет идентификация пользователя по лицевому портрету проникла повсюду: мы «светим лицом» в смартфонах, соцсетях, автомобилях, веб-камерах. Технологию берут на вооружение крупный бизнес и спецслужбы. Вездесущие камеры, опознающие вас на каждом углу и документирующие жизнь поминутно, – никогда прежде тоталитарная мечта о всецелом контроле над личностью не могла быть реализована столь полно.

 

Пока подобные системы работают с ошибками либо покрывают ограниченную площадь. Но через несколько лет человек действительно окажется «под колпаком». Это касается и России. В нынешнем году «интеллектуальное» наблюдение запустят в Москве. Позже, в рамках построения «умных городов», технология придет в регионы. Чем грозит нам новая реальность, «Профиль» попытался разобраться с помощью экспертов из высокотехнологичных компаний.

Техника прозрела

В базу компьютера вносят тысячу изображений с пометкой «собака», затем еще тысячу «кошек». После того как искусственный интеллект (то есть специальный программный код, алгоритм) обработает их, усвоив различия, он должен с определенной долей вероятности отличить «собак» от «кошек» в следующей выборке. Операцию повторяют много раз, помечая неправильные ответы, и точность результатов улучшается. При этом программа не имеет представления, кто такие «кошка» с «собакой», а тем более не в курсе классификации животного мира. Так упрощенно выглядит методика глубокого обучения, создающая одну из главных технологий нашего века – компьютерное зрение.

Распознавание лиц – одна из главных областей ее применения. Программа фокусируется на характерных признаках внешности, отмечая порядка 100 опорных точек: расстояние между глазами, размеры бровей, носа, подбородка. Совокупность этих параметров дает уникальный портрет.

В широком смысле это один из способов биометрической идентификации, которая уже не считается ноу-хау. Но, в отличие от дактилоскопии или сканирования сетчатки глаза, распознавание лиц можно выполнить на расстоянии, для него не требуется согласие «подопытного». При этом можно не только установить личность, но и определить эмоции, реакцию на внешние раздражители, искренность поведения – практически «заглянуть в душу».

А если лицо плохо видно или замаскировано, ИИ способен вычислить человека по походке, анализируя положение его тела в каждой фазе шага (gait analysis). Одним словом, не скроешься.

Всевидящий дракон

В начале 2010 х бесспорным лидером в исследованиях ИИ считались США. Но в последние годы ситуация стала меняться в пользу Китая. По распространенному мнению, катализатором процесса стали успехи компьютера в игре го: в начале 2017 года программа Alpha Go разгромила лучшего китайского гроссмейстера. И если для Запада это было лишь покорение очередной отметки, то в Поднебесной, где го имеет чуть ли не священный статус, новость произвела фурор.

Летом 2017 го председатель КНР Си Цзиньпин заявил о намерении построить в стране экономику будущего на основе искусственного интеллекта и больших данных. Согласно плану, в 2020 году китайский рынок ИИ должен достичь $22 млрд, в 2025 м – $60 млрд, в 2030 м – $150 млрд.

Высокотехнологичным компаниям обещаны широкие меры поддержки – субсидии, госзаказы. Главным козырем китайских разработчиков ИИ, которого лишены их конкуренты в других странах, стала колоссальная база данных, на которой можно тренировать алгоритмы. Власти КНР охотно делятся ею с учеными.

Неудивительно, что «интеллектуальные» стартапы растут в Китае как на дрожжах. Один из них – SenseTime из Гонконга – был образован в октябре 2014 года как лаборатория по распознаванию лиц в одном из вузов. За четыре года компания приобрела более 400 клиентов, привлекла $3 млрд инвестиций и теперь считается самым дорогим ИИ-стартапом мира. Ее ближайшие конкуренты – Face++, Deep Glint и стартап Watrix с передовыми наработками по распознаванию походки. А также национальный поисковый сервис Baidu, открывший собственный Институт глубокого обучения.

 

©JIM LO SCALZO EPA Vostock Photo

 

 

Со своей стороны, рынок поддержали производители техники. В китайских смартфонах идентификация по лицу и разнообразные «лицевые команды» стали фирменной фишкой. А компания Hikvision Digital Technology завалила мир дешевыми CCTV-камерами: по данным IHS Markit, ее доля на глобальном рынке устройств видеонаблюдения выросла с 8% в 2012 году до 21% в 2018 м. В США камеры Hikvision установлены даже в отделениях полиции и на военных базах, чем весьма обеспокоены политики.

Сам Китай начали обвешивать камерами в 2005 году. В 2015 м ими были охвачены все улицы Пекина. Поначалу видео просматривали полицейские (в Пекине на это потребовалось 4,3 тыс. сотрудников), что делало сбор данных малоэффективным – получалось лишь расследовать нештатные ситуации. Но в 2015 году власти объявили о подключении устройств к системам автоматического распознавания лиц.

В 2017 году во всем Китае насчитывалось 176 млн «интеллектуальных» камер, а в 2020 м их число должно составить 626 млн. Планируется, что к тому моменту программа, получившая название «Зоркий глаз», покроет людные места во всех городах страны и будет идентифицировать гражданина в течение трех секунд с точностью 88%.

Лица китайцев распознают не только на улицах. Страна буквально одержима новой технологией. Платежный сервис Alipay привязал счета пользователей к их фотографиям, и теперь им достаточно сделать селфи, чтобы перевести деньги. В ресторанах KFC можно оформить заказ, показав себя камере платежного терминала.

В некоторых банкоматах вместо карты достаточно «предъявить» лицо, и система выдаст купюры. В аэропортах с 2017 года практикуется регистрация на рейс без документов: посадочным талоном является сама внешность пассажира. В жилых комплексах лицо служит пропуском на территорию или в отдельные здания – «распознаватель» может быть встроен даже в дверной замок.

Неусыпный контроль установлен над китайскими подростками. Прогулять уроки нелегко: в учебную форму встроены чипы, считываемые камерами на входе в школу. Камеры наблюдения в классе распознают настроение учеников, выискивая тех, кто отвлекся или заскучал: им снизят балл за работу на уроке. А вечером не получится «зависнуть» в видеоиграх. Их крупнейший производитель Tencent использует камеры гаджетов для идентификации игроков: детям до 12 лет система разрешает играть не больше часа в сутки, тинейджерам – не больше двух, затем игра отключается.

Фейс-контроль для плохих парней

Власти Китая утверждают, что общественная польза от распознавания лиц неоценима. Регулярно докладывается о «подвигах» ИИ в деле обеспечения порядка. В сентябре 2017 го полиция благодаря камерам обнаружила 25 разыскиваемых граждан на пивном фестивале. А в апреле 2018 го нашла подозреваемого в преступлении в 60 тысячной толпе на поп-концерте.

В прошлом году полицейским стали раздавать портативные очки-«распознаватели». Надев их, патрульный наверняка не упустит преступника: очки сканируют прохожих в зоне видимости, за пару минут находя совпадения в базе данных, если лицо видно хотя бы на 70%. Сообщалось, что за первые недели применения очки помогли задержать десятки злоумышленников.

Отдельный фронт работы для ИИ образовался в связи с желанием властей отрегулировать дорожное движение. На перекрестках установили камеры вместе с экранами, куда мгновенно выводятся данные о нарушителях, перебегающих дорогу на красный свет. Позже их находит полиция, предлагая в качестве наказания одну из трех мер: штраф в размере $3, посещение лекции о правилах перехода через проезжую часть или помощь регулировщику в управлении трафиком.

Самым болезненным для «бегунов» оказывается публичное порицание на большом экране. В итоге там, где было установлено оборудование, количество нарушений снизилось в 10 раз. Вывод властей: затраты в $15 тыс. на перекресток себя окупают.

Китайцы уверены, что алгоритмы распознавания способны на большее: не просто ловить преступников, но не допускать сами злодеяния. ИИ-стартап Cloud Walk из Гуанчжоу уже разработал систему, позволяющую анализировать степень подозрительности поведения в публичных местах: если человек ведет себя шумно или странно (например, бесцельно бродит по вокзалу, вместо того чтобы сесть на поезд и уехать), в полицию поступает сигнал обратить на него внимание. В подозреваемые записывают и тех, кто посещает магазины оружия, клубы с игровыми автоматами и прочие злачные места.

Как тут не вспомнить систему предсказания преступлений (crime prediction) из «Особого мнения»? Или Полицию мыслей (Thought Police) из «1984», карающую за мыслепреступления?..

Цифровая диктатура

Джордж Сорос не первый, кто обратил внимание на схожесть реалий КНР с сюжетами антиутопий. Обеспокоенность тем, к чему приведет контроль над обществом в таких масштабах, звучала с разных трибун: китайские порядки называли и «цифровой диктатурой», и «современной формой политической инженерии».

Масла в огонь подливает разрабатываемая Пекином с 2014 года система социального кредитования. Она во многом базируется на видеонаблюдении, но не ограничивается им: здесь отслеживаются не только перемещения человека, но любая офлайн- и онлайн-активность. График налоговых платежей и состояние банковского счета, история покупок и лайки в интернете, социальные связи – все идет в ход.

Искусственный интеллект сопоставляет разнородную информацию и выводит общую «оценку» гражданина. Не заплатил вовремя штраф или грубил в интернете, ездил без билета или курил в транспорте, клеветал на партию или просто постоял рядом с нежелательным человеком? Теряешь баллы. Жертвуешь на благотворительность, добровольно сдаешь кровь, уважаешь старших? Рейтинг растет.

Количество накопленных баллов напрямую влияет на уровень жизни. «Отличники» получают скидки, льготные кредиты и прочие поощрения от властей. «Двоечникам» сложнее снять жилье и устроиться на работу, их не обслуживают в популярных заведениях, не регистрируют на сайтах знакомств. Зловещая тень ложится на семью и друзей неудачника: их рейтинг тоже страдает, что заставляет избегать общения с «неприкасаемым».

«Система социального кредитования имеет дело уже не с преступниками, а с обычными, хотя и не самыми ответственными гражданами, – поясняет специалист по глубокому обучению компании «Цифра» Дмитрий Луковкин. – Она призвана закрепить набор поведенческих паттернов, «оптимизировать» людей. Могут ли власти заниматься подобным, на основании чего задано целевое поведение – это другие вопросы. Но в Китае их не задают».

Пекин планирует выстроить общенациональную систему к 2020 году, и тогда восторжествует «гармоничное социалистическое общество». Сейчас же она действует в отдельных городах. Наступившая там «гармония» удостоилась пристального внимания СМИ весной 2018 года, когда стало известно, что власти закрыли «низкорейтинговым» китайцам доступ на «элитные» виды транспорта: их заявки на 11 млн авиабилетов и 4,25 млн билетов на высокоскоростные поезда были отклонены.

Самым радикальным примером социального кредитования стал Синьцзян-Уйгурский автономный округ на западе Китая, где две трети населения составляют мусульмане-уйгуры. Судя по отношению к представителям этого этноса, им априори присвоен «неблагонадежный» рейтинг. Некоторых власти отправляют в лагеря перевоспитания, официально называемые центрами профессиональной переподготовки. В сентябре 2018 го правозащитная организация Human Rights Watch выступила с докладом о притеснениях уйгур, предположив, что на них Пекин репетирует «закручивание гаек» в национальном масштабе.

«То, что устроили в Синьцзяне, похоже на тюрьму под открытым небом, – комментирует китаист, эксперт по технологиям кибербезопасности Леонид Ковачич. – Хотя надо признать, что теракты в этом регионе сошли на нет, а ведь раньше их было немало. Так или иначе, большинство китайцев не слишком волнует происходящее на западе страны, да и сама система социального кредитования мало обсуждается. Лишь иногда официозные СМИ преподносят ее в позитивном ключе: мол, мы и так должны жить правильно, а теперь еще за это полагаются бонусы. Считается, что система способствует поднятию общественной морали, китайских «скреп». Заработает ли она в полную силу в 2020 году, неясно – в каждом регионе учет поступков ведется на свой манер, предстоит это унифицировать».

Камера смотрит в мир

Пекин не прочь делиться своими ноу-хау в надзорном деле с другими странами. Акцент делается на Латинскую Америку, где КНР последовательно наращивает экономическое влияние. Эквадор активнее всех подражает азиатскому патрону: слежка за гражданами установлена почти во всех провинциях страны, фиксируются любые действия в их мобильных телефонах. Филиалы компании CEIEC, агента Пекина в сфере «интеллектуальной» цензуры, также работают в Бразилии, Перу, Боливии, Венесуэле.

«Многие присматриваются к китайским технологиям, но не всем удается извлечь из них результат, – комментирует Ковачич. – Венесуэльскому режиму, как мы видим, они не помогли избежать массовых протестов. В Эквадоре, наоборот, за первый год видеонаблюдения преступность упала почти на 30%».

На Западе «чемпионом» по распознаванию лиц являются США, где локомотивом прогресса выступаютэту нишу с 2010 года: тогда опция Tag Suggestions открыла для пользователей возможность отмечать на фотографиях себя и друзей. Постепенно компания собрала один из крупнейших в мире каталогов лиц, и теперь, судя по слухам, не держит его за семью печатями от коммерческих партнеров.

Microsoft в 2016 м представил программу Azure Media Face Detector, способную распознать лицо на крохотном участке изображения размером 24х24 пикселя. На фотографии с высоким разрешением сервис может найти до 64 лиц. Вскоре у него появился конкурент – система Rekognition от Amazon, идентифицирующая на одном кадре уже сотню лиц.

 

©Leonid Plotkin/Alamy Stock Photo/Vostock Photo

 

 

В прошлом году Apple внедрила алгоритм распознавания FaceID в новейшую модель iPhone X. В 2019 м сканер лиц должен появиться в операционной системе Android от Google.

Спецслужбы США также не брезгуют технологией компьютерного зрения. В 2012 году ФБР запустило в нескольких штатах систему Trapwire стоимостью $1 млрд. Функционал у нее тот же самый: установить личность человека, определить его эмоциональное состояние, спрогнозировать намерения. А Пентагон совместно с Управлением перспективных исследовательских проектов (DARPA) разработал систему воздушного наблюдения ARGUS-IS: установленные на дронах суперкамеры способны выдать картинку с разрешением 1,8 млрд пикселей.

Есть и сообщения об успехах подобных систем. Так, летом 2018 го, когда распознавание лиц взяли на вооружение в 14 аэропортах США, первого злоумышленника, желавшего попасть в страну по чужому паспорту, обнаружили уже на третий день работы камер.

Однако в целом США отстали от Китая: в стране насчитывается лишь 50 млн «интеллектуальных» камер, а рынок компьютерного зрения составляет $2,9 млрд и растет всего на 0,7% в год (в Поднебесной – $6,4 млрд и +12,4% в год соответственно; данные IHS Markit). По подсчетам Ассоциации развития искусственного интеллекта, не сегодня завтра Китай обойдет США по публикациям в области ИИ. В 2012 году соотношение научных статей из этих стран составляло 41% на 10% в пользу США, в 2017 м – уже 34% на 23%. Если же взять статьи по теме глубокого обучения, то здесь китайцы вырвались на первое место еще в 2013 году.

В остальном мире программы распознавания применяются скорее эпизодически, чем системно. В Евросоюзе наиболее передовым проектом считается iBorderCtrl, запущенный в ноябре 2018 года. В рамках этой программы алгоритмами ИИ оснащены погранпункты в Латвии, Венгрии и Греции – с их помощью Брюссель надеется обуздать поток мигрантов нелегалов. В Японии готовят большую премьеру в 2020 м – система NeoFace от компании NEC должна будет распознавать гостей Олимпиады в Токио.

Ценности сопротивления

Иногда системам слежения не позволяет развернуться критика общественников, щепетильно относящихся к вопросу конфиденциальности данных. Так, в США еще несколько лет назад прозвучал тезис о том, что собирать «отпечатки лиц» незаконно. Летом 2012 го сенатор Эл Франкен выступил с известным докладом, в котором утверждалось, что сам факт анализа фотоснимка является вторжением в частную жизнь, ведь из него извлекаются уникальные параметры внешности.

В 2018 году разразился скандал с системой Rekognition. Выяснилось, что Amazon сдал ее в аренду околоправительственной компании Palantir, специализирующейся на больших данных, а также Иммиграционной службе США и полиции штата Флорида, планирующей на китайский манер покрыть камерами город Орландо.

В мае Американский союз защиты гражданских свобод (ACLU) и еще 70 правозащитных организаций выступили с открытым письмом к главе Amazon Джеффу Безосу, требуя прекратить сотрудничество с властями. «Люди имеют право ходить по городу без присмотра», – утверждалось в письме. В июне коллективный протест против «шпионского» применения Rekognition выразили уже сотрудники Amazon. Оправдания руководства компании выглядели не слишком убедительно: мол, если мы выясним, что некто использует Rekognition «безответственно», доступ к сервису будет перекрыт.

Этот пример послужил уроком для Google: в декабре компания сообщила, что не планирует продавать свои разработки в сфере распознавания лиц. Сначала нужно все «тщательно обдумать», чтобы использование ИИ «не привело к злоупотреблениям» и «не противоречило нашим ценностям», заявил вице-президент Google Кент Уокер.

Но и это не всех удовлетворило. Ряд организаций с говорящими названиями вроде Big Brother Watch («Большой Брат на страже») заявили о намерении бороться с «капитализмом надзора» (surveillance capitalism) до победного конца. Мол, сегодня за нами и так следят по полной программе, в интернете регистрируется каждый клик. Но уличные камеры – это перебор, ведь человек не может скрыть или зашифровать свое лицо. Следовательно, необходимо добиваться полного запрета на распознавание.

«Эти истории показывают, насколько перспективы внедрения ИИ зависят от социальных факторов – особенностей политического режима, местной этики, – рассуждает совладелец телекоммуникационной компании «Вертикаль» Георгий Чумбуридзе. – В обществах с сильной демократической традицией общество будет сопротивляться технологиям слежки, и небезуспешно».

Работа над ошибками

Помимо идеологических соображений, распространению «интеллектуальной» слежки препятствуют сугубо технические проблемы. Зачастую работа алгоритмов далека от идеальной. К примеру, в прошлом году программа Rekognition приняла 28 членов конгресса США за преступников, поставив своих создателей в неловкое положение. Примерно тогда же камеры с ИИ-модулем попробовали использовать в Лондоне – выяснилось, что программа ошибается в 90% случаев, а значит, о ее полноценном внедрении не может идти речи.

В Китае, где от тестирования быстро перешли к делу, за ошибки компьютера уже приходилось расплачиваться невинным гражданам. В ноябре 2018 го искусственный интеллект города Нинбо оштрафовал за переход на красный свет женщину по имени Дун Минчжу. Но ее самой на месте происшествия не было: перекресток проезжал автобус с фотографией Минчжу на рекламном баннере.

«Сегодня вероятность ложного срабатывания систем наблюдения в среднем составляет около одной миллионной, – говорит Дмитрий Луковкин из «Цифры». – Но при сотнях миллионов камер это приведет к сотням ложных идентификаций в день. Особенно велик риск, когда такие камеры устанавливают в автономных охранных или боевых системах».

Конечно, со временем точность результатов растет. К примеру, в 2015 году приложение Google Photos было не в состоянии отличить темнокожего человека от обезьяны. ВLab провели расследование, доказавшее, что причиной ошибок в подобных случаях является асимметричность обучающей выборки. ИИ натаскивают в основном на белых мужчинах – следовательно, женщин и темнокожих он различает хуже. Разработчики принялись устранять «дискриминацию», и в 2018 году программный код Rekognition уже демонстрировал локальные успехи в распознавании лиц афроамериканцев. Но 31% допущенных ошибок – все равно много.

Сколько лет потребуется на доработку алгоритмов, эксперты сказать затрудняются. Да и настанет ли вообще день, когда ИИ-системы заработают как швейцарские часы? Американский ученый Винтон Серф, считающийся одним из создателей Всемирной паутины, считает, что человек не сможет проконтролировать «лавину» техники: миллиарды «умных» устройств поступают и поступают в продажу, постепенно накопится критическое количество ошибок, и наступит глобальный коллапс.

«На нынешнем этапе необходимо, чтобы во всех расследованиях с использованием технологий распознавания активное участие принимал человек, который будет критически оценивать полученную информацию и принимать финальное решение», – делает вывод директор по информационным технологиям Mail.Ru Group Денис Аникин.

Потерять лицо

Еще одна угроза – преднамеренная кража данных, накапливаемых системами видеонаблюдения. По подсчетам South China Morning Post, база образцов внешности китайских граждан «весит» 90 терабайт – то есть унести полный «лицевой каталог» самой многонаселенной страны мира можно всего на нескольких жестких дисках.

Для Китая эта проблема тем актуальнее, что данные для системы социального кредитования собираются из множества источников, а значит, и выше риск утечки. Причем, используя те же нейросети, злоумышленник может на основе украденных фотографий представить жертву в каком угодно свете. В прошлом году в Сети начали распространяться deepfake-видео: созданные искусственным интеллектом ролики с использованием внешности реальных людей. Это уже не любительские «фотожабы»: поддельные ролики пугающе реалистичны, их героям было бы непросто доказать, что они не замешаны в подсудных деяниях.

 

©Daniel Karmann/DPA/Vostock Photo

 

«В китайских городах, где обкатывают социальное кредитование, бывали случаи, когда аккаунты жителей подделывались, от их имени совершались «неправильные» покупки, и за счет этого у людей падал рейтинг, – рассказывает Ковачич. – В итоге началась дискуссия о том, как повысить информационную безопасность системы, но пока никакой стратегии, конкретных мер не выработано. Пекин рассчитывает решить все проблемы административным ресурсом».

По словам экспертов, распознавание лиц стало феноменом жизни, и национальные правительства не смогут наблюдать за ним со стороны. В декабре 2018 го о необходимости скорейшей разработки регламентов для этой технологии заявил президент Microsoft Брэд Смит. В январе его поддержал гендиректор компании Сатья Наделла, признав, что саморегуляции IT-компаний в этом чувствительном вопросе недостаточно.

Соответствующий закон в США может быть принят в нынешнем году, один его проект уже представила Федеральная комиссия по торговле, другой – эксперты университета Джорджтауна (Center on Privacy & Technology). Как предполагают американские СМИ, в законе пропишут и полномочия госструктур в сфере распознавания, и страховочные решения на случай роковых ошибок.

И мы туда же

В России апологетом развертывания «шпионских» видеосетей выступает мэрия Москвы. В прошлом году распознавание лиц заработало в столичном метро. В 2019 м планируется оснастить этой технологией камеры на всей территории города, что обойдется бюджету Москвы в 7,5 млрд рублей плюс 6 млрд на оснащение дата-центров.

По данным столичной полиции, ИИ-наблюдение позволило предотвратить 27 убийств, 77 случаев причинения тяжкого вреда здоровью, 165 разбоев, более 300 грабежей. В дальнейших планах мэрии – установить идентификацию по лицу на станциях железной дороги. Пассажиры с действующими проездными смогут проходить на платформу без билета: система «считает» лицо и определит, что проезд оплачен.

Распознаванием лиц занимаются и отечественные IT-стартапы. Самым успешным из них считается NtechLab, регулярно побеждающий на международных конкурсах алгоритмов идентификации. В 2015 году компания представила популярный сервис FindFace, позволяющий по фотографии найти профиль человека в социальной сети «ВКонтакте» (теперь им тоже пользуются для розыска преступников). В марте 2018 го долю в NtechLab выкупила госкорпорация «Ростех», вынашивающая планы развивать в России «умные города» на базе искусственного интеллекта.

По словам собеседников «Профиля», в нашей стране нет сдерживающих спецслужбы факторов, равных по силе демократическим институтам Запада. Но при этом нет и слаженности административной системы и ресурсов Китая. А значит, пока специальный закон о распознавании не нужен: эту сферу регулирует 152 ФЗ «О персональных данных», необходимо лишь следить за его исполнением.

«В алгоритмах распознавания у России недостатка нет, но вот с базами данных вышла заминка, – объясняет руководитель проекта IDX Светлана Белова. – В 2018 году у нас запустили Единую биометрическую систему, но пока она толком не заработала – россияне не спешат сдавать свою биометрию. А если данные не будут легко добываемы, нет и «пищи» для нейросетей». По словам экспертов, остается вариант объединить частные базы, создаваемые в основном при банках. Но и те не горят желанием «сливать» данные своих клиентов на сторону. Пока этот конфликт интересов не преодолен, россияне могут спать спокойно: камеры видеонаблюдения не могут использоваться иначе как для полицейского розыска.

Леонид Ковачич полагает, что китайская система социального кредитования в принципе не имеет перспектив в России. «Моральная оценка поступков, сложная социальная иерархия, жизнь у всех на виду – эти вещи очень присущи Китаю, – считает эксперт. – У социального кредитования есть прямой прототип в древности – традиция коллективной поруки с системой сдержек и поощрений. Для российской культуры это, наоборот, несвойственно. Наши граждане предпочитают лишний раз не светиться».

 

 

При написании статьи использовались следующие материалы:

 

1.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

 

2.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.