Битва за контроль: как технологические компании угрожают государству

Власти государств потеряли свое первенство в цифровом мире, пишет Мариетье Шааке — научный сотрудник Стэнфордского центра киберполитики и Института искусственного интеллекта, ориентированного на человека, в статье для американского журнала Foreign Affairs. Эксперт приводит в пример конфронтацию между Илоном Маском, владельцем платформы Х*, и Александром де Мораэсом, одним из судей Верховного суда Бразилии, который постановил заблокировать аккаунты, распространяющие, по мнению властей Бразилии, дезинформацию. «Актуальные комментарии» подготовили обзор статьи.

Властям следует снизить зависимость от технологических компаний. «Им нужно наращивать свой собственный технический опыт. Прежде всего, они должны создавать эффективные и инновационные режимы регулирования, которые могут привлечь технологические компании к ответственности. Это необходимо для поддержания открытых и свободных цифровых обществ, основанных на верховенстве закона. Бразильский случай является напоминанием о том, что это еще не поздно сделать».

Политики не успевают за технологическими изобретениями. «В Соединенных Штатах два ключевых закона, ориентированных на контроль технологических компаний — Communications Decency Act (Закон о пристойности в коммуникациях) и Digital Millennium Copyright Act (Закон об авторском праве в цифровую эпоху) — были приняты десятилетия назад — в 1996 и 1998 годах соответственно — задолго до того, как Стив Джобс даже подумал об iPhone. В последующие годы технологические компании продвинулись от разработки продуктов к эксплуатации целых систем, которые влияют на цифровую инфраструктуру и гарантии ее безопасности — то, что ранее управлялось исключительно государствами. Высвобождая свои мощные инструменты и услуги в мире без надлежащих законодательных рамок, технологические компании стали де-факто губернаторами технологий, имеющих большое геополитическое значение, включая системы распознавания лиц, спутниковые интернет-соединения и некоторые аспекты сбора разведданных. У Microsoft есть Центр разведки угроз, который собирает информацию, как если бы эта компания была Агентством национальной безопасности. Криптовалютные компании чеканят свои собственные деньги, как Федеральная резервная система. А портфель чистой энергии Amazon превосходит портфель некоторых стран, даже несмотря на то, что эта компания строит энергоемкие центры обработки данных».

У владельцев технологических компаний больше власти, чем у лидеров государств. «Они владеют подводными кабелями передачи данных, которые служат транспортной системой почти для всего мирового интернет-трафика. Почти 99 процентов мировых данных проходят через них, включая 10 триллионов долларов в ежедневных финансовых операциях и высокочувствительную правительственную информацию. Без кабелей все виды основных действий стали бы невозможными, поэтому эта сфера должна регулироваться и защищаться государствами или межправительственными органами. Технологические компании также глубоко вовлечены в государственную бюрократию, делая правительства уязвимыми. Например, в 2013 году голландские налоговые органы внедрили спорные алгоритмические оценки рисков для выявления мошеннических налогоплательщиков. Это была катастрофа: из-за ошибочных оценок, в том числе посредством расового профилирования, десятки тысяч семей потеряли свои дома, работу и опеку над своими детьми, поскольку непрозрачный инструмент оказался дискриминационным. Политические последствия в конечном итоге заставили правительство уйти в отставку, нанеся ущерб доверию людей к государству. При этом компания, которая разработала это программное обеспечение, избежала наказания. Но подобные алгоритмы остаются в использовании и на рынке по всему миру».

Технологические компании становятся спонсорами военных конфликтов. «Приложения ИИ спорно использовались для выявления огромного количества целей в Газе. Украина использует спутниковые компании для получения разведданных и связи. Эта позволяет технологическим фирмам оказывать значительное влияние на оборону государств. Одной из компаний, от которых зависит Украина, является, например, Starlink, владелец которой — Илон Маск — начал призвать к мирным переговорам на условиях России, вызвав недовольство Киева и его сторонников. В других случаях технологические фирмы фактически стали прямыми сторонами конфликтов. Конфронтации все чаще происходят в киберпространстве, и поэтому государства все больше зависят от частных компаний в области обороны. В 2021 году сети Colonial Pipeline были поражены атакой программ-вымогателей. Компания является одним из крупнейших поставщиков энергии в Соединенных Штатах. В результате кибер-атаки поток нефти на большей части Восточного побережья США остановился. Несколько штатов даже объявили чрезвычайное положение. Но четких международных правил, которые определяли бы наказание за кибер-атаки, не существует, а шпионаж с помощью цифровых средств, как правило, не считается нарушением государственного суверенитета, поэтому остается безнаказанным».

Компаниям следует запретить продажу антидемократических технологий. «В 2021 году Министерство торговли США добавило NSO Group, израильскую фирму, которая производит шпионские программы Pegasus, в Список юрлиц, угрожающих национальной безопасности США. Pegasus — это шпионское программное обеспечение, популярное среди репрессивных правительств, стремящихся следить за активистами, журналистами и оппозиционерами. Но компанию внесли в этот список пришло слишком поздно». Помимо этого, эксперт призывает государства инвестировать значительные средства в создание публичной цифровой инфраструктуры и академические исследования, а общественность — создать культуру технической этики и подотчетности, которая может заставить компании принимать правильные решения.

* Ресурс заблокирован на территории России