Сможет ли Европа держать под контролем создателей ИИ, возомнивших себя богами?

В мире, где все больше решений принимают алгоритмы и все больше влияния у корпоративных проповедников ИИ, вопрос о том, кто контролирует технологии, актуален как никогда. На сессии ZEG Amsterdam журналистка и ученая Джули Позетти, специалист по анализу данных Кристофер Уайли и журналистка Наталья Антелава сошлись на том, что опасность представляют не только возможные сбои в работе ИИ, но и то, что создатели ИИ уже считают себя богами.

Диагноз Позетти беспощаден: индустрия «купилась на ложь […] тех, кто говорил, что нужно действовать быстро и, по сути, все ломать, а жертвы – лишь побочный продукт прогресса». «Мы живем в мире, где фильтры полностью вышли из строя», – размышляет она, вспоминая слова Клея Ширки о том, что «не бывает информационной перегрузки, бывает только отказ фильтров». Сегодня эта перегрузка «заставляет нас отключаться, заглушает правду и каким-то образом разделяет нас», а «поляризация, которую она создает, действительно сложна, и я боюсь, что она непреодолима».

Этот «отказ фильтров» только усугубился с появлением ИИ. Уайли, знаменитый разоблачитель Cambridge Analytica, предупреждает, что технология, способная знать, видеть и предсказывать все о нас, рискует лишить человека автономии: «Если представить себе будущее, где все вокруг вас управляется чем-то, что наблюдает за вами и думает о вас, где оно видит вас постоянно, но вы его не видите, и оно делает выбор за вас, то как вы можете проявлять свою самостоятельность как личность, если мир буквально реагирует и думает за вас?» Он утверждает, что меняются не только инструменты, но и сам человек: ползучая инфантилизация, которая «разрушает суть личности».

Это технотеологическое мышление, разделяемое такими технократами, как Илон Маск, Сэм Альтман из OpenAI и Питер Тиль (миллиардер, сооснователь PayPal, инвестор в ИИ), подпитывает веру, что технологии должны выходить за рамки самой человеческой жизни. «Следующая эволюция человечества - это кремний, — говорит Уайли. – Бессмертный, всезнающий и выходящий за рамки морали».

Проблема в том, что большинство СМИ, вместо того, чтобы освещать эти лозунги как радикальный политический проект – «ведь это, знаете ли, фактически культ конца света», замечает Позетти – сочли их «забавными» или «несостоятельными». Эти технократы теперь близки к власти – «связаны с законодателями США, но при этом фактически не несут ответственности».

Уайли добавляет, что «странные двойные стандарты» изолируют самых влиятельных представителей технологической отрасли: если бы генеральный директор какой-нибудь крупной компании объявил о планах «лишить работы большинство людей» или заявил, что «Бог, возможно, живет в моих компьютерах», его, скорее всего, сняли бы с должности. Что касается титанов Кремниевой долины, то, напротив, «мы каким-то образом просто позволяем им нести всякую чушь».

Десятилетиями технологии позиционировались как нечто нейтральное – скорее как инструмент, а не идеология. Уайли развенчивает это представление: «Создание технологий – это идеологический акт. Каждый аспект интернета был разработан с учетом капитализма и западного индивидуализма. Алгоритмы не расширяют выбор, а сужают его. Они разделяют и монетизируют нас».

Эта логика, утверждает он, отражает сегрегацию и распространяет метафору на физический мир: «Если представить себе Facebook как здание», оно распределяет людей по разным дверям, так что «все они видят совершенно разные вещи». Если бы оно было построено из бетона, «это было бы незаконно. Но мы позволяем всей нашей цифровой архитектуре использовать логику сегрегации».

Такая идеология в цифровом дизайне, по мнению Уайли, является формой неоколониализма. «Большие технологические компании – это новая итерация колониализма в XXI веке, – говорит он. – Раньше богатые белые люди отправлялись в Африку или Азию, чтобы захватить полезные ископаемые или каучук. Теперь они приходят за данными – нашим вниманием, нашими мыслями. И последствия очень похожи: [...] подрывают местное управление и местных жителей, заставляя общества разбираться с последствиями». Он утверждает, что отправной точкой должно быть сопротивление: не «как нам регулировать их поведение», а «как нам не допустить их?»

На этом фоне Антелава обращается к вопросу регулирования. Если в США госуправление хромает, то, по ее словам, Европа – одно из немногих мест, где пытаются привлечь технологии к ответственности, принимая закон ЕС об искусственном интеллекте, закон о цифровых услугах и меры по налогообложению. «Правительства проснулись, – говорит она, – но не слишком ли поздно?»

Позетти приветствует некоторые элементы этого ответа ЕС на вызовы, особенно те, где цель состоит в «обеспечении определенной степени подотчетности» и «демократического обсуждения в общественных пространствах XXI века, включая цифровые». Однако она предупреждает, что «мы играем в догонялки», «не инвестируем в меры реагирования в необходимом объеме» и некоторые меры (например, требования к удостоверению личности для лиц младше 16 лет в интернете) довольно нелогичны.

Геополитическое противостояние будет жестким. Позетти отмечает, что прогресс в области справедливого налогообложения и подотчетности платформ «подорван и разрушен открытыми нападками со стороны Трампа в ходе тарифных войн». Дисбаланс сил «хуже, чем у Давида и Голиафа… целая плеяда миллиардеров, теперь объединившихся с законодателями в США», использует экономические и дипломатические рычаги, чтобы противостоять регулированию ЕС.

Чтобы регулирование имело значение, настаивает Уайли, оно должно быть структурированным и поддающимся исполнению. «Мы живем, как это ни абсурдно, с большим количеством правил безопасности для тостера на кухне, чем для платформы с миллиардом пользователей», – говорит он. Для решения этой проблемы необходимы как принципы проектирования (какую идеологию нам следует использовать в проектировании и дизайне ИИ?), так и подотчетность: сочетание этого регулирования с реальными санкциями, «включая уголовную ответственность для руководителей, которые способствуют преступным действиям». «Если бы Марк Цукерберг боялся, что завтра к нему постучатся федералы, он бы исправил проблемные места сети», – считает Уайли.

Он подчеркивает, что ни одна из этих проблем не может быть решена одним лишь законом: «Решение политических проблем всегда политическое, а не технологическое. Мы не говорим о слоне в комнате, которым […] теперь стали политические лидеры в Кремниевой долине, они хотят полностью подорвать наше общество. Я не думаю, что этим компаниям следует позволить существовать в их нынешнем виде».

Борьба вокруг ИИ – это не борьба за технологии, а за саму демократию, уверены все трое экспертов: кто будет определять истину, свободу действий и власть в XXI веке.

Позетти выступает за возрождение многополярности – обновление послевоенного урегулирования, основанного на правах человека. Учитывая растущий авторитаризм и системы, душащие правду, она призывает к «новому межправительственному решению», задаваясь вопросом: «Какого рода ответ в сфере регулирования мы можем получить помимо того, что пытается сделать ЕС?» Она призывает к новым межправительственным усилиям, аналогичным послевоенному созданию Организации Объединенных Наций и Совета Европы. «Эти институты родились в результате катастрофы – чтобы обеспечить демократию, верховенство закона и прав человека, – говорит она. – Нам необходимо воссоздать нечто подобное для цифровой эпохи, поскольку национальное регулирование само по себе неэффективно».

Уайли, со своей стороны, призывает к переосмыслению основополагающих принципов – того, что он провокационно называет феминистским интернетом. «Сейчас у нас нет интернета, который был бы создан, чтобы помогать вам, освобождать вас, расширять ваши возможности выбора», – говорит он. Доминирующие сегодня методы разобщают вас с другими. […] Речь не идет о построении сообщества». Переосмысление означает сосредоточить внимание на уязвимых пользователях, динамике власти и злоупотреблениях – с учетом социальных целей, а не только коммерческой оптимизации.

Прежде всего, он отвергает компромисс, который нормализует вред: «Ценой удобства не обязательно должны быть права человека. Это не взаимоисключающие вещи». Это должно стать четкой линией Европы. Регулирование должно стать не просто документом, а конституционной перезагрузкой цифровой публичной сферы: четкие обязанности по обеспечению безопасности, профессиональные стандарты для инженеров-программистов, проверенные базовые показатели безопасности перед внедрением и уголовная ответственность в случае, если платформы способствуют причинению серьезного вреда.

Европа пока служит испытательным полигоном. Закон об искусственном интеллекте, пусть и несовершенный, утверждает принцип, который Кремниевая долина давно отрицает: технологии должны служить людям, а не наоборот. Сможет ли этот принцип противостоять мощи новых цифровых олигархов, определит не только будущее ИИ, но и будущее самой демократии.

В последние годы ЕС создал комплексную систему регулирования цифровой сферы, включающую закон о цифровых рынках (DMA), закон о цифровых услугах (DSA) и закон об искусственном интеллекте (AI), в ответ на угрозу, исходящую от Кремниевой долины и способную изменить институты, политику и поведение континента.

Закон DMA определяет шесть главных подконтрольных лиц (Alphabet/Google, Amazon, Apple, ByteDance/TikTok, Meta/Facebook/Instagram/WhatsApp и Microsoft) и налагает обязательства по предотвращению самопредпочтения и антиконкурентного объединения продуктов. В апреле 2025 года Еврокомиссия признала, что Apple и Meta нарушили DMA в части управления устройствами и привязкой к магазинам приложений. В марте 2024 года Комиссия начала производство по делу о несоблюдении требований DMA в отношении Alphabet, Apple и Meta.

Почему эти случаи имеют значение? Обязательства DMA, касающиеся взаимодействия, ограничений на использование данных и управления, напрямую влияют на то, как посредники могут интегрировать ИИ-помощников, объединять модели в операционные системы и использовать данные отслеживания пользователей для обучения (процедура спецификации ИИ). Актуальность решений Еврокомиссии подтверждена BEUC, ключевой европейской организацией по защите прав потребителей, которая приветствовала решения, принятые в апреле 2025 года, как «необходимые, чтобы предоставить потребителям больший выбор».

Напротив, закон о цифровых услугах теперь в полном объеме распространяется на очень крупные онлайн-платформы, обязывая их оценивать и минимизировать системные риски, такие как алгоритмическая дезинформация и рекомендательные системы на основе ИИ. В марте 2024 года Комиссия опубликовала руководящие принципы по снижению рисков и интегрировала Кодекс практики по борьбе с дезинформацией в инструментарий DSA, опубликованный в феврале 2025 года. Продолжающиеся судебные разбирательства DSA против X и TikTok проверяют на практике положения об алгоритмических рисках.

Кроме того, в январе 2025 года вице-президент Комиссии Хенна Вирккунен подчеркнула, что «алгоритмическая подотчетность и контроль предвзятости играют центральную роль в программе обеспечения соблюдения DSA». По словам Комиссара, коалиция по защите цифровых прав EDRi предостерегает от «упрощенных и дерегулированных нарративов», которые могут ослабить свод правил ЕС.

Закон об ИИ (также известный как Регламент ЕС 2024/1689) вступил в силу в августе 2024 года. Он устанавливает три четких срока для компаний, использующих ИИ, для соблюдения требований: во-первых, с февраля 2025 года запрещены практики, связанные с неприемлемым риском; во-вторых, с августа 2025 года вступили в силу типовые пошлины в отношении систем искусственного интеллекта общего назначения (GPAI); и, в-третьих, правила ЕС в отношении ИИ, касающиеся систем высокого риска, будут поэтапно вводиться к концу 2026 или началу 2027 года.

Многое будет зависеть от работы недавно сформированного Европейского совета по ИИ, состоящего из представителей правоохранительных органов государств-членов и брюссельского Управления по ИИ. Последнее координирует деятельность национальных органов власти и контролирует соблюдение требований GPAI. Управление также отвечает за действия и политику государств-членов, направленные на постепенный доступ к преимуществам ИИ в ЕС, и обменивается передовым опытом. Оно предлагает «песочницы», тестирование в реальных условиях и другие европейские структуры поддержки, стимулирующие внедрение ИИ.

Будет ли этого достаточно для защиты граждан, предприятий и учреждений ЕС от злоупотреблений? «Задержки с реализацией, вялые консультации и мощное влияние отрасли грозят сделать Закон об ИИ неэффективным», — предупреждает общеевропейский орган по защите цифровой конфиденциальности EDRi. Другая ключевая организация по цифровым правам, Access Now, призвала Комиссию «сохранить принципы, ориентированные на права человека, и не допустить захвата отрасли».

На другом конце спектра – лобби в виде крупнейших цифровых компаний, которые стремятся повлиять на кодексы GPAI и правила прозрачности. Этому способствует тот факт, что европейская экосистема ИИ по-прежнему в значительной степени зависит от иностранных технологий, что оставляет ЕС практически без контроля формирующейся ИИ-экономикой. Практически все передовые LLM-модели, используемые на континенте, – ChatGPT (OpenAI), Gemini (Google), Llama (Meta) и Claude (Anthropic) – разработаны и размещены американскими компаниями. Их модели также обучаются с использованием высокопроизводительных графических процессоров NVIDIA, производимых TSMC на Тайване.

Неудивительно, что Европейская счетная палата (ЕСП) в своем Специальном докладе 12/2025 предупредила, что Евросоюз «по-прежнему далек от достижения автономии в области производства микросхем» и рискует отстать от США и Азии в плане самодостаточности в области полупроводников. Аналогичным образом в докладе Европейского парламента «Превращая Европу в континент ИИ» (сентябрь 2025 г.) подчеркивается сохраняющаяся «иностранная зависимость гигафабрик ИИ» и необходимость скоординированных инвестиций, использование инфраструктуры и навыков.

Короче говоря, уровень модели — американский, а уровень вычислений — тайваньский. Если Европа сосредоточится на регулировании, а не на разработках, она рискует остаться регулирующей державой без технологического суверенитета.

По мере того, как ЕС продолжает продвигать DSA и DMA, напряженность между трансатлантическими партнерами растет. Президент США Дональд Трамп пригрозил ввести новые пошлины и другие ответные меры против стран, которые принимают цифровые налоги или вводят правила, которые, по его мнению, дискриминируют американских технологических гигантов. Утечка дипломатической телеграммы от 4 августа показала, что посольствам США было поручено активно противодействовать цифровому регулированию ЕС. Это побудило европейских законодателей осудить кампанию Вашингтона как прямое посягательство на суверенитет ЕС.

Несмотря на давление, Брюссель сохраняет твердость. Еврокомиссия начала несколько расследований по DSA, направленных против сети X, в связи с ее алгоритмами и системами прозрачности, а также выявила нарушения со стороны TikTok и Meta, которые отказывали исследователям в доступе к данным и препятствовали публикации контента. В соответствии с законом о цифровых рынках (DMA) компании Apple и Meta уже были оштрафованы на 500 и 200 миллионов евро соответственно.

Тем временем Франция и Германия стремятся пересмотреть баланс между регулированием и конкурентоспособностью. Их совместный саммит по цифровому суверенитету в Берлине направлен на продвижение упрощенной нормативно-правовой базы ЕС для стимулирования инноваций – это попытки согласовать цифровую автономию Европы с ее экономическими амбициями, одновременно преодолевая растущие политические и коммерческие противоречия с Вашингтоном.