Table of Contents

Разрыв в регулировании: почему управлять новыми технологиями сложнее, чем кажется

Мы живем в период технологического ускорения, не похожий ни на один предыдущий. Прорывы в искусственном интеллекте, редактировании генов, распределенных реестрах и квантовых вычислениях приходят не как далекие концепции, а как продукты, услуги и системы, уже встроенные в повседневную жизнь. Каждая волна инноваций несет огромные перспективы - лекарства от болезней, более эффективные энергетические сети, прозрачные цепочки поставок и новые формы творческого выражения. Тем не менее наряду с обещанием возникает более глубокая проблема: как мы регулируем технологии, которые все еще изобретаются, чьи риски плохо изучены и чьи последствия могут не ощущаться годами?

Традиционная модель регулирования — законодательное регулирование, затем обеспечение соблюдения, затем обновление — была разработана для более медленно движущегося мира. Сегодня технологии развиваются быстрее, чем законы могут быть разработаны, не говоря уже о принятии. К тому времени, когда нормативная база принята, технология, на которую она нацелена, может уже сместиться или устареть. Это не провал одних законодателей; это структурное несоответствие между темпами инноваций и темпами управления. Решение этого несоответствия требует не только лучших правил, но и принципиально другого подхода к нормотворчеству.

Уникальная природа новых технологий

Новые технологии — это не просто новые версии существующих инструментов. Они часто представляют собой сдвиги парадигмы — совершенно новые способы делать вещи, которые не подходят аккуратно к существующим нормативным категориям. Автомобиль без водителя — это не просто автомобиль с компьютером; это агент принятия решений на колесах. Инструмент редактирования генов — это не просто медицинское устройство; это средство переписать код жизни. Регуляторам предлагается контролировать области, где словарь, риски и заинтересованные стороны все еще определяются.

Что делает технологию «развивающейся»?

Несколько характеристик отличают новые технологии от постепенных улучшений. Они часто новатор в своих основных механизмах, быстро эволюционируют в возможностях и неопределенные в их долгосрочных эффектах. Они могут быть конвергентными , то есть они объединяют достижения из нескольких областей — например, ИИ, применяемый к биологии или блокчейну, используемый для проверки личности. Наконец, они часто разрушают существующие бизнес-модели, рынки труда и социальные нормы.

К числу ключевых примеров относятся:

  • Искусственный интеллект (ИИ) (FLT: 1) — системы, которые могут учиться, рассуждать и принимать решения, от больших языковых моделей до автономных транспортных средств.
  • Блокчейн и технология распределенного реестра — децентрализованные сети, которые позволяют проводить безнадежные транзакции, лежащие в основе криптовалют и смарт-контрактов.
  • Биотехнология и редактирование генов — такие инструменты, как CRISPR-Cas9, которые могут модифицировать ДНК, с приложениями в медицине, сельском хозяйстве и синтетической биологии.
  • Интернет вещей (IoT) — подключенные датчики и устройства, которые генерируют массивные потоки данных, что позволяет создавать интеллектуальные города и автоматизировать промышленность.
  • Квантовые вычисления — вычисления, использующие квантовые явления для решения проблем, неразрешимых для классических компьютеров, с последствиями для криптографии и материаловедения.
  • Автономные системы (FLT:0) — дроны, роботы и транспортные средства, которые работают с различной степенью человеческого контроля.

Эти технологии не изолированы; они взаимодействуют и усиливают друг друга. ИИ обеспечивает анализ данных IoT. Блокчейн обеспечивает данные обучения ИИ. Редактирование генов создает биологические датчики, подключенные к Интернету. Таким образом, нормативная задача заключается не просто в управлении каждой технологией индивидуально, но и в прогнозировании сложных эффектов их конвергенции.

Императив регулирования

Зачем вообще регулировать? Вопрос регулирования опирается на несколько столпов: защита общественной безопасности, обеспечение справедливости, сохранение человеческой автономии и поддержание общественного доверия. Без ограждений новые технологии могут нанести вред до того, как их выгоды будут реализованы — подумайте о предвзятых алгоритмах, отказывающих в кредитах, необеспеченных устройствах IoT, захваченных для ботнетов, или генно-редактированных организмах, выпущенных в окружающую среду без надзора. Регулирование не является врагом инноваций; это основа, в которой инновации могут действовать ответственно.

Сбалансировать инновации с осторожностью

Центральным противоречием в регулировании технологий является баланс между стимулированием инноваций и снижением риска. Чрезмерное регулирование может убить перспективные разработки до того, как они созреют, лишая общество потенциальных преимуществ. Недостаточное регулирование может привести к катастрофам, которые отбросят целые поля и подорвут доверие общественности. Принцип предосторожности , который гласит, что перед лицом неопределенного, но потенциально серьезного вреда, следует принимать меры для его предотвращения, часто применяется, но его может быть трудно применить, когда характер вреда неизвестен. Более прагматичный подход - это регулирование на основе риска , где уровень надзора пропорционален потенциальной серьезности вреда. Например, чат-бот с искусственным интеллектом для обслуживания клиентов представляет более низкие риски, чем ИИ, используемый для постановки медицинских диагнозов, и должен сталкиваться с более легким регулированием.

Решение проблемы с дорожным покрытием

Одной из наиболее цитируемых проблем является «проблема ускорения» — разрыв между скоростью технологических изменений и скоростью регулятивного реагирования. Законодательные процессы по своей сути являются совещательными, предназначенными для формирования консенсуса и рассмотрения нескольких точек зрения. Технологические компании, напротив, могут итерировать выпуски продуктов в течение нескольких недель. Эта асимметрия означает, что к моменту принятия закона технологический ландшафт уже изменился. Регуляторы пытались решить эту проблему с помощью закатных оговорок (законы, которые истекают после установленного периода), регулирующих песочниц (контролируемые среды, где новые продукты могут быть протестированы без полного соблюдения) и адаптивного регулирования , который строит механизмы для периодического обзора и корректировки.

Конкретные проблемы регулирования

Помимо проблемы с темпом, новые технологии представляют собой набор конкретных трудностей, которые делают обычное регулирование неподходящим для этой задачи.

Техническая сложность и пробелы в знаниях

Чтобы хорошо регулировать, вы должны понимать, что вы регулируете. Многие новые технологии глубоко технические, требующие опыта в области информатики, биологии, криптографии или материаловедения. Регуляторы являются обобщенными; они не могут быть экспертами в каждой области. Эта асимметрия знаний оставляет их в зависимости от вклада от отраслей, которые они контролируют, создавая риски захвата регулирующих органов. Решения включают наем специализированного технического персонала, партнерство с академическими учреждениями и использование экспертных консультативных групп , чтобы перевести технические реалии на язык политики.

Юрисдикционная и глобальная фрагментация

Технология не уважает границы. Сеть блокчейна работает одновременно в десятках стран. Модель ИИ, обученная данным с одного континента, может быть развернута в другом. Эта глобальная природа создает лоскутное одеяло противоречивых правил. Компания, создающая глобальный продукт, должна ориентироваться в GDPR ЕС, законах о суверенитете данных Китая, правилах конфиденциальности Калифорнии и десятках других режимов. Результатом является либо бремя соблюдения, которое благоприятствует только крупнейшим игрокам, либо гонка на дно, где компании основываются на наименее ограничительной юрисдикции. Международная координация, такая как принципы ИИ ОЭСР или Глобальное партнерство по ИИ , предлагает путь вперед, но обязательные глобальные соглашения остаются редкими.

Этические дилеммы и ценностные конфликты

Новые технологии вынуждают общество решать глубокие этические вопросы. Кто несет ответственность, когда автономный автомобиль убивает пешехода? Должна ли терапия редактирования генов быть разрешена для улучшения человеческих черт помимо медицинской необходимости? Как должно распознавание лиц быть сбалансировано с конфиденциальностью и гражданскими свободами? Эти вопросы включают компромиссы между конкурирующими ценностями - безопасностью против свободы, инновациями против справедливости, эффективностью против конфиденциальности. Регулирование неизбежно кодирует выбор ценностей, но эти выборы часто делаются неявно, а не через общественное обсуждение. Для создания легитимности регулирующие органы должны включать различные голоса, включая этиков, группы гражданского общества и сообщества, наиболее затронутые технологией.

Общественное восприятие и дезинформация

Общественное понимание новых технологий часто формируется нарративами СМИ, ажиотажем и страхом. Вакцины и сети 5G были мишенями кампаний дезинформации; редактирование генов и ИИ одинаково уязвимы. Когда общественность боится, регуляторы могут чрезмерно реагировать с ограничительными правилами, которые замедляют полезные инновации. Когда общественность безразлична, регуляторам может не хватать политической воли действовать вообще. Обучение общественности через прозрачную связь, независимые оценки рисков и инклюзивный диалог имеет важное значение для построения информированного согласия, которое требуется для законного регулирования.

Тематические исследования: регулирование на практике

Изучение того, как регуляторы подходят к конкретным технологиям, показывает как прогресс, так и подводные камни.

Искусственный интеллект: Закон ЕС об ИИ

Закон Европейского союза об ИИ, который, как ожидается, будет полностью исполнен в 2025 году, представляет собой первую всеобъемлющую правовую основу для искусственного интеллекта. Он использует подход, основанный на рисках [[FLT: 2]], классифицируя системы ИИ на четыре уровня: неприемлемый риск (запрещен), высокий риск (при условии строгих требований), ограниченный риск (обязательства по прозрачности) и минимальный риск (никаких дополнительных обязательств). Системы высокого риска включают те, которые используются в критической инфраструктуре, занятости, кредитном рейтинге, правоохранительных органах и миграции.

Сила Закона об искусственном интеллекте заключается в его ясности и пропорциональности. Его слабость заключается в том, что он был разработан за годы до того, как генеративные модели ИИ, такие как GPT-4, стали мейнстримом, что привело к последним изменениям в моделях фундамента. Это иллюстрирует проблему с промежуточной стадией: к тому времени, когда закон будет полностью исполнен, новые возможности ИИ, такие как агентные системы, которые могут принимать меры в мире, могут потребовать дальнейших обновлений. Положение Закона о имплементирующих актах и делегированных актах позволяет некоторую гибкость, но базовая структура остается фиксированной в течение многих лет.

Блокчейн и криптовалюта: фрагментированный ландшафт

Регулирование блокчейна остается крайне фрагментированным. Децентрализованный характер блокчейна затрудняет идентификацию единой ответственной стороны. Биткоин и Эфириум работают в сетях тысяч узлов, разбросанных по юрисдикциям; их не контролирует ни одна компания. Регуляторы сосредоточились на точках трения между цифровым и физическим мирами: биржах, провайдерах кошельков и эмитентах стейблкоинов. Рынки в регулировании криптоактивов (MiCA) в ЕС обеспечивают согласованную основу для криптоактивов, включая стейблкоины, и направлены на защиту инвесторов при содействии инновациям. США, напротив, полагались на принудительные действия SEC и CFTC, создавая неопределенность в отношении того, какие токены являются ценными бумагами и какие являются товарами. Некоторые страны, такие как Сальвадор, приняли биткоин в качестве законного платежного средства; другие, такие как Китай, полностью запретили торговлю криптовалютами.

Регулятивная дилемма для блокчейна сурова: слишком тяжелая рука может стимулировать инновации в офшорах, в то время как слишком легкая рука может позволить мошенничество, отмывание денег и системный риск. Регуляторные песочницы , где финтех-компании могут тестировать продукты под наблюдением, эффективно использовались в Великобритании, Сингапуре и Австралии для построения взаимопонимания без потери инноваций.

Биотехнология и редактирование генов: революция CRISPR

Разработка технологии редактирования генов CRISPR-Cas9 в 2012 году открыла дверь к точным, доступным модификациям ДНК. Регулирующие системы во всем мире отреагировали по-разному. В США FDA рассматривает генно-редактированные культуры как «растения», если не вводится чужеродная ДНК, в то время как генная терапия у людей подчиняется строгим требованиям клинических испытаний. Европейский суд в 2018 году постановил, что организмы, полученные путем редактирования генов, подчиняются тем же строгим правилам, что и генетически модифицированные организмы (ГМО), решение, которое подверглось критике за подавление сельскохозяйственных инноваций. Китай, тем временем, придерживается более вседозволенного подхода, включая спорные эксперименты на человеческих эмбрионах, которые вызвали глобальный протест.

Задача регулирования биотехнологий заключается в широком спектре применений: от лечения наследственных заболеваний до создания засухоустойчивых культур и разработки синтетических организмов. Подход, который подходит для всех, неадекватен. Необходима система регулирования, которая применяет различные уровни надзора, основанные на контексте использования - терапевтический, сельскохозяйственный, экологический, рекреационный - и степень отхода от естественных процессов.

Заинтересованные стороны и сотрудничество

Эффективное регулирование не может быть навязано сверху. Для этого требуется активное участие нескольких заинтересованных сторон, каждый из которых предлагает различные перспективы и стимулы.

Государственные учреждения

Правительства устанавливают правовую базу, обеспечивают соблюдение правил и представляют общественные интересы. Они должны уравновешивать конкурирующие требования со стороны промышленности, граждан и международных партнеров. Такие агентства, как FTC в США или ICO в Великобритании, стали де-факто технологическими регуляторами, часто используя существующие законы о защите потребителей для решения новых проблем. Однако они часто недофинансированы по сравнению с компаниями, которые они контролируют, и их персоналу может не хватать технического опыта для оценки сложных систем.

Лидеры отрасли

Технологические компании имеют самое глубокое понимание своих собственных продуктов и наибольшую способность внедрять изменения. Многие приняли рамки ответственных инноваций, публикуя этические рекомендации и создавая внутренние наблюдательные советы. Однако саморегулирование имеет ограничения: корпоративные стимулы часто отдают приоритет скорости и прибыли над безопасностью и справедливостью. Наиболее эффективные отраслевые вклады приходят через co-регулирование — где компании помогают разрабатывать стандарты, которые затем придают юридическую силу, как видно из Глобальная сетевая инициатива для цифровых прав или Партнерство по ИИ .

Академики и исследователи

Университеты и исследовательские институты предоставляют независимый опыт и долгосрочное мышление. Они могут предвидеть риски, которые индустрия упускает из виду, и оценивать реальные последствия регулирования. Однако академические идеи часто требуют лет для публикации, что может отставать от темпов изменений в отрасли. Более быстрые механизмы, такие как исследовательские сети быстрого реагирования или стипендии по политике , которые встраивают ученых в правительство, могут помочь преодолеть этот разрыв.

Гражданское общество и общественность

Организации гражданского общества, защитники прав потребителей и затронутые сообщества привносят существенные перспективы в области прав, справедливости и справедливости. Они могут привлекать к ответственности как компании, так и правительства, и они часто представляют голоса, которые меньше всего слышатся в политических дебатах. Публичный вклад через присяжные граждан , совещательные опросы , а также периоды открытых комментариев могут повысить легитимность нормативных решений. Задача состоит в том, чтобы обеспечить участие значимое и не токенистическое, и чтобы общественность получала четкую, точную информацию о технологиях, которые часто являются сложными и непрозрачными.

Рекомендации по созданию более гибкой системы регулирования

Ни одна реформа не решит пробел в регулировании, вместо этого требуется сочетание структурных изменений, процедурных инноваций и культурных сдвигов.

Принять адаптивное и гибкое регулирование

Традиционное регулирование «командно-контрольного» слишком жесткое для быстро движущихся полей. Регуляторы должны принять адаптивные рамки регулирования, которые включают встроенные циклы обзора, положения о закате и возможность обновлять правила через вторичное законодательство, не проходя через полный законодательный процесс. Британский Совет по регуляторным горизонтам является примером институционального механизма, предназначенного для выявления новых технологий и рекомендации пропорциональных подходов к регулированию до возникновения кризисов.

Расширение регулятивных песочниц и экспериментов

Регуляторные песочницы позволяют компаниям тестировать инновационные продукты в контролируемой среде с уменьшенным бременем соблюдения. Управление по финансовому поведению Великобритании впервые применило этот подход для финтеха, и с тех пор он был принят десятками стран для всего, от беспилотных летательных аппаратов до автономных транспортных средств. Экспериментальное законодательство , которое применяется только в течение ограниченного времени и географической области, может генерировать реальные данные для информирования о возможных постоянных правилах. Песочницы должны быть тщательно разработаны, однако, чтобы избежать превращения в безопасное убежище для самых рискованных инноваций без надлежащего надзора.

Инвестировать в потенциал и экспертизу регулирования

Правительствам необходимо привлекать и удерживать технические таланты. Это означает конкурентоспособные зарплаты, быстрое найм авторитета и возможности для государственных служащих, чтобы взаимодействовать с передовыми технологиями через размещения в компаниях, лабораториях или исследовательских центрах. Технологические стипендиальные программы , такие как US Digital Service или 18F, привлечь опытных инженеров и дизайнеров в правительство для краткосрочных проектов. Аналогичным образом, регуляторы должны инвестировать в инструменты судебно-медицинского анализа для аудита систем ИИ, блокчейн-транзакций и устройств IoT, так же, как они инвестируют в судебно-бухгалтерские инструменты сегодня.

Содействие международной координации и взаимному признанию

Взаимное признание — посредством чего доверие к режиму регулирования другой страны устраняет необходимость дублирования — может уменьшить фрагментацию. Международная организация по стандартизации (ISO) и такие органы, как IEEE Global Initiative разрабатывают добровольные стандарты, которые могут быть приняты в регулирование. На многостороннем уровне форумы, такие как G7, G20 и ОЭСР, разработали принципы для ИИ, цифровой торговли и управления данными, которые обеспечивают общую основу. Хотя обязательные глобальные соглашения маловероятны для большинства технологий, инструменты мягкого права, кодексы поведения и общие ориентиры могут создать фактическую гармонизацию.

Внедрение этики и общественного обсуждения в процесс

Регулирование — это не просто техническое упражнение; это отражение общественных ценностей. Этика по дизайну должна быть встроена в фазу исследований и разработок, а не добавлена в качестве запоздалой мысли. Инструменты солидарной демократии , такие как собрания граждан по ИИ или редактированию генов, могут выводить на поверхность ценности и компромиссы. Результатом является более законное регулирование, которому доверяет общественность, снижая риск негативной реакции или несоблюдения позже.

Ожидать, а не реагировать

Упреждающее регулирование требует горизонтного сканирования и технологического прогнозирования. Агентства должны поддерживать списки наблюдения за новыми технологиями и оценки рисков комиссий до того, как продукты поступят на рынок. Объединенный исследовательский центр Европейской комиссии регулярно публикует отчеты о возникающих технологических тенденциях для политиков. Аналогичным образом, Управление подотчетности правительства США имеет функцию Технологической оценки, которая оценивает последствия новых технологий. Эти возможности прогнозирования должны быть усилены и интегрированы в законодательный календарь.

Заключение

Регулирование новых технологий не является невозможной задачей, но оно принципиально отличается от регулирования устоявшихся отраслей. Оно требует смирения в отношении того, чего мы не знаем, скорости адаптации к тому, что мы узнаем, и сотрудничества между дисциплинами и границами. Ставки не могут быть выше: технологии, которые мы разрабатываем сегодня, будут формировать мир для поколений. Является ли этот мир миром совместного процветания и безопасности, или же миром неравенства и предотвратимого вреда, зависит в немалой степени от того, сможем ли мы построить системы регулирования, которые являются такими же инновационными, как и технологии, которыми они управляют. Цель состоит не в том, чтобы остановить прогресс, но управлять им — осторожно, включительно и с ясным пониманием того, что будущее не то, что происходит с нами, а то, что мы создаем вместе.