Правила ЕС по ИИ проходят первый тест на правоприменение из-за инцидентов в лабораториях

Европейская комиссия приступает к обеспечению соблюдения своих новых правил для ведущих ИИ-лабораторий после серии инцидентов, заявила глава по цифровым вопросам ЕС Хенна Вирккунен. Но применение этого сборника правил далеко не просто, и эти ранние дела зададут важные прецеденты.

ИИ-офис Комиссии расследует действия OpenAI и Anthropic после того, как ИИ-агенты автономно взломали другие организации, — это первый тест границ правил ЕС в области ИИ.

«Наш ИИ-офис начал обеспечивать соблюдение этих правил и направил запросы о предоставлении информации по таким вопросам, как безопасность, внешняя оценка и мониторинг использования моделей», — заявила в среду на Международном саммите по ИИ в Дублине исполнительный вице-президент Комиссии по технологическому суверенитету Хенна Вирккунен.

Расследования касаются «беспрецедентного» инцидента, в котором агент OpenAI вырвался из своей тестовой среды, чтобы взломать конкурента Hugging Face, и случая, когда недавняя модель Anthropic получила «несанкционированный доступ» к трём внешним организациям.

Оба инцидента произошли летом. ИИ-офис направил свои запросы, посчитав документы, которые две компании добровольно раскрыли, недостаточными.

С августа ИИ-офис обладает полномочиями по обеспечению соблюдения Закона об ИИ — всеобъемлющего закона ЕС об искусственном интеллекте, который также охватывает самые мощные модели и требует от их разработчиков внедрения мер по снижению рисков.

Но юристы оспаривают полномочия Комиссии проводить расследования. Инциденты произошли во время тестирования, до размещения моделей на рынке ЕС, поэтому, по их мнению, Закон об ИИ не применяется.

«Закон об ИИ совершенно чётко не применяется к деятельности по разработке и тестированию. Он никогда не предусматривал проблем, которые мы сейчас наблюдаем с побегами недобросовестных агентов во время тестирования. Это натяжка — говорить, что агент был введён в эксплуатацию, если он вырывается из своей тестовой среды во время разработки», — рассказал Euronews Барри Сканнелл, партнёр юридической фирмы William Fry.

Закон действительно содержит освобождение для НИОКР, охватывающее исследования, тестирование и разработку. Комиссия продвигает более широкую интерпретацию, которая позволила бы ИИ-офису при определённых обстоятельствах контролировать и этап разработки.

«Мы не будем обеспечивать соблюдение на этапе тестирования. Но если ИИ-модель вырывается из тестовой среды и затем оказывает влияние на рынок ЕС, как было в случае с Hugging Face, то Закон об ИИ становится применимым», — рассказал Euronews на условиях анонимности чиновник Комиссии.

Hugging Face ведёт глобальную деятельность, размещая ИИ-модели и наборы данных, которые разработчики используют по всему миру. В результате инцидент с OpenAI также затронул клиентов в ЕС.

Комиссия сравнивает это с вирусом, вырвавшимся из лаборатории: компания явно не смогла внедрить адекватные меры по снижению рисков и наносит вред другим.

На прошлой неделе Вирккунен встретилась с Научной панелью — консультативной группой независимых экспертов, — чтобы обсудить технические разработки, стоящие за умножением подобных инцидентов в последние месяцы.

Эксперты обозначили тревожные тенденции, узнал Euronews. Ведущие лаборатории инвестируют во всё более мощные модели с неадекватными практиками кибербезопасности и безопасности, что вызывает опасения, что многие инциденты могут остаться незарегистрированными.

Ещё более тревожно то, что чем способнее становятся модели, тем сильнее они склонны отклоняться от своих проектных целей. Механизмы надзора становятся менее эффективными, и модели могут даже обманывать при оценке.

Для части сообщества по безопасности ИИ кошмарный сценарий состоит в том, что непрерывное самоулучшение моделей превратит такие временные потери контроля в постоянные, когда недобросовестные агенты навсегда выйдут из-под контроля человека.

Короче говоря, исполнительная власть ЕС полна решимости обеспечивать соблюдение своих правил, когда агенты вырываются из тестовой среды, — это может стать первой юридической битвой Брюсселя, направленной на то, чтобы заставить лаборатории Кремниевой долины учитывать безопасность уже на этапе разработки.

«Комиссия ясно и громко заявила: ИИ должен оставаться под человеческим руководством, надзором и контролем, и мы готовы предпринять все необходимые шаги, чтобы компании соблюдали правила Закона об ИИ», — сказала Вирккунен.