Первая успешная законодательная попытка зарегулировать ИИ

Европейские законодатели первыми в мире проголосовали за принятие закона об искусственном интеллекте (случилось это в тот же день, когда Брюссель подал новый антимонопольный иск против Google). Окончательный вариант «A.I. Act» будет принят до конца этого года.

На данный момент известно, что:

• к генеративной ИИ будут предъявляться новые требования прозрачности. Это включает в себя публикацию резюме материалов, защищенных авторским правом, используемых для обучения системы, — предложение, поддерживаемое издательской индустрией, но против которого выступают разработчики технологий как технически невыполнимого. Создатели генеративных ИИ должны будут установить меры предосторожности во избежание создания незаконного контента.
• законопроект использует «риск-ориентированный» подход к регулированию ИИ, фокусируясь на приложениях с наибольшим потенциалом нанесения вреда человеку. К ним относятся случаи, когда ИИ используется для управления критически важной инфраструктурой, такой как водоснабжение или энергетика, в правовой системе, а также при определении доступа к общественным услугам и государственным льготам. Производители технологий должны будут проводить оценку рисков, прежде чем вводить их в повседневное использование (аналогично процессу утверждения лекарств)
• проголосовали за запрет использования распознавания лиц в реальном времени (есть вопросы, следует ли делать исключения для нацбезопасности и правоохранительных мер)
• лидеры технологии пытаются влиять на ход дебатов. Сэм Альтман, исполнительный директор OpenAI (ChatGPT) в последние месяцы посетил порядка 100 американских законодателей и глобальных политиков в Америке, Европе, Африке, Азии, и непосредственно председателя Еврокомиссии. Альтман считает предложение ЕС непомерно сложным для выполнения.

Сугубо свое мнение про ИИ я уже высказал тут и тут. Теперь относительно новости. Три момента, по существу.

1. Объективно говоря, «регулирование» и «контроль» не всегда = синонимы. Как исторически доказывают преступления, черные рынки и подпольные экономики, люди/бизнес очень ловко умеют ускользать от государственных правил и ограничений или просто игнорировать их. С ИИ, скорее всего, в большинстве, будет то же самое; алгоритмы и глубокие базы данных, составляющие ИИ, по сути, являются интеллектуальной собственностью и не поддаются контролю. Остается вопрос о том, кто и как будет проводить политику в отношении нарушений нормативных требований?
2. ЕС не идеален. Но следует отдать должное — в нем принимаются важные законы. При том что в Европе гораздо больше фракций, чем в США, во многих отношениях они более перспективны и продуктивны, чем Конгресс. Я вижу этому объяснение — ЕС не находится под влиянием политических денег, поступающих от технологических компаний в процесс принятия решений, как С