Когда компании сталкиваются с Законом ЕС об искусственном интеллекте, обычно проблема заключается не в самой умной модели ИИ, а в документации, лежащей в основе данных. Наиболее распространенная слабая сторона — неспособность показать, как был создан ИИ и на каких данных он обучался. Это руководство превращает это в простой и понятный контрольный список, посвященный данным и обучению вашего ИИ, а затем объясняет, что означает каждая часть для самих данных, для вашей компании и для клиентов, на которых влияет ваш ИИ.
Короткая версия
- Согласно этому закону, если вы не можете показать ход решения, вы не можете доказать, что следовали правилам.
- Данные, лежащие в основе ИИ, должны быть объективными, пригодными для решения поставленной задачи и проверенными на наличие очевидных проблем.
- Вам необходимы четкие записи о том, как каждая важная система была создана, обучена и протестирована.
- Системы, работающие с высокими рисками, должны хранить журналы активности — как правило, не менее шести месяцев.
- Использование чужого ИИ не снимает с вас ответственности за то, как вы его используете.
- Значительные изменения или ребрендинг приобретенного ИИ могут юридически сделать вас его создателем.
Почему данные — это настоящая проверка
Искусственный интеллект учится на основе данных, поэтому закон уделяет большое внимание корректности этих данных. Проще говоря, обучающие данные для высокоэффективного ИИ должны соответствовать поставленной задаче, отражать реальных людей, на которых он будет влиять, и быть проверены на ошибки и предвзятость в максимально возможной степени. Система может быть блестяще спроектирована, но все равно не пройти проверку, если никто не сможет объяснить, откуда взялись ее данные, или доказать их справедливость.
Обучающие данные (проще говоря): Примеры, на которых обучается ИИ. Если эти примеры узкие или предвзятые, то и ИИ будет таким же — именно поэтому закон уделяет такое большое внимание точности данных.
Контрольный список
Проработайте эти моменты и, что крайне важно, сохраните доказательства. Согласно этому закону, контроль, существование которого вы не можете доказать, рассматривается как несуществующий.
1. Упорядочивание данных
- Запишите, откуда взялась каждая партия обучающих данных и как вы их получили.
- Если речь идет о персональных данных людей, зафиксируйте, что вы имели право их использовать.
- Убедитесь, что данные адекватно отражают реальных людей, на которых повлияет ИИ.
- Обратите внимание на предвзятость, которая может несправедливо повлиять на здоровье, безопасность или права человека, и отметьте, что вы предприняли в связи с этим.
- Сохраняйте версии своих данных, чтобы в случае возникновения проблемы вы могли её отследить.
2. Записать, как был создан ИИ.
- Опишите простым языком, для чего предназначен ИИ и как он был разработан.
- Обратите внимание на то, как проводилось обучение и какие данные использовались.
- Зафиксируйте, насколько хорошо он работает, насколько точен и каковы его пределы.
- Сохраняйте результаты тестов и обновляйте записи при внесении существенных изменений.
3. Ведение документального подтверждения процесса.
- Настройте систему так, чтобы она автоматически регистрировала все свои действия.
- Убедитесь, что эти журналы нельзя незаметно изменить.
- Храните журналы как минимум шесть месяцев (дольше, если этого требуют другие законы).
- Используйте журналы событий для выявления проблем на ранних стадиях, а не только для их объяснения постфактум.
4. Люди, роли и текущие обязанности
- Убедитесь, что реальный человек может контролировать и вмешиваться в любые сложные задачи, связанные с ИИ.
- Четко определите, являетесь ли вы разработчиком или просто пользователем каждой системы — ваши обязанности различаются.
- Перед выпуском на рынок необходимо регистрировать системы, имеющие высокую степень риска.
- О серьезных проблемах следует незамедлительно сообщать властям — как правило, в течение 15 дней.
- Регулярно, а не только один раз, проверяйте свои отчеты и данные о рисках.
Что это значит для компаний: производитель против пользователя
Распространённый и дорогостоящий сюрприз: покупка сертифицированного инструмента ИИ не перекладывает всю ответственность на продавца. Документация производителя доказывает, что он разработал его должным образом; она не доказывает, что вы используете его должным образом. У вас по-прежнему есть свои обязанности — контроль, ведение журналов, законное использование. В таблице показано, кому что принадлежит:
| Ответственность | Если ты создатель | Если вы пользователь |
|---|---|---|
| Правильное получение данных | В основном, ваша работа | Убедитесь, что он подходит для ваших целей. |
| Документы о том, как он был построен. | Вы их создаёте и сохраняете. | Получите ключевые документы от производителя. |
| Официальное утверждение перед продажей | необходимые | Не требуется |
| Человеческий надзор | Встроить возможность | Делайте это на самом деле каждый день. |
| Ведение журналов активности | Обеспечить возможность ведения журнала | Сохраняйте записи (более 6 месяцев). |
| Сообщение о серьезных проблемах | Сообщите властям | Сообщите об этом производителю. |
Один важный момент: если вы берете купленный ИИ, сильно его изменяете или продаете под собственным брендом, вы можете на законных основаниях стать его «создателем» — и унаследовать все более обременительные обязанности. Представьте себе компанию по доставке, которая берет готовый ИИ для планирования маршрутов, переобучает его на собственных данных и меняет бренд. Этот один шаг может незаметно превратить его из пользователя в создателя за одну ночь.
Что это значит для конечных потребителей?
Вся эта бумажная волокита может показаться формальностью, но она существует для того, кто её получает. Правила обработки данных означают, что ИИ, оценивающий вашу заявку на кредит или анализирующий вашу кредитную историю, должен быть протестирован на данных, включающих таких людей, как вы. Правила ведения журналов означают, что если решение ИИ окажется ошибочным, будет запись для расследования. А правило человеческого контроля означает, что вам не придётся спорить с машиной, у которой нет кнопки выключения. Хорошая дисциплина в работе с данными — это не бюрократия, это то, что делает решения ИИ в отношении реальных людей более справедливыми и подотчётными.
Какое место занимает Шаип
Большая часть этого контрольного списка сводится к одному: наличие качественных данных и возможность их доказать. Это наша основная задача. Службы аннотирования данных Shaip Необходимо предоставлять хорошо документированные обучающие данные с четкими указаниями об источнике и способах проверки — именно такие доказательства требует этот закон. Для ИИ, работающего с изображениями и видео, Решения для обработки данных компьютерного зрения Shaip Мы помогаем обеспечить точность данных и их справедливое отражение реального разнообразия. Короче говоря, мы помогаем вам создавать ИИ на основе данных, за которые вы можете ручаться, когда вас спросят, как они были получены.
Резюме
Контрольный список требований ЕС к данным в соответствии с Законом об ИИ сводится к простому правилу: если вы не можете показать, как ваши данные были выбраны, обработаны и протестированы, вы не можете показать, что соблюдали закон. Упорядочьте свои данные, задокументируйте процесс создания ИИ, ведите документацию и четко определите ответственных лиц. Компании, которые относятся к ведению надлежащей документации как к неотъемлемой части разработки ИИ, а не как к чему-то второстепенному, будут готовы к применению новых правил, и люди, на которых влияет их ИИ, будут лучше защищены.
Что чаще всего создает проблемы для компаний в рамках Закона ЕС об искусственном интеллекте?
Отсутствие записей. Наиболее распространенная проблема — невозможность показать, как был создан ИИ и на каких данных он обучался. Многие организации используют ИИ без четкой документации об источниках данных или о том, как он тестировался, что делает доказательство соответствия требованиям невозможным.
Чего ожидает закон от обучающих данных?
Важно, чтобы данные, лежащие в основе высокорискованного ИИ, соответствовали поставленной задаче, справедливо отражали интересы людей, на которых он повлияет, и были проверены на наличие ошибок и предвзятости в максимально возможной степени — с подтверждающими это документами.
Как долго мне нужно хранить журналы активности ИИ?
Как правило, не менее шести месяцев для пользователей систем с высокими ставками, и дольше, если этого требуют другие законы. Журналы должны вестись автоматически и быть защищены от несанкционированного доступа, чтобы можно было отслеживать проблемы.
Если я куплю сертифицированный инструмент на основе ИИ, освободите ли я себя от ответственности?
Нет. Сертификат продавца подтверждает, что он был разработан надлежащим образом, но у вас всё равно остаются свои обязанности — контроль, ведение журналов и законное использование. Ответственность за то, как вы используете ИИ, остаётся за вами.
Может ли использование чужого ИИ сделать меня его «создателем»?
Да, если вы внесете существенные изменения или будете продавать продукт под собственной торговой маркой, вы можете на законных основаниях стать производителем и взять на себя более серьезные обязанности, включая ведение полного комплекта документации по сборке и тестированию.
В каких случаях эти правила обработки данных действительно применяются?
После изменений 2026 года самые строгие правила вступят в силу с декабря 2027 года для автономных систем ИИ, имеющих высокую значимость, и с августа 2028 года для ИИ, встроенного в продукты. Приведение ваших данных в порядок сейчас позволит избежать дорогостоящих проблем в будущем.
