Человек-в-Loop

Определение

Система «человек в контуре» (HITL) относится к системам, в которых человеческое суждение интегрируется в рабочие процессы ИИ для таких задач, как обучение, оценка или принятие решений.

Цель

Цель — объединить человеческий опыт и эффективность искусственного интеллекта. Это гарантирует качество, этичность и безопасность в чувствительных приложениях.

Значение

• Снижает количество ошибок в областях с высоким уровнем риска (например, здравоохранение, оборона).
• Улучшает обучение за счет обратной связи с человеком.
• Обеспечивает подотчетность в автоматизированных системах.
• Медленнее и дороже по сравнению с полной автоматизацией.

Как это работает

1. Определите области, где требуется человеческий контроль.
2. Собирайте результаты работы ИИ или предложения.
3. Люди проверяют, исправляют или предоставляют обратную связь.
4. Обратная связь интегрирована для переобучения или уточнения моделей.
5. Контролируйте производительность системы с помощью постоянного человеческого контроля.

Примеры (реальный мир)

• Модерация контента: люди просматривают помеченные сообщения от ИИ.
• Медицинский ИИ: врачи подтверждают диагнозы, поставленные ИИ.
• Обучение с подкреплением на основе обратной связи с человеком (RLHF): обучает языковые модели, такие как ChatGPT.

Ссылки/Дополнительная литература

• Амерши и др. «Власть людям: роль людей в интерактивном машинном обучении». Журнал AI.
• Структура управления рисками ИИ NIST.
• Стандарты IEEE для систем с участием человека.
• Понимание взаимодействия человека с системой