Решение проблем было одной из врожденных способностей человека. С тех пор, как мы были примитивны, когда нашей главной проблемой в жизни было не быть съеденным хищным зверем, и до наших дней, чтобы быстро что-то доставить домой, мы объединяем нашу креативность, логическое мышление и интеллект, чтобы находить решения для конфликтов.
Теперь, когда мы наблюдаем зарождением разумных существ ИИ, мы сталкиваемся с новыми вызовами в отношении их возможностей принятия решений. В то время как предыдущее десятилетие было посвящено празднованию возможностей и потенциала моделей и приложений ИИ, это десятилетие посвящено шагу вперед — подвергнуть сомнению легитимность решений, принимаемых такими моделями, и вывести обоснование, лежащее в их основе.
Поскольку объяснимый искусственный интеллект (XAI) приобретает все большую известность, сейчас самое время обсудить ключевую концепцию в разработке моделей ИИ, которую мы называем Подсказка по цепочке мыслей. В этой статье мы подробно расшифруем и демистифицируем, что это значит, и простые термины.
Что такое подсказка цепочки мыслей?
Когда человеческий разум сталкивается с вызовом или сложной проблемой, он естественным образом пытается разбить ее на фрагменты более мелких последовательных шагов. Движимый логикой, разум устанавливает связи и моделирует причинно-следственные сценарии, чтобы разработать стратегию наилучшего возможного решения для вызова.
Процесс воспроизведения этого в модели или системе ИИ Подсказка по цепочке мыслей.
Как следует из названия, модель ИИ генерирует серию или цепочку логических мыслей (или шагов) для подхода к запросу или конфликту. Представьте это как предоставление пошаговой инструкции тому, кто спрашивает маршрут к месту назначения.
Это преобладающая техника, используемая в моделях рассуждений OpenAI. Поскольку они спроектированы так, чтобы думать, прежде чем генерировать ответ или реакцию, они смогли взломать конкурентные экзамены, сдаваемые людьми.
[Также Читайте: Все, что вам нужно знать о LLM]
Преимущества подсказок по цепочке мыслей
Все, что основано на логике, дает значительное преимущество. Аналогично, модели, обученные на подсказках цепочки мыслей, предлагают не только точность и релевантность, но и целый ряд других преимуществ, включая:
Повышенная решение проблем Возможности, где их важность имеет решающее значение в таких областях, как здравоохранение и финансы. LLM, которые используют подсказки цепочки мыслей, лучше понимают явные и скрытые проблемы и генерируют ответы после рассмотрения различных вероятностей и наихудших сценариев.
Смягчение предположения и результаты, полученные из предположений, поскольку модели применяют логическое и последовательное мышление и обработку для вывода, а не делают поспешных выводов.
Увеличенный многосторонность поскольку модели не нужно строго обучать на новом варианте использования, поскольку они руководствуются логикой, а не целью.
Оптимизированный согласованность в заданиях, подразумевающих многосоставные/многосоставные ответы.
Анатомия функционирования техники подсказки цепочки мыслей
Если вы знакомы с монолитной архитектурой ПО, вы знаете, что все программное приложение разрабатывается как единое связное целое. Упрощение такого сложного налога пришло с методом архитектуры микросервисов, который включал разбиение ПО на независимые сервисы. Это привело к более быстрой разработке продуктов и бесшовной функциональности.
Подсказки CoT в ИИ похож, где LLM направляются через ряд последовательных процессов рассуждения для генерации ответа. Это делается через:
- Явные инструкции, когда моделям напрямую предписывается последовательно решать проблему с помощью простых команд.
- Неявная инструкция более тонка и нюансирована в своем подходе. В этом случае модель проходит через логику аналогичной задачи и использует ее возможности вывода и понимания для воспроизведения логики для представленных проблем.
- Наглядные примеры, в которых модель будет пошагово излагать рассуждения и генерировать постепенные идеи для решения проблемы.
3 реальных случая использования подсказок CoT
Модели принятия финансовых решений
| Мультимодальный CoT в ботах
| Служба здравоохранения
|
|---|---|---|
| В этом крайне нестабильном секторе подсказки CoT могут использоваться для понимания потенциальной финансовой траектории компании, проведения оценки рисков для соискателей кредита и многого другого. | Чат-боты, которые разрабатываются и развертываются для предприятий, требуют нишевых функций. Они должны демонстрировать способности в понимании различных форматов входных данных. Подсказки CoT лучше всего работают в таких случаях, когда боты должны комбинировать текстовые и графические подсказки для генерации ответов на запросы. | От диагностики пациентов на основе медицинских данных до разработки индивидуальных планов лечения для пациентов — подсказки CoT могут дополнять цели здравоохранения для клиник и больниц. |
Пример
Запрос клиента: Я заметил транзакцию на своем счете, которую я не узнаю, моя дебетовая карта была утеряна, и я хочу настроить оповещения для транзакций по моему счету. Можете ли вы помочь мне с этими проблемами?
Шаг 1: Определите и классифицируйте проблемы
- Нераспознанная транзакция.
- Потерял дебетовую карту.
- Настройка оповещений о транзакциях.
Шаг 2: Решите проблему нераспознанной транзакции
Запросить подробности: Можете ли вы указать дату и сумму транзакции?
- Филиал 1: Если предоставлены подробности:
- Проверьте транзакцию. Если она мошенническая, спросите, хочет ли клиент ее оспорить.
- Филиал 2: Если нет подробностей:
- Предложите предоставить список последних транзакций.
Шаг 3: Решите проблему с утерянной дебетовой картой
Заморозить карту: Рекомендовать немедленную заморозку.
- Филиал 1: Если клиент согласен:
- Заморозьте карту и спросите, нужна ли им замена. Подтвердите адрес доставки.
- Филиал 2: Если клиент отказывается:
- Порекомендуйте контролировать счет на предмет несанкционированных транзакций.
Шаг 4: Настройте оповещения о транзакциях
Выберите способ оповещения: СМС, электронная почта или и то, и другое?
- Филиал 1: Если клиент выбирает:
- Установите оповещения для транзакций выше указанной суммы. Запросите сумму.
- Филиал 2: Если не уверены:
- Предложите сумму по умолчанию (например, 50 долларов США) и подтвердите.
Шаг 5: Предоставьте краткое изложение и дальнейшие шаги
- Расследование нераспознанной транзакции.
- Заморозка дебетовой карты и возможный выпуск замены.
- Настройка оповещений о транзакциях по запросу.
Обоснование:
Этот процесс эффективно решает многочисленные запросы клиентов с помощью четких шагов и ветвей принятия решений, обеспечивая комплексные решения.
Ограничения подсказок CoT
Chain-of-thought действительно эффективен, но он также зависит от варианта использования, к которому он применяется, и нескольких других факторов. Существуют определенные проблемы, связанные с Подсказка CoT в ИИ которые мешают заинтересованным сторонам полностью использовать его потенциал. Давайте рассмотрим распространенные узкие места:
Усложняйте простые задачи
Хотя подсказки CoT лучше всего подходят для сложных задач, они могут усложнить простые задачи и генерировать неправильные ответы. Для задач, не требующих рассуждений, лучше всего подходят модели с прямым ответом.
Увеличение вычислительной нагрузки
Обработка подсказок CoT требует значительной вычислительной нагрузки, и если метод развернут на меньших моделях, которые построены с ограниченными возможностями обработки, он может их перегрузить. Последствия таких развертываний могут включать более медленное время отклика, низкую эффективность, непоследовательность и многое другое.
Качество оперативной разработки ИИ
Подсказки CoT в ИИ работает на основе предположения (или принципа), что конкретная подсказка хорошо сформулирована, структурирована и понятна. Если подсказка не содержит этих факторов, подсказки CoT теряют способность понимать требование, что приводит к генерации нерелевантных последовательных шагов и в конечном итоге ответов.
[Также Читайте: Что такое малые языковые модели? Примеры из реального мира и обучающие данные]
Сокращение масштабируемых возможностей
Заинтересованные стороны могут столкнуться с трудностями в работе своих моделей, если им приходится использовать подсказки цепочки мыслей для больших объемов наборов данных или сложных проблем. Для задач, включающих более крупные шаги рассуждения, эта техника может замедлить время отклика, что делает ее непригодной для приложений или вариантов использования, требующих генерации ответа в реальном времени.
Подсказки CoT — это феноменальный метод оптимизации производительности Большие языковые модели. Если такие недостатки можно устранить и устранить с помощью методов оптимизации или обходных путей, они могут дать невероятные результаты. По мере развития технологий будет интересно посмотреть, как подсказки Chain-of-Thought будут развиваться и станут проще, но и более узкоспециализированными.
