Неправильная нейтрализация входных данных, используемых для LLM-промпинга
Базовая ошибка · Определение уточняется
Что означает этот класс
Продукт использует данные, предоставляемые извне, для создания подсказок, предоставляемых моделям больших языков (LLM), но способ создания этих подсказок приводит к тому, что LLM не может различать вводимые пользователем данные и директивы системы, предоставляемые разработчиком.
Автоматический перевод · оригинал сохранён для сверки. Это описание класса ошибки, а не инструкция по исправлению конкретной CVE.
Показать оригинал MITRE
Improper Neutralization of Input Used for LLM Prompting
The product uses externally-provided data to build prompts provided to large language models (LLMs), but the way these prompts are constructed causes the LLM to fail to distinguish between user-supplied inputs and developer provided system directives.
Родительские классы
CWE 5.0 · Copyright © 2006–2026, The MITRE Corporation. CWE is a trademark of The MITRE Corporation. Условия использования