Неправильная валидация генеративного результата ИИ
Базовая ошибка · Определение уточняется
Что означает этот класс
Продукт вызывает генеративный компонент AI / ML, поведение и выходы которого не могут быть непосредственно контролируемы, но продукт не проверяет или недостаточно проверяет выходы, чтобы гарантировать, что они соответствуют предполагаемой политике безопасности, контента или конфиденциальности.
Автоматический перевод · оригинал сохранён для сверки. Это описание класса ошибки, а не инструкция по исправлению конкретной CVE.
Показать оригинал MITRE
Improper Validation of Generative AI Output
The product invokes a generative AI/ML component whose behaviors and outputs cannot be directly controlled, but the product does not validate or insufficiently validates the outputs to ensure that they align with the intended security, content, or privacy policy.
Родительские классы
CWE 5.0 · Copyright © 2006–2026, The MITRE Corporation. CWE is a trademark of The MITRE Corporation. Условия использования