Común
Inyección de prompt
ataque a la seguridad informática de los sistemas de procesamiento lingüístico
Inyección de prompt
La inyección de prompt (en inglés prompt injection) es una familia de vulnerabilidades de seguridad informática que se llevan a cabo manipulando un modelo de aprendizaje automático entrenado para seguir instrucciones humanas, pero que puede ser manipulado para ejecutar comandos dañinos diseñados por un atacante. Esto contrasta con la operación prevista de los sistemas que siguen instrucciones, en los que el modelo de aprendizaje automático está diseñado únicamente para seguir instrucciones confiables (prompts) proporcionadas por el operador. A través de la inyección de prompt, un adversario no solo puede extraer los avisos personalizados del sistema, sino también acceder a los archivos cargados.
Abre sobres, colecciona cartas y cámbialas. Gratis.
Jugar gratis