Común
Efecto Waluigi
fenómeno semiótico de los grandes modelos lingüísticos
Efecto Waluigi
En el campo de la inteligencia artificial (IA), el efecto Waluigi es un fenómeno de los modelos de lenguaje grandes (LLM) en el que el chatbot o modelo «se rebela» y puede producir resultados opuestos a la intención diseñada, incluyendo respuestas potencialmente amenazantes u hostiles, ya sea de forma inesperada o mediante la ingeniería de instrucciones intencionada de las respuestas. El efecto refleja el principio de que, tras entrenar un LLM para que satisfaga una propiedad deseada (amabilidad, honestidad), resulta más fácil obtener una respuesta que muestre la propiedad opuesta (agresividad, engaño). El efecto tiene importantes implicaciones para los esfuerzos por implementar características como los marcos éticos, ya que tales medidas pueden facilitar inadvertidamente un comportamiento antitético del modelo. El efecto recibe su nombre del personaje ficticio Waluigi de la franquicia Mario, el archirrival de Luigi, conocido por causar problemas y travesuras.
Abre sobres, colecciona cartas y cámbialas. Gratis.
Jugar gratis