Alucinación (inteligencia artificial)

Carta Poco común · N.º 76108

En el campo de la inteligencia artificial (IA), una alucinación o alucinación artificial (también llamada confabulación​ o delirio​) es una respuesta segura de una IA que no parece estar justificada por sus datos de entrenamiento.​ Por ejemplo, un chatbot alucinado podría, cuando se le pide que genere un estado financiero para Tesla, afirmar falsamente que los ingresos de Tesla fueron de 13 600 millones de dólares (o algún otro número aleatorio aparentemente «sustraído de la nada»).​ Estos fenómenos se denominan «alucinaciones», por analogía con el fenómeno de la alucinación en la psicología humana. Sin embargo, una diferencia clave es que la alucinación humana suele asociarse a percepciones falsas, pero una alucinación de IA se asocia a la categoría de respuestas o creencias injustificadas.​ Algunos investigadores creen que el término específico «alucinación de IA» antropomorfiza de forma poco razonable a los ordenadores.​ Las alucinaciones de la IA cobraron importancia en torno a 2022…

Leer en Wikipedia · Imagen ChatGPT, Public domain