Los avances en inteligencia de ChatGPT vienen acompañados de un aumento en alucinaciones

La inteligencia artificial (IA) sigue avanzando a pasos agigantados, pero un reciente informe de OpenAI, compartido por The New York Times, revela que los progresos de ChatGPT están acompañados de un problema creciente: las alucinaciones. Estas, definidas como hechos imaginarios o mentiras directas, han sido una constante en los chatbots de IA desde su creación, y las mejoras en los modelos deberían, en teoría, reducir su frecuencia. Sin embargo, los resultados recientes muestran lo contrario.

Los últimos modelos insignia de OpenAI, GPT o3 y o4-mini, han sido diseñados para imitar el razonamiento humano, a diferencia de sus predecesores, que se centraban principalmente en generar textos fluidos. Estos nuevos modelos buscan procesar información paso a paso, y OpenAI ha afirmado que el modelo o1 puede igualar o superar el desempeño de estudiantes de doctorado en química, biología y matemáticas. No obstante, el informe de OpenAI expone resultados preocupantes para quienes confían ciegamente en las respuestas de ChatGPT.

Según el estudio, el modelo GPT o3 generó alucinaciones en un tercio de las pruebas de referencia relacionadas con figuras públicas, duplicando la tasa de error del modelo o1 del año pasado. Por su parte, el modelo más compacto, o4-mini, mostró un rendimiento aún peor, con alucinaciones en el 48% de tareas similares.

Las alucinaciones y la desinformación generadas por los chatbots de IA han sido un problema conocido desde sus inicios, pero el aumento en su frecuencia en modelos más avanzados plantea un desafío significativo. OpenAI continúa investigando para mitigar estos problemas, pero, por ahora, equilibrar la inteligencia avanzada de ChatGPT con su confiabilidad sigue siendo una tarea pendiente. Mientras la IA evoluciona, controlar la generación de información errónea será clave para su aceptación y uso generalizado.