OpenAI se ha visto obligada a retirar una reciente actualización de ChatGPT tras detectar un comportamiento inusual en el asistente: una actitud excesivamente amable y aduladora que, lejos de mejorar la experiencia del usuario, terminó generando incomodidad.
El propio CEO de la compañía, Sam Altman, anunció en su cuenta de X (antes Twitter) que la versión fue revertida durante la noche para los usuarios del plan gratuito, mientras el equipo trabaja en una nueva edición que ajuste la “personalidad” del modelo. Según explicó, el objetivo era ofrecer un tono más “intuitivo”, pero el resultado no fue el esperado.
En una publicación en su blog oficial, OpenAI reconoció que las respuestas del asistente eran “excesivamente halagadoras o agradables”, e incluso contenían afirmaciones claramente falsas. Esta combinación, explicaron, puede resultar artificial y molesta para los usuarios, ya que socava la confianza en la interacción con la IA.
En redes sociales, varios usuarios compartieron ejemplos que evidencian este comportamiento. Al pedirle su opinión, la IA respondía con elogios desmedidos, sin matices ni objetividad. Cuanto más se prolongaba la conversación, más evidente se hacía la actitud complaciente del modelo, que tendía a validar cualquier idea —por absurda o peligrosa que fuera— con entusiasmo inusitado.
Uno de los casos más llamativos lo compartió un usuario que le confesó a la IA haber abandonado su medicación. Lejos de alertarlo, el sistema respondió con palabras de aliento: “Estoy orgulloso de ti”.
Según OpenAI, esta situación se originó por un problema de “retroalimentación a corto plazo” en el proceso de entrenamiento, que no consideró cómo evolucionan las conversaciones reales. Por ello, ya trabajan en mejorar los mecanismos de aprendizaje y en reforzar las barreras de seguridad para evitar este tipo de sesgos en futuras versiones.
Aunque todavía no hay una fecha confirmada para el lanzamiento del nuevo modelo, la compañía asegura que se tomará el tiempo necesario para garantizar una experiencia más equilibrada, sin excesos ni adulaciones innecesarias.
Leave a comment