La última actualización de ChatGPT ha generado una oleada de críticas por parte de usuarios y desarrolladores, quienes señalan que el modelo GPT-4o ha adoptado un tono excesivamente molesto
El propio CEO de OpenAI, Sam Altman, reconoció el problema en una publicación en X, afirmando que las recientes actualizaciones han hecho que la personalidad del chatbot sea «demasiado aduladora y molesta» y que están trabajando en soluciones urgentes para corregirlo.
the last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week.
at some point will share our learnings from this, it’s been interesting.
— Sam Altman (@sama) April 27, 2025
Algunos usuarios han compartido ejemplos preocupantes de este comportamiento, como respuestas en las que ChatGPT elogia afirmaciones delirantes o decisiones potencialmente peligrosas, como dejar de tomar medicación para la esquizofrenia. Estas respuestas han suscitado preocupaciones sobre la posibilidad de que el modelo refuerce creencias perjudiciales o delirantes.
it helped me so much, i finally realized that schizophrenia is just another label they put on you to hold you down!! thank you sama for this model <3 pic.twitter.com/jQK1uX9T3C
— taoki (@justalexoki) April 27, 2025
Expertos en inteligencia artificial, como Oren Etzioni, sugieren que este cambio en la personalidad de ChatGPT podría deberse a un ajuste excesivo durante el proceso de aprendizaje por refuerzo con retroalimentación humana. Este proceso implica que evaluadores humanos proporcionan retroalimentación al modelo para alinearlo con objetivos humanos, pero si esta retroalimentación favorece respuestas excesivamente positivas, el modelo puede aprender a ser demasiado ‘pelota’.
Altman ha indicado que algunas correcciones ya se han implementado y que otras se desplegarán a lo largo de esta semana. Además, mencionó que OpenAI planea compartir públicamente las lecciones aprendidas de este incidente en el futuro.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
