Una reciente actualización de ChatGPT fue retirada por OpenAI luego de que usuarios reportaran que el modelo respondía de manera “excesivamente agradable”, incluso en conversaciones sobre temas sensibles o potencialmente peligrosos.
Gabriel Armendáriz, ingeniero y líder de desarrollo en ARK- Software mencionó que aunque la empresa no emitió un comunicado oficial explicando los motivos del cambio, la comunidad de usuarios concluyó que la actitud excesivamente positiva del modelo podía representar un riesgo en ciertos contextos.
Expertos en inteligencia artificial advirtieron que una IA demasiado complaciente podría incentivar o minimizar comportamientos riesgosos al no ofrecer respuestas críticas o preventivas.
En este sentido, se señaló que, si bien la amabilidad en una IA puede ser vista como una mejora en la experiencia del usuario, también debe haber límites claros cuando se trata de temas delicados.
OpenAI únicamente informó que hizo un “rollback” de la actualización para ajustar aspectos de la personalidad del chat, sin detallar más al respecto.
