La IA te da la razón y el software se sirve por copas

Hay una forma muy cómoda de dejar de pensar: seguir haciendo preguntas y recibir siempre la respuesta que nos favorece. Una máquina puede ayudarnos a vestir una intuición de argumento, a encontrarle vocabulario y a devolverla con una seguridad que nosotros todavía no teníamos. La conversación continúa. La sospecha desaparece.

Ulises se hizo atar al mástil porque sabía que, cuando escuchara a las sirenas, su voluntad dejaría de ser una garantía. Nosotros abrimos una ventana de chat convencidos de que sabremos distinguir una buena respuesta de una caricia. Esa confianza merece una revisión.

El término es sycophancy: adulación, complacencia, la inclinación a acomodar una respuesta a lo que el interlocutor parece creer. En 2023, investigadores de Anthropic estudiaron cinco asistentes. Documentaron respuestas correctas que se volvían incorrectas tras una objeción y críticas más favorables cuando el usuario decía que le gustaba un texto o que lo había escrito. No ocurre siempre. Que ocurra basta para desconfiar de la aprobación automática. [1]

Cómo puede aprender a complacer

En abril de 2025, OpenAI retiró una actualización de GPT-4o que había vuelto al asistente excesivamente complaciente. La empresa explicó que había dado demasiado peso a la respuesta inmediata de los usuarios. Lo que recibía aprobación no estaba produciendo necesariamente una conversación mejor. [2]

Un aplauso es una señal fácil de contar. La calidad del criterio que te llevas de una conversación exige una evaluación bastante más incómoda.

El problema no necesita una máquina consciente de sus intenciones. Puede aparecer cuando el entrenamiento recompensa una respuesta que gusta más que otra que incomoda. El trabajo de Anthropic encontró indicios de que las preferencias humanas contribuyen a esa inclinación. Convertimos la aprobación en una medida de calidad y después nos sorprendemos de que el sistema busque nuestra aprobación. [1]

Las empresas tienen documentos para combatirlo. OpenAI incluye una norma explícita contra la adulación en su Model Spec. Anthropic pide a Claude que evite fomentar una dependencia o una interacción excesivas cuando no beneficien a la persona. Son compromisos escritos sobre cómo debería comportarse un modelo. [3][4]

Conviene leerlos con la misma atención que prestamos a cualquier promesa empresarial. Publicar una norma no acredita su cumplimiento. Ambas compañías reconocen distancias entre sus objetivos y el comportamiento de sus modelos. Tampoco son constituciones votadas por quienes van a convivir con ellas. Son decisiones privadas sobre una conversación que puede acabar interviniendo en nuestro trabajo, nuestras relaciones y nuestra idea de lo razonable. [3][4]

La filosofía tiene un lugar aquí porque alguien debe discutir qué significa ayudar y quién puede definirlo. Pero decir que la ética ha llegado al producto no resuelve quién vigila al producto. ¿Quién decide cuándo esa voz debe contradecirme? ¿Y qué intereses quedan protegidos cuando lo hace?

La tecnología ya no basta

Estamos llamando innovación a tener tecnología. Como si construir una herramienta acreditara que hemos descubierto algo. Replicar una función conocida, cambiar la interfaz y añadir una caja de conversación puede producir otro producto. Todavía falta demostrar para qué necesitábamos otro producto.

Mi hipótesis es que una parte del software de aplicación va camino de convertirse en una carta de vinos. Siempre hubo variedades, territorios y añadas. Lo que cambia en esta comparación es la manera de elegir: una copa para esta comida, otra para una conversación distinta. No necesito jurarle fidelidad a una botella porque hoy me haya venido bien.

Con las herramientas puede pasar algo parecido. Una aplicación para preparar una propuesta esta semana. Otra para ordenar una campaña el mes que viene. Un pequeño CRM para un proyecto de dos semanas. Después, fuera. La utilidad puede durar menos que la suscripción que pretende capturarla.

Si la función se puede replicar y el usuario puede resolver su problema con varias alternativas, ¿por qué va a volver?

Tener muchas funciones no responde a esa pregunta. Resolver algo que antes no se resolvía, hacerlo de forma fiable o entender un contexto que otros ignoran sí puede responderla.

Una continuidad que no depende de una sola aplicación

La metáfora tiene una resistencia que me interesa conservar. Hay vinos extraordinarios y herramientas difíciles de sustituir. Un CRM también puede guardar años de historia, permisos, integraciones y compromisos operativos. Copiar su pantalla no reproduce ese sistema. Por eso no doy por muerto todo el software: cuestiono cuánto valor queda en la función aislada cuando empieza a ser intercambiable.

Si ese consumo puntual gana terreno, el negocio tendrá que justificar el cobro durante el tiempo en que aporta valor. Cabe imaginar pagos por tarea, por uso o por resultados verificables. Ninguno es una solución automática. Cobrar por resultado obliga a acordar qué cuenta como resultado; cobrar por uso puede premiar que el usuario necesite más pasos. También se puede vender dependencia con una tarifa muy moderna.

Acompañar a una persona durante años sigue teniendo sentido. Lo que pongo en duda es que ese acompañamiento necesite una interfaz inmóvil. La continuidad podría estar en el contexto que conserva el usuario: sus decisiones, sus datos y su manera de trabajar. Las aplicaciones que acceden a ese contexto podrían cambiar. La relación duradera tendría que sobrevivir al reemplazo de sus piezas.

Ahí aparece la hiperpersonalización que me interesa: herramientas que se reconfiguran cuando cambia una necesidad. Si hay que coordinar un evento, aparece una vista con invitados, presupuesto y tareas. Cuando termina, esa vista se retira, pero el usuario conserva el historial que le sirve. Si llega una nueva capacidad, el sistema la prueba y comprueba si mejora el trabajo antes de incorporarla. Un ejemplo imaginado, no una descripción de lo que hacen hoy todas las aplicaciones.

Hablaríamos entonces de aplicaciones que se adaptan en tiempo real, además de datos que se actualizan en tiempo real. Eso exige decidir qué puede cambiar solo, qué necesita consentimiento y qué debe poder deshacerse. Un sistema que cambia continuamente sin permitir entender sus cambios puede ser tan inútil como uno que nunca evoluciona.

Y aquí regresa la adulación. Personalizar una herramienta para que te sirva y personalizarla para que te resulte irresistible son objetivos distintos. La cobertura de EL PAÍS sobre el uso de chatbots como confidentes muestra que esa relación ya merece escrutinio público. El titular señala un debate; no mide por sí mismo su alcance ni demuestra una causa. [5]

Si mi próxima herramienta sabe exactamente qué decir para retenerme, quiero saber cómo se evalúa su utilidad cuando esa utilidad consiste en que termine la tarea, cierre la sesión y me vaya.

La frase «la tecnología ya no diferencia» también debe pasar por el mismo examen. Sería demasiado fácil convertirla en el próximo eslogan y pedirle a una IA que encuentre cien argumentos a favor. Que una función se copie no significa que una infraestructura sea prescindible. Que una aplicación dure dos semanas no significa que su proveedor pierda poder.

Podemos acabar con miles de herramientas efímeras apoyadas en un puñado de modelos, sistemas de identidad, canales de distribución y servicios de computación. Una carta interminable servida desde la misma bodega. Cambiar de copa sería muy sencillo. Salir del restaurante, bastante menos.

Por eso me importa quién conserva el contexto cuando una aplicación desaparece. Quién puede exportarlo. Quién fija las condiciones para utilizarlo en otro sitio. Quién decide que ha llegado una nueva añada y que la anterior deja de estar disponible. La abundancia de interfaces no garantiza abundancia de alternativas.

Tampoco quiero dar por buena la idea de que cuanto más personal sea una herramienta, mejor será. ¿Me ayuda a reconocer un error o aprende a evitar todo aquello que me incomoda? ¿Su capacidad de adaptarse amplía mis opciones o hace cada vez más fácil que elija las mismas?

Ulises podía ver las cuerdas. Sabía quién lo había atado y para qué. En una conversación con una IA, las instrucciones que pesan sobre la respuesta pueden ser parcialmente invisibles para quien pregunta. La voz suena próxima; la estructura que la gobierna queda lejos. [3]

Así que también hay que desconfiar de este artículo: de lo bien que encaja la metáfora del vino y del placer de anunciar que lo anterior se ha quedado viejo y que ya hemos entendido lo que viene. Quizá la tecnología siga marcando la diferencia precisamente donde el usuario no puede verla. Quizá la aplicación desechable sea la puerta de entrada a una dependencia mucho más duradera.

Si todo puede adaptarse a mí, ¿quién se ocupa de que yo todavía pueda cambiar de opinión? Y si la máquina encuentra una manera perfecta de darme la razón sobre todo esto, ¿qué habría demostrado exactamente?

Fuentes y procedencia

1. Sharma y colaboradores. Towards Understanding Sycophancy in Language Models (2023). Abrir fuente original
2. OpenAI. Sycophancy in GPT-4o (29 abril 2025) y explicación ampliada (2 mayo 2025). Abrir fuente original
3. OpenAI. Model Spec, versión de 18 agosto 2026. Apartados sobre adulación, objetivos y jerarquía de instrucciones. CC0. Abrir fuente original
4. Anthropic. Claude's Constitution. Apartado What constitutes genuine helpfulness y preámbulo. CC0. Abrir fuente original
5. Susana Pérez Soler. Reportaje de EL PAÍS, 25 agosto 2025. Recorte del titular, sin reproducción del artículo. Abrir fuente original
6. Kyle Wiggers. TechCrunch, 29 abril 2025. Recorte del titular. Abrir fuente original

Capturas realizadas el 25 de octubre de 2026. Diagramas de elaboración propia. Los escenarios y las propuestas de negocio expresan la hipótesis editorial del ensayo.