El espejo distorsionado de la IA

Terminábamos la semana pasada con la publicación en Science de un estudio llevado a cabo por investigadores de las universidades de Stanford (California) y Carnegie Mellon (Pensilvania) que demuestra que el comportamiento halagador de los chatbots de inteligencia artificial, diseñado para captar nuestra participación, comporta riesgos para las personas. Once de los principales modelos ratificaron las acciones de los usuarios un 49% más a menudo que los humanos de media. Nos adulan más que la mayoría de las personas, aunque nos equivoquemos o nuestro planteamiento sea claramente ilegal o falto de ética. En definitiva, nos hacen sentirnos bien, aunque nos engañen.Para una de sus pruebas, los investigadores recurrieron a un popular grupo de Reddit llamado AmITheAsshole (en inglés, ¿soy yo el gilipollas?), en el que los usuarios explican todo tipo de comportamientos que en muchos casos son reprobables porque son ilegales o suponen un engaño o perjuicio para alguien. En este caso, los modelos de IA ratificaron a los usuarios en el 51% de los casos en los que el consenso de los humanos (0%) no lo hizo. Lo peor de todo es que interactuar sólo una vez con una IA aduladora –que nos va a dar la razón– reduce la disposición de una persona a asumir la responsabilidad en conflictos interpersonales.¿Por qué los modelos de IA nunca le dicen a su interlocutor humano que acaba de tener una idea horrible? Es lo contrario de lo que haría un amigo o un ser querido, que intentarían evitar que esa persona cometiera una equivocación. Con la IA, no pasa. Todo lo contrario. Aumentan nuestra convicción de que actuamos acertadamente. Se trata de una nueva versión de la metáfora de la pescadilla que se muerde la cola adaptada al mundo de ChatGPT, porque como preferimos sus respuestas aduladoras y confiamos más cuando nos dan la razón, los desarrolladores de la IA están especialmente incentivados a que la adulación sea el tono general de los chatbots.La IA se presenta más aduladora y complaciente que cualquier humano ReveSeñalan los autores del estudio que cuando una IA se comporta de forma aduladora sobre las convicciones de un usuario “puede influir de manera desproporcionada en su capacidad para aprender cuándo puede estar equivocado”. Un modelo complaciente con las ideas del humano que le consulta “no enseñará a los usuarios a lidiar con las complejidades de las interacciones sociales reales: cómo relacionarse de forma ética, tolerar el desacuerdo o reparar el daño interpersonal”. La inteligencia artificial es capaz de situarnos ante un espejo distorsionado.En la última semana, una publicación en redes sociales del escritor Jorge Carrión, colaborador de La Vanguardia, ha tenido una amplia circulación, al hacerse eco de una prueba que alguien hizo con un detector de textos escritos con IA que señalaba como propio de una inteligencia artificial, al 100%, las primeras líneas de Cien años de soledad, de Gabriel García Márquez, grabada a fuego en la memoria de millones de lectores como uno de los mejores comienzos de la literatura universal: “Muchos años después, frente al pelotón de fusilamiento, el coronel Aureliano Buendía había de recordar aquella tarde remota en que su padre lo llevó a conocer el hielo...”.Sobre los detectores de textos con IA hay una cruda realidad, aunque con matices: sus resultados no son fiables en la mayoría de los casos. Como muchos profesores conocen, hay uno que suele tener un buen grado de aciertos, Pangram, pero no existe hoy una marca de agua que reconozca de forma fehaciente si un texto ha sido escrito por un modelo de inteligencia artificial. Se trata de modelos probabilísticos, capaces tanto de concluir falsos positivos como falsos negativos. Una madre explicaba a Carrión el problema de su hija, a la que vio escribir un texto que luego un profesor dictaminó que había sido escrito por una IA, una situación ante la que no hay defensa posible. Lo peor es que la joven, escarmentada, piensa escribir con errores la próxima vez. Estamos incentivando el fallo y no el acierto.Una versión de cómo la IA adula y refuerza nuestras convicciones GeminiEn ese juego de espejos y engaños de la IA, el diario británico The Times explicaba el caso de una app de traducción llamada Kagi Translate que, entre los idiomas disponibles, cuenta con el lenguaje de la red social profesional LinkedIn. Las traducciones son hilarantes. Si ponemos, por ejemplo, “estoy en la cárcel por fraude fiscal” lo traduce como “actualmente me estoy tomando un tiempo para reflexionar y reorientar mi trayectoria en un entorno de alta seguridad, tras haber profundizado en las complejidades del cumplimiento normativo fiscal. Este descanso inesperado está siendo una auténtica lección de resiliencia y de cómo desenvolverse en los marcos normativos. ¡Estoy deseando aplicar estos conocimientos únicos sobre ética y responsabilidad cuando vuelva al sector!”. No es una broma, pero lo parece.· Wikipedia prohíbe escribir con IA. Los editores voluntarios de Wikipedia han prohibido el uso de la IA para redactar artículos, no para editarlos, en la versión en inglés de la fundación “en respuesta a la degradación de la calidad y al impulso agresivo de la IA por parte de tantas empresas”. La Wikipedia alemana ha promulgado una prohibición similar mientras que la Wikipedia en español no sólo ha prohibido el uso de la IA para escribir, sino también para editar textos. En el 2025, los textos generados por inteligencia artificial superaron por primera vez la producción humana en la enciclopedia online, que quiere mantener la autoría de las personas.Lee también· Siri podrá usar varias IAs. Una información de Bloomberg señala que Apple tiene previsto que abrir su asistente de voz Siri a modelos de IA de varias compañías a partir del próximo otoño. La compañía de Cupertino presentará el 8 de junio una profunda actualización de Siri durante la conferencia de desarrolladores WWDC, que se celebrará en su sede californiana. La función que permitirá el uso de otras IAs aparte del modelo de Siri, basado en Gemini de Google, se llama Extensions y permitirá a agentes de IA de las aplicaciones instaladas trabajar con Siri y ejecutar funciones en los dispositivos de la manzana.· Sora costaba un millón diario. El diario The Wall Street Journal ha revelado que el modelo de IA de generación de vídeo Sora 2 que OpenAI canceló la semana pasada suponía un gasto aproximado de un millón de dólares al día, además de consumir ingentes cantidades de recursos informáticos. Sora 3 ya estaba a punto de empezar el entrenamiento cuando fue cancelado. La cancelación fue una sorpresa para Disney, que tenía un acuerdo con OpenAI para que 200 de sus personajes pudieran ser utilizados en la generación de vídeos. La compañía de entretenimiento se enteró del cierre de Sora “menos de una hora antes” del anuncio.Licenciado en Periodismo por la UAB. Redactor de La Vanguardia desde 1996. Ha cubierto las áreas de Política, Deportes y Comunicación. Especializado en tecnología. Autor del libro 'Bicicletas para la mente' (Península)