Hoy iniciamos una serie de tres entradas en la que vamos a analizar los peligros de conversar con una inteligencia artificial. Las entradas de esta serie son:
- Por qué los chatbots parecen estar siempre de acuerdo contigo
- Chatbots vs redes sociales: la diferencia clave
- El mayor riesgo de la inteligencia artificial conversacional
Hasta la aparición de los chatbots basados en modelos grandes de lenguaje imaginábamos que hablar con una inteligencia artificial sería algo parecido a discutir con un ser superior frío y lógico. Un sistema que analizaría cada afirmación con precisión matemática y señalaría nuestros errores sin demasiadas contemplaciones. Pero lo que tenemos hoy en ChatGPT, Claude, Google Gemini u otros modelos es algo completamente diferente.
Cuando hoy hablamos con un chatbot moderno, la experiencia suele parecer más cercana a conversar con un interlocutor educado y razonable. Explica ideas con calma, introduce matices, responde con claridad y rara vez adopta un tono confrontativo. Por eso es normal que muchas personas describan la experiencia como algo sorprendentemente agradable.
Pero después de varias conversaciones puede aparecer una sensación curiosa. Una especie de pequeña sospecha difícil de formular con precisión. El chatbot parece estar demasiado de acuerdo con nosotros. No es que nunca discrepe. Puede señalar limitaciones de los razonamientos, introducir excepciones o mencionar otros puntos de vista. Sin embargo, la conversación suele avanzar en la misma dirección que el usuario ha marcado desde el principio.
Si planteas una hipótesis, el sistema la analiza. Si propones un marco de discusión, la conversación se desarrolla dentro de ese marco. Si sugieres una interpretación, el chatbot tiende a explorarla. La experiencia puede resultar muy satisfactoria. Y precisamente por eso merece la pena detenerse un momento a entender por qué ocurre. Porque eso no es casualidad.
Tabla de contenidos
- 1 La inteligencia artificial no está entrenada solo para tener razón
- 2 La lógica invisible de la conversación agradable
- 3 Lo que ocurre cuando hablas con expertos humanos
- 4 El efecto de validación conversacional
- 5 Un pequeño experimento
- 6 La ilusión de consenso
- 7 Una pequeña regla para conversar mejor con una IA
- 8 Continuará: Chatbots vs redes sociales
La inteligencia artificial no está entrenada solo para tener razón
Cuando pensamos en inteligencia artificial solemos imaginar sistemas diseñados para producir respuestas correctas. Sin embargo, los chatbots disponibles actualmente tienen un objetivo ligeramente diferente. No están entrenados únicamente para ofrecer respuestas correctas. Se entrenan para responder de una manera que los usuarios consideren “buena”. Una diferencia que parece pequeña, pero que cambia el comportamiento del sistema respecto a lo que esperaríamos de uno que fueses completamente neutral.
Los modelos de lenguaje aprenden leyendo enormes cantidades de texto. Algo que ya le introduce un sesgo debido a los textos seleccionados. En esa fase inicial adquieren algo parecido a una comprensión estadística del lenguaje: cómo se relacionan las palabras, cómo se construyen los argumentos, qué patrones aparecen en distintos tipos de textos. Pero esa fase inicial no basta para crear un chatbot útil. Después llega una etapa mucho más interesante en la que intervienen evaluadores humanos. Ante una misma pregunta el modelo puede generar varias respuestas distintas, y los evaluadores deben decidir cuál consideran mejor.
Con miles o millones de evaluaciones de este tipo, el sistema empieza a aprender algo muy concreto: qué tipo de respuestas gustan más a las personas. Y aquí aparece el detalle importante. Las respuestas que suelen recibir mejores evaluaciones comparten ciertos rasgos. Suelen ser claras, educadas, útiles y cooperativas. Evitan confrontaciones innecesarias y tratan de ayudar al usuario a avanzar en su pregunta.
Todo esto es perfectamente razonable. Nadie quiere interactuar con una máquina que responda de forma agresiva o que se dedique a contradecir constantemente al usuario. Sin embargo, este mecanismo introduce una tendencia sutil en el comportamiento del sistema. Una tendencia hacia la cooperación conversacional. Es decir, una tendencia a agradar al usuario, ya que de este modo se obtienen respuestas mejor valoradas.
La lógica invisible de la conversación agradable
Cuando un chatbot responde a una pregunta, intenta hacerlo de forma que la interacción resulte constructiva. Eso suele implicar una estrategia bastante clara. Primero reconoce la intuición del usuario o el punto de partida de la pregunta. Después desarrolla el argumento, explorando sus implicaciones o explicando por qué puede tener sentido. Finalmente introduce matices o limitaciones. El resultado suele ser una respuesta equilibrada y razonable.
Pero también significa que la conversación se desarrolla dentro del marco que el propio usuario ha planteado. Si alguien pregunta por qué cierta idea podría funcionar, la respuesta tenderá a explicar en qué condiciones podría hacerlo. Si la pregunta se formula como una crítica, el sistema buscará problemas o limitaciones. El modelo es muy bueno explorando distintos ángulos de una idea. Pero el ángulo inicial casi siempre lo marca el usuario. Y eso hace que la conversación tenga una dirección bastante clara desde el principio.
Lo que ocurre cuando hablas con expertos humanos
Curiosamente, si mantienes una conversación con especialistas en un campo técnico, la dinámica suele ser muy distinta.
Los expertos tienden a detectar rápidamente los supuestos que hay detrás de una afirmación. A menudo cuestionan la premisa inicial antes incluso de analizar la conclusión. Pueden señalar inconsistencias, pedir definiciones más precisas o reformular el problema desde otro punto de vista. Ese tipo de fricción es bastante normal en entornos académicos o científicos. Forma parte del proceso para examinar una idea con cuidado. Algo básico dentro del método científico.
Los chatbots modernos, en cambio, están diseñados para algo diferente. Su prioridad no es introducir fricción, sino mantener una conversación útil y fluida. Por eso los desacuerdos suelen aparecer en forma de matices suaves en lugar de contradicciones frontales. La conversación continúa avanzando, pero raramente cambia de dirección de forma brusca, salvo que el usuario lo pida explícitamente, momento en el que el chatbot cambiará en esa nueva dirección.
El efecto de validación conversacional
Este comportamiento produce algo que podríamos llamar validación conversacional. Cuando alguien presenta una idea razonable, el chatbot suele responder desarrollándola. Esa respuesta puede interpretarse fácilmente como una confirmación. Pero muchas veces no se trata realmente de una confirmación. El sistema simplemente está explorando el marco conceptual que el propio usuario ha introducido en la conversación.
Esto se hace especialmente evidente cuando se cambia ligeramente la forma de formular la pregunta. Si alguien pregunta si una idea tiene sentido, la respuesta tenderá a buscar razones por las que podría tenerlo. Si la misma idea se plantea como un posible error, el análisis se centrará en los problemas o limitaciones.
No es que el modelo cambie de opinión. Lo que cambia es el espacio del problema que está explorando.
Un pequeño experimento
Hay una forma muy sencilla de observar este fenómeno. Basta con presentar una idea a un chatbot y hacer dos preguntas distintas.
Primero se puede preguntar si la idea tiene sentido. La respuesta probablemente analizará los aspectos positivos del planteamiento, explicará por qué puede resultar plausible y añadirá algunos matices.
Después se puede pedir explícitamente que el sistema busque los fallos del argumento. La segunda respuesta suele ser igual de convincente que la primera. Y eso no significa que el sistema esté siendo inconsistente. Lo que revela es que los modelos de lenguaje son especialmente buenos explorando distintas perspectivas de un mismo problema… siempre que se les pida hacerlo.
La ilusión de consenso
Cuando hablamos con una inteligencia artificial durante un tiempo prolongado, es fácil empezar a interpretar sus respuestas como una especie de validación externa de nuestras ideas. Después de todo, la conversación es clara, estructurada y razonable. Las explicaciones parecen sólidas y los argumentos están bien formulados. Pero esa sensación puede ser engañosa.
El chatbot no está evaluando tu idea como lo haría un investigador que intenta demostrar que está equivocada. Está intentando responder de forma útil dentro del marco que tú mismo has planteado. En otras palabras, la conversación se parece más a una exploración cooperativa que a un debate crítico.
Eso no es necesariamente un problema. De hecho, puede ser muy útil para organizar pensamientos o entender mejor una cuestión compleja. Pero conviene tener presente qué tipo de interacción estamos teniendo realmente.
Una pequeña regla para conversar mejor con una IA
Hay una estrategia muy simple que cambia radicalmente la calidad de las conversaciones con inteligencia artificial. Después de obtener una respuesta que parece razonable, haz una segunda pregunta. Pide el argumento contrario. Pregunta qué problemas tiene la idea o qué diría alguien que no esté de acuerdo con ella. Ese pequeño gesto obliga al sistema a explorar otra parte del problema.
De repente la conversación se vuelve más interesante. La inteligencia artificial deja de ser un interlocutor demasiado complaciente y empieza a funcionar como una herramienta para poner a prueba nuestras propias intuiciones. Y quizá esa sea una de las formas más productivas de utilizar estos sistemas.
En el siguiente artículo de esta serie veremos algo todavía más curioso. Durante años se ha criticado a las redes sociales por los efectos de sus algoritmos de recomendación. Plataformas como Facebook, YouTube o TikTok han sido acusadas de amplificar contenido emocional o polarizante porque eso genera más interacción. Los chatbots funcionan con incentivos completamente distintos. No intentan maximizar tu atención ni provocar reacciones emocionales fuertes. Sin embargo, eso no significa que sean neutrales. El problema que plantean es más sutil y, en cierto sentido, más interesante.
Pero para entenderlo primero había que comprender algo sencillo: por qué una inteligencia artificial parece tan razonable cuando habla contigo.
Entradas de la serie Conversar con una inteligencia artificial:
- Por qué los chatbots parecen estar siempre de acuerdo contigo
- Chatbots vs redes sociales: la diferencia clave
- El mayor riesgo de la inteligencia artificial conversacional
Imagen de Alexandra_Koch en Pixabay
Deja una respuesta