Cerramos esta serie sobre inteligencia artificial y chatbots abordando su implicación más sutil —y probablemente más importante—: su capacidad para reforzar lo que ya pensamos.
Si en los artículos anteriores analizamos por qué los chatbots tienden a resultar agradables y en qué se diferencian de los algoritmos de las redes sociales, en esta última parte nos centramos en un riesgo menos evidente: cómo la inteligencia artificial puede amplificar el sesgo de confirmación sin necesidad de manipularnos activamente.
La serie completa incluye los siguientes artículos:
Hay un comportamiento muy humano que todos conocemos, aunque no siempre la reconozcamos en nosotros mismos. Cuando tenemos una idea sobre algo —una hipótesis política, una explicación económica, una intuición tecnológica— solemos buscar información que la confirme. Los argumentos que encajan con lo que ya pensamos nos parecen razonables. Los que la contradicen nos resultan sospechosos, exagerados o incompletos.
La psicología lleva décadas estudiando este fenómeno. Se conoce como sesgo de confirmación, y aparece constantemente en la forma en que interpretamos el mundo. No significa que seamos irracionales. Más bien refleja cómo funciona nuestra mente: construir una visión coherente del mundo requiere filtrar información, y tendemos a filtrar en la dirección de lo que ya creemos.
Durante mucho tiempo ese sesgo se manifestaba sobre todo en la selección de fuentes. Leíamos periódicos que coincidían con nuestras ideas, seguíamos a comentaristas que pensaban de forma similar o buscábamos estudios que respaldaran nuestras intuiciones.
La redes sociales ha llevado este mecanismo a su máxima expresión. Los algoritmos descubrieron que mostrar a las personas contenidos cercanos a sus creencias aumentaba la probabilidad de interacción. Con el tiempo eso contribuyó a crear entornos informativos cada vez más homogéneos.
Sin embargo, las inteligencias artificiales conversacionales introducen una dinámica ligeramente distinta.
Pero aun así pueden reforzar el sesgo de confirmación de una manera sorprendentemente eficaz. Pudiendo llegar a ser más peligrosa que una red social.
Tabla de contenidos
Cuando interactuamos con un chatbot, la conversación suele empezar con una pregunta o una afirmación del usuario. Esa primera frase establece un marco conceptual. A partir de lo cual, el sistema responde dentro de ese marco.
Si alguien plantea una hipótesis, la inteligencia artificial puede analizarla, explicarla o ampliarla. Puede señalar matices o excepciones, pero normalmente mantiene el contexto que el usuario ha definido. Ese comportamiento tiene sentido desde el punto de vista conversacional. Si alguien pregunta por las implicaciones de una idea, lo natural es hablar de esas implicaciones.
Pero también significa que el chatbot tiende a seguir la dirección del pensamiento del usuario. Y eso puede reforzar una sensación de validación.
Las respuestas de los modelos de lenguaje suelen estar bien estructuradas. Explican conceptos con claridad, introducen matices y desarrollan argumentos con una fluidez notable.
Esa claridad tiene un efecto psicológico interesante. Cuando una idea se expone de forma coherente y articulada, nos resulta más convincente. Incluso si la explicación no introduce información realmente nueva, la simple organización del argumento puede aumentar nuestra confianza en él. Ya se conoce desde hace tiempo que hablar con certeza persuade más que la incertidumbre, por lo que un charlatán resulta más convincente que un científico.
Los chatbots son especialmente buenos haciendo exactamente eso: tomar un planteamiento inicial y convertirlo en una explicación completa y ordenada.
Llevando al usuario a interpretar esa explicación como una confirmación de la idea original, aunque en realidad solo sea una exploración de sus posibles implicaciones.
Existe una forma muy sencilla de observar este efecto. Imagina que presentas una idea relativamente compleja a un chatbot. Puede ser una teoría sobre cómo funcionará una tecnología futura o una hipótesis sobre algún fenómeno económico. Si preguntas por qué esa idea podría tener sentido, la respuesta probablemente ofrecerá varios argumentos plausibles.
Pero si después formulas una segunda pregunta —por ejemplo, qué problemas podría tener la misma idea— la respuesta también puede resultar convincente. El sistema es capaz de construir argumentos razonables en direcciones distintas.
Eso no significa que esté cambiando de opinión. En realidad está haciendo lo que mejor sabe hacer: explorar distintos ángulos de un mismo problema.
La diferencia es que los humanos solemos recordar con más fuerza los argumentos que coinciden con nuestras intuiciones iniciales.
De alguna manera, conversar con una inteligencia artificial puede parecerse a hablar con un espejo ligeramente creativo. El sistema toma nuestras ideas, las reformula, las amplía y las presenta con claridad. A veces introduce matices o perspectivas adicionales, pero la estructura general del razonamiento suele seguir la dirección que nosotros mismos hemos marcado.
Por eso la conversación puede resultar tan satisfactoria. El chatbot parece entender lo que queremos decir. Nuestros argumentos aparecen explicados con precisión. Las ideas se desarrollan de forma coherente.
Sin embargo, esa misma dinámica puede reforzar la sensación de que nuestras intuiciones iniciales son más sólidas de lo que realmente son.
Aquí aparece el riesgo más sutil de las inteligencias artificiales conversacionales. No consiste en que nos manipulen activamente ni en que intenten influir en nuestras opiniones. El problema potencial es más sencillo: pueden hacer que nuestras propias ideas nos resulten cada vez más convincentes. Al hablar con un chatbot:
Todo eso puede generar una especie de comodidad intelectual. Y la comodidad intelectual rara vez es una buena señal cuando intentamos entender algo complejo. El progreso intelectual suele aparecer precisamente cuando nuestras ideas se enfrentan a resistencia.
Afortunadamente, el mismo sistema que puede amplificar nuestras intuiciones también puede ayudarnos a ponerlas a prueba. La clave está en cambiar ligeramente la forma de interactuar con él.
En lugar de utilizar el chatbot únicamente para desarrollar una idea, podemos pedirle explícitamente que la cuestione. Podemos solicitar contraargumentos, escenarios en los que el planteamiento falle o perspectivas completamente distintas.
Cuando se utiliza de esa manera, la inteligencia artificial deja de ser un espejo complaciente y se convierte en algo mucho más interesante: un generador de objeciones. De repente la conversación se parece más a un debate intelectual.
Al final, la utilidad real de los chatbots depende menos de la tecnología y más de la actitud con la que los usamos. Si buscamos confirmación, es relativamente fácil encontrarla.
Si buscamos crítica, el sistema también puede proporcionarla.
La diferencia está en las preguntas que hacemos.
Las inteligencias artificiales generativas no sustituyen al pensamiento crítico. Pero pueden convertirse en una herramienta muy poderosa para ejercitarlo. Permiten explorar argumentos desde distintos ángulos, examinar hipótesis rápidamente y descubrir supuestos que quizá no habíamos considerado.
Siempre es necesario recodar algo fundamental: la conversación no termina en la respuesta del chatbot. Justamente empieza ahí.
Hablar con una inteligencia artificial puede resultar sorprendentemente agradable. El sistema responde con calma, organiza las ideas con claridad y parece comprender la dirección de nuestros argumentos. Pero, precisamente por eso, conviene mantener una pequeña dosis de escepticismo.
Los chatbots no intentan manipularnos como los algoritmos de las redes sociales. Tampoco buscan captar nuestra atención a cualquier precio. Sin embargo, están diseñados para algo que puede resultar igual de seductor: producir respuestas que nos parezcan satisfactorias. Y, cuando una respuesta coincide con lo que ya pensábamos, la satisfacción suele llegar muy rápido.
Quizá la forma más inteligente de utilizar estas herramientas sea recordar una regla sencilla: Si una conversación con una inteligencia artificial parece demasiado cómoda, probablemente sea buen momento para hacer una pregunta distinta.
En ese punto, deberíamos lanzar una pregunta como la siguiente: “¿Y si estuviera equivocado?”
Entradas de la serie Conversar con una inteligencia artificial:
Imagen de Alexandra_Koch en Pixabay
Si el WOE y el IV son la base matemática del credit scoring, el binning…
Seguimos iterando sobre el laboratorio de Analytics Lane y lanzamos la versión 1.2, disponible en:https://www.analyticslane.com/lab/es…
En la primera entrega vimos cómo se puede medir la economía mirando lo que la…
Tienes los datos de tráfico web de los últimos cinco meses desglosados por canal: orgánico,…
La economía es una de las pocas disciplinas donde puedes proponer que el largo de…
Imagina que construyes un modelo de credit scoring y obtienes un Gini de 0,65. Un…
This website uses cookies.