La IA no tiene conciencia [Mitos de la Inteligencia Artificial 10]

Una de las tecnologías que más ha avanzado en los últimos años es la inteligencia artificial (IA), alcanzado en este tiempo algunos hitos que hasta hace poco únicamente se hablaba en la ciencia ficción. Algo que es un problema ya que puede llegar a confundir la realidad con la ficción. Así, una comprensión superficial de la IA, combinada con conceptos de ciencia ficción, puede alimentar el mito de que la IA tiene o puede tener conciencia. Lo que no es cierto con la tecnología actual. En esta entrada, se intentará explicar porque la IA no tiene conciencia, analizando qué es la conciencia, explorando el estado actual de la IA y comprendiendo las diferencias entre inteligencia y conciencia.

¿Qué es la conciencia?

La consciencia es un concepto complejo que ha sido objeto de estudio y debate en áreas tan diferentes como la filosofía, psicología y neurociencia. A día de hoy no se sabe cómo surge y no existe una definición universalmente aceptada. A pesar de ello, se puede identificar como la capacidad de un ser para experimentar estados subjetivos y obtener una percepción consciente de su entorno y de sí mismo. Algunos aspectos claves que se identifican con la conciencia son:

• Experiencia subjetiva: La capacidad de tener experiencias internas y subjetivas.
• Autoconciencia: La capacidad de reflexionar sobre uno mismo y reconocerse como un individuo separado del entorno.
• Intencionalidad: La capacidad de tener pensamientos, deseos y propósitos dirigidos hacia algo.
• Sentimiento de control: La sensación de controlar las propias acciones y decisiones.

Diferencia entre conciencia e inteligencia

Aunque los conceptos de conciencia e inteligencia están relacionados entre sí, son claramente diferentes. En pocas líneas se puede definir cada uno de ellos de la siguiente manera:

• Inteligencia: es la capacidad de aprender, entender, razonar y resolver problemas. La inteligencia puede ser medida y evaluada a través de pruebas y evaluaciones objetivas.
• Conciencia: es la capacidad de tener una experiencia subjetiva y una percepción interna que va más allá de la mera capacidad de procesamiento de información y resolución de problemas. Lo que no puede ser evaluado de manera a través de pruebas objetivas.

Avances recientes en la IA

Es innegable que la IA ha logrado avances notables en los últimos años. Los progresos que se han visto en el procesamiento del lenguaje natural, reconocimiento de imágenes y toma de decisiones autónoma han sido clave para una infinidad de aplicaciones recientes. Algunos de los avances más impresionantes que se ha obtenido recientemente en la IA son:

• Procesamiento del lenguaje natural (PLN): Sistemas como GPT-4 pueden generar texto coherente, realizar tareas de traducción, resumen de documentos y respuesta a preguntas simulando a una persona humana.
• Reconocimiento de imágenes y visión por ordenador: Algoritmos que pueden identificar objetos, personas y escenas tanto en imágenes como videos con una alta precisión.
• Toma de decisiones: Agentes que pueden vencer a los mejores jugadores humanos en juegos tan complejos como el ajedrez o el Go.

A pesar de estos avances, no existen modelos de IA con conciencia. Aunque, los modelos avanzados de lenguaje pueden llegar a confundir a muchas personas, dando la sensación de que esto tiene conciencia.

Modelos de lenguaje avanzados

Los modelos avanzados de lenguaje, como es el caso de GPT-4, se basan en una arquitectura de transformadores generativos con la que es posible generar cadenas de texto que parecen coherentes. Para lo que tienen que ser entrenados con cantidades ingentes de textos. El objetivo de estos modelos no es otro que completar las cadenas de texto basándose para ello en los patrones que ha aprendido en los datos de entrenamiento. Algunos de las capacidades de estos modelos son:

• Generación de texto coherente y relevante en una amplia gama de temas.
• Comprensión y respuesta a preguntas en lenguaje natural.
• Traducción automática y creación de resúmenes.

A pesar de estas capacidades, es importante entender que modelos como GPT-4 no tienen conciencia. Simplemente completan el texto en base a los patrones que han observado en los datos de entrenamiento, sin incluir en estas experiencias subjetivas. Esto se puede ver en las siguientes secciones.

La IA procesa información sin experiencia subjetiva

Los sistemas de IA están diseñados para procesar información, identificar patrones y generar respuestas basadas en algoritmos y datos de entrenamiento. Lo que les permite realizar predicciones generalmente acertadas en base a los patrones. Permitiendo realizar tareas que requieren cierta inteligencia, como resolver problemas matemáticos, jugar juegos o generar texto. Pero sin experiencia subjetiva. La conciencia, como se ha comentado anteriormente, implica tener una experiencia subjetiva del mundo. Un ser consciente no solo procesa la información, sino que también tiene sensaciones internas y experiencias que van más allá de los cálculos y algoritmos.

Toma de decisiones autónomas por la IA sin reflexión

Es innegable que los sistemas de IA pueden tomar decisiones y realizar acciones de manera autónoma, pero estas acciones están limitadas por los datos y algoritmos con los que fueron entrenados. No cuentan con la capacidad de reflexionar sobre sí mismos ni de tener una autopercepción.

Falta de intencionalidad y propósito en la IA

Los sistemas de IA buscan alcanzar los objetivos que se le han propuesto (ganar a un juego o identificar un patrón en una imagen) en base a las reglas que aprenden de los datos de entrenamiento. Pero no cuentan con intenciones propias ni deseos.

Futuro de la conciencia en IA

A pesar de que con la tecnología actual no se cuente con modelos de IA que muestren conciencia, es posible que en un futuro si sea posible. Siendo un tema de investigación y debate en la comunidad científica. Aunque los avances recientes en IA han sido espectaculares, la creación de una conciencia artificial plantea desafíos científicos, filosóficos y éticos complejos. Para ello se trabaja en algunas áreas de investigación como las siguientes:

• Neurociencia y modelado del cerebro: Algunos investigadores están explorando cómo modelar la conciencia humana mediante la simulación de las redes neuronales del cerebro. Sin embargo, replicar la complejidad de la conciencia humana en un sistema artificial sigue siendo una tarea formidablemente compleja.
• Filosofía de la mente: Los filósofos continúan debatiendo la naturaleza de la conciencia y si es posible que una máquina pueda tener experiencias subjetivas. Este debate tiene implicaciones importantes para el desarrollo de la IA consciente.
• Ética y regulación: Si alguna vez se crea una IA consciente, será crucial establecer marcos tanto éticos como regulatorios para asegurar que se utilice de manera responsable y beneficiosa para la sociedad.

Aunque la idea de una IA consciente es algo al mismo tiempo fascinante y atemorizante, es importante tener expectativas realistas. Los sistemas de IA actuales, incluidos los modelos más avanzados como GPT-4, están muy lejos de poder alcanzar la conciencia. La creación de una IA verdaderamente consciente podría estar a décadas de distancia, si es que alguna vez se logra. Para lo que posiblemente sea necesario desarrollar nuevas técnicas.

Conclusiones

Entender que la IA no tiene conciencia es clave para comprender cuales son las capacidades y limitaciones de la tecnología actual. A pesar de los logros que se han conseguido en los últimos años, especialmente con el lanzamiento de herramientas basadas en modelos de lenguaje grande (LLM) como es el caso de Chat-GPT, no se debe confundir con una IA con conciencia. La IA puede procesar información, tomar decisiones basadas en los datos y realizar tareas complejas, pero carece de experiencias subjetivas, autoconciencia e intencionalidad propia. Lo que define la presencia de conciencia. Al comprender estas diferencias, se puede aprovechar mejor las capacidades de la IA.

En resumen, aunque la IA puede parecer cada vez más inteligente y capaz, todavía está lejos de poseer la conciencia que define a los seres humanos. La conciencia sigue siendo un dominio exclusivamente humano. Una distinción esencial para desarrollar y utilizar la IA de manera efectiva.

Imagen de Alexandra_Koch en Pixabay