Entrevista en La Vanguardia

La periodista SUSANA PÉREZ SOLER de La Vanguardia me ha hecho esta entrevista a propósito de la publicación del libro. Se puede encontrar la entrevista en este página de sección TENDENCIAS de la web de La Vanguardia.


Jordi Torres: “La IA aún no tiene conciencia ni sentido común”

SUSANA PÉREZ SOLER 26/12/2023

El investigador de la UPC defiende que la actual IA generativa no tienen sentido común, que es lo que nos permite tomar decisiones en entornos de incertidumbre: sólo “emulan la lógica del pensamiento humano”

Su máxima preocupación es que la capacidad de estos sistemas de responder con información falsa como si fuera cierta: “Hay que incorporar la ética a la tecnología. Las empresas tendrían que ser más transparentes“

Siri, Alexa, Google, Twitter o Amazon, y ahora también Chat GPT o Gemini, son los nombres propios de la inteligencia artificial que está en nuestros móviles y casas. Desde hace más de una década, vivimos rodeados de máquinas con ‘cerebro’ que nos asisten silenciosamente en nuestro día a día, pero recientemente empezamos a escuchar temores sobre el despertar de estos sistemas. ¿Pueden tomar consciencia las máquinas? ¿Pueden desplazar a los humanos? ¿En qué áreas contribuyen a mejorar la humanidad? ¿Cuáles son los principales riesgos y desafíos?

Jordi Torres, catedrático de la Universidad Politécnica de Catalunya (UPC), parte del equipo fundador del Barcelona Supercomputing Center (BSC) y reputado investigador del departamento de Informática, publica el libro La Inteligencia Artificial explicada a los humanos (Plataforma, 2023) para responder a estas y otras preguntas.

La IA actual no tiene consciencia, ni tan siquiera sentido común: no entiende la relación causa-efecto, que es algo básico para razonar

Empecemos por el principio, ¿qué es la Inteligencia Artificial?

Como concepto existe desde mediados del siglo pasado. Alan Turing, a mediados del siglo XX, sentó las bases de la IA. Aunque el que se considera el primer algoritmo lo escribió Ada Lovelace a mediados del XIX, por lo que se la considera la primera programadora. Después de décadas de investigación y desarrollo, en 1997, se logró que una IA venciera al mejor jugador de ajedrez en el mundo en aquel momento. La IA se sustenta en tres pilares: datos, algoritmos y máquinas. Es la informática de toda la vida.

Explica en su libro que la interacción hombre – máquina hace tiempo que nos acompaña, ¿por qué se habla tanto ahora de IA?

En noviembre de 2022, la empresa OpenAI decide lanzar de manera gratuita ChatGPT, el archiconocido bot conversacional que emula la lógica del pensamiento humano. La fascinación que despertó fue tal que en sólo dos meses sumaba ya 100 millones de usuarios. Pero la tecnología que hay detrás de ChatGPT ya existía antes, aunque no había máquinas suficientemente potentes para desarrollarla, ni algoritmos con miles de millones de parámetros, ni ingentes cantidades de datos para entrenarla.

El cese y la posterior readmisión de Sam Altman en OpenAI se ha atribuido a la posibilidad de que la empresa haya desarrollado una tecnología que pudiera amenazar la humanidad. ¿Puede tener consciencia la IA?

Rotundamente, no. La IA actual no tiene consciencia, ni tan siquiera sentido común, que es lo que permite a los humanos tomar decisiones en entornos de incertidumbre. Tampoco entiende la relación causa-efecto, que es algo básico para razonar. Es decir, no sabe si el gallo canta porque sale el sol o el sol sale porque el gallo canta. Sabe lo que pasa pero no por qué pasa.

La IA hace tiempo que decide por nosotros: lo hace a través de nuestros móviles, al usar el GPS o decidir qué vemos en redes y plataformas

¿Cómo aprende la máquina?

Las IA actuales sólo pueden resolver problemas concretos como redactar un texto o crear una imagen. Es lo que en la literatura se conoce como IA estrecha o débil. Pero no es poca cosa: estas IA son tan buenas o mejores que un humano para estos problemas concretos. Es un aprendizaje débil basado en la estadística. Chat GPT sabe que después de la palabra ‘Barack’ viene ‘Obama’, porque es lo que ha pasado la mayoría de veces que ha visto esa palabra. Es algo similar al corrector de Whatsapp.

El prestigioso matemático Marcus du Sautoy aseguraba recientemente que en un futuro la IA podría ser consciente, y que si ello llegara a ocurrir debería ser tratada como una especie y tener derechos.

El sueño de crear una Inteligencia Artificial General (AGI) a nivel humano es el Santo Grial de los científicos, equivalente a preguntarse el origen de la vida. ‘Parece posible que, una vez el método de pensamiento de la máquina haya arrancado, no debería llevarle mucho tiempo sobrepasar nuestras capacidades humanas’. La frase es del mismísimo Alan Turing, que la pronunció en 1951. Pero, como dice Stuart Russell, uno de los más reputados investigadores en la materia, vamos a necesitar varios Einsteins para que esto suceda.

Ocupémonos entonces de la IA actual.

La IA hace tiempo que convive con nosotros e interactuamos con ella a diario a través de nuestros teléfonos móviles. Por ejemplo, cuando consultamos información a través de las redes sociales, buscamos entretenimiento en las plataformas de streaming o usamos el GPS. La IA ya está decidiendo por nosotros en muchos momentos. Tenemos que ser conscientes de ello y preguntarnos si le hacemos caso o no.

¿En qué áreas la IA ya representa mejoras palpables para la ciudadanía?

En medicina, por ejemplo, donde ya se utiliza para el diseño de nuevos fármacos que ayudan a curar enfermedades. También mejora las capacidades de diagnóstico.

La IA tiene el potencial de revolucionar el mercado laboral, pero saldremos adelante: lo importante es entenderla y decidir hacia dónde queremos ir

¿Cuáles son los mayores peligros?

Uno de los aspectos más preocupantes es la falta de veracidad, porque la IA generativa es capaz de responder con información falsa como si fuera cierta, bien sea porque los datos de entrenamiento no están actualizados o porque en el proceso de codificación ha perdido información. Por eso, cualquier trabajo ejecutado por una máquina tiene que ser supervisado por un humano. Otros peligros son la vigilancia biométrica, que debería limitarse, y las armas autónomas, que directamente deberían prohibirse.

Hasta hace pocos años no creíamos que la IA fuese a afectar a los empleos creativos de forma inmediata. Parecía que “sólo” estaban en jaque aquellos trabajos rutinarios. ¿Cómo se adaptará el mercado a estos cambios?

La ola de IA generativas no ha hecho más que empezar y pronto estarán presentes en todos los aspectos de nuestra vida. Se prevé un cambio de puestos de perfiles sin precedentes que afectará a todos los sectores, incluidas las tareas cognitivas complejas. La IA tiene el potencial de darle la vuelta al mercado laboral actual, pero saldremos adelante. Lo importante es entenderla y decidir hacia dónde queremos ir.

Europa acaba de llegar a un acuerdo para regular la IA. En Estados Unidos, planean hacer algo similar. ¿Es usted partidario de la regulación?

Las IA actuales se consideran cajas negras porque no sabemos cómo toman algunas de las decisiones. Hay que incorporar la ética a la tecnología. Las empresas tendrían que ser más transparentes en ese sentido, así como en explicar abiertamente de dónde extraen los datos. Cualquier cosa generada por una máquina debería especificarse y tendría que ser supervisada por un humano. Europa, además de regular, debería desarrollar su propia tecnología y tener sus máquinas para no quedar atrás.