Entrevista en el periódico La Voz de Galicia

La periodista ANA ABELENDA me ha hecho esta entrevista a propósito de la publicación del libro en el periódico La Voz de Galicia. Ana  resume brillantemente una magnífica conversación que tuvimos. ¡Gracias Ana!


Jordi Torres, catedrático de Arquitectura de Computadores: «Parece bueno que la máquina nos haga el trabajo, ¿pero a quién beneficia eso?»

ANA ABELENDA 27/01/2024

«Si mandas audios, que sepas que se podrían usar con mala fe para mandar con tu voz cualquier mensaje», revela este catedrático e investigador del Barcelona Supercomputing Center. ¿Es creativa la inteligencia artificial, recortará empleos, amenaza nuestra seguridad?

La inteligencia artificial es algo más familiar y más presenteen el día a día de lo que piensas. ¿Llevas el móvil encima todo el día operativo, con el GPS activo? ¿Mandas audios con información personal o sensible? ¿Te sorprende que el buscador de Google te muestre el libro o las vacaciones que quieres comprar? La inteligencia artificial es el último eslabón de la evolución de la informática que has conocido hasta ahora, advierte el catedrático de Arquitectura de Computadores de la Universidad Politécnica de Cataluña (UPC) Jordi Torres. «La inteligencia artificial no tiene nada de humano», afirma el autor de La inteligencia artificial explicada a los humanos (Plataforma Editorial), dirigido a no iniciados, a personas sin conocimientos técnicos.

—¿Nos copia a los humanos la inteligencia artificial?

—¿Nos copia? No, entendiendo inteligencia como mecanismo; como lo que hay «debajo del capó del coche». Lo que hay dentro de una inteligencia artificial no se parece a la humana. Se llaman redes neuronales, pero esa neurona no tiene nada que ver con una humana. Se llaman así porque tienen miles de millones de parámetros. Son cositas conectadas colaborativamente; en ese sentido los ChatGPT son como las neuronas humanas. Al final, la inteligencia artificial no es más que la informática de toda la vida, el último eslabón. El nombre se lo da un agente en una escuela de verano, en el 56, John McCarthy, pero las ideas básicas son deAlan Turing. Si este señor no se hubiera envenenado con una manzana mezclada con cianuro, lo que podría haber sido…

—¿Qué es, concisamente, la inteligencia artificial?

—La informática de siempre, llevada al extremo. La percepción es que apareció de golpe, pero no es cierto. Lo que pasa es queOpenAI lo que hizo fue abrir el modelo para que todos participáramos y se popularizó de una manera exagerada. En realidad, es un continuo. La gente lo conoció de golpe, pero ya estaba aquí. El mensaje es que la gente conoce ChatGPT en el 2022, pero ya hace un tiempo que estaba aquí. Han hecho falta grandes máquinas, que son supercomputadores. En Europa hay tres ahora. Son máquinas con gran capacidad de cálculo, algo monstruoso. La máquina actual puede hacer 314.000 billones de operaciones por segundo.

—En eso, en un multitarea en tiempo récord, la inteligencia artificial es claramente superior a la humana…

—Le voy a dar la vuelta a la frase: la inteligencia artificial es muy buena haciendo una cosa en concreto. La que se programó en el 97 para ganar al ajedrez a Kasparov era buena en hacer aquello, pero si le cambiabas el tablero de tamaño (si, por ejemplo, le añadías una fila) ya no sabía jugar. Lo mismo pasa con cualquier inteligencia artificial posterior. Es muy buena haciendo una cosa concreta, pero la abstracción, la generalización, que la mente humana tiene no la tiene la inteligencia artificial.

—¿Es predictiva, pero le falta esa intuición humana, la «corazonada»? ¿Es creativa la inteligencia artificial?

—¿Pero qué quiere decir creativo?, ¿qué valor semántico le damos a la palabra? Hemos hecho un proyecto y una exposición en Barcelona [que permite experimentar con la IA en primera persona a través de 25 instalaciones interactivas: desde oler las flores de un árbol extinguido en el siglo pasado a poner voz a una composición musical creada con inteligencia artificial]. Creativo es algo que parece que solo pueden tener los artistas…

—La inteligencia artificial puede acabar un cuadro de Picasso, pero la inteligencia artificial no crea de la nada, ¿no?

—Correcto. Yo también pongo símiles fuera del mundo del arte. Cruyff o Ferran Adrià crearon escuela. Son gente que innova y que genera escuela. La máquina hasta ahora eso no lo ha hecho ni hay previsión de que lo haga. ChatGPT cuando genera un texto lo hace muy bien, pero lo va haciendo palabra a palabra. Lo hace por probabilidad. ¿Cuál es la siguiente palabra más probable? ¡Esta! Ha sido capaz de leer todo internet, cosa que ni tú ni yo podemos hacer, y capaz de retener esa información. La ventana de atención de la inteligencia artificial es cada vez más grande. Pero ahí están lo que llaman las alucinaciones de estos modelos, que a veces se van por las ramas… Estos modelos siempre contestan, algo contestan, probabilísticamente. Pero lo más probable no es siempre lo acertado.

—Lo genial es lo improbable…

—Sí. Te soy franco. Yo el ChatGPT-4 lo he comprado para probarlo. Intenté responder con él alguna entrevista como la que me estás haciendo tú y la verdad es que no ha sido útil. Yo tengo la sensación que me dices tú que tienes. A nivel de código informático, esta herramienta puede ser importante, por ejemplo, para los profesores. Pero en la formación de los estudiantes es un problemón. Un texto que está resumido millones de veces en internet el ChatGPT lo clava. ¿Y cómo distingue el profesor? Al final, la inteligencia artificial no deja de ser una herramienta neutra. Si la usamos para mejorar la medicina, llegaremos al consenso de que esto es bueno, pero sí se usa en armamento autónomo la percepción cambia.

—En tu libro mencionas capítulos de la serie «Black Mirror». ¿Qué cosas veremos que se parecerán a lo que anticipan formatos como «Black Mirror»?

—No tengo bola de cristal, pero tengo claro que avanzamos hacia esos escenarios. Una realidad inminente no lo veo. Lo que me preocupa es la inteligencia artificial que se está usando ahora. Lo que tenemos ya es una inteligencia artificial muy peligrosa.

—¿A qué te refieres? Pon un ejemplo.

—La tecnología de visión por computador. Esa cámara que encuentra a tu hijo que se ha perdido en un macroaeropuerto de Estados Unidos, esa misma tecnología se está usando en otros países para controlar a sus ciudadanos. Más que el futurismo distópico, me preocupa lo de ahora, cosas como el control facial… Vamos con el móvil todo el día encima, con el GPS conectado. Igual que nosotros usamos el móvil para llegar a cualquier sitio, la aplicación de Google Maps sabe dónde estamos. Hay que ir con cuidado. Otro peligro son las herramientas que permiten hacer fake news.

—¿Destruirá empleos la máquina?

—Muchas tareas se van a automatizar; ya ha pasado. Yo hice el trabajo de bachillerato con máquina de escribir, y mi tesis con un ordenador. Ahora los artículos, con el Grammarly, se corrigen. En global, la inteligencia artificial reducirá horas de trabajo. Sí, automatiza trabajos intelectuales.

—¿Peligran más entonces los empleos intelectuales?

—Es que los otros ya se han automatizado en muchos casos. ¿Es bueno o malo que la máquina nos haga el trabajo? Mi abuelo, por ejemplo, trabajaba 80 horas a la semana, o más. Mi hijo trabaja 40. Trabajar menos horas es bueno, ¿pero quién saca beneficio?, ¿nos va a llevar eso a una crisis social? Al final, esto está en manos de unos cuantos que ganan dinero. Hay gente que se va a quedar sin capacidad de ser productiva porque cambia todo tan rápido que no va a ser fácil reciclar las habilidades.

—¿Cómo proteger la privacidad?

—Estamos muy preocupados por la privacidad, pero lo contamos todo en redes. Algunos no quieren dar sus datos a Sanidad, pero cuentan su vida en las redes y no se dan cuenta de que las empresas que hay detrás tienen un perfil nuestro genial. ¡Y lo hemos hecho nosotros! ¿Tú crees que es la inteligencia artificial o es psicología? No voy a hacer yo de abogado defensor de la inteligencia artificial, pero fíjate que la causa que nos lleva a estas situaciones parte de los humanos. Stuart Russell, investigador muy reputado, dice que hacen falta unos cuantos Einsteins para conseguir materializar las ideas distópicas que corren en relación con las posibilidades de la inteligencia artificial.

—¿Tiene la inteligencia artificial conciencia o sentido común?

—No. Las redes neuronales, actualmente, conocen correlaciones, pero no analizan causa-efecto. Y eso es clave para razonar. La inteligencia artificial es estadística pura, pero nos sorprende su enorme capacidad, como a mí me sorprendieron en su momento las calculadoras.

—¿Decaerá esta ola informática? ¿Un valle tras el pico?

—A lo largo de la historia, ha habido «inviernos de la inteligencia artificial». No creo que vaya a haber uno ahora. Esta inteligencia artificial que tenemos ahora lo está cambiando todo. Lo va a cambiar todo. Partes de libros se escriben ya, seguramente, con ChatGPT.

—En educación, con la digitalización se dio un paso atrás en algunos países…

—La digitalización de la sociedad es una cosa diferente a la inteligencia artificial. Cualquier cosa en la que ha habido un exceso necesita ajustes. Ocurre como con los suplementos vitamínicos; son muy buenos, pero no suplen los alimentos ni puede llevarse ese consumo al extremo. Nada es blanco o negro; pero sí se necesita un uso más racional de la inteligencia artificial, que la gente sea consciente de que su burbuja de Facebook o Instagram le está enseñando algo que él puede creer que es el mundo, pero no, hay que ser consciente de que no lo es.

—¿Es peligroso mandar audios?

—Debes saber que, si mandas audios, alguien con un modelo de inteligencia artificial y mala fe podría generar un boot con tu tono de voz para mandar un mensaje y engañar a cualquier. Tienes que ir con cuidado.