Madrid (EuroEFE).- Europa dispone de grandes talentos y activos en inteligencia artificial (IA), pero ahora tiene que atreverse a dar un paso adelante, un salto de escala y favorecer la creación de empresas líderes que se conviertan en auténticas ‘campeonas’ del sector.

Asimismo, debe dejar de señalar que subsisten barreras a la IA dentro de la Unión y dedicarse a levantarlas, en opinión de Isabelle Ryl, directora del Instituto PRAIRIE y miembro del Comité Nacional Francés de Inteligencia Artificial Generativa.

En una entrevista con EFE con motivo de su participación en un coloquio el pasado miércoles en el Instituto Francés de Madrid, esta experta europea se declara «optimista» respecto al impacto que tendrá la IA en nuestra sociedad, aunque advierte de que tenemos la obligación de conocer «sus límites» y riesgos: «No le das a alguien un taladro sin explicarle que puede doler y que puede cortar».

La próxima cumbre mundial sobre la IA tendrá lugar precisamente en Francia en febrero de 2025. Será la tercera de este tipo después de las celebradas en Inglaterra (2023) y Corea del Sur (2024).

Pregunta.- A veces parece que Europa se está quedando un poco atrás en la adopción de la inteligencia artificial. ¿Cree que esta impresión es correcta?

Respuesta.- Son muchas preguntas dentro de una pregunta. No creo que Europa se esté quedando atrás en la adopción de la IA en el sentido de que hay IA en muchas cosas, en su teléfono, por ejemplo. Y los europeos son relativamente expertos en tecnología y tienen muchos objetos y usos: están en las redes sociales, etcétera.

Ahora bien, si su pregunta es si las empresas europeas están a la vanguardia de la IA, entonces no es exactamente lo mismo. No tenemos ningún actor dominante en Europa como los que se pueden imaginar en el extranjero. Y ahí es donde hay que centrar mucha fuerza hoy para intentar que surjan ‘campeones’ en Europa.

P.- En su opinión, ¿cuál sería ahora la prioridad más urgente a nivel europeo? ¿La necesidad de inversión en inteligencia artificial, la regulación y gobernanza, o la protección de la privacidad?

R.- Estos son temas sobre los que no podemos hacer una elección. No podemos decidir ser competitivos a expensas de la privacidad. Pero tenemos que ser competitivos.

En Europa estamos bastante bien protegidos, aunque no sea perfecto. Tenemos el RGPD, tenemos la Ley de IA, por lo que tenemos más protección que el resto del mundo. Tenemos el problema de la necesidad de inversión para conseguir líderes que ofrezcan productos que cumplan con los estándares europeos.

P.- Y ¿corresponde a los Estados miembros de la Unión Europea hacer el esfuerzo o debe ser una concertación desde Bruselas? ¿Cuál sería el procedimiento?

R.- Ahí no sé, yo estoy en informática, no en política. Lo que está claro es que hay algunas barreras comúnmente identificadas como es la necesidad de inversiones masivas. Es decir, que hoy tenemos un montón de startups, proyectos, innovaciones, pero lo importante es el salto de escala. Y para eso se necesitan muchas cosas. Necesitamos capital, pero también necesitamos mercados. Y ahí, quizás, son los Estados los que a través de la contratación pública ofrecen contratos para que los ‘campeones’ europeos puedan acceder a los mercados.

Hay problemas regulatorios porque todavía tenemos un mercado europeo fracturado por fronteras, leyes diferentes, reglas diferentes. Por lo tanto, creo que tenemos un terreno muy favorable en Europa porque tenemos muchas cosas, pero tenemos que dejar de señalar que tenemos barreras. Ahora hay que levantarlas.

P.- ¿Podría ser ese su mensaje a la nueva Comisión que asume sus funciones este 1 de diciembre?

R.- No sé. Una vez más, la finura de la política, el entrelazamiento de los actores, el reparto, ese no es mi trabajo. Lo que está claro es que tenemos cartas en nuestras manos, tenemos activos. Hay europeos muy fuertes en IA en todo el mundo, pero también en Europa, por lo que ahora tenemos que dar un paso adelante.

P.- Usted conoce la situación en Francia. ¿Será Francia el líder en esta evolución? Y la construcción de gigantes europeos en IA ¿podría venir de Francia?

R.- Espero que Francia pueda ser un líder, por supuesto, pero afortunadamente no es sólo Francia la que tiene un programa de IA que está bien posicionado; de lo contrario, Europa no podría liderar. Eso sería una pérdida anticipada. Francia está muy bien situada en IA, Alemania también, y… los ingleses, depende de si se los quiere incluir o no. Pero también hay muchos países que pueden no cubrir toda la cadena de IA, pero tienen fortalezas en áreas específicas.

Por último, la idea de Europa es que todo el mundo coopere, aunque sea necesario un gran actor a la cabeza, y seguramente será con Francia y Alemania.

P.- ¿Qué sector o profesión podría verse más amenazado por la inteligencia artificial: artistas, creativos, medios de comunicación quizás?

R.- Suelo responder que soy optimista, por lo que no debemos ver las cosas en términos de amenazas. Hay una serie de estudios, en particular el informe de Philippe Aghion en el que participé, que han demostrado que no tenemos profesiones amenazadas y profesiones no-amenazadas.

La mayoría de los puestos de trabajo se verán afectados, pero en un cierto número de sus tareas, no en todo el negocio. Es cierto que hay algunas profesiones muy expuestas.

Hay una que está extremadamente expuesta, que es la de traductor. No necesariamente un traductor de poesía o un traductor de lenguas muy raras. Pero a las personas que traducen, por ejemplo, manuales de usuario del inglés al francés o del francés al español, o en idiomas que las herramientas dominan muy bien, les diremos: «podemos aceptar tener una traducción de calidad media por menos precio». E incluso si su traducción humana sigue siendo más cualitativa, las personas ya no estarán necesariamente dispuestas a pagar más por un 10% más de calidad sobre un acto de traducción que no tenga ningún efecto, ningún impacto legal, en la salud, o en el arte…

P.- Y también me imagino amenazados los programadores informáticos, ¿no?

R.- Ha habido muchas olas de progreso en la informática que están antes de la IA. Compiladores que cada vez son más potentes, analizadores sintácticos, modelos shaker, cosas que analizan si el programa es correcto, etc… que ayudan mucho al programador. Ya existía la generación automática de código antes de la IA en algunas áreas, por lo que también hay que hacer una adaptación.

Hay tareas elementales que se automatizarán. Y esta profesión, como todas las demás, debe adaptarse y buscar otros nichos.

P.- Para una empresa como la nuestra (EFE), que somos grandes productores de contenidos y no solo de texto, sino de fotos, vídeos… ¿Cuál sería su consejo para los periodistas, para las redacciones? Si tienen que hacer un esfuerzo, ¿en qué exactamente? Simplemente, ¿en conocer las herramientas?

R.- Son preguntas difíciles, porque no soy más periodista que política, así que solo tengo una idea aproximada de su trabajo. Pero creo que lo primero para todos, todas las profesiones, todos los usuarios, incluso una abuela que quiere jugar con sus nietos, primero hay que aprender las herramientas y sus límites, porque no le das a alguien un taladro sin explicarle que puede doler y que puede cortar. Y la IA es eso mismo, tiene muchos aspectos beneficiosos, pero si la usas mal, es molesta. Y, por lo general, en su profesión periodística de hoy en día, la IA puede ayudar con tareas algo insignificantes de búsqueda y clasificación automática de documentos; la IA puede hacer resúmenes. Pero la IA generativa, que produce contenido, todavía tiene grandes defectos de alucinación, de imperfección.

Isabelle Ryl junto a Éric Tallon, consejero de Cooperación y de Acción Cultural de la Embajada de Francia en España. EFE/Instituto Francés de Madrid

Si te posicionas como periodista como consumidor de lo que te da la IA, es exactamente lo mismo que los estudiantes que usan la IA para hacer sus deberes. Si no tienes el conocimiento previo, ¿cómo puedes tener el pensamiento crítico para saber si lo que te ha producido es correcto o no?

Hoy en día, si quieres usar una herramienta automática para traducir del francés al inglés o del inglés al francés -también yo lo hago para ser rápida en cosas pequeñas- tienes que saber hablar el idioma a fin de poder revisar y comprobar si es correcto, y hablar un idioma no es solo traducción, hay cultura, muchas otras cosas detrás. Y para todas las profesiones que
aportan significado, esto sigue siendo importante. Está también todo el aspecto de la verificación.

Entonces, tenemos que encontrar una evolución con el fin de integrar herramientas de IA para ir más rápido, pero con sentido. Tengo amigos periodistas que, desde hace varios años, al menos en Francia, cuando a veces les menciono el hecho de que los periodistas no profundizan en los temas, me responden que no hay dinero, que no hay más tiempo para eso. Ahora bien, si puedes usar la IA para preparar tu archivo, tu documentación y reservar tiempo para investigar y buscar hasta en las esquinas, tal vez lo harás con mejor calidad.

P.- ¿Perderá valor el archivo de los medios, la base de datos con la que se hacen análisis o productos de documentación, porque la inteligencia artificial ella sola buscará, encontrará e incluso analizará?

R.- No he entendido su pregunta porque no sé a qué llama archivos. La IA no debe sustituir a los datos. La IA debe brindarle una mejor calidad y más velocidad y eficiencia en el motor de búsqueda.

P.- Sí, pero el salto que va de tener solo datos (textos) a extraer una conclusión de esos datos, esa tarea que ahora le toca a los periodistas, mañana quizás sea una herramienta de inteligencia artificial la que probablemente la haga.

R.- Sí, pero una vez más, tenemos que prestar atención a lo que produce, a cómo se ha elaborado. Y luego, también hay que prestar atención a otros aspectos. Se habla mucho de dos cosas en este momento en la IA, hay personas que hablan como usted menciona del riesgo de poner la IA en todas partes para reemplazar a todos, y personas que advierten mucho sobre el consumo de energía de la IA. Si hoy tienes un motor de búsqueda, un buen motor de búsqueda antiguo que funciona en tu base de datos, es mucho menos probable que consuma más que una IA generativa que haría lo mismo. Y así vamos a tener que encontrar un equilibrio entre lugares donde la IA es estrictamente un valor añadido y lugares donde simplemente es divertido probar, es moderno, es chic cuando se lo dices al cliente, etcétera. Son dos aspectos con los que hay que tener cuidado.

Y también hay otra cosa, si podemos comentar un poco de técnica, con la que debemos tener mucho cuidado. Hay trabajos que han demostrado que los datos artificiales envenenan los datos.

Trato de explicarme: hoy en día, la mayoría de los modelos de lenguaje se entrenan con todos los datos de la web, pero estos datos son generados cada vez más por IA y esto plantea dos problemas importantes. Por un lado, hay manipulación de datos. Pongamos un régimen autoritario que quiere que el mundo crea en su propia visión de un asunto. Puede inundar la web con textos que lleven ese mensaje. Este es el primer problema.

Segundo problema, puramente técnico: los investigadores han demostrado que cuando se entrenan modelos de lenguaje con los datos producidos, a su vez, por modelos de lenguaje -es decir, se entrenan con datos reales, luego se producen datos, se vuelven a entrenar, luego se vuelven a entrenar y se vuelven a entrenar- al cabo de unas pocas generaciones, ‘pocas’ son no muchas: 9 o 10-, el modelo empieza a disparatar, porque los datos son malos y se van deteriorando poco a poco. Ha habido contaminación, eso es todo. Por lo tanto, si seguimos inundando la web con datos artificiales, no va a ayudar.

P.- ¿Y cómo podemos evitarlo? ¿Corresponde a las autoridades nacionales establecer prohibiciones?

R.- Ah, es muy complicado, porque esta es la situación hoy, pero tal vez se arregle en los modelos en uno o dos años y sean más sensibles al problema. Luego está la posibilidad de marcar los datos cuando han sido producidos por un modelo.

Ahora bien, esto sólo funciona para los bienintencionados. El Estado autoritario que quiere envenenar tus datos, no los va a marcar. Por lo tanto, todavía estamos en un mundo en el que las cosas aún no están estabilizadas.

P.- Una cuestión que se plantea, sobre la que estamos reflexionando actualmente en el periodismo, es la autorización para el uso de la inteligencia artificial. Por ejemplo, esta entrevista grabada, ¿Debería usted ser capaz de decir «No quiero que mi voz se utilice para entrenar la inteligencia artificial”?

R.- Sí, y lo digo a su micrófono: usted sólo tiene derecho a usar (mi voz) para escribir su artículo.

P.- Una pregunta relacionada con terribles noticias de actualidad, porque vemos la guerra en Ucrania, la guerra en Oriente Medio. ¿Hasta qué punto, como en el pasado, uno de los motores de esta revolución tecnológica es también la necesidad de defensa y, en un caso extremo, la guerra? ¿Están las instituciones de defensa realmente a la vanguardia de las innovaciones relacionadas con la inteligencia artificial?

R.- Es difícil decirlo porque la característica de la defensa es no decir lo que está haciendo. Y, además, en Europa estamos mucho menos en un espacio de investigación dual que en Estados Unidos. Normalmente, (el programa) Horizonte Europa no financia la investigación relacionada con la defensa, por lo que nos resulta mucho más difícil saberlo. Esa es realmente una pregunta que no sé cómo responder.

En algunos aspectos, supongo que sí. Pero no hay que olvidar que hoy en día en el campo de la IA en general, si no nos referimos a algún aspecto concreto como pueda ser la lectura de imágenes de satélite para detectar el número de vehículos en un lugar, que no dejan de ser aplicaciones muy especiales, hay mucha investigación que se drena por parte de empresas internacionales muy grandes cuyas aplicaciones son más bien para la colocación de productos o la venta.

Así que también hay muchas, muchas innovaciones que se están haciendo por ese lado. Si te fijas por ejemplo, algo que no es realmente defensa sino que está más bien relacionado con la seguridad, que es cómo luchamos contra los deep fakes, hoy en día plataformas como Facebook y otras, Twitter -bueno, tal vez Twitter no es un buen ejemplo; pero Facebook y otros- hacen investigación de IA para detectar automáticamente discursos de odio, información falsa, etcétera, porque tienen que eliminarlos de su red.

En Francia, por ejemplo, tenemos Viginum o servicios estatales que intentan luchar contra la desinformación, pero también lo hacen los actores privados. Después de eso, si realmente pasamos a los armamentos, me imagino que hay grandes avances en la investigación, pero de los que no necesariamente somos conscientes.

P.- ¿Podría explicar a la opinión pública española cómo se organiza la innovación y la adopción de la inteligencia artificial en Francia? ¿Depende de un ministerio en particular? ¿Cuál es la estructura a grandes rasgos?

R.- Hoy en día, la característica de la IA es realmente entrar en todos los campos. Así que tenemos un ministro a cargo de lo digital y la inteligencia artificial y tenemos un secretario de Estado que reúne un poco a la gente, que tiene la cartera sobre el mundo de la IA. Pero hoy, cuando decimos que necesitamos inversión, debe también estar respaldada por el Ministerio de Economía.

Cuando se habla de cultura, hay un grupo de trabajo en curso sobre el impacto en la cultura, los derechos de autor, etcétera. Cuando hablamos del uso de la IA en las escuelas, es el Ministerio de Educación Nacional. La transformación y los impactos significativos del uso de la IA en la salud son esenciales, y depende del Ministerio de Sanidad. Incluso si hay una estrategia nacional en IA, un coordinador nacional para la estrategia en IA y la IA está en la cartera de un ministro, no hay un solo ministro que sea completamente inmune a este tema.

Cuando participé en la Comisión de Inteligencia Artificial Generativa, que presentó su informe a la primera ministra (Elisabeth Borne), se trató de la primera ministra porque era interministerial y muchos ministros estaban presentes. El ministro de la Función Pública también estaba allí porque la IA tiene un impacto en el trabajo de los funcionarios. Así que podemos decir que cada ministerio tiene su propia unidad, es realmente interministerial.

Hablaba usted de defensa: ahora tenemos una agencia de innovación en inteligencia artificial para el Ejército. Por lo tanto, realmente hay una estrategia nacional, pero una declinación por carteras.

P.- No hemos hablado de finanzas, de la aplicación de la inteligencia artificial en el mundo de las finanzas.

R.- También es un ámbito en el que está funcionando bastante bien. En cualquier caso, en Francia el sector Fintech va muy bien y hay muchos proyectos. No exclusivamente, pero hay muchos proyectos que cuentan con IA.

P.- ¿Para hacer qué, por ejemplo?

R.- Pueden ser muchas cosas, pero pueden ser cosas muy simples y útiles. Por ejemplo, start-ups que ayudan a las pequeñas empresas a clasificar sus facturas, sus informes de gastos. Con el teléfono móvil, se hace una foto del ticket, se clasifica automáticamente, se analiza, se almacena en las rúbricas de la cuenta, etcétera.

En realidad, esto es automatización de tareas, pero multisoporte. Son cosas que no son revolucionarias, pero brindan servicios fenomenales. Tienes otras cosas más orientadas hacia el futuro. Hay muchos datos en finanzas, por lo que todo lo que es análisis de tendencias, todo lo que antes se hacía a través de la optimización o las estadísticas clásicas, la gente está tratando de ver lo que la IA puede aportar. Pero si buscamos proyectos más originales, existe, por ejemplo, una start-up que trabaja en call centers para seguros, Insurtech, que analiza la voz de las personas que llaman para detectar su nivel de estrés y emociones, y poder cuidar a alguien que está en un estado de estrés, de inmediato, por un operador humano.

No es lo mismo si llamas a la compañía de seguros y dices ‘me gustaría renegociar mi contrato, me gustaría pagar menos’, que si llamas porque estás en una carretera, ensangrentado, pidiendo ayuda. Y cosas como esa, son cosas en las que la IA puede hacer cosas nuevas.

Vídeo del coloquio en el Instituto Francés (27/11/2024)

Editado por Sandra Municio