Innovación y Tecnología
Un estudio de la UE advierte de las deficiencias de la evaluación comparativa de la IA
Bruselas (Euractiv.com) – Un grupo de investigadores de la Unión Europea (UE) ha alertado de los problemas que plantea la medición de las capacidades de la Inteligencia Artificial (IA), y ha instado a los reguladores europeos a garantizar que las cifras de los modelos de las empresas de IA se ajusten realmente a lo que afirman.
Un nuevo documento publicado la semana pasada por el Centro Común de Investigación de la Comisión Europa concluye que los puntos de referencia de la IA prometen demasiado.
Los autores concluyen que las herramientas patentadas que comparan los modelos de IA son fáciles de manipular y miden con errores.
Las empresas de IA utilizan los puntos de referencia para cifrar el rendimiento de sus modelos en determinadas tareas. OpenAI, por ejemplo, puso a prueba su nuevo GPT-5 para comprobar la fiabilidad con la que se abstiene de responder a preguntas que no tienen respuesta, y supuestamente el nuevo modelo obtuvo una puntuación más alta que el anterior.
Los investigadores de la UE instan a los reguladores a centrarse en examinar detenidamente el funcionamiento de esas herramientas.
La evaluación comparativa de la IA es un problema para la UE porque sus normas sobre inteligencia artificial se basan en la evaluación de las capacidades de los modelos en muchos contextos diferentes.
Por ejemplo, los modelos de gran tamaño pueden considerarse de riesgo especial con arreglo a la normativa de la UE sobre IA, basándose en una evaluación comparativa que determine que tienen «gran capacidad de impacto».
La norma permite a la Comisión especificar qué significa eso exactamente mediante un acto delegado, cosa que el ejecutivo de la UE no ha hecho hasta ahora.
Por otra parte, el Gobierno de Estados Unidos lanzó el pasado viernes un conjunto de herramientas de evaluación que sus organismos públicos pueden utilizar para probar herramientas de IA. El Plan de Acción sobre la IA de Washington tiene como claro objetivo reforzar el liderazgo de Estados Unidos en la materia.
¿En qué puntos de referencia de IA confiar?
Los investigadores de la UE afirman que los responsables políticos se deben asegurar de que los puntos de referencia se centren en las capacidades del mundo real y no en tareas limitadas; estén bien documentados y sean transparentes; definan claramente qué miden y cómo; e incluyan diferentes contextos culturales.
Otro problema, según el documento, es que las evaluaciones comparativas existentes se suelen centrar en el inglés.
«En especial, detectamos la necesidad de nuevas formas de señalar en qué puntos de referencia confiar», se afirma en el documento.
Si se hace bien, los investigadores de la UE sugieren que los responsables políticos tienen la oportunidad de conseguir un nuevo tipo de «efecto Bruselas».
En ese sentido, en declaraciones a Euractiv, Risto Uuk, responsable de política e investigación de la UE en el Future of Life Institute, un grupo de reflexión centrado en la IA, admitió compartir las inquietudes recogidas en el documento, y sugirió que la UE exija evaluadores externos y financie el desarrollo del ecosistema de evaluación de la IA.
«Las mejoras son necesarias, pero evaluar las capacidades y otros aspectos de los riesgos y beneficios es crucial, y no basta con confiar en las vibraciones y las anécdotas», añadió el experto.
///
(Editado por Euractiv.com y Fernando Heller/Euractiv.es)
The post Un estudio de la UE advierte de las deficiencias de la evaluación comparativa de la IA appeared first on Euractiv.es.
Innovación y Tecnología
Bruselas multa a X, de Elon Musk, con 120 millones de euros por violar las normas digitales de la UE
Bruselas (Euractiv)- La Comisión Europea anunció el viernes una multa de 120 millones de euros a X, la plataforma de redes sociales de Elon Musk, por incumplir las obligaciones de transparencia exigidas por la Ley de Servicios Digitales (DSA) de la UE, lo que supone la primera sanción impuesta en virtud del reglamento de gobernanza en línea de la Unión.
La investigación de la Comisión concluyó que la plataforma había infringido varios requisitos de la DSA, entre ellos el diseño de su sistema de «marca azul», que la UE consideró ilegalmente engañoso. Cuando Musk era propietario de la plataforma, esta característica pasó de indicar cuentas verificadas a ser una señal por la que los usuarios podían pagar para obtenerla.
La investigación de la UE también concluyó que X había incumplido las normas de transparencia de la DSA en relación con el diseño de su repositorio de publicidad y al no facilitar a los investigadores el acceso a datos públicos como exige la ley.
Un funcionario de la Comisión desglosó la sanción: 45 millones de euros por el diseño engañoso de las marcas azules, 35 millones por el incumplimiento del repositorio de anuncios y 40 millones por no facilitar a los investigadores el acceso a los datos públicos.
Incumplimiento grave
La comisaria de Tecnología y vicepresidenta ejecutiva, Henna Virkkunen, declaró a la prensa el viernes que la multa de 120 millones de euros refleja «la naturaleza de la infracción, la gravedad del incumplimiento para los usuarios de la UE y la duración» de las infracciones.
«Como sabemos, esta es la primera decisión de incumplimiento en el marco de la DSA», dijo. También, confirmó que esta no es la última palabra sobre X, ya que la Comisión continúa otras investigaciones que abrió sobre la plataforma hace casi dos años.
Desde el 18 de diciembre de 2023 está en curso una investigación de la UE sobre las medidas de mitigación de riesgos de X, los mecanismos de notificación y actuación y la posible manipulación de la información, sin que se haya fijado un plazo legal para que la Comisión la concluya.
El vicepresidente de EE. UU., J. D. Vance, arremetió contra la Unión el jueves por la noche, ante los rumores de que estaba preparando una acción coercitiva contra X. Escribió que «la UE debería apoyar la libertad de expresión, no atacar a las empresas estadounidenses por tonterías».
No se trata de censura
En respuesta a este ataque, Virkkunen declaró el viernes que «es muy importante subrayar que la DSA no tiene nada que ver con la censura». «Se trata de la transparencia en la plataforma (…) un principio básico de nuestra DSA», afirmó.
Los largos procedimientos de la DSA contra X también se han enfrentado a un fuerte rechazo político en la otra dirección, incluido el del presidente francés Emmanuel Macron, que recientemente criticó a la Comisión por su lenta aplicación de las normas digitales a la tecnología estadounidense. «Espero que después [de la multa de hoy] podamos acelerar nuestro proceso», añadió Virkkunen.
///
(Editado por nl/Euractiv.com y Luis de Zubiaurre/Euractiv.es)
The post Bruselas multa a X, de Elon Musk, con 120 millones de euros por violar las normas digitales de la UE appeared first on Euractiv.es.
Innovación y Tecnología
Europa debe «redoblar sus esfuerzos» frente a China, afirma el responsable de Industria de la UE
Bruselas (Euractiv)- El vicepresidente ejecutivo de Prosperidad y Estrategia Industrial de la UE, Stéphane Séjourné, instó el martes al bloque a «redoblar sus esfuerzos» para reducir su dependencia estratégica de China, al tiempo que expuso una serie de políticas para romper el asfixiante control de Pekín sobre el suministro mundial de minerales críticos.
En un discurso ante el Parlamento Europeo, el comisario francés afirmó que los controles chinos a la exportación de tierras raras «apunta directamente» a Europa, y advirtió de que la falta de acceso del bloque a estos minerales estratégicos sigue siendo «alarmante» a pesar de que Pekín anunció el mes pasado la suspensión durante un año de algunas de esas restricciones.
Pekín domina el mercado mundial de tierras raras, con el 70% de la extracción y el 90% del refinado de elementos utilizados en tecnologías civiles y militares, desde vehículos eléctricos y ordenadores hasta aviones de combate.
«Es hora de que Europa intensifique su juego», dijo Séjourné a los eurodiputados en Estrasburgo, añadiendo que Bruselas debe «redoblar [sus] esfuerzos» para romper la dependencia de Pekín respecto a las tierras raras y otros minerales críticos.
Sus comentarios se producen después de que China, segunda economía mundial y tercer socio comercial de la UE tras Estados Unidos y el Reino Unido, impusiera a principios de abril restricciones drásticas a la exportación de tierras raras. Estas medidas ya han obligado a muchas industrias de la UE a suspender o retrasar la producción.
Prohibición de facto
A estas restricciones, introducidas apenas dos días después de que el presidente Donald Trump anunciara el 2 de abril «aranceles recíprocos» punitivos sobre China y otros socios comerciales de Estados Unidos, siguieron otras aún más estrictas a principios de octubre, que incluyeron una prohibición de facto de todas las licencias de exportación de tierras raras para fines militares.
Mientras que las restricciones de octubre se suspendieron durante un año después de que Trump se reuniera con el presidente chino, Xi Jinping, el mes pasado, las medidas de abril siguen mayoritariamente en vigor.
Las licencias de exportación de Pekín para minerales críticos se están concediendo a las empresas de la UE «a cuentagotas», dijo Séjourné y añadió que ello puede causar interrupciones de suministro en los sectores de la automoción y la energía eurpeos.
Séjourné también condenó la exigencia de Pekín de que las empresas de la UE faciliten información comercial sensible a las autoridades chinas a cambio de licencias de exportación. «Estos requisitos también se asemejan a un chantaje, si tenemos en cuenta todas las exigencias que se están haciendo a nuestras industrias para obtener estas licencias de exportación», afirmó.
Centro Europeo de Materias Primas Críticas
A continuación, Séjourné expuso parte del plan de la UE para garantizar el acceso a los minerales críticos, cuyos detalles se detallarán el próximo miércoles cuando la Comisión desvele su iniciativa denominada «RESourceEU».
El plan, que sigue de cerca el modelo de la estrategia de seguridad económica de Japón, prevé la creación de un Centro Europeo de Materias Primas Críticas que funcionará como punto de suministro de metales en la UE, explicó Séjourné. El centro «nos permitirá evaluar las necesidades, comprar en común y almacenar minerales críticos en Europa», añadió.
Séjourné también dijo que la UE intentará salvaguardar su suministro de minerales críticos reforzando los vínculos comerciales con terceros países, potenciando su capacidad de reciclar productos que contengan tierras raras y «movilizando» herramientas comerciales para evitar que estos productos salgan de Europa.
«El coste de la independencia es alto, pero es menor que el de la dependencia», afirmó. «No es demasiado tarde, pero el tiempo se acaba».
///
(Editado por cp, aw/Euractiv.com y Luis de Zubiaurre/Euractiv.es)
The post Europa debe «redoblar sus esfuerzos» frente a China, afirma el responsable de Industria de la UE appeared first on Euractiv.es.
Innovación y Tecnología
El retraso de la IA puede afectar al futuro de Europa, advierte la presidenta del BCE
(AFP)- La presidenta del Banco Central Europeo, Christine Lagarde, advirtió el lunes de que un retraso en la adopción de la inteligencia artificial podría «poner en peligro» el futuro del continente, instando a que se eliminen rápidamente las barreras a su adopción.
Sus comentarios se suman a los crecientes temores de que Europa se esté quedando rezagada con respecto a Estados Unidos y China en lo que respecta a la IA. Los defensores de la tecnología culpan a problemas que van desde el exceso de regulación a la falta de inversión.
«Tenemos que eliminar todos los obstáculos que nos impiden abrazar esta transformación», declaró en una conferencia en Bratislava. «De lo contrario, corremos el riesgo de dejar pasar la ola de adopción de la IA y poner en peligro el futuro de Europa».
Fragmentación normativa
Lagarde, que preside el banco central de los 20 países de la zona del euro, admitió que Europa «ya ha perdido la oportunidad de ser pionera en el campo de la inteligencia artificial». Pero si el continente despliega la tecnología con decisión en sus industrias clave, «Europa puede convertir un arranque tardío en una ventaja competitiva», subrayó.
Enumeró varios obstáculos para una rápida adopción en Europa, desde la fragmentación de la normativa hasta el elevado coste de la energía, que encarece el funcionamiento de los enormes centros de datos que impulsan la IA. Los obstáculos burocráticos, como los retrasos en la obtención de permisos, dificultan la rápida construcción de centros de datos y la potencia informática de la región, afirmó.
Según un estudio reciente de la asociación alemana de empresas digitales Bitkom, el año pasado los centros de datos europeos tenían una capacidad de cálculo de 16 gigavatios, frente a los 48 de Estados Unidos y los 38 de China.
Pérdida de competitividad
Ante la creciente preocupación de empresas y gobiernos por el hecho de que la normativa obstaculice el sector digital y frene el crecimiento, la UE propuso la semana pasada reducir las principales normas sobre inteligencia artificial y privacidad de datos. Los defensores de la privacidad, sin embargo, se mostraron descontentos con los cambios propuestos, alegando que debilitan las salvaguardias que protegen los datos de los europeos.
Los gobiernos europeos también han intensificado sus llamamientos para reducir la excesiva dependencia de los gigantes tecnológicos estadounidenses y reforzar la industria local, especialmente en un momento de tensiones con Washington bajo la administración Trump.
Haciéndose eco de estos sentimientos, Lagarde instó a Europa a «diversificar las partes críticas de la cadena de suministro de IA».
«Si nuestros centros de datos utilizan tecnologías que son propiedad y están gobernadas fuera de Europa, profundizamos -en lugar de reducir- nuestras dependencias estratégicas».
Mientras algunos líderes europeos temen que perder en la carrera de la IA pueda debilitar la ya frágil economía del continente, otros advierten del peligro de precipitarse en la adopción de esta tecnología. El alto comisionado para los Derechos Humanos de la ONU, Volker Türk, advirtió el lunes de que la IA generativa podría convertirse en «un monstruo de Frankenstein moderno» que podría amenazar los derechos, incluidos los de privacidad, participación política y libertad de expresión.
No obstante, Lagarde advirtió de que las consecuencias de seguir a la zaga van más allá de «perder la carrera de los modelos de IA». «A la larga nos enfrentaríamos a una mayor pérdida de competitividad para muchos de nuestros sectores e industrias», concluyó.
The post El retraso de la IA puede afectar al futuro de Europa, advierte la presidenta del BCE appeared first on Euractiv.es.
-
RSE2 díasLa UE enfrenta el reto de mantener estable el sistema eléctrico en un contexto de creciente protagonismo de las renovables
-
Newswire2 díasVortex Control Technologies ayuda a Norwegian a avanzar en sus objetivos de sostenibilidad con la adopción de VCT Finlets en toda la flota
-
Newswire2 díasBingX anuncia su compra recurrente para simplificar la operativa en el mercado cripto
-
Newswire2 díasSupremo Tribunal de Justicia de Jalisco reconoce 90 años de legado de la UAG
-
Innovación y Tecnología2 díasBruselas multa a X, de Elon Musk, con 120 millones de euros por violar las normas digitales de la UE
-
Newswire3 díasChirey Motor México y DHL Supply Chain celebran su segundo aniversario de alianza estratégica
-
Ciencia y Salud2 días¿Podrá la IA predecir brotes psicóticos? Este proyecto quiere colocar la tecnología en el día a día del psicólogo
-
Mundo Política2 díasENTREVISTA: Corea del Sur insta a la UE a no caer en el «proteccionismo»
