Bruselas (Euractiv.com) – Un grupo de investigadores de la Unión Europea (UE) ha alertado de los problemas que plantea la medición de las capacidades de la Inteligencia Artificial (IA), y ha instado a los reguladores europeos a garantizar que las cifras de los modelos de las empresas de IA se ajusten realmente a lo que afirman.

Un nuevo documento publicado la semana pasada por el Centro Común de Investigación de la Comisión Europa concluye que los puntos de referencia de la IA prometen demasiado.

Los autores concluyen que las herramientas patentadas que comparan los modelos de IA son fáciles de manipular y miden con errores.

Las empresas de IA utilizan los puntos de referencia para cifrar el rendimiento de sus modelos en determinadas tareas. OpenAI, por ejemplo, puso a prueba su nuevo GPT-5 para comprobar la fiabilidad con la que se abstiene de responder a preguntas que no tienen respuesta, y supuestamente el nuevo modelo obtuvo una puntuación más alta que el anterior.

Los investigadores de la UE instan a los reguladores a centrarse en examinar detenidamente el funcionamiento de esas herramientas.

La evaluación comparativa de la IA es un problema para la UE porque sus normas sobre inteligencia artificial se basan en la evaluación de las capacidades de los modelos en muchos contextos diferentes.

Por ejemplo, los modelos de gran tamaño pueden considerarse de riesgo especial con arreglo a la normativa de la UE sobre IA, basándose en una evaluación comparativa que determine que tienen «gran capacidad de impacto».

La norma permite a la Comisión especificar qué significa eso exactamente mediante un acto delegado, cosa que el ejecutivo de la UE no ha hecho hasta ahora.

Por otra parte, el Gobierno de Estados Unidos lanzó el pasado viernes un conjunto de herramientas de evaluación que sus organismos públicos pueden utilizar para probar herramientas de IA. El Plan de Acción sobre la IA de Washington tiene como claro objetivo reforzar el liderazgo de Estados Unidos en la materia.

¿En qué puntos de referencia de IA confiar?

Los investigadores de la UE afirman que los responsables políticos se deben asegurar de que los puntos de referencia se centren en las capacidades del mundo real y no en tareas limitadas; estén bien documentados y sean transparentes; definan claramente qué miden y cómo; e incluyan diferentes contextos culturales.

Otro problema, según el documento, es que las evaluaciones comparativas existentes se suelen centrar en el inglés.

«En especial, detectamos la necesidad de nuevas formas de señalar en qué puntos de referencia confiar», se afirma en el documento.

Si se hace bien, los investigadores de la UE sugieren que los responsables políticos tienen la oportunidad de conseguir un nuevo tipo de «efecto Bruselas».

En ese sentido, en declaraciones a Euractiv, Risto Uuk, responsable de política e investigación de la UE en el Future of Life Institute, un grupo de reflexión centrado en la IA, admitió compartir las inquietudes recogidas en el documento, y sugirió que la UE exija evaluadores externos y financie el desarrollo del ecosistema de evaluación de la IA.

«Las mejoras son necesarias, pero evaluar las capacidades y otros aspectos de los riesgos y beneficios es crucial, y no basta con confiar en las vibraciones y las anécdotas», añadió el experto.

///

(Editado por Euractiv.com y Fernando Heller/Euractiv.es)

The post Un estudio de la UE advierte de las deficiencias de la evaluación comparativa de la IA appeared first on Euractiv.es.

Bruselas (Euractiv.com)- La Comisión Europea ha publicado la lista completa de firmantes del código de buenas prácticas de la Inteligencia Artificial generativa del bloque, también conocido como el Código de Buenas Prácticas para IA de propósito general (GPAI).

La adhesión al Código no es un requisito de la Ley de Inteligencia Artificial de la UE, pero las empresas que se comprometan a cumplirlo voluntariamente se considerarán conformes con el reglamento jurídicamente vinculantes, según la Comisión.

Varios de los principales desarrolladores de IA ya habían hecho pública su conformidad con el Código en las semanas posteriores a su publicación. Pero, según la lista (actualizable) publicada hoy, Amazon potencialmente firmará, junto con varios proveedores de IA más minoritarios.

En el momento de redactar este artículo, el listado no incluía ninguna empresa china de IA como Alibaba, Baidu o Deepseek.

Queda por ver si esto cambiará. Pero hay una certeza: El gigante estadounidense Meta anunció ya públicamente que no firmaría.

Las empresas que no firmen el Código seguirán teniendo que cumplir todas las normativas del reglamento europeo sobre Inteligencia Artificial. De hecho, la Comisión ya ha advertido que estas corporaciones pueden enfrentarse a un mayor escrutinio respecto a aquellas que acepten acatar el Código.

La francesa Mistral y la alemana Aleph Alpha anunciaron previamente que lo firmarían, al igual que las estadounidenses OpenAI, Anthropic, Google y Microsoft.

XAI, de Elon Musk, optó por una tercera opción al anunciar que sólo firmaría el capítulo sobre seguridad al condenar que el resto del Código es «profundamente perjudicial para la innovación». (Los tres capítulos del Código abarcan compromisos sobre transparencia, derechos de autor y seguridad)

Al final, casi todas las grandes empresas de IA de EE.UU. y la UE han firmado el Código. Esto supone una victoria para la Comisión, pero no pondrá fin al debate sobre el planteamiento de la UE para regular la inteligencia artificial.

Microsoft, por ejemplo, presionó para que la UE simplificara la Ley de IA cuando anunció que firmaría el código de buenas prácticas.

La Ejecutivo comunitario también ha anunciado anteriormente que su próximo paquete ómnibus digital incluirá la Ley de IA, aunque no especificando en qué medida.

No es de extrañar que, dado el amplio abanico de intereses que se generan en torno a la IA, el propio Código se haya enfrentado a un proceso de redacción largo y complicado, con más de mil participantes incluidos.

Finalmente, la Comisión lo presentó a principios de julio, dos meses después del plazo original establecido para su publicación, y, de hecho, ha tardado hasta hoy, viernes 1 de agosto, para confirmar que el Código cumple sus propios requisitos.

///

(Editado por Inés Fernández-Pontes/Euractiv.es)

The post La Comisión Europea publica la lista completa de empresas de IA que se han suscrito al Código de buenas prácticas appeared first on Euractiv.es.

Bruselas (Euractiv.com/.es) – Los titulares de derechos de autor en la Unión Europea (UE) sopesan la creación de un nuevo marco de concesión de licencias, tras su decepción por la reciente decisión de Bruselas relativa a las obligaciones de transparencia de la Ley de Inteligencia Artificial (IA) y el Código de Buenas Prácticas para las IA de propósito general (GPAI, por sus siglas en inglés) que consideran no protegen suficientemente su actividad.

La Comisión Europea publicó el pasado jueves una muy esperada plantilla para que los desarrolladores de IA resuman los datos utilizados para entrenar sus modelos.

Sin embargo, la medida ha sido recibida con escepticismo por los creadores, que creen que la transparencia por sí sola no basta para salvaguardar sus derechos de autor.

Los modelos GPAI -la tecnología en la que se basan programas como ChatGPT, Le Chat o Midjourney- requieren grandes cantidades de datos para producir resultados más precisos y menos sesgados.

Pero la procedencia de los datos suele ser opaca, y a los creativos y artistas les preocupa no tener forma de saber si su trabajo se ha utilizado para entrenar sistemas de IA y, por tanto, no poder oponerse a su uso.

Transparencia, sólo como primer paso

La Ley de Inteligencia Artificial de la UE apunta a aportar mayor transparencia a los sistemas de IA y permitir a los creadores hacer valer sus derechos de autor.

La Ley exige a los creadores de modelos de GPAI que elaboren resúmenes de los datos utilizados para el entrenamiento, y que implanten sistemas que permitan a los titulares de derechos «optar por no participar» en el uso de sus contenidos para el desarrollo de modelos.

En ese sentido, Bruselas confía en que los desarrolladores de IA utilicen su plantilla para esos resúmenes de datos de entrenamiento.

Este aspecto de la Ley de Inteligencia Artificial fue objeto de intensas presiones -en direcciones opuestas- por parte de los titulares de derechos de autor, que querían que las plantillas fueran lo más detalladas posible, y de las empresas de Inteligencia Artificial, que temían que un exceso de detalles pudiera revelar secretos comerciales.

Pero a la industria del sector no le convence la fórmula de la Comisión.

«No salvaguarda el sector creativo y, si no se corrige, corre el riesgo de socavar la Ley de Inteligencia Artificial y el marco europeo de derechos de autor en favor de unas pocas empresas tecnológicas globales», según explicó a Euractiv Burak Özgen, director general adjunto de GESAC, el grupo de presión de autores y compositores de la UE.

Durante varios meses, expertos, grupos de presión y la sociedad civil negociaron además un Código de Buenas Prácticas para precisar en detalle las normas en cuestiones clave como los derechos de autor.

Pero para los titulares de derechos de autor, el texto final también se quedó corto.

Las mejoras de la versión final del Código son «claramente insuficientes», asegura Özgen, al tiempo que lamenta que el texto carezca de los detalles «concretos» que lo hagan «aplicable».

Su conclusión es que el Código no hace «nada útil para ayudar a ejercer y hacer valer los derechos de los autores».

Normas sobre derechos de autor adaptadas a la IA Generativa

En el foco de la polémica entre los titulares de derechos y los creadores de IA está la cuestión de cómo se aplican las normas sobre derechos de autor a las herramientas de IA generativa, y qué pasos habría que dar después.

La Directiva sobre Derechos de Autor permite el uso de software que rastrea Internet, en sitios web y bases de datos de acceso legal, para recopilar texto e imágenes protegidos por derechos de autor para el análisis o la investigación de datos -también conocida como minería de texto y datos (TDM)-, a menos que los titulares de los derechos hayan optado activamente por que no se rastree su trabajo.

Para el grupo de presión tecnológico CCIA, la excepción de la TDM es esencial para apoyar la innovación en IA.

En ese sentido, Boniface de Champris, director de políticas de la CCIA Europa, explicó en declaraciones a Euractiv que la normativa «se ha diseñado cuidadosamente para lograr un equilibrio vital entre el fomento de la innovación y la protección de la propiedad intelectual».

Sin embargo, un estudio encargado por la Comisión de Asuntos Jurídicos del Parlamento Europeo adopta una postura muy distinta, al concluir que las normas del TDM no están pensadas para la IA generativa y «no proporcionan seguridad jurídica, transparencia ni un control efectivo de los derechos», como dice el informe.

Las dos partes están enfrentadas sobre esa cuestión, lo cual puede explicar por qué los titulares de derechos dirigen ahora su atención a un posible marco específico para los acuerdos de licencia.

Una de las mayores preocupaciones para los autores es hallar la manera de ser compensados adecuadamente por el uso de sus obras para entrenar la IA, especialmente a medida que se acelera la adopción de la IA Generativa.

Un proyecto de informe del Parlamento Europeo dirigido por el eurodiputado Axel Voss -que también negoció la Directiva sobre derechos de autor de la UE- aboga por un nuevo marco que permita cerrar acuerdos de licencia.

El informe tiene que ser analizado por otros eurodiputados antes de que pueda representar la posición oficial del Parlamento.

Sin embargo, el grupo de presión europeo de compositores y letristas ECSA se mostró satisfecho de que el proyecto de informe de Voss «rechace la aplicación de las excepciones del TDM a la IA Generativa y pida que se garantice una remuneración justa», según explicó a  Euractiv Helienne Lindvall, presidenta de ECSA.

El Ejecutivo de Bruselas debe decidir si responde al auge de la IA Generativa revisando el marco de derechos de autor de la UE (la Directiva sobre derechos de autor se revisará en 2026) y, en caso afirmativo, cómo garantizar que las nuevas normas logren el equilibrio adecuado entre el apoyo a la innovación en IA y la protección de la creatividad humana.

///

(Editado por Euractiv.com y Fernando Heller/Euractiv.es)

The post Los creadores de la UE quieren una reforma de las licencias para blindar los «derechos de autor» appeared first on Euractiv.es.