Connect with us

Innovación y Tecnología

Un estudio de la UE advierte de las deficiencias de la evaluación comparativa de la IA

Publicado

el

Bruselas (Euractiv.com) – Un grupo de investigadores de la Unión Europea (UE) ha alertado de los problemas que plantea la medición de las capacidades de la Inteligencia Artificial (IA), y ha instado a los reguladores europeos a garantizar que las cifras de los modelos de las empresas de IA se ajusten realmente a lo que afirman.

Un nuevo documento publicado la semana pasada por el Centro Común de Investigación de la Comisión Europa concluye que los puntos de referencia de la IA prometen demasiado.

Los autores concluyen que las herramientas patentadas que comparan los modelos de IA son fáciles de manipular y miden con errores.

Las empresas de IA utilizan los puntos de referencia para cifrar el rendimiento de sus modelos en determinadas tareas. OpenAI, por ejemplo, puso a prueba su nuevo GPT-5 para comprobar la fiabilidad con la que se abstiene de responder a preguntas que no tienen respuesta, y supuestamente el nuevo modelo obtuvo una puntuación más alta que el anterior.

Los investigadores de la UE instan a los reguladores a centrarse en examinar detenidamente el funcionamiento de esas herramientas.

La evaluación comparativa de la IA es un problema para la UE porque sus normas sobre inteligencia artificial se basan en la evaluación de las capacidades de los modelos en muchos contextos diferentes.

Por ejemplo, los modelos de gran tamaño pueden considerarse de riesgo especial con arreglo a la normativa de la UE sobre IA, basándose en una evaluación comparativa que determine que tienen «gran capacidad de impacto».

La norma permite a la Comisión especificar qué significa eso exactamente mediante un acto delegado, cosa que el ejecutivo de la UE no ha hecho hasta ahora.

Por otra parte, el Gobierno de Estados Unidos lanzó el pasado viernes un conjunto de herramientas de evaluación que sus organismos públicos pueden utilizar para probar herramientas de IA. El Plan de Acción sobre la IA de Washington tiene como claro objetivo reforzar el liderazgo de Estados Unidos en la materia.

¿En qué puntos de referencia de IA confiar?

Los investigadores de la UE afirman que los responsables políticos se deben asegurar de que los puntos de referencia se centren en las capacidades del mundo real y no en tareas limitadas; estén bien documentados y sean transparentes; definan claramente qué miden y cómo; e incluyan diferentes contextos culturales.

Otro problema, según el documento, es que las evaluaciones comparativas existentes se suelen centrar en el inglés.

«En especial, detectamos la necesidad de nuevas formas de señalar en qué puntos de referencia confiar», se afirma en el documento.

Si se hace bien, los investigadores de la UE sugieren que los responsables políticos tienen la oportunidad de conseguir un nuevo tipo de «efecto Bruselas».

En ese sentido, en declaraciones a Euractiv, Risto Uuk, responsable de política e investigación de la UE en el Future of Life Institute, un grupo de reflexión centrado en la IA, admitió compartir las inquietudes recogidas en el documento, y sugirió que la UE exija evaluadores externos y financie el desarrollo del ecosistema de evaluación de la IA.

«Las mejoras son necesarias, pero evaluar las capacidades y otros aspectos de los riesgos y beneficios es crucial, y no basta con confiar en las vibraciones y las anécdotas», añadió el experto.

///

(Editado por Euractiv.com y Fernando Heller/Euractiv.es)

The post Un estudio de la UE advierte de las deficiencias de la evaluación comparativa de la IA appeared first on Euractiv.es.

Seguir leyendo

Innovación y Tecnología

La Comisión Europea publica la lista completa de empresas de IA que se han suscrito al Código de buenas prácticas

Publicado

el

Bruselas (Euractiv.com)- La Comisión Europea ha publicado la lista completa de firmantes del código de buenas prácticas de la Inteligencia Artificial generativa del bloque, también conocido como el Código de Buenas Prácticas para IA de propósito general (GPAI).

La adhesión al Código no es un requisito de la Ley de Inteligencia Artificial de la UE, pero las empresas que se comprometan a cumplirlo voluntariamente se considerarán conformes con el reglamento jurídicamente vinculantes, según la Comisión.

Varios de los principales desarrolladores de IA ya habían hecho pública su conformidad con el Código en las semanas posteriores a su publicación. Pero, según la lista (actualizable) publicada hoy, Amazon potencialmente firmará, junto con varios proveedores de IA más minoritarios.

En el momento de redactar este artículo, el listado no incluía ninguna empresa china de IA como Alibaba, Baidu o Deepseek.

Queda por ver si esto cambiará. Pero hay una certeza: El gigante estadounidense Meta anunció ya públicamente que no firmaría.

Las empresas que no firmen el Código seguirán teniendo que cumplir todas las normativas del reglamento europeo sobre Inteligencia Artificial. De hecho, la Comisión ya ha advertido que estas corporaciones pueden enfrentarse a un mayor escrutinio respecto a aquellas que acepten acatar el Código.

La francesa Mistral y la alemana Aleph Alpha anunciaron previamente que lo firmarían, al igual que las estadounidenses OpenAI, Anthropic, Google y Microsoft.

XAI, de Elon Musk, optó por una tercera opción al anunciar que sólo firmaría el capítulo sobre seguridad al condenar que el resto del Código es «profundamente perjudicial para la innovación». (Los tres capítulos del Código abarcan compromisos sobre transparencia, derechos de autor y seguridad)

Al final, casi todas las grandes empresas de IA de EE.UU. y la UE han firmado el Código. Esto supone una victoria para la Comisión, pero no pondrá fin al debate sobre el planteamiento de la UE para regular la inteligencia artificial.

Microsoft, por ejemplo, presionó para que la UE simplificara la Ley de IA cuando anunció que firmaría el código de buenas prácticas.

La Ejecutivo comunitario también ha anunciado anteriormente que su próximo paquete ómnibus digital incluirá la Ley de IA, aunque no especificando en qué medida.

No es de extrañar que, dado el amplio abanico de intereses que se generan en torno a la IA, el propio Código se haya enfrentado a un proceso de redacción largo y complicado, con más de mil participantes incluidos.

Finalmente, la Comisión lo presentó a principios de julio, dos meses después del plazo original establecido para su publicación, y, de hecho, ha tardado hasta hoy, viernes 1 de agosto, para confirmar que el Código cumple sus propios requisitos.

///

(Editado por Inés Fernández-Pontes/Euractiv.es)

The post La Comisión Europea publica la lista completa de empresas de IA que se han suscrito al Código de buenas prácticas appeared first on Euractiv.es.

Seguir leyendo

Innovación y Tecnología

Los creadores de la UE quieren una reforma de las licencias para blindar los «derechos de autor»

Publicado

el

Bruselas (Euractiv.com/.es) – Los titulares de derechos de autor en la Unión Europea (UE) sopesan la creación de un nuevo marco de concesión de licencias, tras su decepción por la reciente decisión de Bruselas relativa a las obligaciones de transparencia de la Ley de Inteligencia Artificial (IA) y el Código de Buenas Prácticas para las IA de propósito general (GPAI, por sus siglas en inglés) que consideran no protegen suficientemente su actividad.

La Comisión Europea publicó el pasado jueves una muy esperada plantilla para que los desarrolladores de IA resuman los datos utilizados para entrenar sus modelos.

Sin embargo, la medida ha sido recibida con escepticismo por los creadores, que creen que la transparencia por sí sola no basta para salvaguardar sus derechos de autor.

Los modelos GPAI -la tecnología en la que se basan programas como ChatGPT, Le Chat o Midjourney- requieren grandes cantidades de datos para producir resultados más precisos y menos sesgados.

Pero la procedencia de los datos suele ser opaca, y a los creativos y artistas les preocupa no tener forma de saber si su trabajo se ha utilizado para entrenar sistemas de IA y, por tanto, no poder oponerse a su uso.

Transparencia, sólo como primer paso

La Ley de Inteligencia Artificial de la UE apunta a aportar mayor transparencia a los sistemas de IA y permitir a los creadores hacer valer sus derechos de autor.

La Ley exige a los creadores de modelos de GPAI que elaboren resúmenes de los datos utilizados para el entrenamiento, y que implanten sistemas que permitan a los titulares de derechos «optar por no participar» en el uso de sus contenidos para el desarrollo de modelos.

En ese sentido, Bruselas confía en que los desarrolladores de IA utilicen su plantilla para esos resúmenes de datos de entrenamiento.

Este aspecto de la Ley de Inteligencia Artificial fue objeto de intensas presiones -en direcciones opuestas- por parte de los titulares de derechos de autor, que querían que las plantillas fueran lo más detalladas posible, y de las empresas de Inteligencia Artificial, que temían que un exceso de detalles pudiera revelar secretos comerciales.

Pero a la industria del sector no le convence la fórmula de la Comisión.

«No salvaguarda el sector creativo y, si no se corrige, corre el riesgo de socavar la Ley de Inteligencia Artificial y el marco europeo de derechos de autor en favor de unas pocas empresas tecnológicas globales», según explicó a Euractiv Burak Özgen, director general adjunto de GESAC, el grupo de presión de autores y compositores de la UE.

Durante varios meses, expertos, grupos de presión y la sociedad civil negociaron además un Código de Buenas Prácticas para precisar en detalle las normas en cuestiones clave como los derechos de autor.

Pero para los titulares de derechos de autor, el texto final también se quedó corto.

Las mejoras de la versión final del Código son «claramente insuficientes», asegura Özgen, al tiempo que lamenta que el texto carezca de los detalles «concretos» que lo hagan «aplicable».

Su conclusión es que el Código no hace «nada útil para ayudar a ejercer y hacer valer los derechos de los autores».

Normas sobre derechos de autor adaptadas a la IA Generativa

En el foco de la polémica entre los titulares de derechos y los creadores de IA está la cuestión de cómo se aplican las normas sobre derechos de autor a las herramientas de IA generativa, y qué pasos habría que dar después.

La Directiva sobre Derechos de Autor permite el uso de software que rastrea Internet, en sitios web y bases de datos de acceso legal, para recopilar texto e imágenes protegidos por derechos de autor para el análisis o la investigación de datos -también conocida como minería de texto y datos (TDM)-, a menos que los titulares de los derechos hayan optado activamente por que no se rastree su trabajo.

Para el grupo de presión tecnológico CCIA, la excepción de la TDM es esencial para apoyar la innovación en IA.

En ese sentido, Boniface de Champris, director de políticas de la CCIA Europa, explicó en declaraciones a Euractiv que la normativa «se ha diseñado cuidadosamente para lograr un equilibrio vital entre el fomento de la innovación y la protección de la propiedad intelectual».

Sin embargo, un estudio encargado por la Comisión de Asuntos Jurídicos del Parlamento Europeo adopta una postura muy distinta, al concluir que las normas del TDM no están pensadas para la IA generativa y «no proporcionan seguridad jurídica, transparencia ni un control efectivo de los derechos», como dice el informe.

Las dos partes están enfrentadas sobre esa cuestión, lo cual puede explicar por qué los titulares de derechos dirigen ahora su atención a un posible marco específico para los acuerdos de licencia.

Una de las mayores preocupaciones para los autores es hallar la manera de ser compensados adecuadamente por el uso de sus obras para entrenar la IA, especialmente a medida que se acelera la adopción de la IA Generativa.

Un proyecto de informe del Parlamento Europeo dirigido por el eurodiputado Axel Voss -que también negoció la Directiva sobre derechos de autor de la UE- aboga por un nuevo marco que permita cerrar acuerdos de licencia.

El informe tiene que ser analizado por otros eurodiputados antes de que pueda representar la posición oficial del Parlamento.

Sin embargo, el grupo de presión europeo de compositores y letristas ECSA se mostró satisfecho de que el proyecto de informe de Voss «rechace la aplicación de las excepciones del TDM a la IA Generativa y pida que se garantice una remuneración justa», según explicó a  Euractiv Helienne Lindvall, presidenta de ECSA.

El Ejecutivo de Bruselas debe decidir si responde al auge de la IA Generativa revisando el marco de derechos de autor de la UE (la Directiva sobre derechos de autor se revisará en 2026) y, en caso afirmativo, cómo garantizar que las nuevas normas logren el equilibrio adecuado entre el apoyo a la innovación en IA y la protección de la creatividad humana.

///

(Editado por Euractiv.com y Fernando Heller/Euractiv.es)

The post Los creadores de la UE quieren una reforma de las licencias para blindar los «derechos de autor» appeared first on Euractiv.es.

Seguir leyendo

Innovación y Tecnología

Kyndryl presenta un marco de IA Agéntica que evoluciona dinámicamente para impulsar un rendimiento empresarial mejorado

Publicado

el

Kyndryl presenta un marco de IA Agéntica

Kyndryl aprovecha sus décadas de experiencia a nivel de infraestructura para implementar un marco de trabajo de nivel empresarial con agentes de IA inteligentes que aprenden, se adaptan y evolucionan para convertir los conocimientos en acción.

El marco de IA agéntica de Kyndryl se autoorganiza, escala y ejecuta de forma segura tareas en diversos entornos de TI y flujos de trabajo complejos para aumentar la eficiencia y fomentar la innovación con impacto.

NUEVA YORK, julio de 2025 – Kyndryl , proveedor líder de servicios de tecnología empresarial de misión crítica, ha lanzado hoy Kyndryl Agentic AI Framework, un nuevo enfoque para desplegar la IA ágil para potenciar a los equipos de colaboradores. El marco de trabajo de nivel empresarial orquesta y envía un conjunto de agentes de IA especializados, autodirigidos y de autoaprendizaje que responden dinámicamente, adaptándose a entornos variables y asegurando la supervisión humana. .

El marco de referencia de Kyndryl IA agéntica permite a las empresas adoptar, implementar y escalar basado en IA agéntica, ya sea en las soluciones, en la nube o en un entorno de TI híbrido, para transformar y mejorar sus operaciones comerciales. Al implementar el Framework, Kyndryl aprovecha su experiencia en millas de implementaciones de infraestructura y su experiencia en la generación de más de 12 millones de resultados generados por IA mensualmente a través de Kyndryl Bridge. El marco combina algoritmos avanzados, autoaprendizaje, optimización y agentes de IA seguros por diseño que traducen datos complejos en información clara y comprensible.

«A medida que los clientes de todo el mundo adopten la IA agéntica para obtener una ventaja competitiva, tendrá un impacto cada vez mayor en todo el ecosistema tecnológico, incluidas las aplicaciones y los flujos de trabajo empresarial. Kyndryl se encuentra en una posición única para proporcionar una holística y centrada en la infraestructura que permita a los clientes implementar la IA con confianza en todos los sistemas de misión crítica con escalabilidad y seguridad estándar de la industria», dijo Ismail Amla, vicepresidente senior de Kyndryl Consult. «Con nuestros conocimientos únicos de Kyndryl Bridge, nuestro marco de referencia diferenciado de IA Agéntica y nuestra experiencia en la gestión de algunos de los patrimonios tecnológicos más grandes del mundo, podemos ayudar a las empresas a diseñar, implementar y ejecutar soluciones de IA Agéntica a escala, adaptadas a sus objetivos específicos de productividad empresarial e innovación».

Los clientes de todas las industrias ya están trabajando con Kyndryl para explorar y comprender cómo pueden aprovechar las sofisticadas capacidades del marco agéntico, que incluyen:

  • Un gobierno nacional que evalúa el marco de IA Agéntica de Kyndryl para una implementación a gran escala en su complejo patrimonio de TI. El gobierno tiene como objetivo mejorar las experiencias de los ciudadanos, asegurar el servicio público, garantizar el cumplimiento y reducir los riesgos regulatorios aprovechando el marco y la experiencia de Kyndryl en IA transparente y responsable. Esto empoderará a las partes interesadas del gobierno para alinear las políticas con las mejores prácticas y operar de manera eficiente en beneficio de sus electores. La capacidad permitirá a los empleados del gobierno ver información actualizada y en tiempo real sobre métricas como la congestión del tráfico, la disponibilidad de camas de hospital y la asistencia escolar.
  • Como parte de un programa de modernización en curso, una institución financiera líder está trabajando con Kyndryl Consult para evaluar cómo puede aplicar el marco de IA Agéntica de Kyndryl para introducir agentes de IA para automatizar el cumplimiento, optimizar la TI y acelerar la prestación de servicios. Al aprovechar esta solución, la institución tiene como objetivo mejorar la agilidad, fortalecer la resiliencia cibernética, cumplir con los estándares regulatorios e impulsar la innovación y la eficiencia operativa a largo plazo.

Este nuevo marco llega en un momento crítico para los líderes empresariales que no logran ver los beneficios de los casos de uso de IA. De hecho, según el Informe de Preparación de las Personas 2025 de Kyndryl , publicado recientemente, solo 4 de cada 10 líderes afirman utilizar conocimientos impulsados por la IA para mejorar la toma de decisiones o desbloquear el crecimiento empresarial. Además, solo una quinta parte de los líderes empresariales dicen que el principal caso de uso de la IA en su organización es desarrollar nuevos productos y servicios para los clientes.

El marco de IA Agéntica de Kyndryl puede ayudar a las organizaciones a implementar la IA con confianza y seguridad en mente. El marco se construyó con protocolos de cifrado estándar de la industria, principios de privacidad por diseño y seguridad de confianza cero, lo que fomenta la confianza en los procesos impulsados por IA y garantiza que las acciones de los agentes sean rastreables, interpretables y mejoradas continuamente con supervisión humana. También se puede adaptar para satisfacer las necesidades de las empresas y adaptarse a las industrias a través del aprendizaje autodirigido, lo que permite a las organizaciones aplicar el marco a una amplia gama de casos de uso y proyectos con rapidez y confianza.

Los expertos de Kyndryl Consult trabajarán estrechamente con los clientes para evaluar, diseñar, diseñar y planificar implementaciones del marco que se adaptan a los requisitos comerciales individuales de los clientes. Para obtener más información, visite: https://www.kyndryl.com/us/en/artificial-intelligence

Seguir leyendo

Más Leidas