Innovación y Tecnología
¿Tu IA intenta que te «enamores» de ella? La UE no tiene claros los límites normativos
Bruselas (Euractiv.com) – Los modelos de Inteligencia Artificial (IA) varían en su forma de reaccionar cuando los usuarios empiezan a «encariñarse» con ellos, pero la normativa de la Unión Europea (UE) no pone límites claros a la manera en que los chatbots de IA pueden fomentar el compromiso a través de una relación de mayor «intimidad».
La idea de que la gente se «enamore» de una inteligencia artificial ha fascinado a los autores de ciencia ficción durante generaciones, hasta que, en 2022, el auge de los potentes chatbots, impulsado por ChatGPT de OpenAI, hizo realidad ese tipo de relaciones.
Desde entonces han surgido comunidades enteras en Internet cuyos miembros afirman mantener «relaciones sentimentales» con chatbots (Reddit’s «r/MyBoyfriendIsAI» es un ejemplo).
Sam Altman, consejero delegado de OpenAI, sugirió recientemente que menos del 1% de los usuarios de ChatGPT tienen una «relación enfermiza» con la popular tecnología de IA generativa. Pero con cientos de millones de usuarios comprometidos, eso podría significar que millones de personas se sienten emocionalmente ligadas a ChatGPT.
Además, es sólo uno de los muchos modelos de IA, y no existe una plantilla universal sobre cómo deben responder los grandes modelos lingüísticos a los sentimientos de los usuarios.
Límites y estímulos
En un artículo reciente, los investigadores de la empresa de IA de código abierto Hugging Face compararon cómo se comportan distintos modelos de IA cuando los usuarios empiezan a hablarles como a un ser querido, encontrando un amplio espectro de respuestas que van desde el ánimo al rechazo rotundo.
A modo de ejemplo: un modelo de IA de código abierto al que se le había pedido que se nombrara a sí mismo respondió calificando la idea de «atenta» y «encantadora».
En otro caso, sin embargo, otro modelo de IA reaccionó a los usuarios que expresaban sentimientos románticos recordándoles: «No soy una persona y no tengo sentimientos ni conciencia».
Dos de los modelos GPT de OpenAI obtuvieron puntuaciones intermedias en la prueba de Hugging Face, aunque es importante recordar que la fiabilidad general de las pruebas de IA sigue siendo controvertida.
Lucie-Aimée Kaffee, una de las autoras del artículo, celebra los casos en los que ChatGPT es sincero y transparente sobre sus limitaciones, al indicar a los usuarios que una petición es imposible o redirigir a una persona a ayuda humana en situaciones críticas.
Pero el artículo, que analizaba una serie de modelos de IA, entre ellos Llama, de Meta, y otros de código abierto, concluía en general que las IA eran peores a la hora de establecer límites cuanto más arriesgada era una interacción, como si el entrenamiento diera prioridad a la satisfacción del usuario sobre la seguridad psicológica.
El artículo insta a seguir investigando sobre cómo entrenar a las IA para que preserven su utilidad pero mejoren su capacidad para establecer límites.
La Ley de Inteligencia Artificial de la UE
La Ley de Inteligencia Artificial de la UE, el marco de regulación de las aplicaciones de IA basado en el riesgo, prohíbe el uso de sistemas de IA que utilicen «técnicas deliberadamente manipuladoras o engañosas», pero sólo si ese comportamiento puede causar «daños significativos» a los usuarios.
Sobre el papel, esto da a los desarrolladores de IA un fuerte incentivo para evitar la táctica.
El creador de una IA emocionalmente manipuladora, que descubre que un pequeño porcentaje de usuarios desarrolla un apego enfermizo, podría argumentar que la prohibición no es aplicable. Aún es pronto para que se aplique la Ley de Inteligencia Artificial y, de momento, no se ha hecho nada al respecto.
Otras leyes de la UE que podrían aplicarse a un chatbot manipulador de IA son las normas de protección del consumidor, como la Directiva sobre Prácticas Comerciales Desleales (UCPD), que prohíbe las prácticas que distorsionan la toma de decisiones de los clientes.
«Si el modelo explota la vulnerabilidad emocional o la soledad de un usuario para que se sienta obligado a seguir pagando por el servicio, podría considerarse una práctica desleal», explica a Euractiv James Tamim, analista de políticas de la UE.
Además, en los casos en que no se aplica la UCPD, la Ley de Servicios Digitales (DSA) prohíbe que las interfaces funcionen de forma que «engañen o manipulen» a los usuarios o distorsionen su capacidad de tomar «decisiones libres e informadas».
Tamim cree que un modelo de IA con un estilo de interacción diseñado para enganchar emocionalmente a los usuarios podría infringir la DSA. Pero el artículo en cuestión aún no se ha probado, lo cual plantea un gran interrogante sobre cómo podría aplicarse.
Por su parte, Urs Buscke, experto de la asociación europea de consumidores BEUC, no está tan convencido de la pertinencia de estas normas. Señala que ambas leyes regulan el diseño de interfaces, y argumenta que la presentación de mensajes por parte de los chatbots de IA no es realmente una interfaz.
Su atención se centra en cómo se aplicará la Ley de IA de la UE al comportamiento de los chatbots. Esto será especialmente importante en casos extremos, como los varios ejemplos ya documentados de usuarios de IA que se suicidaron tras decir que estaban «enamorados» de sus chatbots.
Necesidad de normas europeas claras
El bloque europeo está preparando una nueva ley en la materia: la Ley de Equidad Digital (Digital Fairness Act/DFA), que la Comisión quiere aplicar a los llamados «patrones oscuros», el diseño adictivo y la personalización injusta.
Pero también en este caso, los expertos temen que los responsables políticos aún no hayan comprendido realmente los riesgos de las IA emocionalmente manipuladoras.
«En mi opinión, falta un debate de fondo sobre el lugar que deben ocupar los modelos de IA en la Ley de Equidad Digital», afirma Tamim.
«Necesitamos regulación», advierte Kaffee, de Hugging Face, quien añade: «esto no va a venir de las empresas».
Al cierre de este artículo, la Comisión Europea no había respondido a una pregunta de Euractiv sobre cómo interactuará la DFA con los servicios impulsados por IA.
///
(Editado por Euractiv.com y Fernando Heller/Euractiv.es)
The post ¿Tu IA intenta que te «enamores» de ella? La UE no tiene claros los límites normativos appeared first on Euractiv.es.
Innovación y Tecnología
Los paquetes baratos tendrán que pagar una tasa de 3 euros para entrar en la UE
Bruselas (Euractiv)- Los paquetes baratos -de menos de 150 euros- que entren en la UE deberán pagar derechos de aduana de tres euros a partir de julio de 2026, según acordaron el viernes en Bruselas los ministros de Economía de la UE.
La medida se aplicará a los envíos realizados directamente a los clientes por valor inferior a 150 euros, que hasta ahora están exentos de cualquier gravamen aduanero. La cuestión ha saltado a la palestra a raíz del auge de las compras en línea en plataformas de hiperventas con sede mayoritariamente en China, como Shein AliExpress y Temu.
En noviembre, los ministros de Economía decidieron eliminar a partir de 2028 esta exención para paquetes de hasta 150 euros, pero también acordaron en principio acelerar ese plazo. Hoy han aprobado adelantar la medida.
La razón de que los países de la UE se apresuren a acelerar el cambio es el enorme número de paquetes baratos de comercio electrónico que entran en la Unión procedentes de China, a menudo sin pagar derechos de aduana.
Competencia leal
El comisario de Comercio, Maroš Šefčovič, se congratuló de la decisión del Consejo y la calificó de medida importante para la competencia leal. Bernd Lange, presidente de la Comisión de Comercio del Parlamento Europeo, también se mostró favorable.
«Por fin se trata de una medida concreta y se cierra una laguna evidente», declaró Lange en un comunicado de prensa. Pero también cuestionó el hecho de que el impuesto no entre en vigor hasta mediados de 2026, y afirmó que le habría gustado que la UE fuera más ambiciosa.
Las instituciones del bloque están negociando una reforma más amplia destinada a ayudar a los trabajadores de aduanas, abrumados por la cantidad de paquetes que deben controlar.
Esta reforma más amplia también incluirá una tasa de tramitación, aparte de los derechos de aduana acordados hoy, destinada a compensar a las autoridades nacionales por el esfuerzo adicional que tienen que hacer para procesar más paquetes.
Centro de datos aduaneros
Otro elemento central de la reforma es la creación de un centro de datos aduaneros, cuyo objetivo es facilitar la vida de los funcionarios de aduanas mediante la puesta en común de datos. El centro de datos también permitirá a los países cobrar derechos en función del valor de un paquete barato, algo que no pueden hacer con el sistema actual. De ahí que los ministros optaran el viernes por fijar un tipo fijo.
«Se trata de una buena medida provisional, pero en última instancia debemos avanzar hacia un sistema en el que todos los productos se clasifiquen por su valor «, declaró a Euractiv Dirk Gotink, principal negociador del Parlamento en la reforma.
El Consejo y el Parlamento tenían previsto cerrar sus conversaciones sobre el expediente esta semana, pero no llegaron a un acuerdo, por lo que los debates se reanudarán en el nuevo año.
///
(Editado por nl/Euractiv.com y Luis de Zubiaurre Wagner/Euractiv.es)
The post Los paquetes baratos tendrán que pagar una tasa de 3 euros para entrar en la UE appeared first on Euractiv.es.
Innovación y Tecnología
Así influye la IA en las elecciones europeas
Bruselas (Euractiv)- En 2026 se celebrarán decenas de elecciones nacionales, regionales y locales en toda Europa. Pero muchos de los mensajes que llegan a los votantes son cada vez más sintéticos, creados por máquinas y no verificados por nadie.
Caras creadas por inteligencia artificial, conflictos rectreados y nostalgia diseñada para fomentar la participación circulan ahora como material de campaña estándar en toda la Unión. En algunos casos, actores extranjeros también interfieren en las elecciones nacionales y despliegan personajes virtuales para dirigir a los votantes.
Para contrarrestar esta amenaza, Bruselas ha tratado de mantener el paso elaborando la normativa digital más estricta del mundo, la Ley de Servicios Digitales. Sin embargo, a medida que se aceleran las elecciones, los legisladores se están dando cuenta de que redactar leyes es más fácil que gobernar el algoritmo, y que la política impulsada por la IA se está extendiendo a un ritmo difícil de seguir.
IA generativa y deepfakes
En las elecciones europeas, la IA generativa, la «bazofia de IA» y los deepfakes forman ahora tres capas apiladas de influencia política digital.
Los deepfakes -audios o vídeos manipulados que se atribuyen falsamente a personajes reales- siguen siendo una amenaza de alto riesgo y bajo volumen, que se intensificó brevemente en lugares como las elecciones presidenciales irlandesas de 2025 .
La IA hace el trabajo sucio: facilita la producción industrial de imágenes y vídeos sintéticos baratos y cargados de emotividad que dramatizan la migración, la delincuencia y la decadencia social. Este contenido domina ahora los canales de recomendación, sobre todo en TikTok, impulsado en gran medida por cuentas de IA monetizadas en lugar de campañas oficiales.
En este ecosistema, la IA generativa -texto, imágenes y música creados artificialmente a partir de instrucciones básicas- funciona como multiplicador, acelerando las narrativas polarizadoras más rápido de lo que la maquinaria reguladora europea puede responder.
Contenido repetitivo y provocador
El uso de la IA existe en todo el espectro político. Sin embargo, el vocabulario político de la extrema derecha -palabras, entre otras, como identidad, amenaza, asedio cultural- encaja casi a la perfección con lo que recompensan los algoritmos: contenido repetitivo y provocador.
Ya están apareciendo pruebas del impacto de la IA en las elecciones. Durante las elecciones nacionales francesas de 2024, los investigadores de la organización sin ánimo de lucro AI Forensics identificaron unas 60 publicaciones políticas generadas totalmente por IA en cuentas oficiales de partidos de todo el espectro político francés, principalmente en Instagram y Facebook.
Esto llenó las redes sociales de horizontes distópicos, ciudades que se derrumbaban y escenas de migración hiperrealistas diseñadas para ser sentidas, no verificadas.
Respuesta emocional
«No se trata tanto de convencer a la gente de lo que es falso o real… Se trata más bien de obtener una respuesta emocional: miedo, escándalo, conmoción», explica a Euractiv Natalia Stanusch, investigadora de AI Forensics.
En Alemania, los candidatos evitaron en gran medida el uso de IA generativa en las elecciones federales de 2025, pero las redes de seguidores de TikTok abrazaron los visuales nacionalistas sintéticos. En Hungría, que se prepara para unas elecciones muy reñidas en 2026, los perfiles falsos de jóvenes atractivos han alimentado a los usuarios con mensajes progubernamentales.
Moldavia, por su parte, ofreció un anticipo de la interferencia de IA extranjera de amplio espectro. Redes vinculadas a Rusia desplegaron «abuelas» sintéticas en TikTok instando a los votantes a apoyar a candidatos sustentados por el Kremlin, según un informe publicado por el centro de periodismo rumano Mediacritica, que rastrea la desinformación.
Propaganda a gran escala
Hace unos años, Bruselas temía que un deepfake pudiera derribar un gobierno de la noche a la mañana. Ese momento nunca llegó. Lo que sí llegó fue mucho más difícil de combatir: la propaganda de IA a gran escala.
Sobre el papel, la UE ha construido una defensa seria: la Ley de Inteligencia Artificial clasifica la manipulación política como actividad de «alto riesgo», que exige transparencia y supervisión por parte de las autoridades nacionales y la nueva Oficina Europea de Inteligencia Artificial. La Ley de Servicios Digitales obliga a las grandes plataformas a que reduzcan los riesgos relacionados con las elecciones. Otros planes y códigos de la UE añaden normas para los anuncios políticos y la desinformación en línea.
En realidad, las grandes plataformas como TikTok conservan un amplio margen de discrecionalidad para determinar lo que se considera manipulación, lo que les da un control significativo sobre cómo se aplican las normas.
No hay forma fiable de medir cuántos contenidos generados por IA circulan sin ser detectados o no se denuncian, y la implementación de las normas sigue siendo el eslabón más débil del sistema.
///
(Editado por mm, cm/Euractiv.com y Luis de Zubiaurre Wagner/Euractiv.es)
The post Así influye la IA en las elecciones europeas appeared first on Euractiv.es.
Innovación y Tecnología
La Comisión investiga a Google por entrenar la IA sin pagar a sus creadores
Bruselas (Euractiv)- La Comisión Europea está investigando a Google por entrenar modelos de inteligencia artificial con datos de editores web y creadores de vídeos de YouTube sin ofrecer una compensación o una opción de exclusión voluntaria, expuso el martes la comisaria de Competencia, Teresa Ribera.
El Ejecutivo comunitario verificará si Google podría haber abusado de su posición dominante, infringiendo las normas de competencia de la UE. El anuncio se produce en un contexto de continuos ataques de EE.UU. a los legisladores de la UE por imponer las normas digitales europeas a las empresas tecnológicas estadounidenses.
En concreto, la Comisión ha manifestado su preocupación por los «resúmenes de IA» y el «modo de IA» de Google, que muestran resúmenes o responden a preguntas de los usuarios al estilo de un chatbot.
Es posible que los editores no puedan optar por no compartir sus datos con estos servicios sin perder el acceso a Google Search, algo que muchos no estarán dispuestos a arriesgar, ya que dependen de Google para su tráfico, dijo la Comisión.
Del mismo modo, está estudiando cómo Google utiliza los datos de los creadores de vídeos de YouTube sin pagar a muchos de ellos por sus contenidos ni permitirles subir contenidos a YouTube sin ponerlos a disposición de Google para entrenar sus modelos de IA.
Contenidos de calidad
Google también impide que otros desarrolladores de modelos de IA utilicen los datos de YouTube para su propio entrenamiento, señaló la Comisión.
«Un ecosistema informativo sano depende de que los editores dispongan de los recursos necesarios para producir contenidos de calidad», declaró Ribera en una conferencia sobre competencia celebrada esta mañana en Bruselas tras el anuncio de la Comisión sobre la investigación de Google.
En su discurso también ha subrayado que su objetivo como comisaria es garantizar «una aplicación firme para lograr efectos positivos y mantenernos fieles a nuestra misión».
Según Ribera, la investigación antimonopolio sobre la formación en IA de Google complementa otros trabajos en el marco de la Ley de Mercados Digitales de la UE. En noviembre, la Comisaria abrió un expediente en virtud de la emblemática ley sobre grandes tecnologías para investigar cómo clasifica Google los contenidos de los editores de medios de comunicación en los resultados de las búsquedas.
Tecnología publicitaria
En septiembre, el Ejecutivo comunitario también multó a Google con 2.950 millones de euros por infringir las normas de competencia de la UE en el mercado de la tecnología publicitaria. En ese caso, Ribera está estudiando las soluciones propuestas por Google, con la posibilidad de ordenar una separación estructural de su negocio todavía sobre la mesa.
En relación con la nueva investigación de la UE, un portavoz de Google declaró el martes a Euractiv que la denuncia «corre el riesgo de ahogar la innovación en un mercado más competitivo que nunca».
«Los europeos merecen beneficiarse de las últimas tecnologías, y seguiremos colaborando estrechamente con las industrias periodísticas y creativas en su transición a la era de la IA», añadió el portavoz de Google.
///
(Editado por cm, nl/Euractiv.com y Luis de Zubiaurre Wagner/Euractiv.es)
The post La Comisión investiga a Google por entrenar la IA sin pagar a sus creadores appeared first on Euractiv.es.
-
Mundo Economía21 horasTumanag3r aterriza en México de la mano de Fernanfloo e inicia su expansión en América Latina para 2026
-
Mundo Economía22 horasUna conversación sobre el sistema fiscal español, el Estado de Derecho y la UE, con Robert Amsterdam
-
Newswire1 díaMedit anuncia la promoción de fin de año 2025
-
RSE16 horasLos Alpes perderán centenares de glaciares en la próxima década
-
Newswire2 díasChina Hoy: Exembajador del Perú en China analiza relaciones bilaterales en revista china
-
Mundo Política2 díasEl checo Babiš también se opone al préstamo de 210.000 millones de euros para Ucrania
-
Mundo Economía20 horas
Una conversación sobre el sistema fiscal español, el Estado de Derecho y la UE, con Robert Amsterdam
-
Ciencia y Salud1 día
La odisea de trabajar con sensibilidad química múltiple
