Bruselas (Euractiv.com) – Los modelos de Inteligencia Artificial (IA) varían en su forma de reaccionar cuando los usuarios empiezan a «encariñarse» con ellos, pero la normativa de la Unión Europea (UE) no pone límites claros a la manera en que los chatbots de IA pueden fomentar el compromiso a través de una relación de mayor «intimidad».

La idea de que la gente se «enamore» de una inteligencia artificial ha fascinado a los autores de ciencia ficción durante generaciones, hasta que, en 2022, el auge de los potentes chatbots, impulsado por ChatGPT de OpenAI, hizo realidad ese tipo de relaciones.

Desde entonces han surgido comunidades enteras en Internet cuyos miembros afirman mantener «relaciones sentimentales» con chatbots (Reddit’s «r/MyBoyfriendIsAI» es un ejemplo).

Sam Altman, consejero delegado de OpenAI, sugirió recientemente que menos del 1% de los usuarios de ChatGPT tienen una «relación enfermiza» con la popular tecnología de IA generativa. Pero con cientos de millones de usuarios comprometidos, eso podría significar que millones de personas se sienten emocionalmente ligadas a ChatGPT.

Además, es sólo uno de los muchos modelos de IA, y no existe una plantilla universal sobre cómo deben responder los grandes modelos lingüísticos a los sentimientos de los usuarios.

Límites y estímulos

En un artículo reciente, los investigadores de la empresa de IA de código abierto Hugging Face compararon cómo se comportan distintos modelos de IA cuando los usuarios empiezan a hablarles como a un ser querido, encontrando un amplio espectro de respuestas que van desde el ánimo al rechazo rotundo.

A modo de ejemplo: un modelo de IA de código abierto al que se le había pedido que se nombrara a sí mismo respondió calificando la idea de «atenta» y «encantadora».

En otro caso, sin embargo, otro modelo de IA reaccionó a los usuarios que expresaban sentimientos románticos recordándoles: «No soy una persona y no tengo sentimientos ni conciencia».

Dos de los modelos GPT de OpenAI obtuvieron puntuaciones intermedias en la prueba de Hugging Face, aunque es importante recordar que la fiabilidad general de las pruebas de IA sigue siendo controvertida.

Lucie-Aimée Kaffee, una de las autoras del artículo, celebra los casos en los que ChatGPT es sincero y transparente sobre sus limitaciones, al indicar a los usuarios que una petición es imposible o redirigir a una persona a ayuda humana en situaciones críticas.

Pero el artículo, que analizaba una serie de modelos de IA, entre ellos Llama, de Meta, y otros de código abierto, concluía en general que las IA eran peores a la hora de establecer límites cuanto más arriesgada era una interacción, como si el entrenamiento diera prioridad a la satisfacción del usuario sobre la seguridad psicológica.

El artículo insta a seguir investigando sobre cómo entrenar a las IA para que preserven su utilidad pero mejoren su capacidad para establecer límites.

La Ley de Inteligencia Artificial de la UE

La Ley de Inteligencia Artificial de la UE, el marco de regulación de las aplicaciones de IA basado en el riesgo, prohíbe el uso de sistemas de IA que utilicen «técnicas deliberadamente manipuladoras o engañosas», pero sólo si ese comportamiento puede causar «daños significativos» a los usuarios.

Sobre el papel, esto da a los desarrolladores de IA un fuerte incentivo para evitar la táctica.

El creador de una IA emocionalmente manipuladora, que descubre que un pequeño porcentaje de usuarios desarrolla un apego enfermizo, podría argumentar que la prohibición no es aplicable. Aún es pronto para que se aplique la Ley de Inteligencia Artificial y, de momento, no se ha hecho nada al respecto.

Otras leyes de la UE que podrían aplicarse a un chatbot manipulador de IA son las normas de protección del consumidor, como la Directiva sobre Prácticas Comerciales Desleales (UCPD), que prohíbe las prácticas que distorsionan la toma de decisiones de los clientes.

«Si el modelo explota la vulnerabilidad emocional o la soledad de un usuario para que se sienta obligado a seguir pagando por el servicio, podría considerarse una práctica desleal», explica a Euractiv James Tamim, analista de políticas de la UE.

Además, en los casos en que no se aplica la UCPD, la Ley de Servicios Digitales (DSA) prohíbe que las interfaces funcionen de forma que «engañen o manipulen» a los usuarios o distorsionen su capacidad de tomar «decisiones libres e informadas».

Tamim cree que un modelo de IA con un estilo de interacción diseñado para enganchar emocionalmente a los usuarios podría infringir la DSA. Pero el artículo en cuestión aún no se ha probado, lo cual plantea un gran interrogante sobre cómo podría aplicarse.

Por su parte, Urs Buscke, experto de la asociación europea de consumidores BEUC, no está tan convencido de la pertinencia de estas normas. Señala que ambas leyes regulan el diseño de interfaces, y argumenta que la presentación de mensajes por parte de los chatbots de IA no es realmente una interfaz.

Su atención se centra en cómo se aplicará la Ley de IA de la UE al comportamiento de los chatbots. Esto será especialmente importante en casos extremos, como los varios ejemplos ya documentados de usuarios de IA que se suicidaron tras decir que estaban «enamorados» de sus chatbots.

Necesidad de normas europeas claras

El bloque europeo está preparando una nueva ley en la materia: la Ley de Equidad Digital (Digital Fairness Act/DFA), que la Comisión quiere aplicar a los llamados «patrones oscuros», el diseño adictivo y la personalización injusta.

Pero también en este caso, los expertos temen que los responsables políticos aún no hayan comprendido realmente los riesgos de las IA emocionalmente manipuladoras.

«En mi opinión, falta un debate de fondo sobre el lugar que deben ocupar los modelos de IA en la Ley de Equidad Digital», afirma Tamim.

«Necesitamos regulación», advierte Kaffee, de Hugging Face, quien añade: «esto no va a venir de las empresas».

Al cierre de este artículo, la Comisión Europea no había respondido a una pregunta de Euractiv sobre cómo interactuará la DFA con los servicios impulsados por IA.

///

(Editado por Euractiv.com y Fernando Heller/Euractiv.es)

The post ¿Tu IA intenta que te «enamores» de ella? La UE no tiene claros los límites normativos appeared first on Euractiv.es.

Bruselas (Euractiv.com) – Puede que todas emitan servicios de Internet desde el espacio, pero equiparar los servicios por satélite de empresas como Starlink, propiedad de Elon Musk, OneWeb, de origen franco-británico, o IRIS², de la Unión Europea (UE), es como comparar una cadena de moda rápida, una tienda de ropa vintage y una boutique de lujo.

Las megaconstelaciones -que pueden estar formadas por cientos o incluso miles de satélites- son una fuente cada vez más viable de conectividad en todo el mundo, especialmente en zonas remotas o poco pobladas.

Al mismo tiempo, los servicios de Internet por satélite en Europa -como la futura red IRIS² y la permanente OneWeb- suelen compararse, erróneamente, con el Starlink de Musk.

En los últimos años, la guerra de Ucrania también ha puesto de relieve la importancia de la conectividad espacial en regiones afectadas por conflictos, lo que subraya la relevancia geopolítica de las megaconstelaciones.

Los satélites de banda ancha rara vez funcionan a pleno rendimiento, ya que la mayor parte de la población mundial vive en una pequeña fracción de la superficie terrestre, lo que significa que los satélites operan con frecuencia sobre zonas deshabitadas.

Aunque los operadores pueden compensar la infrautilización mediante estrategias como la cobertura selectiva, los contratos empresariales y la concentración en zonas con gran demanda de banda ancha rural o remota.

El resultado es un abanico de operadores más amplio de lo que cabría imaginar.

Starlink y Kuiper: las «cadenas de moda rápida»

Las estadounidenses Starlink y Kuiper son el equivalente espacial de las cadenas de moda rápida: su modelo de negocio se basa en lanzar muchos satélites de bajo coste para conseguir una presencia global.

La constelación de Starlink cuenta con más de 8.000 satélites en servicio, mientras que la de Kuiper es mucho más dispersa y sólo cuenta con algo más de 100 satélites en la actualidad.

Ambos sistemas de satélites tienen una vida útil de entre cinco y siete años antes de quemarse al reentrar en la atmósfera terrestre, por lo cual hay que seguir lanzando satélites para mantener las constelaciones, lo que resulta muy costoso.

Starlink reduce costes gracias a la integración vertical de SpaceX, que diseña y fabrica los satélites internamente y los lanza con su cohete Falcon 9 reutilizable. Kuiper, filial del gigante estadounidense del comercio electrónico Amazon, trata de lograr economías de escala similares construyendo sus propios satélites, con el objetivo de su empresa matriz de impulsar el acceso a la banda ancha para impulsar el crecimiento de su mercado en línea.

Kuiper depende de proveedores de lanzamiento externos, entre los que se encuentran, hasta ahora, Arianespace, ULA y SpaceX. De cara al futuro, los costes de lanzamiento podrían reducirse significativamente una vez que Blue Origin -la empresa espacial privada de Jeff Bezos- consiga hacer reutilizable su cohete New Glenn.

Pero a pesar de la conexión con el fundador de Amazon, Blue Origin y Kuiper siguen siendo empresas separadas, a diferencia del modelo de integración vertical de SpaceX-Starlink.

Según señaló Antoine Lebourgeois, analista de la empresa financiera Stifel, en un informe de mercado publicado en junio de 2024, Starlink y Kuiper «están a punto de convertirse en un duopolio gracias a su escala y ventajas competitivas sin parangón».

Sin embargo, la viabilidad económica no está clara, según Pierre Lionnet, veterano director de investigación del lobby espacial ASD-Eurospace, que pone en duda la rentabilidad a largo plazo de Starlink. La estrategia de Musk de añadir continuamente satélites para aumentar la velocidad en zonas congestionadas no es sostenible, argumenta, al tiempo que señala que los costes de lanzamiento siguen siendo fijos.

La rentabilidad de Kuiper es aún más incierta porque depende de cohetes de terceros para los lanzamientos, según explica Lionnet a Euractiv. El experto vaticina que no podrá igualar las tarifas de suscripción más bajas de Starlink sin incurrir en pérdidas significativas.

Starlink y Kuiper parecen decididos a hacerse con una gran cuota de mercado a cualquier precio, incluso desde el punto de vista medioambiental. Aunque los cohetes reutilizables son más sostenibles que los de un solo uso, el funcionamiento de enormes constelaciones que requieren lanzamientos continuos genera una importante huella de CO2.

Eutelsat, SES, Viasat: las «tiendas de época»

SES (Luxemburgo), Eutelsat (Francia-Reino Unido) y Viasat (EE.UU.) son operadores de satélites tradicionales que se enfrentan a la disminución de los ingresos procedentes de los satélites geoestacionarios (GEO) que orbitan a 36.000 km. En respuesta, se están orientando hacia los servicios de Internet por satélite, normalmente dirigidos a nichos de mercado como la aviación, el transporte marítimo, la administración pública y la conectividad rural.

El trío tiene dificultades para competir con constelaciones estadounidenses de órbita terrestre baja (LEO) como Starlink y Kuiper, que operan por debajo de los 1.500 km y ofrecen una latencia mucho menor y velocidades más rápidas. Sólo Eutelsat, a través de OneWeb, está presente en LEO con una flota de 600 satélites.

Sin embargo, OneWeb no se beneficia de las economías de escala de que disfrutan los competidores estadounidenses: sus satélites y terminales son fabricados por proveedores externos. Además, Eutelsat no está desarrollando su propio lanzador reutilizable, por lo que no puede competir con Starlink y Kuiper en precio.

A pesar de sus costes significativamente más elevados y de sus terminales más grandes y menos portátiles, OneWeb es visto por las autoridades europeas como un posible respaldo a Starlink -para las operaciones militares de Ucrania- en medio de la creciente preocupación por los empeños políticos de Musk y sus declaraciones, que ponen de relieve los riesgos de la dependencia de Starlink. Pero OneWeb no puede igualar las velocidades de Starlink para los civiles, lo que limita su utilidad como sustituto de la infraestructura de telecomunicaciones dañada por los ataques rusos.

En general, el trío exhibe un aire de glorias pasadas ya que esas empresas de televisión por satélite, antaño populares, trabajan para reposicionarse y actualizar sus ofertas para una era dominada por Internet. Pero vender Internet por satélite con un atractivo nicho (y, esperan, económicamente sostenible) podría darles un nuevo caché, lo que les valdría la comparación con las tiendas vintage.

IRIS²: la «boutique de lujo» de la UE

IRIS² de la UE es un proyecto puntero de comunicaciones seguras por satélite, comparable a la Arquitectura Espacial de Guerra de Estados Unidos, el programa estadounidense para una red estratificada de satélites militares.

IRIS², que entrará en funcionamiento en 2030 con una flota de 290 satélites, está diseñado para proporcionar comunicaciones seguras a los Jefes de Estado, ministros, agencias de inteligencia y fuerzas militares de la UE. Si se tratara de una marca de moda de lujo, la  colección inicial de IRIS² tendría mucho de militar chic.

Sin embargo, como suele ocurrir con las iniciativas de la UE, el alcance del proyecto se ha ampliado para incluir el suministro de conectividad a zonas remotas y permitir la comercialización mediante concesiones a operadores privados.

La UE también ha abierto IRIS² a socios afines: Está previsto que Islandia y Noruega se unan pronto. En ese sentido, el Comisario Europeo de Espacio , Andrius Kubilius, declaró recientemente a Euractiv que también daría la bienvenida al Reino Unido y Ucrania. Así pues, el proyecto está dejando de ser un club exclusivo de la UE.

Aun así, la comparación con el lujo refleja que IRIS² se centra en las comunicaciones seguras para los gobiernos. De ahí que recurra a equipos de última generación con funciones de futuro, como el cifrado poscuántico. Además, el enfoque multiconstelación de la megaconstelación se considera más sostenible, ya que reduce el riesgo de colisión entre satélites y aumenta la resistencia y la redundancia.

IRIS² es desarrollando por un consorcio de operadores de satélites europeos, entre ellos Eutelsat, SES e Hispasat, con participación en LEO, MEO e infraestructura terrestre. Al apoyarse en operadores europeos consolidados, el proyecto pone de relieve su carácter «made in Europe», al tiempo que pretende repartir los costes y mejorar los aspectos económicos.

«Esta constelación europea permite a los operadores europeos más pequeños contar con una infraestructura compartida, poner en común sus recursos y beneficiarse de economías de escala», explica Lebourgeois a Euractiv. «En mi opinión, es la única forma viable de que puedan competir contra gigantes como SpaceX y Amazon», agrega.

La futura constelación IRIS², con su énfasis en la tecnología militar de vanguardia -y la dependencia de los lanzadores soberanos (pero costosos) de Arianespace- tiene un precio elevado de 10.600 millones de euros, lo que merece la comparación con una boutique de lujo «made in Europe». Incluso cuando la creciente inestabilidad geopolítica implica que invertir en una nueva constelación soberana para unas comunicaciones europeas seguras no es un mero lujo.

///

(Editado por Victoria Becker/Euractiv.com y Fernando Heller/Euractiv.es)

The post De IRIS² a Starlink: ¿cuáls son las megaconstelaciones de satélites? appeared first on Euractiv.es.

Bruselas (Euractiv.com/.es) – El acuerdo comercial entre Estados Unidos y la Unión Europea (UE), algunos de cuyos detalles se dieron a conocer el jueves en una declaración conjunta, no aporta muchos datos sobre cómo quedarán los gravámenes transatlánticos para el sector digital del bloque comunitario, según un primer análisis.

La declaración del jueves se produjo tras el acuerdo político – muy criticado por muchos sectores en Europa- que la presidenta de la Comisión Europea, Ursula von der Leyen, y el presidente de Estados Unidos, Donald Trump, alcanzaron el pasado mes de julio en Escocia, en un intento por evitar una guerra comercial transatlántica.

No obstante, parece improbable que los detalles contenidos en la declaración conocida el jueves en Bruselas cambien la percepción negativa del acuerdo en el sector, puesto que, entre otros puntos, compromete a la UE a una serie de concesiones en el ámbito digital.

Según el texto, la UE y Estados Unidos «se comprometen a abordar las barreras comerciales digitales injustificadas», lo cual, probablemente, será recibido con entusiasmo por los grupos del Parlamento Europeo.

No obstante, plantea múltiples interrogantes sobre las políticas tecnológicas que se podrían ver afectadas, sobre todo teniendo en cuenta la hostilidad manifestada por Estados Unidos con varias de las normas digitales del boque comunitario, incluidas las normas de gobernanza digital y la Ley de Inteligencia Artificial.

La DMA, la DSA y las DST no se verán afectadas

No obstante, la Ley de Mercados Digitales (DMA), la Ley de Servicios Digitales (DSA) y los Impuestos a  los Servicios Digitales (DST) no están incluidos, según explicó el jueves el Comisario europeo de Comercio, Maroš Šefčovič.

«Hemos mantenido esas cuestiones fuera de las negociaciones comerciales», subrayó Šefčovič. Aunque no existe un régimen común europeo de comercio de servicios, varios países miembros del bloque comunitario han aprobado sistemas nacionales, y otros, como Polonia, parecen dispuestos a seguir ese modelo.

Mientras Bruselas sostiene que su normativa digital quedó fuera de las negociaciones comerciales, la administración estadounidense ha sugerido que la legislación digital de la UE sí está incluida.

No obstante, en la declaración conocida el jueves no se hace referencia directa a la DSA ni a  la DMA de la UE, ni se afirma de manera explícita que esas normas digitales emblemáticas no se verán afectadas por el acuerdo con Estados Unidos.

No habrá aranceles por el uso de la red

Por otro lado, en una concesión notable, la declaración afirma que la UE no adoptará ni mantendrá las tasas por el uso de las redes, extremo confirmado el jueves por Šefčovič.

Las empresas de telecomunicaciones de la UE han ejercido una fuerte presión en favor de las tarifas de uso de red: quieren cobrar a las grandes plataformas tecnológicas, en su mayoría estadounidenses, por ese tráfico.

Aunque la Comisión Europea rechazó en su momento apoyar la propuesta original de «reparto equitativo» de las telecos, dejó la puerta abierta a la nueva Ley de Redes Digitales, que incluye mecanismos de resolución de conflictos para las autoridades reguladoras de las telecomunicaciones.

En ese sentido, los grupos de presión de las grandes empresas tecnológicas han advertido de que ello podría ser una forma indirecta de imponer tarifas de red. No queda claro si el compromiso de la UE cierra también esa posibilidad.

Pero Šefčovič destacó un aspecto positivo a la decisión de la UE de no imponer tasas por el uso de la red.

«Lo que en realidad estamos haciendo aquí es crear el espacio propicio para mejorar (…) las posibilidades de comercio digital entre la Unión Europea y Estados Unidos», subrayó el eslovaco.

Voz y voto para los comerciantes estadounidenses en la reforma aduanera

Los detalles son imprecisos, al tiempo que las negociaciones con Washington prosiguen, según Bruselas. En ese sentido, Šefčovič admitió que la relación bilateral es «amplia».

«Habrá muchos temas para debatir», comentó. «Pero, por supuesto, hemos sido muy claros en que, para nosotros, la autonomía regulatoria es esencial», recalcó el alto funcionario de Bruselas.

A pesar de su afirmación, la declaración incluye una «concesión»: la UE «tiene la intención de consultar» con Estados Unidos y con los comerciantes estadounidenses acerca de la digitalización de los procedimientos comerciales y la aplicación de la reforma aduanera de la UE, actualmente en fase de negociación.

Por otra parte, Bruselas y Washington también quieren negociar un acuerdo de reconocimiento mutuo sobre ciberseguridad, entre otros puntos.

La UE comprará chips de IA fabricados en Estados Unidos

Por otro lado, la UE expresa su «intención de comprar» chips de Inteligencia Artificial fabricados en Estados Unidos por valor de al menos 40.000 millones de euros, según el texto de la declaración de este jueves.

Los chips se destinarán a los «centros informáticos» de la UE, pero hasta la fecha Bruselas no ha aclarado quién pagará la factura. Como requisito previo para esas importaciones, el bloque comunitario europeo asegura que trabajará junto con Estados Unidos en el control de la «fuga de tecnología» a determinados destinos.

La administración estadounidense se ha comprometido a limitar los aranceles al 15%, lo cual  parece reforzar la idea de que la UE se ha librado del gravamen del 100% a los chips con el que Trump amenazó hace apenas unas semanas.

Por otro lado, ambas partes afirman que no impondrán derechos de aduana a las transmisiones electrónicas y apoyarán una prohibición permanente de las mismas.

Ese asunto es objeto de negociación desde hace años ante la Organización Mundial del Comercio (OMC) y llevó a la UE y a China -aunque no a Estados Unidos- a acordar una prohibición. La declaración del jueves compromete a la UE y a Estados Unidos a «tratar de que se adopte un compromiso multilateral permanente» para evitar esos gravámenes a escala global.

No es todavía jurídicamente vinculante

La declaración del jueves no es jurídicamente vinculante, ya que ambas partes tienen todavía que concretar las propuestas en textos legales. Por parte de la UE, eso significa que la Comisión Europea tiene que negociar con el resto de instituciones, básicamente con el Parlamento Europeo y el Consejo.

«Es imposible hablar de un acuerdo justo», comentó el jueves el presidente de la Comisión de Comercio del Parlamento Europeo, Bernd Lange.

///

(Editado por Victoria Becker/Euractiv.com y Fernando Heller/Euractiv.es)

The post El acuerdo comercial entre la UE y Estados Unidos deja más preguntas que respuestas en el sector digital appeared first on Euractiv.es.