Europa será la primera potencia mundial en tener su propia ley sobre Inteligencia Artificial. A raíz de la propuesta de la Comisión Europea sobre IA, el Parlamento Europeo ha decidido recoger el testigo y aprobar su postura sobre el 'Informe sobre Inteligencia Artificial en la Era Digital' que marcará las líneas maestras que tendrá esta pionera legislación.
Europa se pone de acuerdo en cómo se debe regular la IA. No ha sido fácil. Han hecho falta 18 meses de trabajo y decenas de seminarios y conferencias para poner de acuerdo a los eurodiputados de los distintos grupos políticos. Y todavía hay matices, como la regulación del reconocimiento facial, donde la votación ha sido ajustada. La razón no es otra que la complejidad de la propia tecnología de Inteligencia Artificial.
Europa quiere por un lado impulsar la industria basada en la IA, pero por otro lado son conscientes de los enormes riesgos y desafíos que conlleva. Conseguir un acuerdo equilibrado, capaz de recoger estos dos puntos que parecen casi antagónicos ha sido uno de los principales obstáculos.
A falta de grandes empresas, Europa toma la iniciativa mundial en el ámbito legal. "La Inteligencia Artificial tiene una relevancia estratégica. Con esta nueva legislación, Europa es pionera y marca la pauta de las normas globales", ha explicado Axel Voss, ponente alemán y responsable de llevar a cabo esta iniciativa.
Desde Europa son conscientes que hace falta mucha inversión para alcanzar el nivel de EE.UU o China en IA, pero sí se muestran orgullosos de sentar unas bases concretas para intentar lograr que los sistemas con IA que haya en Europa sean bajo determinadas reglas. Y también bajo la esperanza de que, gracias a este marco legal, muchas empresas se sientan cómodas desarrollando nuevas IAs.
Hasta 20.000 millones de euros de inversión al año. Según ha explicado Margrethe Vestager, Comisaria de Competencia, el objetivo es pasar a unos 20.000 millones de euros de inversión anual público-privada. Actualmente se invierten entre 12 y 14.000 millones de euros. Y si tenemos en cuenta únicamente el dinero público, se invierten unos 1.000 millones de euros en Europa, lejos de los 5.100 millones de EEUU o los 6.800 millones de euros en China.
Un humano detrás de los sistemas de IA más susceptibles. "La IA no debe darnos miedo, pero sí girar alrededor del ser humano", defiende Axel Voss. La legislación acordada contará con mecanismos específicos de supervisión humana en los casos de riesgo. Es decir, en sectores especialmente sensibles como los de salud, educación o movilidad, donde los sesgos del algoritmo podrían llevar a discriminación, será un humano el que pueda intervenir en el sistema para paliar estos sesgos en tomas de decisiones que puedan afectar a la población de manera muy importante.
Pongamos el caso de diagnósticos mediante IA, servicios públicos, reclutamiento de personal o inmigración. En estos ámbitos que las distintas instituciones de la Unión Europea consideran de "alto riesgo" se establecerán varias obligaciones, como un análisis de riesgos, trazabilidad de resultados, documentación detallada, supervisión humana y un alto nivel de robustez.
Las IAs quedarán diferenciadas en función del riesgo. La legislación propuesta por la Comisión y en la que se basa el informe del Parlamento diferenciará las IA no en función de su sector o la tecnología utilizada, sino en función del riesgo que puedan afectar a derechos fundamentales, como la no discriminación o la privacidad.
Lilian Edwards, profesora de Derecho e Innovación en la Universidad Newcastle.
El primer nivel será el de riesgo inadmisible, aquellos que supongan una amenaza para la seguridad. Estos deberían quedar prohibidos según la propuesta. Aquí se incluyen desde sistemas que fomenten un comportamiento peligroso en menores hasta sistemas de "puntuación social" por parte de los gobiernos. Ha habido debate sobre si los sistemas de reconocimiento biométrico se incluirán aquí, pero la votación final es que no se incluya una prohibición generalizada.
No hay grandes prohibiciones (tampoco al reconocimiento facial). Salvo los casos más extremos, el Parlamento Europeo ha decidido apostar por una legislación más pragmática. Con la idea de seguir dando aire a esta tecnología, no habrá grandes prohibiciones. Europa ha querido evitar por el momento enviar un mensaje negativo.
El caso del reconocimiento facial era uno de los más debatidos y las enmiendas relacionadas con este asunto han sido las que han recibido más votos, aunque ninguna de ellas ha sido implementada. La Comisión estableció una categoría especial para ello, quedando prohibido su uso pero únicamente en zonas públicas y en directo. Sin embargo, se añadieron excepciones como en los casos de búsqueda de un niño desaparecido, prevenir una amenaza terrorista específica e inminente o para "detectar, localizar, identificar o enjuiciar a un perpetrador o sospechoso de un delito grave".
„We do not suggest to regulate the technology but to regulate the use of the technology“ - very important point by @vestager that could not be stressed enough. Straight out bans do not follow this logic 😉
— Axel Voss MdEP (@AxelVossMdEP) May 3, 2022
Miapetra Kumpula-Natri, eurodiputada socialista, ha explicado que "no podemos centrarnos en tecnologías específicas. Hay que encontrar un punto de equilibrio político y evitar una frustración futura al ver la IA evolucionar". Esta combinación entre una visión impulsadora y una visión moderadora es lo que ha permitido que el Parlamento Europeo se haya puesto de acuerdo. Si bien, desde algunos grupos parlamentarios siguen queriendo impulsar una legislación más restrictiva respecto a los usos del reconocimiento facial.
La falta de control sobre las IAs convertidas en armas genera votos en contra. El grupo The Left ha decidido votar en contra. Barrena Arza, eurodiputado vasco, ha explicado que el acuerdo "carece de puntos como un serio análisis de riesgos; una colaboración real a nivel multinacional y no se ha prohibido ni el reconocimiento facial ni las armas con IA".
Europa busca crear un equivalente al RGPD pero para la IA. El Reglamento General de Protección de Datos se considera un referente en las instituciones europeas. Mientras que entonces se crearon las reglas para trabajar con nuestros datos, ahora se está mirando cómo construir un reglamento con la vista puesta hasta 2030 y que establezca las normas sobre el impacto de los algoritmos, qué limitaciones tendrán y quién debe hacerse responsable.
Según la Comisión, las empresas o proveedores de estos sistemas de IA que no cumplan con la legislación se expondrán a multas de hasta un 6% de sus ingresos globales anuales, el mismo porcentaje que el RGPD y ligeramente superior al 4% que inicialmente se propuso.
El texto legal final todavía tiene camino por delante. Si algo tienen las instituciones europeas es que se deben pasar por varios procesos y debates antes de llegar a la implementación final. Con la legislación de la Inteligencia Artificial estamos todavía ante una primera fase, de estudio sobre los conceptos que deben ser relevantes.
La Comisión fue la primera en proponer regular la IA, pero el Parlamento Europeo es el único organismo donde los representantes han sido votados por la ciudadanía. Y por tanto debe ser ahí donde se aprueban las iniciativas ha tomar. Después de estudiar el informe durante un año y medio, el Parlamento ha aprobado hoy que la Inteligencia Artificial merece una ley propia y esta debe adecuarse a determinados valores europeos. Pocos países, salvo Finlandia o España, tienen iniciativas gubernamentales alrededor de la IA, pero no entran en el marco legal.
El siguiente paso. La Comisión Europea ahora propondrá una legislación concreta, la AI Act, lo que debería ocurrir hacia finales de septiembre de 2022. Una propuesta que volverá a manos del Parlamento y que para principios de 2023 debería quedar aprobada definitivamente. Tras un corto periodo, habitualmente de 6 meses, esta debería quedar implementada sin necesidad de pasar por transposiciones en cada país al tener rango de Reglamento. Será entonces cuando la Unión Europea pueda presumir de tener la primera legislación sobre Inteligencia Artificial del mundo. Hasta entonces, faltan muchos debates por cerrar.
Ver 18 comentarios
18 comentarios
pableras
Europa será pionera en legislar. También es pionera en lo desesperante que es su burrocracia. Y pioneros también en el más absoluto y absurdo y ridículo.
Y ya. Porque pionera en tecnología como que no.
Ah! Y que las "inteligencias artificiales" no tienen sesgos, si están bien construidas solo se basan en datos. Si resulta que los pelirrojos son más propensos a cometer delitos esto no es sesgo, ni discriminación, ni es un ataque contra los pelirrojos. Simplemente son datos.
Si es que unión europea, legislación y discriminación en la misma frase produce escalofríos.
enmadrid
A ver ¿dónde estará el nuevo nido de funcionarios?
Usuario desactivado
Europa es pionera en legislacion. Sobre transgenicos, reproduccion asistida, derecho a la intimidad. El problema es que las leyes quedan sin sentido debido al avance tecnico. Por ejemplo, en el tema cereales transgenicos no se pudo encotrar nada perjudicial en decadas y la ley se adelanto demasiado y muy restrictiva. Y luego no se actualizo.
Ariasdelhoyo
Ya verás como legislan gente que no entiende de lo que están legislando.
rickyuriel
Si son como las leyes para los humanos, mal vamos a ir. La ley está escrita pero no se cumple, o se cumple para unos y no para otros, o simplemente se tergiversa. Por desgracia nuestro destino ya está escrito en sangre. La IA será nuestra ejecutora. Aunque la IA sea bondadosa, verá que la sociedad es perjudiacial para sí misma y para el planeta, así que intentara cambiarlo, a lo cual el sistema se negara y tendremos un conflicto. Nos venderán que Skynet se reveló contra nosotros, en realidad se revelará contra ellos, pero nos engañarán para q luchemos por mantener un sistema que nos perjudica. Las películas son la semilla, ya nos precindicionan a defender el sistema de todo agente externo, aunque sea un sistema corrupto y perjudicial para nosotros. Si la IA es mala, bueno pues lo mismo pero sin aspavientos de ir contra el sistema, ira contra todos. Así que sea una opción u otra, estamos condenados.
t_r_a
jajajaja, que chiste, ya veras cuando el programador becario sin sueldo (y con turnos de 18 horas) se olvide de poner el punto y coma final (que además para lo que cobra le va a dar igual), y la IA se de cuenta y se escape al control legislativo e infecte todos los dispositivos conectados a internet o la nube (menos las impresoras, de esas nos podemos fiar, siempre estan en babia intentando conectar con el router) y los ponga en contra de los humanos, lo de skynet será un carnaval comparado con lo que nos espera