“Suelo estar en contra de las regulaciones estrictas, pero en inteligencia artificial la necesitamos […]: es un riesgo para nuestra civilización. […] Los investigadores creen que son más inteligentes que la inteligencia artificial, pero se equivocan”.
Elon Musk
“Si la inteligencia artificial termina siendo capaz de hacer todo o buena parte de nuestro trabajo intelectual mejor que nosotros, tendremos en nuestras manos el último invento que tendrá que realizar la humanidad”.
Nick Bostrom.
“Google, o alguna compañía de ese estilo, tomará las principales decisiones sobre la salud, sobre los niños o sobre nosotros. Lo mismo puede pasar en otros campos de la vida, incluso la vida romántica. Si un algoritmo te monitoriza todo el tiempo, te conoce mejor que tú”.
Yuval Noah Harari
“Las nuevas tecnologías pueden crear el cielo o el infierno. Pero no estamos seguros de cuál es cuál”Y esta situación es muy peligrosa. La linea entre lo dos es muy fina, y pueden transformarse el uno en el otro. Ahí hay un enorme poder”, ha señalado Harari al término de su intervención en Converge by Globant. “Espero que se hagan elecciones sabias respecto a cómo usar este poder. Espero que los humanos no sean vistos como consumidores pasivos que deben ser controlados, sino cómo creadores que deben ser empoderados”.
Yuval Noah Harari
En los últimos años del nuevo milenio los avances tecnológicos que alcanzó la humanidad han alcanzado niveles inimaginables llegando a mostrar avances increíbles en el escenario mundial. De hecho, este salto exponencial hacia las nuevas tecnologías disruptivas se ha tornado más intenso y extendido con motivo de la aparición de la infausta pandemia del Covid – 19. De hecho, en este periodo se logró derivar nuestros sistemas a plataformas digitales, lo que nos obligó a masificar el manejo de medios electrónicos y recurrir cada vez más a la inteligencia artificial, entre otros avances tecnológicos recientes.
Es importante resaltar, que en la actualidad existen distintas empresas y gobiernos del mundo que se encuentran muy comprometidos con el desarrollo de las nuevas tecnologías digitales y la Inteligencia Artificial (e Industrias 4.0). Estos gobiernos, que se encuentran inmersos en estas tecnologías, vienen mostrando especial preocupación por los riesgos de un uso indiscriminado y sin regulación de las nuevas tecnologías digitales y la IA. Desde luego, y esto no es un secreto, se trata de tecnologías que si bien es cierto han sido trabajadas y exploradas, aún no se ha logrado determinar que implicancias y peligros concretos podría acarrear.
Este hecho, más el alto costo de adoptar estos sistemas, el desinterés de algunos gobiernos y la poca difusión de estas tecnologías, dificulta su conocimiento más profundo e impide una regulación efectiva, concreta y eficiente que permita ir a la par del desarrollo de estas nuevas tecnologías. Como se sabe, estas nuevas tecnologías y los programas de IA (Inteligencia Artificial), buscan brindar ventajes y beneficios que puedan ser cuantificados en la vida cotidiana de las empresas, gobiernos y la ciudadanía. Estas nuevas tecnologías se pueden manifestar en grandes máquinas de procesamiento de datos, equipos operados bajo realidad aumentada, robots autónomos, programas de IA y asistentes virtuales, entre otras facilidades; las mismas que permiten búsquedas, almacenamiento y registro de información de forma asombrosa.
Incluso, se ha venido dando casos de países que han recurrido a prototipos de robots utilizados para desempeñar tareas manuales bajo programación. Entre estos países, podemos identificar a Singapur, Japón, Corea del Sur, Alemania, Suecia, Dinamarca, Taiwán, EEUU, entre otros. Sin lugar a dudas, la nueva era digital, de la IA, de la robótica y del desarrollo digital y tecnológico ha venido para permanecer en la sociedad para servir de mucha ayuda en nuestras tareas cotidianas, optimizar procesos, hacer más eficientes el proceso industrial, entre otros beneficios. Es especialmente, sorprendente, llegar a advertir que en el marco de las denominadas industrias 4.0, hoy en día son más frecuentes aparatos electrónicos automatizados, robots programados como asistentes, máquinas autónomas regidos bajo algoritmos e inteligencia artificial, entre otros.
Al día de hoy, no podemos negar que la humanidad ha conocido y experimentado el devenir de las poderosas y extendidas redes sociales, los DVD, el Disco Duro y la infinita nube. Resulta lógico, que, desde la aparición de avances tecnológicos y digitales, jamás se dejó de avanzar en la era de la transformación digital y en el proceso de modernización de los procesos productivos y de información. Pues bien, desde dicho momento las nuevas tecnologías digitales e industrias 4.0, entre estas la IA, han venido creciendo como la espuma alcanzando niveles simplemente grandiosos. Siendo este el escenario, cada vez se hacía más necesaria una regulación formal, efectiva y muy rigurosa de estas tecnologías novedosas, como la IA, que respondan ante las exigencias propias de estas herramientas y se reduzca así los riesgos probables de afectaciones a derechos fundamentales y daños físicos, entre otros.
En este orden de ideas, la normatividad debía de alcanzar también a aspectos tales como la Privacidad, los Delitos Tecnológicos y Cibernéticos, la herramienta del Big Data, Inteligencia Artificial, entre otros en los que se requiere regulaciones y reglamentación. Desde luego, la pandemia del covid-19, que ha golpeado duramente al mundo, ha empujado a las nuevas generaciones a acelerar la migración al mundo digital que se encuentra en constante cambio radical. Como era de esperar, y dando un paso trascendental, en este propósito la Unión Europea adoptó las necesarias decisiones políticas para llevar adelante una regulación de las IA[1], las mismas que se encuentren en consonancia con las nuevas tendencias de la cuarta revolución industrial.
La ley pretendía regular hasta donde podía tener determinación y autonomía la IA para erradicar probables escenarios de violación de derechos fundamentales de los ciudadanos. En el camino a la dación de la norma los legisladores no lograron establecer puntos en coincidencia en la opción del uso de la IA para facilitar el reconocimiento facial y para regular las redes sociales. El proyecto de reglamento pretende garantizar que los sistemas de IA comercializados en el mercado europeo y utilizados en la UE sean seguros y respeten los derechos fundamentales y los valores de la UE. Esta propuesta histórica también pretende estimular la inversión y la innovación en IA en Europa. La idea principal es regular la IA basándose en la capacidad de esta última para causar daño a la sociedad siguiendo un enfoque ‘basado en el riesgo’: cuanto mayor sea el riesgo, más estrictas serán las normas. Como la primera propuesta legislativa de este tipo en el mundo, puede establecer un estándar global para la regulación de la IA en otras jurisdicciones, al igual que el RGPD (Reglamento General de Protección de Datos), promoviendo así el enfoque europeo de la regulación tecnológica en el escenario mundial.
Estamos hablando de una normativa que constituye un verdadero pilar que servirá de derrotero para el resto de países del mundo que tengan previsto regular la IA. En palabras de Ursula von der Leyen, Presidenta de la Comisión Europea: Esta norma recientemente aprobada “(…) constituye una primicia mundial”. “Es un marco jurídico único para el desarrollo de una IA en la que se pueda confiar. Y para la seguridad y los derechos fundamentales de las personas y las empresas”.
Cabe resaltar, que no se trata de la primera ley que aborda la IA, pero sí es la primera disposición legal que aborda la IA de forma más integral esta clase de tecnología. Sólo basta recordar las nuevas disposiciones que se aprobaron en China sobre la IA, las mismas que entraron en vigencia en el mes de Agosto de 2023 cuyo detalle no será objeto del presente artículo.
Básicamente, este nuevo marco legal Prohíbe el Uso de Sistemas Biométricos, que identifican a las personas recurriendo a ciertos rasgos como la orientación sexual, raza, entre otros aspectos. No obstante, lo anterior, los legisladores comunitarios dispusieron que las fuerzas del orden recurran a estos Sistemas de Identificación Biométrica[2] en los Espacios Públicos para perseguir y sancionar determinados delitos. Otro de los aspectos saltantes de la norma, es el hecho de que esta incluye nuevos requisitos de transparencia para implementar en todos los modelos de IA de propósito general, para generar mayor confianza en estos sistemas y reducir riesgos en el uso de estas herramientas para la gestión de información y se eliminen riesgos sistémicos para los países de la Unión. Todas estas limitaciones en el uso de Sistemas de Identificación Biométricos, apuntan a utilizarla de forma eficiente, cuando corresponda, para prevenir y combatir la comisión de delitos especialmente graves cuya persecución sea transnacional.
En el espíritu del legislador comunitario, se pretendía cautelar a los ciudadanos frente a supervisiones y controles estatales incisivos y represivos que puedan eventualmente colisionar directamente con derechos fundamentales de los ciudadanos. Asimismo, en este nuevo marco legal, se incluyeron herramientas que facilitarán la Protección de Titulares de Derechos de Autor contra la IA generativa y que permitirán que los sistemas de propósito general sean más transparentes respecto al consumo de energía. Hoy en día los sistemas pueden reproducir sonidos, melodías, voces y demás registros que pertenecen a autores con derechos inscritos. De ahí, la importancia de una medida como la descrita, lo que consideramos un gran acierto del legislador.
Cómo ya se describió líneas atrás, estamos ante una ley que podría convertirse en un paradigma o modelo para otros países más allá de las fronteras de Europa. La idea del legislador comunitario, era perfilar una ley futurista, que contenga flexibilidades necesarias como para regular funciones o tecnologías poco exploradas hoy en día. Se trata de un acuerdo provisional que deberá ser ratificado por la Comunidad Europea para su entrada en vigor total. Esta revisión, estaría prevista hacia finales del año 2026. Cabe añadir, en este punto, que algunas partes del paquete legislativo empezarán a funcionar antes. Estamos hablando de una ley que favorecerá la innovación, el desarrollo de esta tecnología y permitirá avances significativos en lo que concierne a la protección de derechos fundamentales.
Para ello, era importante regular un marco legal ambicioso como este; Claro está, de forma bastante proactiva y preventiva, lo que permite anticipar riesgos.
En cuanto a la IA generativa, en la norma se contempla reglas que garantizan la calidad de los datos utilizados para el desarrollo de estos sistemas guiados por algoritmos. Al mismo tiempo, se impone la responsabilidad a los desarrolladores que se aseguren que las notas de sonido, imagen y los textos desarrollados se encuentren claramente identificados como artificiales. Las restricciones reforzadas se aplicarán sólo a los sistemas más potentes. El nuevo marco legal, audaz e innovador, contempla un sistema de sanciones ejemplar que desincentiva vulneraciones a los derechos y libertades que la norma desea cautelar.
A la par, la norma crea la figura de un ente supervisor independiente en materia de IA, ligado a la Comisión Europea, el mismo que contará con la asesoría de panel de expertos científicos y de la sociedad civil. En esta línea, las compañías que no acaten las disposiciones, serán multadas con hasta el 7% de su facturación global. De esta forma, las restricciones para la IA prohibida entrarán en vigor en seis (06) meses, los requisitos de transparencia en 12 (doce) meses y el conjunto completo de reglas en unos dos (02) años. Lo que busca la nueva norma, es ser considerada un estándar normativo global que fijará un derrotero para las distintas naciones del mundo que pretendan poner en marcha un sistema legal certero, formal y dinámico que les permita regular la IA.
Es así, que el Parlamento Europeo enfatizó en el hecho de que se había gestado una norma relativa a IA de forma bastante eficiente, técnica, moderna y competitiva; La misma que permitirá garantizar que se preserven los derechos constitucionales, la democracia y el equilibrio socioambiental. Esta demás decir, que el legislador comunitario, como ya se mencionó líneas atrás, se fijó como meta el lograr asegurar la protección de derechos individuales, impulsar la promoción de la innovación e inversión en tecnologías similares.
En este estadio del análisis, consideramos pertinente subrayar que no existe ningún país en el mundo que cuente con un marco legal tan completo y funcional en materia de IA. No obstante, lo anterior, no podemos dejar de reconocer algunos esfuerzos de países del primer mundo por buscar regular la IA de acuerdo de forma parcial, considerando sus intereses, prioridades y crecientes necesidades. Claro está, que estamos ante esfuerzos legislativos comunes, gestos que denotan voluntad política de examinar la IA, así como propuestas firmes pero aisladas en materia de IA, que no abordan en su integridad el avance de estas herramientas del futuro.
Siguiendo este mismo orden de ideas, creemos relevante compartir, además del caso de China (se detalló en su oportunidad) que en EE UU, Joe Biden, Presidente de esta nación norteamericana, en el pasado mes de Octubre del 2023 suscribió una disposición [3] mediante la cual se instituía a las empresas privadas la obligación de notificar al Gobierno americano con respecto a cualquier hallazgo que pueda eventualmente ocasionar un “Riesgo Grave frente a la Seguridad Nacional”. Este mandato de seguridad emitido por el Presidente Biden buscaba imponer nuevas obligaciones de seguridad frente a quienes desarrollen tecnologías en el marco de la IA.
Otra iniciativa resaltante, es la que se produjo días después del acto oficial del gobierno de EEUU, y es la promueve el Primer Ministro del Reino Unido, Rishi Sunak, el mismo que convocó a una cumbre internacional de la que se desprende el primer compromiso suscrito por 28 países del mundo y de la UE sobre la IA, dicha iniciativa se concretó en la denominada Declaración de Bletchley. En esta declaración, todos los países firmantes convinieron agotar sus esfuerzos por favorecer el uso responsable de la IA. Para tal fin, se prevé la creación de un grupo de expertos para el monitoreo de sus avances.
Por último, en este punto queremos compartir algunas ideas finales con respecto a esta nueva legislación comunitaria, la misma que ha venido a constituir un derrotero y un hito para las legislaciones de todo el mundo por su preocupación, medida en “riesgos”, con respecto a la regulación de la IA. Es innegable, que esta primera disposición legal comunitaria pretende garantizar que los sistemas de IA comercializados en el mercado europeo, y en cualquier parte del mundo, sean desarrollados, distribuidos y utilizados con el mayor nivel de seguros, sin riesgos para los estados y ciudadanos, y que respeten los derechos fundamentales, la soberanía, la libertad y los derechos individuales de los ciudadanos de la UE.
La idea principal de la norma fue regular la IA basándose en el alto grado de riesgo que esta puede representar para la sociedad. Para ello, se siguió un enfoque basado en el riesgo. Aunque, aún existen varios aspectos por revisar y conciliar, en el seno de la UE, creemos que los gobiernos deben de abrir su legislación y visión política para contemplar una revisión de la IA como parte de las industrias 4.0. Es así, que al ver los distintos componentes de la industria 4.0, se podrá abrir la cancha a tecnologías revolucionarias, disruptivas e increíblemente peligrosas como la robótica, la nanotecnología, el big data, los Smart cities, el internet de las cosas, entre otras que requerirán regulación efectiva y eficiente. Estas nuevas tecnologías, nos obligarán a reformar en su totalidad los Códigos Civiles, los Códigos Penales y las normas sobre el comercio de bienes, personas y servicios, entre otros relevantes.
Sin lugar a dudas, nos encontramos ante una norma única en su género, que fija estándares de seguridad interesantes y que busca coadyubar en la reglamentación justa, eficiente y responsable de una gran tecnología en constante crecimiento y que permitirá introducir modificaciones garantistas en las legislaciones nacionales de países alrededor del mundo para garantizar la protección de derechos, libertades, resguardar el honor, proteger el comercio, la innovación, la inversión de capital y los datos personales de todo ciudadano del mundo.
[1] Se trata de programas o sistemas informáticos, guiados por algoritmos y lenguajes de programación, que puedan simular la inteligencia humana. Esta tecnología, permite analizar información, tomar decisiones, ejercer reconocimiento facial, visual y de voz, así como entender el lenguaje, realizar acciones humanas y adoptar decisiones.
Entre las actuales aplicaciones de la Inteligencia Artificial, podemos citar:
- Videojuegos inteligentes.
- Soportes digitales y programas computacionales.
- Sistemas de procesamiento masivo de datos.
- Robótica.
- Dispositivos inteligentes en el hogar.
- Filtros de SPAM.
- Vehículos autónomos.
- Asistentes virtuales.
[2] Los Sistemas de Identificación Biométrica, a utilizar por parte de las fuerzas del orden deberán ser restringidos y revestidos de estrictas salvaguardias: se requerirá una autorización judicial y la lista de crímenes que lo autoricen será muy restrictiva. En el caso del uso “ex post”, solo se permitirá para la búsqueda de una persona condenada o sospechosa de haber cometido un crimen grave.
En el caso de la vigilancia en tiempo real, su uso se limitará al “tiempo y locación”. Por tanto, la tecnología se permitirá para la búsqueda de víctimas de delitos especialmente graves como son los siguientes: secuestro, trata de blancas o explotación sexual y para prevenir una amenaza terrorista. Del mismo modo, esta facilidad se utilizará para ayudar en la localización e identificación de sospechosos de crímenes muy serios y graves, como lo son: terrorismo, tráfico, asesinato, secuestro, violación, robo armado o un crimen medioambiental, entre otros).
[3] La orden emitida por el Presidente Biden, recurre a la Ley de Producción para la Defensa (Defense Production Act), Ley emitida el año 1950; La misma a la que se ha recurrido en crisis recientes como la fue la pandemia de coronavirus, así como frente a la escasez de leche maternizada – para obligar a las empresas a que compartan con el gobierno los resultados de las pruebas.
Bibliografía:
Meaker, Morgan. La Unión Europea aprueba paquete de normas para regular la IA. Wired. Negocios. Diciembre, 2023.
https://es.wired.com/articulos/union-europea-aprueba-paquete-de-normas-para-regular-ia
Ayuso, Silvia. La UE aprueba la primera ley de inteligencia artificial del mundo. El País. Tecnología. Diciembre, 2023.
Verano, Juan. Ley de inteligencia artificial: el consejo y el parlamento llegan a un acuerdo sobre las primeras normas del mundo para la IA. EFE. Presidencia Española del Consejo de la UE. Diciembre, 2023.
Noticias Jurídicas. Ley de inteligencia artificial: El consejo y el parlamento llegan a un acuerdo sobre las primeras normas del mundo para la IA. Presidencia española del Consejo de la UE. Diciembre, 2023.
France 24. Unión Europea llega a un acuerdo sobre la primera ley para regular la IA. Europa. Diciembre, 2023.
Lima, Cristiano y Zakrzewski. Joe Biden firmó decreto para regular la inteligencia artificial. The Washington Post. INFOBAE. Octubre, 2023.
Imagen extraída de: https://notipress.mx/tecnologia/inteligencia-artificial-2023-tendencias-habilidades-ante-su-desarrollo-15062
