A pesar de que el auge de las aplicaciones que utilizan inteligencia artificial (IA) es relativamente reciente, estas se vienen desarrollando desde hace años, por lo que la búsqueda de su regulación por parte de la organizaciones internacionales también se quiere imponer desde hace tiempo. Guerra
Para darnos una idea, el gigante tecnológico y creador de ChatGPT, OpenAI, se fundó desde 2015, y la Unión Europea (UE) expresó desde el 2020 su intención de crear la primera propuesta de medidas “para abordar las oportunidades y desafíos de la inteligencia artificial (…) y en su potencial impacto tanto en los ciudadanos a nivel individual como en la sociedad y economía”.
En ese tiempo se pretendía generar una regulación para trabajar en armonía y a la par del avance de estas aplicaciones, incluso se le daba importancia también al presupuesto del Consejo Europeo para potenciar las inversiones privadas y públicas de esta tecnología, el cual pretendía ser de 20,000 millones de euros anuales.
Sin embargo, con el rápido crecimiento y aumento de capacidades de todos los programas y aplicaciones precisamente por este auge, los órganos internacionales de momento buscan centrarse únicamente en regular y gestionar el rápido avance de la inteligencia artificial que, de acuerdo con la ONU, “puede traer amenazas difíciles de controlar”. Guerra
La ONU busca un pacto mundial que se concrete en 2024
Este lunes, António Guterres, secretario general de la ONU, propuso un Pacto Mundial que abarca diversos ámbitos, pero dentro del que destaca el control en el avance de la IA, y el cual tiene como objetivo que los gobiernos, el sector privado y la sociedad civil puedan adoptarlo y firmarlo para septiembre de 2024, en la Cumbre del Futuro.
De igual forma, a inicios de junio, otro grupo de relatores y expertos de la ONU afirmó que las nuevas tecnologías como los sistemas de vigilancia biométrica basados en inteligencia artificial, se utilizan cada vez más “en contextos delicados”, sin el conocimiento ni consentimiento de las personas.
“Se necesita urgentemente una regulación que garantice la transparencia, alerte a las personas cuando se encuentren con medios sintéticos (formatos o contenidos digitales creados o modificados por la inteligencia artificial) e informe al público sobre los datos de entrenamiento y los modelos utilizados”, dijeron los expertos.
Uno de los ámbitos en los que al parecer no se había prestado atención sobre el uso de la IA era en el de las crisis humanitarias, y en el que el grupo de expertos pide cautela con el uso de esta tecnología, “desde la recogida de datos a gran escala como datos biométricos altamente sensibles, hasta el uso de tecnologías avanzadas de vigilancia selectiva”.
“Instamos a la moderación en el uso de tales medidas hasta que se comprendan plenamente las implicaciones más amplias para los derechos humanos y se establezcan salvaguardias sólidas de protección de datos”, concluyó el grupo conformado por expertos en terrorismo, derechos humanos, derecho a la privacidad y racismo, dentro de los que se encuentran Fionnuala Ní Aoláin, Irene Khan, Ana Brian Nougrères y Ashwini K. P., por mencionar algunos.
La Unión Europea ha ido cambiando el enfoque de la regulación conforme la IA evoluciona Guerra
Después de proponer la primeras medidas en 2020, la UE presentó en 2021 la comisión especial sobre IA, “Inteligencia Artificial en la Era Digital” (AIDA, en inglés), liderada en ese momento por el rumano Dragoș Tudorache.
“Mi primera prioridad será asegurar que construimos y apoyamos la IA que trabaja para el bienestar de nuestros ciudadanos, respetar sus derechos y eliminar los prejuicios y la discriminación (…) AIDA planea mirar más allá de la regulación, trabajando en un plan estratégico a mediano y largo plazo para la IA en Europa”, concluyó Tudorache en su discurso publicado en la página del Parlamento Europeo.
Para mayo de 2022, AIDA presentó su último informe, con una propuesta de hoja de ruta de la UE para la inteligencia artificial: “Con este informe, mostramos claramente que la IA será un impulso para la digitalización y un cambio de juego en la competencia digital global”, dijo el eurodiputado alemán, Axel Voss, cabeza de dicho informe.
En octubre de 2022, el Parlamento aprobó tres informes más que estudian cómo regular la IA para impulsar la innovación, el respeto de estándares éticos y la confianza en la tecnología.
El último avance en la materia fue este mayo de 2023, cuando el Parlamento Europeo realizó la votación para concretar la forma en que deberían regirse los sistemas de inteligencia artificial en aplicación de la Ley de Inteligencia Artificial de la UE (Ley IA), en la que dejaron en claro que los derechos humanos están en primera línea, al votar a favor de la prohibición de varias prácticas basadas en la IA que son incompatibles con estos derechos.
Se prohibieron los sistemas de identificación biométrica remotos en directo, aunque no ilegalizó la vigilancia masiva restrospectiva, sí limitó su uso únicamente a las fuerzas del orden y dentro de unos estrictos límites legales. Se prohíbe también varios usos perjudiciales de los sistemas de IA que discriminan a comunidades marginadas, como tecnologías que afirman “predecir” delitos, los sistemas de puntuación social, que le impiden a ciertas personas el acceso a servicios públicos y privados esenciales, y también las tecnologías de reconocimiento de emociones utilizadas por agentes de la ley y de fronteras con los que “identifican” a personas sospechosas.
La Ley de IA no prohibió los sistemas de elaboración de perfiles que señalan a personas en movimiento como “riesgo” ni los sistemas de pronóstico empleados para interceptar, restringir e impedir la migración, esto a pesar de la insistencia de Amnistía Internacional (AI) para que se eliminaran.
Altman, creador de ChatGPT, pide un equilibrio para las restricciones
Esta semana, el director ejecutivo de OpenAI, Sam Altman, desarrolladora de ChatGPT, alertó sobre una “reglamentación estricta” que amenaza con frenar el desarrollo de la inteligencia artificial, sin embargo también reconoció la necesidad de una vigilancia a largo plazo.
Durante una conferencia en la Universidad de Tel Aviv, Israel, en mayo de este año, Altman afirmó “que una reglamentación estricta de este sector o intentar ralentizar esta increíble innovación sería un error”, pero aceptó que el riesgo de una “superinteligencia” en malas manos es real: “algo que deberemos tal vez afrontar a lo largo de la próxima década y eso no deja mucho tiempo a las instituciones del mundo para adaptarse”.
Con esto, el líder de la empresa que ha revolucionado la IA y su crecimiento, demuestra que se debe tener una reglamentación que limite el desarrollo y el mal uso de esta tecnología a las desarrolladoras, esto a la hora de dar y mejorar las capacidades de sus aplicaciones y programas, y así la comunidad internacional logre dar ese equilibrio para que la IA no nos sobrepase y solo se utilice para beneficio de la humanidad.
(Con información de La Verdad)
