El secretario general de las Naciones Unidas, António Guterres, ha presentado una propuesta para establecer un pacto mundial destinado a gestionar las tecnologías digitales, incluyendo el rápido avance de la inteligencia artificial (IA), ante las posibles amenazas que estas conllevan y que podrían resultar difíciles de controlar.
En un documento de aproximadamente 30 páginas, Guterres detalla su visión sobre cómo abordar esta cuestión. La intención de la ONU es que los gobiernos, el sector privado y la sociedad civil puedan adoptar este acuerdo en septiembre de 2024, durante la Cumbre del Futuro convocada por la organización.
Aunque el Pacto Digital Mundial propuesto por Guterres abarca diversos aspectos, uno de los ejes más destacados es el de la inteligencia artificial, especialmente debido a los avances rápidos que se han producido en los últimos meses.
“Estamos empezando a comprender la magnitud de su potencial disruptivo, tanto positivo como negativo, pero aún debemos unirnos para abordar los problemas y colaborar en la identificación de riesgos y formas ágiles de mitigarlos”, explica el diplomático portugués.
En un discurso reciente, Guterres resalta que se ha alcanzado un “umbral digital”, con el uso generalizado de la IA generativa en aplicaciones como ChatGPT y otras similares. Esta tecnología tendrá un gran impacto, pero no está claro si será positivo.
“La perspectiva de un mayor progreso tecnológico ahora genera más temor que esperanza. Incluso aquellos que han desarrollado la inteligencia artificial y que se beneficiarían más de ella han expresado una profunda preocupación y han pedido, incluso suplicado, acciones para regular su uso”, recalca Guterres.
El secretario general considera necesario garantizar que el diseño y uso de la inteligencia artificial sean transparentes, seguros y estén bajo control humano, con la capacidad de pedir cuentas. Por lo tanto, propone combinar guías y normas internacionales, marcos regulatorios nacionales y estándares técnicos en un marco que facilite la gestión “ágil” de estas nuevas tecnologías.
En general, las acciones propuestas por Guterres buscan la cooperación entre las autoridades y la industria, evitando la imposición de leyes y regulaciones.
Entre las medidas destacadas ante la inteligencia artificial, se encuentran:
- Realizar investigaciones urgentes junto a las empresas para garantizar la seguridad de los sistemas de IA y su alineación con los valores humanos.
- Establecer un grupo asesor de alto nivel compuesto por expertos que se reúnan regularmente para abordar estas cuestiones.
- Pactar directrices entre los gobiernos y la industria para orientar el desarrollo de la inteligencia artificial.
- Reforzar la transparencia e incluir equipos de derechos humanos y ética en estos trabajos.
- Considerar la prohibición del uso de aplicaciones tecnológicas cuyo potencial o impacto no pueda justificarse bajo la ley internacional de derechos humanos, aunque no se especifica cuáles.
Desde hace años, el secretario general ha advertido sobre el riesgo que plantean las armas autónomas, sistemas militares guiados por inteligencia artificial que pueden tomar decisiones propias al llevar a cabo ataques.
La propuesta de Guterres busca abordar los desafíos y riesgos asociados con la inteligencia artificial y las tecnologías digitales, alentando la colaboración global para establecer un marco ético y seguro que beneficie a la humanidad en su conjunto.
Para seguir leyendo: El Indulto a Kathleen Folbigg en Australia: Una Revisión del Caso y un Nuevo Capítulo
