Elon Musk, es uno de las 1,100 personas que han firmado una carta donde se solicita pausar el desarrollo de la inteligencia artificial IA y durante seis meses
La idea es que el periodo se utilice para desarrollar un marco legal que garantice la seguridad de los seres humanos ante la nueva tecnología.
“Tarde o temprano las máquinas se vuelven en contra de sus creadores para tomar el control “, esto lo hemos escuchado en miles de películas:
- Del célebre HAL en 2001: Odisea del espacio (con todo y su referencia a IBM)
- Mátrix
- Fool’s War de Sarah Zettel o Sea of Rust de Robert Cargill, la idea de que la inteligencia artificial (IA) pueda dominarnos nos aterra y nos fascina al mismo tiempo
El temor se acrecienta con la llegada de herramientas poderosas como ChatGPT y MidJourney, pese a que la tecnología nos sorprende a que pueda tener ese poder, también despierta nuestros miedos y pensamos a qué nivel de pide llegará
Por esto mismo más de 1,100 personas preocupadas por lo rápido que está desarrollándose la inteligencia artificial, han firmado una carta abierta solicitando a los laboratorios que desarrollan inteligencia artificial que detengan sus investigaciones al menos por seis meses.
La carta está firmada por algunas figuras destacadas como:
- Steve Wozniak
- Tristan Harris
- Elon Musk
- Emad Mostaque
- Yuval Noah Harari
El documento explica:
“Los sistemas de IA con inteligencia competitiva humana pueden plantear profundos riesgos para la sociedad y la humanidad, como lo demuestran las investigaciones exhaustivas y lo reconocen los principales laboratorios de IA.
Como se indica en los Principios de IA de Asilomar, ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos acordes.
Desafortunadamente, este nivel de planificación y gestión no está sucediendo, a pesar de que en los últimos meses los laboratorios de IA se han visto atrapados en una carrera sin control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”.
La razón por la que se solicita detener temporalmente los avances, es poder establecer una estructura para regular el desarrollo de la inteligencia artificial, por este motivo los firmantes piden que la pausa en los procesos de investigación sea verificable
La carta explica:
“Los laboratorios de IA y los expertos independientes deben usar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados por expertos externos independientes.
Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de toda duda razonable.
No significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la peligrosa carrera hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes”.
Aunque los nombres de notables personalidades aparecen en la carta, no hay manera de verificar que efectivamente hayan sido ellos quienes firmaron.
Fuente: Entrepreneur en español
También te puede interesar: TikTok ofrece el Proyecto Texas a EU en su juicio en contra de prohibir la app
