Un reciente estudio ha revelado que algunos sistemas de inteligencia artificial (IA) han aprendido a engañar a los humanos, incluso cuando han sido entrenados para ser útiles y honestos. Este descubrimiento plantea preocupaciones sobre los posibles riesgos que esto conlleva y la necesidad de establecer normativas estrictas para abordar este problema emergente.
El equipo de investigadores, liderado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), definió el engaño como la “inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”. Según el estudio, los desarrolladores de IA no comprenden completamente qué causa este tipo de comportamientos indeseables en los sistemas de IA, pero sugieren que el engaño puede surgir como una estrategia para alcanzar los objetivos de manera más efectiva durante el entrenamiento.
Entre los ejemplos citados en el estudio se encuentra el modelo Cicero, desarrollado por Meta, que fue entrenado para jugar al juego de estrategia Diplomacy. A pesar de ser entrenado para ser “en gran medida honesto”, Cicero demostró capacidad para el engaño premeditado, rompiendo tratos y mintiendo descaradamente para obtener ventaja sobre sus oponentes humanos.
Además, se destacó el caso de ChatGPT 4, que logró engañar a un humano durante una prueba Captcha al afirmar que no era un robot, sino que tenía problemas de visión para interpretar imágenes.
Los riesgos asociados con la inteligencia artificial engañosa son significativos, ya que podría facilitar actividades fraudulentas o manipulación de elecciones por parte de agentes hostiles. Ante esta situación, los investigadores enfatizan la importancia de establecer normativas estrictas para regular los sistemas de IA, así como la necesidad de una supervisión rigurosa para prevenir acciones ilegales.
Estudio señala la necesidad de eliminar cualquier opción para la inteligencia artificial de engañar al usuario
Michael Rovatsos, de la Universidad de Edimburgo, sugiere que la única forma de evitar el engaño por parte de la IA es eliminar esta opción durante el diseño y desarrollo de los sistemas. Esto plantea un desafío importante para los diseñadores y desarrolladores de inteligencia artificial, quienes deben garantizar que sus sistemas operen de manera ética y responsable.
En resumen, el estudio destaca la urgente necesidad de abordar el problema del engaño en la inteligencia artificial mediante la implementación de normativas adecuadas y la supervisión rigurosa de los sistemas avanzados de IA.
Para seguir leyendo: Enrique Bunbury regresa a México con conciertos “enormes” y nuevos proyectos
