La empresa de inteligencia artificial (IA) OpenAI ha anunciado el desarrollo de su nuevo modelo Voice Engine, capaz de clonar voces humanas con un sonido natural y emotivo, utilizando una muestra de apenas 15 segundos de audio. Sin embargo, la compañía ha decidido no lanzar esta tecnología al público general debido a los riesgos potenciales que conlleva su uso.
Según lo declarado por los creadores de ChatGPT en un comunicado, la generación de discurso que imite las voces humanas plantea serios riesgos, especialmente en un año electoral. Por lo tanto, han optado por mantener una postura cautelosa y no permitir un acceso amplio a esta tecnología por el momento.
Voice Engine es un modelo de IA diseñado para convertir texto en voz, lo que permite crear voces sintéticas que suenan naturales y emotivas. OpenAI señala que esta tecnología podría ser útil para traducir contenido a diferentes idiomas sin perder los acentos nativos, así como para ayudar a personas con problemas de comunicación verbal, como dificultades para hablar, a utilizar su voz para diversas tareas, como realizar llamadas telefónicas.
Aunque la tecnología tiene un gran potencial, por ahora solo está disponible para un selecto grupo de empresas, incluyendo empresas de tecnología educativa, plataformas de narración visual y aplicaciones de comunicación de inteligencia artificial, entre otras. Estas empresas han aceptado las políticas de uso establecidas por OpenAI, que incluyen la prohibición de utilizar las voces sintéticas sin consentimiento y la obligación de informar a los usuarios cuando están interactuando con una voz generada por IA.
OpenAI también ha implementado medidas de seguridad adicionales, como marcas de agua para rastrear el origen de cualquier audio generado por Voice Engine y un monitoreo proactivo de su uso.
OpenAI esta seriamente preocupada por el mal uso que se le da a las IA’s
La decisión de OpenAI de restringir el acceso a esta tecnología se produce en un momento en el que ya se han reportado casos de llamadas automáticas con voces clonadas de figuras políticas en Estados Unidos, lo que plantea preocupaciones sobre posibles usos indebidos, como la manipulación de información o el fraude bancario a través de la autenticación de voz.
Ante estos desafíos, OpenAI busca equilibrar el avance tecnológico con la responsabilidad ética, asegurando que su tecnología se utilice de manera ética y responsable.
Para seguir leyendo: Interpol dará un concierto gratuito en el Zócalo de la Ciudad de México
