OpenAI apresenta tecnologia que “clona” vozes, mas opta por não disponibilizá-la amplamente por questões de segurança
Na última sexta-feira, a OpenAI, famosa por suas inovações em inteligência artificial, anunciou uma nova tecnologia que promete revolucionar a forma como interagimos com áudio. Chamada de Voice Engine, essa ferramenta é capaz de replicar a voz de uma pessoa específica a partir de uma breve gravação de apenas 15 segundos. No entanto, a empresa optou por não disponibilizá-la amplamente neste momento, citando preocupações com possíveis abusos.
A capacidade de recriar vozes humanas levanta uma série de questões éticas e de segurança. Embora a OpenAI tenha destacado possíveis aplicações benéficas, como auxiliar pessoas com dificuldades de leitura, traduzir conteúdos e ajudar na reabilitação vocal de pacientes, também reconheceu os riscos significativos associados a essa tecnologia, especialmente em um contexto de eleições ao redor do mundo.
O anúncio da OpenAI foi acompanhado por um convite ao público para iniciar um diálogo sobre a adoção responsável de “vozes sintéticas”. A empresa enfatizou a importância de tomar decisões informadas sobre o uso dessa tecnologia, considerando seus impactos potenciais na sociedade.
Entre as medidas propostas pela OpenAI para mitigar os riscos estão a eliminação gradual das autenticações por voz em serviços sensíveis, como acessar contas bancárias, e o desenvolvimento de políticas para proteger o uso de vozes individuais. Além disso, a empresa está comprometida em acelerar o desenvolvimento de técnicas de identificação de conteúdo criado por IA, visando aprimorar a capacidade de distinguir entre áudio genuíno e sintético.
Embora a tecnologia de clonagem de voz apresente promessas emocionantes, é essencial abordar cuidadosamente suas implicações éticas e sociais. A OpenAI está liderando o caminho ao iniciar uma discussão franca sobre como podemos usar essa tecnologia de maneira responsável e segura. Enquanto isso, o Voice Engine permanece em fase de testes restritos, aguardando um futuro em que possa ser implementado de forma ética e benéfica para todos.
Fonte: CNN Brasil
