O que os líderes de TI precisam saber sobre fraudes mortais alimentadas por IA

Há uma maneira melhor, observou Kiser: “O OAuth Token Exchange existe como uma solução técnica que permite a autoridade delegada adequada (na medida em que) prova que Bob está autorizado a agir em nome de Alice, não apenas que Bob tem a senha de Alice. Mas não é amplamente adotado.”

Uma questão relacionada é que os sistemas de agência “agora podem criar avatares póstumos e deepfakes de indivíduos falecidos, levantando questões sobre consentimento e controle”, disse Kiser. “Recriações não autorizadas já geraram disputas legais, mas não existem estruturas para as pessoas especificarem se, ou como, a sua imagem deve ser usada após a morte.”

Isto também levanta questões sobre como os sistemas de autenticação de identidade hoje lidam com agentes autônomos.

“Passar do acesso delegado, como ter credenciais, para a autoridade delegada requer trabalho em múltiplas frentes. Especificamente para a IA, mesmo com a delegação adequada, como provar que um avatar de IA foi autorizado a existir?” Kiser perguntou. “Não existe uma estrutura legal para o que constitui consentimento, especialmente consentimento póstumo. É, na melhor das hipóteses, muito obscuro.”

O desenvolvimento e a implementação de normas internacionais para a autoridade delegada ajudariam a resolver ambas as questões. “Construir infraestrutura de autoridade delegada para agentes de IA também resolveria o patrimônio digital”, disse Kiser. “É o mesmo problema fundamental.”

Fonte: Computer World

Compartilhe este artigo