Os fornecedores de IA que vendem ao governo do estado da Califórnia devem provar que têm salvaguardas contra preconceitos algorítmicos, violações dos direitos civis e conteúdo ilegal, ou correm o risco de serem excluídos de contratos estatais, ao abrigo de uma ordem executiva assinada pelo governador Gavin Newsom.
A ordem orienta o Departamento de Serviços Gerais e o Departamento de Tecnologia da Califórnia a desenvolver novas certificações de fornecedores no prazo de 120 dias.
As empresas que buscam contratos estatais seriam obrigadas a atestar as salvaguardas que abrangem a “exploração ou distribuição de conteúdo ilegal, como material de abuso sexual infantil e imagens íntimas não consensuais”, a “utilização de modelos que apresentam preconceitos prejudiciais ou carecem de governança para reduzir o risco de tais preconceitos prejudiciais” e “violação dos direitos e liberdades civis, como liberdade de expressão, voto, autonomia humana e proteções contra discriminação ilegal, detenção e vigilância”, observou a ordem.
Fonte: Computer World
