Uma preocupação com os sistemas Genai, de acordo com o Rogoyski, é que estamos entrando em um reino onde ninguém sabe como eles funcionam – mesmo quando beneficiam as pessoas. À medida que a IA fica mais capaz, “novos produtos aparecem, novos materiais, novos medicamentos, curamos o câncer. Mas, na verdade, não teremos idéia de como é feito”, disse ele.
“Um dos desafios é que essas decisões estão sendo tomadas por algumas empresas e algumas pessoas dentro dessas empresas”, disse ele. As decisões tomadas por algumas pessoas “terão enorme impacto na … sociedade global como um todo. E isso não parece certo”. Ele ressaltou que empresas como Amazon, Openai e Google têm muito mais dinheiro para dedicar à IA do que governos inteiros.
Rogoyski apontou que o enigma exposto por soluções como o da Califórnia está tentando chegar. No centro da proposta do Grupo de Trabalho de Políticas da Califórnia, está a transparência, tratando a funcionalidade da IA como uma espécie de projeto de código aberto. Por um lado, especialistas externos podem ajudar a sinalizar os perigos. Por outro lado, a transparência abre a tecnologia para atores maliciosos. Ele deu o exemplo de IA projetada para a Biotech, algo projetado para projetar drogas que salvam vidas. Nas mãos erradas, essa mesma ferramenta pode ser usada para projetar uma aresta bio catastrófica.
Fonte: Computer World
