6. Trate os sistemas de IA mais como trabalhadores do que como software
Algumas empresas ainda governam a IA como aplicações tradicionais. Mas, de acordo com Kale, os sistemas de IA comportam-se mais como trabalhadores e menos como software determinístico.
“Você não pode simplesmente implantar uma vez e pronto”, diz ele. “Assim como os trabalhadores, eles precisam de supervisão contínua.”
Essa supervisão contínua está a tornar-se uma função central de responsabilização. Os funcionários não são contratados, treinados e deixados sem supervisão indefinidamente. Os gerentes monitoram o desempenho, fornecem feedback, avaliam mudanças nas responsabilidades e intervêm quando o comportamento se desvia das expectativas. Kale argumenta que os sistemas de IA exigem cada vez mais um tratamento semelhante.
O software tradicional muitas vezes pode ser revisado e aprovado no momento do lançamento porque seu comportamento permanece relativamente estável entre as versões. Os sistemas de IA são diferentes. Os modelos evoluem, os prompts mudam, os sistemas de recuperação são atualizados e as informações disponíveis aos agentes mudam continuamente.
Esse desafio vai além dos sistemas desenvolvidos internamente. As empresas também devem monitorar os serviços de IA de terceiros dos quais dependem. Os modelos dos fornecedores não apenas evoluem por conta própria, mas também atualizam software e recursos nos bastidores.
“O fornecedor que aprovamos no último trimestre é funcionalmente diferente neste trimestre”, diz Kale.
Como resultado, a responsabilização não pode terminar quando um sistema é implementado. Alguém deve permanecer responsável por monitorar o desempenho, analisar mudanças, avaliar riscos e determinar se os sistemas continuam a operar dentro de limites aceitáveis. Kale aponta a Estrutura de Responsabilidade Compartilhada de IA da CoSAI como um esforço emergente para esclarecer essas responsabilidades entre empresas, fornecedores de software, fornecedores de modelos e operadores de infraestrutura.
As organizações que registam mais progressos estão a descobrir que a responsabilidade não pode ser atribuída no papel e esquecida. À medida que os sistemas de IA se tornam mais autónomos, a responsabilização está a tornar-se uma capacidade operacional incorporada na governação de dados, na observabilidade, nos processos de escalonamento e na supervisão contínua. Para os líderes de TI, o desafio não é mais definir responsabilidades. É tornar a responsabilidade exigível.
Leitura relacionada:
Fonte: Computer World
