É possível que os problemas de confiabilidade não sejam corrigidos até que os ambientes corporativos se adaptem para se tornarem mais tecnologicamente hospitaleiros aos sistemas Genai.
“O problema mais profundo está na maneira como a maioria das empresas trata o modelo como uma caixa mágica, esperando que ele se comporte perfeitamente em um sistema confuso, incompleto e desatualizado”, disse Soumendra Mohanty, diretora de estratégia do vendedor de IA Tredence. “Os modelos de Genai alucinam não apenas porque são falhos, mas porque estão sendo usados em ambientes que nunca foram construídos para a tomada de decisões da máquina. Para superar isso, os CIOs precisam parar de gerenciar o modelo e começar a gerenciar o sistema em torno do modelo. Isso significa repensar como os dados fluem, como a IA é incorporada nos processos comerciais e como as decisões são tomadas e melhoradas”.
Mohanty ofereceu um exemplo: “Um resumador de contrato não deve apenas gerar um resumo, mas deve validar quais cláusulas para sinalizar, destacar seções ausentes e extrair definições de fontes aprovadas. Esta é a engenharia de decisão que definindo o caminho, limites e regras para saída de IA, não apenas o aviso”.
Fonte: Computer World
