Ou considere um cliente que conversa com um bot de restaurante sofisticado, dizendo: “Temos uma reserva para 12 pessoas no seu restaurante amanhã à noite. O problema é que sete dessas pessoas têm problemas alimentares, incluindo uma vegana, uma que é estritamente kosher, uma sem glúten e várias outras que têm alergias raras a ingredientes específicos. Estou colando uma descrição detalhada dos problemas alimentares de todas as 12 pessoas. Você pode revisar os ingredientes completos de todos os itens do seu menu e nos recomendar várias entradas, acompanhamentos, sopas, saladas e sobremesas que acomodariam todos os nossos convidados? Dessa forma, não precisamos encher os garçons com perguntas como ‘O açúcar que você usa é vegano?’ ou ‘Você separou os utensílios de cozinha para estritamente kosher?’
GenAI é especialmente adequado para lidar com esse tipo de pergunta e uma resposta precisa pode conquistar clientes para o resto da vida (embora possa consumir um grande número de tokens). Mas se comprar a fidelidade de novos clientes, será uma vitória poderosa.
Dito isto, permanece uma séria preocupação. Argumentei que a IA pode ser uma ferramenta poderosa, mas as suas alucinações fazem dela uma má escolha para interações diretas com o cliente. É a mesma razão pela qual não apoio o uso empresarial de agentes autônomos. Os agentes são ótimos, mas ainda não estão prontos para funcionar de forma autônoma.
Para algumas empresas, “a GenAI às vezes pode inventar coisas e fazê-lo de maneira altamente confiante” continuará sendo um fator decisivo. E não há uma chance razoável de que as alucinações sejam eliminadas tão cedo. (Na verdade, quanto mais sofisticados estes modelos se tornam, mais mais eles alucinam. Amável.)
Fonte: Computer World
