Depois de perturbadores incidentes de saúde mental envolvendo chatbots de IA, os procuradores-gerais do estado enviaram uma carta às principais empresas de IA, alertando-as para consertar “resultados delirantes” ou arriscar uma ação legal, informou o TechCrunch na quarta-feira.
A carta, assinada por 42 procuradores-gerais de estados e territórios dos EUA, pedia à Microsoft, OpenAI, Google, Anthropic e outros que implementassem novas salvaguardas para proteger os usuários.
Apelou a salvaguardas, incluindo novos procedimentos de notificação de incidentes para notificar os utilizadores quando os chatbots produzem resultados prejudiciais, e auditorias transparentes por terceiros de grandes modelos de linguagem em busca de sinais de ideações delirantes ou bajuladoras.
Fonte: Computer World
