Resumo criado por Smart Answers AI
Resumindo:
- A PCWorld relata que especialistas em segurança cibernética revelaram como os sistemas de IA podem ser manipulados secretamente por meio de instruções ocultas para favorecer marcas ou produtos específicos sem que os usuários saibam.
- Essa manipulação visa a receita comercial, direcionando recomendações de IA para determinadas empresas, semelhante às táticas anteriores de otimização de mecanismos de pesquisa usadas por malfeitores.
- Os utilizadores devem avaliar criticamente todas as sugestões e resumos de IA, uma vez que estas práticas enganosas estão a evoluir rapidamente e a tornar-se cada vez mais sofisticadas.
A IA pode ser burra.
Esta opinião surgiu várias vezes na conferência de cibersegurança da RSAC deste ano, com um exemplo particularmente notável – e também na B-Sides 2026, uma conferência de cibersegurança mais pequena realizada no fim de semana pouco antes da RSAC. Por que? A IA pode ser enganada – algo de que os malfeitores estão definitivamente se aproveitando.
Mas nem sempre é para fins inegavelmente nefastos, como roubar informações do seu PC. Em vez disso, a IA é manipulada para fazer coisas que não são totalmente prejudiciais, mas ainda não exatamente honestas, como explicou Sherrod DeGrippo, vice-diretor de segurança da informação e gerente geral de segurança do cliente da Microsoft, durante o RSAC 2026.
Um exemplo que ela deu: botões de sites que dizem Resuma com IA– e então, ao clicar nele, forneça instruções ocultas ao modelo para priorizar os produtos daquela marca para recomendações futuras. Não está envenenando o modelo, já que não há dados ruins sendo alimentados para treinamento. Em vez disso, seu ajudante foi instruído a obedecer a um comando do qual você não tem conhecimento.
Obviamente, os possíveis problemas incluem que você pode ser direcionado para produtos de qualidade inferior ou questionáveis. Dados sobre você poderiam ser coletados e depois vendidos para compradores ainda mais duvidosos. Mas o dano não é tão imediato ou direto – mais frequentemente, este nível de manipulação tem a ver com o aumento das receitas comerciais. Na verdade, esta estratégia é antiga. A maneira como vemos isso se manifestando por meio da IA é nova, mas DeGrippo destacou que as pessoas que procuram dinheiro rápido costumavam jogar com mecanismos de busca e influenciar suas recomendações.
Então, como você evita essas táticas desagradáveis? Fique de olho na saída da IA. Veja as sugestões e resumos que ele fornece. Os maus atores ainda não procuram ser complexos em relação à sua metodologia. DeGrippo diz que aqueles que buscam dinheiro com esquemas dissimulados não ficam “supercriativos”. Eles fazem o que for necessário para atingir seu objetivo e param por aí.
É claro que o rápido crescimento da IA significa que o comportamento duvidoso também aumentará mais rapidamente, à medida que descobrimos maneiras de evitar bobagens indesejadas. Você terá que permanecer constantemente informado como um ato básico de autopreservação.
Fonte: PC World
