Com um novo relatório da Gartner sugerindo que os problemas de IA irão “encerrar infraestruturas críticas nacionais” num grande país até 2028, os CIOs precisam de repensar os controlos industriais que estão a ser rapidamente entregues a agentes autónomos.
O Gartner adota o termo Sistemas Ciberfísicos (CPS) para essas tecnologias, que define como “sistemas projetados que orquestram detecção, computação, controle, rede e análise para interagir com o mundo físico (incluindo humanos). CPS é o termo abrangente para abranger tecnologia operacional (OT), sistemas de controle industrial (ICS), automação industrial e sistemas de controle (IACS), Internet Industrial das Coisas (IIoT), robôs, drones ou Indústria 4.0”.
A questão que cita não é tanto o facto de os sistemas de IA cometerem erros semelhantes a alucinações, embora isso seja certamente uma preocupação, mas sim o facto de os sistemas não notarem mudanças subtis que gestores operacionais experientes detectariam. E quando se trata de controlar diretamente infraestruturas críticas, erros relativamente pequenos podem transformar-se em desastres.
Fonte: Computer World
