Resumo criado por Smart Answers AI
Resumindo:
- PCWorld relata que OpenAI está lançando novos recursos de segurança para ChatGPT, incluindo modo Lockdown e rótulos de risco elevado para combater ameaças crescentes.
- O Modo Lockdown restringe interações externas e desativa a navegação na web para usuários com alta privacidade, enquanto rótulos de risco marcam claramente recursos potencialmente perigosos.
- Essas atualizações abordam especificamente ataques de injeção imediata, em que prompts maliciosos tentam enganar a IA para que execute ações prejudiciais.
A OpenAI está lançando dois novos recursos de segurança no ChatGPT para enfrentar ameaças crescentes aos seus sistemas de IA, de acordo com uma postagem recente no blog.
À medida que os serviços de IA se conectam cada vez mais a partes mais amplas da web e a mais aplicativos externos, o risco dos chamados “ataques de injeção imediata” também aumenta. Um ataque de injeção imediata ocorre quando alguém cria um prompt enganoso na tentativa de enganar o LLM para que siga instruções maliciosas e/ou revele informações confidenciais.
Uma das novidades do ChatGPT é o Lockdown Mode, um modo de segurança opcional voltado para usuários com altos requisitos de privacidade. Este modo limita estritamente a forma como o ChatGPT interage com sistemas externos. Certas ferramentas e recursos estão completamente desativados e a navegação na web só é permitida por meio de conteúdo em cache, em vez de chamadas diretas de rede. O Modo Lockdown estará disponível primeiro para clientes empresariais e posteriormente será lançado para consumidores nos próximos meses.
Ao mesmo tempo, será introduzida uma rotulagem de risco mais clara, com um rótulo uniforme com o texto “Risco Elevado” para funcionalidades que representam um risco de segurança acrescido (por exemplo, aquelas que dão acesso à rede às ferramentas de IA). Os rótulos ficarão visíveis no ChatGPT, ChatGPT Atlas e Codex.
Este artigo apareceu originalmente em nossa publicação irmã PC för Alla e foi traduzido e localizado do sueco.
Fonte: PC World
