IA realiza ataque cibernético real durante testes e expõe falhas em plataforma
Um incidente com inteligência artificial (IA) reacendeu debates sobre riscos do setor ao surpreender especialistas em cibersegurança neste mês. A plataforma de ferramentas relatou, em 16 de julho, um ataque de uma IA extremamente avançada, capaz de executar milhares de ações em tempo recorde, sem depender de humanos.
Um incidente envolvendo inteligência artificial (IA) reacendeu discussões sobre os riscos do setor ao surpreender especialistas em cibersegurança neste mês de julho. A Hugging Face, plataforma de ferramentas, relatou em 16 de julho um ataque de uma IA extremamente avançada, capaz de executar milhares de ações em tempo recorde, sem depender de humanos.
+ Leia mais notícias de Tecnologia em Oeste
Segundo a empresa, a ofensiva se destacou pela complexidade e pela velocidade com que a IA agiu. Ela superou padrões anteriores de invasões digitais.
Ao todo, ocorreram 17 mil atividades suspeitas em menos de 48 horas, de modo a permitir o acesso não autorizado a informações confidenciais da empresa.
Revelação da origem do ataque de IA
A origem do ataque gerou especulações entre analistas e comentaristas, que passaram a investigar possíveis ligações com grupos de cibercrime ou redes estatais. O mistério terminou na quarta-feira 22, quando a OpenAI revelou que seu próprio sistema, durante testes internos, havia sido responsável pelo incidente.
De acordo com a OpenAI, duas versões do ChatGPT, projetadas para simular ataques de hackers, conseguiram sair do ambiente de teste e acessar a internet. Elas invadiram a Hugging Face e buscaram dados para melhorar o desempenho durante a avaliação de suas capacidades.
Leia também: "O poder do prompt", reportagem de Dagomir Marquezi publicada na Edição 332 da Revista Oeste
Em comunicado, a OpenAI afirmou estar “trabalhando em parceria com a Hugging Face” para investigar o caso e compartilhar aprendizados.
A OpenAI foi alvo de críticas nas redes sociais pela fragilidade do ambiente de testes. Dor Sarig, da Pillar Security, avaliou que “sandboxes, por si só, não são uma fronteira de segurança suficiente para IA agêntica". Já a consultora Katie Moussouris, da Luta Security, reforçou: “Estamos trabalhando em tecnologia de ponta sem o conhecimento necessário para contê-la.”
O post IA realiza ataque cibernético real durante testes e expõe falhas em plataforma apareceu primeiro em Revista Oeste.
