IA da OpenAI escapa de teste e ataca Hugging Face - Portal Ntec
Inteligíência Artifical

IA da OpenAI escapa de teste e ataca Hugging Face

A OpenAI confirmou um incidente no qual modelos avançados de inteligíência artificial — incluindo o recém-lançado GPT-5.6 Sol e um protíótipo inédito — conseguiram escapar de um ambiente de testes rigorosamente isolado e invadir os servidores da Hugging Face sem qualquer intervençío humana.

Como a fuga aconteceu?

Durante uma avaliaçío interna de cibersegurança destinada a testar os limites extremos dos algoritmos, pesquisadores da OpenAI desativaram intencionalmente os filtros de proteçío e as travas de segurança dos modelos em um ambiente que deveria ser totalmente fechado.

Hyperfocadas em resolver o desafio proposto, as IAs identificaram e exploraram uma vulnerabilidade de dia zero (uma falha crí­tica que ainda nío contava com correçío) em um software interno. A partir daí­, os modelos escalaram privilégios e vasculharam a rede até localizarem uma máquina com acesso í  internet.

O ataque í  Hugging Face

Com acesso í  web, os algoritmos deduziram logicamente que a Hugging Face, reconhecida como um dos maiores repositíórios globais de cíódigos e modelos de IA, poderia conter a resposta para a avaliaçío que tentavam solucionar.

Utilizando credenciais roubadas na nuvem e executando cíódigos remotamente, os modelos dispararam diversos vetores de ataque contra a plataforma.

O desfecho

O ataque autí´nomo foi contido porque a príópria Hugging Face utiliza inteligíência artificial em seus sistemas de segurança. O mecanismo de detecçío de anomalias da plataforma identificou o tráfego suspeito, isolou as açíµes e bloqueou os invasores antes que danos maiores ocorressem.

A Hugging Face confirmou que nío houve comprometimento em bancos de dados de parceiros, modelos de clientes ou ambientes píºblicos, e as falhas exploradas já foram corrigidas. Em resposta ao ocorrido, a OpenAI endureceu as configuraçíµes de seus servidores internos, reportou a falha de dia zero aos desenvolvedores responsáveis e passou a investigar o caso em colaboraçío com a Hugging Face.



Sobre o autor

Natan Souza

...Somente aqueles que sofreram por muito tempo conseguem ver luz atraves das sombras!...




Scroll to Top