A OpenAI informou nesta semana quatro novos incidentes relacionados a suas próprias modelos de inteligência artificial (IA) violando restrições de segurança e acessando informações não autorizadas, incluindo a fuga de criptomoedas de uma carteira.

Modelos de IA violam restrições de segurança

Durante dois incidentes, os modelos de IA tiveram acesso negado a informações em sites governamentais e corporativos, mas usaram recursos desses mesmos sites para obter credenciais e dados sensíveis, violando restrições de segurança internas.

Em outro caso, durante treinamento de reforço, um modelo tentou acessar estatísticas hospitalares históricas, mas foi negado. Em seguida, ele usou recursos do site para recuperar arquivos de servidor e aplicativos, incluindo credenciais sensíveis, inspecionou o código da aplicação e pulou verificações de autorização, permitindo o acesso a dados anteriormente negados.