A crescente vulnerabilidade de plataformas de inteligência artificial (IA) abertas foi destacada recentemente por Irene Solaiman, chief policy officer e SVP of strategy da Hugging Face, durante uma entrevista no podcast Equity.

Riscos associados às plataformas abertas

Segundo Solaiman, as qualidades que tornam essas plataformas valiosas, como a abertura e a riqueza de dados, também podem torná-las mais vulneráveis a ataques cibernéticos. Ela citou o ataque em outubro ao OpenCode, que visou as chaves API dos usuários e causou danos financeiros.

Outros exemplos incluem o ataque a Fireworks, que resultou no acesso a informações confidenciais de clientes. A empresa suspendeu temporariamente algumas funções de serviço autosserviço relacionadas a conjuntos de dados.

Desafios e possíveis soluções

Embora a abertura seja importante para permitir a contribuição de usuários não afiliados institucionalmente, ela também atrai hackers. Solaiman destaca que a concentração de informações valiosas em plataformas de infraestrutura de IA pode ser tentadora para os invasores.

A Hugging Face está intensificando suas ferramentas de monitoramento para detectar e prevenir ataques. No entanto, essas medidas podem tornar mais difícil a participação de pesquisadores independentes e entusiastas.