Investigação sobre o uso de IA pelo HUD

Membros do Departamento de Eficiência do Governo (DOGE), atuando no Departamento de Habitação e Desenvolvimento Urbano (HUD), utilizaram inteligência artificial para embasar decisões políticas. Contudo, a agência está negando pedidos de informações sob a Lei de Liberdade de Informação (FOIA) sobre o desenvolvimento e uso dessas ferramentas, de acordo com documentos obtidos pela organização sem fins lucrativos Democracy Forward.

No ano passado, a revista WIRED reportou a inclusão de Christopher Sweet, então estudante da Universidade de Chicago, e Scott Langmack, que veio de uma startup de tecnologia imobiliária, na equipe do DOGE no HUD. Sweet focou no uso da IA para identificar regras da agência que poderiam ser rescindidas, um esforço que visava otimizar processos governamentais.

Funcionários do HUD mencionaram à WIRED que a equipe estava coletando feedback de funcionários sobre regulamentações sinalizadas pela IA para possível rescisão. Entretanto, outros colaboradores consideraram a iniciativa redundante.

Christopher Sweet se formou em economia em junho, enquanto Langmack atualmente é diretor executivo de desregulamentação de IA no Escritório de Gestão e Orçamento (OMB), conforme seu perfil no LinkedIn.

Recusa de documentos e preocupações sobre transparência

Mais de 100 documentos solicitados pela Democracy Forward sobre o uso de IA para decisões políticas foram retidos pelo HUD. Entre as justificativas para a negativa estão a inexistência de um privilégio de IA e a aplicação do privilégio de comunicações presidenciais, que normalmente é reservado ao presidente e seus assessores diretos. Documentos retidos indicam que a equipe do DOGE estava utilizando ferramentas de IA para auxiliar nas decisões políticas.

Um dos documentos, intitulado “GPT defined Econ Analysis approach 11 10 25.docx”, foi excluído da FOIA por ser considerado “entrada deliberativa de IA”. Outro, “RegulatoryAnalysisPrompt.pdf”, sugere que a equipe do DOGE estava desenvolvendo prompts para realizar análises regulatórias. A falta de clareza sobre como a IA foi utilizada levanta preocupações entre especialistas.

Tori Noble, advogada da Electronic Frontier Foundation, expressou sua preocupação com a falta de transparência no uso de ferramentas de IA em políticas, uma vez que essas tecnologias podem apresentar falhas ou preconceitos. “Acesso aos prompts é essencial para entender como os oficiais usam essas ferramentas e quais os impactos potenciais”, afirmou.

Atualmente, não existem leis nos EUA que exijam que o governo informe se a IA foi utilizada na criação de regras ou políticas. Mark Fagan, professor da Harvard Kennedy School, argumenta que a transparência é crucial para construir confiança no uso de IA pelo governo.

John Davisson, do Electronic Privacy Information Center, destacou que não há uma isenção específica para IA na FOIA, e que a deliberação entre humanos e IA não deve ser classificada como um privilégio, já que sistemas de IA não têm direito à confidencialidade.

Dan McGrath, do Democracy Forward, criticou a falta de divulgação sobre o uso de IA na formulação de políticas, ressaltando que o público tem o direito de entender seu impacto.