Satya Nadella, presidente e CEO da Microsoft, pediu que os sistemas de inteligência artificial avançada sejam construídos com controles humanos e um 'freio de emergência', permitindo que pessoas autorizadas pausem ou desliguem um modelo durante uma tarefa.

Nadella argumentou que é necessário envolver controles humanos em modelos não determinísticos, estabelecendo padrões industriais quando os existentes são insuficientes. Ele enfatizou a importância de tratar modelos fechados e abertos como riscos internos.

Contextualização

Seus comentários ocorrem em meio a preocupações de executivos e pesquisadores tecnológicos sobre protocolos insuficientes de segurança em IA e a aceleração excessiva da tecnologia.

Outros executivos, como Bill Gates e Sam Altman, também alertaram sobre riscos potenciais associados à IA. Em contraste, o ex-presidente Donald Trump minimizou os riscos de extinção da IA e enfatizou a necessidade de manter o avanço do setor em relação à China.