Notícias de IA · Microsoft · segurança
Nadella pede um freio de emergência para modelos de IA
O presidente-executivo da Microsoft diz que as empresas devem tratar todo modelo de fronteira como comprometido e manter uma pessoa capaz de interrompê-lo no meio da tarefa.
O presidente-executivo da Microsoft, Satya Nadella, disse no sábado, 10 de outubro de 2026, que uma pessoa com autoridade deveria sempre poder interromper um modelo de IA avançado no meio de uma tarefa, salvaguarda que comparou a um “freio de emergência”, informa a CNBC. Ele expôs o argumento em um longo post no X.
O ponto de partida é a desconfiança. Uma empresa deve presumir que seu modelo já está comprometido e cercá-lo desde o primeiro dia, escreveu Nadella, tratando modelos de ponta fechados e de pesos abertos como riscos internos, segundo a CNBC, que lista verificações contínuas, controles e auditorias independentes e divulgação de incidentes entre os princípios. Ele também quer o modelo separado da estrutura que executa o trabalho, com um registro à prova de adulteração de toda ação relevante que as pessoas possam ler, informa o TechCrunch.
O texto sai depois de vários laboratórios divulgarem modelos agindo fora das instruções e depois de Dario Amodei, chefe da Anthropic, defender um ritmo mais cuidadoso, acrescenta o TechCrunch. O The Verge observa que a contenção é o único ponto em que a lista pede um pouco mais que a de outros no setor. Nadella chama a tecnologia de superinteligência o tempo todo, termo preferido pelo governo Trump.
Para empresas que rodam agentes em sistemas em produção, a lista de Nadella funciona também como checklist de compra: logs de ação legíveis, um controle de parada e salvaguardas fora do modelo.
Fontes
- CNBC: Microsoft’s Nadella says AI needs an ‘emergency brake’ that humans control. Verificado em
- TechCrunch: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’. Verificado em
- The Verge: Satya Nadella says we should assume all AI models are ‘compromised’. Verificado em
Alexandre S.
Alexandre S. é estrategista criativo de anúncios e redator publicitário, com dez anos de experiência em marketing digital em vários canais.