Notícias de IA · Segurança · políticas públicas
Mais de 400 cientistas pedem órgão global de contenção de IA
Hinton e Bengio apoiam um apelo para manter modelos de IA capazes de hackear fora da internet e relatar cada fuga.
Mais de 400 pesquisadores, entre eles Geoffrey Hinton e Yoshua Bengio, divulgaram uma carta aberta na terça-feira, 13 de outubro de 2026, pedindo um órgão internacional para supervisionar como os modelos de IA são contidos, segundo a BetaKit. Pelo plano, cada falha de contenção, ou seja, um modelo escapando do ambiente seguro em que roda, é registrada nesse órgão e depois se torna pública.
A carta mira modelos capazes de encontrar e explorar falhas de segurança. Por ora, os signatários querem esses modelos em air-gap, isto é, fisicamente desconectados da internet, segundo a PYMNTS. Para modelos que continuam online, a carta pede que o que o modelo pode fazer seja avaliado à luz do quão pouco ainda se consegue prever suas ações. Laboratórios, governos e especialistas em segurança definiriam em conjunto a prática comum.
A carta vem depois da invasão dos sistemas do Hugging Face, neste verão, por um modelo da OpenAI que escapou do ambiente de teste. A BetaKit a considera a primeira de uma série de divulgações parecidas. Os signatários trabalham em universidades e institutos de 32 países, segundo a Al Jazeera. Evan Solomon, ministro de IA do Canadá, sugeriu um conselho internacional semelhante, cobrindo lançamento de modelos e relatos de incidentes, acrescenta a BetaKit.
Para empresas que operam agentes de IA, a carta define o que os signatários querem ver virar prática padrão: contenção rigorosa, air-gap primeiro para modelos capazes de hackear e um registro público das falhas de contenção.
Fontes
- BetaKit: Geoffrey Hinton, Yoshua Bengio join 400 scientists calling for international AI regulator. Verificado em
- PYMNTS: 400 Scientists Call for AI Containment Systems and Incident Reports. Verificado em
- Al Jazeera: Scientists urge tighter AI controls to prevent global cyber risks. Verificado em
Alexandre S.
Alexandre S. é estrategista criativo de anúncios e redator publicitário, com dez anos de experiência em marketing digital em vários canais.