Altman: OpenAI e Anthropic ainda divergem sobre regras de IA

Questionado sobre onde diverge da Anthropic e de Dario Amodei, seu CEO, Altman disse que o mundo deveria “aceitar que algumas coisas ruins aconteçam” em troca dos benefícios e da autonomia das pessoas. Rejeitou a ideia de um único laboratório de São Francisco concentrar os sistemas mais poderosos e distribuir os ganhos, e disse que não trocaria o acesso amplo pela promessa de zero hacks ou golpes. Seu limite é a ponta catastrófica da escala, incluindo a IA escapar do controle humano.

A distância entre os dois laboratórios diminuiu. O SiliconANGLE observa que Altman apoiou, no mês passado, o pedido de Amodei para desacelerar o desenvolvimento de ponta. O Business Insider acrescenta que a OpenAI agora apoia leis estaduais de segurança mais rígidas e um projeto bipartidário na Câmara que colocaria avaliadores externos de segurança dentro das maiores empresas de IA, mudanças que vieram após uma série de incidentes de hacking envolvendo agentes da OpenAI.

Para equipes que compram dos dois laboratórios, a entrevista deixa clara a diferença que resta: a OpenAI defende acesso amplo aceitando algum dano, e a Anthropic, na versão de Altman, um controle mais rígido dos sistemas mais capazes.