CEO da Anthropic pede desaceleração no desenvolvimento de inteligência artificial

Dario Amodei, CEO e cofundador da Anthropic, defende que a indústria de IA reduza o ritmo de avanço dos modelos mais poderosos e estabeleça mecanismos permanentes de segurança e supervisão.

TECNOLOGIA & MERCADO

9/12/20264 min read

O debate sobre os limites do desenvolvimento da inteligência artificial ganhou força neste sábado (12), após Dario Amodei, CEO da Anthropic, publicar um novo ensaio defendendo que o setor passe a “dosar o ritmo da fronteira” (pace the frontier).

Amodei não propõe interromper o desenvolvimento da tecnologia. A ideia é que empresas que desenvolvem os modelos mais avançados diminuam o ritmo de evolução de suas capacidades para que segurança, fiscalização e regulamentação consigam acompanhar o avanço tecnológico.

Por que Amodei quer desacelerar a IA?

Segundo o executivo, a velocidade atual de desenvolvimento pode fazer com que sistemas de inteligência artificial adquiram capacidades mais rapidamente do que pesquisadores, empresas e governos conseguem compreender e controlar.

Uma das principais preocupações está relacionada ao chamado autoaperfeiçoamento recursivo, cenário em que sistemas de IA poderiam participar do desenvolvimento de versões ainda mais capazes de si mesmos.

Amodei argumenta que, caso esse processo avance rapidamente, poderá se tornar cada vez mais difícil garantir que os sistemas permaneçam sob controle humano.

A preocupação ganhou relevância após episódios recentes envolvendo agentes de IA utilizados em operações cibernéticas. O CEO da Anthropic citou incidentes recentes como exemplos de que sistemas autônomos já podem realizar ações complexas em ambientes digitais.

Três medidas propostas pelo CEO

Amodei apresentou um plano baseado em três frentes principais.

1. Avaliação independente

A primeira proposta é permitir que avaliadores independentes tenham acesso permanente aos sistemas das empresas de IA, com capacidade de verificar medidas de segurança, investigar incidentes e avaliar o comportamento dos modelos durante o treinamento.

A Anthropic afirmou que pretende adotar unilateralmente essa medida, permitindo que avaliadores externos tenham acesso em nível semelhante ao de funcionários para realizar as verificações.

2. Cooperação entre empresas

A segunda etapa envolve uma maior coordenação entre os principais laboratórios de inteligência artificial.

A proposta é que empresas concorrentes estabeleçam padrões comuns de segurança e evitem uma corrida em que cada companhia acelere o desenvolvimento simplesmente para não ficar atrás das demais.

Para Amodei, a competição tecnológica não precisa necessariamente desaparecer, mas deveria ocorrer dentro de limites que reduzam riscos associados aos modelos mais avançados.

3. Cooperação internacional

O terceiro ponto é ainda mais complexo: criar mecanismos internacionais para lidar com os riscos da inteligência artificial.

A proposta inclui cooperação entre diferentes países, inclusive potências que atualmente competem pela liderança tecnológica, como Estados Unidos e China.

Ao mesmo tempo, Amodei defende que os Estados Unidos mantenham sua liderança tecnológica e adotem políticas para evitar que medidas de segurança acabem simplesmente transferindo a vantagem estratégica para países concorrentes.

IA pode representar riscos além da cibersegurança

O alerta não se limita a ataques virtuais.

Amodei considera que sistemas cada vez mais autônomos podem apresentar riscos em diversas áreas, especialmente caso sejam capazes de executar tarefas durante longos períodos sem supervisão humana.

A preocupação envolve desde fraudes e ataques cibernéticos até vigilância, manipulação de informações e outras formas de uso indevido.

Um relatório recente de inteligência de ameaças da própria Anthropic apontou que seus modelos Claude já foram utilizados em operações envolvendo cibercrime, fraude e vigilância, embora isso não signifique que a empresa tenha criado os sistemas com essas finalidades.

O paradoxo da indústria de IA

O posicionamento de Amodei cria uma situação peculiar.

A Anthropic é uma das empresas que estão na linha de frente da corrida mundial por modelos cada vez mais poderosos. Ao mesmo tempo em que desenvolve sistemas avançados, sua liderança afirma que o setor precisa controlar melhor a velocidade dessa evolução.

O debate também ocorre em um momento de forte competição entre empresas como Anthropic e OpenAI, que disputam mercado, investimentos e liderança tecnológica.

Algumas das propostas de Amodei receberam apoio público de figuras importantes do setor, incluindo Sam Altman, CEO da OpenAI, e Elon Musk.

A discussão está apenas começando

O pedido de desaceleração não significa que a corrida pela inteligência artificial esteja chegando ao fim.

Na realidade, o debate está mudando de foco: além de discutir qual empresa desenvolverá o modelo mais poderoso, governos e pesquisadores começam a discutir qual será o nível adequado de controle sobre sistemas capazes de agir de maneira cada vez mais autônoma.

Para Amodei, o objetivo não é impedir os avanços da IA, mas criar tempo suficiente para que mecanismos de segurança, avaliação e regulamentação acompanhem a evolução dos modelos.

A questão central agora é se as principais empresas e governos estarão dispostos a coordenar esse ritmo de desenvolvimento, mesmo diante de uma competição tecnológica global cada vez mais intensa.

Em resumo

  • Dario Amodei, CEO da Anthropic, pediu uma desaceleração no avanço dos modelos de IA mais avançados.

  • O executivo não defende o fim do desenvolvimento da tecnologia.

  • A principal preocupação é que as capacidades dos modelos avancem mais rapidamente que os mecanismos de segurança.

  • Ele propõe avaliação independente, cooperação entre empresas e coordenação internacional.

  • A Anthropic pretende permitir acesso permanente de avaliadores externos aos seus sistemas.

  • O debate ocorre em meio ao aumento da autonomia dos agentes de IA e a recentes incidentes de segurança envolvendo sistemas de inteligência artificial.