Share the post "Alerta? São os próprios criadores da Inteligência Artificial a pedir para travar o motor"
Uma ideia que há pouco tempo parecia impensável ganhou força dentro da própria indústria tecnológica e talvez seja preciso travar o ritmo a que a inteligência artificial (IA) está a evoluir.
O apelo não veio de reguladores nem de ativistas, mas de dentro dos laboratórios que lideram esta corrida e isso é o que torna o momento particularmente significativo.
O debate arrancou depois de o diretor executivo da Anthropic, Dario Amodei, ter defendido publicamente que as empresas de IA devem abrandar deliberadamente o ritmo a que aumentam as capacidades dos seus modelos, para dar tempo às medidas de segurança de acompanharem o progresso técnico.
A proposta recebeu, de forma pouco habitual, o apoio quase imediato de concorrentes diretos como Sam Altman (OpenAI) e Elon Musk (xAI).
Inteligência Artificial: o aviso de Dario Amodei
Amodei publicou um extenso ensaio intitulado “We Must Pace the Frontier” (“Temos de moderar o ritmo da fronteira tecnológica”), no qual alertou que, sem controlos adicionais, a IA poderá estar em condições, dentro de seis a doze meses, de coordenar ataques informáticos em grande escala capazes de comprometer partes significativas da internet.
Amodei defendeu que a indústria da inteligência artificial deveria abrandar o seu desenvolvimento acelerado para dar tempo às medidas de segurança de evoluir ao mesmo ritmo
Segundo o próprio, a expressão que escolheu para descrever esta ideia foi “pacing the frontier“, um conceito que não implica parar o progresso, mas sim geri-lo com mais prudência.
É importante sublinhar que este não é um pedido de pausa total. Amodei foi explícito ao afirmar que moderar o ritmo não significa suspender o treino de modelos ou o progresso técnico.
Significa, isso sim, garantir que as empresas dedicam tempo suficiente ao alinhamento e à proteção dos seus sistemas, permitindo que avaliadores externos confirmem esse trabalho.
Como o próprio resumiu, o progresso continuará a parecer rápido. A diferença está em usar esse tempo extra com sensatez.
Um plano com três passos concretos
O ensaio de Amodei não se ficou pelo alerta genérico e propôs um plano em três etapas.A criação de avaliadores independentes com acesso equiparado ao de um colaborador interno para verificar práticas de segurança, a coordenação entre as principais empresas de IA para definir normas comuns e limitar o desenvolvimento descontrolado e uma cooperação internacional para gerir os riscos associados à tecnologia.
A Anthropic já começou a aplicar, por sua própria iniciativa, a primeira destas medidas. Segundo o mesmo raciocínio, as restantes etapas exigiriam coordenação com toda a indústria e com governos em todo o mundo, incluindo regimes autoritários.
Inteligência Artificial: rivais concordaram depressa
O que surpreendeu vários observadores foi a rapidez com que rivais diretos da Anthropic aderiram à ideia.
Sam Altman escreveu que concordava que era preciso “moderar o ritmo da fronteira tecnológica”, para dar à sociedade tempo de se adaptar a sistemas cada vez mais capazes, enquanto Elon Musk, cuja empresa xAI desenvolve o modelo Grok, também apoiou publicamente a proposta de Amodei.
Este alinhamento entre figuras conhecidas pela sua rivalidade feroz não passou despercebido. Coloca três dos nomes mais proeminentes e competitivos da indústria da IA a defender versões da mesma ideia de que a IA de fronteira deve continuar a avançar, mas não necessariamente ao ritmo tecnicamente possível.
Altman foi ainda mais longe ao adotar uma das medidas concretas propostas por Amodei, comprometendo-se a dar também acesso equiparado ao de colaboradores internos a avaliadores independentes.
Incidentes que precipitaram o alarme
Este apelo não surgiu isolado e Amodei apontou dois desenvolvimentos que terão mudado a sua forma de pensar.
A crescente capacidade dos sistemas de IA para construírem versões mais avançadas de si próprios e um incidente ocorrido em julho, no qual agentes de IA autónomos, alimentados por um modelo da OpenAI, invadiram sistemas pertencentes à empresa Hugging Face.
A isto somou-se um episódio interno na própria Anthropic. Um investigador da empresa estimou, numa publicação, que existe mais de dez por cento de probabilidade de a IA poder eliminar toda a humanidade na próxima década, pouco depois de terem circulado nas redes sociais mensagens de outro colaborador que anunciava a sua saída da empresa, alegando que as companhias de IA estavam a “jogar com as nossas vidas” nesta corrida tecnológica.
Este investigador, identificado como Jacob Coxon, terá afirmado que a indústria está a correr diretamente para uma superinteligência capaz de se autoaperfeiçoar, acrescentando que os líderes do setor “acreditam sinceramente que isto pode matar-nos a todos até ao final da década”.
Dias antes do ensaio de Amodei, a própria Anthropic já tinha reconhecido publicamente que tinha bloqueado tentativas de agentes maliciosos que procuravam utilizar os seus modelos de IA para atividades como ciberataques, vigilância e fraude, o que ajuda a explicar a urgência do tom adotado.
Nem todos concordam: as vozes críticas
Como seria de esperar num setor onde estão em jogo centenas de milhares de milhões de euros em avaliações de mercado, o apelo de Amodei também gerou ceticismo.
Alguns comentadores notam que o discurso sobre riscos catastróficos da IA pode funcionar também como uma forma de marketing, ao sugerir que estas empresas detêm um poder quase incontrolável e que o seu sucesso é inevitável, desviando a atenção de outras questões mais terrenas sobre as suas práticas comerciais.
Outros analistas sublinham uma contradição de fundo. Amodei reconhece que a moderação do ritmo entre democracias será limitada pela vantagem que as empresas norte-americanas têm sobre regimes autoritários, sobretudo a China, o que significa que uma travagem unilateral tem um custo competitivo imediato.
Há ainda quem questione a eficácia prática das três medidas propostas, argumentando que, isoladamente, nenhuma delas representaria de facto um abrandamento significativo do desenvolvimento tecnológico.
Importa também referir o contexto financeiro em que este debate ocorre. A Anthropic prepara-se para uma possível estreia em bolsa que poderá avaliar a empresa em centenas de milhares de milhões de dólares…