INTERNACIONAL

Rei Charles alerta líderes do setor de tecnologia sobre ‘perigos existenciais’ da inteligência artificial

Charles recebeu na Escócia os cofundadores da fabricante de chips Nvidia e do laboratório de pesquisa em inteligência artificial Google DeepMind, além de dirigentes das empresas de inteligência artificial OpenAI e Anthropic

Por
Amanda Siqueira,
Repórter de Startups
Bio e blog
17/09/2026 17:53
4 min de leitura
ATUALIZADO às 18:54

O rei Charles, do Reino Unido, alertou líderes do setor de inteligência artificial, nesta quinta-feira (17), sobre os “perigos existenciais” decorrentes da possibilidade de a tecnologia cair em mãos erradas, afirmando que são necessárias salvaguardas antes que seja tarde demais. Charles recebeu na Escócia os cofundadores da fabricante de chips Nvidia e do laboratório de pesquisa em inteligência artificial Google DeepMind, além de dirigentes das empresas de inteligência artificial OpenAI e Anthropic, em um momento de crescente preocupação de que os esforços de segurança não estejam acompanhando o desenvolvimento de sistemas cada vez mais poderosos. Nas últimas semanas, o debate concentrou-se na possibilidade e na conveniência de o próprio setor se autorregular, provocando manifestações de personalidades como o papa Leão XIV, Charles e o presidente dos Estados Unidos, Donald Trump. Charles afirmou que a inteligência artificial tem potencial para melhorar e salvar vidas, especialmente nas áreas das ciências da vida e da medicina. No entanto, seus criadores alertam cada vez mais que a tecnologia poderá desenvolver capacidades mais sombrias, “talvez até mesmo a de tirar vidas”, disse. “Parece haver urgência em analisar adequadamente os perigos existenciais decorrentes da possibilidade de essas tecnologias caírem em mãos erradas e serem utilizadas de maneiras potencialmente catastróficas”, afirmou aos líderes reunidos em sua propriedade de Dumfries House, em Ayrshire , na Escócia. “Não precisamos, certamente, de meios de controle suficientes antes que seja tarde demais?” Entre os convidados estavam Jensen Huang, fundador e diretor-presidente da Nvidia; Demis Hassabis, fundador e presidente do Google DeepMind; Sarah Friar, diretora financeira da OpenAI; Tino Cuéllar, diretor de assuntos globais da Anthropic; e Kanishka Narayan, ministro britânico da Inteligência Artificial. Paolo Benanti, assessor do papa que tem defendido que os governos desacelerem o desenvolvimento da inteligência artificial, também participou. O debate sobre a inteligência artificial voltou a ganhar força depois que dois pesquisadores da Anthropic alertaram que os rápidos avanços da tecnologia poderiam levar à extinção da humanidade em um futuro não muito distante. Empresas de inteligência artificial também relataram casos em que seus modelos escaparam das limitações impostas durante os testes para invadir redes externas. Huang afirmou que a inteligência artificial precisa ser desenvolvida com “otimismo responsável” e que a responsabilidade deve recair sobre os próprios desenvolvedores. Segundo ele, as empresas precisam ser muito mais rigorosas para garantir que seus produtos estejam prontos antes de lançá-los. “Se não estiver pronto, simplesmente não o lance”, disse a emissoras à margem do encontro. “Você deve avançar o mais rapidamente possível, mas não mais rapidamente do que isso.” Dario Amodei, diretor-presidente da Anthropic, também pediu que as empresas desacelerem o ritmo de desenvolvimento da inteligência artificial. Seu apelo provocou um debate internacional sobre a possibilidade de alguns executivos terem segundas intenções, como estabelecer regras que preservem a liderança de suas empresas, antecipar-se a uma reação mais ampla dos governos ou simplesmente desacelerar o ritmo frenético de gastos. Narayan, ministro britânico da Inteligência Artificial, afirmou que as discussões se concentraram na responsabilidade das empresas de garantir que estejam desenvolvendo a tecnologia no interesse das pessoas. Segundo ele, em vez de ser um evento isolado, o encontro faz parte de uma “série de conversas” sobre o papel que o Reino Unido pode desempenhar no desenvolvimento responsável da inteligência artificial. “Temos algumas das melhores capacidades para testar, compreender os riscos e, em seguida, reduzi-los”, afirmou. O encontro na Escócia destacou como Charles, primeiro como príncipe de Gales e agora como rei, tem utilizado sua posição para promover discussões sobre diversas questões globais. Huang afirmou que Charles abordou a segurança da inteligência artificial já no primeiro encontro entre os dois. “Se há alguém que falou de maneira mais profunda e consistente sobre otimismo responsável, o rei foi uma das primeiras pessoas a expressar essa ideia para mim”, afirmou. Rei Charles III Alberto Pezzali/AP