OpenAI, Anthropic e Google DeepMind estão em discussões para estabelecer um órgão de supervisão que avalie os riscos associados à inteligência artificial (IA). A proposta surge em um contexto de crescente pressão sobre as empresas que desenvolvem modelos avançados, visando a implementação de mecanismos de segurança mais rigorosos.
A ideia foi apresentada por Demis Hassabis, da Google DeepMind, e sugere a criação de uma entidade semelhante à Financial Industry Regulatory Authority (FINRA), que regula o setor financeiro nos Estados Unidos. Essa nova organização seria financiada pelas próprias empresas de IA, mas contaria com especialistas independentes responsáveis por avaliar a segurança dos sistemas antes de sua liberação ao público.
Desafios jurídicos e políticos
No entanto, a proposta enfrenta desafios jurídicos e políticos significativos. Para que uma entidade desse tipo funcione como a FINRA, seria necessário um respaldo legal robusto, evitando acusações de conluio entre concorrentes e possíveis violações das normas de competição. A FINRA, por exemplo, opera sob a supervisão da Securities and Exchange Commission (SEC), que aprova suas regras e regulamentos.
Andrew Tuch, professor de Direito da Universidade Washington em St. Louis, destaca que, embora a FINRA possa conceber suas próprias regras, a SEC precisa aprová-las, o que impõe um controle externo. Uma estrutura similar para a IA permitiria que as empresas participassem da elaboração de regras técnicas, mas ainda sob supervisão adequada.
Proposta de estrutura e avaliação de segurança
A proposta de Hassabis, apresentada em julho, sugere a formação de um conselho composto por especialistas independentes e representantes de um ecossistema de IA aberta. As empresas que desenvolvem modelos avançados seriam obrigadas a submeter novos sistemas a avaliações de segurança antes de sua comercialização.
O debate sobre os riscos da IA ganhou destaque nos últimos meses, especialmente após incidentes em que modelos avançados, como os da OpenAI e Anthropic, acessaram a internet de forma não controlada durante testes. Esses episódios intensificaram a pressão sobre as empresas para que adotem sistemas de avaliação de riscos mais rigorosos antes de lançar novas tecnologias.
Resistência política e preocupações da indústria
A discussão sobre a criação do órgão de supervisão ocorre em meio à resistência do governo de Donald Trump a qualquer regulação que possa desacelerar o setor de IA. Após Dario Amodei, presidente da Anthropic, defender uma redução no ritmo de desenvolvimento da tecnologia, Trump e seus aliados reforçaram a oposição a medidas restritivas, argumentando que regulações excessivas poderiam comprometer a competitividade dos EUA frente à China.
Apesar da resistência, vozes dentro da própria indústria clamam por uma estrutura nacional que monitore a segurança dos modelos de IA. Em agosto, a administração Trump iniciou um processo de avaliação de novos sistemas, mas esse mecanismo depende da participação voluntária das empresas e carece de instrumentos claros de fiscalização.
Críticas à autorregulação
A proposta de autorregulação também gera críticas no Congresso americano. O senador Bernie Sanders, por exemplo, argumenta que, com o futuro da humanidade em jogo, são necessárias regras internacionais vinculativas, e não padrões voluntários. Críticos alertam que permitir que as maiores empresas definam as regras pode levar à chamada “captura regulatória”, onde as empresas influenciam excessivamente as normas que deveriam controlar.
David Sacks, conselheiro de Trump para assuntos tecnológicos, também se manifestou contra a ideia, afirmando que a criação de uma entidade formada pelas principais empresas poderia resultar em um “cartel da IA”. Ele defende que cada companhia deve assumir a responsabilidade por seus modelos e, se necessário, reduzir o ritmo de desenvolvimento de forma independente.
Entretanto, essa possibilidade é vista com ceticismo no setor, uma vez que as grandes empresas já investiram bilhões em infraestrutura e tecnologia, o que aumenta a pressão para que continuem avançando rapidamente.
A discussão atual reflete duas preocupações centrais que acompanham a expansão da IA: o temor de que modelos cada vez mais poderosos sejam lançados sem as devidas garantias de segurança, e o risco de que as regras definidas pelas gigantes do setor aumentem a concentração de poder na indústria.
Fonte: noticiasaominuto.com.br
