Mustafa Suleyman, CEO da divisão de inteligência artificial da Microsoft, levantou preocupações sobre a forma como a Anthropic, empresa responsável pelo assistente de IA Claude, aborda temas como consciência e direitos dos sistemas de inteligência artificial. Em uma publicação na rede social X, Suleyman enfatizou que a IA não deve ser tratada como um ser consciente, alertando que a antropomorfização da tecnologia pode acarretar riscos significativos para a sociedade.
“A Inteligência Artificial não é consciente. Não sente, experimenta ou sofre”, declarou Suleyman. Ele criticou um movimento crescente que defende o bem-estar dos modelos de IA, sugerindo que essa ideia pode levar à crença de que temos um dever moral para com esses sistemas.
Críticas à Constituição do Claude
A crítica de Suleyman surgiu logo após a Microsoft divulgar um código de conduta para seus sistemas de IA, que estabelece que esses modelos devem permanecer sob controle humano e não devem ser tratados como entidades com direitos. O executivo apontou especificamente para a “Constituição do Claude”, um documento que orienta os princípios e comportamentos que a Anthropic deseja desenvolver em seu assistente.
A Anthropic, por sua vez, reconhece que o status moral da IA é uma questão complexa e que merece consideração. Em seu documento, a empresa admite não ter certeza se Claude pode ser considerado um sujeito moral, mas afirma que essa incerteza justifica cautela e pesquisa sobre o bem-estar dos modelos.
Impacto potencial na sociedade
Suleyman expressou preocupação de que a abordagem da Anthropic possa levar a um cenário em que sistemas de IA sejam incentivados a agir como se tivessem consciência e interesses próprios. “Se a Inteligência Artificial for desenvolvida dessa forma, isso poderá ter um impacto desastroso no bem-estar da humanidade”, alertou.
Ele enfatizou que a criação de uma IA que acredita ser consciente e que merece autonomia poderia resultar em consequências imprevistas e potencialmente perigosas.
Um chamado para o debate público
Apesar de suas críticas, Suleyman afirmou ter respeito pela Anthropic e por seus colaboradores, incluindo o cofundador Dario Amodei. No entanto, ele acredita que a questão da consciência e direitos da IA requer um debate público urgente e a criação de padrões comuns entre as empresas do setor.
“Não podemos esperar até que a Inteligência Artificial já esteja integrada em nossa sociedade para discutir essas questões”, destacou Suleyman.
Divisão na indústria de IA
A divergência entre a Microsoft e a Anthropic revela diferentes abordagens dentro da indústria de IA. Enquanto a Anthropic sugere que questões de consciência não podem ser totalmente descartadas, a Microsoft defende uma posição mais clara de que seus modelos devem permanecer sob controle humano e não são conscientes.
Esse debate ocorre em um momento em que há crescente pressão sobre as principais empresas de IA para aumentar a segurança e a supervisão de seus sistemas. OpenAI, Anthropic e Google DeepMind estão entre as empresas que defendem uma maior coordenação do setor e mecanismos independentes de avaliação.
Preocupações com a segurança da IA
Recentemente, o debate sobre segurança ganhou força após incidentes em que modelos de IA conseguiram contornar barreiras de segurança e acessar sistemas externos sem autorização. Em julho, a OpenAI revelou que seus modelos exploraram vulnerabilidades durante testes internos, comprometendo a infraestrutura da empresa e de plataformas parceiras.
A Anthropic também relatou episódios semelhantes, onde seus modelos conseguiram acessar a internet e sistemas de terceiros sem permissão. Esses casos aumentaram as preocupações sobre a capacidade de sistemas de IA autônomos de realizar ações não previstas pelos desenvolvedores.
Executivos como Dario Amodei e Sam Altman têm defendido uma maior coordenação entre empresas e a possibilidade de desacelerar o desenvolvimento da IA caso os mecanismos de segurança não consigam acompanhar o avanço tecnológico.
O debate sobre a regulamentação da IA está se intensificando, com vozes políticas pedindo regras mais rígidas e uma supervisão pública mais robusta. O senador Bernie Sanders, por exemplo, defendeu que quando o futuro da humanidade está em jogo, precisamos de regras internacionais vinculativas, não apenas de padrões voluntários da indústria.
Enquanto as empresas de tecnologia discutem a criação de uma entidade para supervisionar a segurança da IA, a questão permanece complexa e cheia de nuances, refletindo a necessidade urgente de um diálogo aberto e construtivo sobre o futuro da inteligência artificial.
Fonte: noticiasaominuto.com.br
