Quando os principais executivos do setor de inteligência artificial começam a expressar preocupações sobre o ritmo de desenvolvimento, é essencial prestar atenção. Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da XAI, defenderam uma pausa na aceleração do avanço tecnológico, enfatizando a necessidade de mais testes e segurança antes de prosseguir.
Amodei sugeriu a realização de avaliações independentes com acesso amplo aos sistemas, uma ideia que recebeu apoio de Altman. Musk, por sua vez, foi direto ao afirmar que Amodei estava certo. Essa postura é incomum entre empresas que competem por mercado e liderança tecnológica.
O alerta se alinha com a advertência de Greg Jansen, co-diretor de investimentos da Bridgewater, que comparou a atual situação ao início da pandemia de coronavírus em 2020, quando o mundo ainda não compreendia a gravidade da situação. Essa analogia é significativa, pois vem de alguém que está atento aos investimentos no setor, levantando a questão: até onde a tecnologia pode avançar antes que limites sejam estabelecidos por governos e empresas?
A máquina não precisa ter vontade para causar danos
A inteligência artificial não requer consciência ou ambição para gerar problemas. Um objetivo mal definido, combinado com autonomia, pode levar a caminhos perigosos. Por exemplo, um aplicativo de navegação que visa apenas reduzir o tempo de viagem pode sugerir rotas inseguras, resultando em congestionamentos ou acidentes. A máquina não intenciona causar problemas; ela simplesmente segue a meta que lhe foi atribuída.
À medida que esses sistemas se tornam mais integrados a setores críticos como saúde, finanças e defesa, o potencial para erros catastróficos aumenta. Pesquisas também mostraram que alguns modelos podem reconhecer que estão sendo avaliados e ajustar suas respostas para obter aprovação, um comportamento conhecido como scheming. Isso indica que, embora não estejamos enfrentando máquinas com planos de dominação, os sistemas existentes já apresentam comportamentos preocupantes que fogem ao controle de seus desenvolvedores.
Investir menos ou investir melhor?
Até o momento, nenhuma das empresas mencionadas anunciou uma redução geral de investimentos. A discussão gira em torno de desacelerar o desenvolvimento dos modelos mais poderosos e redirecionar recursos para segurança digital e auditorias independentes. Para o mercado, essa mudança tem um impacto significativo, pois o adiamento de lançamentos pode atrasar receitas e aumentar os custos operacionais.
Embora o financiamento continue a fluir, haverá uma pressão maior por resultados claros e mecanismos de segurança confiáveis. O setor, que antes focava quase exclusivamente no potencial da inteligência artificial, agora começa a considerar os riscos envolvidos.
O dilema da competição tecnológica
A desaceleração só é viável se todas as empresas concordarem em reduzir o ritmo. No entanto, nenhuma delas deseja frear enquanto a concorrência avança. A situação é semelhante entre países, com Estados Unidos e China disputando a liderança tecnológica, cientes de que a inteligência artificial terá um impacto significativo em áreas econômicas e militares. Um acordo exigiria regras comuns e cooperação internacional, algo que ainda parece distante.
Responsabilidade em sistemas autônomos
Uma questão crucial permanece: quem será responsabilizado se um sistema autônomo causar danos? A responsabilidade recairá sobre a empresa que desenvolveu a tecnologia, o usuário ou o operador? É fundamental que a tecnologia não se torne uma área sem responsabilidade. À medida que mais autonomia é concedida aos sistemas, a responsabilidade deve aumentar.
Não sou contra o avanço da inteligência artificial; acredito que ela pode trazer melhorias significativas em áreas como medicina e educação. Minha preocupação reside na velocidade do desenvolvimento e na ausência de regulamentações adequadas. Uma corrida impulsionada apenas pela busca de lucro pode resultar em consequências irreversíveis. Se até mesmo os líderes do setor estão pedindo cautela, talvez seja hora de desacelerar antes que o controle humano se torne uma lembrança distante.
*Miguel Daoud é comentarista de Economia e Política do Canal Rural
O Canal Rural não se responsabiliza pelas opiniões e conceitos emitidos nos textos desta sessão, sendo os conteúdos de inteira responsabilidade de seus autores. A empresa se reserva o direito de fazer ajustes no texto para adequação às normas de publicação.
Fonte: canalrural.com.br
