A recente declaração de um ex-pesquisador da Anthropic sobre os perigos da inteligência artificial acendeu um debate crucial no setor tecnológico. Jacob Coxon, que deixou a empresa de IA, alertou publicamente que as corporações estão cientes de que suas criações podem levar à extinção humana, mas continuam avançando mesmo assim.

A declaração se espalhou rapidamente pelas redes sociais e atraiu a atenção de grandes portais de notícias e figuras políticas, como o governador de Illinois, JB Pritzker, que pediu ações imediatas da indústria e do governo.

Em menos de 24 horas, outros profissionais da Anthropic confirmaram que a ameaça de a IA superar e potencialmente eliminar a humanidade não é uma fantasia passageira, mas uma realidade debatida por pesquisadores da área. Evan Hubinger, líder de equipe na Anthropic, afirmou que há uma crença sincera de que a IA poderia destruir a humanidade, estimando a probabilidade em mais de 10% na próxima década.

A preocupação de Coxon ganha peso pois ele não é o primeiro a sair por esses motivos. Anteriormente, outros líderes de segurança da Anthropic e da OpenAI também renunciaram, citando a priorização dos lucros e do crescimento em detrimento da ética e segurança.

Apesar dos alertas, empresas como OpenAI e Anthropic continuam numa corrida acirrada, acelerando o desenvolvimento de modelos de IA para competir entre si e com o mercado global, muitas vezes flexibilizando padrões de segurança. A justificativa irônica é que, se eles desacelerarem, concorrentes menos escrupulosos com a segurança dominarão o futuro da IA.

O debate sobre quando a IA se tornará uma ameaça iminente depende de dois marcos: a Inteligência Artificial Geral (AGI), onde a IA iguala ou supera a capacidade cognitiva humana, e a Superinteligência Artificial (ASI), onde a IA supera todos os humanos em todas as tarefas imagináveis. Enquanto as datas exatas permanecem incertas, a velocidade dos avanços assusta os especialistas.

A sociedade encontra-se dividida entre os otimistas, que focam nos ganhos de produtividade e na abundância prometida pela IA, e os pessimistas, que alertam para a perda de empregos e o risco existencial. Contudo, o debate sobre a extinção está nas mãos de poucos indivíduos e corporações bilionárias que controlam o desenvolvimento da tecnologia.

No final, a verdadeira questão é o que nós, como sociedade, permitiremos que seja feito com a IA. Se a tecnologia for poderosa o suficiente para causar os danos temidos, também será capaz de realizar os grandes avanços esperados na ciência e medicina.