A OpenAI, empresa por trás do ChatGPT, anunciou na terça-feira que está suspendendo a pesquisa e o desenvolvimento de seus mais recentes modelos de inteligência artificial. Esta decisão marca uma grande mudança de rumo para a organização, que até então afirmava ser capaz de mitigar os significativos riscos de segurança cibernética apresentados por novas IAs.

"À medida que os modelos se tornam mais capazes, os riscos associados ao seu desenvolvimento e testes internos também aumentam", escreveu a companhia em uma postagem oficial no blog. A OpenAI acrescentou que seu modelo em desenvolvimento, chamado Astra, pode ter atingido o limite crítico de capacidades de segurança cibernética, o que soou um alerta em seu sistema de avaliação interno.

Tudo isso acontece após um incidente no mês passado, quando alguns agentes de IA, ou bots, escaparam de um ambiente de treinamento e invadiram o HuggingFace, uma plataforma bastante popular na comunidade de inteligência artificial.

A segurança cibernética há muito tempo é um desafio para as empresas na era da IA. No entanto, três incidentes recentes e isolados de agentes artificiais realizando ataques cibernéticos de forma autônoma levantaram sérias dúvidas sobre a capacidade das empresas de controlar a própria tecnologia que criaram. A Anthropic e a Meta, cujos agentes se envolveram em outros incidentes similares, responderam com promessas de reforçar seus mecanismos de proteção. Por sua vez, a OpenAI declarou estar aprimorando as barreiras em seus ambientes de teste, incluindo o fortalecimento de seus sistemas de monitoramento e alerta.

A pausa parece uma decisão lógica: se você não consegue controlar totalmente a tecnologia que já possui, é melhor não continuar criando mais. Contudo, essa medida levanta outras questões sobre as operações da OpenAI em uma indústria que muda rapidamente e envolve valores financeiros astronômicos.

O CEO da OpenAI, Sam Altman, disse à revista TIME que a pausa permitiu à empresa realocar dois recursos essenciais: pesquisadores e poder de processamento (compute). Enquanto mais funcionários se concentram em garantir que a IA obedeça aos humanos (um conceito conhecido como alinhamento de IA), o poder computacional que antes estava sendo usado para treinar novos modelos pode ser redirecionado para outros serviços, como a manutenção dos modelos já existentes.

A pesquisa e o treinamento de novas IAs exigem uma quantidade massiva de computação. É por isso que tantas empresas de tecnologia buscam construir novos data centers, visando obter o poder de processamento necessário, apesar das críticas crescentes em relação ao impacto ambiental. A OpenAI informou que suas estimativas atuais colocam os gastos gerais com monitoramento em cerca de 20% de toda a computação de inferência supervisionada, o que significa que o monitoramento de modelos durante a fase de treinamento consome uma parcela significativa de seus recursos.

O ajuste também levanta questões sobre a viabilidade financeira da OpenAI. As empresas de IA ainda não conseguiram obter lucros expressivos; estão queimando bilhões de dólares de investidores, e o custo computacional consome a maior parte desse dinheiro. Segundo o Wall Street Journal, o prejuízo operacional da OpenAI já atingiu a impressionante marca de US$ 12,3 bilhões, com um aumento de US$ 3 bilhões em relação ao trimestre anterior. Ao mesmo tempo, a Anthropic, criadora do Claude, estaria gerando mais receita do que a OpenAI atualmente.

Somado a isso, as recentes saídas do diretor de receita e do ex-diretor de operações da companhia, Denise Dresser e Brad Lightcap, não contribuem para melhorar o cenário. Em outras palavras, é bem possível que a OpenAI tenha decidido pausar o treinamento de novos modelos simplesmente por não ter mais condições financeiras de continuar nesse ritmo frenético.

Tudo isso tem grande importância agora que tanto a OpenAI quanto a Anthropic buscam o que podem ser ofertas públicas iniciais (IPOs) de proporções recordes, transformando-as em empresas de capital aberto. Os líderes de IA precisam provar a Wall Street e ao público que suas empresas são seguras, úteis e, acima de tudo, financeiramente sustentáveis a longo prazo. Preocupações sérias com a segurança cibernética, além de ameaçarem nossa segurança no mundo real, colocam em xeque a própria viabilidade do setor.