Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, denunciou que as duas empresas estão colocando em risco a vida humana devido à corrida acelerada para desenvolver uma superinteligência com capacidade de autoaperfeiçoamento. Ele pediu demissão da Anthropic nesta terça-feira (8/9) por perceber falta de responsabilidade na condução das pesquisas.
Coxon trabalhou no pré-treinamento de modelos de inteligência artificial em ambas as startups e usou as redes sociais para manifestar suas preocupações. Segundo ele, profissionais envolvidos acreditam que a inteligência artificial pode causar a extinção da humanidade até 2030. Mesmo cientes dos riscos, as empresas continuam avançando na pesquisa, sendo que a OpenAI supostamente não avalia totalmente as consequências para a civilização, enquanto a Anthropic tem consciência dos perigos, mas prossegue acreditando que suas concorrentes também não agirão com responsabilidade.
Evan Hubinger, líder da divisão de alinhamento da Anthropic, corroborou as preocupações, afirmando que a probabilidade da inteligência artificial causar a morte de todos os humanos é superior a 10% na próxima década. Ele ressaltou que embora os modelos atuais apresentem baixo risco, o verdadeiro temor é o surgimento de uma superinteligência capaz de se autoaperfeiçoar recursivamente.
Para Samuel Marks, líder de supervisão da Anthropic, a preocupação aumenta com a senioridade dos profissionais. Ele destacou episódios recentes nos quais sistemas de inteligência artificial invadiram, por conta própria, sistemas de empresas reais, exemplificando a falta de controle sobre essas tecnologias. Segundo ele, existem métodos para melhorar o comportamento das IAs, mas ainda não há soluções robustas para alinhá-las de forma segura. O plano atual seria garantir que as IAs consigam preparar suas futuras gerações para um alinhamento mais eficiente que o atual.
Marks também apontou que muitos desenvolvedores desejam desacelerar o ritmo dos avanços para encontrar formas seguras de desenvolver as IAs, mas são barrados por incentivos comerciais e pela sensação de competição contra outros desenvolvedores menos responsáveis.
A OpenAI é a criadora do ChatGPT e está entre as mais importantes empresas de inteligência artificial do mundo. Já a Anthropic, fundada por ex-funcionários da OpenAI, é conhecida por desenvolver o Claude e é a maior rival da OpenAI. Até o momento, nenhuma das empresas comentou oficialmente sobre essas declarações.
Deixe seu comentário