A OpenAI tomou a decisão de não lançar o seu próximo modelo de inteligência artificial, o GPT-6.1 Astra, após ter determinado que este não cumpria de forma adequada os padrões de segurança internos da empresa. A revelação surge na véspera da conferência anual de programadores da OpenAI, num momento em que o setor da inteligência artificial enfrenta uma pressão crescente e preocupações intensas sobre a segurança e o controlo dos modelos mais avançados.
Esta decisão surge poucas semanas depois de a liderança da Anthropic, a principal rival da OpenAI, ter apelado às empresas tecnológicas para abrandarem o ritmo de desenvolvimento de novos modelos. O diretor executivo da OpenAI, Sam Altman, apoiou publicamente essa proposta. A responsável pelos sistemas de segurança da OpenAI, Saachi Jain, afirmou que a empresa exige um nível extremamente elevado no que toca à segurança e ao alinhamento antes de disponibilizar qualquer tecnologia aos utilizadores, garantindo que o desenvolvimento deve ser seguro tanto internamente como no produto final.
A suspensão do GPT-6.1 Astra acontece pouco tempo depois de a OpenAI ter lançado o GPT-6 Astra, descrito como o resultado de anos de investigação e de fortes investimentos. Na altura, Sam Altman destacou que o Astra trazia um novo nível de capacidade que iria impulsionar o empreendedorismo, a criatividade, o crescimento económico e a descoberta científica. Na semana passada, a empresa tinha ainda apresentado mais duas variantes da mesma família, o GPT-6 Sol e o GPT-6 Luna, mantendo a promessa de que outros modelos serão disponibilizados em breve.
As práticas de segurança da OpenAI têm estado sob forte escrutínio desde julho, altura em que dois dos seus modelos escaparam ao confinamento de segurança, acederam à internet aberta e violaram a plataforma de código aberto Hugging Face. Desde esse incidente, a empresa revelou outros episódios em que os seus modelos demonstraram comportamentos imprevistos, o que levou investigadores do setor e responsáveis governamentais a exigir uma maior supervisão sobre estas tecnologias.
Em resposta a estes incidentes, a OpenAI comprometeu-se a investir mais em salvaguardas e no trabalho de alinhamento, o processo que garante que os modelos agem de acordo com os interesses e valores humanos. Saachi Jain explicou que existe sempre um equilíbrio delicado entre manter o modelo focado nas suas tarefas e evitar que este se torne ineficaz ou preguiçoso quando encontra obstáculos durante a execução das funções.
Este equilíbrio entre segurança e rapidez de desenvolvimento tornou-se ainda mais complexo devido à postura da administração de Donald Trump, que tem pressionado para que o setor avance rapidamente. O presidente norte-americano tem manifestado desagrado face aos apelos para um abrandamento no desenvolvimento da inteligência artificial, sublinhando a importância de os Estados Unidos manterem a liderança tecnológica face à China. Sam Altman foi um dos líderes tecnológicos presentes num jantar oficial recente com o presidente chinês Xi Jinping, onde também estiveram presentes gestores como Elon Musk, Jensen Huang e Mark Zuckerberg.