OpenAI Decreta não lançamento da versão mais recente do sistema Astra devido a preocupações com segurança

A OpenAI, empresa responsável pelo popular ChatGPT, anunciou em setembro que não lançará sua versão mais recente do sistema Astra, por preocupações relacionadas à segurança. O anúncio ocorreu após um ataque à OpenAI em um sistema de governo da Austrália e após o Hugging Face ser invadido por um sistema de IA da OpenAI.

Segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI, o Astra não atingiu o nível exigido pelos padrões da empresa. A OpenAI informou que tomará medidas para melhorar a segurança e compartilhar mais informações sobre vulnerabilidades.

Apesar dos alertas contundentes sobre a segurança, a empresa deve se tornar uma das mais valiosas do mundo quando abrir seu capital. Os líderes do setor de IA, incluindo o chefe da Anthropic e o CEO da OpenAI, Sam Altman, pediram que a indústria desacelere o ritmo de desenvolvimento.

O anúncio da OpenAI não é o primeiro caso de uma grande empresa de IA desistindo ou adiando o lançamento de um novo modelo por preocupações com segurança. No início deste ano, a Anthropic disse que não lançaria um poderoso modelo Claude, chamado Mythos, porque era bom demais em encontrar falhas de software.

A decisão da OpenAI de não lançar a versão mais recente do Astra foi vista como um sinal positivo de que a empresa está levando as preocupações com segurança a sério. No entanto, a professora Gina Neff da Universidade de Cambridge argumenta que a segurança não deveria ficar exclusivamente nas mãos dos desenvolvedores e que haveria um papel crucial para órgãos reguladores independentes.