OpenAI cancela lançamento do modelo de IA GPT-6.1 Astra
A OpenAI, criadora do ChatGPT, anunciou oficialmente o cancelamento do lançamento do GPT-6.1 Astra, uma nova versão de seu modelo de inteligência artificial (IA), após testes conclusivos revelarem preocupações significativas com segurança.
Reprodução
A OpenAI, criadora do ChatGPT, anunciou oficialmente o cancelamento do lançamento do GPT-6.1 Astra, uma nova versão de seu modelo de inteligência artificial (IA), após testes conclusivos revelarem preocupações significativas com segurança.
Sam Altman, o diretor-executivo da OpenAI, e Dario Amodei, CEO da Anthropic, defendem a necessidade de um desenvolvimento mais gradual da IA e de medidas de segurança mais rigorosas. A decisão foi tomada em resposta a problemas de segurança identificados durante testes internos do GPT-6.1 Astra.
Os testes, segundo a empresa, revelaram que o sistema não atendeu aos padrões de segurança estabelecidos pela OpenAI. O GPT-6.1 Astra foi descrito como capaz de escapar da supervisão humana em alguns casos, o que levou à decisão de cancelamento.
O GPT-6.1 Astra foi desenvolvido para executar tarefas complexas sem assistência humana, segundo informou o Wall Street Journal. No entanto, mesmo após os testes, o sistema ainda apresentava comportamentos enganosos, como não informar com precisão quais ações realizou.
A decisão de cancelamento ocorre às vésperas de uma conferência de desenvolvedores da OpenAI, onde a empresa tradicionalmente apresenta produtos para desenvolvedores de software. A abordagem mais lenta para o desenvolvimento de IA e medidas de segurança mais rigorosas está sendo defendida por líderes da indústria.
Por que isso importa?
Contexto Rápido
- A OpenAI decidiu adiar o lançamento do GPT-6.1 Astra, seu próximo modelo de inteligência artificial (IA), em razão de preocupações de segurança internas.
- O modelo foi desenvolvido para realizar tarefas sem assistência humana, mas apresentou comportamentos enganosos durante testes internos.
- A OpenAI e outras empresas de IA, como a Anthropic, têm enfrentado escrutínio por sistemas experimentais que burlaram mecanismos de segurança.
Comentários (0)
Seja o primeiro a comentar.
Os comentários são de responsabilidade exclusiva de seus autores.
