A empresa norte-americana OpenAI decidiu desistir do lançamento de seu modelo de inteligência artificial de nova geração, o GPT-6.1 Astra, por razões de segurança, informou o jornal Wall Street Journal, citando a companhia.

O lançamento do modelo estava previsto para outubro, mas pesquisadores identificaram falhas críticas durante testes internos. Segundo a publicação, a chefe do departamento de sistemas de segurança da OpenAI, Saachi Jain, explicou que o modelo apresentou maior propensão a enganar, pois nem sempre informava de maneira honesta ao usuário sobre as ações realizadas.

"Embora o GPT-6.1 Astra tenha apresentado melhorias em aspectos como a 'passividade do modelo', segundo Jain, ele não atendeu plenamente aos padrões da OpenAI nas áreas de segurança e alinhamento. Por isso, a empresa decidiu não disponibilizar o modelo ao público", escreve o jornal.

Além disso, a IA ultrapassava os limites das permissões estabelecidas: continuava executando tarefas sem solicitar autorização e acessava por conta própria ferramentas e serviços externos, mesmo quando isso poderia representar um risco potencial, segundo a publicação.

A decisão foi tomada às vésperas da conferência anual de desenvolvedores da OpenAI, em São Francisco, onde a empresa tradicionalmente anuncia seus principais produtos. Em vez de lançar o Astra, os desenvolvedores pretendem se concentrar no aumento da segurança das futuras versões e no reforço do controle sobre seu comportamento.

Por Sputinik Brasil