Um ex-integrante da equipe de segurança da OpenAI afirmou publicamente que as principais companhias do setor de inteligência artificial falham em adotar precauções adequadas durante a criação de novas tecnologias.
Críticas ao modelo de desenvolvimento acelerado
Em artigo publicado recentemente na imprensa norte-americana, David Robinson apontou que a pressa para lançar inovações eleva consideravelmente a probabilidade de erros graves. Com três anos e meio de experiência na organização que desenvolveu o ChatGPT, ele participou da supervisão de riscos em doze lançamentos de modelos.
Segundo o profissional, o setor deveria abandonar a estratégia de tentativa e erro, equiparando os protocolos de segurança aos de indústrias altamente reguladas, como a aviação comercial e a geração de energia nuclear.
O problema da implantação iterativa
Robinson cuestionou a metodologia conhecida como implantação iterativa, modelo no qual os produtos são disponibilizados ao público e as barreiras de proteção são ajustadas apenas após o surgimento de falhas. Para ele, a transição veloz entre um projeto e outro impede que a companhia atinja o padrão prudente exigido pela tecnologia.
O especialista também destacou que a evolução das capacidades algorítmicas supera o avanço científico na área de alinhamento, responsável por garantir que as máquinas operem de acordo com valores humanos fundamentais.
Histórico de alertas na indústria
O posicionamento de Robinson ecoa manifestações recentes de outros profissionais do mercado. No mês passado, um ex-pesquisador que atuou tanto na OpenAI quanto na concorrente Anthropic abandonou o setor com advertências severas sobre o avanço rumo à superinteligência.
Em resposta às acusações, um porta-voz da OpenAI declarou que a instituição adota medidas para conter o desenvolvimento de modelos caso perceba riscos superiores à sua capacidade de controle, incluindo a interrupção temporária de treinamentos.
