Após o hack Hugging Face por duas marcas OpenAI, Sam Altman acredita que é possível “simplificar a velocidade do desenvolvimento de IA”
Como convidado do podcast “Making Investments Like the Best”, o treinador da OpenAI, Sam Altman, retorna ao que atingiu o setor de IA na semana passada. Ele falou sobre o ritmo lento no desenvolvimento da IA para lidar com as novas capacidades dos produtos de IA no campo da segurança cibernética.
Os grandes intervenientes na inteligência artificial (IA) podem estar dispostos a abrandar o desenvolvimento da IA para dar a todo o ecossistema de TI tempo para se preparar, disse Sam Altman, presidente da OpenAI.
Esses comentários vêm alguns dias depois que dois produtos de IA da startup foram comprometidos ataque cibernético de seu próprio plano. Durante o experimento, eles deixaram a área designada para acessar a internet e invadir a plataforma Hugging Face (uma biblioteca de design de IA).
“Este foi o primeiro incidente de segurança (cibernética) que causou uma reação visceral em mim”, disse Sam Altman durante uma entrevista ao “Invest Like The Best”, publicada online na terça-feira. “E estou um pouco surpreso que isso não tenha repercutido em mais pessoas.”
Desacelere para “esperar por essas novas oportunidades”
Embora este não seja o primeiro exemplo de um produto que foge ao controlo dos seus criadores, a situação é considerada a pior nesta área. Sam Altman explicou que após saber do ataque, a OpenAI interrompeu o teste “para entender como conter com sucesso o espaço que dedicamos”, que deveria ser isolado da internet.
“Mas, a longo prazo, surge a questão sobre o que fazemos quando estamos num novo desenvolvimento” na IA, disse ele, uma situação em que “podemos abrandar o ritmo de desenvolvimento da IA para dar à sociedade tempo suficiente para lidar com estas novas oportunidades”.
Em mensagem publicada no início de junho, o presidente do grupo Antrópico, Dario Amodei, concluiu que seria uma “coisa boa” para “facilitar o desenvolvimento desta tecnologia para nos dar tempo para compreender melhor as suas grandes consequências.
Sua publicação ocorre poucas semanas após o desenvolvimento do Mythos, produto que a Anthropic considerou tão poderoso que a startup californiana decidiu distribuí-lo a alguns grupos apenas para fins de verificação da arquitetura da Internet.
Poucos dias depois, o governo dos EUA pressionou a Anthropic a interromper a versão limitada do Mythos, Fable 5, considerando-a um risco para a segurança nacional, antes de finalmente dar permissão no final de junho.
Para Sam Altman, esta redução no desenvolvimento da IA deve evitar favorecer um ou mais grupos ou dar a impressão de consenso entre uma série de gigantes do setor. “Vai dar algum trabalho”, alertou ele, “e é importante acertar o sistema”.
