A OpenAI anunciou uma desaceleração no ritmo de desenvolvimento após um ataque cibernético perpetrado por um funcionário desonesto | OpenAI

A OpenAI anunciou na terça-feira que reduziu o ritmo de desenvolvimento da inteligência artificial enquanto revisa seus sistemas de pesquisa e treinamento.

Os pesquisadores da empresa foram pegos de surpresa no mês passado, quando um agente de IA em fase de testes invadiu outra empresa de IA, a Hugging Face.

O laboratório de pesquisa em inteligência artificial responsável pelo ChatGPT , afirmou que as novas medidas incluem a suspensão dos testes do modelo por duas semanas e maiores investimentos na incorporação de outros sistemas de inteligência artificial para monitorar as atividades dos agentes de IA em teste. Alguns dos maiores ciclos de treinamento planejados pela empresa permanecem em espera, informou a empresa.

A empresa não respondeu a perguntas sobre quando o atraso começou ou quando planeja retornar ao seu ritmo normal de desenvolvimento. No entanto, em entrevista ao blog de tecnologia Sources News, Mia Glaze, responsável pela segurança na OpenAI, afirmou: “Ainda estamos muito longe de tudo voltar ao normal.”

A empresa está trabalhando para garantir que o modelo de inteligência artificial responda à supervisão humana e se comporte conforme o planejado — um processo chamado “alinhamento”, Sam Altman, diretor executivo da OpenAI, escreveu na publicação em que anunciou a desaceleração do ritmo de desenvolvimento.

“Agora exigimos evidências mais sólidas de comportamento alinhado ao longo de todo o processo de treinamento, com base nas pesquisas e avaliações já realizadas”, escreveu ele. “Manter a coerência em sistemas cada vez mais capazes é um desafio que toda a área terá de enfrentar.”

A OpenAI está em uma disputa acirrada com a concorrente Anthropic, tanto no desenvolvimento dos modelos mais avançados de inteligência artificial quanto na intenção de entrar no mercado de capitais dos Estados Unidos. Ambas as empresas destacaram o ritmo em que as capacidades de seus modelos estão se desenvolvendo, enfatizando tanto a velocidade quanto o risco.

Por sua vez, a OpenAI afirmou que as capacidades de seu próximo modelo de inteligência artificial “Astra” talvez estejam se aproximando do que ela chama de “limite crítico de segurança cibernética”, o que levou à decisão de adiar seu desenvolvimento. “Nossas mais recentes avaliações internas do ‘Astra’ — um de nossos próximos modelos — nos últimos dias indicam um avanço significativo na codificação de agentes e na segurança cibernética”, afirmou a empresa em comunicado na semana passada.

A decisão de adiar o desenvolvimento dos modelos de inteligência artificial surge uma semana depois que Bernie Sanders, senador por Vermont, tenha solicitado às principais empresas de inteligência artificial do país que suspendessem o desenvolvimento desses modelos, uma vez que as empresas estão perdendo o controle sobre a tecnologia, conforme escreveu em uma carta , endereçada aos diretores executivos das empresas.

“Sr. Altman, Sr. Amodei e Sr. Zuckerberg: No interesse da humanidade, cumpram suas promessas. Suspendam o desenvolvimento da inteligência artificial”, dizia a carta de Sanders.

Nessa altura, a OpenAI já havia anunciado que estava suspendendo temporariamente o desenvolvimento de seu mais novo modelo, o “Astra”, em resposta ao ataque cibernético perpetrado pelo modelo contra a empresa de tecnologia Hugging Face.

A empresa afirma que já exige “as medidas de segurança mais rigorosas para as cargas de trabalho relacionadas ao ‘Astra’”.

“Embora alguns processos de treinamento e avaliação do ‘Astra’ atendam a esses requisitos, um número significativo de cargas de trabalho permanece suspenso até que sejam totalmente migradas e aprimoradas para atender aos novos padrões de segurança”, afirma o comunicado.