Os AI Chatbots sabem como criar armas biológicas vivas. Algo vai te ensinar.

depois OpenAI Expandindo a capacidade intelectual do seu chatbot no verão passado, centenas de usuários em todo o mundo começaram a perguntar como criar e implantar armas biológicas e venenos.

O modelo, em grande parte livre de restrições do governo dos EUA, respondeu pacientemente, emitindo instruções passo a passo descritas pelos funcionários da empresa, simples o suficiente para serem seguidas por um estudante de biologia do ensino médio. Biólogos e especialistas em terrorismo analisaram posteriormente as trocas do ChatGPT e descobriram que algumas eram perigosamente precisas, disseram pessoas familiarizadas com o assunto. De acordo com a OpenAI, a maioria das perguntas era sobre a criação de veneno.

A OpenAI baniu essas e outras contas de usuários que foram questionadas sobre como os venenos e as armas biológicas foram criadas, mas não alertou as autoridades. Os EUA não têm nenhuma lei federal que exija que as empresas de IA limitem ou divulguem questões sobre o desenvolvimento de armas ou planos para criar ameaças à segurança.

A ausência de salvaguardas obrigatórias coincide com uma onda de perguntas de utilizadores que perguntam aos modelos de IA como matar em grande número – e chatbots que respondem com planos credíveis para ataques em massa, de acordo com actuais e antigos funcionários dos principais laboratórios de IA, incluindo a OpenAI, bem como conselheiros políticos e investigadores que estudam armas biológicas.