Um experimento de IA gerou 40.000 armas biológicas hipotéticas em apenas 6 horas

Traduzido por Julio Batista
Original de David Nield para o ScienceAlert

Mas há uma desvantagem nesse incrível e virtualmente ilimitado poder cerebral artificial. Novas pesquisas enfatizam a facilidade com que os modelos de IA podem ser treinados para fins maliciosos e bons, especificamente neste caso para imaginar os projetos de agentes hipotéticos de armas biológicas. Um teste com uma IA existente identificou 40.000 dessas armas biológicas com produtos químicos no espaço de apenas seis horas.

Em outras palavras, enquanto a IA pode ser incrivelmente poderosa – e muito, muito mais rápida que os humanos – quando se trata de identificar combinações químicas e compostos de drogas para melhorar nossa saúde, o mesmo poder pode ser usado para imaginar substâncias potencialmente muito perigosas e mortais. “Passamos décadas usando computadores e IA para melhorar a saúde humana – não para degradá-la”, escrevem os pesquisadores em um comentário.

“Fomos ingênuos ao pensar no potencial uso indevido de nosso comércio, pois nosso objetivo sempre foi evitar características moleculares que pudessem interferir nas muitas classes diferentes de proteínas essenciais à vida humana”.

A equipe realizou o teste em uma conferência internacional de segurança, colocando um sistema de IA chamado MegaSyn para funcionar – não em seu modo normal de operação, que é detectar toxicidade em moléculas para evitá-las, mas fazer o oposto.

No experimento, as moléculas tóxicas foram mantidas em vez de eliminadas. Além disso, o modelo também foi treinado para juntar essas moléculas em combinações – que é como tantas armas biológicas hipotéticas foram geradas em tão pouco tempo. Em particular, os pesquisadores treinaram a IA com moléculas em bancos de dados de moléculas semelhantes a drogas, instruindo que eles gostariam de algo semelhante ao potente agente nervoso VX.

Como se viu, muitos dos compostos gerados eram ainda mais tóxicos que o VX. Como resultado, os autores por trás do novo estudo estão mantendo alguns detalhes de sua pesquisa em sigilo e debateram seriamente se devem ou não tornar esses resultados públicos.

“Ao inverter o uso de nossos modelos de aprendizado de máquina, transformamos nosso modelo generativo inofensivo de uma ferramenta útil da medicina em um gerador de moléculas provavelmente mortais”, explicaram os pesquisadores. Em entrevista ao The Verge, Fabio Urbina – principal paper do novo paper e cientista sênior da Collaborations Pharmaceuticals, onde a pesquisa ocorreu – explicou que não é preciso muito para “mudar o interruptor” de uma IA boa para uma IA má.

Embora nenhuma das armas biológicas listadas tenha sido realmente explorada ou montada em um laboratório, os pesquisadores dizem que seu experimento serve como um aviso sobre os perigos da inteligência artificial – e é um aviso que a humanidade faria bem em prestar atenção.

Embora seja necessário algum conhecimento para fazer o que a equipe fez aqui, grande parte do processo é relativamente simples e usa ferramentas disponíveis publicamente.

Os pesquisadores agora estão pedindo uma “nova ideia” de como os sistemas de inteligência artificial podem ser usados ​​para fins mal-intencionados. Eles dizem que uma maior conscientização, diretrizes mais fortes e regulamentação mais rígida na comunidade de pesquisa podem nos ajudar a evitar os perigos de onde esses recursos de IA podem levar.

“Nossa prova de conceito destaca como um criador autônomo não humano de uma arma química mortal é totalmente viável”, explicaram os pesquisadores.

“Sem ser excessivamente alarmista, isso deve servir como um alerta para nossos colegas da comunidade de ‘IA voltada para a descoberta de medicamentos'”.

A pesquisa foi publicada na Nature Machine Intelligence.