Cientistas acreditam que o risco de IA criar armas biológicas é limitado, mas alertam para o seu uso por criminosos.

Com o contínuo aprimoramento das capacidades da IA generativa, as preocupações sobre "desastres biológicos provocados pela IA" aumentaram significativamente recentemente. Anteriormente, vários líderes de empresas de IA pediram um reforço na regulamentação da fabricação de DNA sintético, e pesquisadores da Universidade de Stanford e do Arc Institute também demonstraram que a IA pode projetar novos genomas virais, o que ampliou ainda mais a discussão sobre "IA criando patógenos mortais".

No entanto, vários cientistas acreditam que a ameaça real da IA em relação a armas biológicas ainda é bastante limitada. Os pesquisadores apontam que a IA é mais uma ferramenta para acelerar a pesquisa e a organização de informações, e não altera fundamentalmente os principais desafios no desenvolvimento de armas biológicas. O verdadeiro obstáculo ainda reside na fase experimental, incluindo a obtenção de fragmentos genéticos, a montagem de genomas completos a partir do zero, a verificação de sua capacidade de infectar humanos e se espalhar entre a população, bem como os materiais, equipamentos e conhecimentos especializados necessários.

A ameaça da IA no desenvolvimento de armas biológicas ainda é limitada

Do ponto de vista da execução em laboratório, neste momento, a IA também tem dificuldade em completar os processos relevantes de forma independente. O responsável pela empresa de biotecnologia Ginkgo Bioworks afirmou que, mesmo que a IA possa participar dos processos experimentais, ainda precisa que humanos forneçam equipamentos, reagentes e suporte operacional, e a revisão por parte de pessoal é uma limitação importante. Alguns especialistas também acreditam que, mesmo que surjam IAs gerais mais poderosas no futuro, os pesquisadores humanos ainda poderão responder através do desenvolvimento de vacinas e sistemas de controle.

Há também opiniões que alertam que, a curto prazo, o que merece mais atenção não é a IA lançando ataques biológicos de forma independente, mas sim seu uso por indivíduos mal-intencionados. Especialistas relacionados acreditam que, embora laboratórios totalmente autônomos ainda não sejam comuns, a IA pode reduzir algumas barreiras em termos de integração de informações, decomposição de tarefas e assistência na execução, portanto, não se pode ignorar a possibilidade de seu uso em atividades de terrorismo biológico. Outros pesquisadores apontam que armas biológicas, por si mesmas, não são uma forma eficiente de ataque; a dificuldade reside na fabricação e controle de disseminação precisa e em larga escala, sendo que a complexidade da operação muitas vezes é maior do que a de métodos de ataque tradicionais.