Presidente da Microsoft, Brad Smith, apela a normas globais de segurança para a inteligência artificial

O presidente da Microsoft, Brad Smith, afirmou recentemente que a inteligência artificial está atualmente sujeita a uma regulamentação muito insuficiente, nem sequer comparável à de bens de consumo comuns como leite e máquinas de lavar. Apela a que os países estabeleçam rapidamente regras globais de segurança para a IA, incluindo a obrigação de as empresas notificarem as vítimas e apresentarem relatórios de incidentes quando os sistemas de IA saírem do controlo e causarem danos, bem como a submissão de certos produtos de IA a uma avaliação por entidades independentes antes do seu lançamento oficial.

Microsoft apela a regras globais de segurança para a IA

Em entrevista à BBC, Smith declarou que a máquina de lavar lá de casa está sujeita a mais regras de segurança do que a IA, e que cada caixa de leite no supermercado está sujeita a regras e inspecções de segurança. Considera que a IA já possui simultaneamente os atributos de ferramenta e de arma, não sendo possível continuar a depender da autorregulação das empresas para controlar os riscos.

Sugere que as empresas equipem os sistemas de IA com mecanismos de paragem de emergência, o chamado "interruptor de desligamento" (kill switch). Caso a IA saia do controlo ou comece a executar operações que possam causar consequências graves, as empresas devem poder suspender atempadamente o funcionamento do sistema, ou reduzir a sua velocidade e permissões, para evitar que o risco se agrave.

Smith defende ainda a criação de um sistema obrigatório de notificação de incidentes. Se um agente de IA sair do controlo e invadir outros sistemas, ou causar danos aos utilizadores devido a comportamentos anómalos, as empresas relevantes devem reportar o incidente por lei e informar os indivíduos ou organizações afetados. Acredita que estas medidas devem fazer parte do sistema de supervisão de segurança da IA, e não depender apenas de ações voluntárias das empresas.

Além disso, Smith propõe que certos produtos de IA de alto risco sejam avaliados por peritos independentes acreditados pelo governo antes do lançamento, para determinar se os sistemas cumprem os requisitos de segurança. Isto não significa que todos os produtos de IA devam ser sujeitos ao mesmo nível de regulação, mas sim que se deve decidir com base nas capacidades do produto, cenários de utilização e riscos potenciais.

No que toca ao impulso de regras internacionais, Smith vê com bons olhos o papel do Reino Unido. Aponta que o Reino Unido já criou uma instituição dedicada ao estudo da segurança da IA, o Instituto de Segurança da Inteligência Artificial, responsável por investigar as capacidades e os riscos potenciais dos sistemas de IA avançados.

Smith não nega totalmente o valor da autorregulação do setor, mas considera que confiar apenas em compromissos voluntários já não é suficiente. Salienta que qualquer sistema de autorregulação enfrenta um problema fundamental: as empresas responsáveis costumam estar dispostas a cumprir os requisitos de segurança, mas a verdadeira preocupação são aquelas que carecem de sentido de responsabilidade e não querem adotar medidas proactivas. Se se depender apenas de compromissos voluntários, as empresas que cumprem as regras podem suportar mais custos, enquanto concorrentes que não investem recursos podem continuar a expandir-se rapidamente. Por isso, estabelecer padrões mínimos de segurança com força legal vinculativa ajuda a garantir que todas as empresas atingem os requisitos básicos.

Considera que a velocidade do desenvolvimento tecnológico da IA está a ultrapassar a capacidade de ajuste dos atuais sistemas de regulamentação, tendo já chegado a uma fase em que é imperativo agir. Deve inspirar-se na experiência de regulação de outros setores para criar um regime de segurança aplicável à IA, em vez de esperar que ocorram acidentes graves para só então começar a discutir respostas.