El presidente de Microsoft, Brad Smith, insta a establecer normas globales de seguridad para la inteligencia artificial

El presidente de Microsoft, Brad Smith, declaró recientemente que la inteligencia artificial actualmente está mucho menos regulada que incluso productos de consumo comunes como la leche y las lavadoras. Instó a los países a establecer rápidamente normas globales de seguridad para la IA, incluyendo la obligación de que las empresas notifiquen a las víctimas y presenten informes de incidentes cuando los sistemas de IA se descontrolen y causen daños, así como someter ciertos productos de IA a la revisión de organismos de evaluación independientes antes de su lanzamiento oficial.

Microsoft insta a establecer normas globales de seguridad para la IA

En una entrevista con la BBC, Smith afirmó que las lavadoras domésticas están sujetas a más normas de seguridad que la IA, y que cada cartón de leche en una tienda de comestibles está sujeto a normas y controles de seguridad. Considera que la IA ya posee una doble naturaleza de herramienta y arma, por lo que no se puede seguir dependiendo de la autorregulación empresarial para controlar los riesgos.

Sugirió que las empresas implementen un mecanismo de frenado de emergencia para los sistemas de IA, lo que en la industria se conoce como «interruptor de apagado». Una vez que la IA muestre signos de pérdida de control o comience a ejecutar operaciones que puedan tener consecuencias graves, las empresas deberían poder pausar la ejecución del sistema de manera oportuna, o reducir su velocidad y permisos, para evitar que el riesgo se amplíe aún más.

Smith también aboga por establecer un sistema obligatorio de notificación de incidentes. Si un agente de IA pierde el control e invade otros sistemas, o causa daños a los usuarios debido a un comportamiento anómalo, las empresas correspondientes deberían informar del incidente por ley y notificar a las personas u organizaciones afectadas. Considera que estas medidas deberían formar parte del sistema de supervisión de seguridad de la IA, y no depender únicamente de acciones voluntarias de las empresas.

Además, Smith propone que ciertos productos de IA de alto riesgo sean revisados por evaluadores independientes acreditados por el gobierno antes de su lanzamiento, para determinar si los sistemas cumplen con los requisitos de seguridad. Esto no significa que todos los productos de IA deban someterse al mismo nivel de regulación, sino que debería decidirse en función de las capacidades del producto, los escenarios de uso y los riesgos potenciales.

En cuanto al impulso de normas internacionales, Smith ve con buenos ojos el papel del Reino Unido. Señaló que el Reino Unido ha establecido una institución dedicada a investigar la seguridad de la IA, el Instituto de Seguridad de la Inteligencia Artificial, encargado de estudiar las capacidades y los riesgos potenciales de los sistemas avanzados de IA.

Smith no niega por completo el valor de la autorregulación del sector, pero considera que confiar únicamente en compromisos voluntarios ya no es suficiente. Señala que cualquier sistema de autorregulación se enfrenta a un problema fundamental: las empresas responsables suelen estar dispuestas a cumplir los requisitos de seguridad, pero la verdadera preocupación son aquellas que carecen de conciencia de responsabilidad y no quieren adoptar medidas proactivas. Si solo se depende de compromisos voluntarios, las empresas que cumplen las normas pueden asumir más costes, mientras que los competidores que no quieren invertir recursos podrían seguir expandiéndose rápidamente. Por tanto, establecer estándares mínimos de seguridad con fuerza legal vinculante ayuda a garantizar que todas las empresas cumplan los requisitos básicos.

Considera que la velocidad del desarrollo tecnológico de la IA está superando la capacidad de ajuste de los sistemas de regulación existentes, y que ha llegado el momento de actuar. Se debería aprender de la experiencia regulatoria de otros sectores para establecer un sistema de seguridad aplicable a la IA, en lugar de esperar a que ocurran accidentes graves para empezar a debatir la respuesta.