رئيس مايكروسوفت براد سميث يدعو إلى إنشاء معايير تنظيمية عالمية لسلامة الذكاء الاصطناعي

أعلن رئيس مايكروسوفت براد سميث مؤخرًا أن الذكاء الاصطناعي يخضع حاليًا لتنظيم أقل بكثير مما ينبغي، بل وأقل حتى من المنتجات الاستهلاكية العادية مثل الحليب والغسالات. ودعا الدول إلى إنشاء قواعد سلامة عالمية للذكاء الاصطناعي في أسرع وقت ممكن، بما في ذلك مطالبة الشركات بإخطار الضحايا وتقديم تقارير الحوادث عند خروج أنظمة الذكاء الاصطناعي عن السيطرة وتسببها في أضرار، بالإضافة إلى خضوع بعض منتجات الذكاء الاصطناعي لمراجعة هيئات تقييم مستقلة قبل إطلاقها رسميًا.

مايكروسوفت تدعو إلى إنشاء قواعد سلامة عالمية للذكاء الاصطناعي

أوضح سميث في مقابلة مع هيئة الإذاعة البريطانية (BBC) أن الغسالات المنزلية تخضع لقواعد سلامة أكثر من الذكاء الاصطناعي، وأن كل علبة حليب في متجر البقالة تخضع لقواعد سلامة وفحوصات. واعتبر أن الذكاء الاصطناعي أصبح يمتلك صفة مزدوجة كأداة وسلاح في آن واحد، ولا يمكن الاستمرار في الاعتماد على الانضباط الذاتي للشركات للسيطرة على المخاطر.

واقترح أن تقوم الشركات بتركيب آلية كبح طارئة لأنظمة الذكاء الاصطناعي، وهو ما يُعرف في الصناعة بـ «مفتاح الإيقاف». فإذا خرج الذكاء الاصطناعي عن السيطرة، أو شرع في تنفيذ عمليات قد تؤدي إلى عواقب وخيمة، يجب أن تتمكن الشركات من تعليق تشغيل النظام في الوقت المناسب، أو تقليل سرعة تشغيله وصلاحياته، لمنع تفاقم المخاطر.

كما دعا سميث إلى إنشاء نظام إلزامي للإبلاغ عن الحوادث. فإذا خرج وكيل الذكاء الاصطناعي عن السيطرة وتسلل إلى أنظمة أخرى، أو تسبب في أضرار للمستخدمين بسبب سلوك غير طبيعي، يجب على الشركات المعنية الإبلاغ عن الحادث بموجب القانون، وإبلاغ الأفراد أو المنظمات المتأثرة. ويرى أن هذه التدابير يجب أن تصبح جزءًا من نظام تنظيم سلامة الذكاء الاصطناعي، ولا يمكن الاعتماد فقط على الإجراءات الطوعية للشركات.

بالإضافة إلى ذلك، اقترح سميث أن تخضع بعض منتجات الذكاء الاصطناعي عالية المخاطر لمراجعة مقيمين مستقلين معتمدين من الحكومة قبل إطلاقها، لتقييم ما إذا كانت الأنظمة تلبي متطلبات السلامة. وهذا لا يعني أن جميع منتجات الذكاء الاصطناعي يجب أن تخضع لنفس مستوى التنظيم، بل يجب أن يُحدد ذلك بناءً على قدرات المنتج، وسيناريوهات الاستخدام، والمخاطر المحتملة.

وفيما يتعلق بدفع القواعد الدولية، يرى سميث أن المملكة المتحدة تلعب دورًا مهمًا. وأشار إلى أن المملكة المتحدة قد أنشأت مؤسسة متخصصة في دراسة قضايا سلامة الذكاء الاصطناعي، وهي معهد سلامة الذكاء الاصطناعي، المكلف بدراسة قدرات أنظمة الذكاء الاصطناعي المتقدمة ومخاطرها المحتملة.

ولا ينفي سميث تمامًا قيمة الانضباط الذاتي في الصناعة، لكنه يرى أن الاعتماد فقط على التعهدات الطوعية لم يعد كافيًا. وأشار إلى أن أي نظام للتنظيم الذاتي يواجه مشكلة جوهرية: فالشركات المسؤولة عادة ما تكون على استعداد للالتزام بمتطلبات السلامة، أما الشركات التي تفتقر إلى الوعي بالمسؤولية وترفض اتخاذ إجراءات استباقية فهي التي تثير القلق الحقيقي. فإذا اعتمدنا فقط على التعهدات الطوعية، قد تتحمل الشركات الملتزمة بالقواعد تكاليف أكبر، بينما قد يستمر المنافسون غير الراغبين في استثمار الموارد في التوسع السريع. لذلك، فإن إنشاء معايير سلامة دنيا ملزمة قانونيًا يساعد في ضمان التزام جميع الشركات بالحد الأدنى من المتطلبات.

ويرى أن سرعة التطور التكنولوجي للذكاء الاصطناعي تتجاوز سرعة تعديل أنظمة التنظيم الحالية، وقد وصلنا إلى مرحلة يجب فيها اتخاذ إجراءات. وينبغي الاستفادة من خبرات التنظيم في الصناعات الأخرى، وإنشاء نظام سلامة يناسب الذكاء الاصطناعي، بدلاً من الانتظار حتى وقوع حوادث خطيرة لبدء مناقشة سبل المواجهة.