OpenAI أعلنت اليوم عن كيفية امتثالها لقانون الذكاء الاصطناعي في الاتحاد الأوروبي، والذي يتطلب من مقدمي أنظمة الذكاء الاصطناعي التوليدية وضع علامات على النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي بطريقة يمكن التعرف عليها. فيما يلي التفاصيل المحددة.
فيما يتعلق بالخلفية، أثارت شركة Anthropic الجدل قبل عدة أشهر عندما أعلنت أنها ستبدأ في وضع علامة مائية على النصوص من خلال تعديل طفيف في اختيار الكلمات، وذلك امتثالًا لقانون الذكاء الاصطناعي في الاتحاد الأوروبي. باختصار، يقوم Claude أحيانًا باختيار الكلمات المتشابهة المعنى بناءً على نمط مخفي، وأفادت Anthropic أن هذا لا يؤثر بشكل جوهري على معنى أو جودة أو قابلية قراءة ردودها. كما طورت Anthropic أداة للكشف يمكنها البحث عن هذا النمط في النصوص وتحديد ما إذا كان النص قد يكون صادرًا عن Claude.
لا يمكن استخدام هذا الكاشف لتحديد ما إذا كان النص من OpenAI أو من منافسين آخرين، لأن علامة Claude المائية تم إنشاؤها باستخدام مفتاح سري خاص بنظام Anthropic.
في ذروة الجدل، أكدت Anthropic أن Claude ليس وحيدًا، مشيرة إلى أن عددًا من مقدمي خدمات الذكاء الاصطناعي الرئيسيين الآخرين يقومون أيضًا بتنفيذ أنظمة تصنيف للامتثال لمتطلبات الاتحاد الأوروبي. اليوم، أعلنت OpenAI عن حلها الخاص، وعلى الرغم من استخدام نهج مشابه، إلا أن نطاقه وحجمه محدودان نسبيًا.
ستقوم OpenAI بإضافة علامات مائية لـ ChatGPT و Codex خلال الأسابيع القليلة المقبلة
وفقًا لـ OpenAI، "سيكون بإمكان عملاء API في جميع أنحاء العالم اختيار تفعيل علامة مائية نصية للنماذج المحددة"، حيث ستقوم الشركة "في الأسابيع المقبلة بإضافة علامات مائية غير مرئية لمخرجات نصوص ChatGPT وCodex المؤهلة"، مما يعني أن علامة المياه النصية في API لا تزال مغلقة بشكل افتراضي، أما بالنسبة لـ ChatGPT وCodex، فستكون في البداية متاحة فقط للمستخدمين المؤهلين في الاتحاد الأوروبي.
فتحت OpenAI أيضًا باب التقديم للوصول إلى أداة الكشف عن العلامات المائية للنصوص، في البداية سيكون ذلك محدودًا للباحثين المعتمدين والمؤسسات المهنية، مع تقييم الشركة وتحسينها لهذه التقنية. فيما يتعلق بالدقة، أوضحت OpenAI أن تقنية الكشف لا تزال تعاني من قيود كبيرة، وقد تنتج عنها نتائج سلبية كاذبة وإيجابية كاذبة، خاصة في النصوص القصيرة أو المحتويات في مجالات معينة، "مثل الرياضيات، بسبب قلة المرونة في اختيار الكلمات."
ذكرت OpenAI تقنيتها لتضمين النصوص textGrain، التي تضيف إشارة إحصائية غير مرئية إلى كلمات النموذج. يبحث الكاشف عن هذه الإشارة لتقييم ما إذا كانت قطعة نصية تحتوي على علامة مائية من OpenAI. يمكن العثور على مزيد من التفاصيل حول كيفية عمل textGrain في تقريرنا الفني، الذي سيتم تحديثه بمزيد من التفاصيل في الأسابيع المقبلة. نحن نخطط أيضًا لجعل هذه التقنية مفتوحة المصدر حتى يتمكن الآخرون من تطويرها بناءً على ذلك.
أشارت الشركة أيضًا إلى أنه بالإضافة إلى صعوبة الكشف عنها في الفقرات القصيرة، يمكن للمحررين أن يضعفوا العلامة المائية بشكل كبير: عند تقييم 400 فقرة معلمة، انخفض معدل الكشف من حوالي 92% إلى 66% عند استبدال 10% من الكلمات بمرادفات. وعندما تم استبدال 25% من الكلمات، انخفض معدل الكشف إلى 17%. ومن المثير للاهتمام أن مقارنة OpenAI بين النصوص المائية وغير المائية أظهرت أن المخرجات المائية سجلت في الواقع درجات أعلى قليلاً في عدة اختبارات معيارية، على الرغم من أن الشركة أفادت بعدم وجود اختلافات ذات دلالة معنوية في الأداء العام.
المعيار نص غير مائي (Astra, max) نص مائي (Astra, max) مؤشر الذكاء الاصطناعي التحليلي 49.57 نقطة 49.76 نقطة المعيار الآلي 34.09% 34.86% DeepSWE v1.1 72.80% 71.68% المعيار النهائي 4.0 53.90% 56.06% المعيار النهائي العلمي 0.1 56.90% 60.00% BrowseComp 87.92% 87.35%
أكدت OpenAI أيضًا أنه بالإضافة إلى نقص النتائج الإيجابية الكاذبة والسلبية الكاذبة، فإن العلامة المائية "لا تقيس المساهمة البشرية"، "لا تؤسس الملكية أو المسؤولية"، "لا تحدد المستخدمين"، و"لا تتحقق من الدقة". وأضافت OpenAI أن "عدم اكتشاف العلامة المائية لا يعني أنها من تأليف إنسان". وفي الختام، ذكرت الشركة أنه مع تطور التكنولوجيا والمعايير والأدلة، تتوقع إعادة النظر في أساليبها، مع الاستمرار في دراسة ما إذا كانت العلامات المائية يمكن أن تعيش بشكل أفضل في التحرير والترجمة، وما إذا كانت تستطيع تمييز المساعدة من الذكاء الاصطناعي عن الإبداع من الذكاء الاصطناعي بشكل أكثر معنى.
اقرأ المقال الأصلي على techritual.com (بالصينية التقليدية) →
The TechRitual editorial desk in Hong Kong. Articles on TechRitual World are translated from the Traditional Chinese originals on techritual.com.