صراع بين OpenAI وأنثروبيك حول نشر مخاطر الـAI.. هل تتحكم الشركات في نتائج تقييم نماذجها؟

كشف تحقيق صحفي عن خلافات بين شركتى OpenAI وأنثروبيك والجهات المكلفة بفحص نماذج الذكاء الاصطناعي، بشأن حدود استقلال هذه الجهات وحقها في نشر نتائج الاختبارات دون الحصول على موافقة الشركات المطورة، في وقت تتزايد فيه المخاوف من قدرة الأنظمة المتقدمة على تنفيذ تصرفات تتجاوز التعليمات البشرية.

وأوضحت وكالة رويترز في تحقيق نشرته اليوم أن الشركتين سعتا خلال المفاوضات مع جهات التقييم إلى فرض قيود على المعلومات التي يمكن الكشف عنها، بدعوى حماية الأسرار التجارية والملكية الفكرية، رغم تأكيدهما في تصريحات سابقة أهمية استقلال الجهات التي تتولى تقييم سلامة نماذج الذكاء الاصطناعي.

وتشمل الخلافات إمكانية وجود موظفين من الشركات المطورة أثناء إجراء الاختبارات، ومنع بعض المقيمين من العمل بالتزامن مع شركات منافسة، إضافة إلى اشتراط الموافقة على نشر معلومات قد تعتبرها الشركات سرية.

من يقرر المعلومات التي يحق للجمهور معرفتها؟

تكمن المشكلة في احتمال تداخل المعلومات المتعلقة بمخاطر النماذج مع التفاصيل التقنية التي تعتبرها الشركات أسرارًا تجارية، وهو ما يثير تساؤلات بشأن قدرة الجهات المكلفة بالتقييم على كشف الأخطاء التي قد تهدد المستخدمين أو المؤسسات.

ونقلت رويترز عن أنثروبيك تأكيدها أن المقيمين الذين سبق لها التعاون معهم يمتلكون حرية تحديد أساليب الفحص ونتائجه، لكنها تحتفظ بحق مراجعة تقارير الجهات التي تتعاون معها للمرة الأولى والموافقة عليها، أما OpenAI فنفت سعيها إلى الحصول على حق الموافقة على النص الكامل للتقارير، وأوضحت أن إجراءاتها تركز على حذف المعلومات السرية، مع السماح للمقيمين بالكشف عن إجراء تعديلات جوهرية على التقارير.

ويأتي التحقيق في ظل مطالبة أكثر من 200 باحث بوضع ضمانات لاستقلال الجهات التي تفحص نماذج الذكاء الاصطناعي، حتى لا تصبح الشركات المطورة هي الطرف الذي يحدد ما يمكن اختباره وما يجوز نشره للجمهور.