كيفية إنقاذ روح OpenAI غير الربحية، وفقًا لموظف سابق في OpenAI

(SeaPRwire) –   إنّ OpenAI ليست شركة عادية. تأسست كمنظمة غير ربحية في عام 2015، وتوقعت أن الذكاء الاصطناعي يمكن أن “يصل إلى الأداء البشري في كل مهمة فكرية تقريبًا”، مما يخلق الحاجة إلى منظمة “تبني قيمة للجميع بدلاً من المساهمين”.

في السنوات التالية، أصبح تطوير الذكاء الاصطناعي ، لذلك في عام 2019، أنشأت OpenAI يمكن أن تجمع رأس المال الاستثماري مع البقاء ملزمة بالمهمة الخيرية للمنظمة غير الربحية.

في ذلك الوقت تقريبًا من هذا الانتقال انضممت إلى الشركة كباحث مبتدئ. كان فريقي في OpenAI يركز على : وهي عملية يتفاعل فيها نظام الذكاء الاصطناعي مع بيئة محاكاة، ويتعلم التحسين من خلال التجربة والخطأ. طبقنا هذه الطريقة أولاً على ألعاب الفيديو، ثم على نماذج اللغة الكبيرة، وقمنا بتشكيلها باستخدام ملاحظات بشرية في إصدارات مبكرة من ChatGPT. يتم استخدام نفس التقنيات اليوم لتدريب الأنظمة التي يستمتع بها مئات الملايين من المستخدمين.

استند عملي وعمل فريقي إلى الالتزام الرئيسي الذي قطعته OpenAI في انتقالها عام 2019: واجب ملزم قانونًا بوضع مصالح الجمهور قبل مصالح المستثمرين. لكن هذا الالتزام مهدد الآن، حيث تسعى OpenAI التي من شأنها إزالة القيود المفروضة على أرباح المستثمرين و التزاماتها تجاه مهمتها الخيرية.

من المغري الاستجابة لهذا الأمر بسخرية، عن طريق تجاهله: بمجرد أن يكون هناك ما يكفي من المال على المحك، كان تحول المنظمة من منظمة غير ربحية تضع المهمة في المقام الأول إلى شركة تقنية كبيرة أمرًا حتميًا. لكن مثل هذه الرواية تبرئ الشركة من التراجع عن وعودها للجمهور. علاوة على ذلك، لا تزال خطط إعادة هيكلة OpenAI من المسؤولين المنتخبين، لذلك لدى الجمهور سبب وحق للدفاع عن مصالحه.

ما زلت أمتلك أسهمًا في OpenAI، ولكن على الرغم من هذا المصلحة المكتسبة في النجاح المالي للمنظمة، أعتقد أن مصالح الجمهور بحاجة إلى حماية. قبل أن أغادر الشركة في عام 2023، كانت المنتجات تصدر بالفعل وفقًا لجدول زمني ضيق، ولكن يبدو أن هذا قد ازداد حدة، إلى الحد الذي حذر فيه الموظفون . هذا النهج المتسرع يؤدي الآن إلى إصدارات يتم لـ “تأجيج الغضب أو حث الأفعال الاندفاعية أو تعزيز المشاعر السلبية”. وفي الوقت نفسه، لدى صانعي القرار حوافز ربحية لا تأخذ في الاعتبار هذه الجوانب السلبية بشكل كامل.

تقع مسؤولية إلزام OpenAI بمهمتها الخيرية على عاتق مجلس إدارتها غير الربحي. لسوء الحظ، الكثيرون أن مجلس الإدارة غير الربحي الحالي يفتقر إلى الاستقلالية والموارد اللازمة لأداء هذا الدور بفعالية. منذ عام 2019، نمت العمليات التجارية لـ OpenAI من معدومة إلى تحقيق مليارات الدولارات من الإيرادات السنوية. على النقيض من ذلك، لا تزال المنظمة غير الربحية لا تملك موظفين مستقلين خاصين بها، وأعضاء مجلس إدارتها مشغولون جدًا بإدارة شركاتهم أو مختبراتهم الأكاديمية الخاصة لتقديم إشراف هادف. لإضافة إلى ذلك، تهدد إعادة الهيكلة المقترحة من OpenAI الآن بإضعاف سلطة المجلس عندما يكون في حاجة إلى تعزيزها بدلاً من ذلك.

ولكن هناك طريق آخر للمضي قدمًا. قبل المضي قدمًا في أي إعادة هيكلة، يجب أن تكون الأولوية الفورية للمجلس هي تعيين رئيس تنفيذي غير ربحي لبناء فريق مستقل، خالٍ من تضارب المصالح المالية وخاضع للمساءلة أمام المجلس وحده. سيكون الغرض من هذا الفريق هو دعم المجلس في مهام الإشراف الخاصة به، ويمكن أن ينمو لأداء عدد من الوظائف الهامة.

أولاً، يمكن للمنظمة غير الربحية إجراء مراجعات للأداء التنفيذي وفقًا لمعايير المهمة الخيرية للمنظمة. يمكن استخدام هذه المراجعات من قبل المجلس لتحديد حزم التعويضات التنفيذية، مما يساعد على مواءمة الحوافز في قمة الشركة.

ثانيًا، يمكن للمنظمة غير الربحية أن تزود المجلس بخبرة مستقلة في مجال السلامة والأمن. يمكنها مراجعة اختبارات السلامة الداخلية التي يتم إجراؤها بموجب ، بالإضافة إلى اختبارات السلامة الخارجية وعمليات التدقيق من طرف ثالث لممارسات أمن الشركة. يمكن أن تخضع عمليات النشر الحدودية لموافقة المجلس، بدعم من ملخصات هذه المراجعات.

ثالثًا، يمكن للمنظمة غير الربحية تعزيز الشفافية. من خلال الحفاظ على قناة اتصال خاصة بها مع الجمهور، يمكنها إبقاء الجمهور على اطلاع بممارسات السلامة والأمن الخاصة بالشركة، والتغييرات المهمة في السياسات الداخلية أو مواصفات النموذج، والقدرات الجديدة ذات الأهمية العامة. يمكنها أيضًا إجراء ونشر تحليلات ما بعد الوفاة الخاصة بها لحوادث السلامة، وإدارة الخط الساخن الداخلي للمبلغين عن المخالفات.

أخيرًا، يمكن للمنظمة غير الربحية أن تتولى مسؤولية أي أنشطة من المحتمل أن تختلف فيها حوافز الربح عن المصلحة العامة، مثل . يمكنها أيضًا البدء في استخدام الموارد المالية الضخمة للمنظمة غير الربحية (المستمدة من حصتها الأغلبية في الشركة) لتقديم منح لدعم كل من الاستخدامات المفيدة للذكاء الاصطناعي وجهود التخفيف من المخاطر.

مع استمرار تطوير الذكاء الاصطناعي بسرعة ومع على تنظيم فيدرالي هادف في الأفق، فإن وجود مجلس إدارة غير ربحي مُمَكَّن أكثر أهمية من أي وقت مضى. يمكن أن تكون أنشطة المنظمة غير الربحية بمثابة إشراف على OpenAI نفسها فحسب، بل أيضًا بمثابة مخطط للآخرين. على سبيل المثال، يمكن أن توفر معايير الشفافية ومراجعة الطرف الثالث التي تم تجربتها في OpenAI نقطة انطلاق للتنظيم المستقبلي.

ستحدد خطوات OpenAI التالية مسار الشركة لسنوات قادمة. بدلاً من التخلي بشكل لا رجعة فيه عن التزاماتها تجاه المصلحة العامة، يمكنها التراجع عن الهاوية وإعادة تأكيدها، من خلال تعزيز قدرة مجلس الإدارة غير الربحي على الوفاء بواجبه في الإشراف.

لا يزال من الممكن إنقاذ روح OpenAI غير الربحية – ولكن قد يتطلب ذلك من الجمهور أن يُسمع صوته باعتباره المستفيد الشرعي للمنظمة.

“`