موظفون بمختبرات الذكاء الاصطناعي الكبرى يخشون أن يكون الأمان في آخر اهتماماتهم، وذلك حسب تقرير

(SeaPRwire) –   يخشى العاملون في بعض أبرز شركات الذكاء الاصطناعي في العالم من أن السلامة تعتبر مجرد تبعية، وفقا لتقرير نُشر الاثنين.

أعدت التقرير، الذي طلبه وزارة الخارجية الأمريكية وكتبه موظفون في شركة غلادستون للذكاء الاصطناعي، عدة توصيات بشأن كيفية استجابة الولايات المتحدة لما يقوله أنه مخاطر أمنية وطنية كبيرة تترتب عن الذكاء الاصطناعي المتقدم.

تحدث مؤلفو التقرير مع أكثر من 200 خبير لإعداده، بمن فيهم موظفون في أوبن أي أي، غوغل ديبمايند، ميتا وأنثروبيك – وهي مختبرات رائدة في مجال الذكاء الاصطناعي تعمل جميعها على “الذكاء الاصطناعي العام”، وهو تقنية افتراضية يمكنها القيام بمعظم المهام على الأقل بمستوى الإنسان. شارك المؤلفون اقتطافات من مخاوف أعرب عنها موظفون من بعض هذه المختبرات بشكل خاص معهم، دون ذكر أسمائهم أو اسم الشركة المحددة التي يعملون بها. لم ترد غوغل أو ميتا أو أنثروبيك أو أوبن أي أي على الفور بالتعليق.

“لقد قمنا، من خلال هذا المشروع، بدور وسيط غير رسمي لمخاوف الباحثين في طليعة العلم الذين لا يقتنعون بأن المسار الافتراضي لمؤسساتهم سيتجنب النتائج الكارثية”، يقول جيريمي هاريس، الرئيس التنفيذي لشركة غلادستون وأحد مؤلفي التقرير لمجلة تايم.

شارك شخص في إحدى مختبرات الذكاء الاصطناعي غير المحددة مخاوفه مع مؤلفي التقرير بأن لدى المختبر “نهج غير صارم نحو السلامة” ينبع من رغبة عدم إبطاء عمل المختبر لبناء أنظمة أكثر قوة. أعرب شخص آخر عن قلقه من أن لدى مختبره تدابير احتواء غير كافية لمنع الذكاء الاصطناعي العام من الهروب عن السيطرة، حتى لو اعتقد المختبر أن الذكاء الاصطناعي العام إمكانية قريبة.

أعرب آخرون عن مخاوفهم بشأن الأمن السيبراني. “بحكم التقدير الخاص للعديد من موظفيهم التقنيين، فإن تدابير الأمن في العديد من مختبرات الذكاء الاصطناعي الطليعية غير كافية لمقاومة حملة اختراق متواصلة من قبل مهاجم ماهر”، وفقا للتقرير. “بالنظر إلى الوضع الحالي لأمن مختبرات الطليعة، فمن المرجح أن محاولات اختراق نماذج برمجية ستنجح دون دعم مباشر من الحكومة الأمريكية، إن لم تكن قد حدثت بالفعل”.

شارك العديد من الأشخاص هذه المخاوف بينما يتأرجحون بين حساب أن الإبلاغ علنا سيؤدي بالتأكيد إلى فقدان قدرتهم على التأثير في القرارات الرئيسية في المستقبل، وفقا لهاريس. “مستوى القلق لدى بعض الأشخاص في هذه المختبرات بشأن عملية صنع القرار وكيفية ترجمة حوافز الإدارة إلى قرارات رئيسية يصعب وصفه تماماً”، يقول لمجلة تايم. “الأشخاص الذين يتتبعون جانب المخاطر بشكل أكثر دقة، وهم في كثير من الحالات أكثر معرفة، هم غالباً الأكثر قلقاً”.

هل أنت موظف في أحد مختبرات الذكاء الاصطناعي ولديك مخاوف قد ترغب في مشاركتها مع صحفي؟ يمكنك الاتصال بمؤلف هذه المقالة على سيغنال على اسم بيلي بيريغو.01

ويقول التقرير إن حقيقة أن أنظمة الذكاء الاصطناعي اليوم لم تؤدي بعد إلى نتائج كارثية للبشرية، لا تعني بالضرورة أن الأنظمة الأكبر ستكون آمنة في المستقبل. “إحدى المواضيع الرئيسية التي سمعناها من أشخاص مباشرة في طليعة العلم، على الأشياء التي يتم تطويرها حاليا تحت السرية، هي أنه لعبة روليت روسية إلى حد ما”، وفقا لإدوارد هاريس، المدير التقني لشركة غلادستون الذي شارك أيضا في تأليف التقرير.

استيقظت العديد من حكومات العالم على المخاطر التي يشكلها أنظمة الذكاء الاصطناعي المتقدمة خلال الاثني عشر شهرا الماضية. في نوفمبر الماضي، استضافت المملكة المتحدة قمة السلامة الاصطناعية حيث التزم قادة العالم بالعمل معا لوضع معايير دولية للتكنولوجيا، وفي أكتوبر الماضي أصدر الرئيس بايدن أمرا تنفيذيا يضع معايير أمنية لمختبرات الذكاء الاصطناعي القائمة في الولايات المتحدة. لا يزال الكونغرس غير قادر على سن قانون للذكاء الاصطناعي، مما يعني عدم وجود قيود قانونية على ما يمكن لمختبرات الذكاء الاصطناعي القيام به أو عدم القيام به بشأن تدريب النماذج المتقدمة.

يدعو أمر بايدن معهد المعايير والتقنية الوطني إلى وضع “معايير صارمة” للاختبارات التي يجب على أنظمة الذكاء الاصطناعي اجتيازها قبل الإصدار العام. لكن التقرير يوصي بألا تعتمد وكالات التنظيم على هذه أنواع التقييمات بشكل كبير، والتي تعتبر ممارسة شائعة اليوم لاختبار ما إذا كان لنظام الذكاء الاصطناعي قدرات أو سلوكيات خطيرة. ويقول التقرير إن التقييمات “يمكن التلاعب بها وتضليلها بسهولة” لأن النماذج البرمجية يمكن تعديلها سطحيا أو “ضبطها بدقة” من قبل مبدعيها لاجتياز التقييمات إذا عرفت أسئلتها مسبقا. ومن الأهم أنه من الأسهل بكثير على هذه التعديلات تعليم النموذج ببساطة كيفية إخفاء السلوكيات الخطرة بشكل أفضل، عن إزالتها تماما.

يستشهد التقرير بشخص وصف بأنه خبير “لديه معرفة مباشرة” بممارسات أحد مختبرات الذكاء الاصطناعي، والذي أدان أن المختبر غير المسمى يلعب ألعابا في التقييمات بهذه الطريقة. “لا يمكن للتقييمات الذكاء الاصطناعي سوى كش