«خطير جداً للإطلاق» يصبح المعيار الجديد للذكاء الاصطناعي

(SeaPRwire) –   في 16 أبريل، أعلنت OpenAI عن GPT-Rosalind، وهو نموذج ذكاء اصطناعي جديد يستهدف علوم الحياة. يتفوق هذا النموذج بشكل كبير على نماذجها المتاحة للجمهور حاليًا في مهام الكيمياء والبيولوجيا، بالإضافة إلى تصميم التجارب. وكما هو الحال مع Claude Mythos من Anthropic و GPT-5.4-Cyber من OpenAI، اللذين تم إصدارهما أيضًا هذا الشهر، فإن النموذج غير متاح لعامة الجمهور – ومخصص، في البداية على الأقل، “للعملاء المؤهلين” من خلال “برنامج وصول موثوق”.

تشير هذه الإصدارات إلى اتجاه جديد ومثير للقلق حيث تعتبر شركات الذكاء الاصطناعي نماذجها الأكثر قدرة خطيرة جدًا بحيث لا يمكن ائتمانها للجمهور العام. يقول بيتر ويلديفورد، رئيس السياسات في AI Policy Network، وهي مجموعة مناصرة: “أعتقد أن المطورين الرواد يقيدون الوصول إلى نماذجهم الأكثر قدرة لأنهم قلقون حقًا بشأن بعض القدرات التي تمتلكها هذه النماذج”.

من غير الواضح لماذا قررت OpenAI تقييد الوصول إلى GPT-Rosalind على وجه الخصوص. قال متحدث باسم OpenAI في رسالة بريد إلكتروني إن منح الوصول للشركاء الموثوق بهم يسمح للشركة “بإتاحة أنظمة أكثر قدرة في وقت أقرب للمستخدمين المعتمدين، مع الاستمرار في إدارة المخاطر بعناية”.

من يقرر؟

يثير التقدم السريع في قدرات الذكاء الاصطناعي تساؤلات حول ما إذا كان ينبغي للشركات الخاصة أن تتخذ القرارات المتزايدة الأهمية بشأن ما إذا كان يجب بناء نماذج الذكاء الاصطناعي التي يحتمل أن تكون خطيرة وكيفية بنائها، ومن يجب السماح له باستخدامها. يقول النائب مارك ديساولنييه، ديمقراطي من كاليفورنيا: “أعتقد أن للحكومة الفيدرالية دورًا تلعبه”.

يبدو أن إصدار Mythos من Anthropic قد حسن علاقته المتوترة سابقًا مع البيت الأبيض، الذي قال الأسبوع الماضي إنه عقد اجتماعًا “مثمرًا وبناءً” مع الرئيس التنفيذي لشركة Anthropic، داريو أمودي. ويُذكر أن وكالة الأمن القومي (NSA) بدأت أيضًا في استخدام Claude Mythos. في فبراير، أمر الرئيس ترامب الوكالات الفيدرالية بالتوقف عن العمل مع “الشركة اليسارية المتطرفة والواعية” بعد نزاع تعاقدي مع البنتاغون.

كانت القيود المفروضة على الوصول إلى سلسلة النماذج الأخيرة طوعية من جانب Anthropic و OpenAI. ولكن مع تزايد خطورة وتعقيد المخاطر التي تشكلها نماذج الذكاء الاصطناعي، يدعو البعض إلى رقابة خارجية أكثر صرامة.

يقول كونور ليهي، المدير الأمريكي لـ ControlAI، وهي مجموعة مناصرة لتنظيم الذكاء الاصطناعي: “لا نسمح للشركات بتحديد كمية الملوثات السامة التي يُسمح لها بوضعها في مياه شرب طفلي – هذا قرار الحكومة”. “يمكننا أن نجادل [ما إذا] كانت الحكومة تقوم بعمل سيئ أو جيد، لكن الأمر يتعلق بالفصل بين السلطات.”

“البحث العلمي وصنع سلاح بيولوجي يبدوان متشابهين جدًا”

تشكل القدرات ذات الاستخدام المزدوج، مثل الأبحاث البيولوجية والأمن السيبراني، تحديًا لشركات الذكاء الاصطناعي. فالأدوات نفسها التي تساعد باحث الأمن السيبراني في العثور على الثغرات الأمنية في البرامج وإصلاحها يمكن أن تساعد مهاجمًا محتملاً. يمكن للذكاء الاصطناعي الذي يساعد في دراسة الفيروسات، نظريًا، أن يساعد إرهابيًا بيولوجيًا في تصميم سلالة أكثر فتكًا. يقول ويلديفورد: “الدفاع السيبراني والهجوم السيبراني يبدوان متشابهين جدًا”. “البحث العلمي وصنع سلاح بيولوجي يبدوان متشابهين جدًا.”

في الماضي، اختارت الشركات تقييد هذه القدرات عن الجميع. ترفض العديد من روبوتات الدردشة الاستفسارات حول طفرات COVID التي تسبب زيادة قابلية انتقال الفيروس، على سبيل المثال. بينما لا يزعج هذا المستخدم العادي، فإنه يمثل تحديًا للباحثين. يقول جيمس ديغانز، نائب رئيس السياسات والأمن البيولوجي في Twist Bioscience، وهي شركة لتصنيع الحمض النووي: “إنه أمر محبط”. “لكنني أعتقد أنه الشيء الصحيح الذي يجب فعله.”

تخفف إصدارات النماذج الأخيرة بعض هذه القيود للأطراف الموثوق بها. تقول OpenAI إنها تمنح الوصول إلى GPT-Rosalind فقط للمنظمات ذات “الضوابط الداخلية القوية” التي تضمن عدم إساءة استخدام النموذج. وقد دخلت Anthropic في شراكة مع وكالات حكومية أمريكية وشركات خاصة تستخدم Mythos للعثور على الثغرات الأمنية وإصلاحها. ومع ذلك، يقول باتاليس إن تعريف الباحثين “الشرعيين” أصعب خارج المؤسسات الأمريكية، مما يثير مخاوف تتعلق بالإنصاف للباحثين الدوليين.

يعد تحديد النماذج التي يجب تقييد الوصول إليها توازنًا دقيقًا يختلف حسب المجال. من السهل قياس ما إذا كان نموذج الذكاء الاصطناعي يشكل تهديدًا سيبرانيًا محتملاً، كما يقول ديغانز: “هل يمكنهم اختراق الأنظمة الحالية؟” البحث البيولوجي عملية أكثر تعقيدًا ومتعددة المراحل وتستغرق وقتًا أطول من الهجمات السيبرانية؛ ليس من الواضح ما إذا كان الضرر سيأتي من نموذج مثل GPT-Rosalind إذا تم إصداره علنًا. يقول باتاليس: “نعلم أن الناس يريدون، ويفعلون، شن هجمات سيبرانية”. “ليس لدينا نفس حجم العينة هذا فيما يتعلق بالمخاطر البيولوجية.” قد تصبح المجالات الأخرى أكثر إثارة للجدل مع استمرار تقدم قدرات الذكاء الاصطناعي. يمكن اعتبار حملات الاتصالات عمليات دعائية في الأيدي الخطأ.

“قدرات الإنترنت ستنتشر”

قد تغير النماذج مفتوحة المصدر، التي يمكن تنزيلها وتشغيلها مجانًا، الحسابات المتعلقة بقيود نماذج الذكاء الاصطناعي. لقد تخلفت قدرات النماذج مفتوحة المصدر تاريخيًا عن النماذج الاحتكارية بثلاثة إلى سبعة أشهر، وفقًا لـ Epoch AI، وهو معهد أبحاث يدرس تقدم الذكاء الاصطناعي. وهذا يعني أنه إذا استمر هذا الاتجاه، فقد يصبح نموذج ذكاء اصطناعي بقدرات GPT-Rosalind و Mythos متاحًا للجمهور بحلول نهاية العام. قال المتحدث باسم OpenAI: “قدرات الإنترنت ستنتشر”. “يحتاج المدافعون إلى أدوات أفضل في وقت مبكر، وليس لاحقًا.”

يمكن أن تفيد النماذج مفتوحة المصدر المهاجمين السيبرانيين الدوليين. في نوفمبر، أعلنت Anthropic أنها عطلت مجموعة ترعاها الدولة الصينية كانت تستخدم نماذج الشركة المدفوعة، عن طريق حظر وصولها إلى الذكاء الاصطناعي. إذا كانت النماذج ذات القدرات المماثلة متاحة مجانًا على الويب المفتوح، فإن ذلك سيقلل من نفوذ الشركات الغربية.

ومع ذلك، اعتمد بعض مطوري المصادر المفتوحة سابقًا على مخرجات الأنظمة الاحتكارية الرائدة للمساعدة في تدريب نماذجهم. قد تؤدي قيود الوصول الأخيرة على النماذج الحديثة إلى إبطاء أو إيقاف انتشار القدرات الأكثر تقدمًا في النماذج مفتوحة المصدر – طالما أن الشركات تستطيع فرض القيود. (يُذكر أن بعض المستخدمين غير المصرح لهم نجحوا بالفعل في الوصول إلى Claude Mythos.)

سواء لحقت النماذج مفتوحة المصدر بالنماذج الاحتكارية الرائدة أم لا، فإن Mythos و GPT-Rosalind هما الحد الأدنى الجديد لقدرات الذكاء الاصطناعي الرائدة – ولا تظهر الفرص والمخاطر المتزايدة التي يشكلها الذكاء الاصطناعي أي علامة على التباطؤ. يقول ويلديفورد: “أعتقد أن للحكومة مصلحة قوية في إدارة ذلك”. “لا أعرف حقًا كيف يمكنك تجاوز الحاجة إلى التدخل الحكومي.”