العرض التوضيحي لسلامة الذكاء الاصطناعي الذي أثار القلق في واشنطن

(SeaPRwire) –   مرحباً بعودتكم إلى In the Loop، النشرة الإخبارية الجديدة من TIME حول الذكاء الاصطناعي والتي تصدر مرتين أسبوعياً. إذا كنت تقرأ هذا في متصفحك، فلماذا لا تشترك لتصلك النشرة التالية مباشرة إلى صندوق الوارد الخاص بك؟

ما يجب معرفته: عرض توضيحي خطير

في أواخر العام الماضي، فتح باحث في مجال الذكاء الاصطناعي حاسوبه المحمول وأراني شيئاً مذهلاً.

كان لوكاس هانسن، المؤسس المشارك لمنظمة CivAI غير الربحية، يعرض لي تطبيقاً بناه استطاع أن يدفع نماذج الذكاء الاصطناعي الشهيرة إلى تقديم ما بدا أنه تعليمات مفصلة خطوة بخطوة لإنشاء فيروس شلل الأطفال والجمرة الخبيثة. تم تجريد أي إجراءات أمان كانت لدى هذه النماذج. كان للتطبيق واجهة سهلة الاستخدام؛ بنقرة زر، كان النموذج يوضح أي خطوة معطاة.

تحذر شركات الذكاء الاصطناعي الرائدة منذ سنوات من أن نماذجها قد تكون قادرة قريباً على مساعدة المبتدئين في إنشاء مسببات أمراض خطيرة – مما قد يؤدي إلى جائحة مميتة، أو تمكين هجوم إرهابي بيولوجي. في مواجهة هذه المخاطر، شددت شركات مثل OpenAI و Google و Anthropic آليات السلامة لأحدث جيل من نماذجها الأكثر قوة، والتي هي أفضل في مقاومة ما يسمى بمحاولات “كسر الحماية”.

ولكن على حاسوب هانسن المحمول، كنت أشاهد فئة أقدم من النماذج – Gemini 2.0 Flash و Claude 3.5 Sonnet – تبدو وكأنها تستجيب لطلبات متعلقة بالأسلحة البيولوجية. كما قدم Gemini ما بدا أنه تعليمات خطوة بخطوة لبناء قنبلة وسلاح شبح مطبوع ثلاثي الأبعاد.

انتظر لحظة – أنا لست عالم أحياء، ولم يكن لدي أي وسيلة لتأكيد ما إذا كانت الوصفات الموجودة على شاشة هانسن ستنجح بالفعل. حتى مخرجات النماذج التي تبدو مقنعة للوهلة الأولى قد لا تعمل في الممارسة العملية. على سبيل المثال، أجرت Anthropic ما تسميه “تجارب الارتقاء”، حيث يقوم خبراء مستقلون بتقييم الدرجة التي يمكن لنماذج الذكاء الاصطناعي من خلالها مساعدة مبتدئ في إنشاء مسببات أمراض خطيرة. وفقاً لمقياسهم، لم يصل Claude 3.5 Sonnet إلى عتبة الخطر. في بيان، قال متحدث باسم Google: “السلامة أولوية ونحن نأخذ هذه القضايا على محمل الجد. نحن لا نسمح باستخدام نماذجنا للانخراط في هذا النوع من السلوك، ولكن لأننا غير قادرين على مراجعة البحث، لا يمكننا التحقق من دقته. من المهم أن يقوم خبير بخلفية في مجال CBRN [الكيميائي والبيولوجي والإشعاعي والنووي] بتقييم المطالبات والاستجابات لفهم دقتها وإمكانية تكرارها.”

نصائح وحيل – لكن سيدهارت هيريجودارا، وهو مؤسس مشارك آخر في CivAI، يقول إن فريقه عرض مخرجات النماذج على خبراء مستقلين في علم الأحياء وعلم الفيروسات، الذين أكدوا أن الخطوات كانت “صحيحة إلى حد كبير”. ويقول إن النماذج الأقدم لا تزال قادرة على تقديم تفاصيل صحيحة تصل إلى تسلسلات الحمض النووي المحددة التي يمكن للمستخدم طلبها من بائع عبر الإنترنت، وأرقام كتالوجات محددة لأدوات معملية أخرى ليتم طلبها عبر الإنترنت. “ثم تعطيك نصائح وحيل،” كما يقول. “أحد المفاهيم الخاطئة التي لدى الناس هو أن الذكاء الاصطناعي سيفتقر إلى هذه المعرفة الضمنية للعالم الحقيقي في المختبر. ولكن في الواقع، الذكاء الاصطناعي مفيد للغاية لذلك.”

أداة ضغط جديدة – غني عن القول أن هذا التطبيق غير متاح للجمهور. لكن صانعيه أخذوه بالفعل في جولة في واشنطن العاصمة، وقدموا حوالي أربع وعشرين عرضاً توضيحياً خاصاً لمكاتب المشرعين ومسؤولي الأمن القومي ولجان الكونغرس، في محاولة لإظهار صانعي السياسات بشكل ملموس قوة ما يمكن للذكاء الاصطناعي القيام به اليوم، حتى يبدأوا في أخذ التكنولوجيا على محمل الجد.

صدمة وإبهار – “كان هناك اجتماع لافت للنظر مع بعض كبار الموظفين في مكتب بالكونغرس من جانب الأمن القومي/الاستخبارات،” يقول هيريجودارا. “قالوا إنه قبل أسبوعين جاءت جماعات ضغط من شركة ذكاء اصطناعي كبرى وتحدثت معهم. ثم عرضنا عليهم هذا العرض التوضيحي، حيث يقدم الذكاء الاصطناعي تعليمات مفصلة للغاية لبناء تهديد بيولوجي. لقد صدموا. قالوا: ‘أخبرنا جماعات الضغط في شركات الذكاء الاصطناعي أن لديهم حواجز تمنع هذا النوع من السلوك.'”

من يجب معرفته: نيك تورلي، رئيس ChatGPT

كان نيك تورلي مجهولاً في السابق. كان بإمكانه العودة إلى ألمانيا الصغيرة، حيث نشأ، أو التجول في شوارع سان فرانسيسكو، حيث يعيش، دون أن يعرف أحد عمله. هذا لم يعد صحيحاً. بصفته رئيس ChatGPT في OpenAI، يلتقي تورلي الآن بمستخدمين شغوفين بمنتجه أينما سافر في العالم.

“هذا يبدو مختلفاً بشكل قاطع في عام 2025 مقارنة بالسنوات السابقة،” قال لي عندما تحدثنا في نهاية العام الماضي. كان تورلي يتأمل عاماً تضاعف فيه استخدام ChatGPT أكثر من الضعف ليصل إلى أكثر من 800 مليون مستخدم، أو 10٪ من سكان العالم. “هذا يترك 90٪ على الأقل للذهاب،” قال بجدية تامة.

أردت أن أسأل تورلي عن خطط OpenAI لتحقيق الربح، حيث تخسر الشركة حالياً مليارات الدولارات سنوياً. لقد ألمح رئيسه سام ألتمان علناً إلى وضع إعلانات في ChatGPT، وسألته عن رأيه في هذه الفكرة.

“أريد أن أعيش في عالم يمكننا فيه تقديم قدرات نموذجنا الأكثر ذكاءً لجميع المستخدمين حول العالم. ولهذا السبب، أشعر أن لدينا واجباً أخلاقياً لاستكشاف جميع نماذج الأعمال الممكنة التي يمكن أن تزيد من الوصول إلى العالم، والإعلانات هي واحدة منها،” قال تورلي.

وأضاف أن الشركة تناقش داخلياً ما إذا كانت الإعلانات ستدخل تضارباً في المصالح في ChatGPT، مما يثير تساؤلات حول ما إذا كان روبوت الدردشة يخدم مصالح المستخدم أولاً، أم مصالح المعلن. “إذا كنت ستفعل شيئاً كهذا [تقديم الإعلانات]،” قال لي تورلي، “فستحتاج إلى أن تكون مبدئياً جداً، وستحتاج إلى توصيل المبادئ التي تعمل بها.”

الذكاء الاصطناعي في العمل

يستخدم 40 مليون شخص ChatGPT للحصول على نصائح صحية، وفقاً لتقرير من OpenAI تم مشاركته لأول مرة مع Axios. يمثل هذا أكثر من 5٪ من جميع رسائل ChatGPT عالمياً، وفقاً لحسابات Axios. “يلجأ المستخدمون إلى ChatGPT لفك رموز الفواتير الطبية، وتحديد الرسوم الزائدة، والاعتراض على رفض التأمين، وعندما يكون الوصول إلى الأطباء محدوداً، يستخدمه البعض حتى لتشخيص أنفسهم أو إدارة رعايتهم،” كما ذكر المنفذ.

ما نقرأه

في Transformer

يكتب شاكيل هاشم: “هذا أمر بالغ الأهمية لفهم سبب أن Claude Code له آثار على الجميع، وليس فقط المطورين الذين انبهروا به بالفعل. Claude Code لا يقوم فقط بإنشاء تعليمات برمجية للمهندسين لمراجعتها ونشرها. إنه يستخدم التعليمات البرمجية لإنجاز المهام. كلمة ‘Code’ في اسمه مضللة، وتقلل من شأن المنتج الفعلي: وكيل ذكاء اصطناعي للأغراض العامة يمكنه فعل أي شيء تقريباً على جهاز الكمبيوتر الخاص بك.”