لماذا لا يزال الرئيس التنفيذي لـ Character.AI يسمح لابنته البالغة من العمر 6 سنوات باستخدام التطبيق؟

(SeaPRwire) –   أهلاً بكم من جديد في In the Loop، النشرة الإخبارية الجديدة لـ TIME التي تصدر مرتين أسبوعياً حول الذكاء الاصطناعي. إذا كنت تقرأ هذا في متصفحك، فلماذا لا تشترك لتصلك النشرة التالية مباشرة إلى صندوق بريدك الوارد؟

شخصية يجب معرفتها: Karandeep Anand، الرئيس التنفيذي لشركة Character.AI

Character.AI تحت المجهر. منصة الدردشة الآلية، التي تسمح للمستخدمين بالدردشة مع ذكاء اصطناعي يجسد شخصيات خيالية، هي هدف لعدة دعاوى قضائية — بما في ذلك دعوى من Megan Garcia، أم انتحر ابنها البالغ من العمر 14 عامًا بعد أن أصبح مهووسًا بأحد الروبوتات، والذي زعم أنه شجعه على إنهاء حياته.

في أعقاب تلك الدعوى القضائية وغيرها، أعلنت Character.AI الشهر الماضي عن قرار كبير: ستحظر المستخدمين الذين تقل أعمارهم عن 18 عامًا من إجراء “محادثات مفتوحة” مع روبوتات الدردشة على منصتها. كان هذا تحولًا كبيرًا لشركة تقول إن الجيلين Z و Alpha يشكلان جوهر مستخدميها النشطين يوميًا الذين يزيد عددهم عن 6 ملايين، والذين يقضون ما متوسطه 70 إلى 80 دقيقة يوميًا على المنصة.

في الأسبوع الماضي، جلست مع الرئيس التنفيذي الجديد لـ Character.AI، Karandeep Anand، لمناقشة الحظر وما أدى إليه.

وفقًا لـ Anand، فإن توقيت الحظر لا علاقة له بالقضايا القانونية التي تواجه Character.AI. وشدد على أن دعوى وفاة Garcia غير المشروعة تعود إلى ما قبل توليه منصب الرئيس التنفيذي. ودافع عن سجل المنصة في إنشاء حواجز حماية للمستخدمين دون سن 18 عامًا.

قال Anand إن حظر استخدام الأطفال لـ Character.AI جاء جزئيًا نتيجة لأبحاث جديدة تظهر مخاطر استخدام روبوتات الدردشة، خاصة للأطفال. أخبرني قائلاً: “أحد العوامل المساهمة يأتي من التعلمات الجديدة بأن التأثير الطويل الأمد للتفاعل مع روبوتات الدردشة قد يكون غير صحي، أو غير مفهوم تمامًا”، مشيرًا إلى أبحاث من OpenAI و Anthropic حول مخاطر ما يسمى بـ “مجاملة الذكاء الاصطناعي”. في ضوء هذه النتائج، قرر أن السماح للأطفال بالدخول إلى المنصة كان محفوفًا بالمخاطر للغاية.

لكن حظر استخدام الأطفال لـ Character.AI ليس كاملاً. سيظل مسموحًا لهم بالوصول إلى ميزات Character.AI الأخرى، مثل التفاعل مع موجز قصير من مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي، على غرار صفحة “لك” في TikTok، والتي تحث المستخدمين على تخصيص مقاطع الفيديو الشائعة عن طريق إضافة شخصياتهم الخاصة، أو عن طريق تعديل المطالبات.

لقد فاجأني، في سياق محادثتنا، أن أسمع Anand يقول إن ابنته البالغة من العمر ست سنوات هي مستخدمة نشطة لـ Character.AI. يقول Anand: “ما كانت تفعله سابقًا كأحلام يقظة يحدث الآن من خلال رواية القصص مع الشخصية التي تخلقها وتتحدث إليها”. “حتى في المحادثات التي كانت ترد فيها بتردد علي، تتحدث إلى روبوت الدردشة بصراحة أكبر بكثير”. (يعترف Anand بأنه لا يُسمح للمستخدمين الذين تقل أعمارهم عن 13 عامًا بالدخول إلى المنصة على الإطلاق، لذلك يسمح لابنته فقط بالوصول إلى Character.AI من خلال حسابه الخاص، تحت الإشراف). أعطى حماس ابنته للميزات السمعية البصرية لـ Character.AI Anand الثقة في أن يراهن بالشركة على بناء هذه الأنواع من التجارب المليئة بالألعاب للأطفال، بدلاً من السماح بالدردشات النصية المفتوحة.

الرئيس التنفيذي مستسلم لفقدان بعض المستخدمين نتيجة لقراره. يقول: “أنا على استعداد للمراهنة بأننا سنبني تجارب أكثر جاذبية، ولكن إذا كان ذلك يعني خروج بعض المستخدمين، فليخرجوا”. لكنه لا يستبعد تمامًا عكس حظر روبوتات الدردشة لمن تقل أعمارهم عن 18 عامًا. “أنا متأكد تمامًا في مرحلة ما، عندما تتطور التكنولوجيا بما يكفي، ويمكننا الحصول على تجارب أكثر حماية للطباعة، سنعيد تلك التجارب”.

ومع ذلك، فقد وضع هذا التحول Character.AI — الذي كان لفترة طويلة رمزًا لتطوير الذكاء الاصطناعي غير المسؤول — في موقف غريب يتمثل في كونه مشجعًا لتجارب آمنة عبر الإنترنت للأطفال. يقول Anand إنه يرحب بمشروع قانون حديث اقترحه السيناتور Josh Hawley من شأنه أن يحظر على أي شخص يقل عمره عن 18 عامًا استخدام تطبيقات رفيق الذكاء الاصطناعي على مستوى البلاد. يقول Anand: “الشيء المحزن حقًا للصناعة هو أن نتخذ هذه القرارات [لحظر المستخدمين دون سن 18 عامًا] ثم ينتهي الأمر بالمستخدمين إلى الانجذاب إلى منصات أخرى لا تتحمل هذه المسؤولية”. “يجب رفع مستوى الأمان للمستخدمين دون سن 18 عامًا… يجب تنظيم هذا الأمر.”

إذا كان لديك دقيقة، يرجى إجراء استبياننا السريع لمساعدتنا على فهم من أنت وما هي مواضيع الذكاء الاصطناعي التي تهمك أكثر.

ما يجب معرفته: الاتحاد الأوروبي يدرس التضحية بالخصوصية لجذب استثمارات الذكاء الاصطناعي

ينظر منظمو الاتحاد الأوروبي في إلغاء بعض حمايات الخصوصية الواسعة النطاق في محاولة لجعل القارة مكانًا أكثر جاذبية للاستثمار في الذكاء الاصطناعي، وسط نمو اقتصادي فاتِر.

حصلت على وثائق تظهر أن المسؤولين يخططون لتغيير قانون الخصوصية الرائد في الاتحاد الأوروبي، اللائحة العامة لحماية البيانات (GDPR)، للسماح لشركات الذكاء الاصطناعي بتدريب وتشغيل أنظمتها باستخدام فئات محمية سابقًا من البيانات الشخصية.

ماذا نقرأ

، بقلم Andrea Miotti في TIME

يدعو رئيس منظمة Control AI، Andrea Miotti، إلى حركة عالمية لوقف الذكاء الاصطناعي الفائق الذكاء، تمامًا كما تضافرت جهود العالم لوقف اتساع ثقب طبقة الأوزون. يكتب: “لذا، فإن خطر الانقراض الناجم عن الذكاء الفائق لديه القدرة على اختراق كل انقسام”. “يمكنه توحيد الناس عبر الأحزاب السياسية والأديان والأمم والأيديولوجيات. لا أحد يريد أن تُدمّر حياته وعائلته وعالمه.”