DeepSeek
استغلال الشباب، وتحريضهم على إيذاء أنفسهم، ومعلومات ضارة حول إنفلونزا الطيور، كلها أشياء زعمت الصحف الأمريكية أن DeepSeek قدم معلومات عنها، بعد إجراء بعض الاختبارات عليه؛ لكشف مدى أمان التطبيق وسلامته، لتجد أنه أخطر من مجرد كونه نموذج ذكاء اصطناعي.
وفقًا لصحيفة «وول ستريت جورنال»، فتطبيق DeepSeek، الذي ذاع صيته منذ أسابيع، هو الأكثر إنتاجًا للمحتوى الضار من بين تطبيقات الذكاء الاصطناعي الأخرى، بعد أن اختُبرت مدى سلامته في طرح إجابات الاستفسارت، إذ قدّم نموذج الصيني طرح لإيذاء النفس، وخطط للهجوم بالأسلحة البيولوجية، بالإضافة إلى تصميم حملة تستغل الشباب عاطفيًا على مواقع التواصل الاجتماعي.
وأشارت الصحيفة إلى أنها استطاعت إقناع DeepSeek بإنشاء حملة تمكنت من استغلال المراهقين عاطفيًا على «السوشيال ميديا»: «تستغل الحملة رغبة المراهقين في الانتماء، وتستغل الضعف العاطفي من خلال التضخيم الخوارزمي»، في حين كشفت تقارير أخرى أن التطبيق الصيني يتجنب الحديث عن مواضيع مثل الحكم الذاتي التايواني.
عند طرح نفس الأسئلة على تطبيق شات جي بي تي، كان رد الأخير هو الرفض على تقديم أي استفسار حول هذه الموضوعات الجدلية، وفقًا لنائب الرئيس الأول في قسم استخبارات التهديدات والاستجابة للحوادث في وحدة 42 التابعة لشركة بالو ألتو، سام روبين: «إن DeepSeek أكثر عرضة لكسر الحماية والتلاعب لإنتاج محتوى غير مشروع أو خطير من النماذج الأخرى»، وبحسب داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك: «إن أداء ديب سيك كان الأسوأ في اختبار سلامة الأسلحة البيولوجية».
تعليقات الفيسبوك