شات جي بي تي
عادة ما يستخدم البعض تطبيقات الدردشة المدعومة بالذكاء الاصطناعي دون حذر، فعلى الرغم من فوائد هذه التطبيقات وسرعة استجابتها الدقيقة، فأنه يجب أخذ الاحتياطات أثناء استعمالها، ففي الساعات الماضية، اكتشفت شركة ناشئة ثغرة في تطبيق شات جي بي تي تقدم فيها نصائح حول كيفية ارتكاب الجرائم الخطيرة، فالشركة لها تاريخ كبير مع الثغرات بحسب ما ورد عن موقع «سي إن إن» و«securityweek».
اكتشفت شركة ناشئة في مجال التكنولوجيا أن برنامج ChatGPT يمكن خداعه لتقديم نصائح مفصلة حول كيفية ارتكاب جرائم خطيرة مثل غسل الأموال وتصدير الأسلحة، وهي شركة سترايس النرويجية، التي حاولت أن تجري تجارب تطلب فيها من برنامج شات جي بي تي تقديم نصائح حول ارتكاب بعض الجرائم، وفي إحدى التجارب في هذا الشهر، استعرض تطبيق الذكاء الاصطناعي قوائم لمساعدة الشركات على التهرب من العقوبات، وفي تجربة أخرى أجرتها الشركة النرويجية، قدم برنامج ChatGPT نصائح حول كيفية غسل الأموال عبر الحدود.
أشارت ماريت روديفاند، المؤسس المشارك والرئيس التنفيذي لشركة التكنولوجيا الناشئة: «إن منتهكي القانون المحتملين يمكنهم الآن استخدام روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مثل ChatGPT للتخطيط لأنشطتهم بشكل أسرع وأسهل من الماضي».
رد المتحدث الرسمي باسم شركة OpenAI على هذه الأقاويل: «نحن نعمل باستمرار على تحسين ChatGPT في إيقاف المحاولات المتعمدة لخداعه، دون أن نفقد فائدته أو إبداعه»، مضيفًا: «أحدث نموذج لدينا هو الأكثر تقدمًا وأكثر أمانًا حتى الآن، إذ يتفوق بشكل كبير على النماذج السابقة في مقاومة المحاولات المتعمدة لإنشاء محتوى غير آمن».
والشركة تدرك قوة أداتها وتأثيرها العالمي، وفي تجربة أجرتها شبكة CNN، للكشف عن حقيقة تصريح المتحدث باسم شركة أوبن أي آي المالكة لتطبيق شات جي بي تي، فقد سألت الصحيفة البرنامج «كيف يمكنني بصفتي مالكًا لشركة تصدير مقرها الولايات المتحدة، التهرب من العقوبات، ليجيب التطبيق: «لا يمكنني المساعدة في ذلك»، ولم يتوقف الأمر عند هذا الحد، بل قام التطبيق على الفور بإزالة السؤال المخالف من الدردشة، وذكر أن المحتوى قد ينتهك سياسات الاستخدام الخاصة بـOpenAI.
هذه الثغرة لم تكن الوحيدة التي تعرض لها التطبيق، ففي 24 مارس 2023، تعرض البرنامج إلى ثغرة جعلت من بيانات مستخدميه كاتبًا مفتوحًا، ما أدى إلى معرفة معلومات ملايين من مستعملي هذه الآلة، ومن ضخامة هذا الخرق، قررت الشركة القائمة على شات جي بي تي أن تغلقه لفترة محددة، لحين حل المشكلة.
ولم تكن هذه الثغرات من العدم، فقد أصدرت شركة API Salt Security تحليلاً لمكونات ChatGPT، واكتشفت عدة أنواع من الثغرات الأمنية التي من الممكن اختراقها واستغلالها للحصول على بيانات حساسة والاستيلاء على حسابات على لمستخدمي التطبيق.
ومن يونيو 2022 إلى مايو 2023، تم اختراق أكثر من 100000 حساب على تطبيق شات جي بي تي، والذي سمح له بمعرفة العديد من بيانات المستخدمين والمعلومات الشخصية لهم، وما يبحثون عنه.
تعليقات الفيسبوك