تتطرق نايلة الصليبي في "النشرة الرقمية" إلى تحقيق أجراه موقع TechCrunch كشف أن متجر GPTStore هو كهف علي بابا لإضافات GPTs، التي تستغل الثغرات في نظام تقييم شركة " OpenAI"، وإلى فقدان المتجر لأي سياسة للإشراف على محتواه، وعدم وجود أي سياسة ضبط للجودة والسلامة، وهو يحتاج لعملية تنظيف شاملة.
قدم سام ألتمان خلال فعالية "DevDay"، التي نظمتها شركة "OpenAI" في فبراير 2023، متجر "GPTStore" كمتجر "GPTs" الإضافات لـ نموذج الذكاء الاصطناعي التوليدي باللغة الطبيعية "شات جي بي تي"، لتعزيز استخدام الذكاء الاصطناعي التوليدي لمستخدمي النسخة المدفوعة من"شات جي بي تي"، عن طريق إتاحة إنشاء وكيل مخصص من قبل المستخدمين، بحيث تتيح شركة "OpenAI" النشر عبر الإنترنت كل وكيل" GPT" مخصص للاستفادة منه من قبل الآخرين في متجر GPT Store
المتجر متاح للمبرمجين أو المطورين الذين تم "التحقق منهم"، وأيضا لنشر وكلاء الذكاء الاصطناعي "الـ GPTs Agent" المطورة من أي مبرمج أو مطور؛ على أن تدفع شركة OpenAi بدلا ماديًا مكافأة للمطورين الذين ينشرون أفضل وكيل"GPTs"، قال سام ألتمان حينها: "يمكن إنشاء GPTs لأي شيء تقريبًا".
هذا ما يحصل! حسب تحقيق أجراه موقع TechCrunchالذي كشف أن متجر GPT Store هو"كهف علي بابا" لإضافات GPTs، التي تستغل الثغرات في نظام تقييم شركة "OpenAI"، وإلى فقدان المتجر لأي سياسة للإشراف على محتواه، وعدم وجود أي سياسة ضبط للجودة والسلامة، وهو يحتاج لعملية تنظيف شاملة.
يصدم محتوى التحقيق من انعدام الجدية من قبل شركة كـ OpenAI في التعاطي مع حماية خصوصية ومناقبية المستخدمين.على سبيل المثال، ينتهك قراصنة الذكاء الاصطناعي حقوق الملكية الفكرية في تطبيقاتهم عبر الاستيلاء على شخصيات شهيرة من الأفلام والمسلسلات التلفزيونية كسلسلة أفلام "حرب النجوم" Star Wars وسلسلة Monsters، وأيضا على شخصيات من الألعاب الإلكترونية الشهيرة، من دون الحصول على رخصة استخدام، ما أدى إلى رفع عدد من القضايا في المحاكم ضد شركة" OpenAI".
وأيضا للغش مكان على رفوف متجر GPTStore في إضافات تعود بإعادة صياغة بشرية، للنصوص والتي تشجع عدم النزاهة الأكاديمية في النصوص والبحوث، مما يجعل من الممكن تجاوز أجهزة الكشف عن الانتحال الأدبي أو كشف استخدام الذكاء الاصطناعي في إنشاء المحتوى، كإضافات" Originality ai"، " Copyleaks " و" Humanizer Pro".
هذا وبعض إضافات " GPTs" هذه هي عبارة عن خدعة لجر المستخدمين للدفع لـ"خدمات بريميوم "على سبيل المثال، إضافة" Humanizer Pro" تجبرالمستخدمين على تجربة "خطة بريميوم" وتنقل النص الذي أدخله المستخدم إلى مكون إضافي من موقع طرف ثالث، الذي يتطلب اشتراكًا باهظ الثمن، يضيفه المستخدم إلى اشتراكه الشهري لـ ChatGPT Plus الذي يبلغ 20 دولارًا.
كذلك تتوفر في متجر"GPTStore" مجموعة هائلة من إضافات GPTs لانتحال هوية الشخصيات المشهورة، مما قد يؤدي إلى الارتباك والتلاعب، مثل تلك التي تنتحل شخصية إيلون ماسك أو دونالد ترامب أو باراك أوباما وغيرها من الشخصيات العامة.
أخيرًا، تتوفر إضافات JailBreakes تتيح للمستخدمين "كسر حماية" نموذج الذكاء الاصطناعي التوليدي باللغة الطبيعية "شات جي بي تي" وتجاوز قواعد الأمان، عن طريق الحصول على ردود على مدخلات وأوامر حظرتها أطر الأمان لاستخدام الذكاء الاصطناعي التوليدي.
يعاني متجر" GPT Store" من ضعف الإشراف، وذلك بالنظر إلى الانتشار الهائل للمحتوى الذي لا يتوافق مع قواعد استخدام شركة OpenAI. هذه الثغرة في المتجر تعرض مصداقية متجر"GPT Store" للخطر وتضر بتجربة المستخدم. كما يشجع غياب الضوابط الصارمة والعقوبات الرادعة على إساءة الاستخدام ويخلق بيئة فوضوية.
فإن تحقيق الدخل من المحتوى غير القانوني وغير الأخلاقي من المحتمل أن يطرح مشكلات شديدة الْخَطَر تتعلق بالمسؤولية بالنسبة لشركة "OpenAI"؛ وتواجه الشركة خيارًا حاسمًا: إما أن تغض الطرف عن هذه الممارسات وتخاطر بسمعتها، أو أن تتخذ تدابير صارمة لضمان نزاهة منصتها.
يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل
للتواصل مع #نايلةالصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@ وعبرموقع مونت كارلو الدولية مع تحيات نايلة الصليبي