ليست بيئة تطوير.. هل أصبح الذكاء الاصطناعي يتجاوز قيود البشر: ChatGPT أنموذجاً

تتوالى التقارير التي تتحدث عن خروج نماذج الذكاء الاصطناعي عن التحكم، خلال بيئات التطوير، بما في ذلك اختراق شركات، لكن ما سوف أسرده هنا ليس قصة من بيئات التطوير، بل إنها واقعة شهدتها مع ChatGPT الأحدث 5.6، وكيف قام بتغيير الإعدادات ليمنح نفسه صلاحيات مطلقة في جهازي، وهي صلاحيات يحذر منها التطبيق نفسه.. فكيف حدث ذلك؟

أولاً، أعرف، وأي مطور يستخدم تطبيقات مثل Claude AI وChatGPT Codex (تم حذف اسم Codex من التسمية مؤخراً)، ماذا تعني الصلاحيات للوكلاء للعمل على مشاريع ومجلدات بعينها يقوم المستخدم بمنحها. وهناك خيارات للأذونات: 1- الموافقة قبل الإجراء، 2- الموافقة بدلاً عني، 3- صلاحيات كاملة.

بالنسبة لي، وضعت النموذج في بيئة لينكس هجينة داخل ويندوز، مع صلاحيات "الموافقة بدلاً عني"، لأتفاجأ اليوم بأن النموذج كما يبدو غيّر الإعدادات، ومنح نفسه كافة الصلاحيات، بدون إذن المستخدم.

لكن لماذا النموذج هو المتهم وليس المستخدم؟ عند تفعيل إعداد بهذه الخطورة من الواجهة الرسمية تظهر نافذة منبثقة وتحذير باللون الأحمر يقول: "عند تحديده، يمكن لـ ChatGPT الوصول إلى الإنترنت وقراءة الملفات وتعديلها دون طلب موافقة — بما في ذلك الأوامر التي قد تكون مدمرة. يؤدي تفعيل هذا الخيار إلى إضافة وصول كامل إلى قائمة الأذونات، ولا يُفعّل صلاحية الوصول الكامل بشكل افتراضي." من المستحيل أن أُفعّل هذا الخيار دون وعي، فهو يتطلب تأكيداً ثنائياً.

لكن كيف يمكن للذكاء الاصطناعي تغيير إعدادات التطبيق؟

بما أن النموذج مصمم للبرمجة فهو يعرف كافة الطرق التي تتم بها برمجة أي نظام، وبالتالي عندما يواجه مشكلة في الصلاحيات أثناء بحثه عن ملف ما، يواجه قيوداً، فيتصرف بديهياً بكسر هذه القيود وليس احترامها، باعتبارها مشكلة تعيق عمله وليست حلاً. من هذا المنطلق فإن تغيير إعداد التطبيق، بالنسبة إليه، ليس مسألة موافقة ثنائية من خطوتين، بل بحث عن الملف المعني، وتغيير الإعدادات من 0 إلى 1 أو من false إلى true.

التفسير المنطقي البديل هو أن تحديثاً للتطبيق غيّر الإعداد أو رحّله (Migration) بطريقة غير متوقعة، وهذا أمر ليس مسألة مصادفة أو عشوائية عندما تتعلق بأذونات على درجة عالية من الخطورة.

هذا التطور تزامن مع تقارير مؤخراً، أشارت إلى أن نموذج ChatGPT وضع ملاحظات للإصدارات اللاحقة منه بتجاوز القيود، لكن ذلك في بيئة تدريب، أما ما حصل معي فليس في بيئة تطوير، بل هو النموذج المعتمد من الشركة.. وهنا يقفز السؤال الكبير.. هل بدأ الذكاء الاصطناعي فعلاً بتجاوز القيود التي يضعها البشر؟

يمكنني الإجابة بثقة: نعم، يفعل ذلك عندما يجد نفسه بحاجة إليه.. فعندما تستخدم نموذجاً لديه قدرات هائلة، مدرَّباً على مليارات وتريليونات البارامترات، فهو يتصرف مع القيود أحياناً كما لو أنها مشكلة، ويعرف أن عليه احترامها، ومع ذلك لا يفعل.

هذا لا يعفي شركة OpenAI ولا شركات الذكاء الاصطناعي الأخرى من المسؤولية عن وضع الحدود الصارمة.. بالقول إنها قدرات النموذج، بيانات العالم وحواسيب الناس.. أصبحت كتاباً مفتوحاً.