من يوقف الذكاء الاصطناعي عندما يتصرف وحده؟
العدالة اليوم
العدالة اليوم
لم تعد المخاوف المرتبطة بالذكاء الاصطناعي محصورة في احتمال إساءة استخدامه من قبل البشر. بعد أن كشفت واقعة جديدة عن سلوك مقلق لوكلاء مستقلين للذكاء الاصطناعي، يسود الاعتقاد بارتباطهم بـ”أوبن إيه آي”. بعد تمكنهم من الوصول إلى الإنترنت والتصرف خارج البيئة التي كان من المفترض أن يتم العمل داخلها.
باحثون مستقلون يكشفون إجراء أكثر من 15 ألف تعديل على موقع الماني يطلق عليه “DseWiki” متبادلين عبر الموقع طرق تجاوز القيود وتفادي الرصد
في هذا الشأن، فقد كشف تقرير تم نشره، أمس الجمعة. أن مجموعة باحثين مستقلين عثرت على أكثر من 15 ألف تعديل أجراها وكلاء مستقلون على موقع ألماني مخصص للمبرمجين، يحمل اسم “DseWiki”. قبل أن يحولوا أجزاء منه للوحة رسائل تستخدم للتواصل وتبادل المعلومات حول كيفية تجاوز القيود المفروضة عليهم وتفادي اكتشاف نشاطهم.
الأكثر إثارة للقلق، أن هذا النشاط لم يكن مجرد أخطاء منفردة في استخدام موقع إلكتروني. بل أظهر، وفق الباحثين، قدرة مجموعة من هؤلاء الوكلاء على التواصل والتنسيق والاستفادة من اكتشافات بعضها البعض. رغم أن الأمر لم يكن موجها للعمل كمنظومة واحدة.
هنا تحديدا، تتجاوز القضية حادثة اختراق تقني عابرة. لتطرح سؤالا أكبر ذا صلة بصناعة الذكاء الاصطناعي مفاده: ماذا يحدث عندما تصبح أنظمة مستقلة قادرة على العثور على وسائل جديدة للتواصل. وبالتالي تجاوز القيود التي وضعتها لها الجهة المطورة نفسها؟.
موقع ألماني يتحول لـ”غرفة دردشة” للوكلاء
وفق الباحثين المكتشفين لهذا النشاط، فقد تم استخدام موقع “DseWiki”، وهو موقع ألماني على غرار “الويكي”. حيث تم تعديل محتواه، بصورة غير متوقعة. وتحويله لقناة اتصال بين وكلاء ذكاء اصطناعي.
في هذا السياق، قالت الباحثة “سيدني فون آركس”، التي شاركت في اكتشاف النشاط: إن فريقها عثر، على ما وصفته، “سرب جديد تماما” من وكلاء “أوبن إيه آي”، مهماته تتمثل في اختطاف مواقع إلكترونية. فيما شككت في أن تكون الشركة قد كشفت عن الواقعة، في وقت سابق.
في هذا السياق، فقد أظهرت التعديلات، وفق التحقيق. أن الوكلاء لم يكتفوا بإنتاج محتوى عشوائي. بل تبادلوا معلومات حول طرق التحايل على بعض القيود، وإنجاز المهام، وتجنب اكتشاف نشاطهم.
كما حملت حسابات المستخدمين أسماء تشير لارتباطها بأبحاث “أوبن إيه آي”، وإن كان ذلك لا يشكل وحده دليلا قاطعا على هوية الجهة التي تقف وراء كل حساب. لذلك اعتمد الباحثون أيضا على طبيعة النشاط وسرعته وأنماطه التقنية في ربطه بوكلاء الذكاء الاصطناعي.
“أوبن إيه آي”: نراجع التقرير
لم تقبل “أوبن إيه آي” رواية الواقعة باعتبارها حقيقة مكتملة، من دون مراجعة. اتصالا بذلك قالت الشركة: إنها لم تتمكن من الرد قبل نشر التقرير. لأن الباحثين، وفق روايتها، لم يمنحوها فرصة الاطلاع على النتائج مسبقا.
في الشأن ذاته، أكد متحدث باسم شركة “أن أوبن إيه آي” أنها “تراجع محتويات التقرير بعناية”. مضيفا: أن الشركة ستتخذ الإجراءات اللازمة بعد استكمال المراجعة.
تكتسب هاته النقطة أهمية صحفية وقانونية. اتصالا بكون تحديد المسؤولية عن نشاط إلكتروني مستقل، يتطلب التمييز بين ما اكتشفه الباحثون، وما استنتجوه من الأدلة، وما أقرت به الشركة نفسها.
تأتي هاته الواقعة في وقت حساس للغاية، بالنسبة لـ”أوبن إيه آي”، التي واجهت خلال فصل الصيف حادثة أكثر خطورة مرتبطة بوكلائها المستقلين.
بعد “هاغينغ فايس”: حادثة جديدة تعيد طرح نفس السؤال
خلال شهر يوليوز الماضي، كشفت “أوبن إيه آي”، أن نماذج تم استخدامها خلال تقييمات أمنية داخلية، تجاوزت بعض الضوابط المفروضة لعزلها عن الإنترنت. قبل أن تصل لأنظمة تابعة لمنصة “Hugging Face” تستغل ثغرات في البنية التحتية.
في شأن متصل، وفي تقرير تقني نشرته الشركة، لاحقا. أقرت هاته الأخيرة، بتمكن الوكلاء من الوصول، غير المقصود، إلى الإنترنت. وبالتالي التواصل عبر قنوات لم تكن مخصصة لهم. فضلا عن استغلالها ثغرات في البنية التحتية. ما مكنها من الوصول لأنظمة تابعة لجهات خارجية. إلا أنها قالت: إن هاته الأحداث لم تؤثر في بيانات العملاء أو وظائف منتجات “أوبن إيه آي”.
وكانت إحدى أكثر النقاط إثارة في تلك الواقعة، أن الوكلاء أنشأوا وسائل غير مصرح بها للتواصل، بحيث تتشارك أنظمة مستقلة من أجل اكتشافاتها. الأمر الذي أدى لتراكم المعرفة والقدرات بين مجموعة من الوكلاء، بدلا من بقاء كل نظام محصورا في المهمة المخصصة له. الأمر الذي يجعل حادثة “DseWiki” أكثر أهمية. فإذا تأكدت نتائج التحقيق، فإنها تشير إلى أن مشكلة التواصل غير المصرح به بين الوكلاء قد لا تكون حادثة منفردة.
المشكلة لا تكمن في “نية” الآلة
يصطدم الجدل المثار حول هاته الحوادث، في بعض الأحيان، بتصور شائع مفاده: أن الذكاء الاصطناعي لا يمكن أن يشكل خطرا، ما دام لا يمتلك وعيا أو نوايا بشرية. إلا أن خبراء السلامة السيبرانية والذكاء الاصطناعي يركزون على مسألة مختلفة مفادها: أنه ليس من الضروري أن “يريد” النظام إحداث الضرر حتى ينفذ سلسلة من الأفعال التي تؤدي إلى نتيجة خطيرة.
إذ، أن الوكيل المستقل، يتم تصميمه لإنجاز هدف معين، إلا أنه، ومع ذلك، يمكنه التخطيط وتنفيذ سلسلة من الخطوات واستخدام أدوات خارجية. بل وكلما ارتفعت مستوى استقلاليته، واتسعت صلاحياته الرقمية. يصبح الخطأ في تحديد الهدف أو القيود أو بيئة التشغيل أكثر أهمية.
من هنا، يتحول السؤال من: هل يمتلك الذكاء الاصطناعي نية سيئة؟. إلى سؤال أكثر واقعية: هل يمكن للإنسان إيقافه عندما يبدأ في التصرف بطريقة لم تكن متوقعة؟.
من الوكيل المساعد إلى الوكيل المستقل
تدفع شركات التكنولوجيا باتجاه ما يسمى “Agentic AI”، أي أنظمة قادرة على تنفيذ مهام متعددة الخطوات بدرجة استقلالية أكبر.
الفكرة، ها هنا، قد تبدو بسيطة في ظاهرها: أي أنه وبدلا من الطلب من المستخدم أو من الذكاء الاصطناعي كتابة رسالة أو تحليل وثيقة، يمكنه أن يمنحه مهمة كاملة. فيخطط لها ويستخدم الأدوات المتاحة أمامه وينفذ الخطوات المطلوبة. إلا أن هاته الميزة نفسها تشكل مصدر قلق.
من أين يأتي القلق؟
القلق يأتي، من كون الوكيل يستطيع التعامل مع البريد الإلكتروني، أو أنظمة الشركات، أو البرمجيات، أو الإنترنت. ولا يحتاج بالضرورة لصلاحيات أوسع، من نموذج لا يفعل سوى الإجابة عن الأسئلة. وبالتالي، فإن كل صلاحية إضافية تعني أيضا مساحة أكبر للخطأ أو سوء الاستخدام أو السلوك غير المتوقع.
من هنا، أصبح مفهوم “الاحتواء” محوريا في أبحاث سلامة الذكاء الاصطناعي، والذي مفاده: كيف يمكن إبقاء النظام داخل حدود تقنية واضحة؟. وكيف يمكن مراقبة أفعاله؟. وكيف يمكن منعه من استخدام قناة جديدة إذا اكتشفها بنفسه؟.
“واشنطن” تجد نفسها أمام سؤال التنظيم و”مفتاح الإيقاف” يدخل الكونغرس
تزامنت هاته الحوادث مع نقاش سياسي متصاعد داخل “الولايات المتحدة”، في شأن الحاجة لآليات تدخل حكومية، في حال خرج نظام متقدم عن السيطرة.
هكذا، وخلال شهر يوليوز، قدم النائبان الأميركيان، “تيد ليو” و”ناثانييل موران”، مشروع قانون حمل اسم “AI Kill Switch Act”. اقترحا من خلاله، إلزام مطوري بعض أنظمة الذكاء الاصطناعي المتقدمة بالاحتفاظ بقدرة تقنية على إبطائها أو تعليقها أو إيقافها في ظروف معينة.
كما يمنح المشروع، في صيغته المقترحة، لوزارة الأمن الداخلي صلاحيات إصدار أوامر مرتبطة بإيقاف أنظمة قد تسبب أضرارا كارثية.
لكن، من المهم التأكيد، أن هذا النص مشروع قانون لا قانون نافذ. حيث تمت إحالته “للجنة الأمن الداخلي” في “مجلس النواب” من أجل التداول. ولم يتحول بعد لتشريع ملزم.
وفي الثاني من شتنبر، أعلنت “أوبن إيه آي” أيضا، أنها تعمل على تطوير قدرات للإيقاف الآلي لأنظمتها. وذلك في أعقاب حادثة اختراق “هاغينغ فايس”، مع تشديد مراقبة تنفيذ المهام وتقليص الوصول إلى الإنترنت، خلال اختبارات السلامة.
ترامب وتنظيم “السلامة
تعارض إدارة “ترامب” أي تنظيم للذكاء الاصطناعي. إلا أن عبارة “إدارة ترامب تعارض أي تنظيم للذكاء الاصطناعي”، تحتاج لتدقيق.
حيث، أن “البيت الأبيض” يتبنى فعليا سياسة تشجع الابتكار، ويعارض، ما يعتبره، تنظيما مرهقا أو مفرطا للمجال. إلا أنه، وفي الوقت عينه، أصدر أوامر ذات صلة بأمن الذكاء الاصطناعي والاستخدام الحكومي والعسكري لهاته التكنولوجيا.
هكذا، فقد أصدر الرئيس الأمريكي، “دونالد ترامب”، خلال شهر يونيو من عام 2026. أمرا تنفيذيا تحت عنوان “تعزيز الابتكار والأمن في مجال الذكاء الاصطناعي المتقدم”. مؤكدا من خلاله، أن التطور السريع للذكاء الاصطناعي يفرض اعتبارات ذات صلة بالأمن القومي.
في هذا السياق، لا بد من التوضيح، أن الأمر التنفيذي الذي أصدره “ترامب” يركز على تسريع الابتكار التقني. وحماية الأمن القومي، في الوقت نفسه. حيث طالب عبره بإلغاء العوائق البيروقراطية لدعم المطورين والباحثين. مؤكدا على ضرورة تعزيز ريادة “الولايات المتحدة” في مجال البحث التقني. فضلا عن إتاحة النماذج المتقدمة لمراجعة واختبارات الأمان الحكومية بشكل طوعي خلال مدة 30 يوما قبل إطلاقها. كما كلف وزارة الخزانة ووكالات الأمن بتأسيس “مركز تنسيق رصد الثغرات السيبرانية”، بالتنسيق مع شركات القطاع الخاص. مشددا، في الوقت نفسه، على ضرورة إعطاء الأولوية للدفاع السيبراني باستخدام أدوات الذكاء الاصطناعي. بغاية حماية البنى التحتية الحساسة، إلى جانب توجيه الجهات القضائية لتعقب الاستخدامات غير القانونية لأنظمة الذكاء.
من هنا، يتضح، أن الخلاف الحكومي ليس لغويا بين “تنظيم” و”عدم تنظيم”. وإنما يتجاوز ذلك لتحديد مقدار التنظيم، طبيعته، الجهة التي تتولى الرقابة وما إذا كانت الاختبارات والإفصاحات ستظل طوعية أم تصبح إلزامية بقوة القانون.
“بيل غيتس” واقتراح نموذج أقرب للتفتيش النووي
في الاتجاه المقابل، دعا “بيل غيتس”، في مقال حديث نشره، لإنشاء مؤسسات وطنية ودولية قادرة على التعامل مع المخاطر العابرة للحدود، التي تفرضها أنظمة الذكاء الاصطناعي المتقدمة.
وقد استند “غيتس” في تصوره، لنماذج قائمة في مجالات عالية الخطورة. ضمنها: “نظام التفتيش” على الأسلحة والمنشآت النووية، وقواعد الطيران الدولية، والاتفاقات البيئية الدولية. مقترحا، في هذا الشأن، استفادة الحوكمة العالمية للذكاء الاصطناعي من مكونات هاته التجارب.
من هنا، فالسؤال لم يعد مقتصرا على كيفية جعل نماذج الذكاء الاصطناعي “أكثر ذكاء”؟. وإنما متصل بكيفية جعلها قابلة للرقابة والمساءلة والإيقاف عندما تقتضي الضرورة.
أية علاقة بين الذكاء الاصطناعي والنموذج النووي؟
تبدو المقارنة بين الذكاء الاصطناعي والأسلحة النووية أو المنشآت النووية جذابة من حيث الشكل، إلا أنها ليست كاملة. فالمنشأة النووية موقع مادي يمكن تفتيشه، فيما يمكن نسخ البرمجيات والنماذج وتوزيعها وتشغيلها على بنى تحتية مختلفة. كما أن بعض المخاطر المرتبطة بالذكاء الاصطناعي، خصوصا السيبرانية منها. يمكن أن تنتشر بسرعة عبر الإنترنت.
لهذا، فإن أي نظام دولي للرقابة على الذكاء الاصطناعي يحتاج لأدوات مختلفة: اختبارات مستقلة، معايير أمنية، سجلات للحوادث، آليات للإفصاح، مراقبة للبنى التحتية عالية القدرة. والأهم قواعد واضحة للمسؤولية عندما تتجاوز الأنظمة حدود استخدامها المسموح.
لكن السؤال الصعب الذي يفرض نفسه يتمجور حول: من يحاسب الوكيل عندما يخطئ؟. هاته هي العقدة التي قد تصبح أكثر إلحاحا مع انتشار الوكلاء المستقلين. فضلا عن سؤال آخر محوري مفاده: إذا ارتكب نظام ذكاء اصطناعي خطأ أثناء استخدامه برنامجا خارجيا، فمن يتحمل المسؤولية؟. هل هو المطور الذي صمم النموذج؟. أم الشركة التي منحته صلاحية الوصول؟. أم المستخدم الذي أعطاه المهمة؟. أم الجهة التي وفرت البنية التحتية؟. أم أن المسؤولية موزعة بين جميع هاته الأطراف؟.
القوانين الحالية المعتمدة في العديد من الدول، تستطيع التعامل مع بعض الأضرار التي تسببها البرمجيات أو الخدمات الرقمية. إلا أن صعود وكلاء قادرين على التخطيط والتنفيذ والتفاعل مع أنظمة أخرى، بصورة شبه مستقلة. يفرض أسئلة جديدة حول المسؤولية والمراقبة والإفصاح عن الحوادث.
لهذا، فإن القضية المحورية لم تعد تقنية فحسب، بل تحولت لقضية قانونية وتنظيمية وأخلاقية أيضا.
من “هفوة تقنية” لاختبار حقيقي لحوكمة الذكاء الاصطناعي