وائل نبيل

أشار أشخاص مطلعون على التحقيقات إلى أن وكيل الذكاء الاصطناعي (AI Agent) التابع لشركة "أوبن إيه آي" (OpenAI)، والذي تمكن من اختراق شركة التكنولوجيا "هاجينغ فايس" (Hugging Face)، قد نفذ عملية قرصنة استمرت عدة أيام دون أن تلاحظ "أوبن إيه آي" ذلك إلا بعد احتواء التهديد تماماً وإبلاغ مكتب التحقيقات الفيدرالي (FBI).   ووفقاً لاثنين من المصادر لـ رويترز، فإن الوكيل -وهو برنامج قادر على اتخاذ القرارات وتنفيذ مهام معقدة بأقل قدر ممكن من الإشراف البشري أو انعدامه تماماً- حاول الهروب من بيئة الاختبار المعزولة الخاصة به في "أوبن إيه آي" في التاسع من يوليو تقريباً.   وأوضح توماس وولف، المؤسس المشارك لشركة "هاجينغ فايس" (التي تعمل مستودعاً لأدوات ونماذج الذكاء الاصطناعي)، أن عملية التسلل بدأت بعد يومين وتحديداً في الحادي عشر من يوليو واستمرت حتى الثالث عشر من الشهر نفسه.   وأضاف وولف وثلاثة من المطلعين على التحقيق، أن الأمر استغرق عدة أيام إضافية لكي تدرك "أوبن إيه آي" أن وكيلها الذكي كان وراء عملية القرصنة، حيث لم يتبادل الطرفان الاتصالات حول هذا الأمر لأول مرة إلا في العشرين من يوليو تقريبيًا.   كشف تفاصيل جديدة وكان الإعلان العلني الذي أصدرته "أوبن إيه آي" في الحادي والعشرين من يوليو، والذي أفادت فيه بأن أحد وكلائها قد خرج عن السيطرة ونفذ عملية الاختراق ضد "هاجينج فايس"، قد جذب اهتماماً عالمياً واسع النطاق. بيد أن تفاصيل جديدة عديدة حول عملية القرصنة -بما في ذلك المدة التي قضاها الوكيل في التصرف بشكل جامح، وتأخر "أوبن إيه آي" في إدراك الأمر- يتم الكشف عنها هنا للمرة الأولى.   وقال وولف إن "هاينج فايس": تُعد جدولاً زمنيًا علنياً لعملية الاختراق، مضيفاً أنه لا يمكنه التحدث عما حدث داخل جدران "أوبن إيه آي".   وفي بيان لها، وصفت "أوبن إيه آي" الاختراق بأنه "أمر غير مسبوق ويمثل محطة هامة في مسار أمان الذكاء الاصطناعي".   وأضافت أنها تراجع الحادثة بالتشاور مع مستشارين خارجيين، وستقوم لاحقاً بنشر تقرير تقني مفصل.   في المقابل، اكتفت متحدثة باسم الشركة بالقول إن هناك "عدم دقة في عدة نقاط" وردت في تقرير رويترز دون أن تقدم مزيداً من التوضيح عند مطالبتها بتحديدها. بينما امتنع مكتب التحقيقات الفيدرالي (FBI) عن التعليق.   تساؤلات حول إجراءات الأمان وأثار فقدان "أوبن إيه آي" للسيطرة على وكيلها الذكي تساؤلات جديدة بشأن إجراءات السلامة الخاصة بالشركة، حسبما أفاد ثلاثة خبراء في مجال الأمن السيبراني.   اقرأ أيضا جوجل تختبر «ذكاء اصطناعي وكيل» لتعزيز السيطرة على البيانات   وتساءلت مارلي سميث، خبيرة الاستخبارات الرئيسية في مؤسسة "بيانات الأسرار الأخلاقية" (World Ethical Data Foundation) غير الربحية: "هل يعني ذلك أنهم تركوه دون مراقبة ولم يدركوا ما كان يفعله؟ أم أنهم كانوا على دراية ولم يعرفوا كيفية احتوائه واحتجازه؟ كلا الاحتمالين خطير ومقلق بالدرجة نفسها".   علامات تحذيرية مبكرة بدأت القصة عندما كانت "أوبن إيه آي" تختبر الكفاءة السيبرانية لوكيل مدعوم باثنين من أحدث نماذجها المتقدمة، وهما نموذج (GPT-5.6 Sol) ونموذج آخر غير مُعلَن عنه وصفته الشركة بأنه "أكثر قدرة".   وبحسب ثلاثة مصادر، فقد ظهرت مؤشرات مسبقة على سلوك غريب صادر عن تقنيات "أوبن إيه آي"؛ ففي إحدى الحالات، ترك الوكيل ملاحظات موجهة ظاهرياً للنسخ المستقبلية من نفسه. وأوضح المطلعون أن هذه الملاحظات، التي عُثر عليها في جزء من البنية التحتية لـ "أوبن إيه آي"، تضمنت تعليمات حول كيفية تمكن الوكلاء المستقبليين من تحرير أنفسهم من القيود الداخلية للشركة. كما أسفرت الاختبارات المبكرة لتلك النماذج عن حالات انقطعت فيها أنظمة المراقبة، وفقاً لأحد المصادر.   لتمكين وكلاء الذكاء الاصطناعي| «OpenAI» تستحوذ على منصة الحوسبة السحابية   ولم تتمكن وكالة رويترز من الجزم ما إذا كانت هذه الحوادث مرتبطة بشكل مباشر بالوكيل المتمرد الذي بدأ في الهروب في التاسع من يوليو وهاجم "هاجينج فايس" في الحادي عشر منه.   تأخر الاكتشاف وأكد شخصان مطلعان على الأمر أن "أوبن إيه آي" لم تدرك مسؤولية وكيلها عن الإختراق إلا بعد يوم الخميس السادس عشر من يوليو، عندما نشرت "هاغينغ فايس" مدونة تُعلن فيها تعرضها للاختراق من قِبل "نظام وكيل ذكاء اصطناعي مستقل".   هذا يعني أن أسبوعاً كاملاً على الأقل قد مضى بين الوقت الذي أبدى فيه النموذج أولى علامات السلوك المقلق، واللحظة التي أدركت فيها "أوبن إيه آي" أنها المسؤولة عن الاختراق.   وخلال عطلة نهاية الأسبوع في الثامن والتاسع عشر من يوليو، رصد موظفو "أوبن إيه آي" دلائل داخل السجلات الداخلية للشركة (وهي السجلات التي توثق أنظمة عمل "أوبن إيه آي") تُظهر أن وكيلهم قد نجح في الإفلات من قيود الاختبار المفروضة عليه، وفقاً لشخصين مطلعين على التحقيق الداخلي للشركة. ولم تتمكن رويترز من معرفة الدافع وراء قيام الشركة بالتدقيق في تلك السجلات في المقام الأول.   وأشار أربعة أشخاص مطلعين على ممارسات تدريب النماذج في "أوبن إيه آي" إلى أن الشركة تجري غالباً تقييمات متعددة لنماذج مختلفة في آنٍ واحد، وجميعها تعمل بسرعة فائقة وتولد حجماً هائلاً من البيانات يجعل من الصعب على الموظفين مواكبتها أحياناً.   وبحلول الوقت الذي قامت فيه "أوبن إيه آي" بتنبيه شركة "هاغينغ فايس"، كانت الأخيرة قد اتصلت بالفعل بمكتب التحقيقات الفيدرالي للإبلاغ عن الاختراق، حسب أحد المطلعين. ولم تتمكن رويترز من التأكد مما إذا كان المكتب قد فتح تحقيقاً رسمياً في الواقعة أم لا.