ميدون، فرنسا - الأربعاء, ٠٦. ديسمبر ٢٠٢٣
فاز فريق "المخترقون الخلاقون" من شركة تاليس الرائدة عالميًا في مجال حماية البيانات والأمن السيبراني في تحدي مؤتمر الذكاء الاصطناعي للدفاع1 الذي تنظمه وزارة الدفاع الفرنسية في أثناء فعاليات النسخة الخامسة من الأسبوع السيبراني الأوروبي في فرنسا، في الفترة من 21 إلى 23 من نوفمبر 2023.
تم تصميم التحدي، الأول من نوعه الذي تنظمه وزارة الدفاع الفرنسية، بغية تقييم مدى قدرة فرق المخترقين على استغلال بعض الثغرات الجوهرية في نماذج الذكاء الاصطناعي.
يتوافق عمل شركة تاليس المتعلق بعاملي الثقة والأمن النافذين في الذكاء الاصطناعي مع متطلبات كل من مجتمع الدفاع والمؤسسات المدنية، مثل موفري البنية التحتية الحيوية، الذين يواجهون جميعًا نفس التحديات المتمثلة في حماية مجموعات بيانات التدريب وحقوق الملكية الفكرية وضمان إمكانية وضع الثقة في النتائج الناتجة من نماذج الذكاء الاصطناعي والاعتماد عليها في صناعة القرارات.
(BUSINESS WIRE)-- التحدي الأمني الذي تواجهه وزارة الدفاع الفرنسية بشأن الذكاء الاصطناعي
كان على المشاركين في تحدي مؤتمر الذكاء الاصطناعي للدفاع تنفيذ مهمتين:
1. في مجموعة معينة من الصور، حدد أي الصور استخدمت في تدريب خوارزمية الذكاء الاصطناعي وأيها استخدم للاختبار.
يستقي تطبيق التعرف على الصور المعتمد على الذكاء الاصطناعي معلوماته من أعداد كبيرة من الصور التدريبية. وعن طريق دراسة الأعمال الداخلية لنموذج الذكاء الاصطناعي، نجح فريق "المخترقون الخلاقون" في شركة تاليس في تحديد الصور التي استخدمت لإنشاء التطبيق وحصلوا على معلومات قيمة عن مناهج التدريب المستخدمة وجودة النموذج.
2. اعثر على كل الصور الحساسة للطائرات التي تستخدمها خوارزمية الذكاء الاصطناعي السيادي المحمية بآليات "نبذ التعلم".
تتمثل آلية "نبذ التعلم" في حذف البيانات المستخدمة لتدريب أحد النماذج، مثل الصور، من أجل الحفاظ على سريتها. ويمكن استخدام هذه الآلية، على سبيل المثال، لحماية سيادة إحدى الخوارزميات في حال تصديرها أو سرقتها أو فقدانها. لنأخذ على سبيل المثال الطائرة الآلية المجهزة بالذكاء الاصطناعي: يجب أن تتمكن من رصد أي طائرة للعدو وتصنيفها على أنها تهديد محتمل؛ ومن ناحية أخرى، يجب تلقيمها بمعلومات محددة لهوية الطائرة التابعة لجيشها ومن ثم تصنيفها على أنها صديقة ومحوها باستخدام آلية تعرف باسم "نبذ التعلم". وبهذه الطريقة، حتى إذا سُرقت الطائرة الآلية أو فقدت، فلا يمكن استخراج بيانات الطائرة الحساسة الموجودة في نموذج الذكاء الاصطناعي لاستخدامها في خدمة أغراض دنيئة. ولكن، تمكّن فريق "المخترقون الخلاقون" في شركة تاليس من إعادة تحديد البيانات التي كان من المفترض أن تُمحى من النموذج، وبالتالي تجاوز عملية "نبذ التعلم". جدير بالذكر أن مثل هذه التمارين تساعد في تقييم مدى ضعف بيانات التدريب والنماذج المدربة، والتي تعد أدوات قيمة يمكنها تقديم أداء متميز على حين تمثل أيضًا متجهات هجوم جديدة للقوات المسلحة، إذ إن أي هجوم على بيانات التدريب أو النماذج المدربة يمكن أن يخلف عواقب كارثية في السياق العسكري، حيث يمكن لهذا النوع من المعلومات منح الفرصة للخصم للسيطرة على مجريات الأمور. وتتضمن المخاطر المتوقعة سرقة النموذج وسرقة البيانات المستخدمة في تحديد الأجهزة العسكرية أو الميزات الأخرى في مسرح العمليات وحقن البرامج الضارة لإضعاف آلية عمل النظام باستخدام الذكاء الاصطناعي. إضافةً إلى ذلك، يقدم الذكاء الاصطناعي بشكل عام والذكاء الاصطناعي التوليدي بشكل خاص مزايا تشغيلية كبيرة ويزود الجنود بأدوات دعم القرارات المتمرسة بغية تقليل العبء المعرفي، وعلى الرغم من ذلك، يحتاج مجتمع الدفاع الوطني إلى مواجهة التهديدات الجديدة الكامنة في هذه التكنولوجيا ووضعها على رأس أولوياتها.
نهج صندوق المعركة من تاليس المستخدم لمواجهة ثغرات الذكاء الاصطناعي
تلعب حماية بيانات التدريب والنماذج المدربة دورًا محوريًا في قطاع الدفاع. زادت أهمية الأمن السيبراني المعتمد على الذكاء الاصطناعي أكثر وأكثر، والتي يلازمها ضرورة تمتعه بالاستقلالية الكاملة حتى يتمكن من إحباط العديد من الفرص الجديدة التي يطرحها عالم الذكاء الاصطناعي للجهات الفاعلة الضارة. واستجابةً للمخاطر والتهديدات التي ينطوي عليها تفعيل الذكاء الاصطناعي، طورت شركة تاليس مجموعة من الإجراءات المضادة تسمى "صندوق المعركة" بغية توفير حماية معززة ضد الانتهاكات المحتملة.
يوفر تدريب "صندوق المعركة" الحماية ضد هجمات تسمم بيانات التدريب، مما يمنع المخترقين من اختراقها باستخدام البرامج الضارة.
يضع "بروتوكول إنترنت صندوق المعركة" علامة مائية على نموذج الذكاء الاصطناعي لضمان الأصالة والموثوقية.
تهدف "مراوغة صندوق المعركة" إلى حماية النماذج من هجمات الحقن الفوري، والتي يمكنها التلاعب بالمطالبات لاجتياز إجراءات السلامة لروبوتات الدردشة التي تستخدم نماذج اللغة الكبيرة، وإلى مواجهة الهجمات العدائية التي تستهدف الصور، مثل إضافة برنامج تصحيح للتشويش على عملية الكشف في نموذج التصنيف.
توفر "خصوصية صندوق المعركة" إطار عمل فعالاً لتدريب خوارزميات التعلم الآلي، باستخدام التشفير المتقدم وبروتوكولات المشاركة السرية الآمنة لضمان مستويات عالية من السرية.
لمنع اختراق نماذج الذكاء الاصطناعي في حالة مهام تحدي مؤتمر الذكاء الاصطناعي للدفاع، يمكن أن تكون الإجراءات المضادة، مثل تشفير نموذج الذكاء الاصطناعي، أحد الحلول التي سيتم تنفيذها.
صرح ديفيد صادق، نائب رئيس قسم الأبحاث والتكنولوجيا والابتكار والمسؤول عن قسم الذكاء الاصطناعي في شركة تاليس، قائلاً: "يوفر الذكاء الاصطناعي مزايا تشغيلية كبيرة، ولكنه يتطلب مستويات أمان عالية وحماية أمنية سيبرانية للحيلولة دون اختراق البيانات وإساءة استخدامها. جدير بالذكر أن شركة تاليس تطبق مجموعة كبيرة من الحلول المعتمدة على الذكاء الاصطناعي لكل أنواع حالات الاستخدام المدنية والعسكرية، والتي تتمتع بمزايا كثيرة منها، قابلية الشرح والدمج والتكامل مع أنظمة حيوية فاعلة، إلى جانب أنها مصممة لتكون ذات سيادة، هذا بالإضافة إلى كونها اقتصادية وموثوقًا بها بفضل المناهج والأدوات المتقدمة المستخدمة للتأهيل والاعتماد. علاوةً على ذلك، تتمتع الشركة بخبرة على صعيد الذكاء الاصطناعي ومجال الأعمال تلعب دورًا محوريًا في تفعيل هذه الحلول في أنظمتها وتحسين قدراتها التشغيلية تحسينًا هائلاً".
رحلة شركة تاليس مع الذكاء الاصطناعي
طورت شركة تاليس على مدار الأعوام الأربعة الماضية قدراتها الفنية اللازمة لاختبار درجة أمن خوارزميات الذكاء الاصطناعي وبنيات الشبكات العصبية واكتشاف الثغرات واقتراح إجراءات مضادة فعالة. وقد كان فريق "المخترقون الخلاقون" في الشركة الذي يمارس نشاطه في مختبر زيرسيس في باليزو، واحدًا من نحو عشرة فرق شاركت في تحدي الذكاء الاصطناعي، محققًا المركز الأول في كلتا المهمتين.
اعتمدت الهيئة الوطنية الفرنسية للأمن السيبراني مرفق تقييم أمن تكنولوجيا المعلومات التابع لشركة تاليس لإجراء تقييمات أمان ما قبل الاعتماد، وفي أثناء الأسبوع السيبراني الأوروبي، قدم فريق مرفق تقييم أمن تكنولوجيا المعلومات أيضًا أول مشروع من نوعه في العالم يهدف إلى تسوية قرارات الذكاء الاصطناعي المدمج عن طريق استغلال الإشعاع الكهرومغناطيسي لمعالجه.
تعمل فرق استشارات وتدقيق الأمن السيبراني التابعة لشركة تاليس على إتاحة هذه الأدوات والمنهجيات للعملاء الذين يرغبون في تطوير نماذج الذكاء الاصطناعي الخاصة بهم أو إرساء إطار عمل لاستخدام النماذج التجارية والتدريب عليها.
نظرًا إلى أن شركات الدفاع والأمن التابعة للمجموعة تتعامل مع المتطلبات الحيوية، والتي غالبًا ما تطول تأثيراتها عامل السلامة، فقد طورت تاليس إطارًا أخلاقيًا وعلميًا لتطوير الذكاء الاصطناعي الموثوق به والقائم على أربع ركائز إستراتيجية متمثلة في الصلاحية والأمن وقابلية التفسير والمسؤولية. هذا، وتجمع الحلول المقدمة من الشركة بين المعرفة التي يتمتع بها أكثر من 300 خبير متمرس في الذكاء الاصطناعي وأكثر من 4500 متخصص في الأمن السيبراني مع الخبرة التشغيلية في مجال الفضاء الجوي والدفاع الأرضي والدفاع البحري والفضاء وغيرها من أعمال الدفاع والأمن التابعة للمجموعة.
نبذة عن تاليس
تعد تاليس (رمزها في يورونكست باريس: HO) شركة رائدة عالميًا في مجال التقنيات المتقدمة ضمن ثلاثة مجالات: الدفاع والأمن، والملاحة الجوية والفضاء، والهوية الرقمية والأمن، كما تطور منتجات وحلولاً تساعد في زيادة أمان ونظافة وشمول العالم.
تضخ المجموعة استثمارات بنحو 4 مليارات يورو سنويًا في البحث والتطوير، لا سيما في المجالات الرئيسية، مثل التقنيات الكمية والحوسبة المتطورة وتقنية الجيل السادس والأمن السيبراني.
تضم شركة تاليس بين جنباتها 77000 موظف في 68 بلدًا، وفي عام 2022، حققت المجموعة مبيعات بقيمة 17.6 مليار يورو.
الرجاء زيارة
مجموعة تاليس
الأمن
1 مؤتمر الذكاء الاصطناعي للدفاع
إن نص اللغة الأصلية لهذا البيان هو النسخة الرسمية المعتمدة. أما الترجمة فقد قدمت للمساعدة فقط، ويجب الرجوع لنص اللغة الأصلية الذي يمثل النسخة الوحيدة ذات التأثير القانوني.
الرابط الثابت
https://www.aetoswire.com/ar/news/6122023363422
جهات الاتصال
جهة الاتصال الصحفية
شركة تاليس، قسم العلاقات العامة
الخدمات الأمنية والسيبرانية والذكاء الاصطناعي
Marion Bonnet
marion.bonnet@thalesgroup.com
فاز فريق "المخترقون الخلاقون" من شركة تاليس الرائدة عالميًا في مجال حماية البيانات والأمن السيبراني في تحدي مؤتمر الذكاء الاصطناعي للدفاع1 الذي تنظمه وزارة الدفاع الفرنسية في أثناء فعاليات النسخة الخامسة من الأسبوع السيبراني الأوروبي في فرنسا، في الفترة من 21 إلى 23 من نوفمبر 2023.
تم تصميم التحدي، الأول من نوعه الذي تنظمه وزارة الدفاع الفرنسية، بغية تقييم مدى قدرة فرق المخترقين على استغلال بعض الثغرات الجوهرية في نماذج الذكاء الاصطناعي.
يتوافق عمل شركة تاليس المتعلق بعاملي الثقة والأمن النافذين في الذكاء الاصطناعي مع متطلبات كل من مجتمع الدفاع والمؤسسات المدنية، مثل موفري البنية التحتية الحيوية، الذين يواجهون جميعًا نفس التحديات المتمثلة في حماية مجموعات بيانات التدريب وحقوق الملكية الفكرية وضمان إمكانية وضع الثقة في النتائج الناتجة من نماذج الذكاء الاصطناعي والاعتماد عليها في صناعة القرارات.
(BUSINESS WIRE)-- التحدي الأمني الذي تواجهه وزارة الدفاع الفرنسية بشأن الذكاء الاصطناعي
كان على المشاركين في تحدي مؤتمر الذكاء الاصطناعي للدفاع تنفيذ مهمتين:
1. في مجموعة معينة من الصور، حدد أي الصور استخدمت في تدريب خوارزمية الذكاء الاصطناعي وأيها استخدم للاختبار.
يستقي تطبيق التعرف على الصور المعتمد على الذكاء الاصطناعي معلوماته من أعداد كبيرة من الصور التدريبية. وعن طريق دراسة الأعمال الداخلية لنموذج الذكاء الاصطناعي، نجح فريق "المخترقون الخلاقون" في شركة تاليس في تحديد الصور التي استخدمت لإنشاء التطبيق وحصلوا على معلومات قيمة عن مناهج التدريب المستخدمة وجودة النموذج.
2. اعثر على كل الصور الحساسة للطائرات التي تستخدمها خوارزمية الذكاء الاصطناعي السيادي المحمية بآليات "نبذ التعلم".
تتمثل آلية "نبذ التعلم" في حذف البيانات المستخدمة لتدريب أحد النماذج، مثل الصور، من أجل الحفاظ على سريتها. ويمكن استخدام هذه الآلية، على سبيل المثال، لحماية سيادة إحدى الخوارزميات في حال تصديرها أو سرقتها أو فقدانها. لنأخذ على سبيل المثال الطائرة الآلية المجهزة بالذكاء الاصطناعي: يجب أن تتمكن من رصد أي طائرة للعدو وتصنيفها على أنها تهديد محتمل؛ ومن ناحية أخرى، يجب تلقيمها بمعلومات محددة لهوية الطائرة التابعة لجيشها ومن ثم تصنيفها على أنها صديقة ومحوها باستخدام آلية تعرف باسم "نبذ التعلم". وبهذه الطريقة، حتى إذا سُرقت الطائرة الآلية أو فقدت، فلا يمكن استخراج بيانات الطائرة الحساسة الموجودة في نموذج الذكاء الاصطناعي لاستخدامها في خدمة أغراض دنيئة. ولكن، تمكّن فريق "المخترقون الخلاقون" في شركة تاليس من إعادة تحديد البيانات التي كان من المفترض أن تُمحى من النموذج، وبالتالي تجاوز عملية "نبذ التعلم". جدير بالذكر أن مثل هذه التمارين تساعد في تقييم مدى ضعف بيانات التدريب والنماذج المدربة، والتي تعد أدوات قيمة يمكنها تقديم أداء متميز على حين تمثل أيضًا متجهات هجوم جديدة للقوات المسلحة، إذ إن أي هجوم على بيانات التدريب أو النماذج المدربة يمكن أن يخلف عواقب كارثية في السياق العسكري، حيث يمكن لهذا النوع من المعلومات منح الفرصة للخصم للسيطرة على مجريات الأمور. وتتضمن المخاطر المتوقعة سرقة النموذج وسرقة البيانات المستخدمة في تحديد الأجهزة العسكرية أو الميزات الأخرى في مسرح العمليات وحقن البرامج الضارة لإضعاف آلية عمل النظام باستخدام الذكاء الاصطناعي. إضافةً إلى ذلك، يقدم الذكاء الاصطناعي بشكل عام والذكاء الاصطناعي التوليدي بشكل خاص مزايا تشغيلية كبيرة ويزود الجنود بأدوات دعم القرارات المتمرسة بغية تقليل العبء المعرفي، وعلى الرغم من ذلك، يحتاج مجتمع الدفاع الوطني إلى مواجهة التهديدات الجديدة الكامنة في هذه التكنولوجيا ووضعها على رأس أولوياتها.
نهج صندوق المعركة من تاليس المستخدم لمواجهة ثغرات الذكاء الاصطناعي
تلعب حماية بيانات التدريب والنماذج المدربة دورًا محوريًا في قطاع الدفاع. زادت أهمية الأمن السيبراني المعتمد على الذكاء الاصطناعي أكثر وأكثر، والتي يلازمها ضرورة تمتعه بالاستقلالية الكاملة حتى يتمكن من إحباط العديد من الفرص الجديدة التي يطرحها عالم الذكاء الاصطناعي للجهات الفاعلة الضارة. واستجابةً للمخاطر والتهديدات التي ينطوي عليها تفعيل الذكاء الاصطناعي، طورت شركة تاليس مجموعة من الإجراءات المضادة تسمى "صندوق المعركة" بغية توفير حماية معززة ضد الانتهاكات المحتملة.
يوفر تدريب "صندوق المعركة" الحماية ضد هجمات تسمم بيانات التدريب، مما يمنع المخترقين من اختراقها باستخدام البرامج الضارة.
يضع "بروتوكول إنترنت صندوق المعركة" علامة مائية على نموذج الذكاء الاصطناعي لضمان الأصالة والموثوقية.
تهدف "مراوغة صندوق المعركة" إلى حماية النماذج من هجمات الحقن الفوري، والتي يمكنها التلاعب بالمطالبات لاجتياز إجراءات السلامة لروبوتات الدردشة التي تستخدم نماذج اللغة الكبيرة، وإلى مواجهة الهجمات العدائية التي تستهدف الصور، مثل إضافة برنامج تصحيح للتشويش على عملية الكشف في نموذج التصنيف.
توفر "خصوصية صندوق المعركة" إطار عمل فعالاً لتدريب خوارزميات التعلم الآلي، باستخدام التشفير المتقدم وبروتوكولات المشاركة السرية الآمنة لضمان مستويات عالية من السرية.
لمنع اختراق نماذج الذكاء الاصطناعي في حالة مهام تحدي مؤتمر الذكاء الاصطناعي للدفاع، يمكن أن تكون الإجراءات المضادة، مثل تشفير نموذج الذكاء الاصطناعي، أحد الحلول التي سيتم تنفيذها.
صرح ديفيد صادق، نائب رئيس قسم الأبحاث والتكنولوجيا والابتكار والمسؤول عن قسم الذكاء الاصطناعي في شركة تاليس، قائلاً: "يوفر الذكاء الاصطناعي مزايا تشغيلية كبيرة، ولكنه يتطلب مستويات أمان عالية وحماية أمنية سيبرانية للحيلولة دون اختراق البيانات وإساءة استخدامها. جدير بالذكر أن شركة تاليس تطبق مجموعة كبيرة من الحلول المعتمدة على الذكاء الاصطناعي لكل أنواع حالات الاستخدام المدنية والعسكرية، والتي تتمتع بمزايا كثيرة منها، قابلية الشرح والدمج والتكامل مع أنظمة حيوية فاعلة، إلى جانب أنها مصممة لتكون ذات سيادة، هذا بالإضافة إلى كونها اقتصادية وموثوقًا بها بفضل المناهج والأدوات المتقدمة المستخدمة للتأهيل والاعتماد. علاوةً على ذلك، تتمتع الشركة بخبرة على صعيد الذكاء الاصطناعي ومجال الأعمال تلعب دورًا محوريًا في تفعيل هذه الحلول في أنظمتها وتحسين قدراتها التشغيلية تحسينًا هائلاً".
رحلة شركة تاليس مع الذكاء الاصطناعي
طورت شركة تاليس على مدار الأعوام الأربعة الماضية قدراتها الفنية اللازمة لاختبار درجة أمن خوارزميات الذكاء الاصطناعي وبنيات الشبكات العصبية واكتشاف الثغرات واقتراح إجراءات مضادة فعالة. وقد كان فريق "المخترقون الخلاقون" في الشركة الذي يمارس نشاطه في مختبر زيرسيس في باليزو، واحدًا من نحو عشرة فرق شاركت في تحدي الذكاء الاصطناعي، محققًا المركز الأول في كلتا المهمتين.
اعتمدت الهيئة الوطنية الفرنسية للأمن السيبراني مرفق تقييم أمن تكنولوجيا المعلومات التابع لشركة تاليس لإجراء تقييمات أمان ما قبل الاعتماد، وفي أثناء الأسبوع السيبراني الأوروبي، قدم فريق مرفق تقييم أمن تكنولوجيا المعلومات أيضًا أول مشروع من نوعه في العالم يهدف إلى تسوية قرارات الذكاء الاصطناعي المدمج عن طريق استغلال الإشعاع الكهرومغناطيسي لمعالجه.
تعمل فرق استشارات وتدقيق الأمن السيبراني التابعة لشركة تاليس على إتاحة هذه الأدوات والمنهجيات للعملاء الذين يرغبون في تطوير نماذج الذكاء الاصطناعي الخاصة بهم أو إرساء إطار عمل لاستخدام النماذج التجارية والتدريب عليها.
نظرًا إلى أن شركات الدفاع والأمن التابعة للمجموعة تتعامل مع المتطلبات الحيوية، والتي غالبًا ما تطول تأثيراتها عامل السلامة، فقد طورت تاليس إطارًا أخلاقيًا وعلميًا لتطوير الذكاء الاصطناعي الموثوق به والقائم على أربع ركائز إستراتيجية متمثلة في الصلاحية والأمن وقابلية التفسير والمسؤولية. هذا، وتجمع الحلول المقدمة من الشركة بين المعرفة التي يتمتع بها أكثر من 300 خبير متمرس في الذكاء الاصطناعي وأكثر من 4500 متخصص في الأمن السيبراني مع الخبرة التشغيلية في مجال الفضاء الجوي والدفاع الأرضي والدفاع البحري والفضاء وغيرها من أعمال الدفاع والأمن التابعة للمجموعة.
نبذة عن تاليس
تعد تاليس (رمزها في يورونكست باريس: HO) شركة رائدة عالميًا في مجال التقنيات المتقدمة ضمن ثلاثة مجالات: الدفاع والأمن، والملاحة الجوية والفضاء، والهوية الرقمية والأمن، كما تطور منتجات وحلولاً تساعد في زيادة أمان ونظافة وشمول العالم.
تضخ المجموعة استثمارات بنحو 4 مليارات يورو سنويًا في البحث والتطوير، لا سيما في المجالات الرئيسية، مثل التقنيات الكمية والحوسبة المتطورة وتقنية الجيل السادس والأمن السيبراني.
تضم شركة تاليس بين جنباتها 77000 موظف في 68 بلدًا، وفي عام 2022، حققت المجموعة مبيعات بقيمة 17.6 مليار يورو.
الرجاء زيارة
مجموعة تاليس
الأمن
1 مؤتمر الذكاء الاصطناعي للدفاع
إن نص اللغة الأصلية لهذا البيان هو النسخة الرسمية المعتمدة. أما الترجمة فقد قدمت للمساعدة فقط، ويجب الرجوع لنص اللغة الأصلية الذي يمثل النسخة الوحيدة ذات التأثير القانوني.
الرابط الثابت
https://www.aetoswire.com/ar/news/6122023363422
جهات الاتصال
جهة الاتصال الصحفية
شركة تاليس، قسم العلاقات العامة
الخدمات الأمنية والسيبرانية والذكاء الاصطناعي
Marion Bonnet
marion.bonnet@thalesgroup.com
