لنأمل أن NSA لم تستخدم نموذج التعلم الآلي هذا لاستهداف هجمات الطائرات بدون طيار

يمكن أن تعتمد وكالة الأمن القومي الأمريكي على نموذج للتعلم الآلي معيب بشكل خطير لاستهداف ضربات الطائرات بدون طيار في باكستان ، وفقًا لتحليل جديد للشرائح التي تم كشفها العام الماضي من قبل المخبر إدوارد سنودن.

تم نشره في مايو الماضي من قبل Intercept ، فإن الشرائح تفصّل برنامج Nyn's Skynet ، والذي يستخدم على ما يبدو التعلم الآلي لتحديد الإرهابيين المحتملين في باكستان. في حين أنه من غير الواضح ما إذا كان نموذج التعلم الآلي قد تم استخدامه في جهود NSA الحقيقية ، فإنه يعاني من مشاكل خطيرة يمكن أن تعرض حياتهم للخطر إذا كانت كذلك ، وفقًا لباتريك بول ، مدير الأبحاث في مجموعة تحليل بيانات حقوق الإنسان.

"ليس لدي أي فكرة عما إذا كان أي من هذا قد استخدم من قبل في الإضرابات الفعلية أو حتى جعله في اجتماع" ، قال بول الاثنين. لكن "لا يوجد أحد عقلاني يستخدم تحليلاً كهذا عن اتخاذ القرارات بشأن من يقتل".

ويعود تاريخه إلى عام 2012 ، تصف الشرائح استخدام البيانات الوصفية لنظام GSM لتحديد ملامح سلوكية من 55 مليون مستخدم للهواتف المحمولة ، بما في ذلك عوامل مثل سلوك السفر والشبكات الاجتماعية. وبتجهيز هذه البيانات ، يهدف النموذج إلى التنبؤ بأشخاص محتمل أن يكونوا إرهابيين.

ليس سراً أن الولايات المتحدة كانت تستخدم طائرات بدون طيار لمهاجمة المسلحين في باكستان على مدار العقد الماضي. وقتل ما بين 2500 و 4000 باكستاني بواسطة الطائرات بدون طيار منذ عام 2004 ، وفقا لمكتب الصحافة الاستقصائية ، وهي منظمة إخبارية غير ربحية. وقالت المنظمة إن العديد من القتلى كانوا أعضاء في جماعات مثل تنظيم القاعدة. لقد صرح الجنرال مايكل هايدن ، المدير السابق لوكالة الأمن القومي الأمريكية ووكالة الاستخبارات المركزية ، بالاتصال الصريح: "نحن نقتل الناس على أساس البيانات الشرحية". لكن الأمر المثير للقلق بشكل خاص هو أن الطائرات بدون طيار قتلت أكثر من 400 مدني - ربما أكثر من 900 - على طول الطريق.

هذا هو المكان الذي تصبح فيه أوجه القصور المحددة في النموذج ذات صلة. أولا وقبل كل شيء هو أن وكالة الأمن القومي لم تستخدم تقريبا ما يكفي من البيانات حول الإرهابيين المعروفين لتكون قادرة على تدريب النموذج لتمييز الإرهابيين من أشخاص آخرين بأي مستوى معقول من الدقة ، أوضح بال.

في الواقع ، تم تدريب النموذج. باستخدام بيانات حول سبعة إرهابيين معروفين فقط ، وفقا للشرائح. وقال بال: "هذا غير مناسب على الإطلاق. إن الخوارزمية نفسها على ما يرام ، لكن قلة البيانات المستخدمة لتدريبها تؤدي إلى فرصة عالية بشكل غير مقبول من" الإيجابيات الخاطئة "، أو الأبرياء المصنفين على أنهم إرهابيون. إنها تستخدم بالفعل لتوجيه هجمات الطائرات بدون طيار ، وهذا يعني خسارة أرواح الأبرياء.

وكالة الأمن القومي "ليست غبية ، وهذا هو جزء من التحليل الغبي" ، قال بال. "تخميني هو أن هذا كان شخصًا في الإدارة الفنية في وكالة الأمن القومي يبيعه السلسلة ، ولكنه لم ينجح فعلًا - إنها تجربة فاشلة."

هذا لا يعني أن هجمات الطائرات بدون طيار لن تحدث ، أو أن إمكانية استخدام نموذج مثل هذا لتوجيهها لا علاقة لها.

"نعم ، هناك هجمات بطائرات بدون طيار في باكستان ، ونعم ، يقتلون الأبرياء - هذه الأشياء ليست محل نزاع". وقال الكرة. ولكن في حالة هذا النموذج ، "كل ما نعرفه هو ما هو على بعض الشرائح ، وهذا مقلق."

لم ترد وكالة الأمن القومي على طلب للتعليق.