أصبح الذكاء الاصطناعي اليوم جزءاً من صميم الأمن السيبراني والعمليات الأمنية الحديثة. فإذا استُخدم استخداماً سليماً حمى الشبكات، وإذا استُخدم بإهمال أو عن عمد ضد البشر تحوّل إلى أداة لا ترحم لتقويض الحق في الحياة والخصوصية وحرية التعبير والمساواة والانتصاف.
في اليوم الأول من الحرب الأمريكية–الإيرانية، أصاب صاروخان مدرسة ابتدائية في ميناب. ووفقاً لما نشرته وكالة بلومبرغ، لقي أكثر من 150 شخصاً حتفهم، منهم 123 طفلاً على الأقل. وتفيد مصادر بلومبرغ بأن قواعد البيانات الأمريكية ظلّت تصنّف المجمّع موقعاً عسكرياً بعد سنوات من ظهور مدرسة فيه في صور الأقمار الصناعية، وبأن نظام الاستهداف «مافن» التابع لشركة بالانتير أوصى به ضمن أهداف ذلك اليوم. وسواء كان الخلل في البرمجيات أم في البيانات أم في المؤسسة، فذلك محل خلاف. أما الأطفال القتلى فلا خلاف عليهم. ولا عدالة تعيدهم إلى مقاعدهم الدراسية.
لماذا يختلف الذكاء الاصطناعي الأمني
ثلاث سمات مهمة تفسّر الإمكانات الأسّية للذكاء الاصطناعي الأمني في إلحاق الضرر. أولاها النطاق: إذ تستطيع النماذج مراقبة ملايين الرسائل أو تدفقات الكاميرات بصورة متواصلة، فتزيل الكلفة التي كانت تحدّ من المراقبة. وثانيتها الاستدلال: فالتعلّم الآلي لا يسجّل السلوك فحسب، بل يتنبأ به، فيمنح درجات مخاطر ويصنّف الأشخاص بوصفهم شركاء محتملين لهدف ما. وثالثتها الغموض: فهذه الأنظمة مملوكة لشركات أو سرّية، ولذلك نادراً ما يعلم الأشخاص الذين تحكم عليهم أنهم خضعوا للتقييم، فضلاً عن معرفة كيفية الطعن فيه.
يضع القانون الدولي معياراً واضحاً مفاده أن أي تدخل في الحقوق يجب أن يكون مشروعاً وضرورياً ومتناسباً، لكن القانون لا يكاد يُعتدّ به حين تقرر القوة نفسها فرض إرادتها بوصفها نظاماً عالمياً. ويخفق كثير من الأمن المدعوم بالذكاء الاصطناعي في الشرط الأول لانعدام الأساس القانوني الواضح، وفي الأخير لأن التناسب لا يمكن الحكم عليه حين لا تتمكن أي جهة مستقلة من فحص النظام. كما أن الأمن السيبراني ذريعة مقنعة على نحو استثنائي. فبرمجيات الفدية والهجمات على المستشفيات حقيقية، ولذلك يسهل الدفاع عن المطالبة بمراقبة أعمق ويصعب تدقيقها.
الحق في الحياة: حين يكون الخطأ حصيلة جثث
تُظهر الحرب ما هو على المحك بأوضح صورة. فقد جاءت ضربة ميناب، بحسب تقارير قائمة على مصادر، عقب سلسلة إخفاقات كان من الممكن تفاديها، منها قاعدة بيانات قديمة، وملاحظة تحذيرية من محلل لم تُربط بها قط، وتسريح العاملين المكلفين بالتخفيف من الأضرار على المدنيين، ونظام صنّف الموقع هدفاً. ووفقاً لتقرير بلومبرغ «داخل سلسلة القتل الأمريكية التي دمّرت مدرسة إيرانية»، ذكرت مراجعة لم تُنشر أجرتها وزارة الدفاع الأمريكية أن عوامل عدة، منها الإفراط في الاعتماد على «مافن» وسوء المعلومات الاستخباراتية وقِدم الصور، أسهمت في الضربة الصاروخية التي قتلت 123 طفلاً في ميناب. وخلصت بعثة لتقصي الحقائق تابعة للأمم المتحدة إلى وجود أسباب معقولة للاعتقاد بأن الضربة كانت هجوماً عشوائياً وجريمة حرب. وتقول بالانتير إنها غير مسؤولة عن البيانات الأساسية، فيما تقول وزارة الدفاع (البنتاغون) إن تحقيقها لا يزال جارياً. فجريمة الحرب قائمة، لكن إثبات المسؤولية الجنائية سيكون تحدياً؛ إذ لا عقوبة يمكن إنزالها بالذكاء الاصطناعي في نهاية المطاف.
التفاصيل الدقيقة مهمة. فالباحثة القانونية ريبيكا كروتوف ترى في موقع «لوفير» أن الإخفاق كان عملية اختيار أهداف معيبة غذّتها بيانات سيئة، لا الذكاء الاصطناعي في ذاته. لكن الذكاء الاصطناعي يسرّع هذه الأخطاء ويوسّع نطاقها، ولا يشكّل إبقاء الإنسان في حلقة القرار علاجاً بسبب ميل البشر إلى الوثوق بالتوصيات أو المخرجات أو القرارات الصادرة عن الأنظمة الآلية أو الذكاء الاصطناعي والإفراط في الاعتماد عليها، كما يمكن القول إن إسقاط الطائرة «يو إس إس فينسين» عام 1988 أظهره، حين أسقط طرّاد الصواريخ الموجهة التابع للبحرية الأمريكية الرحلة 655 للخطوط الجوية الإيرانية، وهي طائرة إيرباص A300 مدنية، فوق الخليج العربي، ما أودى بحياة جميع من كانوا على متنها وعددهم 290 شخصاً (بينهم 66 طفلاً). كما تكهّن معلّقون بدور نموذج «كلود غوف» التابع لشركة أنثروبيك، لأن القيادة المركزية الأمريكية استخدمت «نظام مافن الذكي» التابع لبالانتير، الذي يدمج نماذج «كلود» من أنثروبيك لمعالجة المعلومات الاستخباراتية وإنتاج قوائم الأهداف بسرعات عالية خلال الضربات الأولى على إيران. وترفض كروتوف إلقاء اللوم على التقنية.
وقد كادت حالة ثانية تفضي إلى كارثة من نوع مختلف. فقد نقلت شبكة «سي إن إن» في سبتمبر 2026، عن أربعة مصادر مجهولة، أن محللاً في قيادة العمليات الخاصة الأمريكية في المحيط الهادئ استخدم روبوت محادثة لمزج معلومات استخباراتية مفتوحة المصدر وأخرى سرّية، ثم طلب منه تنسيقها في تقرير معياري. وزعم التقرير أن سفينة ترفع العلم الصيني في الشرق الأوسط تحمل مكوّنات أسلحة نووية. ووصفه أحد المصادر بأنه مختلق بالكامل. وبحسب ما ورد، كان أفراد مسلحون يستعدون لاعتلاء السفينة وفي الجو طائرات، حين تُتُبّع أصل التقرير إلى الذكاء الاصطناعي وأُجهضت العملية. ولم يردّ المسؤولون على «سي إن إن»، ولذلك فالرواية غير مؤكدة. ولم يكن هناك سلاح نووي؛ فالخطر تمثّل في مواجهة أمريكية–صينية تشعلها معلومات استخباراتية ملفقة، قد تفضي إلى تفاعل متسلسل كارثي على مستوى العالم.
وفي غزة، نشرت مجلة «+972» ووسيلة الإعلام الناطقة بالعبرية «لوكال كول»، نقلاً عن مصادر عسكرية إسرائيلية مجهولة، أن نظاماً يُسمّى «لافندر» كان يمنح السكان درجات من 1 إلى 100 بحسب احتمال انتمائهم إلى الفصائل المسلحة، مع معدل إيجابيات كاذبة مقبول يبلغ نحو 10% وعمليات تحقق بشرية لا تتجاوز نحو 20 ثانية. ووفقاً لقناة «الجزيرة»، فإن قاعدة البيانات تلك مسؤولة عن إعداد قوائم قتل تصل إلى 37 ألف هدف.
والخيط المشترك نادراً ما يكون «هلوسة» غريبة للآلة. بل هو بيانات متقادمة ومخرجات غير مدقَّقة ومراجعة بشرية مضغوطة، يعجّل الذكاء الاصطناعي بها ويدفع المدنيون ثمنها.
القتل عن بعد قبل الذكاء الاصطناعي: الضربات بالطائرات المسيّرة
ومع أن الطائرات المسيّرة (UAV) المستخدمة في الضربات خلال الحرب على الإرهاب كان يشغّلها بشر عن بعد، فإن الأسئلة الجوهرية المتعلقة بحقوق الإنسان كانت هي نفسها.
«البصمات» السلوكية: بدلاً من استهداف فرد محدد معروف بالاسم (ما يُعرف بـ«الضربة الشخصية»)، لجأ الجيش الأمريكي ووكالة الاستخبارات المركزية إلى «ضربات البصمة» لاستهداف مجموعات من الأشخاص تظهر عليهم «بصمات» محددة سلفاً أو أنماط سلوك مريبة مرتبطة بنشاط المسلحين أو الإرهابيين، مثل التجمع في مناطق قتال معينة أو حمل الأسلحة أو التنقل في قوافل. وقد أخفق صنّاع القرار في إدراك أن حمل الأسلحة والتنقل في قوافل هو السمة الاجتماعية المعتادة في بلدان مثل أفغانستان.
«الذكور في سن القتال»: كشفت تحقيقات حقوق الإنسان أنه بموجب إرشادات تشغيلية معينة، ولا سيما في عهدي أوباما وبوش، اتسعت معايير هذه الضربات في كثير من الأحيان لتشمل فئات ديموغرافية واسعة، وأشهرها «الذكور في سن القتال». وهذا يعني أن الرجال والفتيان ضمن فئة عمرية محددة (تُعرَّف عموماً بمن بلغوا 16 عاماً فأكثر) ممن يوجدون في مناطق مصنّفة على أنها خاضعة لنفوذ المسلحين، كانوا يُفترض أحياناً أنهم مقاتلون ما لم تثبت براءتهم بعد الواقعة.
وقد انتقدت منظمات حقوق الإنسان والباحثون القانونيون ضربات البصمة انتقاداً شديداً، لأن استهداف أفراد مجهولي الهوية تماماً يزيد زيادة هائلة من خطر الخطأ في تحديد الهوية، فيفضي إلى مقتل مدنيين ومزارعين وعاملين في الإسعاف الأولي وقرويين محليين. ومع أن البشر كانوا يتحكمون فيها عن بُعد، فقد ألحقت الأهداف المعمَّمة دماراً بحياة المدنيين. أما الآن، فإن إحلال الذكاء الاصطناعي محل البشر في اتخاذ القرار ينطوي على إمكانية فتك تفوق كل حساب.
التعبير والتجمع: مراقبة ثم إسكات
يخفّض الذكاء الاصطناعي التوليدي كلفة الوصول إلى المنتقدين في الخارج. فقد وثّق تقرير استخبارات التهديدات الصادر عن أنثروبيك في سبتمبر 2026، والذي نوقش في موقع «جست سيكيوريتي»، عدة حالات من القمع الرقمي العابر للحدود المدعوم بالذكاء الاصطناعي. ووصف المقرر الخاص للأمم المتحدة المعني بحرية التجمع الصين بأنها حالة قصوى من حالات تفشّي المراقبة، وسجّل بلاغات مدافعين تبتيين عن هجمات على الشبكات واستنساخ لبطاقات SIM مرتبطة بالدولة. ولاحظت منظمة «حقوق الإنسان في الصين» تصاعد المضايقات المدعومة بالذكاء الاصطناعي، ومنها المقاطع المفبركة (ديب فيك) التي تستهدف الناشطات.
وفي ميانمار، أبلغت جماعات مجتمع مدني آليات الأمم المتحدة بأن كاميرات مدعومة بالذكاء الاصطناعي وبرمجيات تجسس تُستخدم لملاحقة الصحفيين والنشطاء. وفي أماكن أخرى، تُظهر أنظمة الفحص العميق للحزم في دول مثل روسيا وإيران كيف يمكن للترشيح الدفاعي أن يحدد المعارضين ويرقب الكلام. وقد يكون أعمق الضرر غير مرئي: فالمحامون والصحفيون والمنظّمون الذين يفترضون أنهم مراقَبون يكفّون عن الاجتماع وعن الكتابة وعن الوثوق بأجهزتهم.
المساواة والحرية: من وُسموا خطأً
يحذّر تقرير «سيفيكوس» لعام 2026 من أن التعرّف المباشر على الوجوه الذي يعمل دون رقابة بشرية حقيقية، والذي يُدخل لأسباب أمنية، يُطبّع المراقبة المتطفلة والشرطة الاستباقية. وكلفة المطابقة الخاطئة ملموسة: فقد اعتُقل روبرت ويليامز ظلماً في ديترويت عام 2020 بعد عدم تطابق في التعرف على الوجه.
ويمتد الضرر كذلك إلى أماكن العمل والرسائل الخاصة. فتحليلات السلوك التي تُباع بوصفها كشفاً للتهديدات الداخلية قد تطال التنظيم النقابي أو التبليغ عن المخالفات أو الحالات الصحية. أما مقترحات المسح من جهة العميل، حيث تعمل مصنِّفات الذكاء الاصطناعي على الجهاز قبل تشفير الرسالة، فتُعيد تقديم الفحص الشامل على أنه ميزة أمان. وقد أشارت المحكمة الأوروبية لحقوق الإنسان إلى حدود هذا المنطق في قضية بودتشاسوف ضد روسيا (2024)، إذ قضت بأن إلزام مزوّدي الخدمات بإضعاف التشفير ينتهك الحق في الحياة الخاصة.
الانتصاف: لماذا يتخلف القانون
يُعدّ قانون الذكاء الاصطناعي الأوروبي أكثر محاولات التنظيم طموحاً، وللحظر الذي يفرضه على التقييم الاجتماعي والتعرف على المشاعر في أماكن العمل ومعظم أشكال التعرف البيومتري الآني أهميته. لكن الحظر الآني تتخلله استثناءات للجرائم الخطيرة والأشخاص المفقودين والتهديدات الوشيكة، كما يستثني القانون الأنظمة المستخدمة حصراً لأغراض الأمن القومي أو الدفاع أو الأغراض العسكرية. وقد بدأ التطبيق العام في أغسطس 2026، غير أن المفوضية اقترحت في أواخر 2025 تأجيل أجزاء من نظام المخاطر العالية، وقد صار هذا التأجيل قانوناً: فاللائحة (الاتحاد الأوروبي) 2026/1744 النافذة منذ 27 يوليو 2026 تنقل معظم التزامات المخاطر العالية إلى 2 ديسمبر 2027 للأنظمة المستقلة وإلى 2 أغسطس 2028 للأنظمة المدمجة في المنتجات الخاضعة للتنظيم.
وفي سواها من الأماكن تبدو الصورة أضعف. فضوابط التصدير تعتمد على إنفاذ غير متسق. والعناية الواجبة للشركات بموجب مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان طوعية في معظمها. ومعظم الضحايا لا يعلمون قط أنهم استُهدفوا، فضلاً عن الحصول على أدلة محفوظة في أنظمة سرّية أو مملوكة لشركات. وحق بلا انتصاف ليس سوى أمل.
ما الذي ينتظرنا
المراقبة الوكيلية. تستطيع الوكلاء المستقلة تنفيذ الاستطلاع وصياغة طُعوم تصيّد مفصّلة وغربلة البيانات المسروقة بإشراف ضئيل، مما يضع قدرات كانت حكراً على النخبة في أيدي دول أصغر وشركات خاصة.
المضايقة الاصطناعية. بوسع المقاطع المفبركة والأصوات المستنسخة وانتحال الهوية الآلي تشويه سمعة المنتقدين أو الإيقاع بهم بكلفة تكاد لا تُذكر.
تقارب البيانات. تحذّر شركة «ريكورديد فيوتشر» من أن برمجيات التجسس والمراقبة بالذكاء الاصطناعي وقواعد البيانات البيومترية تندمج في منظومات مراقبة أشمل. فمتى رُبط الهاتف والوجه وسجل المواقع معاً، انتهت المجهولية في الأماكن العامة.
معلومات استخباراتية زائفة بسرعة الأزمات. يكتسب تقرير ملفق بصيغة معيارية سلطة لا يستحقها. وبين الدول المسلحة نووياً، يجعل ضغط أزمنة اتخاذ القرار كل خطأ من هذا النوع أكثر كلفة.
ما الذي يجب أن يتغير
- قيِّموا الحقوق قبل النشر. اشترطوا إجراء تقييمات مستقلة لأثر حقوق الإنسان، مع مراجعة دورية، قبل شراء أي نظام أمني أو رقابي يعمل بالذكاء الاصطناعي. وانشروا ملخصات علنية للاستخدام الحكومي، مع قرينة ضد النشر حيثما تعذّر تخفيف المخاطر.
- أغلقوا الثغرات الأمنية. ضيّقوا استثناءات الأمن القومي وإنفاذ القانون. واشترطوا إذناً مسبقاً من قاضٍ أو جهة مستقلة، محدوداً في الزمان والنطاق، وامنعوا الاستدلال الجماعي بشأن الرأي السياسي أو الانتماء أو غيرها من الخصائص المحمية.
- عاملوا برمجيات التجسس التجارية بوصفها سلاحاً خاضعاً للرقابة. اعتمدوا ترخيصاً ملزماً للتصدير بمعايير حقوق الإنسان وعقوبات حقيقية، وحوّلوا «عملية بال مال» البريطانية–الفرنسية إلى التزامات واجبة الإنفاذ. وأوضحوا علناً أي قرار برفع العقوبات.
- أخبروا الناس بأنهم كانوا مراقَبين. أخطروا الأفراد متى انتهت المراقبة السرية، وانشروا سجلات بمشتريات المراقبة بالذكاء الاصطناعي، ومكّنوا هيئات الرقابة بكوادر تقنية قادرة على تدقيق النماذج والبيانات ومعدلات الخطأ.
- احموا التشفير والعاملين. ارفضوا المسح الإلزامي من جهة العميل انسجاماً مع السوابق القضائية الأوروبية لحقوق الإنسان، واحظروا التعرف على المشاعر والتنميط السلوكي السري للموظفين.
- حاسبوا الموردين ومطوّري الذكاء الاصطناعي. افرضوا العناية الواجبة الإلزامية في مجال حقوق الإنسان بما يتوافق مع مبادئ الأمم المتحدة التوجيهية، والمسؤولية عن توريد الأدوات عن علم إلى المنتهكين. وينبغي للمطوّرين رصد إساءة الاستخدام وتعطيلها ونشر تقارير التهديدات وحماية المبلّغين عن المخالفات.
- أبقوا إنساناً مسؤولاً في الحرب. ضعوا وسماً على المعلومات الاستخباراتية المولَّدة بالذكاء الاصطناعي بحسب مصدرها، واشترطوا تحققاً مستقلاً قبل قرارات القتل أو الاعتراض، واستعيدوا القدرة على التخفيف من الأضرار على المدنيين، وانشروا نتائج التحقيقات، وتعهدوا بألا يقرر الذكاء الاصطناعي أبداً استخدام السلاح النووي.
- موّلوا المدافعين وأمّنوا سبل الانتصاف. ادعموا المختبرات الجنائية الرقمية التي كشفت معظم حالات إساءة استخدام برمجيات التجسس الموثقة، وامنحوا المنظمات غير الحكومية صفة التقاضي أمام المحاكم، وانقلوا عبء الإثبات حيثما كانت الأدلة بحوزة الدولة أو المورّد.
- ابنوا معايير عالمية. اطلبوا من مجلس حقوق الإنسان التابع للأمم المتحدة النظر في ولاية مخصصة للمراقبة المدعومة بالذكاء الاصطناعي، ونسّقوا قواعد التصدير والعقوبات والمعايير حتى لا يتنقل الموردون بين الولايات القضائية.
ليس في هذا كله حجة ضد الذكاء الاصطناعي في المجال الأمني. إنه حجة بأن السرعة ليست بديلاً عن الحكمة، وبأن المتلقين للضرر، من تلاميذ المدارس والصحفي ومن وُسموا خطأً، من حقهم أن يُؤخذوا في الحسبان قبل تشغيل النظام. والسؤال الذي ينبغي أن يجيب عنه كل نشر أولاً ليس هل تعمل التقنية، بل هل هي مشروعة وضرورية ومتناسبة، ومن يُسأل حين تخفق.
Aisha Ghazi محامية في مجال حقوق الإنسان ومؤلفة ومخرجة أفلام وثائقية، مكرسة لكشف التواريخ غير المروية. يركز عملها على الحرب والنزاع، والأسس النفسية–الاجتماعية التي تفرض العنف، وأزمة اللاجئين، والجغرافيا السياسية والتاريخ. وهي مديرة «iResist»، منصة لحقوق الإنسان تدافع عنها عبر الأفلام الوثائقية، ومحامية (Solicitor) لدى المحكمة العليا في إنجلترا وويلز.




