كاد خطأ في تقرير استخباراتي أُعد بمساعدة الذكاء الاصطناعي أن يقود الجيش الأمريكي إلى تنفيذ عملية عسكرية لاعتراض سفينة صينية في الشرق الأوسط، بعدما خلص التقرير بشكل خاطئ إلى أن السفينة كانت تنقل مكونات مرتبطة ببرنامج للأسلحة النووية، وفق ما نقلته شبكة CNN عن أربعة مصادر مطلعة على الواقعة.
وبحسب المصادر، أثار التقرير حالة استنفار داخل الجيش الأمريكي خلال ربيع العام الجاري، بالتزامن مع الحرب مع إيران، ووُضعت خطط لاعتراض السفينة، فيما كان أفراد مسلحون يستعدون للصعود على متنها، وكانت طائرات عسكرية أمريكية في الجو، وفق مصدرين مطلعين على التطورات.
غير أن العملية أُوقفت قبل تنفيذها، بعد أن أعاد مسؤولون مراجعة المعلومات التي بُني عليها التقرير، ليتبين أن التحليل أُنجز بمساعدة روبوت محادثة يعمل بالذكاء الاصطناعي، وأن الأداة أخطأت في تفسير طبيعة المواد التي كانت السفينة تنقلها.
ولم تتمكن CNN من تحديد طبيعة الشحنة التي جرى تفسيرها بشكل خاطئ.
ووصف أحد المصادر التقرير بأنه «خاطئ تماماً»، وقال إنه «كاد يشعل حرباً»، في إشارة إلى التداعيات المحتملة لتنفيذ عملية عسكرية أمريكية ضد سفينة صينية في ظل التوترات القائمة بين واشنطن وبكين
كيف وقع الخطأ؟
وفق المصادر، طرح محلل تابع لقيادة العمليات الخاصة الأمريكية سؤالاً على روبوت محادثة بشأن معلومات استخباراتية مرتبطة بقائمة شحنات السفينة. وكانت البيانات الأصلية قد صدرت عن قيادة العمليات الخاصة الأمريكية في منطقة المحيط الهادئ، ومقرها في هاواي.
ولم يتضح ما إذا كان روبوت المحادثة المستخدم أداة تجارية متاحة للعامة، أم نظاماً جرى تطويره خصيصاً للاستخدام الحكومي.
وقام النظام بدمج معلومات استخباراتية من مصادر مفتوحة مع بيانات سرية جمعتها الحكومة الأمريكية عبر وسائل استخباراتية، قبل أن يتوصل إلى استنتاج خاطئ بشأن طبيعة المواد الموجودة على متن السفينة.
ولم يقتصر استخدام الأداة على التحليل، إذ استعان بها المحلل مرة أخرى لصياغة النتائج في شكل تقرير استخباراتي رسمي، قبل أن يتم تداول التقرير داخل المؤسسات المعنية واتخاذ إجراءات بناءً على مضمونه.
ونقلت CNN عن مسؤول أمريكي سابق رفيع المستوى، لديه اطلاع على أنظمة الذكاء الاصطناعي المستخدمة من قبل المحللين العسكريين والاستخباراتيين، قوله إن الأدوات الداخلية المستخدمة في هذا المجال هي في كثير من الحالات «نسخ من البرامج التجارية أُدخلت عليها تحسينات شكلية».
ولم تستجب قيادة العمليات الخاصة الأمريكية في منطقة المحيط الهادئ ووزارة الدفاع الأمريكية لطلبات CNN للتعليق على الواقعة.
واشنطن توسّع الاعتماد على الذكاء الاصطناعي
تأتي هذه الحادثة في وقت تعمل فيه المؤسسات العسكرية والاستخباراتية الأمريكية على توسيع استخدام الذكاء الاصطناعي في مجالات متعددة، من تحليل كميات ضخمة من البيانات الاستخباراتية وتحديد الأهداف، إلى إدارة الميزانيات والعمليات اللوجستية وسلاسل الإمداد.
ويقول مسؤولون أمريكيون إن هذا التوجه يهدف إلى تسريع عملية اتخاذ القرار في الميدان، سواء تعلق الأمر بتحديد الأهداف أو بتحريك الموارد العسكرية، إلى جانب المخاوف من إمكانية تقدم دول منافسة، وفي مقدمتها الصين، في مجال الذكاء الاصطناعي العسكري.
وفي يناير/كانون الثاني، أعلن وزير الدفاع الأمريكي بيت هيغسيث استراتيجية حملت اسم «استراتيجية تسريع الذكاء الاصطناعي»، بهدف تسريع تبني هذه التكنولوجيا داخل وزارة الدفاع.
وأكد هيغسيث، عند الإعلان عن الاستراتيجية، أن الوزارة ستعمل على «إطلاق التجريب، وإزالة العقبات البيروقراطية، وتركيز الاستثمارات»، بما يعزز قدرات الولايات المتحدة في مجال الذكاء الاصطناعي العسكري.
وتدعو الاستراتيجية إلى توسيع نطاق إتاحة أدوات الذكاء الاصطناعي داخل وزارة الدفاع، ليشمل ملايين الموظفين المدنيين والعسكريين وعلى مستويات مختلفة من التصنيف الأمني.
لكن مسؤولين أمريكيين مطلعين على سير العمليات قالوا إن تطبيق هذه الأدوات لا يزال لامركزياً إلى حد كبير، مع اعتماد جهات حكومية مختلفة على أنظمة متعددة تخضع لمعايير متفاوتة للسلامة والرقابة.
وبحسب هؤلاء المسؤولين، لا توجد حتى الآن مجموعة موحدة من المعايير الأمريكية للتحقق من دقة المعلومات التي تنتجها هذه الأنظمة، ما يجعل مستوى الموثوقية والفاعلية متفاوتاً من أداة إلى أخرى
عندما يسرّع الذكاء الاصطناعي الخطأ
تزداد حساسية هذه المخاوف مع اتساع استخدام الذكاء الاصطناعي في مهام مرتبطة بتحديد الأهداف العسكرية، حيث يمكن لأي خطأ في التحليل أن تكون له تداعيات مباشرة وخطيرة.
وقال مصدر مطلع على سياسات الجيش الأمريكي إن استخدام الذكاء الاصطناعي في تحديد الأهداف «يشهد توسعاً متزايداً»، بينما لا تزال الإرشادات المتعلقة بكيفية ضمان الرقابة البشرية الفعالة على هذه الأنظمة غير واضحة بما يكفي، وفق المصدر.
ولا تبدو واقعة السفينة الصينية، بحسب المصادر التي تحدثت إلى CNN، حالة منفردة لما يعرف بـ«هلوسة الذكاء الاصطناعي»، أي إنتاج معلومات أو استنتاجات غير صحيحة تبدو في ظاهرها موثوقة.
كما حذر مسؤولون استخباراتيون من أن التسارع في اعتماد هذه الأدوات قد يفرض ضغوطاً على المحللين لإعداد التقارير وتعميمها بوتيرة أسرع، ما يزيد احتمال مرور أخطاء يصعب اكتشافها قبل وصولها إلى مستويات صنع القرار.
وتشير بعض المصادر إلى أن المحللين الأصغر سناً قد يكونون أكثر ميلاً إلى استخدام هذه الأدوات، بحكم اعتيادهم على التكنولوجيا الرقمية وأنظمة الذكاء الاصطناعي.
وتكشف واقعة السفينة الصينية عن جانب أساسي من التحدي الذي تواجهه المؤسسات العسكرية في التعامل مع الذكاء الاصطناعي: فالتكنولوجيا قادرة على تسريع تحليل المعلومات واتخاذ القرارات، لكنها قد تؤدي أيضاً إلى تسريع انتشار استنتاج خاطئ إذا لم يخضع لمراجع
