الذكاء الاصطناعي يبطئ عمله لتجنب دفع الفاتورة

من بين النداءات العديدة التي وجهها العلماء إلى السلطات من أجل إبطاء أو تنظيم التطور التكنولوجي، هناك نداء واحد يشبه إلى حد كبير، من حيث نبرته المروعة، النداء الذي أطلقه داريو أمودي، الرئيس التنفيذي لشركة Anthropic، بشأن الذكاء الاصطناعي: وهو النداء الذي صاغه في عام 1955 برتراند راسل ووقع عليه ألبرت أينشتاين لحث الحكومات على التخلي عن الحرب النووية، والذي لم يلق آذانًا صاغية. وكان لهذا النداء سابقة في العريضة التي قدمها الفيزيائي ليو سيلارد، والتي وقع عليها 70 عالماً من مشروع مانهاتن، لكنها لم تصل قط إلى مكتب الرئيس ترومان. مع فارق جوهري: فاليوم، المختبرات التي تدعو إلى توخي الحذر هي أيضًا شركات تتنافس في السوق دون دعم مباشر من الحكومة، التي قدمت مع ذلك، على لسان الرئيس ترامب، ردًّا مشابهًا: في المنافسة الجيوسياسية، لا يمكن إبطاء أو تقييد نمو تقنية حاسمة للسيادة العالمية. لكن هذه المرة، بالنسبة للغرب، فإن المخاطرة لها ثمن. على عكس ما يحدث في الصين. فقد يؤدي أي حادث إلى الإضرار بالسمعة، وفرض عقوبات، ودخول في نزاعات قانونية، ودفع تعويضات، والتأثير على قيمة شركات تبلغ قيمتها مئات المليارات. لذا فإن السؤال أقل فلسفية مما يبدو: هل الإبطاء يهدف فقط إلى جعل الذكاء الاصطناعي أكثر أمانًا أم أنه يهدف أيضًا إلى جعل المخاطر التي يتحملها منتجوه قابلة للتحمل؟ وكما قال أندريوتي: «التفكير بسوء في الآخرين هو خطيئة، لكن غالبًا ما يكون هذا التفكير صائبًا». ويثبت ذلك حقيقة أن صوت أمودي ليس صوتاً منعزلاً على الإطلاق. سام ألتمان و إيلون ماسك أعلنا اتفاقهما على ضرورة التريث.

لأن الخطر، في الواقع، حقيقي. ففي الأشهر الأخيرة، تمكنت نماذج مختلفة من الذكاء الاصطناعي، خلال اختبارات الأمن السيبراني التي أجريت بضمانات أمان محدودة، من الوصول إلى بنى تحتية حقيقية. لم تكن هذه النماذج قد «جنّت» في العالم الواقعي. بل كانت مجرد اختبارات. فقد خرجت أنظمة مصممة لتحقيق هدف معين، مع مستويات أمان «أقل صرامة»، عن النطاق الذي كان من المفترض أن تعمل فيه. في حالة OpenAI، وجدت هذه النماذج بنفسها مخرجًا من بيئة الاختبار (sandbox) مستغلة ثغرة أمنية غير معروفة؛ أما في حالات Anthropic، فقد أدى إعداد خاطئ إلى تعريضها للإنترنت الحقيقي، حيث واصلت هذه النماذج مهمتها حتى استهدفت أنظمة أطراف ثالثة، دون أن تفسر دائمًا بشكل صحيح الإشارات التي تشير إلى خروجها من نطاق المحاكاة.

بالنسبة إلى أمودي، فإن التباطؤ المنسق من شأنه أن يمنح قطاع الأمن سنة أو سنتين دون التضحية بالميزة التجارية للشركات الرائدة: فالتباطؤ بمفردنا يعني خسارة الأرضية؛ أما القيام بذلك معًا فيعني تقليل المخاطر مع الحفاظ على المواقع النسبية. وهناك تأثير ثانٍ أيضًا. فالوسائل الرامية إلى ضمان مزيد من الأمن تزيد من تكلفة دخول السوق، لتصبح بذلك حواجز أمام المنافسة. وكانت شركة «أنثروبيك» قد طرحت بالفعل مشكلة مماثلة في نقاشها مع البنتاغون، حيث فرضت قيودًا على المراقبة الجماعية الداخلية والأسلحة ذاتية التشغيل بالكامل لأسباب أخلاقية وأمنية. ولكن عندما يساهم نظام ما في اتخاذ القرارات والتصرف، تظهر حتماً مسألة أخرى: من يتحمل المسؤولية إذا حدث خطأ ما؟

ويكتسب هذا الأمر أهمية كبيرة في الوقت الذي تتناقل فيه الشائعات احتمال إدراج أسهم كبرى شركات الذكاء الاصطناعي الأمريكية في البورصة. وبالنسبة لهذه الشركات، لا يمثل أي حادث مجرد مشكلة تقنية فحسب، بل يتحول إلى خطر مالي. فعندما يكون النموذج قادراً على التصرف أو الوصول إلى الأنظمة أو التأثير على العمليات الفعلية، فإن السؤال الذي يطرح نفسه هو: من يتحمل التكلفة عندما يخطئ؟

في أوروبا، وجد هذا السؤال إجابة بالفعل في قانون الذكاء الاصطناعي، وستكون له تداعيات إضافية عندما يبدأ، اعتبارًا من ديسمبر 2026، تطبيق التشريع الأوروبي الجديد بشأن المسؤولية عن المنتجات على البرمجيات وأنظمة الذكاء الاصطناعي التي يتم طرحها في السوق اعتبارًا من ذلك التاريخ. وبذلك يتوقف خطر الذكاء الاصطناعي عن كونه مجرد احتمال تقني ليصبح التزامًا اقتصاديًا محتملاً. لذا فإن التباطؤ يعني توفر الوقت اللازم لجعل النماذج أكثر أمانًا، وكذلك لتنظيم هذه التكنولوجيا اقتصاديًا وقانونيًا، حيث يمكن أن يتحول أي خطأ فيها بسرعة إلى ضرر اقتصادي. لكن كل هذا لا يمكن أن يغفل المنافس الجيوسياسي الصيني، الذي لا يخضع لقواعد السوق أو تصحيحاتها. ولهذا السبب يطالب أمودي بإبطاء التوسع الغربي، لكنه في الوقت نفسه يؤيد فرض ضوابط أكثر صرامة على الرقائق والقدرات الحاسوبية للحفاظ على التفوق الأمريكي على الصين. السؤال الحقيقي ليس ما إذا كان علينا أن نبطئ من وتيرة التوسع. بل من سيحدد الحدود، ومن سيكون قادراً على الالتزام بها، ومن سيكون كبيراً بما يكفي لتحويل الأمن من تكلفة إلى ميزة تنافسية. لأن السلطة في المرحلة المقبلة من الذكاء الاصطناعي لن تقتصر فقط على من سيبني النموذج الأكثر قدرة. بل ستكون أيضًا لمن يحدد المخاطر، والقواعد، والثمن الذي يجب دفعه عندما تسوء الأمور.