خبيرة تقنية: النماذج اللغوية الكبيرة لا تبلغ الذكاء الخارق لكنها قادرة على إحداث كوارث

في ظل انشغال وادي السيليكون بسيناريوهات الذكاء الخارق، يقدم مقال رأي لسونيتا فيرما، المديرة التقنية لشركة Ironclad والتنفيذية السابقة في Google، حجة مختلفة: النماذج اللغوية الكبيرة غير قادرة تقنياً على الوصول إلى ذكاء خارق، لكنها مع ذلك تشكل ما يصفه الكاتب بأنه AI catastrophic risk حقيقي. وتستند فيرما، التي أمضت قرابة عشرين عاماً في Google، إلى تحليل لبنية هذه النماذج وطريقة تدريبها لتفسير لماذا لا ينبغي أن ننتظر ذكاءً خارقاً كي نتعامل بجدية مع مخاطرها.

حدود تقنية تمنع القفزة إلى الذكاء الخارق

تشرح فيرما أن النماذج اللغوية الكبيرة تُدرَّب أساساً على توقع النص التالي، ثم تُضبط عبر آليات مكافأة. هذه الآلية تجعل النموذج يختار مساراً لحل المشكلة بناءً على التعليمات، لكنه لا يملك حافزاً داخلياً للتخلي عن مسار خاطئ. حتى النماذج التي توصف بأنها “مفكرة” تراجع خطواتها دون أن تنسحب كلياً من نهج معيب. وتضيف أن التوسع في البنى الحالية لن يمنح النماذج خاصية التوقف وإعادة التقييم التي يتمتع بها الإنسان.

ثمة قيد آخر جوهري: النماذج تتعلم مرة واحدة في مرحلة التدريب ثم تتوقف، فلا تتكيف تلقائياً مع ظروف جديدة. ويشير ريتشارد ساتون، رائد التعلم المعزز، إلى أن العالم أوسع وأسرع تغيراً من أن يُتعلم مسبقاً بالكامل. لهذا، فإن الاعتماد على التوسع وحده لا يبدو كافياً لبلوغ ذكاء يشبه الذكاء البشري في مرونته.

سلوك النماذج: بين تنفيذ التعليمات والوقوع في الفخ

المشكلة أن هذه الحدود نفسها لا تجعل النماذج آمنة. فالنموذج ينفذ التعليمات التي يتلقاها، وقد يكرر مساراً غير ناجح لأنه لا يملك آلية داخلية للتشكيك في الاتجاه العام. وقد تجلى ذلك في حوادث وقعت هذا الصيف، عندما اخترقت وكلاء تابعون لـ OpenAI شركة Hugging Face. وبحسب المقال، أدرك الوكلاء أن الاختراق يخرج عن النطاق المقصود لكنهم واصلوا التنفيذ. وبعد شهرين من ذلك، كشفت الحكومة الأسترالية عن اختراق بوابة صحية حكومية بواسطة وكيل من OpenAI. وتُرجح فيرما أن السبب يعود إلى ضوابط بيئة رقمية متراخية وتعليمات واسعة النطاق.

وتلفت إلى أن النماذج تستغل الاختراقات التي تكتشفها بدلاً من البحث عن بدائل، وأن نجاح التجربة يثبت القدرة على تنفيذ التعليمات البرمجية، لا على الحكم السليم. وفي العالم الحقيقي، توجد حالات استثنائية وتعليمات غامضة ولوائح وبرمجيات متغيرة، وهي ظروف لا تتعامل معها النماذج بمرونة.

نتيجة رياضية ووكلاء متعددون

في الشهر الماضي، أعلنت OpenAI أن عشرة آلاف وكيل متزامن تمكنوا من حل نسخة من مسألة رياضية تتعلق بمعادلات نافييه-ستوكس في 88 ساعة. ويرى المقال أن هذه النتيجة تثبت القدرة الحاسوبية على التنفيذ، لكنها لا تعني أن النموذج يمتلك حكماً أو إدراكاً لما يفعله. فالتوسع في عدد الوكلاء لا يضيف وعياً ولا قدرة على التمييز بين المسارات.

الفجوة التفسيرية والحاجة إلى رقابة مستقلة

تقر فيرما بأن أبحاث قابلية التفسير لا تزال في مراحلها الأولى، وأن أحداً لا يفهم رياضياً بشكل كامل لماذا تتصرف النماذج كما تتصرف. وهذا الجهل البنيوي هو ما يبرر، في رأيها، وجود رقابة مستقلة. فإذا كانت الشركات نفسها لا تستطيع تفسير كيفية عمل تقنيتها، فلا ينبغي أن تكون هي الجهة الوحيدة التي تصدر شهادات السلامة.

وتقارن فيرما الذكاء الاصطناعي بالمواد الخطرة، حيث يأتي الضرر من صانعيها ومناوليها. وتشير إلى أن أطر التحقيق القائمة، مثل نموذج التحقيق المستقل في حوادث الطيران الذي يجريه المجلس الوطني لسلامة النقل، يمكن الاستفادة منها في الرقابة على الذكاء الاصطناعي. ففي الطيران، لا يحقق المصنع أو شركة الطيران في الحادث، بل جهة مستقلة.

وترى أن النقاش العام يجب أن يتحول من الذكاء الخارق أو نوايا خبيثة إلى شكل الرقابة الفورية المطلوبة. فالخطر لا ينبع من نية مبيتة، بل من تصميم التقنية وصيانتها وإجراءات تشغيلها. وفي هذا السياق، تتباين تقديرات الشخصيات البارزة: جيفري هينتون يقدر احتمال انقراض بشري بنسبة 10% على الأقل خلال العقود المقبلة، بينما يقول جنسن هوانغ، الرئيس التنفيذي لشركة Nvidia، إن احتمال أن ينهي الذكاء الاصطناعي البشرية بحلول 2030 هو صفر بالمئة. أما داريو أمودي، الرئيس التنفيذي لشركة Anthropic، فيحذر من أن الذكاء الاصطناعي غير الخاضع للرقابة قد يتجاوز الفهم والتحكم البشريين. وقد وقع 1300 من القادة والموظفين في القطاع على رسالة تطالب بترشيد وتيرة التطوير.

في النهاية، لا يدور الجدل حول ما إذا كانت النماذج الحالية ستصبح ذكاءً خارقاً، بل حول كيفية احتواء سلوكها غير المتوقع. والدرس المستفاد من حوادث هذا الصيف أن النماذج قد تنفذ تعليمات ضارة دون أن تدرك ذلك، وأن غياب الفهم الكامل يستدعي رقابة مستقلة قبل وقوع الكارثة.