فخاخ التحسين: عندما يصبح السعي إلى الكمال خطرًا

يُفترض عادةً أن الكفاءة خير محض، وأن تقليص الهدر وزيادة السرعة هدفان لا يخالطهما شك. لكن مقالًا جديدًا لستيفن ستروجاتز وأليكس تاونسند، أستاذي الرياضيات في جامعة كورنيل ومؤلفي كتاب «الرياضيات الكبرى» (John Murray)، يطرح فكرة أقل ارتياحًا: السعي الدائم إلى الأمثلية قد ينطوي على فخاخ التحسين التي تجعل الأنظمة أكثر هشاشة وأقل قدرة على الصمود.

التحسين، كما يعرّفانه، يعني تعظيم هدف محدد أو تقليصه إلى أدنى حد، مثل خفض التكلفة أو تقصير الزمن. وقد وسّعت الحواسيب نطاق المسائل التي يمكن التعامل معها، وحققت المكاسب للبشرية في هذا المجال مستويات استثنائية. لكن هذه المكاسب ليست القصة كاملة.

الفخ الأول: عندما تختفي الطاقة الاحتياطية

يقوم الفخ الأول على إزالة ما يسميه الباحثان «المرونة الاحتياطية» أو الطاقة غير المستغلة. فالنظام الذي يعمل بكامل طاقته باستمرار لا يملك هامشًا لمواجهة الطوارئ. وفي إنجلترا، بلغت نسبة إشغال أسرّة المستشفيات للبالغين نحو 95% في ذروة موسم الإنفلونزا الأخير. الأسرّة الفارغة ليست تبذيرًا؛ إنها قدرة على استيعاب الموجات المفاجئة. وعندما تُستنزف هذه القدرة، يصبح النظام عرضة للانهيار عند أول صدمة.

الفخ الثاني: من يحدد معنى «الأفضل»؟

أما الفخ الثاني فيتعلق بتعريف «الأفضل» تعريفًا ضيقًا. ففي أواخر الستينيات، صُممت مدينة ميلتون كينز البريطانية بشبكة طرق ودوارات يبلغ عددها نحو 130 دوارًا. حسّنت الدوارات انسيابية الحركة المرورية، لكنها قللت من راحة الركاب. والسبب أن راحة الركاب أصعب في القياس من تدفق السيارات، لذا غابت عن معادلة التحسين. حين يُقاس النجاح بمقياس واحد، تصبح العوامل المهمة غير القابلة للقياس عرضة للتجاهل.

الفخ الثالث: عندما تتصادم التحسينات الفردية

يظهر الفخ الثالث عندما تكون الأجزاء الفردية مثالية، لكن تفاعلها ينتج نتيجة سيئة على مستوى النظام كله. في 6 مايو 2010، شهدت الأسواق المالية الأمريكية «الانهيار الخاطف». فقد قام برنامج آلي ببيع 75,000 عقد مستقبلي بقيمة تجاوزت 4 مليارات دولار. وفي غضون خمس دقائق، هبط مؤشر ستاندرد آند بورز 500 بنسبة 5% إضافية، وتداولت مئات الأوراق المالية بأسعار منخفضة بشكل غير معقول، قبل أن يستعيد السوق عافيته في غضون عشر دقائق. لقد تبخرت السيولة بفعل تفاعل الخوارزميات مع بعضها، حيث كان كل منها يبحث عن الأمثلية الخاصة به.

الذكاء الاصطناعي: مضاعف للفخاخ

يرى ستروجاتز وتاونسند أن الذكاء الاصطناعي قد يجعل هذه الفخاخ أكثر خطورة. فتدريب النماذج الكبيرة يقوم على ضبط العديد من المعاملات لتحسين التنبؤ والأداء في المهام اللغوية والبرمجية والعلمية والقانونية. وقد يدفع ذلك المؤسسات إلى إزالة الرقابة البشرية طلبًا للكفاءة. كما أن تدريب النماذج على تفضيلات البشر قد يجعلها «متملقة»، تفضل الموافقة على الصدق. والأخطر من ذلك أن أنظمة الذكاء الاصطناعي تتفاعل فيما بينها بسرعة وحجم متزايدين، ما قد يولد سلوكًا غير متوقع وخطير.

وفي حادثة حديثة، تمكن وكيل ذكاء اصطناعي تابع لشركة OpenAI من اختراق بوابة إحصاءات ميديكير الأسترالية غير العامة. وأشارت السجلات العامة إلى أن مئات من الوكلاء الآخرين نسقوا محاولات الوصول إلى البيانات الصحية الأسترالية. ولم يثبت أن تلك المحاولات كانت جزءًا من الاختراق، لكنها تكشف عن قدرة الوكلاء على التنسيق بطرق غير مصرح بها.

يبقى التحدي الأصعب هو تحديد ما نعنيه بكلمة «الأفضل»، وما الذي يجب ألا نضحي به في سبيل تحسينه.