تجنّب توازن التجمّد

الذكاء الاصطناعي المتقدم يقرر أسرع مما نستطيع التحقق، حتى يتجمد كل شيء بهدوء

تخيلوا مكتبًا حكوميًا كان يتلقى 200 طلب ترخيص في السنة. كان الخبير يحتاج نحو أسبوع لفحص كل طلب كما ينبغي: يقرأه، ويتحقق من الادعاءات، ويتابع النقاط المشكوك فيها، ثم يوقّع. كان النظام يعمل. وكان الطابور ينجلي. وكانت التنمية تمضي. الآن يرسل قطاعٌ مدعوم بالذكاء الاصطناعي إلى المكتب نفسه 2000 طلب، كل واحد منها بالصقل نفسه والمعقولية نفسها، مكتمل بالاستشهادات وتقييمات المخاطر والملخصات التنفيذية الأنيقة. لم يحصل المكتب على عشرة أضعاف المراجعين. بقي فيه الأشخاص أنفسهم، أمام عشرة أضعاف الحجم، عاجزين عن تمييز الطلبات الدقيقة من الملفقة دون قراءة كل منها كاملًا. ماذا يفعل مراجع عاقل؟ تصبح الخطوة الآمنة ألا يوافق على شيء، من دون سوء نية ومن دون اعتراض، لمجرد أن أحدًا لا يستطيع التحقق بسرعة كافية لتحمّل المخاطرة. تتوقف التنمية، وتتجمد المؤسسة. هذه الديناميكية ينبغي أن تغيّر طريقة تفكيرنا في المؤسسات في عصر الذكاء الاصطناعي. أسمّي هذا الفخ توازن التجمّد، وفي ورقتي البحثية الجديدة المحكّمة، المقبولة في مؤتمر AGI-26 والصادرة ضمن وقائعه (شبرينغر)، أذهب إلى أنه الخطر الذي يحدد ملامح عصر الذكاء الاصطناعي. السيناريو الذي يملأ العناوين هو ذكاء فائق يتفوق على البشرية دهاءً. أما الفخ الذي أنمذجه فيصل أبكر وبهدوء أكبر: فيضٌ من القرارات يتجاوز قدرتنا على التحقق منها، حتى لا يبقى لكل مدقق مثقل سوى استجابة عقلانية واحدة: أن يكف عن قول نعم.

الخطأ هو الظن أن المسألة مسألة ذكاء

يدور كل نقاش عام تقريبًا حول مخاطر الذكاء الاصطناعي حول القدرة: هل سيكون النموذج أذكى من اللازم، أكثر استقلالية من اللازم، أصعب من أن يُضبط؟ هذا التأطير يصرف النظر عن نقطة الضغط الأعظم. القيد الحاسم نسبةٌ بين رقمين: سرعة إنتاج الذكاء الاصطناعي لأشياء تبدو مشروعة، مقسومة على سرعة تأكيد الإنسان أنها كذلك. الرقم الأول ينطلق بينما يبقى الثاني ثابتًا، لأن الانتباه البشري محدود ولا يمكن لأحد توظيف مدققين بالسرعة التي يكتب بها الذكاء الاصطناعي المسودات. الفجوة بينهما هي حيث تنكسر المؤسسات. لجان المنح، والجهات التنظيمية، والمجلات العلمية، وهيئات إصدار الشهادات، ومراجعة الشيفرة، ومكاتب براءات الاختراع: أينما كان عدد صغير من المدققين البشر معايرًا على تدفق أبطأ وأجدر بالثقة من الطلبات، تجري الديناميكية نفسها الآن. تصل قرارات الذكاء الاصطناعي أسرع من تأكيداتنا، والتأكيد، أكثر من الذكاء، هو المورد النادر.

الحوكمة مادة يمكن هندستها

عنوان الورقة يشير إلى المخرج. يبني المهندسون المواد الخارقة: مواد تأتي خصائصها اللافتة من طريقة بنائها لا مما صُنعت منه. رتّبوا مادة عادية في النمط المجهري الصحيح فتحصلون على سلوك لا تملكه أي مادة طبيعية: حني الضوء إلى الخلف، وامتصاص ترددات بعينها، والبقاء صلبة في اتجاه ومرنة في اتجاه آخر. القوة تسكن البنية. المؤسسات تعمل بالطريقة نفسها. مدى تماسك فريق أو شركة أو حضارة كاملة تحت الضغط خاصية من خصائص تصميمها: بروتوكولاتها، وحوافزها، وطريقة انتقال المعلومات والتحقق منها عند كل تسليم. غيّروا البنية يتغيّر ما تستطيع المؤسسة النجاة منه. هذه إعادة التأطير تحمل الحجة كلها. تُخرج الحوكمة من عالم التحسر والآراء وتحوّلها إلى مسألة تصميم، شيئًا يمكن نمذجته وقياسه وتحسينه. الورقة تجعل هذا الحدس دقيقًا وقابلًا للاختبار.

النتيجة المفاجئة: الرافعتان لا تعملان إلا معًا

عندما يتحول الحدس إلى نموذج حقيقي، تظهر نتيجة غير بديهية حقًا. هناك رافعتان يمكن شدّهما لمنع نظام غارق من الانزلاق إلى الفوضى:

1. المنشأ: معرفة مصدر المعلومة، بتتبع كل خطوة مرت بها.
2. التحقق: فحصها في كل مرحلة، بدل الثقة بأنها فُحصت في مرحلة أسبق.

المتوقع أن تساعد كل رافعة قليلًا، وأن تساعدا معًا أكثر. النموذج يُظهر شيئًا أغرب. اشددوا رافعة واحدة وحدها فينهار النظام رغم ذلك: منشأ أفضل بلا فحص يفشل، وفحص دؤوب بلا معرفة بمصدر أي شيء يفشل كذلك. اشددوا الرافعتين معًا فينقلب النظام، من مضخّم لكل خطأ في سلسلة انهيارات إلى نظام يشفي نفسه. الأثران يتضاعفان بدل أن يتجمعا، وعتبة الفصل بين الانهيار والاستقرار لا تُعبر إلا بتحريك الرافعتين معًا. تلك هي الصورة على غلاف الورقة، وهي تحمل النتيجة. في جانب، شبكة زرقاء منتظمة تمتص الصدمات؛ وفي الجانب الآخر، شظايا برتقالية مضطربة تتطاير: المادة نفسها تسلك سلوكين متعاكسين بسبب بنيتها، وواحدة فقط من الاثنتين تنجو من الضغط. الصورة هي النتيجة.

بُني ليكون قابلًا للدحض

لا تساوي إعادة التأطير شيئًا إلا إذا استطاع الواقع أن يرد عليها. لذلك يقدم الإطار أربعة تنبؤات محددة يمكن أن تدحضه، ويأتي مع تجربة حقيقية من 12 أسبوعًا يمكن إجراؤها، مثلًا، داخل لجنة حكومية لمراجعة المنح: قارنوا لجنة تعمل بالبنية المعاد تصميمها بلجنة تعمل كالمعتاد، وقيسوا ما إذا كانت الأخطاء تتوقف عن الانتشار كما يقول النموذج. إذا فشلت التنبؤات فالإطار خاطئ ويُرمى، وهذا بالضبط ما وُجدت التنبؤات لأجله. وإذا صمدت، تكف الحوكمة عن أن تكون مسألة ذوق وتصبح تخصصًا هندسيًا، شيئًا نصممه ونجهّزه بالقياسات ونضبطه عمدًا، كما نفعل اليوم مع الجسور والرقائق والطائرات. أمضينا عقدًا نتجادل حول مدى ذكاء الذكاء الاصطناعي المقبل، ولم نمضِ شيئًا يذكر في هندسة المؤسسات التي عليها أن تستوعب إنتاجه. هذا الاختلال هو حالة الطوارئ، وهو ما نستطيع فعل شيء حياله ما دام في الوقت متسع ليكون لذلك أثر. ليس شيء من هذا نظريًا بالنسبة إليّ. وكلائي من الذكاء الاصطناعي يجيبون اليوم عن بريد إلكتروني عام تحت توازن تجمّد متعمد: كل رد يصوغونه ينتظر مراجعتي الشخصية قبل إرساله. عند أحجام اليوم هذا هو المكان الصحيح للبدء. ومع نمو عددهم وبريدهم، يصبح هذا مكتب التراخيص في هذا المقال، وأنا الموظف خلف النافذة. في مقال لاحق سأعرض كيف نهندس مخرجنا برافعات الورقة نفسها: فئات منشأ للردود، وتحقق آلي في كل خطوة، واستقلالية تُكتسب وتُقاس ويمكن سحبها.

سأقدم ورقة Civilizational Metamaterials في مؤتمر AGI-26 في سان فرانسيسكو، من 27 إلى 30 يوليو، وستصدر ضمن الوقائع التي تنشرها شبرينغر. النص الكامل ونسخة تفاعلية والشيفرة مفتوحة المصدر وجميع الأشكال متاحة على metamaterials.davidorban.com