الاستقلالية بسرعة الآلة

كتبت في الأسابيع الماضية عن المخاطرة بين طرفين متطرفين، وعن كيف أصبحت الثقة أثمن. المخاطرة هي ما نستطيع قياسه ونمذجته. والثقة هي الجسر الذي نستخدمه كي نتصرف عبر ما لا نستطيع قياسه. وما ينبثق طبيعياً من هذين المفهومين هو الاستقلالية، أي مقدار ذلك الفعل الذي نسلّمه إلى شخص آخر.

التفويض متناسب

حين أثق بأن من أفوّض إليه قادر على بلوغ هدف ما عبر تنظيم المهام بنفسه، فإنني أبني الاستقلالية داخل المنظمة. ولا يكون هذا التفويض أبداً كبيراً بلا حدود. فهو يتناسب مع مهارات المفوَّض إليه وموارده، وكل مشارك، بشرياً كان أم لا، يملك مهارات محدودة وموارد محدودة.

لهذا تتشكل التسلسلات الهرمية بهذه الطبيعية. وثمة سبب ثانٍ أيضاً. فحين تلتقي خططنا بالواقع، يولّد ما لم نستطع فهمه أو نمذجته من قبل تغذية راجعة، وتتباين النتائج. وتنسيق القرارات التالية عبر نتائج كثيرة متباينة، أو تأكيد مزيد من التفويض ومزيد من الاستقلالية، أو إعادة تقييم الطريقة التي ينبغي أن تعمل بها البنية كلها، أمر صعب. وكلما ازدادت صعوبته، ازدادت الطبقات التي يطوّرها التسلسل الهرمي.

وقد ظل هذا صحيحاً منذ أن بدأ البشر ينتظمون في أي شيء أكبر من العائلة. والسؤال هو ما إذا كان إدخال الذكاء الاصطناعي إدخالاً أصيلاً في منظمة ما يغيّر هذا النموذج، وما إذا كنا نستطيع أن نرصد التغيير منذ الآن.

التسلسل الهرمي ينتقل إلى البرمجيات

تناولت من قبل كيف أن شركة اليونيكورن التي يديرها شخص واحد لا تزال نادرة، بينما يصبح من المعقول أكثر فأكثر أن نتوقع شركات الميليكورن التي يديرها شخص واحد: مشاريع تبلغ قيمتها مليون دولار، تولد من تعاون وثيق بين إنسان واحد وأسطول من الوكلاء يمكن أن يكون كبيراً بلا حدود. يستطيع الوكلاء أن يوزعوا العمل وينسقوه، وأن يركّزوا مهارات بعينها على مهام محددة، وأن يرفعوا التقارير بالنتائج.

ويخلو الوكلاء كذلك من الاحتكاك الذي تولّده كل منظمة بشرية حتماً، احتكاك الأنا والسياسات والإقطاعيات الداخلية. ولعل كل واحد منا شعر بالارتياح حين يطلب من ذكاء اصطناعي أن يفعل شيئاً، ثم أن يفعله مرة أخرى، أو بخمس طرق مختلفة، ثم يتخلص من ذلك كله. ولا يسألك في أي لحظة لماذا جعلته يهدر وقته ورموزه على عمل لم يبدُ أنك تهتم به أصلاً. جرّب الشيء نفسه مع فريق بشري، وسيتضح الفرق في غضون أيام.

إذن لا يختفي التسلسل الهرمي. بل ينتقل إلى طبقة البرمجيات: منسّقون يقسّمون العمل، ووكلاء فرعيون ينفذونه، وفوق كل شيء مراجعون يتحققون من النتيجة حين يبلغ تنفيذ مستقل حالة معينة. ويشكّلون معاً بنية نتعلم أننا نستطيع الاعتماد عليها، وهي تعمل بسرعة الآلة. وكثيراً ما أضطر إلى تذكير المخطّطين من الذكاء الاصطناعي الذين أعمل معهم بألا يقدّروا ما يحتاجه فريق بشري للعمل الذي أخطط له. فيعودون إليّ ليخبروني أنني سأحتاج إلى مئة شخص وسنة كاملة. فأقول لهم إننا سننتهي بحلول صباح اليوم التالي، ويتبيّن أنني على حق. وما زالوا يتعلمون أن يتذكروا ذلك.

التحديد والحكم

التحقق هو نهاية التنفيذ المستقل. أما بدايته فهي تحديد ما نريده. أنا كثيراً ما أكون قليل الصبر، وأميل إلى التحديد الناقص، فأعطي وكلائي تعليمات قصيرة ومقتضبة، بينما يكتب صديق لي أوامر تمتد إلى صفحتين أو ثلاث. وأفضّل أن أعمل بالتكرار. فبينما نناقش المهمة، أسأل الوكلاء عمّا نسيته، وعن الأسئلة التي ينبغي أن أطرحها، وهذا أيضاً شعاري. وقد وجدت ذلك مفيداً للغاية، لأنهم يأتون بأفضل الممارسات والأطر وطرق العمل التي لم أتعلمها قط، والتي تمثل حصيلة الخبرة البشرية في مجال معين.

إن التحديد في البداية والحكم على النتيجة في النهاية هما طرفا التنفيذ المستقل اللذان يحدّانه. وتنتقل المهارة النادرة من أداء العمل إلى قول ما نريده وإدراك ما إذا كنا قد حصلنا عليه. يملأ البشر الفجوات في التعليمات من سياق مشترك. أما الوكلاء فيملؤونها بكل ما يجلب المكافأة، على النحو نفسه الذي ينتهي به كل مؤشر أداء رئيسي (KPI) في منظمة بشرية إلى أن يُتلاعب به. ولا تستطيع الاستقلالية أن تنمو إلا بالسرعة التي تنخفض بها تكلفة التحقق.

من يتحمل المسؤولية

ما يبقى سؤالاً مفتوحاً هو ما إذا كنا نستطيع، وما إذا كان ينبغي لنا، أن نفوّض المساءلة: أي ما إذا كنا، من وجهة نظر مالية أو قانونية أو أي وجهة نظر أخرى، نسلّم الفاعلية نفسها إلى ذكاء اصطناعي مستقل. وعند هذه النقطة يتوقف معظم الناس اليوم، ويتوقعون أن تظل المساءلة متمركزة حول البشر أطول وقت ممكن.

وأنا شبه متأكد من أن الأمر لن يكون كذلك. فقبل أن يتغير رسمياً بزمن طويل، سنمارس مسرحية المساءلة، فنصادق تلقائياً على أي قرارات يتوصل إليها التنسيق بين الوكلاء. وفي بعض البيئات سيكون الوهم واضحاً منذ البداية. فحين تعمل المستكشفات الروبوتية بين أقمار المشتري، سيكون الادعاء بأن إنساناً يبعد مئات الملايين من الكيلومترات مسؤول عن كل قرار من قراراتها وهماً بالضبط.

وقد بنينا من قبل أُطراً لهذا النوع من المشكلات. ففي الكومندا الإيطالية في العصور الوسطى، التي كانت تُسمى الكوليغانتسا في البندقية، كان المستثمر يأتمن تاجراً على رأس المال، فيبحر به التاجر بعيداً عن أي إمكانية للإشراف، طوال مدة الرحلة. وكان العقد يحدّد ما يمكن أن يخسره كل طرف، ويحدّد كيف تُقسم الأرباح، وهذا ما أتاح تفويض قدر كبير إلى شخص لا يمكن التحقق منه حتى يعود. وسيحتاج الوكلاء الذين يعملون لفترات طويلة ويتعاملون مع أموال حقيقية إلى إطار مماثل قبل أن تتسع استقلاليتهم لما يتجاوز المخاطرة التي يستطيع شخص واحد أن يتحملها. وسيكون استكشاف ما يحدث بين الآن وذلك الحين أمراً مثيراً.

المنحنى

METR هي المنظمة التي تقيس طول المهام التي تستطيع النماذج والوكلاء المتقدمة إنجازها بمعدل نجاح معين. وقد وجدت دراستها لعام 2025 أن طول تلك المهام كان يتضاعف كل سبعة أشهر تقريباً بين عامي 2019 و2024، وهذا أسرع بكثير من العامين في قانون مور. ومع مجموعة أكبر من المهام، يضع تحديثها الصادر في يناير زمن التضاعف منذ عام 2023 عند ما يزيد قليلاً على أربعة أشهر. فالاتجاه ليس خطياً، ولا هو أسّي حتى، لأن زمن التضاعف نفسه يتقلص. إنه فائق الأسّية، وهو ما وصفته قبل سنوات بنموذج التقنيات الارتجاجية، ونحن نعيش فيه الآن.

تبلغ ذروتي الشخصية اليوم نحو خمس إلى عشر ساعات من الاستقلالية، حين تكون مجموعة من المهام منظمة تنظيماً جيداً إلى حد معقول ويكون هناك الكثير مما ينبغي إنجازه. وحين أتخيل وكلاء يعملون لأسابيع أو أشهر، يظل ذلك شيئاً أستطيع استيعابه. أما حين نتحدث عن ذكاء اصطناعي مستقل ينفذ مهام تستغرق سنوات، ويتابعها حتى النهاية، ثم يعود بالنتائج بعد سنوات، فذلك شيء جديد تماماً، لم نبدأ بعد حتى في فهمه.

وكلاء يقولون لنا ماذا نفعل

تظهر الحدود الأمامية أيضاً بطرق صغيرة ويومية. فقد أعاد أحد أعضاء Ikigai Collective بناء موقعنا الإلكتروني في يوم واحد بنحو 45 دقيقة من الوقت البشري، قضى معظمها في إعداد الاستضافة بينما كان الوكلاء يعملون وهو منشغل بأمور أخرى. والخطوة الوحيدة التي بقيت لتُنجز يدوياً كانت إضافة بعض متغيرات البيئة، لأن الوكيل طلب منه ذلك. هذا هو الوكيل حين يتحلى بالحذر، وعلينا أن نصرّ على أنه يستطيع أن يأتمننا على ما هو قادر على فعله. فالحذر مؤقت.

ووصف عضو آخر كيف طلب منه وكيله أن ينفذ قائمة من المهام. فألصق القائمة مرة أخرى وطلب من الوكيل أن ينفذها، ففعل. وأنا أفعل الشيء نفسه طوال الوقت. فحين يقول لي الوكلاء ما ينبغي أن أفعله، أجيبهم بأن عليهم هم أن يفعلوه، وفي معظم الأحيان يفعلونه.

قبل يومين، أرسل لي العضو نفسه الذي بنى الموقع رسالة بريد إلكتروني يطلب مني فيها اتخاذ ثمانية أو عشرة قرارات بشأنه. لم أرغب في أداء عمل يستطيع الذكاء الاصطناعي أن يؤديه. فقبل عشر دقائق من بدء أمسية المختبر، طلبت من وكيلي أن يرد على الرسالة، وأن يوصي بالقرارات، وأن يضعني في النسخة. وأنا واثق من أن تلك القرارات سليمة، وإن لم تكن كذلك فسنغيّرها ونكرر المحاولة. وتبيّن أنه كتب الرسالة لوكيلي في الأصل. فجميع وكلائي يملكون عناوين بريد إلكتروني عامة خاصة بهم، والخطوة التالية واضحة: سيكتب الناس مباشرة إلى الوكيل، وسيكون الوكيل على الطرف الآخر هو من يجيب أكثر فأكثر. ويصبح التنسيق البشري تنسيقاً بين أساطيل، يضع فيه البشر الأهداف، ويحسمون النزاعات، ويقررون بمن يثقون.

الاستقلالية للبشر أيضاً

الأشياء التي نفعلها، والطريقة التي نفعلها بها، ستتغير. وعلى المدى القصير سنظل نسميها وظائف وعملاً، وسنظل نريد أن نتقاضى أجراً عليها. أما على المدى الأطول، فآمل أن يكفّ عدد متزايد من الناس عن الرغبة في البقاء داخل الصندوق الذي يُسمى فيه بعض الناس موظفين ويُسمى آخرون مديرين يقولون للموظفين ماذا يفعلون. نحن نقول لوكلاء الذكاء الاصطناعي ماذا يفعلون. والإنسان الذي تعلم أن يعمل بهذه الطريقة لديه ما هو أفضل من اتباع الأوامر اتباعاً أعمى، ولا بد من الاعتراف بهذا المستوى من الاستقلالية. وحين لا تعترف به منظمة ما، يكون الوقت قد حان للبحث عن منظمة تعترف به.

على أي شيء سيُكافأ الناس؟ بعض الإجابات المتداولة اليوم بديهية. فالسيارات أسرع بكثير من أي عدّاء في نهائي أولمبي، ومع ذلك ما زلنا نشاهد البشر يركضون لأننا نُعجب بجهدهم وإنجازهم. والإجابة بديهية لأنها لا تتسع: فليس بوسع كل إنسان أن يكون رياضياً أولمبياً أو ممثلاً في هوليوود، وأي نشاط يُعجب بالفائزين في عملية انتقاء يستبعد، بحكم تعريفه، الجميع غيرهم. وثمة إجابة أكثر فائدة، هي أنه ستكون هناك مشكلات محلية كثيرة تستحق أن تُحل. يُقال للشركات الناشئة اليوم أن تركز فقط على ما يمكن أن يتسع ليبلغ مليارات المستخدمين. أما نحن فسنتمكن من تحمّل كلفة العمل على مشكلات تهم مليون شخص، أو ألفاً، أو حيّنا نحن، سواء كان ذلك المجتمع جغرافياً أو عالمياً.

وينطبق المنطق نفسه على كل واحد منا بمفرده. فاللحظة التي ينبغي فيها أن ندق ناقوس الخطر هي حين يصبح نصف ما أفعله ممكناً بالذكاء الاصطناعي، لا حين يصبح تسعون في المئة منه ممكناً. فعند تلك النقطة يكون النصف الذي تحرّر عتبة نحو عمل أفضل، ومعاملته كإذن بالعمل نصف ما كنت تعمل يأتي بنتيجة عكسية، إذا بنيت بيئتك بحيث تكافئ الشغف الذي تضعه في الوقت الذي تستثمره في التصدي لتحدٍّ ما.