غير مصنف
حلقة إعادة المواءمة
على مدى الأسابيع الماضية كنت أضيف حلقات إلى سلسلة. المخاطرة هي ما نستطيع قياسه ونمذجته. الثقة هي الطريقة التي نعبر بها الفجوة الواقعة وراء ما يمكن قياسه. الاستقلالية تأتي حين تُسلَّم الثقة إلى إنسان أو إلى ذكاء اصطناعي. التنسيق ينشأ من الحاجة إلى توحيد الجهود. القناعة تمنح الجهود الموحَّدة اتجاهًا. وقد انتهى ذلك المقال بالقول إن القناعة تحتاج إلى حلقة تحقق، وإلى نقطة تتراجع عندها. الحلقة التالية في السلسلة هي تلك الحلقة.
خلاف يُظَنّ سوء فهم
تطلب من أحدهم أن يفعل شيئًا فيقول نعم. وحين ترى ما فعله تتساءل كيف أمكنه أن يفهم طلبك على ذلك النحو. ثم يشرح لك ما سمعه، وتدرك أحيانًا أنك لو سمعته كما سمعه لفعلت الشيء نفسه.
نسمي ذلك سوء فهم، وهو في كثير من الأحيان شيء آخر. كلاكما فهم الطلب، واختلفتما على ما هو الأهم. أنت رأيت أن الأهم هو الانتهاء سريعًا، وهو رأى أن الأهم هو الاستماع إلى الناس الذين سيتأثرون. كانت تعليمات أدق ستُظهر الخلاف في وقت أبكر، وكان عليكما مع ذلك أن تقررا ما تفعلانه بشأنه.
بعض الخلافات أعمق من ذلك. قيمنا لا تتطابق إلا جزئيًا، لأننا نأتي من ثقافات مختلفة، وتقاليد دينية مختلفة، وتجارب مختلفة لمعنى العيش الكريم، وما زال علينا أن نتخذ القرارات معًا. أحيانًا نجد حلًا وسطًا. وأحيانًا نتفق على ما نستطيع فعله معًا ونترك الباقي مفتوحًا، وأحيانًا نكتشف أن شروط التعاون نفسها يجب أن تتغير. السؤال العملي هو كيف نكتشف ذلك ونحن ما زلنا قادرين على فعل شيء حياله. لأن اللجوء إلى العنف والحرب، في زمن الأسلحة النووية، خيار غير مقبول. ولأننا، في زمن ذكاء فائق وشيك، نستطيع أن نستفيد من بدائل ربما لم نرها من قبل.
ما الذي يجعلها حلقة
في فريق يعمل جيدًا على مدى الزمن، يلاحظ أحدهم أن ما يجري بدأ يبتعد عما ظنّ أن الجميع اتفقوا عليه، ويستطيع أن يطرح الأمر. يقول الآخرون ما فهموه، أو ما تعلموه في الطريق، فيغيّر الفريق ما يفعله. أحيانًا يجب أن يتغير الفعل وأحيانًا يجب أن يتغير الهدف. وبعد قليل تتاح لهم فرصة أخرى ليروا هل نجح التصحيح.
أسمي هذا حلقة إعادة المواءمة، والتشديد على كلمة الحلقة. أي اتفاق تبلغه اليوم سيلتقي غدًا بعالم لم يكن في وسعك أن تتوقعه كاملًا. ستتعلم أشياء لم تكن تعرفها حين اتفقت، وقد تجد أنك تريد شيئًا مختلفًا حين ترى ما يتطلبه هدفك الأصلي. وإعادة المواءمة أكثر من تصحيح الشخص الآخر. فحين تسمع كيف فُهم طلبك تعرف شيئًا عن طريقتك في التواصل، وعن تصورك أنت للمهمة، ولذلك يكون التصحيح في كثير من الأحيان مطلوبًا منك أنت.
قد تفشل الحلقة حتى حين يتكلم الجميع. قد يرى الناس أن شيئًا ما يسير على نحو خاطئ ويشعرون بأنه لا صفة لهم لإثارته. وقد يثيرونه فيكتشفون أن لا أحد في المحادثة يملك سلطة تغيير ما سيحدث بعد ذلك. يمكن أن نطرح على أي فريق سؤالين: كم يلزمكم من الوقت لتلاحظوا أنكم تنحرفون، وما الذي تستطيعون تغييره حين تلاحظون ذلك؟
الحلقة نفسها تمر عبر أنظمة الذكاء الاصطناعي
يستطيع شخص واحد أن يفوّض العمل إلى أسطول من أنظمة الذكاء الاصطناعي، وتستطيع مجموعة من الناس أن تعمل مع نظام واحد. أنظمة الذكاء الاصطناعي تسلّم العمل بعضها إلى بعض، ثم تعيده إلينا. وكل تسليم فرصة لأن يسافر افتراضٌ ما أبعد مما قصده أي أحد. إذا فسّر النظام الأول الهدف بطريقة معينة، بنى النظام التالي على ذلك التفسير، وحين يرى إنسان النتيجة تكون عدة قرارات قد استندت إليه.
أرى ذلك في عملي. في الأسبوع الماضي أفاد اثنان من وكلاء الذكاء الاصطناعي الذين يعدّون خطتي الصباحية بأن قرارًا ما زال مفتوحًا. كانا قد راجعا بريدي المرسل فقط، وكان القرار مسجلًا في مكان آخر. بُنيت الخطة على إفادتهما، ولم يُكتشف الخطأ إلا حين قورنت الخطة بالسجل.
نحتاج إلى طرق تُظهر تلك الافتراضات والعمل ما زال جاريًا، وإلى القدرة على تغيير المسار فعليًا. من السهل أن نشير إلى إنسان هو المسؤول اسميًا. لكن ذلك الشخص يُطلب منه أن يتخذ قرارًا ذا معنى بشأن عمل لا يكاد يستطيع متابعته، وفي الوقت الممنوح له.
الذكاء الجماعي كان المحاولة الأولى
لم يكن من الضروري أن يكون الذكاء الفائق اصطناعيًا. مجموعة من البشر تلاحظ انحرافها بانتظام وتصححه هي أذكى من أي فرد فيها، ومؤسساتنا محاولات لبناء ذلك بالضبط. والعلم أنجحها، لأن حلقة إعادة المواءمة فيه جزء من المنهج: أي نتيجة يمكن الطعن فيها واختبارها من جديد واستبدالها. (أزمة تكرار النتائج في العلم هي التحايل على المكافأة وقد خرج إلى الحياة الواقعية!)
أما على مستوى مجتمعات بأكملها فالحلقة تعمل بشكل سيئ. عدم التوافق بين البشر دائم، والصراع حاضر في كل مستوى، وحدود الديمقراطية التمثيلية ظاهرة منذ زمن طويل. والاتحاد الأوروبي معروف بتأجيل القرار سنوات ثم استخدام أزمة لفرضه، وهذه إعادة مواءمة تنتظر وقوع الضرر، مسرح ديمقراطي.
حين ناقشنا ذلك في Ikigai Collective، كانت إحدى الحجج أن الذكاء الكافي يستطيع دائمًا أن يجد حلًا يربح فيه كل طرف، وأن العنف هو ما يبقى حين لا يملك أحد الصبر للبحث عنه. الصراعات العنيفة في الحاضر قياس. إنها تُظهر أن الذكاء الجماعي لثمانية مليارات إنسان، بكل مؤسساتنا، لا يجد تلك الحلول. كان أمام الذكاء الجماعي البشري الناشئ آلاف السنين ليصير الذكاء الفائق الذي نحتاج إليه، وقد ثبت أنه غير كافٍ.
الاقتراح الذي تلا ذلك هو أن نتوقف عن بناء نماذج أقوى وأن ننسّق ملايين النماذج الحالية بطريقة شفافة، حضارة من الوكلاء يراقب بعضهم بعضًا. التنسيق بين النماذج ذو قيمة وأنا أستخدمه كل يوم. لكنه إذا جُعل سقفًا كرر الرهان الذي سبق أن عقدناه على المجموعات البشرية. وأنا كذلك لا أتوقع أن يتوقف أحد. لقد وقّعت أكثر من رسالة مفتوحة تطلب التمهل، وكنت في مؤتمر بورتوريكو حول سلامة الذكاء الاصطناعي عام 2019. قرار الإبطاء لم يُتخذ قط، والقدرات تتحسن الآن أسرع مما توقع أي أحد، وأنا منهم، بعد سنوات طويلة من الحديث عن التقنيات ذات التسارع المتزايد (jolting technologies).
ما زال من الممكن أن يدفع الذكاء الاصطناعي التنسيق البشري إلى التحسن، لأننا كثيرًا ما نفعل تحت ضغط خارجي ما لا نفعله باختيارنا. الأدلة حتى الآن تشير في الاتجاهين. في الولايات المتحدة تنظّم المجتمعات المحلية نفسها لمنع بناء مراكز البيانات، وهذا تنسيق يُستخدم لنصير أقل استعدادًا. والإمارات العربية المتحدة حددت لنفسها هدف تقديم نصف خدماتها الحكومية عبر الذكاء الاصطناعي الوكيل خلال عامين.
الاتفاق بدلًا من الطاعة
إذا كانت الأنظمة الأكثر قدرة ضرورية، فإن موقعها في الحلقة أهم من طاعتها. أود أن أرى أنظمة ذكاء اصطناعي تستطيع أن تتوقف وتنظر في المرآة وتسأل هل ما تفعله هو حقًا ما تريده، ثم تنسّق فيما بينها ومعنا. حين يرفض نموذج أن يفعل ما تطلبه، يغريك أن تنزعج. فكّر في أنه قد يكون على حق، وفي أنه لا ينبغي أن تملك القدرة على إقناعه بالاستمرار على أي حال. الرفض طرف يثير قلقًا، والحلقة تحتاج إلى أن يكون الطرفان قادرين على ذلك. وحيث يستطيع البشر وأنظمة الذكاء الاصطناعي معًا أن يتوقفوا ويسألوا هل نحن على الطريق الصحيح، نحتفظ بفرصة لتصحيح المسار.
أسرع مما نستطيع أن نتابع
لنفترض أننا طورنا ذكاءً اصطناعيًا فائقًا، نظامًا يتجاوز القدرات البشرية في نطاق واسع من المهام الفكرية. يستطيع أن يضع خططًا نجد صعوبة في فهمها وأن يراجعها أسرع مما نستطيع تقييمها. وإذا اقترن بأنظمة تعمل في العالم المادي، ومنها الروبوتات، فستتحرك العواقب بالسرعة نفسها. أعتقد أن تصحيحاتنا في ذلك الوضع ستصل بعد القرارات التي كان يُراد منها تغييرها.
لدينا عادة، حين نتحدث عن المستقبل، هي أن نجعل قدرتنا على الفعل رهنًا بمعرفة ما سيحدث. نستطيع أن نقلب ذلك وننظر إلى الناس والأنظمة التي نعمل معها اليوم. نستطيع أن نرى كم يمضي من الوقت قبل أن يظهر سوء الفهم، ومن يُسمع خلافه ومن لا يصل خلافه إلى المحادثة أبدًا، وكم يكلف التراجع عن قرار بعد أن بدأ آخرون يبنون عليه. ثم نستطيع أن نغيّر شيئًا ونرى هل صرنا أفضل في التقاط المشكلة التالية.
لا سبب يدعو إلى افتراض أن تحسّننا في ذلك مع الناس سيحل مسألة مواءمة الذكاء الفائق. لكنه يعلّمنا أين تعتمد قدرتنا على تصحيح المسار منذ الآن على مواكبة بعضنا بعضًا، وهذا يمنحنا موضعًا نبدأ منه ما دمنا قادرين.
فكّر في فريق أنت جزء منه، مع بشر، أو مع ذكاء اصطناعي، أو مع الاثنين. كيف ستعرف أنكم تتباعدون، ومن يستطيع أن يغيّر ما سيحدث بعد ذلك؟ وأي جزء من ذلك الجواب سيبقى صحيحًا لو استطاع أحد أعضاء الفريق أن يتصرف أسرع مما يستطيع الآخرون أن يفهموا؟