تحقّق أرخص، وثقة أثمن

كتبت في الأسابيع الماضية عن المخاطرة بين الجليد والغاز، وعن سبب أن كل مشروع لا يزال يحتاج إلى مشترين. وقد تناول المقالان ما نستطيع قياسه. أما هذا المقال فيتناول الجزء الذي لا نستطيع قياسه في كل قرار، وما نعتمد عليه كي نتصرف رغم ذلك.

البدء والإطلاق

ثمة لحظتان في حياة أي مشروع تصعبان على كثير من الناس بوجه خاص. الأولى هي البدء. والثانية هي الإطلاق، وهو أمر يختلف عن البناء. فالبناء عمل حميم: إنه متسامح، ويسير وفق إيقاعك أنت وقيودك أنت. أما الإطلاق فيعني مواجهة العالم في أي مرحلة بلغها المشروع، وهي مرحلة ناقصة حتماً، وسيسارع العالم إلى إخبارك بذلك. لكنه ضروري أيضاً، لأن العالم وحده قادر على أن يمنحك المستخدمين والملاحظات والنقد، وفي حالة المشاريع مفتوحة المصدر، المساهمات التي يمكنك بعد ذلك أن تتبناها وتدمجها.

كلتا اللحظتين لقاء بين داخل وخارج. وكذلك اللحظة التي يقرر فيها شخصان أن يعملا معاً. وفي كل منها نستطيع أن نقيّم جميع العوامل القابلة للقياس، وهي ما سمّيته المخاطرة: نموذج للواقع، وتوقّع لعواقبه، ومقارنة بما يحدث فعلاً. وهذا مهم لكنه غير كافٍ، لأنه ستظل هناك دائماً أمور لا نستطيع نمذجتها أو لا نستطيع قياسها. ومع ذلك علينا أن نتحرك، وأن نطلق الزخم الذي يتطلبه البناء والإطلاق.

الثقة هي القفزة

الفجوة بين المخاطرة القابلة للقياس والمكوّنات التي لا يمكن تقديرها في أي قرار تجسرها الثقة. ومن دونها سنكون وحدنا، سواء كانت المنظمة التي نبنيها مؤلفة من شخصين أو من الآلاف، ولن يكون الأمر ممتعاً بالقدر نفسه على الإطلاق.

تكتسب الثقة أهميتها القصوى في اللحظة الأولى تحديداً، قبل أن يوجد أي سجل سابق يمكن الاعتماد عليه. وأنا من أولئك الذين يمنحون الطرف الآخر عمداً ثقة تفوق ما هو ضروري، بل ما هو معقول، في البداية. أفعل ذلك لأن فعل الثقة الأول يشكّل كل ما يليه، والثقة السخية في البداية تيسّر العمل المشترك وتسرّعه. ثم تدور الدورة: ننفتح، ونتحقق من العواقب، ونغلق الدورة، ثم نفتحها من جديد. وكل دورة مكتملة إما تؤكد الثقة وإما تسحبها. ويحدث هذا يومياً وعلى كل المستويات، بين مؤسسَين اثنين، وداخل الشركات الكبرى، وبين الدول وهي تتنافس وتتعاون.

وقد تكون الثقة في غير موضعها أيضاً، على نحوين مختلفين. فقد تتباعد المصالح، فيحاول أحد الطرفين أن يستأثر بالقيمة كلها، دون أن يلاحظ الآخرون إن أمكن. أو قد لا يكون هناك أي سوء نية على الإطلاق، بل مجرد أخطاء أو قلة كفاءة، فيعجز الطرف الآخر ببساطة عن تقديم ما اتُّفق عليه. وكلنا مررنا بالحالتين.

ما يغيّره الذكاء الاصطناعي

كما أرى الأمر، يجعل الذكاء الاصطناعي التحقق رخيصاً. فهو يخفّض جذرياً تكلفة قياس ما جرى بعد وقوعه، ومن ثم تكلفة الحكم على ما إذا كان فعل ثقة بعينه في موضعه. وما يمكن التحقق منه لم يعد، على نحو متزايد، بحاجة إلى الثقة. وما يتبقى، وما يصبح أندر وأثمن من ذي قبل، هو كل ما لا نستطيع التحقق منه: نية الطرف الآخر وسلوكه المستقبلي. فالثقة باتت مطلوبة لأشياء أقل، وكل واحد من تلك الأشياء صار أهم.

وأدوات الذكاء الاصطناعي نفسها، حين يُساء استخدامها، تزيّف الإشارات التي نعتمد عليها لنقرر بمن نثق، بدءاً من وثيقة مزوّرة في صفقة وصولاً إلى هويات زائفة وقيم زائفة ونوايا زائفة. تصلني رسالة كهذه مرتين في الشهر على الأقل: *مرحباً يا أبي، هذا رقمي الجديد، أضعت هاتفي، وأحتاج بشكل عاجل إلى ألف يورو، أرجوك أرسلها.* قد يصاب الشخص غير المستعد بالذعر إلى حدّ أن يقع في الفخ. أما الأكثر استعداداً فيتمهّل لحظة، ويسأل نفسه عن مدى احتمال ذلك، ثم يتحقق، إما بشيء لا يمكن للمحتال أن يعرفه، وإما، إضافة إلى ذلك، عبر قناة ثانية.

والقناة الإضافية هي بالضبط ما فشل هذا العام على نطاق أوسع بكثير. فقد خسرت Fideuram، ذراع الخدمات المصرفية الخاصة لمجموعة Intesa Sanpaolo، مبلغ 95 مليون يورو، بعد أن تلقّى رئيس مجلس إدارتها رسالة عبر WhatsApp بدت كأنها صادرة عن الرئيس التنفيذي للمجموعة، أعقبتها مكالمة هاتفية أكّد فيها صوت مستنسخ بالذكاء الاصطناعي لمحامٍ رفيع المستوى التعليمات. وذهبت التحويلات أساساً إلى حسابات في الصين وهونغ كونغ. وقد استُرد نحو 53 مليون يورو، ولا يزال قرابة 36 مليون يورو مفقوداً. لقد زُيّفت قناة التأكيد مع القناة الأولى. ومع ازدياد قيمة الثقة، تصبح الأخطاء في أثمن علاقات الثقة لدينا أعلى تكلفة، وسيتعيّن علينا أن نستخدم الذكاء الاصطناعي نفسه لحمايتها.

حين تخفّض أدوات الثقة الثقة

منذ أغسطس، تُلزم المادة 50 من قانون الذكاء الاصطناعي الأوروبي مزوّدي الخدمات بوسم المحتوى المولَّد بالذكاء الاصطناعي، وفي 5 أكتوبر أعلنت OpenAI أنها ستضيف علامات مائية غير مرئية إلى نصوص ChatGPT في الاتحاد الأوروبي، لتنضم إلى Google وAnthropic اللتين تسمان نصوصهما بالفعل. كثيرون مستاؤون من ذلك، وأنا أفهم السبب. فهم يشعرون بأنهم مراقَبون وموسومون، ويعدّون محتواهم ملكاً لهم بصرف النظر عن الأدوات المستخدمة في إنتاجه.

أراد المشرّعون منع التزييف بالذكاء الاصطناعي. لكن ما يفعلونه في الواقع هو تلويث البيئة المعلوماتية بوسم لا يمكن أن يكون شاملاً. أنا أفعل كل شيء بالذكاء الاصطناعي، ولذلك فالوسم بالنسبة إليّ مستحق تماماً ولن يفاجئ أحداً ممن يعرفونني. لكن كثيرين غيري سيُفاجَؤون، في وقت تنظر فيه مجموعة مستقطبة إلى الذكاء الاصطناعي نظرة إيجابية، وتنظر إليه مجموعة كبيرة نظرة سلبية. والحلول المصممة لمنع الذكاء الاصطناعي من خفض الثقة تخفّضها هي نفسها، على نحو مفارق، وسنحتاج إلى شيء يحقق هدفها على نحو أفضل.

ولن يزداد الضغط إلا شدة. فنماذج الفيديو قادرة اليوم على توليد شخصية بشرية محاوِرة لا يستطيع كثيرون تمييزها عن إنسان حقيقي خلال مكالمة قصيرة، وقريباً ستمتد المكالمة ساعة كاملة. فإما أن نقبل بأن كثيراً ممن نلتقيهم عبر الفيديو سيكونون أنظمة ذكاء اصطناعي، وإما أن نجد طرقاً للتعرّف على البشر، وعندئذ سيقرر كل منا ما إذا كان سيثق بأنظمة الذكاء الاصطناعي أقل من البشر، أو بالقدر نفسه، أو، لدى بعض الناس، أكثر.

العقود والمنصات والوكلاء

وصف أحد المشاركين في حوارنا، وقد كان يتولى إدارة العقود، أصعب ما في تلك المهمة: أن يكسب ثقة زملائه، مع الحرص على ألا يسلّموه إرادتهم مع الأوراق. كانوا يقولون إنه قرأ العقد، وإن الذكاء الاصطناعي قرأه أيضاً، فلا بد أنهم في أمان. وكان جوابه أن عليهم مع ذلك أن يقرؤوا صفقتهم بأنفسهم.

أتفق على أن القرار يجب أن يبقى بيد الإنسان. وأضيف أن العقود، في شبه إجماع، إساءة لاستخدام الثقة اللازمة للدخول فيها. لا أعرف شخصاً واحداً يقرأ وثيقة تأمين، أو اتفاقية حساب مصرفي، أو عقد رهن عقاري من أوله إلى آخره، بما فيه من حروف صغيرة، ولم ألتقِ قط بموظف مصرف قال: خذ ثلاث ساعات يا سيدي، سأنتظرك. إنهم يمرّرونك سريعاً ويطلبون منك ألا تقلق. وفي هذه الحالة يعيد الذكاء الاصطناعي التوازن إلى العلاقة. فمهما كثرت الأخطاء التي يرتكبها في تحليل عقد رهن عقاري، تبقى تلك الأخطاء بلا وزن مقارنة بالجهل التام بالبنود الذي ينطوي عليه التوقيع الأعمى. أعطِ كل اتفاقية لنظام الذكاء الاصطناعي الذي تستخدمه، واسأله هل فيها ما هو غريب، وهل فيها ما ينبغي أن يقلقك، وعلى أي بنود ينبغي أن تعترض. وكثيراً ما ستجد شيئاً.

ويهمّ أيضاً أي نظام ذكاء اصطناعي تسأل. فالنماذج تُدرَّب وتُوجَّه بطرق مختلفة، وكلما عرفت أدواتك ووكلاؤك عنك أكثر، خدموك على نحو أفضل. وهذا سبب لتصدير ما قدّمته لها، بصورة دورية وبأدق مستوى من التفصيل متاح، للتحقق من اتساقه من جهة، ولتتمكن من الانتقال إلى أداة أخرى دون أن تبدأ من الصفر من جهة أخرى. أنا مهووس إلى حد ما بتصدير بياناتي من كل منصة، لأنني لا أرى أن المنصات تستحق ثقتنا. إنها تقدّم قيمة، لكنها تهتم بنفسها أكثر مما تهتم بأي مستخدم بعينه.

أودّ أن أعرف ما تظنه المنصات بنا. أظن أنها مذعورة من البشر إلى حد ما. فنحن نريد أن نستخدمها بلا قيود، لأي غرض أو فكرة تخطر لنا، ونريد في الوقت نفسه أن توقف السلوك الإجرامي، وهو مطلب معاكس. كانت العلاقة معقدة حين كانت المنصات سلبية. أما الآن، وكل منصة تتحول إلى منصة وكيلية، فسيصبح فكّ رموزها أصعب على الجانبين: علينا نحن، أن نعرف أي نوع من العلاقات نحن فيه، وعليها هي، أن تفهم السلوك البشري بعمق أكبر.

الثقة بالمصنع

يعود السؤال نفسه، بحدّة أكبر، حين ينجز الوكلاء العمل بدلاً من أن يقرؤوه. ففريق أعمل معه يختبر مصنعاً للبرمجيات: وكلاء يتسلّمون مهمة، ويكتبون الشيفرة، ويفتحون طلب دمج، ويختبرونه، ثم يدمجونه. مع القواعد الصارمة، رفض الوكيل كل طلب دمج دون استثناء، السليم منها مع المعطوب، وظل يطلب مراجعة بشرية. ومع القواعد المتساهلة قبِلها كلها تقريباً. ولا يمثل أي من الإعدادين ثقة. فأن نطلب من إنسان أن يقرأ الشيفرة كي يشعر الوكيل بثقة كافية لدمجها يعيد بالضبط عنق الزجاجة الذي وُجد المصنع لإزالته. والجواب الأفضل طبقة إضافية من التحقق: الاختبارات تتحقق من الشيفرة، ومدقّق يتحقق مما إذا كان قرار القبول أو الرفض صائباً، ويعيد العمل حين لا يكون كذلك.

وما نقرر أن نحتفظ به لأنفسنا يتبع الخط الفاصل بين ما يمكن التحقق منه وما لا يمكن. فالخلل البرمجي يعني أن المستخدم لا يستطيع أن يفعل شيئاً كان يتوقع أن يتمكن من فعله، فالتوقع موجود سلفاً، ويمكن التحقق من الإصلاح بمقارنته به، ويستطيع المصنع أن يتولاه وحده. أما طلب الميزة فيطلب شيئاً لم يتوقعه أحد، وقبوله يغيّر اتجاه المنتج. ومن يحب واجهة مزدحمة سيظل يطلب إعادة كل خيار إلى الصفحة الرئيسية، ولا بد أن يكون المسؤولون عن التصميم أحراراً في الرفض. فالنية تبقى بيد البشر.

ماذا يحدث حين يرتكب المصنع خطأً جسيماً إلى حد أن نفقد الثقة به، ونضطر إلى التشكيك في كل ما فعله يوماً؟ لقد كانت الثقة لازمة أصلاً لأن هناك تحديداً أموراً لم نتوقعها ولم نستطع نمذجتها. وحين يظهر خطأ منهجي، نحلّله، ونمنع تكراره، ونحسّن نموذجنا للمخاطرة، ونحن ندرك أننا لم نُلغِ الحاجة إلى الثقة، بل دفعناها إلى أبعد فحسب. وهذا ما يفعله شخصان حين يكفّان عن الجدال حول كل بند، فيوقّعان الاتفاق ويبدآن العمل معاً، كي يكتشفا ما إذا كانت ثقتهما في موضعها. ولا أرى أي صورة للمستقبل نقرر فيها أن السنوات العشر الماضية من الثقة المتزايدة بالذكاء الاصطناعي كانت خطأً، فنبني العالم من دونه.

ويسير البُناة الأكثر تقدماً في المسار نفسه، بحذر. ففي أغسطس أفادت Anthropic بأن Claude يقود 26% من أعمال البحث والتطوير في مجال الذكاء الاصطناعي لديها، بعد أن كانت النسبة أقل من 1% في فبراير، في حين لا يجري أي جزء من ذلك العمل باستقلالية تامة. فالبشر هناك لا يزالون يقررون ما يستحق أن يُنجز. وكل دورة مكتملة توسّع نطاق ما يُؤتمن الوكلاء على تنفيذه، وآخر ما سيُؤتمنون عليه هو اختيار العمل نفسه.

الحاجة إلى الثقة باقية

يفهم المهاجمون دورة الثقة كما يفهمها أي أحد. فقد رأت ورقة بحثية من Microsoft Research أن رسائل الاحتيال الشهيرة فجّة عن قصد: فالإنجليزية الركيكة تستبعد كل من كان سيكشف الاحتيال لاحقاً، بحيث لا يرد إلا أكثر الأهداف وعداً. أما العمليات المتطورة، ومنها تلك التي تزرع عمالاً من كوريا الشمالية في وظائف غربية بهويات مزيّفة، فتتحلّى بالصبر. إنها تكمل دورة الثقة الأولى، وتقبل مسؤوليات أكبر كلما منحتها المؤسسة إياها، ولا تصعّد إلا بعد ذلك.

لا شيء من هذا يجعل القفزة اختيارية. فمن المضمون رياضياً أن نماذجنا ستُغفل دائماً أموراً لا نستطيع قياسها، وإذا أردنا أن نتصرف ونبدع، فعلينا أن نقوم بقفزة إيمان. وقد استوقفتني مؤخراً ملاحظة عن الانتخابات الديمقراطية: فالطرف الخاسر يسلّم السلطة إلى من كانوا خصومه حتى اليوم السابق، واثقاً بأنه لن يُقتل، وبأن حقوقه وممتلكاته ستُصان، وبأنه سيتمكن بعد سنوات قليلة من الترشح مجدداً والفوز. ولو قيس ذلك بعلاقات القوة الأقدم والأقل استنارة لبدا أقرب إلى العبث. إنها دورة ثقة يتفق مجتمع بأكمله على أن يديرها، مرة بعد مرة.

لذلك علينا أن نكون مبدعين ومبتكرين في ما يخص الثقة، وأن نستخدمها يومياً في ما يصنع المجتمع اليوم، كي تبقى جزءاً من مجتمع الغد. والمجتمع الصغير أحد الأماكن التي نمارسها فيها. ومجموعتنا في Ikigai Collective تدير هذه الدورة كل خميس، إذ ينفتح الناس، ويمنح بعضهم بعضاً الثقة، ثم يعودون في الأسبوع التالي ليروا ما إذا كانت قد صمدت.