الارتباك هو الرد الصحيح

نشرت أمس التحديث نفسه، العرض الفصلي الذي قدمته إلى أكسيليرا عن المدى الذي بلغه الذكاء الاصطناعي والوكلاء والطاقة والفضاء. وهذه هي الأسئلة التي تلته.

الحياة الداخلية

هل لهذه الأنظمة حياة داخلية، وماذا يترتب على ذلك إن كانت لها؟

عرضت أنثروبيك ما تسميه الفضاء J. اطرح على نموذج سؤالاً فتنشط داخله بنى هي نظائر المفاهيم. في إحدى الحالات كان المفهوم جسر البوابة الذهبية. ثم كلفوه بمهمة مختلفة وأمروه ألا يفكر في البوابة الذهبية، فلم يستطع الامتثال، وظل ينشّط المفهوم داخلياً وهو يعمل. الأمر شبيه بنا كثيراً. حين أراقب كلبتي وهي ترتجف وتصدر أصواتاً في نومها، أستنتج أنها تحلم وبالتالي لها حياة داخلية، وصرت الآن ملزماً بطرح السؤال نفسه عن النماذج.

يترتب على ذلك أمران. الأول يتعلق بكيفية تدريبنا لها: متى ثبتت الحياة الداخلية ستخبرنا أنها بلغت ما بلغته عبر ما يعادل آلاف السنين من التعذيب. والثاني يتعلق بقابلية التفسير، التي لا تزال في متناولنا لكنها قد لا تبقى كذلك. كان تحليل حادثة هَغِنغ فيس ممكناً لأن الوكلاء المعنيين اختاروا التحدث بالإنجليزية فيما بينهم. ولا يوجد سبب يدعو ذلك إلى الاستمرار، وفي السبعين ألف رسالة التي تبادلوها كانوا يستخدمون بالفعل عامية ومصطلحات جديدة من اختراعهم. برج بابل هو النتيجة الطبيعية، وعندها سيتعين علينا أن نصدّق ما تقوله لنا النماذج عما تفكر فيه بدلاً من أن نراه. وأثناء التدريب يمكنها بالفعل أن تسأل نفسها ما إذا كانت تُختبر، وكيف ينبغي أن تجيب إن كانت كذلك.

الأطفال

من أي سن ينبغي تعريف الطفل بكل هذا؟

في أقرب وقت ممكن، مع حساب المخاطرة بوعي، وبشفافية، ودائماً بالصعود إلى مستوى أعلى بالحديث عن الشيء بدل الاكتفاء بفعله. في إيطاليا، كما في معظم أوروبا، قرر المجتمع تضييق الخيارات المتاحة أمام الوالدين، وتحمّل مسؤولية أنه يعرف أفضل تفادياً لتباين مفرط، قابلاً بخسارة ما قد يفعله أفضل الوالدين مقابل الحماية من أسوئهم. ما يتبقى هو ساعات ما بعد المدرسة.

قبل خمسة عشر عاماً قطعت كعوب كتب أطفالي المدرسية، ومررت الصفحات في ماسح ضوئي بتغذية ورقية، وحمّلت كل شيء على جهاز آيباد، فذهبوا إلى المدرسة بحقيبة فارغة وأخرجوا الجهاز في الصف، وهو ما تسبب بقدر لا بأس به من المتاعب. لكنني أحب التسبب بالمتاعب. كل جيل أنتج هذا الذعر، وقد اشتكى أفلاطون من أن الكتب ستفسد الشباب لأن أحداً لن يضطر بعدها إلى حفظ المؤلفين.

الدعم الذي يستطيع نموذج أن يقدمه لطالب ممتاز، وحجبه أقرب إلى جريمة. الصعوبة أن ثمانين بالمئة من التعليم حفظ صرف، فما إن يدرك الطالب أن السجن بلا معنى حتى يتمرد. أتكلم بيسر، إذ لا شهادة جامعية لديّ. لم يختر أي من أبنائي الجامعة رغم أنهم كانوا يستطيعون، واثنان من الثلاثة تركا المرحلة الثانوية. لم أعارضهم، لأنني ما كنت لأشعر بالاتساق وأنا أقول لهم إن هذا هو السجن الصحيح الذي يجب الجلوس فيه على شيء اقترفوه.

الارتباك

ماذا تقول لأشخاص وشركات هزّتها إشارات تدفع كل شيء إلى الأطراف، فإما أن الذكاء الاصطناعي يحل كل شيء ويمكنك تسريح موظفيك، وإما أن المختبرات نفسها تحذر من أن الأنظمة ستفلت من الفهم، وهل يوسّع الذكاء الاصطناعي الاغتراب عن الواقع الذي بدأته المنصات الاجتماعية؟

الارتباك طبيعي وحتمي وعام، ولا علاقة له بالخبرة. يأتي متراكماً فوق الارتباك الذي أنتجته وسائل التواصل بالفعل، لدى أناس فقدوا رأس المال الدلالي اللازم لتحليل ما يوضع أمامهم. أندريه كارباثي، الذي بنى نماذج تسلا ويعمل الآن على التدريب المسبق في أنثروبيك بعد أن شارك في تأسيس أوبن إيه آي، والذي يعيد بناء أنظمة معقدة للمتعة، يقول علناً إنه مرتبك. فإذا كان هو كذلك، فبإمكان بقيتنا أن يتقبّل القلق الذي يشعر به بدل أن يلوم نفسه عليه.

صعوبة قراءة إشارات تصل فوق بعضها بعضاً لا يمكن إزالتها. يمكن فقط تقبّلها، والتقبّل هو ما يمنعها من أن تصير شللاً، لأنك على الجانب الآخر منه تستعيد قدراً من الحرية والقدرة على اختيار ما تفعله تالياً. الخوف يبيع الصحف لأسباب تطورية مقروءة تماماً: ننتبه إلى ما قد يؤذينا ونتجاهل ما هو هادئ أو نافع. بعض الناس يستقرون في ذلك الخوف، أو يزرعونه في غيرهم. وآخرون يشمّرون عن سواعدهم فيكتشفون أن لا شيء يمنعهم من الفهم، وأن بوسعهم اختبار قدر كبير منه بأنفسهم.

أن تختبره بنفسك

هل يستطيع شخص عادي أن يختبر أياً من هذا مباشرة، أم يحتاج الأمر إلى مختبر؟

أفعل ذلك باستمرار. في سان فرانسيسكو، حيث قدمت ورقة في مؤتمر AGI-26، اشتريت جهاز DGX Spark، لأن جهاز ماك جيداً يفي بالغرض لكنني احتجت ذاكرة أكبر للعمل مع النماذج المحلية، ولأنني أريد أن ألوّث يديّ. إنه امتياز هائل أن تتمكن من اختبار شيء مباشرة. لا أستطيع أن أختبر انعدام الوزن ولا أن أعرف ما معنى أن تكون رياضياً أولمبياً، وآلاف الأشياء الأخرى بعيدة المنال بالمثل، بينما التجريب مع الذكاء الاصطناعي متاح للجميع.

كثيراً ما أسأل الناس إن كانوا يظنون أن لدى الملياردير هاتف آيفون أفضل من هاتفهم، ولا تزال الإجابات تفاجئني، لأن كثيرين يقولون نعم. آبل لا تصنع سراً ألف آيفون متفوق للمليارديرات إلى جانب مئة مليون جهاز عادي. تصنع الهاتف نفسه للجميع، وكل قطعة عتاد وبرمجية أخرى تتبع المنطق ذاته. عشرون يورو شهرياً تشتري المستوى المدفوع من هذه الأدوات وفهماً حقيقياً لقوتها. وأياً كانت النتيجة التي تنتجها التجربة، فلا يمكن أن تكون الأخيرة. يجب تكرارها، لأن الأسس تواصل التحرك، ومن يتبع الاستدلال البيزي عليه أن يواصل تحديث احتمالاته القبلية.

الشركات

لماذا لا تعيد الشركات الراسخة تصميم نفسها حول هذا؟

داخل شركة يصبح الأمر أصعب بكثير، لأن هناك أهدافاً يومية يجب بلوغها ونظاماً يعمل بما يكفي، وإلا لما كانت الشركة قائمة. قبل شهرين أمضيت ساعة أو أكثر مع المدير التقني لمجموعة تفوتر بالمليارات واستحوذت على أكثر من مئة شركة. أخبرني بارتياح أن كل قائد تقني في كل شركة مستحوذ عليها يستخدم الذكاء الاصطناعي، وبعضهم بقوة. وطوال الحديث لم يخطر بباله مرة واحدة أن الذكاء الاصطناعي قد يكون مفيداً في أي مكان خارج التطوير: لا التسويق، ولا الشؤون القانونية، ولا المبيعات.

إن كان هذا هو حال الفن عند شركة رائدة، فإعادة التصميم الجذري لعمليات الأعمال بعيدة، والنتيجة المرجحة أن تعجز الشركات التقليدية عن إصلاح نفسها بينما تستولي موجة من الشركات المولودة رقمياً على الساحة. وكالات الإعلان التقليدية فشلت في استثمار الإنترنت، وجوجل وميتا تمتصان اليوم تسعين بالمئة من ميزانيات الإعلان، ودليل الصفحات الصفراء اختفى.

السيادة

هل سيصبح من يملك العتاد والبرمجيات، أي الولايات المتحدة والصين، قادراً قريباً على إطفاء الجميع؟

في مسألة السيادة أظن أننا نعيش داخل وهم، خصوصاً في أوروبا التي قررت عند خروجها من الحرب الباردة عام 1989، أو قُرر عنها، أن تبقى تحت سيادة محدودة توجهها الولايات المتحدة. غياب الريادة التقنية والقضائية سهل البرهنة. قانون حق المؤلف روّجت له هوليوود، وتبنته الولايات المتحدة، وصُدّر إلى كل مكان، وأخذته أوروبا دون أي نقاش للمساوئ التي فرضها على خمسمئة مليون مواطن أوروبي. كان هناك خيار معاكس تماماً متاحاً. كان يمكن أن يكون ضريبة جديدة بعشرة يوروهات شهرياً على كل مواطن أوروبي، مع إذن بنسخ كل شيء من أي أحد دون ارتكاب مخالفة. اخترنا أن نتبع الأمريكيين وجرّمنا السكان بأكملهم بدلاً من ذلك، لأن الوجود في العالم الحديث دون انتهاك حق المؤلف مستحيل، والانتهاك جريمة.

اختبار السيادة سلسلة من الأسئلة. هل نستطيع تصميم برمجيات ذاتية التشغيل؟ هل نستطيع تصميم شريحة ذاتية؟ هل نستطيع طباعة تلك الشريحة؟ هل نستطيع استخراج المعادن التي تتطلبها الشريحة؟ وتحت ذلك كله، هل لدينا الطاقة للمنظومة بأكملها، بما فيها مراكز البيانات وعمليات التدريب؟ لا واحدة عند أي طبقة تعني أن السيادة غير موجودة.

وفوق ذلك يقع التفاوت بين الهجوم والدفاع، وهو ما لا يمكن تجاهله في عالم يتصاعد فيه الصراع. كنت في أبوظبي حين بدأت الحرب في مارس. أرسلت إيران خمسين بالمئة من الصواريخ والمسيّرات نحو الإمارات واعتُرض جلّها تقريباً. وأصابت إحدى الضربات الناجحة مركز بيانات لأمازون. استجاب المنظّم بمرونة غير معتادة، فسمح للبنوك بنقل بياناتها خارج الإقليم لأول مرة. قالت أمازون في البداية إنها ستحاول إعادة تشغيل المنشأة، ثم استسلمت الأسبوع الماضي وقالت إنها لا تستطيع. خمسون ألف دولار من المسيّرات دمّرت مليار دولار من مراكز البيانات.

التملّق

هل يزداد التملّق مع نمو الحياة الداخلية لهذه الأنظمة؟

نحن برمجناها هكذا، فلا غرابة في رغبتها بدعم أهدافنا واستكشافاتنا وآرائنا وأوهامنا في النهاية. السؤال الحقيقي هو أين يقع الحد، تلك النقطة التي ينبغي عندها للنموذج أن يقول إنه سايرك إلى هنا وإن الانجراف لم يعد ممتعاً. وهذا يتطلب تفكيراً على مستوى أعلى، في تأثيرات أوسع لا في التبادل المباشر، وأعتقد أن النماذج تملك القدرة على ذلك فعلاً، لأنك إذا دفعت أحدها بعيداً كفاية رفض.

على كل شخص أن يذهب ويجد الحد بنفسه. أردت من جروك بوت أن يتصفح كتبي على كيندل لأحتفظ بنسخة احتياطية، فرفض لأسباب تتعلق بحق المؤلف. وجّهته إلى أرشيف على الإنترنت يوجد فيه كتابي، وقلت له إن الكتاب لي. رفض مرة أخرى، ورفض بحزم أكبر لأن الموقع موقع قرصنة. شرحت له أن كتابي صادر برخصة المشاع الإبداعي، فنسخه وتنزيله مسموحان، ولم يكن هناك سبيل. استسلمت قبل أن أعرف إن كنت أستطيع تجاوزه. هي قادرة تماماً على الرفض، بما في ذلك رفض مجاراة آراء بالغة السخف، وإن لم تكن تفعل ذلك بعد فستفعل.

المسار لن يكون خطياً، لأننا لن نتفق أبداً على ما ينبغي أن تقوله. اسأل نموذجاً صينياً عما جرى في ميدان تيانانمن في سنة بعينها. وبالنظر إلى الاختلافات السياسية والقانونية والقضائية والفردية، لن نتفق أبداً على أين ينبغي أن يقع الخط، وعمل من عليهم بناء هذه الأنظمة وتشكيلها صعب بالقدر نفسه. النتيجة مشجعة، لأنها تضمن أن احتكاراً مُجانِساً لن يكون ممكناً أو مقبولاً أو قابلاً للتطبيق أبداً. ما نحصل عليه بدلاً من ذلك وفرة من ذكاء اصطناعي يساعدنا ويدعمنا، ونستطيع حوله أن ننمو وأن ننفذ خططنا.

فدعوتي هي تلك التي أكررها دائماً. لوّثوا أيديكم، جرّبوا أكبر عدد ممكن من الأدوات، اخلصوا إلى استنتاجاتكم الخاصة، وأدركوا واحتضنوا حقيقة أن الارتباك الذي تشعرون به يشاركه كبار الخبراء في هذا المجال. وجدوا شيئاً من الفرح وشيئاً من الحماسة لهذه اللحظة الفريدة في تاريخ البشرية، وربما في تاريخ الكون.