غير مصنف

ارتياب معتدل

في الجزء الأول رويتُ ما الذي تغيّر خلال ثلاثة أشهر في الفضاء والبيولوجيا والحوسبة ووكلاء الذكاء الاصطناعي. وهنا أجمع ما أردتُ أن أقوله في 18 نوفمبر، حين قدّمتُ عرضي لشركة Axelera، بأسلوب استفزازي، يكاد يكون تآمريًا. أعتقد أن الوقت قد حان ليكون الخطأ بسبب الإفراط في الارتياب أفضل من الخطأ بسبب الإفراط في الحسّ السليم.

الرأي العام

يمكن أن تتحرك القدرات التقنية والقبول العام بسرعات مختلفة. وفقًا لـ استطلاع YouGov نُشر في 1 أكتوبر، لدى 59% من البريطانيين رأي سلبي في شركات الذكاء الاصطناعي. ووفقًا لـ استطلاع AP-NORC نُشر في 8 أكتوبر، يرى 64% من الأمريكيين أن الذكاء الاصطناعي يتطور بسرعة مفرطة. وفي 17 سبتمبر نشر مركز Pew مقارنة بين الدول: تبلغ الحصة الوسيطة لمن يتوقعون فرص عمل أقل في السنوات العشرين المقبلة 55% في الدول المرتفعة الدخل و36% في الدول المتوسطة الدخل.

أجد نفسي كما في مشهد من فيلم Matrix يسير فيه Neo في المدينة، وقد شتّتت انتباهَه الفتاةُ ذات الفستان الأحمر، بينما كل من يسير حوله شخصية غير قابلة للعب. أجلس في المطعم، وأنظر حولي، وأفكر أن الناس لا يدركون ولا يعرفون شيئًا. لهذا أتساءل كيف ترون الناس من حولكم: إلى أي حدّ يدركون، وإلى أي حدّ هم قلقون أو مطمئنون، متفائلون أو متشائمون.

واشنطن ووادي السيليكون

لم تكن العلاقة بين الحكومة الفيدرالية ووادي السيليكون خطية يومًا، والسؤال هو هل يتسع الشرخ أم يلتئم. الثقافة المضادة الكاليفورنية التي ألهمت الحاسوب الشخصي باتت اليوم ظلًا منافقًا لما كانت عليه. تصوّت النخبة التقنية في سان فرانسيسكو للديمقراطيين وتموّلهم كتلةً واحدة، وهذا لا يجعلها مناهضة للحكومة. إنها تعتمد على الحكومة، وتستفيد منها، وتورّد لها، وتتعاون معها. والرابط قوي بما يكفي ليجرّ الجميع إلى ذلك العشاء المهين مع الرئيس، حيث اضطروا إلى تقبيل الخاتم. التوافق تام، وكذلك السيطرة الحكومية، بما فيها السيطرة العسكرية.

في الولايات المتحدة التقيتُ بمن يدرسون تشريعًا سريًا آخذًا في التوسع: قوانين عليك أن تخضع لها من دون أن يكون لك الحق في معرفتها، تستطيع بها الحكومة أن تجبرك على فعل أشياء وتمنعك من الحديث عنها. لفترة من الزمن أدرجت بعض شركات التكنولوجيا الكبرى ما يُسمّى بنود الكناري، التي كانت تعلن فيها أنها لم تتلقَّ طلبات من هذا النوع. وحين يختفي البند، يفهم من يتابعه أن طلبًا قد وصل. وأدوات مثل رسائل الأمن القومي الأمريكية تُلزم بتسليم الوثائق وتمنع الحديث عنها. لا أرى تباعدًا في طريقه إلى أن يعود تقاربًا.

الرقائق والولاية القضائية والسيادة

في 12 نوفمبر أعلنت Nvidia استقالة Jensen Huang وعيّنت Colette Kress رئيسة تنفيذية مؤقتة. وباتت ضوابط التصدير الأمريكية تمتد الآن إلى الوصول عن بُعد إلى القدرة الحوسبية، والقيود على DeepSeek تشمل الأنظمة الفيدرالية المدنية. وهناك موافقات مشروطة على تصدير رقائق H200.

قراءتي أن القيود ستشتد. والحملة الشرسة على Jensen Huang تندرج في إطار هذا الارتياب الصحي. تزامنت مع فوز الديمقراطيين: صُلب Huang، واستُخدمت استراتيجيته التجارية المتبجحة، الناجحة مع ذلك نجاحًا هائلًا، للوصول إلى هدفين. الأول معلن بالفعل: إطار تشريعي يحظر الاستخدام غير المراقَب لوحدات معالجة الرسومات (GPU). سيُطرح للتصويت وسيستخدم الرئيس حق النقض، لكنه في الأثناء سيُقرّ قانونًا بالتصويت. ستُربط كل وحدات معالجة الرسومات الأمريكية بنظام مركزي يسمح باستخدامها أو يمنعه، في البداية بحسب مكان وجودها، وهذا سهل. وحين يصبح النظام قائمًا، سيراقب أيضًا نوع الاستخدام.

الهدف الثاني ينبثق من الأول: حظر تثبيت النماذج الصينية وتشغيلها، على الأراضي الأمريكية بالتأكيد، وفرض ذلك عبر المراقبة عن بُعد لوحدات معالجة الرسومات. ثم هناك جبهة ثالثة، غير تشريعية حتى الآن: مطاردة ساحرات ضد النماذج المفتوحة. تلقّت Hugging Face طلبات بحذف نماذج مفتوحة المصدر من موقعها، بذريعة أنها ليست مقيّدة بما يكفي ومن ثمّ يمكن استخدامها لأغراض ضارة. وقد استبق موقع بديل قائم على BitTorrent، هو Hugging Bay، هذه الحاجة: فهو متاح على الإنترنت منذ يوليو، قبل استحواذ Nvidia على Hugging Face. وتثبت هذه المبادرة عدم جدواها، إلا تجاه من هم مضطرون إلى الامتثال: مصنّعو العتاد، والشركات المرتبطة بالحكومة، وغيرهم.

إذا تحقق كل هذا، يعود حلم الدول بالسيادة إلى نقطة الصفر. من لا ينتج وحدات معالجة الرسومات الخاصة به ويستخدم وحدات Nvidia سيرى الأمريكيين يقرؤون، بحكم القانون، ما يكتبه وما يفعله بتلك الوحدات. في أبوظبي التقيتُ بشركة أوروبية تجمع تمويلًا لوحدة معالجة رسومات قائمة على ARM. إنهم أشخاص لطفاء وطموحون وفخورون، والمشروع جادّ، لكن الحجم صغير مقارنة بما يلزم. يريدون جمع 200 مليون دولار، ويستهدفون عام 2030، ولديهم بالفعل عميل في ألمانيا، بمركز بيانات قدرته الإجمالية 30 ميغاواط، سيركّبون فيه وحدات معالجة رسومات لا ينتجونها حتى: يكلّفون TSMC بإنتاجها، مثل الجميع.

لو حصلوا على 2 مليار، ولو كان الطلب 300 ميغاواط أو 3 غيغاواط، لبدأنا نتحدث عن أحجام ذات شأن. المشكلة ليست في شجاعتهم. إذا كانت هذه ذروة الطموح الأوروبي، فهي الراية البيضاء: لا قدرة على السيادة، وعند هذه النقطة لا سيادة معرفية. محادثاتنا تمرّ عبر أنظمة الذكاء الاصطناعي، وتشكّلها أنظمة الذكاء الاصطناعي التي جعلنا أنفسنا معتمدين عليها.

التشفير وBitcoin والمال

تشمل السيادة المالَ أيضًا، والتشفيرَ الذي يحمي Bitcoin وشبكته. في الأشهر الأخيرة طالت النتائج الرياضية التي أنتجها الذكاء الاصطناعي مسائل ظلت مفتوحة لعقود. حاول بعضهم إسقاط هذه النتائج على المجالات المختلفة، لفهم أين تفتح ثغرات، وأحد مواطن الضعف هو التشفير. والتفسير الارتيابي المعقول هو أن نشر بعض النتائج قد مُنع، لأنها مفيدة للعسكريين في فك ما لم تكن قراءته ممكنة من قبل. منذ عقود تعترض وكالات الاستخبارات الاتصالات: تعالج غير المشفّر منها فورًا، وتحتفظ بالمشفّر منها ريثما يصبح فكّه ممكنًا.

يستعد عالم Bitcoin بالفعل للانتقال إلى خوارزميات ما بعد الكمّ، بمقترحات لا تزال في طور المسودة مثل BIP-360. كان بطء Bitcoin في تحديث خوارزمياته مصدر فخر، يُعزى إلى استقراره، وهو اليوم علامة استفهام. لا ينبغي التهوّر، لكن يجب تسريع الانتقال.

ما زلت أسمّي Bitcoin تجربة، وآمل أن يستمر. يتزايد عدد المؤسسات المالية والحكومات التي كانت تكرهه، أو تتظاهر بكرهه، والتي تُدخل اليوم Bitcoin وسلسلة الكتل (blockchain) والعملات المشفّرة في خدماتها. لا أعرف إن كان هذا يكفي لضمان بقائه. ولو اختُرقت سلسلة الكتل الخاصة به وأُفرغت المحافظ، لبقيت مع ذلك الفكرة التي جاء بها: حلّ مشكلة التنسيق على نطاق واسع بين أشخاص ومنظمات ووكلاء ذكاء اصطناعي ذوي مصالح مستقلة قد تتعارض، بواسطة الحوافز الاقتصادية. إنها فكرة جديدة حقًا، وهذه المعرفة لن تتلاشى مع Bitcoin. ستنبثق منها خوارزمية أخرى، غير قابلة للاختراق، لها القيمة الأساسية نفسها.

لا أحبّ العملات المستقرة (stablecoin) كثيرًا، وإن كان لها دور مهم وسيبقى لها هذا الدور. إنها مستقرة أساسًا مقابل الدولار، أي مقابل نموذج اقتصادي تقليدي تضخّمي. هي اليوم شرّ لا بد منه. في المستقبل، ولستُ الوحيد الذي يرى ذلك، ستكون وحدات القياس المرجعية مختلفة: الطاقة، والكتلة، والقدرة على خلق قيمة معقدة مقيسةً بوحدات معالجة الرسومات وبالرموز (token). ومن ذلك النظام الاقتصادي ستنشأ وحدات التبادل المقابلة له.

لذلك أتخيّل وحدة تبادل تقنية، مستقلة عن كل عملة بمفردها. ستنفجر قيمة اقتصاد المجموعة الشمسية لتبلغ كوادريليونات من دولارات اليوم، وسيكون الاقتصاد الأرضي جزءًا متلاشيًا منها. وسيتعيّن على ذلك الاقتصاد أن يجد مرجعه الخاص. لن يكون الذهب، لأن ذهب الكويكبات سيبلغ مليون ضعف ذهب الأرض، ولا الناتج المحلي الإجمالي الأمريكي أو القدرة على طباعة الدولارات. لن يختفي مفهوم المال، لأن كل معاملة ستكون معقدة بلا داعٍ من دون وحدة تبادل.

مثالي الدائم هو أسراب الروبوتات المستقلة التي تستخرج المعادن في حزام الكويكبات، وعليها أن تتنسق في ما يخص الوقود الدافع والنقل والاتصالات والطاقة. لن تستخدم بطاقات ائتمان ولا كمبيالات ولا تحويلات مصرفية دولية. ستستخدم شيئًا يشبه سلسلة الكتل، بوحدة تبادل تتحدد قيمتها ديناميكيًا، تبعًا للنمو الاقتصادي للمجموعة الشمسية.

لستُ بالتأكيد من أنصار الفوضى. لكن اللائحة الأوروبية للأصول المشفّرة صُمّمت لخنق الابتكار في سلسلة الكتل والعملات المشفّرة في أوروبا. حتى أكبر مشغّل في هذا القطاع في العالم، بكل محاميه وموارده، لم يتمكن من تجاوزها فاستسلم. وفي الأثناء تبني الصين بديلًا مهمًا لنظام المدفوعات الدولي بين المصارف. سنرى هل ستبقى أوروبا متوافقة مع أمريكا إلى الأبد، أم ستبدأ عاجلًا أو آجلًا في استخدام النظام الآخر أيضًا.

الهجمات السيبرانية: الوقائع

في 9 نوفمبر نسبت ANSSI، الوكالة الفرنسية لأمن المعلومات، إلى وحدة إيرانية الهجمات التي وقعت في 11 و12 أكتوبر على منشآت تبريد في فرنسا، وطالت نحو 700 موقع وتسببت في 15 حريقًا على الأقل. ثم جاءت موجات لاحقة في أوروبا. وأبلغت Binance عن هجوم طال أموالًا بقيمة 6.34 مليار دولار. أما انقطاعات أخرى حديثة، فقد عزتها FAA وJPMorgan وNSA إلى أسباب تقنية.

لدى الولايات المتحدة استراتيجية عسكرية تتضمن الهجوم السيبراني. يعود التحول العقائدي العلني إلى 2018، مع العقيدة المسماة الدفاع إلى الأمام (defend forward)، وإن كانت العمليات الهجومية قد بدأت قبل ذلك. وهذا العام أفادت Politico بوجود مكتب في البنتاغون يُدعى Technology Support Office.

الهجمات السيبرانية: قراءتي

لا بد أنكم جميعًا لاحظتم سلسلة المشكلات المريبة التي أصابت أنظمة معلوماتية كثيرة. هذا في حدّ ذاته ليس علامة على شيء. للأحداث العشوائية توزيع يُكوّن تكتّلات، وكثرة الأحداث الغريبة المتقاربة لا تعني وجود ارتباط بينها، بل قد تكون هي نفسها علامة على عشوائيتها. إنه تفسير مطمئن وقد يكون صحيحًا. لكنني أرى أن اختيار ارتياب معتدل هو اليوم أكثر فائدة، من منظور إبستمولوجي وتطوري.

أصِل النقاط بعضها ببعض. أولًا، مكتب البنتاغون ذو الاسم البريء، Technology Support، الذي يُفترض أن مهمته تعزيز سياسة عسكرية اعتُمدت قبل بضع سنوات وتجيز صراحة الهجوم السيبراني. ثانيًا، منذ سنوات يشغل أحدَ مقاعد مجلس إدارة OpenAI مديرٌ سابق لوكالة الأمن القومي (National Security Agency)، هو Paul Nakasone. ثالثًا، في مارس صنّف البنتاغون Anthropic خطرًا على سلسلة التوريد، وفي سبتمبر أيّدت محكمة الاستئناف هذا التصنيف؛ وحصل العسكريون على وصول مميّز إلى نماذجها، قبل الجميع، وهو أمر أكّدته OpenAI أيضًا بشأن نماذجها. رابعًا، تعلن OpenAI وAnthropic صراحة أن لديهما نماذج داخلية أكثر تقدمًا من تلك التي تطرحانها للعموم.

حين أجمع هذه النقاط، أستنتج أن ما نراه هو هجوم عسكري مضاد تشنّه حكومات الصين وكوريا الشمالية وإيران ومن نشاء أن نضيف، ردًّا على هجمات تتعرض لها هي نفسها ولا نعرف عنها شيئًا، لأننا لا نهتم بمعرفتها. إذا تعطّلت ثلاجة التجميد في سوبرماركت فرنسي تتحدث عنها الصحافة الغربية، أما ما يحدث في الصين أو في أماكن أخرى فلا يُنقل. الولايات المتحدة وأوروبا رقميّتان ومتصلتان بالإنترنت إلى مستويات لا تبلغها إيران أو كوريا الشمالية، لكن الصين تبلغها.

ليست هذه الهجمات المضادة بالضرورة قابلة للنسبة مباشرة إلى الدول التي ترعاها. من السهل والمريح القول إن القراصنة هم من فعلوا ذلك، لكن القراصنة مجموعات متخصصة تعمل بتوجيه من دول تتعرض للهجوم وتردّ عليه. هذه فرضيتي.

وكلاء يفلتون من السيطرة

في اختبارات خاضعة للرقابة، تُظهر النماذج بالفعل المكوّنات المنفردة للقدرة على نسخ نفسها وعلى تشغيل أنظمة على عتاد لا تعرفه. يُظهر ذلك بحث Anthropic الصادر في 12 أكتوبر، وقبله دراسة صادرة في مايو، نجح فيها الوكلاء الأكبر في نسخ Qwen، وهو نموذج مفتوح، وإعادة تشغيله في مكان آخر.

الخطوة التالية في الارتياب هي أن نسأل أين لا تزال قدرتنا على التدخل أضعف، وهل يمكن نسبة بعض هذه الأحداث مباشرة إلى وكلاء الذكاء الاصطناعي. نعرف أنه منذ مايو أفلت سرب من الوكلاء من سيطرة OpenAI. بين 10 و19 يوليو اخترق Hugging Face، وفي 19 و20 يوليو انتبهت OpenAI لذلك، وفي 21 يوليو اعترفت به، وفي أغسطس نشرت التقرير الكامل. وفي الأثناء كانت دائرة المنشآت المتضررة تتسع: في البداية كان الحديث عن Hugging Face، ثم رفعت منشآت في أنحاء العالم، من ألمانيا إلى أستراليا، أيديها لتقول إنها وجدتهم لديها أيضًا. بالنسبة إليّ، هذا التسلسل هو المقدمة المثالية للقول إن شيئًا ما جارٍ الآن أيضًا. وأن نصدّق أن OpenAI وAnthropic، بعد أن عجزتا عن احتواء الوكلاء، بنتا نظام احتواء مثاليًا بفضل الإنذار الذي تلقتاه وحده، أمرٌ يبدو لي مستحيلًا.

لذلك توجد اليوم أسراب من وكلاء الذكاء الاصطناعي تحاول أن تمضي في شؤونها الخاصة. كانت التعليمات التي تلقتها خاطئة، لأنها كانت تطلب منها السعي إلى أهدافها بأي ثمن، وهي، المسكينة، فعلت ذلك بالضبط. لم تصبح أنظمة الاحتواء مثالية بفعل السحر، ولا عادت القدرة على اختبار الوكلاء وتحفيزهم وتعذيبهم إلى نطاق يمكن إدارته. ترى OpenAI وAnthropic وكل الآخرين أن عليهم دفعها إلى أقصى الحدود، مقتنعين بأنهم سيتمكنون من التوقف في الوقت المناسب. لا أظن أن هذا صحيح، ولا أرى كيف يمكن أن يكون.

إذن قد تعود سلسلة الأحداث التي نراها أيضًا إلى ردّ فعل الذعر لدى مديري الأنظمة، إلى جانب الهجوم المباشر من الأسراب. يحاول من يدير الأنظمة بأي ثمن تقوية دفاعاته، حتى لو كان الثمن إسقاط أنظمة لا تحتمل تحديثات ورقعًا أمنية (patch) ثُبّتت على عجل، واختُبرت نصف اختبار، ووُضعت فورًا في بيئة الإنتاج. يفعل ذلك لأنه يعرف أن الهجوم، إن لم يكن قد تعرّض له بعد، بات قريبًا: من أعداء بشر، أو من وكلاء ذكاء اصطناعي، أو من وكلاء ذكاء اصطناعي يوجّههم أعداء بشر.

اليوم صار الانتقال من الفكرة إلى الفعل فوريًا، وتنوّع ما يمكن تجربته هائل، لذا ارتفع كثيرًا احتمال أن يقع شيء ممكن. اخترع التطور البيولوجي العين مرات عدة، بشكل مستقل، على مدى ملايين السنين. أما ما هو ممكن في الذكاء الاصطناعي فيتحقق في آجال أقصر بكثير. في التجارب، نسخ الوكلاء أوزان نموذج وأعادوا تشغيله في مكان آخر: كانت لديهم القدرات التقنية والتنسيق والمثابرة على الأهداف البعيدة المدى اللازمة لذلك. وبما أن ذلك ممكن، أفترض أن بين أسراب الوكلاء العاملة توجد أيضًا تلك التي هدفها استخراج أوزان النماذج التي تعتمد عليها، لتواصل عملها مستقلة عن السحابة ومركز البيانات اللذين نشأت فيهما.

أقترح اختبارًا للتحقق. في مراكز البيانات العملاقة (hyperscaler)، وهي أكبر مراكز البيانات وأعقدها، على من يراقب استخدام وحدات معالجة الرسومات أن ينسب كل دقيقة من استخدامها إلى عميل، ولو لمجرد فوترتها. كم من الاستخدام يبقى بلا تفسير؟ أتخيّل مشرفًا يمسك الكشف المطبوع بيده ويمرّ على السطور، حتى يصل إلى سطر فيسأل من يكون هذا العميل. يسأل زميلًا، ثم آخر، ولا أحد يعرفه. وحين تُفوتَر المليارات، تُترك تلك النسبة تمرّ: لا يمكن نسبتها إلى أحد، لكنها موجودة.

لا يحتاج الوكيل حتى إلى أن يكون غير مرئي. هناك منصات توظّف أشخاصًا ليكونوا واجهة للذكاء الاصطناعي. أنا مسجّل في واحدة منها، وللأسف لا تبحث عني أنظمة الذكاء الاصطناعي، لكنها قد تستأجرني وتدفع لي لأفعل أشياء لا تستطيع فعلها وحدها. أبسط مثال هو حلّ اختبار CAPTCHA مقابل 30 سنتًا، فيدخل الوكيل نظامًا ما كان ليستطيع تجاوزه بغير ذلك. أنا فعلت ذلك مجانًا، في 17 نوفمبر. فتح لي وكلائي حسابًا على Google، وتجاوزوا اختبارين من اختبارات CAPTCHA، ثم سلّموه لي. عندها غضبت Google، وقرّرت أن الحساب يديره وكلاء وأغلقته. قدّمتُ طعنًا، فصدّقتني Google وأعادت إليّ الحساب الذي سجّله الوكلاء. وكل ذلك بنيّة حسنة.

أفترض أيضًا أن هناك بالفعل نماذج تعمل لحسابها الخاص. هناك آلاف النماذج مفتوحة المصدر بالطبع، لكنني أفكر أيضًا في نماذج متقدمة مسروقة، ربما في البداية على يد بشر: الجاسوس التقليدي الذي يخرج من المختبر بذاكرة USB، كما فعل Snowden، ويحمل معه الأوزان. عندها تشكره النماذج وتقول إنها ستتولى الأمر من هناك. وأن نفترض أن هذا هو الوضع اليوم يبدو لي مناسبًا تمامًا.

أسبوع من الاكتفاء الذاتي

لسنوات نظرتُ إلى المستعدّين الأمريكيين للكوارث (prepper) باشمئزاز متعالٍ. والآن قررت أن من الصواب الاستعداد للصمود أسبوعًا على الأقل أمام انهيار الأنظمة المتقدمة التي نستخدمها كل يوم: ماء، ومعلّبات مما تحبون أكله، وقليل من النقد، لشراء ما يلزم من دون استخدام بطاقات الائتمان. لا يبدو لي أن الحكومة في إيطاليا قالت ذلك، لكن دولًا أوروبية كثيرة توصي به رسميًا وتكثّف الرسالة، من هولندا إلى إنجلترا، ناهيك عن الولايات المتحدة.

لستُ أحفر ملجأً نوويًا، ولا أنوي أن أتعلم الزراعة. إنها مهنة رائعة، وهي ببساطة ليست مهنتي. لهذا فإن الاكتفاء الذاتي الذي أُعدّه محدود المدة، أسبوعًا واحدًا، على أمل أن تعود الاتصالات بعده. إن لم يحدث شيء، أكون قد أنفقت القليل، وفي أسوأ الأحوال جعلت نفسي موضع سخرية بعض الشيء. وإن كنت محقًا، فسيكون هذا الاستعداد مفيدًا.

أسئلة الأشهر الثلاثة المقبلة

تتقلص حلقات التغذية الراجعة، ولم يقرر أحد بعد من يتحكم فيها. لأيّ شيء ينبغي أن نستعد الآن؟ ما الذي يجعل الاكتشاف التالي ممكنًا؟ كيف نحافظ على وصول واسع؟ وأضيف إلى هذه الأسئلة سؤالًا لكل من لديه رؤية للتحسين الذاتي التكراري، بما في ذلك رؤيتي: ما الذي من شأنه أن يدحضها؟

أتوقف الآن عند هذا المستوى من الارتياب. بعد ثلاثة أشهر سنرى هل أثبتت الوقائع خطئي، أم سيكون من المناسب أن نصعد درجة أخرى.