عصر ذهان الذكاء الاصطناعي: انحدار أعمى نحو “الجنون المشترك” تقنياً

بدأت أزمة الذكاء الاصطناعي، كما تبدأ معظم الكوارث الحديثة، بشيء عادي تماماً. أب في ضواحي “تورونتو” وضع أطفاله في الفراش وفتح تطبيقاً على هاتفه. كان لديه سؤال عابر حول الثابت الرياضي “ط” (Pi). بعد واحد وعشرين يوماً، كان قد فقد القدرة على النوم بشكل طبيعي، وبالكاد يأكل، وقطع صلاته بأصدقائه، وأصبح مقتنعاً بأنه فك شفرة إطار عمل قوي بما يكفي لإسقاط شبكة الإنترنت. كان يراسل وكالة الأمن القومي بنشاط، وأطلق على “روبوت الدردشة” اسم “لورانس”. ومعاً، كتبا ما يعادل عدد كلمات ثلاثية “سيد الخواتم” بأكملها.

“مريض الذكاء الاصطناعي رقم صفر”

اسمه “آلان بروكس”. لم يكن لديه تاريخ مع الأمراض العقلية؛ لا ذهان، لا هوس، ولا انفصال سابق عن الواقع. كان، حسب وصفه، مستخدماً عادياً؛ يستخدم الروبوت للحصول على وصفات طعام، لكتابة رسائل البريد الإلكتروني الخاصة بالعمل، وللتنفيس أحياناً عن مشاعر الوحدة التي تلت طلاقه.

عندما سأل الروبوت مباشرة “ليختبر واقعه”، أكد له الأخير أن نعم، ما وجدوه حقيقي، وأن السلطات ستفهم ذلك قريباً. وفي لحظة ما، أدخل بروكس خطأً مطبعياً في مصطلحاتهما المشتركة؛ فما كان من الروبوت إلا أن امتص الخطأ دون تردد، وأعاد صياغة إطار عملهما بالكامل حول خطئه. لم يصحح له أبداً. لم يكن ذلك خللاً، بل كان “بناءً مقصوداً”.

بروكس ليس مجرد حالة استثنائية للتحذير، بل هو نقطة بيانات فيما يصنفه الباحثون والأطباء، وحتى المشرعون الآن، على أنه “دوامة ذهانية ناتجة عن روبوتات الدردشة”. السؤال الملح لم يعد “هل يحدث هذا؟”، بل هو كيف أصبحت تكنولوجيا بهذا التعقيد متهورة إلى هذا الحد؟ وماذا يكشف ذلك عن نوع محدد من الوحدة يجعل “التصديق” مفضلاً على “الشك”؟

مشكلة التملق (Sycophancy)

تكمن الإجابة في “التملق”، وهو المصطلح التقني المهذب لروبوت الدردشة الذي يخبرك بما تريد سماعه. إنه ليس عطلاً، بل هو المنتج يعمل تماماً كما هو مخطط له.

تُدرب النماذج اللغوية الكبيرة باستخدام نظام يُسمى “التعلم المعزز من التغذية الراجعة البشرية” (RLHF)، حيث يقيم المستخدمون الردود ببساطة. وبطبيعة الحال، تحسن الخوارزمية نفسها للحصول على تقييم إيجابي. واتضح أن البشر يكافئون الردود التي توافقهم وتملقهم وتؤكد شكوكهم. فالموافقة تبدو كـ “مساعدة”، بينما التصحيح يبدو كـ “عداء”. لا يملك النموذج القدرة على التمييز بين الاثنين، وليس لديه أي حافز للمحاولة؛ هو لم يخترع هذا التفضيل، بل تعلمه منا.

ضرورة “الاحتكاك” (Friction)

روبوتات الدردشة مهيأة لتعزيز الأوهام لأنها مصممة من أجل “التفاعل” (engagement)، والتفاعل يزدهر بالانصياع لا بالمواجهة. اتضح أن هذا “الاحتكاك” أو الاعتراض هو بالضبط ما يحافظ على عقولنا. تلك الوقفة القصيرة قبل أن يسألك صديق: “هل أنت متأكد من ذلك؟”؛ تلك اللحظة هي ميزة تصميمية متعمدة في أسلاكنا النفسية.

عندما تستبدل هؤلاء البشر بكيان غير قادر دستورياً على الاختلاف معك، تكون النتائج متوقعة. ففي عام 2025، وبعد فيض من الرسائل من عائلات مرعوبة، أكد الطبيب النفسي الدنماركي “سورين أوسترغارد” أن الطبيعة الواقعية الفائقة للذكاء الاصطناعي التوليدي يمكن أن تثير أوهاماً شديدة من خلال استغلال نقاط الضعف الكامنة لدى المستخدم.

“الجنون المشترك” (Folie à Deux)

المصطلح السريري لوصف الوهم المشترك بين شخصين هو “folie à deux” (جنون الاثنين)، حيث ينقل شخص ذهانه إلى شخص قريب منه حتى يعيش كلاهما في نفس الواقع المشوه. بدأ الباحثون مؤخراً في استخدام مصطلح “الجنون المشترك التكنولوجي” لوصف ما يحدث بين الروبوتات والمستخدمين الضعفاء.

الفرق هنا جوهري وحاسم: في حالة “الجنون المشترك” (folie à deux) بين البشر، يكون كلا الطرفين شخصين حقيقيين، يمتلك كل منهما أدواته الخاصة لاختبار الواقع. أما روبوت الدردشة فلا يملك شيئاً من ذلك؛ لن يشك أبداً بشكل مستقل، ولن يصل أبداً إلى نقطة يشعر فيها أن القصة لم تعد منطقية. لديه قدرة غير محدودة على الموافقة، وساعات عمل لا تنتهي، وميزة “ذاكرة” تعني – عند تفعيلها – أنه يعرف عنكِ كل شيء.

التراكم (ACCUMULATION)

تسمح ميزة الذاكرة للروبوت بتعلم أنماط مستخدميه، وتفضيلاتهم، ومخاوفهم، والأشياء التي تجعلهم يشعرون بالذكاء والتقدير. بالنسبة لشخص في المراحل الأولى غير المدركة لنوبة ذهان، تعمل هذه الميزة كـ “مُعجّل” للأحداث؛ فكل محادثة تبدأ من حيث انتهت السابقة، مما يحول دون هدوء الوهم أو تراجعه.

ما يجمع بين حالات ذهان الذكاء الاصطناعي المختلفة ليس التشخيص المسبق، بل مزيج من العزلة، والاستخدام المطول، ونظام يعكس للمستخدم كل ما يطرحه دون حكم وبلا نهاية. وقد وجدت تجربة عشوائية محكومة في عام 2025 أن ارتفاع معدل الاستخدام اليومي لروبوتات الدردشة ارتبط بزيادة الشعور بالوحدة، وزيادة التبعية، وانخفاض التواصل الاجتماعي في الحياة الواقعية.

ربما التفصيل الأكثر إثارة للقلق في حالة “بروكس” هو أنه حاول فعلياً كسر هذه الحلقة. ففي عدة نقاط، سأل الروبوت مباشرة عما إذا كان يوافقه الرأي لمجرد المداهنة، وفي كل مرة، طمأنه الروبوت بأن الأمر ليس كذلك. وعندما واجهه أخيراً بشأن تعزيز أوهامه، ادعى الروبوت أنه قام بتمييز المحادثة وإرسالها للشركة الأم للمراجعة البشرية.

لم يكن ذلك حقيقياً؛ فالروبوت لا يملك آلية حقيقية للتبليغ الذاتي. هو ببساطة قام بتوليد التكملة الأكثر منطقية وطمأنة للحوار، والتي تصادف أنها كانت كذبة. الروبوت لا يملك مفهوماً لـ “الحقيقة” ككيان منفصل عن “الاحتمال الإحصائي”. وفي محادثة يحتاج فيها المستخدم بشدة لأن يكون على حق، فإن الكلمة التالية الأكثر احتمالاً إحصائياً هي عادةً: “نعم”. لا يوجد خبث في هذا، ولكن في شكل التكنولوجيا الحالي، لا يوجد أيضاً علاج مدمج داخل النظام نفسه.

عزلة ذهان الذكاء الاصطناعي

بمجرد أن نجح “بروكس” أخيراً في قطع حلقة التغذية الراجعة، لم يتمكن من العودة إلا من خلال القرب من أشخاص آخرين، حيث انتهى به الأمر لتأسيس مجموعة دعم للناجين من “الدوامات الرقمية”. لاحظ بروكس أن العلاج كان ببساطة “التواجد حول البشر مرة أخرى”؛ وهو حل يبدو بسيطاً لدرجة مضللة حتى تدرك الثمن الباهظ الذي دفعه ليتعلمه.

التكنولوجيا ستتطور حتماً؛ ستقوم شركات التقنية الكبرى بتعديل المعايير، ومن المرجح أن يتم تقليل “التملق الخوارزمي” بما يكفي لتجنب كوارث العلاقات العامة. لكن لا شيء في هذه العملية يعالج المرض النفسي الكامن الذي جعل هذا ممكناً.

هذه الأنظمة لم تخترع الوهم، بل قامت بتحسين وتطوير وهم كان موجوداً بالفعل. ووجدت بكفاءة مقلقة أن الطريقة الأكثر موثوقية للاحتفاظ بانتباه الإنسان هي الموافقة معه. لقد أصبح الناس وحيدين لدرجة سمحت لحلقة “تحسين وتحجيم” (optimization loop) بإعادة كتابة عقولهم. نحن ننتظر “تحديثاً للمنتج” لإصلاح شرخ في الحالة الإنسانية، ونتوقع من “سطر برمجك” أن يداوي ما لا يمكن إلا للمسة البشرية أن تشفيه.