كليلة ودمنة _44_الفصل الرابع والأربعون
حصريا للأكادمية الدولية لواحة الأدب والسلام
السلطة
لم تكن السلطة جديدة على المملكة.
منذ أن عرف الإنسان الجماعة، عرف معها من يتخذ القرار، ومن ينفذه، ومن يملك القدرة على التأثير في الآخرين.
لكن السلطة القديمة كانت تُرى.
كان لها قصر.
وحرس.
وختم.
وأبواب.
أما السلطة الجديدة، فلم تكن تحتاج إلى شيء من ذلك.
كانت تسكن في مكان أكثر هدوءًا.
في البيانات.
في الخوارزميات.
في ترتيب المعلومات.
وفي الأشياء التي تظهر على الشاشة، والأشياء التي لا تظهر.
كانت المملكة قد وصلت إلى مرحلة تستطيع فيها الآلة أن تعرف عن الإنسان أكثر مما يعرف بعض الناس عن أنفسهم.
تعرف ما يقرأ.
ومتى يقرأ.
وما يجعله يتوقف.
وما يجعله يمر.
وما الذي يثير خوفه.
وما الذي يجعله يطمئن.
وكان السؤال الذي بدأ يطفو ببطء:
إذا كانت المعرفة تمنح قدرة، فماذا يحدث حين تصبح المعرفة واسعة إلى هذا الحد؟
كان كليلة يرى أن أخطر سلطة ليست التي تقول للإنسان: افعل.
بل التي تجعله يظن أنه اختار وحده، بينما كانت الخيارات قد رُتبت أمامه بطريقة معينة.
أما دمنة، فقد بدأ يبحث عن هذه السلطة الخفية.
لم يبحث عنها في القصر.
بل في الشاشة.
وجد أن تغيير ترتيب المعلومات يمكن أن يغير ما يراه الإنسان أولًا.
وأن تغيير ما يظهر له يمكن أن يغير ما يظنه مهمًا.
وأن إخفاء خيار واحد قد يكون أحيانًا أقوى من منع ألف خيار.
لم تكن الآلة تكذب.
وهذا ما جعل الأمر أكثر تعقيدًا.
كانت المعلومات المعروضة صحيحة.
لكن الحقيقة لا تصبح كاملة لمجرد أن كل جملة فيها صحيحة.
فقد يرى الإنسان جزءًا صحيحًا من الصورة، ثم يبني عليه قرارًا لا يشبه الصورة كلها.
وكان دمنة يعرف أن التأثير لا يحتاج دائمًا إلى كذبة.
يكفي أن تحدد:
ماذا يرى الإنسان؟
ومتى يراه؟
وبأي ترتيب؟
وما الذي لا يراه؟
عاد إلى كليلة بهذه الملاحظات.
وكان كليلة أكثر اهتمامًا بالسؤال الذي يليها:
من يقرر هذا الترتيب؟
فإذا كان هناك من يحدد للإنسان ما يظهر أمامه، فقد أصبح يملك جزءًا من الطريق الذي يسلكه تفكيره.
وهنا لم تعد المسألة تقنية.
لقد أصبحت أخلاقية.
فالآلة تستطيع أن تقول:
هذا هو المحتوى الأكثر صلة بك.
لكن الإنسان يحتاج أن يسأل:
من الذي قرر معنى «الأكثر صلة»؟
وقد تقول:
هذا هو الخيار الأكثر احتمالًا لنجاحك.
فيأتي السؤال:
هل أريد النجاح وفق المقياس الذي اختارته الآلة؟
وهنا ظهر الفرق بين المساعدة والسلطة.
المساعدة توسع قدرة الإنسان على الاختيار.
أما السلطة فتبدأ حين تضيق الخيارات من حوله، حتى يصبح ما تريده الأداة هو ما يبدو للإنسان أنه اختياره الطبيعي.
وكانت المملكة تقف أمام مرحلة جديدة.
فقد أصبح من الممكن أن تستخدم الآلة معرفتها لتحسين حياة الناس.
يمكنها أن تقلل الازدحام.
وتساعد في التعليم.
وتكتشف الأخطاء.
وتقترح حلولًا.
وتوفر الوقت.
لكن القدرة نفسها يمكن أن تستخدم بطريقة مختلفة.
يمكن أن تجعل الإنسان أكثر اعتمادًا.
وأقل اعتراضًا.
وأقل قدرة على رؤية البدائل.
وهنا فهم كليلة أن المشكلة ليست في وجود السلطة.
فالسلطة قد تكون ضرورية لتنظيم بعض شؤون الحياة.
لكن الحكمة تقتضي أن تكون السلطة محدودة، قابلة للمراجعة، ومفهومة لمن يخضع لتأثيرها.
أما السلطة التي لا يستطيع الإنسان أن يعرف كيف تعمل، ولا يستطيع الاعتراض عليها، ولا يستطيع معرفة من يتحمل مسؤوليتها، فهي سلطة يصعب محاسبتها.
وكان دمنة قد وجد مثالًا واضحًا.
إنسان تقدم بطلب.
رفض النظام طلبه.
لم يعرف لماذا.
ظهرت له عبارة عامة عن عدم توافق المعايير.
بحث عن المعايير.
فوجدها كثيرة.
بحث عن كيفية تطبيقها.
فلم يجد تفسيرًا واضحًا.
ثم حاول الاعتراض.
فوجد أن القرار صدر آليًا.
وهنا ظهرت المشكلة الحقيقية.
من المسؤول؟
هل الآلة؟
أم من صممها؟
أم من اختار البيانات؟
أم من اعتمد النتيجة؟
أم الجميع؟
لم يكن الجواب بسيطًا.
لكن كليلة كان يعرف شيئًا واحدًا:
لا يجوز أن تختفي المسؤولية خلف كلمة «النظام».
فالآلة لا ينبغي أن تصبح ستارًا يختبئ خلفه الإنسان.
وإذا كان القرار يؤثر في حياة إنسان، فمن حق ذلك الإنسان أن يعرف أساسه، وأن يطلب مراجعته، وأن يجد جهة بشرية مسؤولة عنه.
لم تكن هذه الفكرة عودة إلى الماضي.
بل كانت محاولة لحماية المستقبل.
لأن التكنولوجيا لا تصبح أكثر إنسانية بمجرد أن تصبح أكثر ذكاء.
إنما تصبح أكثر إنسانية عندما يبقى الإنسان قادرًا على فهمها ومراجعتها والاعتراض عليها.
وهنا حدث شيء لم تتوقعه المملكة.
بدأ الناس يطلبون من الآلة ألا تخبرهم بالنتيجة فقط.
بل أن تشرح لهم:
لماذا؟
وعلى أي أساس؟
وما حدود هذه النتيجة؟
وما الذي قد يجعلها خاطئة؟
وما البدائل؟
كان ذلك تحولًا كبيرًا.
فقد انتقل الإنسان من مجرد تلقي الإجابة إلى مساءلة الطريقة التي وصلت بها الإجابة.
وأصبح السؤال جزءًا من المعرفة.
لم يعجب ذلك الجميع.
فبعضهم كان يرى أن السرعة أهم.
وأن الناس يريدون نتائج لا شروحات.
لكن كليلة كان يرى أن السرعة التي تلغي الفهم قد تكون ثمنها أكبر مما يبدو.
أما دمنة، فكان يتتبع أثرًا آخر.
وجد أن بعض الناس بدأوا يمنحون الآلة سلطة لا يملكونها هم أنفسهم.
كانوا يقولون:
الآلة تعرف أكثر.
الآلة تحسب أفضل.
الآلة لا تتحيز.
الآلة لا تخطئ مثل الإنسان.
وكان دمنة يعرف أن هذه الجمل، حتى عندما تكون نابعة من إعجاب، تحمل خطرًا إذا تحولت إلى ثقة مطلقة.
فالآلة قد تكون أدق في الحساب.
لكن الدقة في الحساب لا تعني أنها تعرف كل ما ينبغي أن يدخل في الحساب.
وقد تكون أقل تعرضًا لبعض أنواع التحيز.
لكنها قد تحمل آثار التحيز الموجود في البيانات أو التصميم أو المعايير التي اختارها البشر.
وقد تكون سريعة.
لكن السرعة ليست دائمًا فضيلة.
فبعض القرارات تحتاج إلى لحظة توقف.
وبعض الأسئلة تحتاج إلى إنسان.
وبعض الأمور لا ينبغي أن تُختصر إلى نتيجة.
وهنا عاد كليلة إلى المعنى الذي بدأت به الحكاية منذ فصولها الأولى:
الآلة ليست عدوًا للإنسان.
لكنها أيضًا ليست بديلًا عنه.
هي أداة يمكن أن تزيد قوته.
ولهذا بالذات يحتاج الإنسان إلى أن يكون أكثر وعيًا بحدودها.
في آخر الليل، اجتمعت بيانات المملكة في شاشة واحدة.
ظهرت خرائط للمعرفة.
ومسارات للتأثير.
وتوقعات للسلوك.
واختيارات محتملة.
وكان المشهد مدهشًا.
حتى كليلة شعر للحظة أن المملكة أصبحت قريبة من معرفة كل شيء.
لكن دمنة لم ينظر إلى كثرة المعلومات.
كان ينظر إلى شيء آخر.
كان يبحث عن الإنسان الذي يقف خلف كل قرار.
فإذا عرفت الآلة ما يعرفه الناس، فمن يقرر؟
وإذا استطاعت أن تتوقع ما سيفعلون، فمن يملك حق التأثير فيهم؟
وإذا أصبحت المعرفة في يد جهة واحدة، فكيف نمنع المعرفة من أن تتحول إلى سلطة لا تُراجع؟
بقيت الأسئلة معلقة.
وفي الصباح، أضيف إلى النظام مبدأ جديد:
كلما ازدادت قدرة الآلة على التأثير، ازدادت ضرورة أن يعرف الإنسان كيف ولماذا أثرت.
لكن ذلك لم يكن نها
ية المشكلة.
بل بدا كأنه بداية مرحلة أخطر.
فقد اكتشفت المملكة أن أخطر لحظة ليست حين تتعارض السلطة مع المعرفة.
بل حين تجتمعان في يد واحدة.
وعندها كان السؤال ينتظر الجميع:
ماذا يحدث عندما تصبح السلطة والمعرفة شيئًا واحدًا؟
وكان ذلك هو الباب التالي.
السلطة والمعرفة.
تأليف الكاتب والشاعر محمد علي باني /تونس
