الذكاء الاصطناعي: هل حان الوقت للحديث عن النفوذ بدلاً من مناقشة الأخلاقيات؟
كارين هاو
الذكاء الاصطناعي وهانز الذكي
في مطلع القرن العشرين، أحدث حصان ألماني ضجة كبيرة في أوروبا. فقد كان هانز الذكي -كما كان يُعرف في ذلك الوقت- قادراً كما يبدو على تأدية جميع أنواع الحِيَل التي كانت تقتصر على البشر فحسب؛ فقد كان قادراً على جمع وطرح الأرقام، وتحديد الوقت وقراءة الروزنامة، بل حتى تهجئة الكلمات والجمل، وكل ذلك عن طريق تقديم الإجابة بالضرب بحافره على الأرض. فقد كان يعبر عن الحرف “A” بضربة واحدة، و”B” بضربتين، ويجيب عن 2+3 بخمس ضربات. كان ذلك الحصان ظاهرة عالمية ملفتة، وبرهاناً -كما اعتقد الكثيرون- على إمكانية تعليم الحيوانات التفكير كما البشر.
غير أن هانز الذكي لم يكن يقوم فعلياً بأي من هذه الأشياء؛ فقد اكتشف أحد المحققين لاحقاً أن الحصان تعلم تقديم الجواب الصحيح بمراقبة التغيرات في وقفة الشخص الذي يوجه السؤال، وتنفسه، وتعابير وجهه. وبالتالي، فإن وقوف الشخص على مسافة كبيرة منه يعني خسارة هانز لهذه القدرات. وبالتالي، فإن ذكاءه كان مجرد وهم.
تُستخدم هذه القصة كعبرة لتحذير باحثي الذكاء الاصطناعي عند تقييم قدرات خوارزمياتهم. وتعني أن النظام ليس بالذكاء الذي يبدو عليه على الدوام. ويجب التزام الحذر عند قياس هذا الذكاء.
كتاب أطلس الذكاء الاصطناعي
ولكن في كتابها الجديد، أطلس الذكاء الاصطناعي (Atlas Of AI)، فإن الباحثة الرائدة في مجال الذكاء الاصطناعي، كيت كروفورد، تقلب هذه العبرة رأساً على عقب؛ فقد كتبت أن المشكلة تكمن في طريقة تعريف الناس لإنجازات هانز: “لقد كان هانز يقوم بإنجازات مذهلة فعلاً في التواصل مع أنواع حية أخرى، والأداء أمام الجمهور، إضافة إلى صبره الذي بلغ درجات عالية، غير أن كل هذه الأمور لم تُعد بمنزلة ذكاء”.
وهكذا، تبدأ رحلة كروفورد في استكشاف تاريخ الذكاء الاصطناعي وأثره على العالم المادي. يسعى كل فصل إلى توسيع نطاق استيعابنا لهذه التكنولوجيا بالكشف عن مدى ضيق نظرتنا إليها وتعريفنا لها.
وتقوم كروفورد بهذا بأخذنا في رحلة عالمية، بدءاً من المناجم التي تُستخرج منها العناصر الأرضية النادرة المستخدمة في صناعة الحواسيب، وصولاً إلى مراكز توزيع الطلبات لشركة أمازون؛ حيث تُستخدم الأجسام البشرية مثل الآلات في سعي الشركة المتواصل نحو تحقيق المزيد من النمو والأرباح. في الفصل الأول، تتحدث عن الأحداث التي رافقت قيادتها لشاحنة مغلقة من قلب وادي السيليكون وصولاً إلى بلدة تعدين وتنقيب صغيرة في وادي كلايتون في نيفادا. وهناك، تدرس الممارسات البيئية المدمرة المطلوبة للحصول على الليثيوم الذي يمد حواسيب العالم بالطاقة. إنه عرض يجبرك على الاقتناع بمدى تقارب هذين المكانين في العالم المادي، والفرق الهائل بينهما من حيث الثروة.
وبالاعتماد في تحليلاتها على هذه التحقيقات المادية، تنفي كروفورد النظرة النمطية الخاطئة إلى الذكاء الاصطناعي، وتقول إنه مجرد برنامج عالي الفعالية يعمل “في السحابة”. إن نظرتها القريبة وتوصيفها الواضح للأرض والعمالة التي يعتمد عليها الذكاء الاصطناعي، والتاريخ المليء بالمشاكل لهذه العناصر، يجعل من المستحيل مواصلة التحدث عن هذه التكنولوجيا بصورة مجردة فحسب.
ففي الفصل الرابع، على سبيل المثال، تأخذنا كروفورد في رحلة أخرى، ولكنها هذه المرة رحلة في الزمن بدلاً من المكان. فحتى تشرح لنا هَوَسَ هذا الحقل بالتصنيف، تزور متحف بين في فيلادلفيا، حيث تحدق إلى صفوف متراصة من الجماجم البشرية.
جُمعت هذه الجماجم من قبل سامويل مورتون، وهو مختص بما يسمى “علم الجماجم” من القرن التاسع عشر، وكان يعتقد أنه يمكن تصنيفها “موضوعياً” حسب قياساتها الفيزيائية إلى 5 “أعراق” موجودة في العالم: العرق الأفريقي، والعرق الأميركي الأصلي، والعرق القوقازي، العرق الملاوي، والعرق المنغولي. وقد قارنت كروفورد بين عمل مورتون وأنظمة الذكاء الاصطناعي العصرية التي تواصل محاولة تصنيف العالم إلى فئات ثابتة.
وتقول إن هذه التصنيفات بعيدة للغاية عن الموضوعية. فهي تفرض الترتيب الاجتماعي، وتطبّع الترتيب الهرمي، وتضخم عدم المساواة. ووفقاً لهذه النظرة، لم يعد بالإمكان النظر إلى الذكاء الاصطناعي على أنه تكنولوجيا موضوعية أو حيادية.
وعلى امتداد حياتها المهنية التي وصلت إلى 20 سنة، تعاملت كروفورد مع العواقب التي تظهر في العالم الحقيقي لأنظمة البيانات ضخمة النطاق، والتعلم الآلي، والذكاء الاصطناعي؛ ففي 2017، شاركت مع ميريديث ويتاكر في تأسيس المعهد البحثي إيه آي ناو، وهو إحدى أولى المنظمات المكرسة لدراسة الآثار الاجتماعية لهذه التكنولوجيات. وتشغل حالياً منصب أستاذ في جامعة ساوثرن كاليفورنيا أنينبيرج في لوس أنجلوس، والأستاذ الزائر الأول في مركز إيه آي أند جاستس في مدرسة النورمال العليا في فرنسا، كما أنها باحثة أساسية في قسم الأبحاث في مايكروسوفت.
وتقول كروفورد إنها كانت منذ خمس سنوات ما تزال تعمل على مجرد كيفية طرح فكرة عدم حيادية البيانات والذكاء الاصطناعي. أما الآن، فقد تطور الحوار، وأصبحت أخلاقيات الذكاء الاصطناعي حقلاً مستقلاً بحد ذاته. وتأمل بأن كتابها سيساعد هذا المجال على تحقيق درجة أعلى من النضج أيضاً.
وهكذا، جلست مع كروفورد للتحدث عن كتابها.
لم اخترت القيام بمشروع الكتاب هذا، وما الذي يعنيه بالنسبة لك؟
كروفورد: هناك الكثير من المؤلفات حول الذكاء الاصطناعي، ولكنها لا تتحدث فعلياً سوى عن إنجازات تقنية بنطاق ضيق للغاية. وفي بعض الأحيان، تتحدث هذه الكتب عن العظماء في مجال الذكاء الاصطناعي، ولكننا لم نحقق أي شيء إضافي من حيث مناقشة الطبيعة الفعلية للذكاء الاصطناعي.
وأعتقد أن هذه الكتب أنتجت فهماً منحرفاً للغاية للذكاء الاصطناعي؛ حيث يُعتبر بأنه مجرد مجموعة من الأنظمة التقنية الصرفة التي تتميز -لسبب ما- بالموضوعية والحياد، والتي تلعب دور برامج ذكية قادرة على اتخاذ أفضل قرار لأي فعل محتمل، كما يشرح ستيوارت راسل وبيتر نورفيج في كتابهما.
لقد رغبت في القيام بشيء مختلف تماماً، أي استيعاب كيفية بناء الذكاء الاصطناعي وفق أوسع نظرة ممكنة. ويعني هذا دراسة الموارد الطبيعية التي يعتمد عليها، والطاقة التي يستهلكها، والعمل الخفي الذي يحرك سلسلة التوريد بأكملها، والكميات الهائلة من البيانات المستخلصة من كل منصة وجهاز نستخدمه يومياً.
وبهذا، أردت أن أوضح بشكل فعلي وجهة النظر التي تقول إن الذكاء الاصطناعي ليس اصطناعياً، وليس ذكاء أيضاً. إنه عكس الاصطناعي تماماً؛ فهو ناتج عن الأجزاء المادية من قشرة الأرض والأجساد البشرية العاملة، ومن جميع الأشياء التي ننتجها ونقولها ونصورها كل يوم. كما أنه ليس ذكاءً. أعتقد أن هذا المجال يعاني مما يمكن وصفه خطيئة أصلية كبرى؛ فقد افترض الناس أن الحواسيب تشبه الأدمغة البشرية بطريقة ما، وأنه يكفي تدريبها مثل الأطفال حتى تتحول بالتدريج إلى كائنات خارقة للطبيعة.
يمثل هذا في رأيي مشكلة كبيرة، فقد صدقنا فكرة الذكاء هذه، في حين أن الموضوع فعلياً عبارة عن أشكال من التحليل الإحصائي المضخم، الذي يعاني من المشاكل بقدر البيانات التي تُقدم له.
هل تبين لك على الفور أن الناس يجب أن ينظروا إلى الذكاء الاصطناعي بهذه الطريقة؟ أم أنك اكتشفت هذه الفكرة بالتدريج، وكأنك في رحلة؟
لقد كانت رحلة بالتأكيد. ويمكن أن أقول إن إحدى اللحظات المفصلية بالنسبة لي كانت في 2016، عندما بدأت مشروعاً يسمى تشريح أنظمة الذكاء الاصطناعي مع فلادان جولر. لقد التقينا في مؤتمر يتمحور تحديداً حول الذكاء الاصطناعي الذي يعمل بالصوت، وكنا نحاول عملياً تحديد العوامل التي تمكن أمازون إيكو من العمل. ما هي المكونات؟ وكيف يستخلص البيانات؟ وما الطبقات التي تمر البيانات عبرها؟
وتبين لنا أن فهم هذا الأمر يتطلب فهم مصدر هذه المكونات. أين تم إنتاج الشرائح؟ وأين المناجم؟ وأين يتم صهر المواد الخام؟ وما مسارات سلاسل التوريد والسلاسل اللوجستية؟
وأخيراً، كيف يمكننا تتبع نهاية حياة هذه الأجهزة؟ كيف يمكن أن نبحث عن نقاط تركز النفايات الإلكترونية في أماكن مثل ماليزيا وغانا وباكستان؟ انتهى بنا المطاف إلى إجراء مشروع بحثي استهلك الكثير من الوقت على مدى سنتين لتتبع المسارات الحقيقية لسلاسل توريد هذه المواد من المهد إلى اللحد.
عندما نبدأ بالنظر إلى أنظمة الذكاء الاصطناعي على هذا المستوى، وعلى امتداد فترة زمنية بهذا الطول، سينتقل تفكيرنا من المفاهيم الضيقة لمسائل مثل “عدالة الذكاء الاصطناعي” و”أخلاقيات الذكاء الاصطناعي” إلى القول: إن هذه الأنظمة تؤدي إلى تغيرات جيومورفولوجية عميقة ودائمة في كوكبنا، إضافة إلى مفاقمة أنماط عدم المساواة في العمل التي نعاني منها مسبقاً في العالم.
وهو ما جعلني أدرك أنه يجب أن أنتقل من مجرد تحليل جهاز واحد (أمازون إيكو) إلى تطبيق هذا النوع من التحليل على الصناعة بأسرها. كانت هذه مهمة كبيرة بالنسبة لي، ولهذا استغرق تأليف كتاب أطلس الذكاء الاصطناعي 5 سنوات. هناك حاجة كبيرة إلى رؤية التكاليف الفعلية لهذه الأنظمة؛ لأننا لا نسعى إلى فهم تأثيراتها على كوكبنا إلا فيما ندر.
أود القول أيضاً إنني وجدت إلهاماً كبيراً في تنامي حقل الباحثين الذين يطرحون هذه الأسئلة الكبيرة حول العمالة والبيانات وعدم المساواة. وأذكر منهم روها بنجامين، وسافيا نوبل، ومار هيكس، وجولي كوهيم، وميريديث بوسارد، وسيمون براون، والقائمة لا تنتهي. وأرى عملي مساهمة في هذه الكتلة المعرفية، من حيث تقديم مفاهيم لربط البيئة وحقوق العمالة وحماية البيانات.
يتضمن هذا الكتاب الكثير من السفر. ويكاد كل فصل تقريباً يبدأ معك وأنت تحدقين بالمنطقة المحيطة بك. ما سبب أهمية هذا الأمر بالنسبة لك؟
لقد تعمدت بشكل كامل ربط تحليلي للذكاء الاصطناعي بأماكن معينة، وذلك للابتعاد عن “الأماكن غير المحددة” المجردة في فضاء الخوارزميات، حيث تتركز الكثير من النقاشات حول التعلم الآلي. وكما آمل، فقد يؤدي هذا إلى تأكيد الفكرة التي تقول بأن عدم فعل ذلك، والاكتفاء فقط بالحديث حول هذه “الفضاءات من الأماكن غير المحددة” من الموضوعية الخوارزمية، هو أيضاً خيار سياسي له تبعاته.
أما فيما يتعلق بربط هذه المواقع معاً، فهو ما أوحى لي بالبدء في التفكير بصورة الأطلس؛ لأن الأطالس كتب غير عادية؛ إنها كتب يمكن فتحها والنظر إلى العالم على مستوى قارة كاملة، أو التركيز على مستوى سلسلة جبلية أو مدينة. وبهذا، فإنها تسمح لك بتغيير نظرتك والمقياس الذي تتعامل معه.
وقد استخدمت في كتابي جملة جميلة من الفيزيائية أورسولا فرانكلين. فقد كتبت حول أهمية الخرائط في الربط ما بين المعلوم والمجهول بهذه الطرائق المبنية على المعلومات ووجهات النظر الجمعية. وبالنسبة لي، فقد اعتمد الكتاب من جهة على المعرفة الموجودة لدي، ومن جهة أخرى على التفكير في المواقع الحقيقية التي يُبنى فيها الذكاء الاصطناعي، حرفياً، من الصخور والرمال والنفط.
ما هي طبيعة ردود الأفعال والتعليقات على هذا الكتاب؟
من الأشياء التي فاجأتني في التعليقات الأولى حول هذا الكتاب هو أن الكثيرين كانوا فعلاً يشعرون بأن هذه النظرة قد آن أوانها منذ زمن، وكان يجب أن تظهر من قبل. يجب أن نصل إلى لحظة نعترف فيها بوجوب خوض حوار مختلف عن الحوارات التي كانت تشغلنا طوال السنوات القليلة الماضية.
فقد أمضينا وقتاً أكثر من اللازم في التركيز على الإصلاحات والتطويرات التقنية لأنظمة الذكاء الاصطناعي، وكنا على الدوام نركز فقط على الإجابات التقنية والأفكار التقنية. أما الآن، فقد حان وقت التعامل مع الآثار البيئية لهذه الأنظمة. يجب أن نتعامل مع أشكال حقيقية للغاية من استغلال العمالة الذي يحدث أثناء بناء هذه الأنظمة.
كما أننا الآن بدأنا نرى العواقب الوخيمة التي تنتج عن جمع كل ما يمكن جمعه من البيانات عن الإنترنت، ومن ثم تسميتها بالحقيقة الراسخة. لقد أدى هذا التأطير الخاطئ للعالم إلى الكثير من المشاكل والأذية، وكما يحدث دائماً، فقد وقعت الآثار الأسوأ لهذه المشاكل على جميع المجتمعات والشرائح التي تعاني مسبقاً من التهميش، والتي لم تتنعم بفوائد هذه الأنظمة.
ما التغيرات التي تأملين في رؤيتها لدى الناس؟
آمل أننا سنقلل من الحوارات عديمة الفائدة، حيث تُستخدم مصطلحات مثل “أخلاقيات” و ”الذكاء الاصطناعي بهدف الخير” بطريقة تفرغها من معناها كلياً. وآمل بأن عملي سيكشف الستار عن الحقائق، ويدفعنا إلى النظر إلى من يحرك هذه الأنظمة فعلياً. وهذا يعني الانتقال من مجرد التركيز على أشياء مثل المبادئ الأخلاقية إلى مناقشة مسألة النفوذ.
كيف يمكن لنا أن نخرج من هذا التأطير المتعلق بالأخلاقيات؟
إذا كان هناك فخ كبير وقع فيه القطاع التكنولوجي في العقد الأخير، فهو اعتماد نظرية التغير بشكل دائم على الهندسة بصورة أساسية. لقد كنا نفكر بالطريقة التالية على الدوام: “إذا كانت هناك مشكلة، فهناك حل تقني لها”. وقد بدأنا مؤخراً فحسب نشهد توسع هذا المفهوم بالشكل التالي: “إذا كانت هناك مشكلة، فيمكن حلها عن طريق القوانين. ويوجد دور أساسي لصانعي السياسات”.
ولكنني أعتقد أنه يجب أن نوسع نظرتنا هذه إلى نطاق أكبر. وعلينا أن نقول أيضاً: أين مجموعات المجتمع المدني، وأين الناشطون، وأين المناصرون الذين يتعاملون مع قضايا العدالة المناخية وحقوق العمال وحماية البيانات؟ وكيف نُشركهم في هذه الحوارات؟ وكيف نشمل المجتمعات المتضررة؟
وبصياغة أخرى، كيف يمكن أن نعزز الطابع الديمقراطي لهذا الحوار حول تأثير هذه الأنظمة على حياة مليارات البشر بطرق مجهولة تتجاوز نطاق التشريعات والإشراف الديمقراطي؟
ووفقاً لهذه النظرة، فإن الكتاب يحاول إزاحة التكنولوجيا من مركز الحوار، والبدء بطرح أسئلة أكبر حول عدة قضايا، مثل: ما العالم الذي نرغب في العيش فيه؟
ما العالم الذي ترغبين أنتِ في العيش فيه؟ ما المستقبل الذي تحلمين به؟
أرغب في رؤية اتحاد المجموعات التي كانت تقوم بعمل شاق في طرح تساؤلات حول قضايا مثل العدالة المناخية وحقوق العمال، وإدراكها بأن تلك الجبهات التي كانت منفصلة، والتي تسعى إلى تحقيق التغيير الاجتماعي والعدالة العرقية، تتشارك في الكثير من المخاوف والأسس التي تسمح لها بالتنسيق والتنظيم.
وهذا أمر ضروري؛ لأنه لم يعد أمامنا الكثير من الوقت. فنحن نعيش على كوكب وصل إلى مراحل خطرة من الضغط الشديد. ونحن نشهد حالياً تركيزاً هائلاً للنفوذ في عدد قليل للغاية من الجهات والأشخاص؛ حيث إننا لم نشهد صناعة بهذا التركيز المرتفع من النفوذ منذ أيام بدايات السكك الحديدية، بل إن التكنولوجيا الحالية تتفوق في تركيز النفوذ على تلك الصناعة.
ولهذا، يجب أن نفكر في وسائل تسمح لنا بتعزيز تأثير مجتمعاتنا وبناء أشكال أفضل من المسؤولية الديمقراطية. وهي مشكلة تتطلب حلاً جماعياً. إنها ليست مشكلة خيار فردي. لا يقتصر الحل على مجرد اختيار العلامة التجارية للتكنولوجيا الأكثر أخلاقية من بين مجموعة جاهزة من الخيارات. بل يجب أن نجد أساليب للعمل معاً على حل المشاكل على مستوى الكوكب.
