aleqt (11005) 2023/11/28

إصدار يومي باتفاق خاص مع صحيفة «فاينانشيال تايمز» البريطانية في العام الماضي، أصبح سام ألتمان، الرئيس التنفيذي لشركة أوبن أيه آي، تجسيدا للتناقضفي قلب الذكاء الاصطناعي. مدعوما بالنشوة التي أعقبت إطــاق برنامج الـدردشـة "شات جي بي تي" الـذي يعمل بالذكاء شهرا، أخذ 12 الاصطناعي قبل رجـل الأعــ ل البالغ من العمر عاما تفاؤل وادي السيليكون 38 بعلمته التجارية في جولة عالمية للقاء رؤســـاء الـــدول وتعزيز إمكانات الذكاء الاصطناعي. لكن في الوقت نفسه، أيضا أطلق تحذيرا: إن أنظمة الذكاء الاصطناعي المتقدمة مثل تلك التي تأمل شركة أوبن أيه آي بناءها يوما ما قد تــؤدي إلى انقراض الجنس البشري. لقد ترك هذا التفاوت الصارخ كثيرا من المتفرجين يتساءلون عـن سبب تسابق شركـــات مثل "أوبن أيه آي" لتكون أول من يبني تكنولوجيا جديدة قد تكون كارثية. لقد تجلى ذلك أيضا بشكل كامل الأسبوع الماضي، حيث جرى بداية طرد رئيس شركة أوبن أيه آي من وظيفته، ثم أعيد إلى منصبه بعد التهديد بالانشقاق الجماعي مـن قبل موظفي شركــة الذكاء الاصطناعي الناشئة ومقرها سان فرانسيسكو. لم يشرح الأعضاء الأربعة في مجلس إدارة شركة أوبـن أيه آي الذين طردوا ألتمان السبب المباشر وراء ذلك، باستثناء القول إنه لم يكن "صريحا بشكل مستمر" في تعاملته معهم. لكن التوترات كانت تتصاعد داخل الشركة لبعض الـوقـت، حيث اصطدم طموح ألتمان لتحويل شركة أوبن أيه آي إلى القوة التكنولوجية التالية في وادي السيليكون بالمهمة التأسيسية للشركة المتمثلة في وضع السلمة في المقام الأول. أدت إعـادة ألتمان إلى منصبه في وقت متأخر من الثلثاء، إلى تخفيف التوتر في هذه الدراما ـ على الأقـل في الوقت الحالي. وأدى التغيير الجذري في مجلس الإدارة إلى جلب أعضاء أكثر خبرة، ممثلين بشخص الرئيس السابق لشركة تويتر، بريت تايلور، ووزير الخزانة الأمريكي السابق، لاري سامرز. ويجري النظر في إجراء تغييرات على طريقة إدارة الشركة. لكن لم تتم تسوية أيشيء، وفي الوقت الحالي، مع تولي ألتمان المسؤولية مرة أخرى رغم تجريده من مقعده في مجلس الإدارة، فقد عادت الأمور إلى طبيعتها. تم إطلق "أوبن أيه آي" كشركة أبحاث مهمتها بناء ذكاء اصطناعي آمن لمصلحة البشرية جميعا. لكن مسرحية الأيام الأخيرة تشير إلى أنها فشلت في التعامل مع النجاح الضخم الـذي نتج عن التقدم التكنولوجي الذي حققته. كما أنها ألقت بالسؤال الملح عن كيفية السيطرة على الذكاء الاصطناعي: هـل كانت الأزمـة نـاجـمـة عــن خـلـل في تصميم الشركة، ما يعني أنها لم يكن لها تأثير يذكر في آفـاق المحاولات الأخـــرى لتحقيق الــتــوازن بين سلمة الذكاء الاصطناعي والسعي لتحقيق الأرباح؟ أم أنها لمحة عن صدع أوسع في الصناعة له آثار خطيرة في مستقبلها - ومستقبلنا؟ عندما أسست شركة أوبـن أيه آي، أدرك مهندسوها "أن الدافع التجارييمكن أن يؤدي إلى كارثة"، كما يقول ستيوارت راسـل، وهو أستاذ علوم الحاسوب في جامعة كاليفورنيا، بيركلي، الذي كان من أوائل الذين حذروا بشأن المخاطر الوجودية للذكاء الاصطناعي. "لقد استسلموا الآن للدافع التجاري بأنفسهم". صدام معتقدات سلطت هذه الدراما في شركة أوبـن أيه آي الضوء على التوتر بين مجموعتين من المعتقدات التي برزت إلى الواجهة في وادي السيليكون، حيث تحول ما يسمى الـذكـاء الاصطناعي التوليدي ـ التكنولوجيا التي تسمح لبرمجية "شات جي بي تي" بإنتاج المحتوى الإبداعي ـ من مشروع بحثي مثير للهتمام إلى التكنولوجيا الجديدة الواعدة في الصناعة في أعوام. أحدهما هو العلمة التجارية المألوفة للرأسمالية التكنولوجية المتفائلة التي ترسخت في شمال كاليفورنيا. وهـذا يعني أنـه مع تطبيق كميات كبيرة من رأس المال المغامر والطموح الكبير، فإن أي فكرة ثورية بما فيه الكفاية يمكن أن تسيطر على العالم ـ أو على الأقل، تطيح ببعض الشركات الحالية النائمة. بصفته رئيسا سابقا لشركة وأي كومبيناتور، أبرز حاضنة للشركات الناشئة في المنطقة، كان ألتمان على دراية كاملة بكيفية عمل هذه العملية. أمـا الفلسفة الأخــرى، الأكثر تـشـاؤمـا، فـتـدعـو إلى الـحـذر الـذي عـادة ما يكون أقل شيوعا في وادي السيليكون. ولكونها معروفة بالمدى الطويل، فإنها تقوم على الاعتقاد بأن مصالح الأجيال اللحقة، التي تمتد إلى المستقبل البعيد، يجب أن تؤخذ في الحسبان في القرارات التي يتم اتخاذها اليوم. والفكرة هي فـرع من الإيثار الفاعل، وهي الفلسفة التي صاغها الفيلسوفان في جامعة أكسفورد، ويليام ماكاسكيل وتـوبي أورد، الــلــذان يسعى أتـبـاعـهـ إلى تعظيم تأثيرهما في الكوكب لتحقيق أقـى قـدر من الخير. ويهدف أصحاب الرؤية طويلة المدى إلى تقليل احتمالية وقوع كوارث وجودية من شأنها أن تمنع ولادة أجيال المستقبل ـ وأصبحت المـخـاطـر الـتـي يمثلها الـذكـاء الاصطناعي الشرير تشكل مصدر قلق رئيسا. لقد كانت متطلبات رأس المال هي التي جلبت هذين النظامين الفكريين إلى هـذه المعارضة المفاجئة داخـل شركـة أوبـن أيه ، وكان 2015 آي. عندما أسست في ألتمان وإيلون ماسك أول رئيسين مشاركين لها، تم إطلقها بمهمة سامية تتمثل في قيادة البحث في بناء ذكاء اصطناعي شبيه بالبشر بشكل آمن. اشتملت الطريقة الأساسية التي اتبعها الباحثون العاملون فيها هي إنشاء نماذج لغوية أكبر من أي وقت مضى، الأمر الذي تطلب بدوره مبالغ كبيرة من رأس المال. ، أدت الحاجة إلى 2019 بحلول النقد إلى حصول شركة أوبن أيه آي، على استثمار بقيمة مليار دولار من شركة مايكروسوفت. رغـم أن هـذا أدى إلى إنشاء شركة تابع تجارية جديدة تستغل التكنولوجيا الأساسية لشركة أوبن أيه آي، إلا أن المؤسسة بأكملها ت ـرك ـت تـحـت سـيـطـرة مجلس إدارة غير ربحي ظلت مسؤوليته الأساسية هي التأكد من استخدام الــذكــاء الاصطناعي المتقدم لمصلحة البشرية. اثنان من أعضاء مجلس الإدارة الأربعة الذين قاموا في النهاية بإقالة ألتمان -هيلين تونر، مديرة الاستراتيجية في مـركـز الأمـن والتكنولوجيا الناشئة، وتاشا ماكولي، رائدة الأعمال في مجال التكنولوجيا- لديهما صلت بحركة الإيثار الفاعلة. ألمحت ورقــة بحثية حديثة كانت تونر من مؤلفيها إلى نوع التوترات التي قد يسببها ذلك. لقد انتقدت الورقة البحثية ضمنيا ألتمان لإطلقه برمجية "شات جي بي تي" دون أي "اختبار سلمة تفصيلي" أولا، ما أدى إلى نوع من "ديناميكيات السباق إلى القاع" التي استنكرتها شركـة أوبـن أيه آي نفسها. كتبت تونر وزملؤها المؤلفون أن الهيجان المحيط بـروبـوت الـدردشـة دفـع شركات أخــرى، منها شركـة جوجل، إلى "تسريع أو التحايل على عمليات مـراجـعـة الـسـامـة الداخلية والأخلقيات". تراكمت هـذه المـخـاوف مع تقدم تكنولوجيا شركة أوبن أيه آي، وكـان كثير من الـخـ اء في هذا المجال يراقبون بقلق علمات تشير إلى أن الـذكـاء الآلي على المستوى الـبـ ي، والمعروف باسم الذكاء العام الاصطناعي، قد يقترب. وبدا أن ألتمان يرفع المخاطر مرة أخرى هذا الشهر، ملمحا إلى أن الشركة حققت اختراقا بحثيا كبيرا آخـر مـن شأنه أن "يدفع حجاب الجهل إلى الـوراء ويدفع حدود الاكتشاف إلى الأمام". لكن إذا كـان أعـضـاء مجلس إدارة شركة أوبن أيه آي يعتقدون أن لهم الكلمة الأخيرة في كيفية استغلل مثل هذه التكنولوجيات، فيبدو أنهم كانوا مخطئين. لقد صدمت إقالة ألتمان المفاجئة عالم التكنولوجيا وأثارت تمردا من قبل الموظفين، الذين هدد كثير منهم بالاستقالة ما لم يعد. عملت شركة مايكروسوفت هي الأخـرى، التي التزمت الآن بمبلغ مليار دولار للشركة، على إعادة 13 ألتمان إلى منصبه ـ وهو مثال على التأثير الخارجي الـذي صممت ترتيبات حوكمة شركة أوبـن أيه آي لمقاومته. وفي غضون أيام، رضخ أعضاء مجلس إدارة شركة أوبن أيه آي. أدت الاتفاقية التي انتهت بـإعـادة ألـتـ ن إلى منصبه إلى استقالة كل من تونر وماكولي من مجلس الإدارة، إلى جانب إيليا سوتسكيفر، باحث الذكاء الاصطناعي الــذي قــاد مبادرة جديدة داخل الشركة هذا العام لمنع "الذكاء الفائق" المستقبلي من إخضاع البشرية أو حتى القضاء عليها. يقول أورد، الـذي يعمل في المجلس الاستشاري لمركز حوكمة الـذكـاء الاصطناعي إلى جانب ماكولي وتونر: "نظريا، كان مجلس الإدارة يتمتع بالسلطة، هكذا رسم سام ألتمان الصورة. بدلا من ذلك، يبدو أن قدرا كبيرا جدا من السلطة موجود في يد ألتمان شخصيا، والمـوظـفـ وشركـة مايكروسوفت". يقول أورد، إنه ليس لديه أي فكرة عما إذا كان من الممكن حل هـذا النوع من التوترات، لكنه يضيف عنشركة أوبن أيه آي: "على الأقـل كانت هناك شركة تخضع للمساءلة عنشيء آخر غير الأرباح الصافية". ويضيف: "لا أرى أي بدائل. يمكنك أن تقول الحكومة، لكنني لا أرى الحكومات تفعل أيشيء". الذكاء الاصطناعي المناسب للمستقبل "أوبــن أيـه آي" ليست شركة الــذكــاء الاصطناعي المتقدم الوحيدة التي قامت بتجربة شكل جديد من الحوكمة. فقد حاولت شركة أنثروبيك، التي ترك مؤسسوها شركة أوبن بسبب مخاوف 2020 أيه آي عام بشأن التزامها بسلمة الذكاء الاصطناعي، اتباع نهج مختلف. لقد حصلت على استثمارات أقلية من شركتي جوجل وأمـازون، لكن لتعزيز اهتمامها بسلمة الذكاء الاصطناعي، فإنها تسمح لأعضاء صندوق مستقل بتعيين عدد من أعضاء مجلس إدارتها. وناضل مؤسسو ديب مايند، مختبر أبحاث الذكاء الاصطناعي البريطاني الــذي اشـ تـه شركة جوجل قبل عقد من الزمن تقريبا، للحصول عـ درجـــة أكــ من الاستقلل داخل الشركة لضمان استخدام أبحاثهم دائما لتحقيق الخير. وفي هذا العام، تم دمج ديـب مايند في شركــات أبحاث الذكاء الاصطناعي الأخرىفيشركة جوجل، رغم أن الوحدة المدمجة يقودها المؤسس المشارك لمختبر ديب مايند، ديميس هاسابيس. ويقول المنتقدون إن هذا النوع مـن مـحـاولات التنظيم الـذاتي محكوم عليه بالفشل، نظرا إلى حجم المخاطر. يقول أحــد المستثمرين في الذكاء الاصطناعي، الذي يعرف ألتمان جيدا، إن رئيس شركة أوبن أيه آي يأخذ المخاطر المحتملة للتكنولوجيا على محمل الجد. لكنه مصمم أيضا عـ تنفيذ مهمة شركته المتمثلة في تطوير الذكاء الاصطناعي العام. يقول المستثمر: "يريد سام أن يكون أحـــد الأشــخــاص الـعـظـ ء في التاريخ، وأن يعيد تشكيل العالم بطريقة خطرة". ويضيف راســـل، مـن جامعة كاليفورنيا في بيركلي: "إن الشعور بالقوة والمصير الـذي يـأتي من تحويل المستقبل هو أمر تصعب مـقـاومـتـه حـقـا. إن المصلحة المكتسبة ليست المال فقط". ويدعم جان تالين، المؤسس المشارك لشركة سكايب وأحد أبرز المؤيدين للإيثار الفاعل في عالم التكنولوجيا، فكرة أن تتوصل شركـات الذكاء الاصطناعي إلى "هياكل حوكمة مدروسة" بدلا من مجرد الاستجابة لقوى السوق. لكنه يضيف: "مـن المؤسف أن أزمة حوكمة شركة أوبن أيه آي تظهر أن مخططات الحوكمة ذات الدوافع الجيدة هذه أقل قوة مما يأمل المرء". في الوقت نفسه، في وادي السيليكون، أدت الاضطرابات فيشركة أوبن أيه آي، إلى تفاقم رد الفعل العنيف ضد حركة ذوي الرؤية طويلة المدى، بينما قدمت أدلـة لمعارضي تنظيم الذكاء الاصطناعي بشكل أكبر. وقــد تـــررت سمعة حركة الإيثار الفاعلة هذا الشهر عندما أديـن أحـد أبـرز داعميها، سام بانكمان فرايد، مؤسس إف تي إكس، بالاحتيال. كان رجل الأعمال في مجال العملت المشفرة، الذي قال إنه سيتخلى عن معظم ثروته، من أوائـل المستثمرين المهمينفيشركة أنثروبيك. يـقـول أورد إن استخدام مواقف فردية كهذه "للقول إن الفلسفة قد انتهت، هو مثل القول إن الليبرالية ماتت بسبب سياسي واحـد. لا يمكنك انتقاد فلسفة من هذا القبيل". في هذه الأثناء، أصبح منتقدو المتشائمين أكـ صراحــة. فقد قال يان ليكون، كبير علماء الذكاء الاصطناعي فيشركة ميتا، أخيرا، إنـه "مـن السخف" الاعتقاد أن الـذكـاء الاصطناعي يمكن أن يهدد البشرية. وبدلا من ذلك، من شأن الآلات الذكية أن تحفز نهضة ثانية في التعلم وتساعدنا على معالجة تغير المناخ وعلج الأمــراض. "ليس هناك شك في أنه ستكون لدينا آلات أكثر ذكاء منا لمساعدتنا. والسؤال هو: هل هذا مخيف أم مثير؟ أعتقد أن الأمر مثير لأن تلك الآلات ستنفذ طلباتنا. وستكون تحت سيطرتنا". وقد وصف مـارك أندريسن، صاحب رأس المال المغامر الذي أصبح واحدا من أكثر المعارضين صراحـــة للتنظيم في وادي السيليكون، الأشخاص الذين يحذرون من المخاطر الوجودية الناجمة عن الذكاء الاصطناعي، بأنهم طائفة لا تختلف عن الحركات الألفية الأخــرى التي تحذر من الكوارث الاجتماعية الـوشـيـكـة. وكـتـب في يونيو: "لقد أصابوا أنفسهم بحالة من الجنون". يــقــول الــنــقــاد إن وضــع الأشخاص الذين سيعيشون في المستقبل على قـدم المساواة مع أولئك الذين يعيشون اليوم لـه آثــار شريــرة إذا وصلنا إلى نهايته المنطقية ـ لأن عدد الناس في المستقبل أكبر بكثير، فإن مصالحهم ستسود. ويقولون إن هذا، في أقص حالاته، يمكن استخدامه كذريعة لإخضاع أجزاء كبيرة من السكان لمصلحة المليارات من الناس في المستقبل. يقول أصحاب الرؤية طويلة المــدى إن هـذه الحجة توسع الفلسفة إلى أقــى الـحـدود لتشويهها سمعتها، في محاولة لجعل إخـضـاع سلمة الذكاء الاصطناعي للتنظيم أقل احتمالا. يقول راسل: "إن انتقاد التوجه طويل الأمد بوصفه عقلية فاشية جديدة غريبة هو أمر خاطئ". يـقـول إن معظم أتباعها يـتـفـقـون عـــ الــحــاجــة إلى "اسـتـبـعـاد" مصالح الأجـيـال القادمة في المستقبل البعيد، ما يعني أن وزنهم في القرارات أقل أهمية من مصالح الناس الذين يعيشون اليوم. ويزعم أصحاب الرؤية طويلة المـدى أيضا أن تركيزهم على مخاطر الـذكـاء الاصطناعي لا يجعلهم مختلفين عن أولئك الـذيـن يـحـذرون مـن الـكـوارث التي تلوح في الأفـق مثل تغير المناخ، وأن مجرد عدم القدرة على قياس احتمال تدمير البشرية بسبب الذكاء الاصطناعي على وجه التحديد لا يعني أنه ينبغي تجاهله. في ضوء جميع المتغيرات، يقول أورد، فإن الادعاء بأن الذكاء الاصطناعي "لا يشكل خطرا وجوديا على البشر في الوقت الحالي هو حجة سخيفة". اعرف الكيمياء الخاصة بك لقد وجدت وجهة النظر هذه جمهورا خارج بعض أركان صناعة التكنولوجيا وقسم الفلسفة في جامعة أكسفورد. وكـانـت قمة سـامـة الـذكـاء الاصطناعي التي استضافتها الحكومة البريطانية هذا الشهر في بليتشلي بـارك أول محاولة لعقد نـقـاش سـيـاسي عالمي حول المخاطر الوجودية للذكاء الاصطناعي. 28 الاجتماع -الــذي حضته دولة، من بينها الولايات المتحدة والصين، وعديد من كبار الباحثين في مجال الـذكـاء الاصطناعي والمديرين التنفيذيين لشركات التكنولوجيا في العالم، مثل ألتمان- مهد الطريق لإجراء حوار حول هذه القضايا مع عقد قمتين أخريينفي كوريا الجنوبية وفرنسا خلل العام المقبل. إن التوصل إلى اتفاق يقضي بضورة أخذ المخاطر الوجودية التي يفرضها الذكاء الاصطناعي عـ محمل الـجـد ليس سوى خطوة أولى. كما تعمل كل من المملكة المتحدة والـولايـات المتحدة أيضا على إنشاء معاهد دائمة لسلمة الذكاء الاصطناعي لتعميق خبرة القطاع العام في هـذا المجال واختبار النماذج المـتـقـدمـة لــ كــات الــذكــاء الاصطناعي الكبرى. وقد كلفت الحكومة البريطانية يوشوا بنجيو، أحد رواد ثورة التعلم العميق والحائز جائزة تورينغ، بإعداد تقرير عن آخر التطورات والاختراقات العلمية، لإطلع صناع السياسات العالميين. إن الطريقة الوحيدة أمام العالم "للتغلب على المخاطر التي يشكلها الذكاء الاصطناعي القوي"، كما يقول تالين، هي "تكثيف مستوى فاعلية التنظيم، محليا ودوليا". لكن عـديـدا مـن علماء الذكاء الاصطناعي الرائدين في العالم يختلفون كـثـ ا في تقييماتهم لقدرات الذكاء الاصطناعي الحالية وتطوره في المستقبل، ما يجعل من الصعب على الهيئات التنظيمية معرفة ما يجب القيام به. وقالت تونر، العضوة السابقة في مجلس إدارة "أوبن أيه آي"، خلل مقابلة أجريت معها أخيرا في مقابلة حديثة لتدوينة صوتية لصحيفة "فاينانشيال تايمز" تم تسجيلها قبل أحداث هذا الأسبوع: "هذا المجال -الذكاء الاصطناعي- يشبه الكيمياء أكثر من علم الصواريخ. أنت ترمي الأشياء في الوعاء وحسب، لترى ماذا سيحدث بعدها؟". إن كيفية حل شركة أوبن أيه آي للأزمة على أعلى مستوياتها قد تساعد على إظهار مدى مهارة منافسيها، في السباق نحو الذكاء الاصطناعي على المستوى البشري، في التعامل مع التناقضات العميقة في عملهم بين التطور والسلمة. ولكن على الرغم من عودة ألتمان الآن إلى القيادة، إلا أن مجلس إدارة "أوبــن أيـه آي" الجديد لم يقدم بعد تفسيرا عاما للخطأ الذي حدث بالضبط، أو تحديد التغييرات التي سيجريها لضمان عدم خروج الشركة عن مسار مهمتها الأساسية المتمثلة في جعل ذكــاء الكمبيوتر آمنا للبشرية. إن العالم ينتظرهم. تفاوت صارخ .. لماذا تتسابق الشركات على بناء تكنولوجيا جديدة قد تكون كارثية وقد تهدد بانقراض البشر؟ تصدع في وادي السيليكون .. الذكاء الاصطناعي قوة أم كارثة؟ الذكاء الاصطناعي يشبه الكيمياء. أنت ترمي الأشياء في الوعاء وحسب، لترى ماذا سيحدث بعدها؟ من سان ريتشارد ووترز وجون فرانسيسكو من لندن ثورنهيل رغم عودة ألتمان إلى قيادة «أوبن أيه آي» إلا أنهم لم يفسروا الخطأ الذي حدث أو إجراء التغييرات لعدم خروج الشركة عن مسارها .. إن العالم ينتظرهم عندما أسست شركة أوبن أيه آي أدرك مهندسوها أن الدافع التجاري يمكن أن يؤدي إلى خلل قد يهدد البشرية .. لقد استسلموا الآن للدافع التجاري بأنفسهم يريد سام ألتمان أن يكون أحد العظماء في التاريخ، وأن يعيد تشكيل العالم بطريقة خطرة. 13 NO.11005 ، العدد 2023 نوفمبر 28 هـ، الموافق 1445 جمادى الأولى 14 الثلاثاء