عضوتان سابقتان في OpenAI: لا يجوز لشركات الذكاء الاصطناعي حكم نفسها

تصاعدت دعوات من قبل العديد من المسؤولين السابقين في شركات الذكاء الاصطناعي لدخول الحكومات للسيطرة على التطور المستمر للذكاء الاصطناعي، وذلك للحد من الآثار السلبية.

وعندما وُظفت “تاشا” عام 2018 وهيلين عام 2021 لتصبحا ضمن مجلس إدارة شركة “أوبن إي آي OpenAI” كانتا تتحليان بتفاؤل حذر من النهج المبتكر للشركة في حكم نفسها بنفسها والذي يمكن أن يتحول لمخطط أساسي لتطوير مسؤول في مجال الذكاء الاصطناعي.

تضارب المصالح

بحكم تجربة المسؤولتين، اعتقدتا بأن الحكم الذاتي للشركة لا يمكن أن يصمد في وجه ضغط حوافز الربح بكل ثقة، وقالتا: “مع الإمكانات الهائلة التي يتمتع بها الذكاء الاصطناعي لإحداث آثار إيجابية وسلبية معاً، لم يعد يكفينا أن نفترض بأن حوافز الأرباح ستصب دومًا في الصالح العام، ولكي يستفيد الجميع من صعود الذكاء الاصطناعي، يجب على الحكومات أن تبدأ بتشكيل أطر عمل تنظيمية فعالة من الآن”، بحسب الإيكونومست، الأحد 26 مايو 2024.

وأبدت كل من تاشا وهيلين، إعجابهما بشأن نظام العمل الذي قامت عليه الشركة في البداية، حيث كان نموذجًا لمؤسسة غير هادفة للربح تدعم بكل أمان نظم ذكاء اصطناعي متطورة وبطريقة أخلاقية.

وبالرغم من ذلك، تأسس فرع ربحي للشركة بهدف جمع ما يلزم من رأس المال، وبقيت المنظمة غير الربحية على حالها من دون أن يطرأ عليها أي تغيير.

وكان الغرض المعلن من هذه التغيرات غير المعهودة هو حماية قدرة الشركة على الالتزام برسالتها الأصلية، غير أنها لم تفلح في الجمع بين الأرباح والصالح العام.

إقالة ألتمان

خلال محاولة مجلس إدارة OpenAI إنقاذ هذه البنية القائمة على التنظيم الذاتي، سرحت الشركة مديرها التنفيذي سام آلتمان، ما قيد قدرة المجلس على دعم رسالة الشركة بسبب الأنماط السلوكية القديمة التي أبداها آلتمان، والتي قوضت برأي تاشا وهيلين قدرة الشركة في الإشراف على القرارات الأساسية وعلى البروتوكولات الداخلية للسلامة.

وقد عبر عدد من كبار قادة الشركة عن مخاوف جسيمة وذلك بشكل سري أمام مجلس الإدارة، حيث ذكروا بأن آلتمان زرع “ثقافة الكذب السامة” وتورط في “سلوك يمكن وصفه بالإساءة النفسية”.

وبحسب شركة  OpenAI، توصل تحقيق داخلي بأن المجلس عمل بناء على التقديرات الموسعة على تسريح آلتمان، لكنه خلص أيضاً إلى أن هذا التصرف لا يقتضي التسريح.

التحكم في السوق

بحسب تاشا وهيلين: “تقدم لنا هذه القصة درساً أهم يعلمنا بأنه يجب على المجتمع ألا يسمح لشركات التقنية خاصة بأن تسيطر لوحدها على عملية طرح الذكاء الاصطناعي، إذ بكل تأكيد، هنالك جهود حقيقية كثيرة بذلت في القطاع الخاص لتوجيه عملية التطور في هذه التقنية بطريقة مسؤولة”.

كما أثنتا على الجهود المبذولة في هذا القطاع، ولكن في ظل غياب عملية إشراف خارجية، لابد أن ينتهي هذا النوع من التنظيم الذاتي لحالة غير قابلة للتنفيذ حتى مع أخلص النوايا وأصدقها، لاسيما تحت ضغط حوافز الربح الهائلة، ولذلك، ينبغي على الحكومات أن يكون لها دور فاعل في هذا السياق.

الاتجاه المعاكس

لكن خلال الأشهر القليلة الماضية، علا صوت المدافعين عن حالة تنظيم حكومية محدودة لتقنية الذكاء الاصطناعي، ابتداء من النواب في واشنطن وصولاً إلى المستثمرين في وادي السيليكون، إذ في أغلب الأحيان يقارن هؤلاء هذا النهج بنهج عدم التدخل بالإنترنت في تسعينيات القرن الماضي وما أحدثه ذلك من نمو اقتصادي.

ويتم الاعتراف بالمخاطر الكبيرة – بين المجتمع الكبير للباحثين والمهندسين في هذا المجال – لتطوير ذكاء اصطناعي بنسبة أشد تطوراً، وكما قال المدير آلتمان: “قد يكون الانتقال الناجح إلى عالم يتمتع بذكاء خارق أهم وأكثر مشروع واعد ومخيف في تاريخ البشرية”، وذلك لأن مستوى القلق الذي عبر عنه كثير من أهم العلماء المتخصصين في مجال الذكاء الاصطناعي حيال هذه التقنية التي يعملون هم أنفسهم على تطويرها أصبح موثقاً بشكل كبير، ويختلف هذا القلق تمام الاختلاف عن المواقف المتفائلة التي أبداها المبرمجون ومهندسو الشبكات الذين عملوا على تطوير الإنترنت في بداياته.

كما لم يتضح إن كان التنظيم البسيط للإنترنت قد صب في مصلحة المجتمع بشكل لا تشوبه شائبة، فلقد استفادت وبشكل كبير شركات تقنية ناجحة كثيرة، وكذلك مستثمرون كثر من عدم وجود ضوابط على التجارة عبر الإنترنت، ولم يتضح أيضاً إن كانت المجتمعات قد خلقت توازناً صحيحاً فيما يتصل بتنظيم عملية ضبط المعلومات الخاطئة والمضللة التي تنشر عبر وسائل التواصل الاجتماعي، وكذلك الأمر بالنسبة لعملية استغلال الأطفال والإتجار بالبشر، وتزايد الأزمات التي تهدد الصحة العقلية لدى الشباب.

مخاطر الذكاء الاصطناعي

في الختام، أوضحتا تاشا وهيلين: “يمكن القول بأننا نؤمن بقدرة الذكاء الاصطناعي على تعزيز إنتاجية البشرية ورفاهيتها بطرق لم نشهدها من قبل، لكن الطريق للوصول إلى مستقبل أفضل لا يمكن عبوره من دون مخاطر. فقد تأسست شركة OpenAI كتجربة جريئة تسعى لتطوير إمكانات الذكاء الاصطناعي مع إعطاء الأولوية للصالح العام وتفضيله على الربح”.

وأضافتا: “لكن من خلال التجربة تبين أنه حتى بوجود كل المزايا، لم تكن آليات الحكم الذاتي كتلك التي اعتمدتها شركة OpenAI كافية، ولذلك من الضروري أن يشارك القطاع العام وعن كثب في تطوير هذه التقنية، وقد حان الوقت الآن لتثبت المؤسسات الحكومية نفسها في مختلف بقاع العالم، إذ لا يمكننا أن نضمن استفادة سائر البشر فعلياً من تطور الذكاء الاصطناعي إلا بوجود حالة توازن صحية بين قوى السوق وتنظيمها بكل حكمة”.