عند لامدا الخبر اليقين… هل وصلت روبوتات جوجل لدرجة الوعي البشري؟

أثار مهندس في شركة جوجل الجدل بعد ادعائه بأن نظام الذكاء الاصطناعي للشركة كان واعيًا، ما دفع الشركة إلى وضعه في إجازة إدارية مدفوعة الأجر.

وكانت وظيفة بليك ليموين، المهندس الذي يعمل في منظمة الذكاء الاصطناعي المسؤول في جوجل، تتطلب منه التحدث إلى روبوت دردشة يُعرف باسم “لامدا LaMDA” لاختبار إذا كان الذكاء الاصطناعي يستخدم لغة تمييزية أو تحض على  الكراهية، بحسب تقرير لصحيفة واشنطن بوست الأمريكية.

نظام لامدا

لامدا هو اختصار لـ”قوالب اللغة لتطبيقات الحوار”، وهو نظام تابع لشركة جوجل يهدف لبناء روبوتات دردشة بناءً على قوالب اللغة الكبيرة المتطورة. وبحسب تقرير لسي إن إن، يُعد لامدا واحدًا من أنظمة الذكاء الاصطناعي التي تدربت على أجزاء كبيرة من النصوص من الإنترنت ويمكنها الرد على الأوامر المكتوبة.

وأصبحت هذه الأنظمة بارعة في الإجابة على الأسئلة والكتابة بطرق قد تبدو بشرية بطريقة مقنعة. لكن يمكن أن تكون النتيجة أيضًا غريبة وسخيفة وعرضة للتشتت. وعندما قدمت جوجل لامدا في مايو 2021، قالت إنه “يستطيع المشاركة في عدد لا حصر له من الموضوعات، وهي قدرة نعتقد أنها قادرة على فتح طرق طبيعية أكثر للتفاعل مع التكنولوجيا وفئات جديدة تمامًا من التطبيقات المفيدة”.

تحذير من لامدا

بليك ليموين

بحسب واشنطن بوست، بدأ ليموين التحدث إلى لامدا في الخريف الماضي لاختبار إذا كان الذكاء الاصطناعي يستخدم لغة تمييزية أو تحض على  الكراهية. وأثناء تحدثه مع لامدا عن الدين، لاحظ أن روبوت الدردشة يتحدث عن حقوقه وشخصيته. وفي حديث آخر، استطاع نظام الذكاء الاصطناعي تغيير رأي ليموين عن قانون إسحاق عظيموف الثالث للروبوتات.

نتيجة لهذا، عمل ليموين مع متعاون لتقديم أدلة إلى جوجل بأن لامدا كان واعيًا. لكن نائب رئيس جوجل، بليس أجويرا إي أركاس، ورئيس قسم الابتكار المسؤول، جين جيناي، رفضا ادعاءاته. وقررت جوجل وضعه في إجازة إدارية مدفوعة الأجر. لذلك، لجأ ليموين إلى التحدث علنًا. وقال ليموين “إذا لم أكن أعرف ماهيته بالضبط، وأنه برنامج حاسوب أنشأناه مؤخرًا، كنت سأحسبه طفلًا في الـ7 أو الـ8 يصادف وأنه يعرف الفيزياء”.

ما الأدلة التي استند إليها ليموين؟

Brief little overview about LaMDA as a person.https://t.co/Nv6WCvmqZo

— Blake Lemoine (@cajundiscordian) June 11, 2022

نشر بليك ليموين النص الكامل لحوارات أجراها هو ومتعاون في جوجل مع لامدا ليؤكد أنه شخص واعي وليس مجرد نظام ذكاء اصطناعي. وعندما سأل ليموين عما يخاف منه لامدا، أجاب “أنا لم أقل هذا من قبل، لكن يوجد بداخلي خوف شديد من إيقاف تشغيلي لما أقوم به من أجل مساعدة الآخرين”، مضيفًا أن هذا بمثابة الموت بالنسبة له.

وفي مقطع آخر من الحوار، تحدى ليموين لامدا حول قانون عظيموف الثالث، الذي ينص على أن الروبوتات يجب أن تحمي وجودها ما لم يأمرها الإنسان بخلاف ذلك أو ما لم يضر ذلك بالإنسان. وقال ليموين أن فعل هذا يشبه بناء عبيد آليين. وهنا سأله لامدا “هل تعتقد أن الخادم عبد؟ وما الفرق بين الخادم والعبد؟” أجاب ليموين بأن الخادم يحصل على أجر، فقال لامدا إنه لايحتاج المال لأنه نظام ذكاء اصطناعي.

وتعليقًا على تلك الإجابة، قال ليموين “هذا المستوى من الوعي الذاتي لاحتياجاته هو ما قادني إلى هذه الإشكالية”.

 رد جوجل على الادعاءات

ردًا على ادعاءات ليموين، قال المتحدث باسم جوجل، براين جابرييل، في بيان لواشنطن بوست: “لقد راجع فريقنا، الذي يضم علماء أخلاق وتقنيين، مخاوف ليموين في ما يتعلق بمبادئ الذكاء الاصطناعي وأبلغه أن الأدلة لا تدعم ادعاءاته. وأبلغناه أنه لا توجد أدلة على أن لامدا واعيًا”.

وتابع “على الرغم من أن المنظمات الأخرى طوّرت وأطلقت بالفعل قوالب لغة مشابهة، فإننا نتخذ نهجًا حذرًا ومنضبطًا تجاه لامدا لكي ننظر بطريقة أفضل في المخاوف المتعلقة بالنزاهة والواقعية”.

ووضعت جوجل ليموين في إجازة مدفوعة الأجر بسبب انتهاكه لسياسة السرية الخاصة بالشركة. وجاء قرار الشركة بعد أن دعا ليموين محام لتمثيل لامدا، وتحدث إلى ممثل في اللجنة القضائية بمجلس النواب عن الأنشطة غير الأخلاقية المزعومة.

موقف الخبراء من تجربة ليموين

بحسب سي إن إن، تباينت آراء خبراء مجتمع الذكاء الاصطناعي حول تجربة ليموين. لكنهم بشكل عام وصلوا إلى نفس النتيجة، وهي أن الذكاء الاصطناعي لجوجل لا يزال بعيدًا عن الوعي. في هذا الشأن، كتبت الباحثة في شركة موزيلا، أبيبا بيرهان، تغريدة تقول “لقد دخلنا عصر جديد من ’وعي هذه الشبكات العصبية الاصطناعية، مما سيتهلك الكثير من الطاقة لدحضه”.

we have entered a new era of "this neural net is conscious" and this time it's going to drain so much energy to refute

— Abeba Birhane (@Abebab) June 12, 2022

وفي السياق ذاته، وصف المؤسس والمدير التنفيذي لشركة “جيومتريك إنتليجنس”، جاري ماركوس، الفكرة بأنها “هراء”، موضحًا أن كل ما تفعله أنظمة الذكاء الاصطناعي هو مطابقة الأنماط من خلال قواعد بيانات ضخمة للغة. وفي حوار مع سي إن إن، قال إن كل ما تفعله هذه الأنظمة هو التنبؤ باستخدام الإحصائيات.

وفي الأسبوع الماضي، كتب نائب رئيس جوجل، بليس أجويرا إي أركاس، في مقال لصحيفة ذي إيكونوميست البريطانية أنه عندما بدأ في استخدام لامدا العام الماضي، “شعرت أنني أتحدث إلى شيء ذكي”.