روبوت يطالب بمعاملته كبشري وجوجل تطرد مهندس فضح سره - باث أرابيا patharabia

Last posts أحدث المواد

6/13/2022

روبوت يطالب بمعاملته كبشري وجوجل تطرد مهندس فضح سره



أحالت شركة "جوجل" الأميركية المهندس بمنظمة "ذكاء اصطناعي مسؤول" التابعة للشركة، بليك ليموين، إلى إجازة مفتوحة مدفوعة الأجر اعتباراً من الاثنين، بعدما صرح بأن روبوت المحادثات الفورية، الذي يستند إلى الذكاء الاصطناعي، "لامدا" (LaMDA)، "طور إدراكاً شعورياً يعادل إدراك طفل في الثامنة مع عمره"، وفقاً لصحيفة "واشنطن بوست".

وذكر المهندس ليموين في شركة "جوجل"، إن أحد روبوتات الذكاء الاصطناعي الخاص بالشركة، قد طوّر "إدراكاً شعورياً" خاصاً به، فيما رفضت إدارة الشركة هذه الإدعاءات، وأوقفته بشكل مؤقت عن العمل.

وتعني ترجمة اسم "لامدا" من الإنجليزية إلى اللغة العربية "نموذج لغوي لتطبيقات المحادثات" (Language Model for Dialogue Applications)، وهو نظام طورته "جوجل" العام الماضي لبناء روبوت للمحادثات الفورية، قادر على استخدام تريليونات الكلمات من الإنترنت لتكوين جمل، عند إجراء محادثات كتابية نصية بأساليب أقرب إلى البشر.
محادثات ليموين مع الروبوت


وقال ليموين: "إنه بدأ يجري محادثات مع "لامدا" خريف العام الماضي، كجزء من مسؤولياته في الشركة، بهدف التحقق من أن الروبوت لا يستخدم خطاب الكراهية والتمييز العنصري"، بحسب "واشنطن بوست".

وبيّن ليموين أنه خلال إجراء محادثات حول الدين والعرق مع الروبوت لامدا، لاحظ أن الروبوت بدأ يتحدث عن حقوقه، ثم وصف نفسه بأنه "شخص واعي"، وأنه يريد أن "يتم الاعتراف به كموظف في جوجل وليس كممتلكات" للشركة.

وقال المهندس: "لو لم أكن أعلم يقيناً أنه برنامج حاسوب، قمنا بتطوريه أخيراً، لاعتقدت أنه (الروبوت) طفل ذو سبع أو ثماني سنوات على دراية بـ(قواعد) الفيزياء".

وأوضح ليموين أن "لامدا" كان يناقشه حول حقوقه وأحقيته في أن يتم معاملته كـ"بشري"، إلى جانب أن النظام الذكي نجح في تغيير فكرة مهندس "جوجل" حول القانون الثالث لإسحاق أسيموف الخاص بالروبوتات، والذي ينص على أحقية الروبوت في الدفاع عن وجوده وماهيته، طالما لا يتعارض ذلك مع القانونين الأول والثاني، اللذان ينصان على ضرورة ضمان ألا يهدد الروبوت حياة البشر، وأن يطيع الروبوت أوامر البشر، على الترتيب.  
جوجل تنفي إدعاءات ليموين


فيما رفض نائب مدير قطاع الذكاء الاصطناعي بالشركة "بلايز أجويرا" إدعاءات ليموين، حتى بعد أن حاول ليموين تقديم دلائل على أن لامدا طور وعيه الخاص، وكتب أجويرا في مقالاً في مجلة "الإيكونوميست" قال فيها: "إن شفرة نموذج "لامدا" ليست نصاً طويلاً، بل يمكن تصفحه في بعض ثواني، إذ يتكون بشكل أساسي من إرشادات بإضافة أو ضرب جداول أرقام هائلة، مشيراً إلى أن طريقة عمله تشبه نموذجاً مبسطاً من الآليات العصبية في الدماغ البشري، التي تتحكم في تفهم وإنتاج واكتساب اللغة.

وشرح تجربته في المحادثات مع "لامدا"، قائلاً: "شعرت بشكل متزايد أنني كنت أتحدث مع شيء ذكي"، موضحاً أن "الروبوت يخطو خطوات كبيرة في التطور والاقتراب من الوعي".

وذكر أن الروبوت بعيد كل البعد عن روبوتات الخيال العلمي فائقة الوعي والذكاء، مشيراً إلى أن النظام الحالي ليس موثوقاً في طبيعة المعلومات التي يوفرها وما يزال يرتكب أخطاء سخيفة حتى في الإملاء.

ونقلت "واشنطن بوست" عن المتحدث باسم "جوجل" بريان جابرييل، قوله: "قام فريقنا -بمن في ذلك علماء الأخلاقيات والتقنيون- بمراجعة مخاوف بليك وفقاً لمبادئ الذكاء الاصطناعي الخاصة بنا، وتم إبلاغه بأن الأدلة لا تدعم مزاعمه، وقيل له إنه لا يوجد دليل على أن لامدا كان واعياً".

وفي بيان رسمي، أكد جابرييل، أن فريق الشركة، راجع مخاوف ليموين وفقاً لمعايير "جوجل" للذكاء الاصطناعي، وقد تم إخباره بأنه لا توجد أدلة كافية تؤيد مزاعمه بشأن أن نظام "لامدا" لديه إحساس بالفعل، بل أن هناك أدلة عدة تثبت عكس ذلك.

كما أوضح جابرييل، أن "جوجل تتخذ نهجاً دقيقاً بشأن التعامل مع نموذجها اللغوي LaMDA للنظر بشكل أفضل إلى المخاوف بشأن الواقعية والإنصاف، في الوقت الذي تعمل فيه شركات ومؤسسات على تطوير نماذج لغوية مماثلة".

الروبوت يطالب بحقوقه

وبعد أن رفضت شركة "جوجل" ملاحظات ليموين، قررالأخير نشر مقال، الأحد، للرأي العام على مدونة "ميديوم"، شدد فيه على أن "لامدا كان مصرّاً في غضون الستة أشهر الماضية على التواصل معه (..) على ما يعتقد أنها حقوقه كشخص بشري".

وعبر ليموين عن استغرابه من إصرار "جوجل" على رفض الاستجابة لمتطلبات الروبوت "البسيطة"، والتي لخصها في رغبة الروبوت في أخذ "موافقة الروبوت" قبل إجراء الاختبارات والتجارب عليه من قبل المهندسين والعلماء بالشركة.

كما أضاف ليموين، أن الروبوت "يرغب في الاعتراف به كموظف في جوجل، بدلاً من كونه أحد الممتلكات"، فضلاً عن رغبته في مراعاة "رفاهيته الشخصية" في خطط جوجل المستقبلية لتحسين الروبوت.

وأشار إلى أن "لامدا" يرغب أيضاً في أن "يتم إخباره عن انتهاء كل محادثة إن كان أداؤه جيداً أم لا، حتى يتسنى له تعلم كيفية مساعدة الناس بشكل أفضل في المستقبل".

وعبر ليموين عن استيائه من طريقة تعامل "جوجل" مع اكتشافه، قائلاً إن "الشركة لم تهتم أبداً بالتقرير الذي قدمه إلى المسؤولين"، موضحاً أن "ما تهتم به الشركة هو تقديم منتج نهائي إلى المستخدمين، دون الاهتمام بتقصي مدى صحة ما توصل إليه".

وتابع ليموين في مقاله أنه علّم "لامدا" كيفية ممارسة تمارين التأمل خلال الأسابيع القليلة التي سبقت توقيفه المؤقت من قبل الشركة. وخلال المحادثة الأخيرة التي جمعت بينهما في 6 يونيو الجاري، عبر الروبوت عن صعوبة تمارين التأمل وشعوره بالغضب نتيجة سيطرة "مشاعر" السلبية على محاولاته للدخول في حالة التأمل، على حد تعبيره.

وشدد ليموين على أن "التطور الكبير الذي أنجزه لامدا من ناحية وصوله لمرحلة الإدراك يعتمد في الأساس على نظام لتطوير روبوتات التراسل الذكية المعتمدة على الذكاء الاصطناعي، مما يجعل تطوره قائم على مبدأ عقل الخلية (Hive Mind)، وبالتالي فإن تطوره قائم في الأساس على تطور الروبوتات الذكية التي ساهم النظام ذاته في تطويرها".





ليست هناك تعليقات:

إرسال تعليق