أوقفت شركة غوغل مؤقتًا إنشاء الصور بواسطة برنامج الذكاء الاصطناعي Gemini AI بعدما رصد مستخدمون صورًا تاريخية غير دقيقة لبعض الشخصيات أو المجموعات التاريخية من بينهم الآباء المؤسسين لأميركا.
وقال مستخدمون إن الأداة الجديدة من غوغل لإنشاء الصور تحاول تجنب العنصرية بطريقة مبالغ فيها، إذ أن روبوت Gemini AI الخاص بالشركة أنتج صورًا تعكس تنوعًا كبيرًا في الجنس والعرق حتى في الحالات التي لا تتوافق مع الواقع التاريخي. فمثلاً، عند البحث عن صور لمؤسسي أمريكا، ظهرت نتائج تضم نساء وأشخاص ذوي بشرة ملونة.
وفي أول تعليق من الشركة اعترفت بأن «أداتها تحتاج إلى تحسين»، واتخذت قرارًا بتسريح مسؤول تحسين الخوارزميات في البرنامج أليكس كوهين.
اقرأ أيضًا.. ماذا يخبئ لنا الذكاء الاصطناعي في 2024؟.. هذه توقعات الخبراء
ما هو Gemini AI؟
Gemini AI هو برنامج جديد من جوجل يستخدم الذكاء الاصطناعي لإنشاء صور للأشخاص والأشياء والمشاهد بناءً على وصف نصي. يمكن للمستخدمين طلب صورة لأي شيء يريدونه، مثل “رجل يرتدي قبعة” أو “منظر طبيعي خلاب”، وسيقوم Gemini AI بتوليد مجموعة من الصور المحتملة لهم.
وبدأت غوغل في تقديمه هذا الشهر لمنافسة شركتي أوبن إيه آي ومايكروسوفت. تستخدم Gemini خوارزميات الذكاء الاصطناعي لإنتاج صور متنوعة من أي نص تدخله.
يعتمد Gemini AI على نموذج الذكاء الاصطناعي الضخم الذي طورته جوجل بالتعاون مع DeepMind، وهو متعدد الوسائط، وعام، ومرن، ويمكنه فهم والتفكير عبر أنواع مختلفة من المعلومات، مثل النص، والكود، والصوت، والصورة، والفيديو.
ما هي المشاكل التي واجهها Gemini AI؟
مؤخرًا، اكتشف بعض المستخدمين أن Gemini AI ينتج صورًا غير دقيقة لبعض الشخصيات أو المجموعات التاريخية، في محاولة لزيادة التنوع في الصور النمطية المتعلقة بالجنس والعنصرية في الذكاء الاصطناعي التوليدي. مثلاً، طلب بعض المستخدمين صورًا للآباء المؤسسين للولايات المتحدة أو الجنود الألمان في الحقبة النازية، وحصلوا على صور لأشخاص من أعراق وأجناس مختلفة عن الواقع. وقد أثارت هذه الصور غضبًا وجدلاً على الإنترنت، واتهم مستخدمون شركة غوغل بالتلاعب بالتاريخ أو تجنب تمثيل الأشخاص البيض.
محرر موقع The Verge أجرى أيضًا تجربة حيث قال «عندما حاولت إنشاء صور للكلاب باستخدام Gemini AI، واجهت مشكلة غريبة. برنامج الدردشة الآلي رفض الاستجابة. لكن عندما استخدمت شبكة VPN، استطعت الحصول على الصور التي أردتها».
اقرأ أيضًا.. جيميني.. هل العرض التوضيحي لنموذج غوغل للذكاء الاصطناعي الجديد مزيفًا؟
كيف ردت غوغل على المشاكل؟
اعتذرت غوغل عن عدم الدقة في بعض الصور التاريخية التي أنشأها Gemini AI، وقالت إنها تعمل على معالجة المشكلات. كما قررت تعليق ميزة إنشاء الصور للأشخاص في Gemini AI مؤقتًا، حتى تتمكن من تحسين النموذج وإعادة إصدار نسخة محسنة.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
وأكدت غوغل في بيان نُشر على X: «نحن نعمل بالفعل على معالجة المشكلات الأخيرة المتعلقة بميزة إنشاء الصور في Gemini AI. بينما نقوم بذلك، سنقوم بإيقاف إنشاء الصور للأشخاص مؤقتًا وسنعيد إصدار صورة محسنة النسخة قريبا».
وقال جاك كراوزيك، المدير الأول لشركة جيميني إكسبيرينسيز (Gemini Experiences)، «إن مولد الصور الذكي لـ Gemini يخلق مجموعة متنوعة من الأشخاص. وهذا شيء إيجابي بشكل عام لأن الناس من جميع أنحاء العالم يستعملونه. لكنه لا يأخذ بعين الاعتبار السياق هنا».
اقرأ أيضًا.. جيميني.. تعرّف إلى أداة غوغل الجديدة المنافسة لـ«تشات جي بي تي»
من جهة أخرى، قررت الشركة فصل مسؤول تحسين الخوارزميات في الشركة أليكس كوهين. وقال أليكس عبر حسابه على منصة إكس: «للأسف، تم فصلي من Google اليوم. كنت أعمل على تحسين الخوارزميات لمشروع Gemini AI»، مضيفًا «لم أكن أعلم حتى أنني تم تسريحي حتى رأيت التغريدات السلبية وفقدت حسابي على Hangouts وGoogle Drive. مديري أخبرني بالأمر عبر الرسائل القصيرة».
Sad to share that I was laid off from Google today. I was in charge of making the algorithms for Gemini as woke as possible.
After complaints on Twitter surfaced today, I suddenly lost access to Hangouts and Google Drive, and my manager (he/him), texted me to let me know that i…
— Alex Cohen 🤠 (@anothercohen) February 22, 2024
وأضاف «سأحصل على سنة كاملة من التعويضات وأنا أفكر في خطوتي التالية، أتمنى أن أحصل على 2.7 مليون دولار من التعويضات».
ليست المرة الأولى
هذه ليست المرة الأولى التي يواجه فيها الذكاء الاصطناعي مشاكل في التعامل مع قضايا التنوع. فعلى سبيل المثال، اضطرت شركة غوغل إلى الاعتذار قبل حوالي عشر سنوات بعد أن وصف تطبيق الصور الخاص بها صورة لزوجين أسودين بأنها «غوريلا».
وكذلك، واجهت شركة OpenAI شركة الذكاء الاصطناعي الرائدة انتقادات بسبب تعزيزها للصور النمطية السلبية، بعد أن لاحظ المستخدمون أن مولد الصور Dall-E الخاص بها رد على استفسارات الرئيس التنفيذي، على سبيل المثال، بنتائج تسيطر عليها صور الرجال البيض.
