علماء يحذرون: الذكاء الاصطناعي العام سيخرج عن سيطرة البشر

حذر بعض علماء الذكاء الاصطناعي، من تطوير الذكاء الاصطناعي العام المبني على شكل «وكلاء»، لأنه سيكون خطيرًا وسيخرج عن سيطرة البشر.

وأعلنت شركات التكنولوجيا الكبرى عن استثمارها بمليارات الدولارات من أجل تطوير الذكاء الاصطناعي العام الشبيه بالبشر، والذي من المقرر الوصول إليه قريبًا.

ما هو الذكاء الاصطناعي العام؟

الذكاء الاصطناعي العام (AGI)، عبارة عن نظام ذكاء اصطناعي يمكنه أن يفهم ويحل المسائل الرياضية، والتي تتطلب قدرات استدلالية عالية ودقة مطلقة. فالرياضيات هي لغة العلوم والمنطق، وتمثل تحديا كبيرا للذكاء الاصطناعي الحالي، وإذا حدث تقدمًا في الذكاء الاصطناعي العام فسيكون له تأثيرًا كبيرًا على البحث العلمي والابتكار. ولكن، هذا النجاح قد يحمل مخاطر أيضا.

اقرأ أيضًا: «يعادل قنبلة مدمرة للكون».. ما الذكاء الاصطناعي العام ومتى سنصل إليه؟

 وحذر باحثون في شركة أوبن إيه آي في رسالتهم إلى مجلس الإدارة، من هذا الأمر، قائلين «الذكاء الاصطناعي العام (AGI) هو نظام ذكاء اصطناعي يمكنه أن يتفوق على البشر في كل المجالات، وقد يكون له مصالح وأهداف مختلفة عن البشرية، لذلك، يجب أن توضع له حدودًا، ونضمن أنه يعمل لمصلحة البشرية وليس ضدها».

ويختلف الذكاء الاصطناعي العام (AGI) عن التوليدي، في أنه أقرب إلى التفكير كشخص ويمكنه ربط معلومات مختلفة ووضعها في سياق عام واحد، والنتيجة هي أنه يبدو كجهاز كمبيوتر أقرب إلى الإنسان، يمكنه التعبير عن أفكاره وعواطفه التي لا تتشابه مع أحد، ويمكنه اتخاذ قرارات مستقلة دون أي مدخلات أو تفاعل بشري.

مخاوف من الذكاء الاصطناعي العام

وفي أحدث حلقة من بودكاست «Beyond The Valley» على قناة سي إن بي سي «CNBC»، تحدث ماكس تيجمارك، أستاذ في معهد ماساتشوستس للتكنولوجيا ورئيس معهد مستقبل الحياة، ويوشوا بينغيو، الملقب بأحد «عرابي الذكاء الاصطناعي» وأستاذ في جامعة مونتريال، عن مخاوفهما بشأن الذكاء الاصطناعي العام (AGI)، إذ يشير المصطلح على نطاق واسع إلى أنظمة الذكاء الاصطناعي التي هي أذكى من البشر.

وتنبع مخاوفهم من حديث أكبر شركات العالم الآن عن «عملاء الذكاء الاصطناعي» أو «الذكاء الاصطناعي الوكيل»، وهو ما تزعم الشركات أنه سيسمح لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي بالعمل كمساعدين أو عملاء وتقديم المساعدة في العمل والحياة اليومية، وتختلف تقديرات الصناعة بشأن موعد ظهور الذكاء الاصطناعي العام.

وقال يوشوا بينغيو، إنه مع هذا المفهوم تأتي فكرة أن أنظمة الذكاء الاصطناعي يمكن أن يكون لديها بعض «الوكالة» والأفكار الخاصة بها.

اقرأ أيضًا.. حذّر من «الذكاء الاصطناعي الفائق».. من هو إيميت شير الرئيس الجديد لشركة ChatGPT؟

وأضاف: «قد استوحى الباحثون في مجال الذكاء الاصطناعي من الذكاء البشري لبناء الذكاء الآلي، وفي البشر، هناك مزيج من القدرة على فهم العالم مثل الذكاء الخالص والسلوك الوكيل، مما يعني … استخدام معرفتك لتحقيق الأهداف».

وتابع: «في الوقت الحالي، هذه هي الطريقة التي نبني بها الذكاء الاصطناعي العام: نحاول أن نجعلهم وكلاء يفهمون الكثير عن العالم، ومن ثم يمكنهم التصرف وفقًا لذلك، لكن هذا في الواقع اقتراح خطير للغاية».

وأوضح أن اتباع هذا النهج سيكون بمثابة «إنشاء نوع جديد أو كيان ذكي جديد على هذا الكوكب وعدم معرفة ما إذا كانوا سيتصرفون بطرق تتفق مع احتياجاتنا؛ لذا، يمكننا بدلاً من ذلك أن نفكر في السيناريوهات التي قد تسوء فيها الأمور وتعتمد جميعها على الوكالة؟ بعبارة أخرى، لأن الذكاء الاصطناعي لديه أهدافه الخاصة، فقد نكون في ورطة».

وقال بينجيو إن فكرة الحفاظ على الذات قد تظهر أيضًا مع تزايد ذكاء الذكاء الاصطناعي، معلقًا: «هل نريد أن نتنافس مع كيانات أذكى منا؟ إنها ليست مقامرة مطمئنة، أليس كذلك؟.. لذا يتعين علينا أن نفهم كيف يمكن أن يصبح الحفاظ على الذات هدفًا في مجال الذكاء الاصطناعي».

أدوات الذكاء الاصطناعي هي المفتاح

ويرى ماكس تيجمارك، الأستاذ في معهد ماساتشوستس للتكنولوجيا، أنه يكمن المفتاح في ما يسمى بـ«الذكاء الاصطناعي للأدوات»،  والأنظمة التي تم إنشاؤها لغرض محدد ومحدد بدقة، ولكنها لا تحتاج إلى أن تكون وكلاء.

وقال تيجمارك، إن أداة الذكاء الاصطناعي يمكن أن تكون نظامًا يخبرك بكيفية علاج السرطان، أو شيء يمتلك «قدرًا من الوكالة» مثل السيارة ذاتية القيادة  «حيث يمكنك إثبات أو الحصول على بعض الضمانات العالية والموثوقة حقًا بأنك ستظل قادرًا على السيطرة عليها».

اقرأ أيضًا.. الأب الروحي للذكاء الاصطناعي يحذّر من «مستقبل مرعب»

وقال تيجمارك: «أعتقد، من منظور متفائل هنا، أنه يمكننا الحصول على كل ما يثير حماسنا تقريبًا فيما يتعلق بالذكاء الاصطناعي… إذا أصررنا ببساطة على وجود بعض معايير السلامة الأساسية قبل أن يتمكن الناس من بيع أنظمة الذكاء الاصطناعي القوية».

وتابع: «يتعين عليهم أن يثبتوا أننا قادرون على إبقاء هذه الشركات تحت السيطرة.، ومن ثم فإن الصناعة سوف تبتكر بسرعة لمعرفة كيفية القيام بذلك على نحو أفضل».

موعد وصول الذكاء الاصطناعي العام

هناك وجهات نظر مختلفة بشأن موعد وصول الذكاء الاصطناعي العام، ويرجع ذلك جزئيًا إلى التعريفات المختلفة.

وقال سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي OpenAI، إن شركته تعرف كيفية بناء الذكاء الاصطناعي العام، مشيرًا إلى أنه سيصل في وقت أقرب مما يعتقد الناس، على الرغم من أنه قلل من تأثير التكنولوجيا.

اقرأ أيضًا: كيف تستثمر في تشات جي بي تي ChatGPT؟

وأضاف ألتمان: «أعتقد أننا سنصل إلى الذكاء الاصطناعي العام في وقت أقرب مما يعتقد معظم الناس في العالم، وسوف يكون الأمر أقل أهمية».