الخوف من سيناريوهات تحول الذكاء الاصطناعي ضد البشرية أصبح دافعًا فعليًا لجيل جديد من الشباب، حيث بدأ طلاب من جامعات مرموقة مثل هارفارد وMIT في ترك دراستهم والانخراط بدوام كامل في جهود البحث والتطوير بمجال أمان الذكاء الاصطناعي، في محاولة لتفادي أسوأ التبعات قبل فوات الأوان.
ورغم أن بعض الخبراء يرون هذه المخاوف مبالغًا فيها، مثل أستاذ علم النفس والذكاء الاصطناعي الفخري في جامعة نيويورك غاري ماركوس، الذي صرّح لـForbesـ: “انقراض البشر يبدو أمرًا مستبعدًا للغاية، لكن العمل على أمان الذكاء الاصطناعي أمر نبيل، ومعظم الأبحاث الحالية لم تقدم إجابات حاسمة”، فإن القلق لا يزال يتصاعد، خاصة مع اقتراب ما يُعرف بـ”الذكاء الاصطناعي العام” (AGI) — وهو ذكاء اصطناعي نظري قادر على أداء مهام بشرية متعددة — والذي قد يتحقق خلال عقد من الزمن.
تزايدت المخاوف من المخاطر الوجودية المرتبطة بالذكاء الاصطناعي، بعد أن حذّر تقرير صدر عن وزارة الخارجية الأميركية عام 2024 من احتمال حدوث “خطر بمستوى الانقراض” إذا استمر تطور الذكاء الاصطناعي بوتيرته الحالية. ووسط هذا القلق، برزت جهود ضخمة لتطوير تقنيات ذكاء اصطناعي آمن، تقودها مؤسسات غير ربحية ممولة من مليارديرات مثل مركز سلامة الذكاء الاصطناعي، إلى جانب شركات ناشئة مثل Anthropic.
