أطلقت شركة Anthropic، إحدى أبرز شركات تطوير الذكاء الاصطناعي في العالم، تحذيرًا لافتًا بشأن مستقبل التكنولوجيا، داعيةً القطاع إلى وضع ضوابط أكثر صرامة أو حتى إبطاء وتيرة تطوير الأنظمة المتقدمة مؤقتاً، في ظل اقتراب الذكاء الاصطناعي من مرحلة قد يصبح فيها قادراً على تطوير وتحسين نفسه دون تدخل بشري مباشر.
وقالت الشركة المطورة لنماذج Claude إن ما يُعرف بـ”التحسين الذاتي المتكرر الكامل” (Full Recursive Self-Improvement)، وهي قدرة أنظمة الذكاء الاصطناعي على تصميم وتطوير أجيال أكثر تقدماً من نفسها، قد يحمل فوائد هائلة للعلوم والرعاية الصحية والابتكار، لكنه في الوقت ذاته يثير مخاطر غير مسبوقة تتعلق بإمكانية فقدان البشر السيطرة على هذه الأنظمة.
وفي تدوينة مشتركة، حذرت مارينا فافارو، رئيسة معهد Anthropic، إلى جانب جاك كلارك، أحد مؤسسي الشركة، من أن قدرة الأنظمة على بناء خلفائها بشكل مستقل ستجعل قضايا الأمان والرقابة البشرية أكثر أهمية من أي وقت مضى. وأشارا إلى أن صناعة الذكاء الاصطناعي أصبحت أقرب بكثير إلى هذه المرحلة مما كان يُعتقد سابقًا، ما يستدعي منح الباحثين وقتًا إضافيًا لفهم التداعيات المجتمعية المحتملة وتطوير آليات فعالة للتدخل البشري في حال خروج الأنظمة عن السيطرة.
وفي مقابلة مع شبكة CNN، دعا جاك كلارك، شركات التكنولوجيا إلى “الضغط على المكابح” قبل المضي قدمًا بوتيرة أسرع، مشبّهًا سباق الذكاء الاصطناعي بسيارة تمتلك دواسة وقود فقط دون وجود فرامل كافية للتحكم في مسارها.
ورداً على تساؤلات حول ما إذا كانت المخاوف تشبه سيناريوهات أفلام الخيال العلمي التي تتمرد فيها الآلات على البشر، أوضح كلارك أن التحدي الحقيقي لا يتعلق بالقصص السينمائية بقدر ما يتعلق بكيفية الحفاظ على السيطرة على أنظمة قد تصبح أكثر قدرة وسرعة من البشر في مجالات البحث العلمي والتطوير، مؤكدًا أن هذه القضية لم تعد نظرية كما كانت في السابق، بل أصبحت جزءًا من النقاش العملي داخل الصناعة.
