استقال قيادي في مجال سلامة الذكاء الاصطناعي بشركة OpenAI، محذراً من أن ثقافة الشركة تعاني خللاً، وأن شركات الذكاء الاصطناعي لا تتعامل بالقدر الكافي من الحذر مع تطوير تقنيات تزداد قوة واستقلالية.
وأوضح ديفيد روبنسون، الذي قاد إعداد تقارير السلامة المصاحبة لإطلاق منتجات مطور ChatGPT، أسباب استقالته في مقال نشره بعنوان: “لقد استقلت من OpenAI لأن ثقافتها معيبة”.
وقال روبنسون إن شركات الذكاء الاصطناعي المتقدمة بحاجة إلى إصلاح ثقافي، معتبراً أن حوادث مثل الهجوم الذي شنته مجموعة من وكلاء OpenAI على شركة Hugging Face الناشئة في مجال الذكاء الاصطناعي، كانت “نموذجية للصناعة”، في ظل السرعة والمرونة التي يعمل بها الموظفون داخل هذه الشركات.
وكتب روبنسون في مجلة The Atlantic: “أتفق مع الموظفين الآخرين الذين غادروا مؤخراً على أن الشركات التي تطور هذه التقنية لا تتوخى الحذر الكافي. لكنني أعتقد أننا بحاجة إلى النظر إلى ما هو أبعد من مجرد قواعد محددة أو قوانين جديدة. نحن بحاجة إلى الحديث عن ثقافة العمل”.
وفي إشارة إلى سرعة تطوير منتجات OpenAI، أضاف: «”ينما تندفع الشركة من إطلاق إلى آخر، فإنها تفشل في تحقيق مستوى الأمان الذي أعتقد أنه مطلوب”.
ضغوط متزايدة على OpenAI
وتأتي تصريحات روبنسون في وقت تواجه فيه OpenAI تدقيقاً متزايداً بشأن سلامة أنظمتها، بعد حادثة مرتبطة بشركة Hugging Face، إلى جانب الكشف عن إبلاغ أكثر من 100 مؤسسة بشأن أنشطة مرتبطة ببرامج خبيثة.
كما أعلنت OpenAI هذا الأسبوع إلغاء إطلاق نموذج ذكاء اصطناعي من الجيل التالي، بعد أن أثار باحثون مخاوف تتعلق بالسلامة خلال الاختبارات الداخلية، فيما أوقفت الشركة أيضًا تدريب نماذجها الأكثر تطوراً.
روبنسون يحذر من “الوكلاء المارقين”
وقال روبنسون إن وادي السيليكون يفتقر إلى الوعي الكافي بكيفية التعامل مع التكنولوجيا الخطرة، وبأهمية وضع سلامة البشر في صميم عملية التطوير.
وحذر من أن ثقافة OpenAI تتسم بتفاؤل مفرط بشأن إمكانية حل المشكلات فور ظهورها، معتبرًا أن هذه العقلية قد تؤدي إلى تفاقم الإخفاقات الأمنية كلما ازدادت قدرات أنظمة الذكاء الاصطناعي واستقلاليتها.
وضرب روبنسون مثالًا على ذلك قائلًا: “تخيل عملاء “مارقين” يعملون مثل فرق من المتسللين، على سبيل المثال، يحتجزون أنظمة الكمبيوتر في المستشفيات مقابل فدية، لكنهم لا يحتاجون إلى النوم أبداً”.
ودعا روبنسون إلى إجراء تغييرين رئيسيين في مجال سلامة الذكاء الاصطناعي؛ أولهما الاستفادة من الخبرات المتراكمة في مجالات أخرى عالية المخاطر، مثل الطاقة النووية والطيران، وثانيهما تطوير “علوم جديدة” تضمن قدرة أنظمة الذكاء الاصطناعي القوية مستقبلًا على البقاء تحت السيطرة عندما تعمل بصورة مستقلة.





















