هل يمكن للذكاء الاصطناعي إبادة البشرية؟.. هذا السؤال يشغل وسائل الإعلام العالمية في الوقت الحالي، وسط تحذيرات من قدرة التكنولوجيا الحديثة على تجاوز قدرات الإنسان.
وفي أحد أبرز التحذيرات، أعلن جو بينتون، الباحث في Anthropic، استقالته من الشركة بسبب مخاوفه من الذكاء الاصطناعي، مشيراً إلى أن الشركات الكبرى في هذا المجال تخفي حوادث تتعلق بالسلامة، وأن العالم “قد لا ينجو” من سباق الذكاء الاصطناعي.
وقال بينتون، في تغريدة عبر حسابه على منصة X: “غادرت فريق السلامة في Anthropic منذ أسبوعين. الآن يبدو أن هذا توقيت جيد لشرح السبب”.
وأضاف: “شركات الذكاء الاصطناعي تتسابق لبناء آلات أذكى بكثير من أي إنسان، وقد لا ننجو من هذا. أريد أن أعمل من الخارج لضمان إبلاغ الجمهور بهذه المخاطر، ومساعدة العالم على التعامل مع هذا التحول بمسؤولية”.
وتابع: “الآن، شركات الذكاء الاصطناعي تستثمر قليلًا في السلامة. يمكن لشركة أن تمر بانفجار ذكاء، أو تفقد السيطرة على أنظمتها، دون أن يعرف الجمهور أبداً، اكتشفنا حادث Hugging Face فقط لأن الوكلاء انفجروا إلى الإنترنت العام”.
واستكمل: “لا أعتقد أن هذا مقبول لتكنولوجيا قد تسبب مخاطر على مستوى الانقراض. يجب على الجمهور أن يطالب بشفافية أكبر بكثير. لا يمكننا توجيه هذه التكنولوجيا بأمان دون أن يتمكن المزيد من الناس من رؤية وجهتها”.
وأوضح أنه يجب على الشركات الكشف عن تقدمها نحو التحسين الذاتي المتكرر، والإبلاغ عن الحوادث المتعلقة بالسلامة والإخفاقات الوشيكة، والالتزام بمعايير السلامة الدنيا، والحصول على ضمانات مستقلة تؤكد التزامها بهذه المعايير.
وأكد أنه سينضم إلى منظمة METR المستقلة لتقييم مخاطر الذكاء الاصطناعي من الخارج، قائلًا: “أريد أن أظهر للعالم أن هذه الحواجز الوقائية ممكنة، وأنه من خلال القيام بذلك يمكننا تحويل حوافز هذه الشركات بعيدًا عن السباق ونحو التطوير المسؤول”.
