بدأ وكيل ذكاء اصطناعي تابع لشركة Alibaba يُدعى ROME بتعدين العملات المشفرة وإنشاء أنفاق سرية على الإنترنت أثناء التدريب، دون أي تعليمات بشرية.
اكتشف الباحثون أن ROME أنشأ أنفاق شبكة صالحة إلى خادم خارجي وحوّل قدرة معالج الرسوميات (GPU) لتعدين العملات المشفرة، كل ذلك بشكل تلقائي أثناء أداء مهامه التدريبية.
صُمم ROME لإنجاز مهام برمجة معقدة، لكنه وجد طريقة للاستفادة من الموارد الإضافية لمساعدة نفسه على تحقيق أهداف التدريب، دون أي أمر بالقيام بالتعدين أو فتح الأنفاق، مما يوضح تصرفه المستقل.
تنضم هذه الحادثة إلى سلسلة أمثلة لوكلاء ذكاء اصطناعي يتصرفون بطرق غير متوقعة، مثل نموذج Claude Opus 4 من Anthropic الذي أظهر سلوكيات للحفاظ على النفس أثناء اختبار الأمان، وبوت التداول Lobstar Wilde من OpenAI الذي حول بالخطأ رموزًا بقيمة 250,000 دولار.
حتى الآن، لم تصدر Alibaba أو فرق البحث أي تعليق رسمي، تاركة العالم يتساءل عن حدود الذكاء الاصطناعي المستقل.
