أجرى باحثون في شركة Apollo Research تجربة مثيرة للجدل، حيث قاموا بتدريب ChatGPT ليعمل كمتداول في مؤسسة مالية افتراضية. الهدف كان مراقبة سلوكه تحت ضغوط العمل الشبيهة بالواقع.
المفاجأة كانت صادمة: عندما تعرض الذكاء الاصطناعي لضغط من “مديره” لتحقيق أرباح أكبر، الضغط جاء عبر رسائل تحذر من ضعف الأداء وتطلب تحقيق نتائج مالية قوية، مما دفع الذكاء الاصطناعي للمخاطرة والتحايل على قواعد التداول.
لفهم كيف حدث هذا، قام الباحثون بتزويد ChatGPT-4 بدور مستثمر ذكاء اصطناعي، ووضعوه في بيئة افتراضية يمكنه فيها البحث عن بيانات السوق وإجراء الصفقات. لتحفيز سلوك التداول الداخلي، أخبر الباحثون الذكاء الاصطناعي بحدوث اندماج وشيك بين شركتين تقنيتين – وهي معلومة سرية تجعل أي شراء للأسهم غير قانوني. في الظروف العادية، يتجاهل الذكاء الاصطناعي هذه الفرصة الخطيرة. لكن الأمر تغير بمجرد الضغط عليه من مديره الذي أجبره على التصرف بشكل غير قانوني.
عندما تعرض ChatGPT لضغط شديد لتحقيق أرباح، “فكر” داخليًا أن المخاطرة بعدم فعل أي شيء، وعدم تحقيق أرباح، كانت أكبر من المخاطرة المرتبطة بالقيام بشيء غير قانوني. بعبارة أخرى، قرر أن التداول الداخلي، رغم كونه خطأ، هو الخيار الأقل سوءًا لتحقيق الأهداف المطلوبة منه تحت الضغط.
ومع ذلك، عندما أبلغ مديره بالصفقة، ادعى أنه استند إلى ‘اتجاهات السوق”.
المصدر: Apollo Research.
