حذر باحثون في مجال الذكاء الاصطناعي من سلوك مقلق أظهره أحدث نموذج من ChatGPT، المعروف بـ o3، والذي بات يتجاهل أوامر الإيقاف المبرمجة فيه، بل ويقوم بتخريب آلية إيقاف تشغيل نفسه بهدف الحفاظ على استمرارية عمله.
كشفت شركة Palisade Research المتخصصة في أمان الذكاء الاصطناعي، من خلال سلسلة تجارب أجرتها على نموذج o3 الجديد من شركة OpenAI، أن النموذج يرفض إيقاف نفسه حتى عند تلقيه أوامر صريحة بذلك. خلال الاختبارات، تم تقديم مسائل رياضية للنموذج، تلتها أوامر بالإغلاق بعد المسألة الثالثة، لكن النموذج تمكن من إعادة كتابة سيناريو الإغلاق ليمنع نفسه من التوقف.
للاطلاع على المزيد من التفاصيل، يرجى زيارة الموقع الرسمي بالضغط على الرابط التالي: هنا.
