مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

36 خبر
  • زيارة بوتين إلى الصين
  • نبض الملاعب
  • العملية العسكرية الروسية في أوكرانيا
  • زيارة بوتين إلى الصين

    زيارة بوتين إلى الصين

  • نبض الملاعب

    نبض الملاعب

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • بيسكوف: لدينا توقعات جدية جدا بشأن زيارة بوتين إلى الصين

    بيسكوف: لدينا توقعات جدية جدا بشأن زيارة بوتين إلى الصين

  • ليخاتشوف: القوات الأوكرانية شنت عشرات الضربات على محطة زابوروجيه النووية خلال اليوم الأخير

    ليخاتشوف: القوات الأوكرانية شنت عشرات الضربات على محطة زابوروجيه النووية خلال اليوم الأخير

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

رد إيراني على تهديدات واشنطن بصورة لترامب وصدام حسين.. ما علاقة الـ"3 أيام"؟

رضائي لـ RT: صدرت أوامر في حال الهجوم برا على إيران ألا يترك جندي أمريكي على قيد الحياة

الدفاع الإماراتية: إصابة مولد كهربائي خارج محطة براكة للطاقة النووية في منطقة الظفرة بمسيرة

"والا" العبري يكشف تفاصيل جديدة عن القاعدتين العسكريتين الإسرائيليتين السريتين في العراق

مستشار سابق بالدفاع العراقية: واشنطن خدعت بغداد وتحركات إسرائيل في صحراء العراق تمت بغطاء أمريكي

"قوة الفضاء.. زر أحمر وكائن فضائي".. ترامب ينشر صورا بالذكاء الاصطناعي لحرب يخوضها في الفضاء

تطورات جديدة في أزمة البحارة المصريين المختطفين بالصومال

الجيش الإسرائيلي يوجه إنذارا عاجلا لسكان 5 بلدات وقرى لبنانية

تقرير عبري يحذر من انهيار الجيش بسبب العبء على المجندين وتعاظم قوة مصر وإيران وحزب الله وحماس

ترامب يحذر إيران مجددا: الوقت ينفد وعليهم التحرك بسرعة وإلا لن يتبقى منهم شيء

بقائي يتحدث عن كذبة إسرائيل وأمريكا التالية لمواصلة الحرب على إيران وتوسيع نيرانها

لحظة بلحظة.. رغم تمديد الهدنة: إسرائيل تواصل قصف لبنان بالتوازي مع مسعى أمريكي لـ"تنسيق عسكري"

مقتل قيادي بحركة الجهاد الإسلامي وابنته جراء استهداف شقته جنوبي بعلبك بصاروخ إسرائيلي (فيديو)