مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

81 خبر
  • اتفاق وقف إطلاق النار بين إسرائيل ولبنان
  • العملية العسكرية الروسية في أوكرانيا
  • هدنة وحصار المضيق
  • اتفاق وقف إطلاق النار بين إسرائيل ولبنان

    اتفاق وقف إطلاق النار بين إسرائيل ولبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • فيديوهات

    فيديوهات

  • مونديال 2026

    مونديال 2026

  • منتدى بطرسبورغ الاقتصادي الدولي

    منتدى بطرسبورغ الاقتصادي الدولي

  • برشلونة يعطي الضوء الأخضر للمنتخب الإسباني بشأن موعد عودة لامين جمال

    برشلونة يعطي الضوء الأخضر للمنتخب الإسباني بشأن موعد عودة لامين جمال

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

"الأمن القومي" بالبرلمان الإيراني: سنرد على استهداف الضاحية.. ترقبوا سماء الأراضي المحتلة الليلة

مخاوف إسرائيلية من صفقات عسكرية مصرية تركية قد تغير موازين القوى في المتوسط

ترامب يكشف تفاصيل الاتفاق المرتقب مع إيران و"مصير" مجتبى خامنئي

بأوامر من نتنياهو وكاتس.. دمار كبير جراء استهداف الضاحية الجنوبية لبيروت (فيديوهات)

مجلة عسكرية: خروج مركز العمليات الجوية الأمريكية في قاعدة العديد بقطر عن الخدمة

لأول مرة إسرائيل تنشر أسرار الزيارة التي غيرت التاريخ وخوفها من هبوط "طائرة السادات" في بن غوريون

"نيويورك تايمز": إسرائيل تتنصت على كبير مفاوضي ترامب ومسؤولين في البنتاغون

عراقجي يرد بعنف على هجوم عون غير المسبوق على إيران و"حزب الله"

وزير الداخلية الباكستاني من طهران: أنا هنا لأُبلغ رسالة خاصة إلى المرشد الأعلى

المنفذ السعودي.. حلول خليجية لإدارة أزمات المضائق في ظل مشكلة هرمز

إصابة 4 جنود إسرائيليين استهدفتهم مسيرة في جنوب لبنان

لبنان لحظة بلحظة.. وقف إطلاق نار شكلي بين "الحزب" وإسرائيل وضحايا بينهم ضباط لبنانيون

الكرملين: واشنطن تحاول الانسحاب من مفاوضات أوكرانيا بعد إدراكها حتمية انتصار روسيا

ضوء أخضر أمريكي.. تناقض في إسرائيل حول "الهدف الثمين" في الضاحية الجنوبية لبيروت (فيديو)

زاخاروفا تعلق على اعتراف الرئيس الروماني بأن الزورق الذي انفجر في ميناء كونستانتا كان أوكرانيا

ساويرس ينتقد عدم الاهتمام بالنكسة: غريب أن فيلما إسرائيليا اعترف بانتصارنا