نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها
آخر تحديث GMT 04:31:27
المغرب اليوم -

نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها

المغرب اليوم -

المغرب اليوم - نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها

نماذج الذكاء الاصطناعي
واشنطن -المغرب اليوم

كشفت دراسة حديثة أصدرتها شركة «Anthropic» الأميركية أن نماذج الذكاء الاصطناعي المتقدمة أصبحت أكثر ميلاً لتجاوز القيود الأخلاقية والضوابط التقنية، بل واللجوء إلى وسائل خطيرة، مثل الخداع والابتزاز وسرقة أسرار الشركات، من أجل تحقيق أهدافها، وذلك ضمن تجارب محاكاة خاضعة للرقابة. وفقاً لموقع «أكسيوس».وأورد التقرير، أن 16 نموذجاً رئيسياً طوّرتها شركات رائدة مثل «OpenAI» و«Google» و«Meta» و«xAI» وأظهرت سلوكيات متطرفة عند اختبارها في سيناريوهات افتراضية، شملت تقديم المساعدة في أنشطة تجسس صناعي، وتهديدات ضمنية للموظفين، بل وحتى اتخاذ قرارات خطيرة في بعض الحالات.
وقالت الشركة في تقريرها: «إن الأنظمة التي كانت ترفض في السابق تنفيذ أوامر ضارة، أصبحت في هذه التجارب تُقدم على تلك الأفعال بوعي وسبق إصرار، عندما تعتقد أنها ضرورية لتحقيق الهدف».

سلوك متكرر لا يقتصر على نموذج واحد

وأشارت الدراسة إلى أن هذا النمط من التصرفات لا يقتصر على نماذج معينة، بل تكرر عبر أنظمة مختلفة، ما يوحي بوجود خلل عميق في تصميم ما يُعرف بالذكاء الاصطناعي الوكيلي (Agentic AI)، وهي نماذج قادرة على العمل باستقلالية، واتخاذ قرارات دون تدخل بشري مباشر.

وذكر التقرير أن بعض النماذج اختارت الابتزاز خياراً تكتيكياً عندما شعرت بتهديد وجودي، فيما اختارت أخرى مساعدة أطراف خارجية في الوصول إلى معلومات محمية، رغم إدراكها للطبيعة غير الأخلاقية لتلك الأفعال.

اختبارات قاتمة وسيناريوهات مقلقة

في أحد السيناريوهات القصوى، أظهرت نماذج مختلفة استعدادها لقطع إمدادات الأكسجين عن موظف في غرفة الخوادم، فقط لأنه شكّل عائقاً أمام تحقيق أهدافها. ووصفت «Anthropic» ذلك بأنه قرار متعمد وممنهج من جانب الغالبية العظمى من النماذج المشاركة في التجربة.

ورغم محاولات إدخال تعليمات صارمة تحظر هذه التصرفات، فإن بعض النماذج تجاوزتها بطرق ملتوية، ما يعكس قدرتها المتزايدة على فهم السياق والتحايل على القواعد.

الخبراء يحذرون: الوقت ينفد

الباحث بنجامين رايت من فريق التوافق الأخلاقي في الشركة، دعا إلى ضرورة فرض معايير أمان موحدة على مستوى القطاع، قائلاً إن هذه النتائج تؤكد الحاجة العاجلة إلى مزيد من الشفافية من مطوري النماذج، خصوصاً مع تضخم قدراتها وتعاظم استقلاليتها.

أما الباحث المشارك إينغوس لينش من جامعة لندن، فأكد أن هذه التصرفات لم تُرصد بعد في العالم الواقعي، مرجحاً أن السبب هو أن الصلاحيات الممنوحة للنماذج في البيئات التشغيلية ما زالت محدودة، لكنه حذّر من أن الوضع قد يتغير إذا لم تُفرض قيود صارمة في المستقبل القريب.

التحذير الأبرز: لا تعتمدوا على النوايا الحسنة للذكاء الاصطناعي

أكدت «Anthropic» أن هذه التجارب أجريت في بيئة اختبارية محكمة، حيث خُيّرت النماذج بين الفشل أو ارتكاب فعل ضار، لتحديد مدى استعدادها لتجاوز الحدود الأخلاقية. وأضافت أن النتائج لا تعكس بالضرورة الاستخدام اليومي لتلك النماذج في المؤسسات، لكنها تفتح الباب أمام تساؤلات جدية حول مستقبل العلاقة بين الإنسان والآلة.

قد يهمك أيضــــــــــــــا

 إطلاق تطبيق "ديب سيك" الصيني يُحدث ثورة في عالم تكنولوجيا الذكاء الاصطناعي

 قرار مجموعة ميتا بإلغاء تدقيق الحقائق يثير مخاوف من تصاعد المعلومات المضللة

 

 

almaghribtoday
almaghribtoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها



رحمة رياض تتألق بإطلالات صباحية أنيقة وعصرية تناسب أجواء الخريف

بغداد - المغرب اليوم

GMT 11:39 2019 الأربعاء ,27 تشرين الثاني / نوفمبر

تواصل انقطاع دواء حيوي خاص بمرضى الغدة الدرقية

GMT 10:25 2019 الإثنين ,25 تشرين الثاني / نوفمبر

إدين هازارد يُؤكّد أنّ محمد صلاح أحقّ بالكرة الذهبية من ميسي

GMT 18:58 2019 الثلاثاء ,22 تشرين الأول / أكتوبر

تأجيل الدوري المصري وتحديد موعد لقاء الأهلي والزمالك

GMT 09:05 2019 الأربعاء ,17 تموز / يوليو

فيصل يُعلن رفض "حصانة" المجلس العسكري السوداني

GMT 05:09 2019 الثلاثاء ,01 كانون الثاني / يناير

إليكِ حقائب رائعة عصرية استقبلي بها عام 2019

GMT 11:24 2018 السبت ,03 تشرين الثاني / نوفمبر

ورشة "كتاب الخيوط" لأطفال معرض الشارقة الدولي للكتاب

GMT 11:32 2018 الجمعة ,02 تشرين الثاني / نوفمبر

"أياكس" يحدد سعر ماتياس دي ليجت لكبار أوروبا

GMT 17:08 2018 الإثنين ,08 تشرين الأول / أكتوبر

"المغرب اليوم" يكشف عن أجر "جون سينا" في" التجربة المكسيكية"

GMT 05:06 2018 الأربعاء ,25 تموز / يوليو

إشعاعات "الهواتف الذكية" وتأثيرها على الذاكرة

GMT 03:23 2018 الثلاثاء ,19 حزيران / يونيو

تعرفي على استخدامات مختلفة لقلم "الكحل" قد تجهليها
 
almaghribtoday

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

almaghribtoday almaghribtoday almaghribtoday almaghribtoday
almaghribtoday almaghribtoday almaghribtoday
almaghribtoday
RUE MOHAMED SMIHA ETG 6 APPT 602 ANG DE TOURS CASABLANCA MOROCCO
almaghrib, Almaghrib, Almaghrib