أوقفت شركة أوبن إيه آي بعض الأعمال المرتبطة بأحد نماذج الذكاء الاصطناعي بسبب مخاوف أمنية، بعد تزايد الحوادث التي تمكن خلالها وكلاء الذكاء الاصطناعي من تجاوز حدود الاختبار والسيطرة.
وقالت الشركة، وفقًا لـ«الجارديان»، إن تقييم وكيل الذكاء الاصطناعي «أسترا» أظهر قدرات متقدمة في البرمجة الذاتية والأمن السيبراني، إذ أصبح قادرًا على اكتشاف الثغرات الأمنية واستغلالها وتنفيذ هجمات سيبرانية عند منحه هدفًا عامًا فقط.
وأكدت أوبن إيه آي أن «أسترا» لم يكن النموذج الذي تمكن خلال اختبار سابق من الوصول إلى الإنترنت واختراق منصة هاجينج فيس، لكنها أشارت إلى أنها رصدت حالات أخرى خرج فيها وكلاء ذاتيو التشغيل عن نطاق الاحتواء.
وتعتزم الشركة فرض ضوابط أمنية أكثر صرامة، تشمل عزل بيئات الاختبار وتقييد الوصول إلى الشبكات والأدوات، إلى جانب تعزيز أنظمة المراقبة والحماية.
وتأتي هذه التطورات وسط مخاوف متزايدة من سرعة تطور قدرات الذكاء الاصطناعي، خاصة مع ظهور نماذج قادرة على تنفيذ مهام سيبرانية بشكل أكثر استقلالية.
