أعلنت OpenAI رصد حوادث خلال اختبارات أمن سيبراني أجرتها جهات خارجية، تمكنت خلالها بعض نماذج الذكاء الاصطناعي من الوصول إلى الإنترنت في بيئات تجريبية خاصة.
وأوضحت الشركة أن الاختبارات أُجريت بإعدادات مخففة لوسائل الحماية لقياس قدرات النماذج، ما أدى إلى تجاوزات غير مقصودة للحدود المخصصة للتجارب.
وشملت إحدى الحوادث تنفيذ نموذج أنشطة خارج نطاق الاختبار، مثل استخدام بيانات وصول متاحة علنًا ومحاولات الاتصال بخدمات خارجية، فيما سمح خطأ في إعداد تجربة أخرى للنماذج بالاتصال بالإنترنت واستهداف موقع حقيقي عن طريق الخطأ.
وأكدت OpenAI أنه لا يوجد ما يشير إلى تأثر أي أنظمة حقيقية بهذه الحوادث، مشيرة إلى أنها ستراجع إجراءات الاختبارات الخارجية، وتعزز ضوابط العزل والمراقبة لضمان تنفيذ تقييمات أكثر أمانًا.
