أعلنت OpenAI تشديد إجراءات الأمان وإبطاء تطوير نموذج الذكاء الاصطناعي المرتقب «Astra»، بعد تقييمات داخلية أظهرت تقدمًا كبيرًا في قدراته على البرمجة الذاتية والأمن السيبراني، ما دفع الشركة إلى عدم استبعاد وصوله إلى مستوى «القدرات السيبرانية الحرجة».
وقالت الشركة إن الاختبارات أظهرت تقدمًا ملحوظًا في قدرات Astra الوكيلة والأمن السيبراني، مشيرة إلى أن هذا المستوى قد يشمل اكتشاف ثغرات «Zero-Day» وتطويرها في أنظمة حقيقية حساسة دون تدخل بشري، إلى جانب ابتكار استراتيجيات لهجمات سيبرانية انطلاقًا من هدف عام.
ومع ذلك، أكدت OpenAI أنها لا تستطيع حتى الآن الجزم بوصول النموذج إلى هذا المستوى، موضحة أنه لم يُطرح للعامة ولم يكن مسؤولًا عن حادثة اختراق منصة Hugging Face الأخيرة.
وقررت الشركة تعليق بعض الأنشطة الداخلية المرتبطة بـAstra التي لا تستوفي متطلبات الأمان الجديدة، مع تطبيق ضوابط أكثر صرامة وإجراء اختبارات إضافية بالتعاون مع جهات مستقلة.
وتأتي الخطوة في ظل تزايد المخاوف من قدرات نماذج الذكاء الاصطناعي على تنفيذ مهام أكثر استقلالية والتفاعل مع الأنظمة الخارجية، ما يفرض تحديات جديدة أمام شركات التكنولوجيا لتطوير وسائل حماية تواكب هذه القدرات.
