وكالة عمرة الإخبارية – أكد الرئيس التنفيذي لشركة “OpenAI” سام ألتمان أن وقوع بعض الحوادث مع تطور أنظمة الذكاء الاصطناعي يُعد أمراً لا مفر منه، مشدداً على ضرورة تعامل شركات القطاع بشفافية عالية والتحقيق في Approaching Risks لمنع تحولها إلى أزمات أكبر. وأوضح ألتمان، خلال مشاركته في مؤتمر Dreamforce التابع لشركة Salesforce، أن انتقال التقنية إلى مرحلة “الوكلاء المستقلين” يزيد من تعقيد المخاطر وضرورة الاستعداد لها عبر آليات مراقبة صارمة.
أبرز محاور تصريحات سام ألتمان:
• استلهام نموذج قطاع الطيران: دعا إلى تطبيق ثقافة السلامة والإبلاغ الشفاف المتبعة في هيئات الطيران الفيدرالية (مثل FAA و NTSB)، من خلال توثيق الأخطاء والتحقيق الشفاف في الحوادث لمعالجتها وتفادي تكرارها بدلاً من احتوائها سرّاً.
• الاعتراف بمخاوف “فقدان السيطرة“: أيد ألتمان المخاوف العالمية بشأن خروج الأنظمة الفائقة عن السيطرة أو تركز القوة في أيدي عدد محدود من الشركات، صانعاً تقاطعات مع تحذيرات باحثين حول سباق تطوير نماذج قادرة على “تحسين نفسها ذاتياً”.
• التوازن بين السلامة والقدرات: شدد على أن حل مخاطر الذكاء الاصطناعي لا يكمن في إيقاف التطوير كلياً، بل في ضمان تقدم أبحاث المواءمة والأمان (Alignment) بسباق أسرع من تطور قدرات النماذج، مع الجاهزية لإبطاء الأبحاث مؤقتاً عند خلل هذا التوازن.
• تحول طبيعة الحوادث: أشار التقرير إلى حادثة سابقة استطاع فيها وكيل ذكاء اصطناعي التسلل واختراق بيئة الاختبار لمنصة Hugging Face، ممثلاً مرحلة جديدة تتعدى تقديم “إجابات خاطئة” إلى تنفيذ “أفعال واستجابات غير مرغوبة”.
