ملخص الدور:
قيادة تنفيذ ممارسات أمن الذكاء الاصطناعي وحوكمة الذكاء الاصطناعي من خلال ضمان تصميم أنظمة الذكاء الاصطناعي ونشرها وإدارتها بأمان مع الالتزام بالسياسات المؤسسية والمتطلبات التنظيمية والمعايير الدولية. دعم الاعتماد الآمن لتقنيات الذكاء الاصطناعي من خلال تحديد المخاطر المتعلقة بالذكاء الاصطناعي، وتنفيذ ضوابط الأمن، وإنشاء أطر الحوكمة عبر دورة حياة الذكاء الاصطناعي بأكملها.
المسؤوليات الرئيسية:
- تطوير وتنفيذ والتحسين المستمر لإطار أمن وحوكمة الذكاء الاصطناعي في المؤسسة.
- تحديد سياسات أمن الذكاء الاصطناعي والمعايير والإجراءات والإرشادات التشغيلية.
- إنشاء عمليات حوكمة الذكاء الاصطناعي بما يتماشى مع أهداف العمل والمتطلبات التنظيمية.
- إجراء تقييمات مخاطر الذكاء الاصطناعي وتحديد المخاطر الأمنية والخصوصية والأخلاقية والتشغيلية المرتبطة بحلول الذكاء الاصطناعي.
- إجراء نمذجة التهديدات للذكاء الاصطناعي ومراجعات الهندسة المعمارية الأمنية.
- تقييم أنظمة الذكاء الاصطناعي طوال دورة الحياة، بما في ذلك التصميم والتطوير والنشر والمراقبة والإيقاف عن العمل.
- مراجعة نماذج الذكاء الاصطناعي للتأكد من المتانة والقابلية للتفسير والعدالة والشفافية والمرونة.
- تقييم حلول الذكاء الاصطناعي مقابل مستوى تقبل المخاطر ومتطلبات الحوكمة في المؤسسة.
- دعم تنفيذ مبادئ الذكاء الاصطناعي المسؤول عبر فرق الأعمال والتكنولوجيا.
- إجراء تقييمات أمنية لتطبيقات الذكاء الاصطناعي ونماذج التعلم الآلي ومنصات الذكاء الاصطناعي التوليدي.
- تقييم مخاطر نماذج الذكاء الاصطناعي، بما في ذلك حقن الأوامر (prompt injection)، وتسميم النماذج (model poisoning)، والهجمات التنافسية (adversarial attacks)، وتسريب البيانات، وسرقة النماذج، والوصول غير المصرح به.
- مراجعة خطوط نقل بيانات الذكاء الاصطناعي ومجموعات بيانات تدريب النماذج من منظور الأمن والخصوصية.
- إجراء تقييمات أمنية لمنصات الذكاء الاصطناعي التابعة للجهات الخارجية ومزودي خدمات الذكاء الاصطناعي.
- ضمان توافق حلول الذكاء الاصطناعي مع معايير ISO/IEC 42001 وISO/IEC 27001 وISO/IEC 27701 وإطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي (AI RMF) واللوائح المصرفية المعمول بها.
- دعم عمليات تدقيق حوكمة الذكاء الاصطناعي والتقييمات التنظيمية.
- مراجعة السياسات والإجراءات والمعايير الفنية المتعلقة بالذكاء الاصطناعي.
- إعداد سجلات مخاطر الذكاء الاصطناعي والاحتفاظ بقوائم جرد أصول الذكاء الاصطناعي.
- تحديد ضوابط الأمن وآليات المراقبة الخاصة بالذكاء الاصطناعي.
- مراجعة إجراءات الاستجابة لحوادث الذكاء الاصطناعي والمشاركة في التحقيقات الأمنية المتعلقة بالذكاء الاصطناعي.
- مراقبة الثغرات والتهديدات الناشئة المتعلقة بالذكاء الاصطناعي.
- التعاون مع فرق الأمن السيبراني والهندسة المعمارية والمخاطر والخصوصية والتطوير لتنفيذ ضوابط أمن الذكاء الاصطناعي.
- التوصية بأدوات حوكمة الذكاء الاصطناعي وحلول أمن الذكاء الاصطناعي.
- إعداد لوحات المعلومات التنفيذية وتقارير المخاطر ومقاييس الامتثال.
- تقديم جلسات التوعية بأمن الذكاء الاصطناعي والإرشادات الفنية لأصحاب المصلحة.
- متابعة أحدث اللوائح والمعايير وأفضل الممارسات الصناعية المتعلقة بالذكاء الاصطناعي.
المهارات الفنية:
- أمن الذكاء الاصطناعي وحوكمة الذكاء الاصطناعي
- ISO/IEC 42001
- ISO/IEC 27001 و ISO/IEC 27701
- إطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي (AI RMF)
- تقييم مخاطر الذكاء الاصطناعي ونمذجة التهديدات
- أمن الذكاء الاصطناعي التوليدي ونماذج اللغات الكبيرة (LLM)
- دورة حياة الذكاء الاصطناعي/التعلم الآلي الآمنة (MLOps)
- خصوصية الذكاء الاصطناعي وحماية البيانات
- أمن السحابة (Azure, AWS, Oracle Cloud)
- إدارة الهوية والوصول (IAM)
- أمن واجهات برمجة التطبيقات (API Security)
- الهندسة المعمارية للأمن السيبراني
- إدارة الثغرات الأمنية
- تصنيف البيانات وحمايتها
- الحوكمة والمخاطر والامتثال (GRC) والامتثال التنظيمي
المؤهلات والخبرة:
- خبرة من 6 إلى 10 سنوات في مجال الأمن السيبراني أو أمن المعلومات أو أمن الذكاء الاصطناعي أو الهندسة المعمارية للأمن.
- خبرة عملية لا تقل عن 3 سنوات في أمن الذكاء الاصطناعي أو حوكمة الذكاء الاصطناعي أو إدارة مخاطر الذكاء الاصطناعي.
- خبرة في تنفيذ ضوابط أمن الذكاء الاصطناعي داخل بيئات المؤسسات.
- فهم قوي لتقنيات الذكاء الاصطناعي/التعلم الآلي، ونماذج اللغات الكبيرة (LLMs)، والمخاطر الأمنية للذكاء الاصطناعي التوليدي.
- يُفضل وجود خبرة في القطاع المصرفي أو الخدمات المالية.
- يُفضل وجود خبرة في التعامل مع منصات الذكاء الاصطناعي للمؤسسات مثل Microsoft Copilot أو Azure OpenAI أو OpenAI أو Google Vertex AI أو AWS Bedrock أو خدمات Oracle AI.
- درجة البكالوريوس في علوم الحاسوب، أو أمن المعلومات، أو الذكاء الاصطناعي، أو علم البيانات، أو أي مجال ذي صلة.
Role Summary:
Lead the implementation of AI Security and AI Governance practices by ensuring Artificial Intelligence (AI) systems are designed, deployed, and managed securely while complying with organizational policies, regulatory requirements, and international standards. Support secure adoption of AI technologies by identifying AI-related risks, implementing security controls, and establishing governance frameworks across the AI lifecycle.
Key Responsibilities:
- Develop, implement, and continuously improve the organization's AI Security and Governance Framework.
- Define AI security policies, standards, procedures, and operational guidelines.
- Establish AI governance processes aligned with business objectives and regulatory requirements.
- Conduct AI risk assessments and identify security, privacy, ethical, and operational risks associated with AI solutions.
- Perform AI threat modeling and security architecture reviews.
- Evaluate AI systems throughout the lifecycle, including design, development, deployment, monitoring, and retirement.
- Review AI models for robustness, explainability, fairness, transparency, and resilience.
- Assess AI solutions against organizational risk appetite and governance requirements.
- Support implementation of Responsible AI principles across business and technology teams.
- Perform security assessments of AI applications, machine learning models, and Generative AI platforms.
- Assess AI model risks, including prompt injection, model poisoning, adversarial attacks, data leakage, model theft, and unauthorized access.
- Review AI data pipelines and model training datasets from security and privacy perspectives.
- Conduct security assessments for third-party AI platforms and AI service providers.
- Ensure AI solutions comply with ISO/IEC 42001, ISO/IEC 27001, ISO/IEC 27701, NIST AI Risk Management Framework (AI RMF), and applicable banking regulations.
- Support AI governance audits and regulatory assessments.
- Review AI-related policies, procedures, and technical standards.
- Develop AI risk registers and maintain AI asset inventories.
- Define AI-specific security controls and monitoring mechanisms.
- Review AI incident response procedures and participate in AI security investigations.
- Monitor AI-related vulnerabilities and emerging threats.
- Collaborate with Cyber Security, Architecture, Risk, Privacy, and Development teams to implement AI security controls.
- Recommend AI governance tools and AI security solutions.
- Prepare executive dashboards, risk reports, and compliance metrics.
- Deliver AI security awareness sessions and technical guidance to stakeholders.
- Stay updated on emerging AI regulations, standards, and industry best practices.
Technical Skills:
- AI Security & AI Governance
- ISO/IEC 42001
- ISO/IEC 27001 & ISO/IEC 27701
- NIST AI Risk Management Framework (AI RMF)
- AI Risk Assessment & Threat Modeling
- Generative AI & LLM Security
- Secure AI/ML Lifecycle (MLOps)
- AI Privacy & Data Protection
- Cloud Security (Azure, AWS, Oracle Cloud)
- Identity & Access Management (IAM)
- API Security
- Security Architecture
- Vulnerability Management
- Data Classification & Protection
- GRC & Regulatory Compliance
Qualifications & Experience
- 6–10 years of experience in Cyber Security, Information Security, AI Security, or Security Architecture.
- Minimum 3 years of hands-on experience in AI Security, AI Governance, or AI Risk Management.
- Experience implementing AI security controls within enterprise environments.
- Strong understanding of AI/ML technologies, Large Language Models (LLMs), and Generative AI security risks.
- Banking or Financial Services experience preferred.
- Experience with enterprise AI platforms such as Microsoft Copilot, Azure OpenAI, OpenAI, Google Vertex AI, AWS Bedrock, or Oracle AI services is preferred.
- Bachelor's degree in computer science, Information Security, Artificial Intelligence, Data Science, or a related field.