ISO/IEC 23894:2023 Bilgi Teknolojisi Yapay Zeka Risk Yönetimi “Risk yönetimi- Risk değerlendirmesi teknikleri” olarak adlandırılmaktadır ve risk yönetimi sürecinde kullanılan tekniklerin belirlenmesi, uygulanması ve değerlendirilmesi için rehberlik sağlamayı hedefler. Dolayısıyla, ISO/IEC 23894, risk yönetimi sürecinde kullanılan tekniklerin standartlaştırılması, iyileştirilmesi ve uygunluğunun sağlanması için önemli bir rol oynar.
Güvenilir yapay zeka kullanımının anahtarı risk yönetimidir. ISO/IEC 23894, yapay zeka geliştirme yaşam döngüsü boyunca etkili risk yönetimi uygulaması ve entegrasyonu için somut örnekler sunmaktadır. Benzer şekilde, ISO/IEC 38507, yapay zeka kullanan veya kullanmayı düşünen bir kuruluşa yönetişim ve bunu yapmanın daha geniş etkileri hakkında rehberlik sağlar.
ISO/IEC 42001:2023 özellikle yapay zeka için geliştirilmiş bir ‘Yönetim Sistemi’ standardı olarak bilinmektedir. Bir Yönetim Sistemi, bir kuruluşun hedeflerine ulaşmak için izlemesi gereken süreçleri belirler ve bir iyi uygulama çerçevesi sağlar. Bu, güvenilir Yapay Zeka’nın kuruluşun liderliğine ve yönetişimine dahil edilmesini sağlayacaktır.
Bu standardın bir diğer özelliği de ISO/IEC 23894:2023, Birleşmiş Milletler Sürdürülebilir Kalkınma Hedeflerinden insana yakışır iş ve ekonomik büyüme konulu 8. Hedefe, sanayi, yenilikçilik ve altyapı konulu 9. Hedefe, eşitsizliklerin azaltılması konulu 10. Hedefe ve barış, adalet ve güçlü kurumlar konulu 16. Hedefe katkıda bulunmaktadır.
ISO/IEC 23894:2023 Bilgi Teknolojisi Yapay zekâ Risk yönetimi aşağıdaki ana bölümleri içerir;
Risk yönetiminin amacı, değerin yaratılması ve korunmasıdır. Performansı artırır, yeniliği teşvik eder ve hedeflere ulaşılmasını destekler. Standarttın içeriği aşağıdaki gibidir.
- Madde 1: Kapsam
- Madde 2: Referanslar
- Madde 3: Terimler ve Tanımlar
- Madde 4: Yapay zekâ Risk Yönetiminin ilkeleri (risk yönetiminin altında yatan ilkeleri açıklamaktadır.
- Madde 5: Liderlik ve bağlılık (Risk yönetimi çerçevesinin amacı, kuruluşun risk yönetimini önemli faaliyetlere ve işlevlere entegre etmesine yardımcı olmaktır. Yapay zekâ sistemlerinin geliştirilmesi, sağlanması, sunulması veya kullanımına özgü hususlar yer alır.
- Madde 6: Risk yönetim süreci (Risk yönetimi süreçleri, politikaların, prosedürlerin ve uygulamaların iletişim ve danışmanlık, bağlam oluşturma ve riskin değerlendirilmesi, ele alınması, izlenmesi, gözden geçirilmesi, kaydedilmesi ve raporlanması faaliyetlerine sistematik olarak uygulanmasını içerir.)
- EK A: Hedef
- EK B: Risk Kaynakları
- EK C: Risk Yönetimi ve Yapay zekâ Sistem Yaşam Döngüsü
ISO/IEC 23894:2023’ün Faydaları Nelerdir?
- Gelişmiş Anlayış: Bu standart, yapay zekadaki risk yönetiminin açık ve özlü bir şekilde anlaşılmasını sağlar. Karmaşık kavramları anlaşılması kolay bir dil ile ifade ederek herkesin erişebilmesini sağlar.
- Risk yönetimini entegre eder: Standart, kuruluşların risk yönetimini yapay zeka ile ilgili faaliyetlerine ve işlevlerine entegre etmelerine yardımcı olmayı amaçlamaktadır. Yapay zeka kullanıcılara ve topluma zararı en aza indirecek şekilde geliştirilmesini ve kullanılmasını sağlamaya yardımcı olabilir.
- İyileştirilmiş Karar Verme: Yapay zekâ risk yönetimine ilişkin sağlam bir anlayışla, riski en aza indiren ve getirileri en üst düzeye çıkaran bilinçli kararlar alınabilmesini sağlar ve bu performansın ve kârlılığın artmasına yol açabilir.
- Artan Güvenilirlik: Uluslararası kabul görmüş standartlara bağlı kalarak müşterilerinizin, ortaklarınızın ve paydaşlarınızın gözünde güvenilirliğinizi arttırmanızı ve bu güvenin yeni iş fırsatları için kapılar açmasına yol açabilir.
- Geleceğe Hazırlanma: En son trendlere ve gelişmelere odaklanan bu standart, rakiplerinizden bir adım önde olmanıza yardımcı olur. Bu size rekabet avantajı sağlayabilir ve hızla gelişen yapay zekâ alanında uzun vadeli başarınızı garantileyebilir.
- Uluslararası standart: Uluslararası bir Standart olarak ISO/IEC 23894:2023, dünya genelindeki kuruluşlar tarafından benimsenebilecek ortak bir çerçeve sunmaktadır. Bu, yapay zeka geliştirme ve kullanımında tutarlılığı teşvik edebilir.
Yapay zekâ yaşam döngüsünün karmaşık ortamında riski nasıl yönetebiliriz?
Yapay zeka sistemleri, diğer teknolojilerden çok daha karmaşık bir düzeyde çalışır ve bu da daha fazla sayıda risk kaynağına neden olur. Stratejik hedefler üzerinde olumlu veya olumsuz etkileri ve mevcut risk profillerinde değişikliklerle birlikte kuruluşlar için yeni veya ortaya çıkan riskler getireceklerdir.
Risk yönetimi, değerin yaratılmasını ve korunmasını sağlar. ISO 31000 gibi mevcut uluslararası risk yönetimi standartları, tüm sektörlerde başarılı olduğu kanıtlanmış stratejileri uygulamak için risk yönetimini yürütenlere yerleşik bir rehberlik sağlar.
ISO/IEC 23894, ilkeler, çerçeveler ve süreçler açısından referans noktası olarak ISO 31000:2018’i kullanmaktadır. Standart yapıcılar, yapay zeka risklerine yaklaşmak için genel risk yönetimi ilkelerine güvenmenin uygun olduğunu düşünmüş ve yapay zeka için yeni, ısmarlama versiyonlar geliştirmenin gereksiz olduğunu düşünmüşlerdir. Standardın rehberliği, risklerin nasıl yönetileceği ve yapay zeka bağlamında ilgili en iyi uygulamalar hakkında uluslararası bir bakış açısı sağlamak için bu ilkelere dayanmaktadır.
Göz önünde bulundurulması gereken bazı önemli adımlar aşağıdaki gibidir;
- Yapay zekâ sistemlerinin amaçlarını, tasarımlarını, çalışma prensiplerini, veri kaynaklarını, performans ölçütlerini ve sınırlamalarını şeffaf ve anlaşılır bir şekilde belgelemek ve paylaşmak.
- Yapay zeka sistemlerinin etik ilkeler, insan hakları, yasal düzenlemeler ve sosyal normlar ile uyumlu olmasını sağlamak için gerekli kontrolleri ve denetimleri uygulamak.
- Yapay zeka sistemlerinin olası yan etkilerini, hatalarını, güvenlik açıklarını ve kötüye kullanım risklerini önceden tahmin etmek, izlemek ve önlemek için test ve simülasyon yöntemleri kullanmak.
- Yapay zekâ sistemlerinin insanlarla etkileşimini ve insanların karar verme süreçlerini nasıl etkilediğini araştırmak ve insan merkezli bir yaklaşım benimsemek.
- Yapay zekâ sistemlerinin getirdiği değişimlere uyum sağlamak için çalışanların, öğrencilerin ve vatandaşların kullanan herkesin yapay zeka becerilerini ve bilincini geliştirmek için eğitim ve öğrenme fırsatları sunmak.
- ISO/IEC 22989 ve ISO/IEC 23503 standartlarını incelemek ve atıf yapılan standartları gözden geçirmek size rehberlik sağlayacaktır.
Üretken yapay zeka hızlı gelişimini sürdürürken, standartlar bunların güvenli, emniyetli, esnek ve hem kuruluş hem de kullanıcı tarafından güvenilir olmasını sağlamada rol oynamaya devam etmelidir.
Stratejik yön çizebilmek, uygulamak veya riski algılamak, azaltmak, riskten yararlanmak, iş sürekliliği ya da kriz yönetiminde dayanıklılık hakkındaki fikirleri daha stratejik bir düzeye taşımak ve kişisel yeteneklerinizi geliştirmek istiyorsanız bu konuda daha fazla bilgi almak için sales@cfecert.co.uk adresinden bize ulaşabilirsiniz.
