ISO/IEC 42001:2023, yapay zekâ yönetimi alanında yayımlanan ilk uluslararası yönetim sistemi standardı olarak, Aralık 2023’te yürürlüğe girdi.
ISO 27001 ve ISO 9001 ile aynı üst düzey yapıyı (Annex SL / Ek SL) paylaştığı için, yapay zekâ geliştiren, sağlayan veya kullanan her büyüklükteki kuruluş tarafından mevcut yönetim sistemlerine görece kolayca entegre edilebileceği düşünülmektedir. Uygulamada ise durum farklıdır, standardın Plan-Uygula-Kontrol Et-Önlem Al (PUKÖ) döngüsü tanıdık olsa da, yapay zekâya özgü gereksinimler, etki değerlendirmesi, veri yönetişimi, önyargı ve şeffaflık kontrolleri kuruluşların alışık olduğu bilgi güvenliği veya kalite yönetimi pratiklerinden belirgin şekilde ayrılır.
Bu yazı, ISO 42001 belgelendirme sürecine hazırlanan kuruluşların entegrasyon aşamasında en sık karşılaştığı 15 hata ve eksikliği, denetim uygulamalarında gözlemlenen örneklerle birlikte ele almaktadır. Amaç, kuruluşların denetim öncesinde bu noktaları kendi sistemleri üzerinde gözden geçirebilmesi için tarafsız bir bilgilendirme sağlamaktır.
Entegrasyonda Sık Karşılaşılan 15 Hata
1. Eksik veya Belirsiz Kapsam Tanımı
Madde 4.3 kapsamında yapılan kapsam tanımlarında üç farklı hata tekrarlanır: kapsamın gereğinden dar tutulması (örneğin, doğrudan müşteri kararlarını etkileyen bir dolandırıcılık tespit sistemini “düşük riskli” gerekçesiyle kapsam dışı bırakmak); kapsamın gereğinden geniş tutulması (kuruluş genelindeki tüm yapay zekâ sistemlerini aynı anda belgelendirmeye çalışmak ve bunun sonucunda uygulamanın tıkanması); ve kapsam sınırlarının belirsiz bırakılması. Kademeli bir yaklaşımla önce yüksek riskli ve kritik sistemlerden başlamak, bu üç hatanın da önüne geçer.
2. Eksik Yapay Zekâ Sistemi Envanteri (“Gölge AI”)
Kuruluşlar, kapsamdaki tüm yapay zekâ sistemlerini tespit etmekte sıklıkla eksik kalır. Özellikle üçüncü taraf yazılımların içine gömülü yapay zekâ özellikleri veya iş birimlerinin merkezi BT onayı olmadan benimsediği araçlar (“gölge AI”) envanter dışında kalır. Envanter yalnızca BT’nin bildiği projelerle sınırlı tutulduğunda, belgelendirme kapsamı kuruluşun gerçek yapay zekâ ayak izini yansıtmaz; envanterin satın alma kayıtları ve teknik mimari incelemesiyle desteklenmesi gerekir.
3. Yapay Zekâya Özgü Olmayan, Jenerik Risk Değerlendirmesi
Madde 6.1.2 kapsamındaki risk kayıtlarında en sık görülen eksikliklerden biri, mevcut BT veya bilgi güvenliği risk yöntemlerinin aynen kopyalanmasıdır. Önyargı, açıklanabilirlik, model kayması (model drift) ve otomasyon önyargısı gibi yapay zekâya özgü risk kategorileri bu şablonlarda yer almaz. “Halüsinasyon” gibi genel bir etiket yazmak yerine, her risk kaydının sistem bazında somut zarar tanımı, doğal risk seviyesi, bağlı kontrol ve kalan riski kabul eden sorumlu bir isim içermesi beklenir.
4. Risk Değerlendirmesi ile Etki Değerlendirmesinin Karıştırılması
ISO 42001, birbirinden farklı iki süreç öngörür: risk değerlendirmesi (“kuruluş için ne ters gidebilir?”) ve Madde 6.1.4’te tanımlanan yapay zekâ sistemi etki değerlendirmesi (“kimler nasıl etkilenir?” temel haklar ve toplumsal sonuçlar dahil). Birçok kuruluş yalnızca birincisini yapar veya mevcut risk kaydına sembolik bir “etki” bölümü ekler; oysa etki değerlendirmesinin, yeni bir yapay zekâ sistemi devreye alındığında tetiklenen, paydaşlara yönelik ayrı bir süreç olarak yürütülmesi gerekir. Olgun bir risk kaydı ve risk iştahı çerçevesi bulunmayan kuruluşlarda etki değerlendirmesi belgeleri, kimsenin kabul, gözden geçirme veya yükseltme sorumluluğu tanımlamadığı riskleri listeleyen bağımsız dokümanlar olarak kalır.
5. Statik Kalan Risk Kayıtları ve Eksik Yeniden Değerlendirme Tetikleyicileri
Uygulamanın başında bir kez oluşturulan risk kaydı, modeller tedarikçi tarafından güncellendikçe, yeniden eğitildikçe veya yeni veri kaynaklarına yönlendirildikçe hızla güncelliğini yitirir. Denetimlerde dört alanda tanımlı yeniden değerlendirme tetikleyicileri aranır: model değişiklikleri, veri değişiklikleri, kullanım kapsamı değişiklikleri (yeni araçlar, artan otonomi seviyesi, yeni kullanıcı grupları) ve olay tetikleyicileri (ramak kala durumlar, şikâyetler, düzenleyici sorgular). Bu tetikleyicilerin tanımlı olmaması, Madde 8.5 ve 9.1 kapsamında sıkça karşılaşılan bir bulgudur.
6. Yüzeysel, Mevcut Politikanın Üzerine “AI” Etiketi Yapıştırılması
Madde 5 kapsamında beklenen yapay zekâ politikası, çoğu zaman mevcut BT veya bilgi güvenliği politikasının üzerine “yapay zekâ” ifadesi eklenerek oluşturulur; adalet, şeffaflık ve insan gözetimi konularını gerçek anlamda ele almaz. Bu tür bir politika, maddenin lafzını karşılasa da amacını karşılamaz — üst yönetimin politikayı fiilen sahiplenmesi ve onaylaması beklenir.
7. Uygulanabilirlik Bildirgesi’nde (SoA) Eksik Gerekçelendirme
Ek A’daki 38 kontrolün tamamını ele almayan veya kapsam dışı bırakılan kontroller için yeterli gerekçe sunmayan Uygulanabilirlik Bildirgeleri sık karşılaşılan bir bulgudur. Her kontrolün ya sistem envanterine dayalı bir dahil etme gerekçesi ya da savunulabilir bir “kapsam dışı” açıklaması taşıması gerekir; gerekçesiz, genel bir “uygulanamaz” ifadesi genellikle yetersiz kabul edilir.
8. Kontrolün Anlatılması, Kanıtlanamaması
Kuruluşlar bir kontrolün ne yapması gerektiğini politika veya prosedür belgesinde tarif eder, ancak fiilen çalıştığına dair kanıt sunamaz ; test sonucu, yapılandırma kaydı, log örneği, doğrulama tarihi veya sorumlu isim gibi somut kanıtlar eksik kalır. Destekleyici kanıt olmadan “kontrol uygulanıyor” beyanı, denetimlerde en sık dile getirilen küçük bulgulardan biridir.
9. Yaşam Döngüsü Onay Noktalarının Fiilen Devreye Girmemesi
Madde 8 ve Ek A.6 kapsamında yapay zekâ yaşam döngüsü için tanımlanan gözden geçirme ve onay noktaları belgelerde yer alsa da, devreye alma kayıtları sistemlerin gerekli onaylar olmadan canlıya alındığını, onay kayıtlarının devreye alma tarihine uydurulmak üzere sonradan tarihlendirildiğini veya yanlış kişi tarafından imzalandığını gösterebilir. Devreye almayı fiilen durdurmayan bir onay noktası, yalnızca bir dokümantasyon egzersizinden ibaret kalır.
10. Biçimsel, İçerik Bakımından Zayıf Yönetimin Gözden Geçirmesi Toplantıları
Sertifikasyon döngüsünün ortasında devreye alınan sistemler için gözden geçirme hiç yapılmaz, ya da toplantı tutanakları “Yapay zekâ portföyü gözden geçirildi, herhangi bir sorun bildirilmedi” gibi yalın katılım notlarından ibaret kalır. Madde 9.3’ün beklediği girdiler, izleme sonuçları, olaylar, önceki düzeltici faaliyetler ve alınan kararlar — bu tür tutanaklarda somut biçimde ele alınmaz.
11. Üçüncü Taraf ve Tedarikçi Risklerinin Geleneksel Yöntemlerle Ele Alınması
Mevcut tedarikçi risk programları genellikle bilgi güvenliği, gizlilik ve finansal istikrara odaklanır; model güncelleme şeffaflığı, eğitim verisinin kaynağı, değerlendirme tekrarlanabilirliği, önyargı izleme ve algoritmik değişiklik bildirimi gibi yapay zekâya özgü boyutlar gözden kaçırılır. Günümüzün yapay zekâ sistemleri temel modeller, dış veri kümeleri, etiketleme hizmetleri ve API entegrasyonlarının bileşimi olduğundan, kuruluş davranışı üzerinde doğrudan kontrolü olmasa da üçüncü tarafın etkilediği sonuçlardan sorumlu kalır.
12. Belgelenmemiş Yetkinlik ve Farkındalık Eksiklikleri
Personel, önyargı, açıklanabilirlik ve insan gözetimi yükümlülükleri gibi yapay zekâya özgü konularda genellikle belgelenmiş eğitim almaz; kuruluşlar rol bazında yetkinlik gereksinimlerini tanımlamaz ve eğitim kayıtlarını tutmaz. Bu durum, Madde 7.2 kapsamında sıkça dile getirilen bir bulgudur.
13. Önyargı ve Adalet Değerlendirmesinin Dar Kapsamlı Ele Alınması
Önyargı çoğunlukla yalnızca bir veri kalitesi sorunu olarak ele alınır; oysa tasarım varsayımlarından, test eksikliklerinden, devreye alma bağlamından ve sonuçların yorumlanma biçiminden de kaynaklanabilir. Adalet tanımı kültüre, bağlama ve hukuk sistemine göre değişir; ancak kuruluşlar bağlama özgü adalet kriterlerini nadiren belgeler. Bazıları da standardın beklentisini, önyargıyı tamamen ortadan kaldırmak olarak yanlış yorumlar. Standart, insan gözetimi, yükseltme yolları ve geri bildirim kanallarıyla desteklenen “makul ve belgelenmiş risk azaltımını” beklemektedir.
14. İç Denetimlerin Yapay Zekâya Özgü Kriterlerle Yapılmaması
İç denetimler bazen denetlenen yapay zekâ fonksiyonundan bağımsız olmayan kişilerce yürütülür veya ISO 42001’in kendine özgü gereksinimleri yerine genel bir bilgi güvenliği yönetim sistemi kontrol listesiyle gerçekleştirilir; bulgular da izlenebilir bir kapatma süreci olmadan takipsiz kalabilir.
15. ISO 27001 Olgunluğu Olmadan Entegrasyona Girişmek
Bazı kuruluşlar, henüz olgunlaşmamış bir bilgi güvenliği yönetim sistemi üzerine ISO 42001’i doğrudan eklemeye çalışır veya ikisini aynı anda, mevcut şablonları yalnızca “yapay zekâ” ifadesiyle yeniden etiketleyerek uygulamaya kalkışır. Bunun sonucu, sahibi tanımlanmamış tehditler içeren risk kayıtları, henüz var olmayan kontrollere atıfta bulunan etki değerlendirmeleri ve politika düzeyinde belgelenmiş ama uygulamada karşılığı olmayan veri erişim yönetişimidir. Ek A’daki veri kökeni kontrollerinin bilgi varlığı envanteri gibi bir temele dayanmadığını fark eden deneyimli denetçiler, bu tür eksiklikleri gözlemden büyük bulguya taşıyabilir; bu nedenle bilgi güvenliği yönetim sisteminin fiilen işler hale getirilmesi, ISO 42001 katmanının üzerine eklenmesinden önce gelmelidir.
Yukarıdaki 15 madde, ISO 42001 entegrasyonunda tek bir ortak noktaya işaret ediyor: standardın yapısı tanıdık olsa da içeriği, yapay zekâya özgü bir titizlik gerektiriyor. Kapsamın net tanımlanması, risk ile etki değerlendirmesinin ayrı tutulması, kanıta dayalı kontrol uygulaması ve mevcut bilgi güvenliği sisteminin olgunluğu bu hataların büyük bölümünün ortak paydasını oluşturuyor.
CFE Certification, UKAS ve IAS akreditasyonlu bir belgelendirme kuruluşu olarak, ISO 42001 ve birçok standartta denetimlerini bu tarafsızlık ilkesi çerçevesinde yürütür. Denetim hizmetlerimiz hakkında bize info@cfecert.co.uk adresinden ulaşabilirsiniz.