Yapay zekâ envanteri nasıl çıkarılır? Adım adım rehber
Kurumunuzda hangi yapay zekâ araçlarının, kimler tarafından ve hangi verilerle kullanıldığını bilmeden politika yazmak ya da risk yönetmek mümkün değildir. Envanter, yapay zekâ yönetişiminin temelidir.
Yapay zekâ envanteri; kurumda kullanılan tüm yapay zekâ araçlarının, sistemlerinin ve yazılımlara gömülü yapay zekâ özelliklerinin; kullanım amacı, sahibi, işlenen veri türü ve risk seviyesiyle birlikte kaydedildiği listedir. Envanter; çalışan anketleri, birim görüşmeleri, ağ ve bulut kayıtları ile satınalma kayıtları birlikte kullanılarak çıkarılır ve periyodik olarak güncellenir. ISO/IEC 42001 hazırlığının ve yapay zekâ kullanım politikasının ilk girdisidir.
Envantere neler girmeli?
Genel amaçlı asistanlar
Sohbet tabanlı yapay zekâ araçları; kurumsal ve bireysel hesaplar ayrı ayrı.
Gömülü özellikler
Ofis, CRM, İK ve müşteri hizmetleri yazılımlarına eklenen yapay zekâ özellikleri.
Kod asistanları
Yazılım geliştirmede kullanılan kod tamamlama ve üretim araçları.
Tarayıcı eklentileri
Sayfa içeriğini okuyan, özetleyen veya yazan yapay zekâ eklentileri.
Kurum içi modeller
Kurumun geliştirdiği veya ince ayar yaptığı modeller ve entegrasyonlar.
Tedarikçi yapay zekâsı
Hizmet aldığınız tedarikçilerin sizin verinizle kullandığı yapay zekâ sistemleri.
Yapay zekâ kullanımı nasıl keşfedilir?
Tek bir yöntem yeterli olmaz; gölge yapay zekâ kullanımını görmek için kaynakları birlikte kullanın:
- Çalışan anketi: Kısa ve suçlayıcı olmayan bir anketle hangi araçların, hangi işler için kullanıldığını sorun.
- Birim görüşmeleri: İK, pazarlama, satış, yazılım ve müşteri hizmetleri gibi yoğun kullanım beklenen birimlerle görüşün.
- Ağ ve bulut kayıtları: Proxy, güvenlik duvarı, DNS ve varsa CASB kayıtlarında yapay zekâ hizmetlerine giden trafiği inceleyin.
- Satınalma ve harcama kayıtları: Kurumsal kartlarla ödenen abonelikleri ve yazılım lisanslarını tarayın.
- Uygulama ve eklenti listeleri: Uç nokta yönetim araçlarından kurulu uygulama ve tarayıcı eklentilerini çıkarın.
- Tedarikçi bildirimi: Kritik tedarikçilere verinizi yapay zekâ ile işleyip işlemediklerini sorun.
Her kayıt için tutulması gereken bilgiler
- Araç veya sistemin adı ve sağlayıcısı
- Kullanım amacı ve kullanım senaryosu
- Kullanan birim ve iş sahibi
- Hesap türü: kurumsal, bireysel veya ücretsiz
- İşlenen veri sınıfı: kamuya açık, kurum içi, gizli, kişisel veri
- Verinin işlendiği yer ve sağlayıcının veri saklama ve model eğitimi koşulları
- Onay durumu: onaylı, değerlendirmede, yasak
- Risk seviyesi ve uygulanan kontroller
- Son gözden geçirme tarihi
Envanteri çıkarmak için 5 adım
Kapsam
Hangi birimlerin, sistemlerin ve tedarikçilerin dahil edileceğini belirleyin.
Keşif
Anket, görüşme ve teknik kayıtlarla kullanımları toplayın.
Kayıt
Her kullanımı standart alanlarla envantere girin.
Sınıflandırma
Veri sınıfı ve etkiye göre risk seviyesini belirleyin.
Güncel tutma
Yeni araç onay sürecini envantere bağlayın; periyodik gözden geçirin.
Envanterden politikaya
Envanter tamamlandığında hangi araçların onaylanacağı, hangi veri sınıflarının hangi araçlarla kullanılabileceği ve hangi kullanımların yasaklanacağı netleşir. Bu kararlar yapay zekâ kullanım politikasına dönüştürülür ve yeni araç taleplerinin onay süreci envanteri güncel tutar.
ISO/IEC 42001’e hazırlanan kurumlar için envanter; risk değerlendirmesi, etki değerlendirmesi ve kontrol seçiminin temel girdisidir.
Yapay zekâ envanteri hakkında sık sorulanlar
Yapay zekâ envanteri nedir?
Kurumda kullanılan yapay zekâ araçlarının, sistemlerinin ve gömülü yapay zekâ özelliklerinin; amacı, sahibi, işlenen veri türü ve risk seviyesiyle birlikte kaydedildiği listedir.
Gölge yapay zekâ kullanımı envantere nasıl dahil edilir?
Suçlayıcı olmayan çalışan anketleri, birim görüşmeleri ve ağ ile harcama kayıtları birlikte kullanılarak onaysız kullanımlar da görünür hâle getirilir ve envantere eklenir.
Envanter ne sıklıkla güncellenmeli?
Yeni araç onay süreci envantere bağlanmalı ve envanter en az yılda bir, tercihen altı ayda bir gözden geçirilmelidir.
Envanter ISO 42001 için zorunlu mu?
ISO/IEC 42001, yapay zekâ sistemlerine ilişkin risklerin ve etkilerin değerlendirilmesini gerektirir; bunun için kurumun hangi yapay zekâ sistemlerini kullandığını bilmesi gerekir. Envanter bu değerlendirmenin pratik ön koşuludur.
Yapay zekâ envanterinizi birlikte çıkaralım.
Kurumunuzdaki yapay zekâ kullanımını keşfetmek ve risklerini önceliklendirmek için kısa bir ön görüşme yapalım.