Amerika Birleşik Devletleri’nin New York eyaletinde, işe alımda ve terfi süreçlerinde Yapay Zekâ (YZ) destekli otonom karar veren işe alım araçlarının kullanımını düzenleyen ilk yasa tasarısı (NYC 144) hayatımıza girmek üzere. İlk olarak 1 Ocak 2023 tarihinde yürürlüğe girmesi planlanan yasa için uygulama tarihi, ilgili bakanlığın düzenlediği toplantılarda alınan çok sayıda kamuoyu yorumu nedeniyle 15 Nisan 2023 tarihine ertelenmişti. Bu gelişmeden sonra 5 Nisan 2023’te, yapılan revizyonlara birlikte birkaç toplantıdan sonra ve yürürlük tarihi ise 5 Temmuz 2023’e ertelenmiştir. Bu kapsamda şirketlerin YZ destekli Otonom İstihdam Karar Araçları (OİKS) olarak tanımlanan teknolojileri kullanıp kullanmadıklarını değerlendirmeleri ve eğer kullanılıyorsa uyum sağlamak için belirlenen adımları atmaları için önlerinde yaklaşık 1 aylık süre bulunmaktadır.
NYC 144, şu an için New York şehrinde işe alım adayı olan veya terfi için değerlendirilen gerçek kişilere uygulanması beklense de yasada böyle bir sınırlama açıkça belirtilmemiştir. Ayrıca YZ destekli Otonom karar veren sistemlerin her geçen gün hayatın farklı alanlarında giderek daha fazla kullanılmaya başlandığı hususu göz önünde bulundurulduğunda; NYC 144, yakın zamanda farklı ülkelerde yapılacak hukuki düzenlemeler için emsal teşkil edebileceğini söylemek de mümkündür. Bu kapsamda NYC 144’ün uygulama alanına girmese de şirketlerin şimdiden düzenlemeyi anlaması ve otonom karar veren sistemlerin kullanımına ilişkin kurallara uyum sağlamak için gerekli önlemleri alması faydalı olacaktır. Bu kapsamda yazıda NYC 144’ün içeriği ve kapsamı incelenecek ve otonom karar veren teknolojiler kullanan şirketler için getirdiği kurallar incelenecektir.
Bu noktada şirketler, öncelikle NYC 144 uyarınca OİKS olarak kabul edilen bir teknolojiye sahip olup olmadıklarını ve bu aracı nasıl ve hangi amaçlarla kullandıklarını tespit etmeleri gerekecektir.
Yasa, OİKS teknolojilerini; makine öğrenmesi, istatistiksel modelleme, veri analitiği veya YZ destekli sistemler kullanılarak geliştirilen ve istihdam kararlarında önemli bir rol oynayan veya bu süreçte doğrudan karar veren sistemler olarak tanımlamıştır. Bu sistemler, basitleştirilmiş bir çıktı olan puan, sınıflandırma veya öneri gibi sonuçlar üretebilen sistemler olarak kabul edilmiştir. Bu noktada tüm özellikleri doğrudan insan tarafından tasarlanan, istatistiksel modellerden ziyade makine öğrenmesi teknolojisi kullanılarak öğrenebilen ve kendi kendini geliştirebilen sistemlerin kastedildiği anlaşılmaktadır. Bu kapsamda örneğin, bir testin gerekli girdileri ve bunların önem seviyesini belirleyen gerçek bir kişi ise, söz konusu teknoloji muhtemelen OİKS olarak değerlendirilmeyecek ve yasa kapsamı dışında olacaktır.
Diğer taraftan araç, eski veri setlerine ve çıktılara dayanarak karar verme noktasında kriterlerin önemini insan müdahalesi olmadan ayarlayacak şekilde programlanmışsa o zaman yasa uygulama alanı bulacaktır. Bu kapsamda yasa, makine öğrenmesine dayalı algoritmik teknikler kullanan tahminsel teknolojiler ile sınırlı tutulmuştur.
Ancak şirketlerin OİKS tanımına uygun bir teknolojiye sahip olmaları yasanın kapsamına girmek için yeterli değildir. Nitekim bu teknolojilerinin yine yasa kapsamında belirtilen amaç ve yöntemlerle kullanılması gerekecektir.
Bu kapsamda sistemin yasa uyarınca sağladığı puan, sınıflandırma, öneri veya nihai karar gibi çıktıların, istihdam sürecinde önemli bir rol oynaması ve iş kararlarına etkili bir şekilde katkıda bulunması gerekmektedir. Dolayısıyla şirketler, bir iş başvurusunu veya terfi için değerlendirilen bir çalışanı elemek konusunda belirleyici bir etkiye sahip olan bir makine öğrenme aracı kullanıyorsa NYC 144’e tabi olacaklardır.
Bu aşamadan sonra yasa kapsamına giren şirketlerin dört farklı aksiyon almaları gerekecektir:
1-Bağımsız bir ön yargı denetimi yaptırmak
Halihazırda OİKS kullanan şirketlerin, mümkün olan en kısa sürede sistem üzerinde bir ön yargı denetimi yapmaları gerekecektir. Yasaya göre ön yargı denetimi bağımsız denetçiler tarafından yıllık olarak yapılmalıdır. Yasaya göre bağımsız denetçiler, sistemin kullanımı, geliştirilmesi veya dağıtımında yer almamış olan, denetim sürecinde işveren, satıcı veya sistem geliştiricisi tarafından hiçbir zaman istihdam edilmemiş, sistemi geliştiren veya dağıtan satıcıyla doğrudan veya dolaylı maddi bir çıkar ilişkisi bulunmayan tarafsız bireyler veya gruplar olarak kabul edilmiştir.
2-Denetimin sonuçlarının bir özetini yayınlamak
Yasa uyarınca şirketler, yaptıkları ön yargı denetimine ilişkin bir özet rapor yayınlamakla yükümlüdürler. Bu özette önyargı denetimlerinin içeriği, cinsiyet, ırk/etnisite ve kesişimli kategoriler, bu kategorilere ait başvuru sayısı ve adayların seçilme oranları yer almalıdır. Ayrıca yasa uyarınca bağımsız bir denetçi, bir öz değerlendirme yaparak, gerekçesini sunmak şartıyla, denetimde kullanılan verilerin %2’sinden daha azını temsil eden bir kategoriyi dışarıda bırakabilme yetkisine de sahiptir. Bu özet rapor sayesinde denetim sonuçlarının şeffaflığı ve hesap verebilirliğinin sağlanması amaçlanmıştır.
3-Başvuru sahiplerine ve çalışanlara sistemin kullanımı ve işleyişi hakkında bildirimde bulunmak ve sistemden etkilenen bireylerin yasa ile uyum talep edebileceğini veya alternatif bir karar verme süreci isteyebileceğini bildirmek.
Aday veya çalışan hakkında OİKS kullanılmasından önce, şirketler en son ön yargı denetiminin tarihini, kullanılan verinin kaynağını ve açıklamasını; tüm kategoriler için seçim veya puanlama oranlarını ve etki oranlarını; iş web sitesinin istihdam bölümünde açık ve belirgin bir şekilde yayınlamak zorundadır. Ayrıca OİKS için toplanan veri türünü, verinin kaynağını ve kuruluşun veri saklama politikasının da yayınlanması gerekecektir.
NYC 144 uyarınca işe alım veya terfi için adaylara, sistem kullanılmadan 10 iş günü önce bildirimde bulunulmasını zorunlu kılınmaktadır. Bu bildirimde;
(1) adayın değerlendirilmesinde bir OİKS kullanıldığı
(2) OİKS’in analizinde kullanacağı iş nitelikleri ve özellikleri
(3) web sitesinde veya başka bir yerde açıklanmadıysa, OİKS’NİN veri kaynağı, türü ve işverenin kişisel veri saklama ve imha politikası
(4) adayın alternatif bir seçim süreci veya uyum talep edebileceği gibi hususlara yer verilmelidir.
Bu bildirim, işverenin istihdam bölümünde açık ve belirgin bir bildirimle, bir iş ilanında veya adaya posta veya e-posta yöntemleri ile gerçekleştirmek mümkündür. Bu kapsamda uygulamada, mevcut kariyer web sitelerine eklenecek tam zamanında bildirimler tercih edilecek yöntem olacaktır.
NYC 144’e göre yasayı ihlal eden herhangi bir kişi, ilk ihlal için 375 dolarlık bir yaptırıma maruz kalabilecektir. İlk günün ardından düzeltilmeyen her ihlal durumunda en az 500 dolar ve en fazla 1,500 dolarlık bir yaptırım uygulanacağı da hüküm altına alınmıştır. Ayrıca belirtmek gerekir ki başvuru bildirimi gereksinimlerini karşılamama veya önyargı denetimi yükümlülüğünü yerine getirmeme gibi her gereklilik, kendi içinde ayrı birer ihlal olarak değerlendirilecektir.
Makine öğrenmesi destekli otonom karar veren sistemler insanlar hakkında hayati kararlar verebilmektedir. Özellikle insanlar hakkında karar verme görevinin tamamen YZ’ye bırakılması gibi süreçlerde, gerçek dünyada var olan ayrımcılığın artarak devam etmemesi adına bu gibi sistemlerin sürekli olarak test edilmesi ve denetlenmesi zorunluluk haline gelmiştir. NYC 144, bu noktada, kısa ama kapsamlı bir düzenleme sunmaktadır. Bu kapsamda yasanın hukuki ve teknolojik tanımlar içermesi sebebiyle yasadan etkilenebilecek şirketlerin, kapsama dahil olup olmadıklarını ve gerektiğinde uyum sağlamak için neler yapmaları gerektiğini anlamak üzere uzmanlara başvurmaları kritik önem taşımaktadır.
Ayrıca bakınız; https://jurcom.nl/enigmadan-chatgptye-giden-yol-yapay-zeka-ve-veri-koruma-hukuku/
