Kusursuzluk Yanılsaması ve Teknolojik Devrim

Modern iş dünyası, yetenek savaşlarının giderek daha çetin bir hal aldığı, saniyelerin ve verimliliğin her zamankinden daha değerli olduğu bir çağa giriş yapmıştır. İşletmeler, her bir açık pozisyon için yüzlerce, hatta binlerce başvuru almakta; bu başvuruları manuel olarak incelemek, insan kaynakları (İK) departmanları için altından kalkılamaz bir operasyonel yüke dönüşmektedir. Geleneksel işe alım süreçlerinde, insan kaynakları uzmanlarının bilinçli ya da bilinçsiz olarak sergilediği önyargılar yıllardır iş dünyasının en temel ve çözülmesi en zor problemlerinden biri olmuştur. Özgeçmişin en üstünde yer alan bir isim, adayın mezun olduğu lise, doğum yılı, cinsiyeti, medeni durumu, fiziksel görünümü ve hatta yaşadığı şehir bile işe alım kararını doğrudan etkileyebilmektedir. İnsan doğasının bu kaçınılmaz kusurunu ortadan kaldırmak, işe alım süreçlerini tamamen adil, meritokratik (liyakat bazlı) ve veri odaklı bir hale getirmek amacıyla devreye sokulan yapay zekâ (AI) sistemleri, başlangıçta büyük bir teknolojik devrim olarak sunuldu.

Silikon Vadisi'nden yayılan bu rüya, makine öğrenimi (machine learning) ve doğal dil işleme (NLP) teknolojileri sayesinde artık "kusursuz, tarafsız ve hatasız" kararlar alınabileceğini öne sürüyordu. Makinelerin yorulmadığı, duygularının olmadığı ve insanlara özgü "kayırma" gibi zaaflardan uzak olduğu bir gerçekti. Ancak uygulamaya geçildiğinde ve yıllar içinde biriken veriler incelendiğinde karşılaşılan tablo, bu ütopik vaatlerin oldukça uzağındaydı. Yapılan güncel akademik araştırmalar, bağımsız denetim raporları ve kamuoyuna yansıyan kurumsal skandallar açıkça gösteriyor ki; yapay zekâ, işe alım süreçlerinde insanlardan çok daha sistematik, çok daha katı ve en tehlikelisi çok daha "ölçeklenebilir" önyargılar oluşturma eğilimindedir. Peki, sadece 1'ler ve 0'lardan oluşan, tamamen matematiksel bir tarafsızlık üzerine inşa edilmesi beklenen bu algoritmalar neden ayrımcılık yapıyor?

BÖLÜM 1: İşe Alımda İnsan Doğası ve Kaçınılmaz Önyargıların Tarihsel Yükü

Yapay zekânın neden önyargılı olduğunu anlamak için, öncelikle onun yerine geçmeye çalıştığı "insan önyargısını" anlamak gerekir. İnsan beyni, karmaşık dünyayı hızlıca algılayabilmek için kestirme yollar (heuristics) kullanır. Bu bilişsel kestirme yollar, işe alım masasında şu şekillerde ortaya çıkar:

• Benzerlik Önyargısı (Affinity Bias): İK uzmanlarının veya yöneticilerin, kendileriyle aynı okula gitmiş, aynı memleketten olan veya benzer hobileri paylaşan adaylara bilinçsizce daha yüksek puan vermesidir.

• Hale Etkisi (Halo Effect): Adayın çok iyi olduğu tek bir özelliğin (örneğin diksiyonunun çok düzgün olması veya prestijli bir üniversiteden mezun olması) diğer tüm potansiyel eksikliklerini gölgelemesi durumudur.

• Onaylama Önyargısı (Confirmation Bias): Mülakatı yapan kişinin, adayın CV'sine bakar bakmaz oluşturduğu ilk izlenimi doğrulayacak sorular sormaya eğilimli olmasıdır.

İnsanlar bu önyargılara sahiptir ve yüzyıllardır iş dünyasındaki eşitsizliklerin, "cam tavan" (glass ceiling) sendromlarının ve azınlık grupların istihdamda geri planda kalmasının temel sebebi budur. Yapay zekânın temel amacı, insan karar mekanizmasındaki bu "gürültüyü" (noise) ve önyargıyı sıfırlamaktı. Ancak mühendislerin ve teknoloji şirketlerinin gözden kaçırdığı devasa bir kör nokta vardı: Yapay zekâ sıfırdan bir zeka üretmez; insanlığın bıraktığı izleri takip eder.

BÖLÜM 2: Veri Kümesi Ne Kadar Adilse, Algoritma da O Kadar Adildir

Yapay zekâ ve makine öğrenimi modelleri, insan zihni gibi sıfırdan etik değerler, empati veya felsefi bir dünya görüşü geliştirmezler. Onların "dünyası", yalnızca kendilerine sunulan geçmiş verilerden ve bu verilerin içindeki gizli istatistiksel kalıplardan ibarettir. Makine öğrenimi algoritmaları, başarılı bir adayın profilini çıkarabilmek için şirketin son on, yirmi veya otuz yıldaki işe alım, terfi, performans ve işten ayrılma verilerini devasa bir veri seti olarak yutar ve analiz eder.

İşte sorun tam da bu noktada başlar. Eğer bir kurumun geçmişteki başarılı yöneticilerinin ezici bir çoğunluğu belirli bir cinsiyetten (örneğin erkek), belirli bir sosyoekonomik gruptan (örneğin beyaz yakalı, üst orta sınıf ailelerden) veya spesifik birkaç üniversiteden geliyorsa, algoritma bu durumu matematiksel ve tartışılmaz bir "başarı formülü" olarak kodlar. Yani sistem, geçmişteki insan önyargılarını, kurumsal cam tavanları ve yüzyıllara dayanan toplumsal eşitsizlikleri "mutlak doğrular ve nesnel başarı kriterleri" zannederek geleceğe yansıtır.

Veriye dayalı ayrımcılığın en bilinen ve teknoloji tarihinde ders olarak okutulan örneği, dünyaca ünlü dev bir e-ticaret ve teknoloji şirketinin geçmişte iç kullanım için tasarladığı işe alım botunda yaşanmıştır. Şirket, adayların CV'lerini 1 ile 5 yıldız arasında derecelendirecek bir makine öğrenimi modeli geliştirdi. Model, şirketin geçmiş on yıllık mühendis alım verileriyle eğitildi. Ancak yazılım sektörü genelinde dominant bir erkek egemen yapı olduğu için, sistem başarılı özgeçmişlerin çoğunun erkeklere ait olduğunu "fark etti". Sonuç olarak algoritma, erkek adayları öne çıkaran, kadın adayları ise cezalandıran bir sistem geliştirdi. Öyle ki sistem, özgeçmişinde "kadın" kelimesi geçen (örneğin "Kadın Satranç Kulübü Başkanı" veya "Kadınlar Mentorluk Ağı Üyesi") başvuruları otomatik olarak elemiş, hatta yalnızca kadınların gittiği okullardan mezun olan adayların puanını sistemli bir şekilde düşürmüştür. Proje, düzeltilemeyeceği anlaşılınca iptal edilmek zorunda kalmıştır. Bu örnek, "Çöp girerse, çöp çıkar" (Garbage in, garbage out) kuralının işe alımdaki en somut yansımasıdır.

BÖLÜM 3: Örtük Sinyaller (Proxy Variables) ve Algoritmik Kamuflaj

Bu noktada teknoloji liderleri ve yöneticiler şu savunmayı yapabilirler: "Öyleyse algoritmaları eğitirken yaş, cinsiyet, ırk, din veya medeni durum gibi kişisel verileri veri setinden tamamen çıkaralım. Böylece algoritma ayrımcılık yapamaz." Kulağa mantıklı gelen bu "Körleştirme" (Blinding) yöntemi, modern yapay zekâ mimarilerinde ne yazık ki tamamen işlevsizdir. Bunun sebebi, günümüz yapay zekâ sistemlerinin "Örtük Sinyaller" (Proxy Variables) adı verilen yan verileri kullanarak bu saklanan kimlikleri çok yüksek bir doğruluk payıyla, adeta bir dedektif gibi tahmin edebilme yeteneğidir.

Makine öğrenimi modelleri binlerce farklı değişkeni aynı anda işleyebilir. Doğrudan cinsiyet veya etnik köken bilgisi silinmiş olsa bile, sistem dolaylı yollardan bu bilgilere ulaşır:

• Posta Kodları (Zip Codes): Adayların oturdukları mahallenin posta kodları, onların sosyoekonomik durumu veya etnik kökeni hakkında algoritmaya çok net, demografik ipuçları verir. Geçmişte azınlıkların yoğun yaşadığı bölgelerden gelen adayların daha az işe alındığını gören bir algoritma, doğrudan o posta kodundan gelen adayları elemeye başlar.

• Dil Kullanımı ve Kelime Seçimleri (Linguistic Proxies): Sosyolojik araştırmalar, kadınların ve erkeklerin, farklı sosyoekonomik sınıfların özgeçmişlerinde farklı kelime grupları kullandığını göstermektedir. Örneğin; bir cinsiyet daha çok "yönettim, başardım, inşa ettim" gibi iddialı fiiller kullanırken, diğeri "destekledim, koordine ettim, takımın parçası oldum" gibi işbirliği odaklı kelimeler kullanabilir. Algoritma bu kelime örüntülerini cinsiyetle eşleştirerek (cinsiyeti bilmese bile) bir grubu eleyebilir.

• Eğitim ve Hobiler: Yapılan amatör sporlar (örneğin yelken ve polo vs. futbol ve basketbol) veya lise adları üzerinden sistem yine arka planda bir sınıf ayrımcılığı mekanizması çalıştırabilir.

Bu örtük sinyaller, yapay zekânın ayrımcılığı teknolojik bir kamuflajın arkasına saklayarak yapmasına olanak tanır. Algoritma görünüşte "sadece deneyime" bakıyordur, ancak gerçekte çok derin bir toplumsal sınıflandırma yapmaktadır.

BÖLÜM 4: Yeni Nesil Tehlike: Biyometrik Veriler, Yüz Tanıma ve Ses Analizi

İşe alımda yapay zekâ sadece özgeçmiş (CV) taramakla kalmıyor; günümüzde video mülakat asistanları aracılığıyla adayların yüz ifadelerini, göz hareketlerini, ses tonlarını ve mikro-mimiklerini de analiz ediyor. "Duygu Yapay Zekâsı" (Emotion AI) olarak pazarlanan bu sistemler, adayın dürüst, özgüvenli veya strese dayanıklı olup olmadığını ölçtüğünü iddia etmektedir. Ancak burada ayrımcılık tamamen biyolojik ve kültürel bir boyuta taşınmaktadır.

• Görsel ve Etnik Önyargılar: Yüz tanıma algoritmaları, çoğunlukla beyaz tenli ve belirli bir etnik gruba ait yüz veritabanlarıyla (örneğin Silikon Vadisi çalışanları) eğitilir. Bu durum, algoritmaların daha koyu tenli adayların yüz ifadelerini doğru okuyamamasına, hatta bazen yüzlerini sistemde bir insan yüzü olarak bile algılamakta zorlanmasına neden olur.

• Nöroçeşitlilik (Neurodiversity) ve Engelli Hakları İhlali: Otizm spektrumundaki bireyler, Asperger sendromuna sahip adaylar veya göz temasından kaçınan kişiler, video mülakat algoritmaları tarafından derhal "şüpheli", "özgüvensiz" veya "iletişim becerisi düşük" olarak etiketlenip elenmektedir. Sistem, "standart" insan davranışından sapan her türlü farklılığı bir hata olarak değerlendirir.

• Aksan ve Ses Tonu Ayrımcılığı: Ses analizi algoritmaları, ana dili İngilizce (veya sistemin dili) olmayan adayların aksanlarını "anlaşılmazlık" veya "düşük dil hakimiyeti" olarak işaretleyebilir. Ayrıca, kadınların daha tiz ses frekanslarına sahip olması, bazı algoritmalar tarafından "otorite eksikliği" olarak yorumlanabilmektedir.

BÖLÜM 5: "Kara Kutu" (Black Box) Paradoksu ve Açıklanabilirlik Krizi

İşin daha da karmaşık ve korkutucu boyutu, özellikle derin öğrenme (deep learning) mimarisine sahip yapay sinir ağlarının karar alma süreçlerinin bir "Kara Kutu" (Black Box) gibi çalışmasıdır. Geleneksel programlamada yazılımcı "Eğer X ise Y yap" şeklinde net kurallar yazar. Ancak makine öğreniminde sisteme veri verilir ve kuralı sistemin kendisi bulur. Bu durum öyle bir noktaya gelir ki, sistemin bir adayı binlerce kişi arasından neden birinci sıraya koyduğunu veya neden mülakat aşamasına geçmeden direkt elediğini, bazen o kodu yazan mühendisler dahil kimse tam olarak açıklayamaz.

Bu "açıklanabilirlik eksikliği", insan kaynaklarında çok ciddi bir etik kriz yaratmaktadır. İnsanlar önyargılı kararlar verdiklerinde, bu durum bir iç denetçi tarafından sorgulanabilir, esnetilebilir, mülakat notları üzerinden tartışılabilir ve en önemlisi kurumsal kültür değişimi ile düzeltilebilir. Ancak bir algoritma, öğrendiği hatalı kalıbı hiçbir duygu kırıntısı barındırmadan, milimetrik bir kesinlikle ve saniyeler içinde on binlerce adaya uygular. Kısacası insan hatası lokaldir, yavaştır ve müdahale edilebilirdir; yapay zekânın hatası ise devasa boyutlarda ölçeklenebilir, görünmez ve anlık bir felakettir.

Eğer bir aday, yapay zekâ tarafından reddedildiğini öğrenip "Neden elendim?" diye hukuki bir başvuru yaparsa, şirket yönetimi "Biz de bilmiyoruz, algoritma öyle karar verdi" demek dışında tatmin edici bir cevap bulmakta zorlanacaktır. Bu durum, "Açıklanabilir Yapay Zekâ" (Explainable AI - XAI) konseptinin ne kadar hayati olduğunu ortaya koymaktadır.

BÖLÜM 6: Küresel Düzenlemeler ve Hukuki Çerçeve (Regülasyonlar)

Yapay zekânın işe alım süreçlerinde yarattığı bu derin tahribat potansiyeli, dünya çapında kanun koyucuları ve yasa yapıcıları harekete geçirmiştir. Teknoloji şirketlerinin inisiyatifine bırakılamayacak kadar ciddi olan bu konu, artık yasal bir zemine oturtulmaktadır:

• Avrupa Birliği Yapay Zekâ Yasası (EU AI Act): Dünyanın ilk kapsamlı yapay zekâ yasası olan bu metin, işe alım, işten çıkarma ve terfi süreçlerinde kullanılan yapay zekâ sistemlerini kategorik olarak "Yüksek Riskli" (High-Risk) olarak sınıflandırmaktadır. Bu sistemleri Avrupa'da kullanacak şirketler, veri setlerinin tarafsız olduğunu ispatlamak, şeffaflık ilkelerine uymak ve sistemlerinin insan gözetimi altında (human oversight) çalıştığını kanıtlamak zorundadır.

• New York Şehri Yerel Yasası 144 (NYC Local Law 144): 2023 yılında yürürlüğe giren bu öncü yasa, New York'ta faaliyet gösteren şirketlerin işe alım ve terfi süreçlerinde "otomatik istihdam karar araçları" (AEDT) kullanmalarını, bu sistemlerin her yıl bağımsız denetçiler tarafından "önyargı denetimine" (bias audit) tabi tutulması şartına bağlamıştır. Şirketler, algoritmik kararlarının ırk, etnik köken veya cinsiyet ayrımcılığı yapmadığını açıkça raporlamak ve adayları bir algoritma tarafından değerlendirildikleri konusunda önceden bilgilendirmek zorundadır.

• GDPR (Avrupa Genel Veri Koruma Tüzüğü): Tüzüğün 22. Maddesi, bireylerin yalnızca otomatik karar verme süreçlerine (profilleme dahil) tabi olmama hakkını güvence altına almaktadır. Yani bir aday, karar sürecine bir insanın dahil olmasını talep etme hakkına yasal olarak sahiptir.

Bu hukuki gelişmeler, yapay zekânın bir "vahşi batı" gibi kuralsızca kullanıldığı dönemin sonuna gelindiğinin en büyük göstergesidir.

BÖLÜM 7: Algoritmik Adaleti Sağlamak: Daha Adil Bir Dijital İK İçin Çözüm Haritası

Tüm bu etik, sosyolojik ve operasyonel risklere rağmen, yapay zekâyı işe alım süreçlerinden tamamen dışlamak, rekabetin hızlandığı, saniyelerin bile önemli olduğu dijitalleşen bir küresel iş dünyasında gerçekçi ve sürdürülebilir bir çözüm değildir. Doğru, şeffaf ve etik bir çerçevede kullanıldığında AI, operasyonel yükü ciddi şekilde hafifletebilir ve aslında (insanların yapamayacağı kadar) veri odaklı adil analizler yapabilir. Bunun için algoritmaları ve onlara yön veren veri setlerini tarafsız kılacak yapısal adımlar atılmalıdır:

1. Veri Hijyeni ve Kapsayıcı Tasarım (De-biasing & Inclusive Design): Algoritmaları eğiten tarihsel veriler, oldukları gibi çiğ (raw) bir şekilde kullanılmamalıdır. Veriler geçmişin toplumsal ve kurumsal önyargılarından dikkatle arındırılmalı (de-biasing) ve algoritmaya verilmeden önce "sterilize" edilmelidir. Eğitim setleri çok daha kapsayıcı, farklı demografik özellikleri, azınlık gruplarını ve farklı coğrafyaları barındıran zenginleştirilmiş senaryolarla (synthetic data) yeniden yapılandırılmalıdır. Ayrıca sistemi kodlayan mühendis ekipleri sadece belirli bir cinsiyet veya etnik gruptan değil, çeşitliliği yansıtan farklı profillerden oluşmalıdır. Tasarım masasında ne kadar çeşitlilik varsa, algoritmada da o kadar adalet olur.

2. Kesin İnsan Denetimi ve Etkileşimi (Human-in-the-Loop - HITL): Algoritmik sistemlerin otonomisine (kendi başına karar verme yetkisine) kesin hukuki ve operasyonel sınırlar çizilmelidir. Yapay zekâ, işe alım sürecinde hiçbir zaman bir "Yargıç" veya "Karar Verici" olarak konumlandırılmamalıdır. O yalnızca bir ön eleme asistanı, verileri derleyen, sınıflandıran ve sunan bir yardımcı asistan olarak görülmelidir. Adayların elenmesi veya bir sonraki aşamaya geçmesi hakkındaki nihai karar yetkisi hiçbir zaman tek başına bir makineye bırakılmamalıdır. Algoritmik okuryazarlığı ve etik farkındalığı yüksek, bu sistemlerin hatalarını okuyabilen profesyonel İK uzmanları sürecin merkezinde, direksiyonda kalmaya devam etmelidir.

3. Düzenli Algoritmik Denetimler ve Şeffaflık (AI Auditing & Transparency): Kurumların kullandığı işe alım yazılımları, bir kez satın alınıp yıllarca kendi haline bırakılamaz. Tıpkı finansal tabloların denetlendiği gibi, algoritmalar da belirli periyotlarla bağımsız etik kurullar, algoritmik denetçiler (AI auditors) ve sivil toplum kuruluşları tarafından stres testlerine tabi tutulmalıdır. Ayrımcılık skorları (disparate impact ratios) şeffaf bir şekilde ölçülerek kamuoyu ve regülatörlerle paylaşılmalıdır. Ayrıca adaylara karşı tam şeffaflık sağlanmalı, hangi verilerinin nasıl işlendiği ve hangi sistemler tarafından değerlendirildiği açık bir dille ifade edilmelidir. Bir sistemin önyargılı olduğu anlaşıldığı anda, sistemin fişini çekebilecek (kill-switch) acil durum protokolleri hazır bulundurulmalıdır.

4. Kriterlerin Sürekli Güncellenmesi (Continuous Feedback Loops): Yapay zekâ modelleri dinamiktir, öğrenmeye devam ederler. İşe alınan adayların performansları ve şirket içindeki başarıları üzerinden sisteme sürekli geri bildirim (feedback) verilmelidir. Eğer algoritmanın yüksek puan verdiği adaylar gerçekte başarısız oluyor veya elediği aday profilleri sektörde başarı yakalıyorsa, modelin ağırlık puanlamaları yeniden yapılandırılmalıdır. Başarı tanımı sadece geçmiş verilere göre değil, geleceğin yetkinliklerine (soft skills, adaptasyon yeteneği) göre yeniden tasarlanmalıdır.

SONUÇ: Teknolojiye Hükmetmek ya da Teslim Olmak

Sonuç olarak; yapay zekâ, işe alım süreçlerinde kendiliğinden adil, gökten inmiş tarafsız veya sihirli bir hakem değildir. O, yalnızca önüne koyduğumuz tarihsel ve toplumsal aynadan bize kendi yansımamızı, en gizli kalmış zaaflarımızı ve önyargılarımızı bütün çıplaklığıyla, devasa bir veri seti olarak gösteren oldukça güçlü bir araçtır.

Eğer insanlık olarak bizler; kendi içimizdeki ayrımcı düşünceleri, eğitim sistemlerindeki eşitsizlikleri, iş dünyasındaki yapısal hataları ve fırsat eşitsizliklerini temizlemeden algoritmaların "kod satırları" arasında kusursuz derecede adil olmasını beklersek, çok büyük bir yanılgıya düşeriz. Yapay zekâyı kontrolsüz bırakmak, çözmek istediğimiz ayrımcılık sorununu teknolojinin parlak maskesi arkasına saklayarak, milisaniyeler içinde milyonlara uygulanan otomatize edilmiş bir endüstriye dönüştürmekten öteye gidemeyecektir.

Geleceğin iş dünyası, ne tamamen makinelere teslim olmuş ne de teknolojiyi reddeden bir yapıda olacaktır. Başarı ve adalet, yapay zekânın benzersiz veri işleme kapasitesi ile insan ruhunun empati, sağduyu ve etik anlayışının mükemmel bir sinerji içinde çalıştırılmasıyla mümkündür. İnsan kalmaya devam ettiğimiz sürece, hiçbir algoritma adaletin tek sağlayıcısı olamaz; o sadece bizim oluşturduğumuz adaleti yansıtan bir ekrandır. Gelin, bu ekrana yansıyan görüntüyü hep birlikte daha adil, daha eşit ve daha insani bir geleceğe dönüştürelim.