Bank of England, AI önyargısının finans sektörü için tehlike oluşturduğu konusunda uyardı - Dünyadan Güncel Teknoloji Haberleri

Bank of England, AI önyargısının finans sektörü için tehlike oluşturduğu konusunda uyardı - Dünyadan Güncel Teknoloji Haberleri

Blake, “Önyargı, adalet ve etik ile ilgili doğal sorunların ötesinde, bu durum potansiyel olarak finansal kurumlar veya bir bütün olarak finansal sistem için istikrar sorunlarına yol açabilir” diye yazdı

Blake, bu tür istikrarsızlaştırıcı yapay zeka olayının henüz gerçekleşmediğini kabul etti, ancak 2021’de Apple ve Goldman Sachs’ın New York Eyaleti Finansal Hizmetler Departmanı tarafından algoritmik olarak daha küçük hatlar sunmaları nedeniyle araştırıldığı bir vakaya atıfta bulunarak risklerin son derece gerçek olduğu konusunda uyardı


Günümüzün örtülü önyargısı üretken yapay zeka İngiltere Merkez Bankası için çalışan bir finansal teknoloji uzmanı tarafından hazırlanan bir rapora göre, modeller finans sektöründe hızlı bir şekilde benimsenmeyi tehlikeli hale getiriyor ” Blake, Amazon’un kadın adaylardan daha fazla erkek aday önerme eğiliminde olan bir işe alım algoritmasına değindi, çünkü veriler tarihsel olarak erkeklerin daha sık işe alınma eğiliminde olduğunu gösteriyordu Dahası, özel modellerin şeffaf olmayan “kara kutu” doğası, büyük bir grup önemli firmanın bunları benzer amaçlarla kullanması durumunda, eylemlerinin bir bütün olarak ekonomi üzerinde büyük bir etkiye sahip olabileceği ve pazarlıkta oldukça öngörülemez olabileceği anlamına gelir Bankacılık sistemine olan güven, yapay zeka tarafından sergilenen yukarıda belirtilen önyargılar nedeniyle ciddi bir risk altındadır; zira yapay zeka (insan karar vericilere göre belirgin şekilde daha az ayrımcı olmasına rağmen), beyaz olanlarla karşılaştırıldığında siyahi ve Latin mortgage müşterilerinden hala daha yüksek oranlar talep etmektedir Her ikisi de geliştiricilerin ve yaratıcıların yapay zeka modellerine getirdiği insani önyargıları yansıtsa da, ilk kategorinin yalnızca kadınlık veya beyaz olmama gibi durumları gösteren veri noktalarından kurtularak etkisiz hale getirilmesi imkansızdır

Kathleen Blake’in Çarşamba günü yayınlanan raporu, yapay zeka modelinin önyargısını iki kategoriye ayırıyor: temel eğitim verilerine dayanan önyargı ve model çıktısının sonuçlarına dayanan önyargı

Blake, yapay zeka önyargısının özellikle finans sektöründe tehlikeli olduğu konusunda uyardı



genel-13

Toplumsal önyargı ise tam tersine, “bir toplumdan gelen normların ve olumsuz mirasın kör noktalara neden olduğu yerdir

“[T]Model, korunmayan özelliklere dayalı olarak önyargılı karar almaya yol açan temel korelasyonları ortaya koyabilir

Telif Hakkı © 2023 IDG Communications, Inc

Blake, veri önyargısını ipotek kredilerindeki kırmızı çizgi uygulamasına benzetti “Başka bir deyişle, geri kalan korunmayan özellikler, korunan özelliklerin vekilleri olarak hareket edebilir ” Blake yazdı Kırmızı çizgi sisteminde, ev sigortacıları ve ipotek kredisi verenler, beyaz olmayan müşterileri mahallelerine göre “riskli” olarak değerlendiriyor, bu da beyaz olmayan insanlar için kredi ve sigortaya ulaşmayı daha zor hale getiriyor, ancak reddedilmeleri veya daha yüksek fiyatları doğrudan ırka atfetmiyor kadınlara kredi Blake, benzer mantığın yapay zeka sistemlerinde zaten görülebildiğini belirtti