Yapay zeka geliştirmede etik ikilemler

Yapay zeka (YZ) eşi benzeri olmayan bir hızla gelişiyor. Peki bu sistemler ne kadar taraflı? Etik her zamankinden daha önemli hale geliyor.

YZ sistemleri son birkaç yılda daha yetenekli hale geldi. Bu sistemler dünyayı daha verimli ve çok daha zengin hale getirdi. Bu teknoloji sayesinde makineler insanlar gibi düşünebiliyor ve insanların hareketlerini taklit edebiliyor. Bu, yüksek düzeyde otomasyona olanak sağladı ve şirketlerin büyük miktarda para tasarrufu yapmasına yardımcı oldu. YZ son derece yararlı olsa da çeşitli etik sorunları da beraberinde getiriyor. YZ’daki bazı temel zorluklar ve etik kavramları hakkındaki bu kılavuzda bu kaygıları inceleyeceğiz.

Yapay Zeka Geliştirmenin Mevcut Durumu

Günümüzde işletmelerin büyük bir kısmı operasyonlarını yürütmek için yapay zeka kullanıyor. Bu teknoloji, müşteri ilişkileri yönetimi ve iş gücü verimliliği de dahil olmak üzere çeşitli kurumsal uygulamalara girmiştir. Bu teknolojiye yapılan yatırım 70 milyar doların üzerine çıktı ve yapay zeka uzmanları dünyanın en çok aranan profesyonellerinden biri haline geldi. Ses tabanlı asistanlar yapay zekanın en yaygın biçimleridir ve çok çeşitli endüstrilerde kullanılırlar. Bu sektörler otomotiv, bilişim ve perakendeyi içermektedir.

Pek çok şirket müşteri desteği için de chatbotları kullanıyor. Bu botlar müşteri memnuniyetini artırmaya yardımcı oluyor ve müşteri hizmetleri asistanlarını işe almaları gerekmediği için şirketlere büyük miktarda para tasarrufu sağlıyor. Yapay zeka sistemlerinin diğer popüler kullanımları şunlardır:

Çevrimiçi mağazalarda kişiselleştirilmiş alışveriş
Finansal hizmetlere ilişkin tahminler
Sosyal medya sitelerindeki ağ beslemeleri
Güvenlik sistemleri ve yüz algılama
Anti-virüs tehdit tespiti
Depo yönetimi
Otomotiv sektöründe güvenlik
Nesnelerin interneti

Artırılmış zeka, yeni ortaya çıkan bir yapay zeka biçimidir ve insan zekasını geliştirmeyi amaçlamaktadır. Edge AI da geliştirilmekte olup, YZ algoritmalarının internet bağlantısına ihtiyaç duymadan yerel olarak çalışmasını mümkün kılacaktır. Örneğin, bazı yüz tanıma biçimleri internet erişimine ihtiyaç duymadan verileri işleyebilmektedir.

Teknolojide etik konular

İşletmeler genellikle karar alma ve uygulamalarda etik değerlere önem verirler. Etiği ciddiye almayan markalara genellikle kötü bakıyoruz ve çoğu insan bu tür şirketlerle çalışmaktan mutlu olmaz. Hayatımızın önemli bir parçası haline geldiğinden yapay zekada etiği dikkate almak önemlidir. Teknoloji sayesinde işletmeler kullanıcıların bilgilerini toplayabilir ve saklayabilir. İnternet sitelerine göz attığınızda, çevrimiçi bir şeyler satın aldığınızda ve sosyal medya sitelerine bilgilerinizi girdiğinizde sürekli olarak şirketlere kişisel veriler sağlıyorsunuz.

Bu veriler öncelikle çeşitli sitelerdeki deneyimlerimizi kişiselleştirmeyi amaçlasa da kolaylıkla kötüye kullanılabilir veya kaybolabilir. Veriler yeni altın haline geldi ve birçok şirket müşterilerinin bilgilerini satarak para kazanıyor. İşletmeler için hangi ürünlerin arandığını ve müşterilerin neyi tercih ettiğini bilmek son derece değerlidir. Politikacıların ayrıca hangi sosyal konuların en çok dikkat çektiğini bilmesi gerekiyor. Bu sorunlar, işletmelerin müşteri bilgilerini alıp satabileceği tam bir pazar yarattı.

Teknoloji şirketlerin personel sayısını azaltmasına yardımcı olurken, bazı işlerin kullanılmaz hale gelmesine de neden olabiliyor. Bu, çalışanların iş güvenliğine olan güvenlerini azaltabilir. Gelişmiş yapay zekanın muhasebe ve blog yazarlığı gibi vasıf gerektiren işleri halledebileceğini, yani etkilenecek olanın yalnızca düşük seviyeli görevler olmayacağını belirtmekte fayda var.

Yapay zekada etik

YZ topluma pek çok fayda sunuyor. Ancak etik alanında da çeşitli ikilemleri beraberinde getiriyor. Bunlar arasında kullanıcı gizliliği riski, tarafsızlığın karmaşıklığı ve bilinçsiz önyargı sorunu yer alıyor.

1. Kullanıcı Gizliliğine Yönelik Riskler

Şirketler YZ sistemlerine çok fazla veri besliyor ve bu bilgiler veri ihlallerine karşı hassastır. Veri kaybı kimlik hırsızlığına ve diğer ciddi sorunlara yol açabilir. Yapay zeka sistemlerinin kişilerin izni olmaksızın kişisel veriler üretmesi de mümkündür . Kullanıcı gizliliğine izinsiz giren bir başka YZ türü de yüz tanımadır. Bu teknoloji türü, kişilerin rızası olmadan kimliklerini tespit edebilir. Gerçek zamanlı kamu gözetiminin kullanılmasını veya genellikle yasal olarak yorumlanmayan veritabanlarının toplanmasını içerir. Güvenlik kameralarının bulunduğu bir şehirde bir kişinin hareketini takip etmek için kullanılabilir. Yüz tanıma teknolojisi dünyanın birçok yerinde yasa dışı kabul ediliyorçünkü insanların mahremiyetini ihlal ediyor. Sağlık takibi YZ’da da etik bir konudur ve bu, Covid-19 salgını sırasında dünya çapında büyük bir endişe kaynağıydı. Genel olarak YZ, kişisel bilgilerin analizini yeni seviyelere çıkarıyor ve bu da kişisel mahremiyete müdahale ediyor.

2. Teknolojide Tarafsızlığın Karmaşıklığı

YZ geleneksel olarak tarafsız bir teknoloji olarak görülüyor ancak bunun gerçeklikten uzak olduğu kanıtlandı. Bu teknoloji, bireyleri ırklarından veya diğer özelliklerinden dolayı kolayca uyumsuz hale getirebilir . Aynı zamanda kredi vermede de kullanılıyor ve insanlara cinsiyetleri veya ırkları nedeniyle ayrımcılık yapabiliyor. Örneğin, aynı kredi geçmişine ve gelire sahip bir erkek ve kadın, yalnızca cinsiyetlerinden dolayı farklı boyutlarda krediler için onay alabilir. Tarafsızlıktaki karmaşıklık, insanların veri toplama süreci aracılığıyla bilmeden mevcut stereotipleri aktarması nedeniyle ortaya çıkıyor. Geliştirici ayrıca sistemleri programlarken kendi önyargılarını da uygulayabilir. YZ hayatımızın birçok alanında karar vermek için kullanıldığından, bu önemli bir etik kaygıdır. Sağlık sektöründe, finans sektöründe ve diğer önemli endüstrilerde uygulanır. Hatta bu önyargı nedeniyle bazı iş adaylarını filtreleyebilir.

3. Verilerde Bilinçsiz Önyargı

Yapay zekada önyargı, sonuçların geniş çapta genelleştirilememesi durumunda ortaya çıkar. Bu sorun, eğitim verilerindeki tercihlerden veya hariç tutmalardan kaynaklanabileceği gibi, verilerin nasıl elde edildiğinden ve algoritmanın nasıl tasarlandığından da ortaya çıkmaktadır. Örneğin bir araştırmacı bir şehirdeki insanların boylarına ilişkin veri toplayabilir. Bu bilgiler, anket yapılan kişilere veya verilerin toplandığı zamana bağlı olarak bilinçsiz önyargılar sunabilir. Bir veri setinde önyargı varsa YZ sistemleri önyargıyı uygularken öğrenecektir. Bilinçsiz önyargı, ayrımcılığa yol açabileceği için etik sorunlar da ortaya çıkarabilir. Örneğin bir şirket işe alım sürecinde çeşitliliği artırmak için YZ’yı kullanabilir. Ancak sistem, beslediği verilerden öğrendiği için demografik gruplara göre belirli başvuru sahiplerini tercih edecek. Hukuk sistemleri ayrıca YZ makinelerini eğiterek daha standart ve adil cezalandırma yönergeleri oluşturmaya çalışabilir, ancak bunların yine de belirli gruplardan insanlara daha sert cezalar vermesi muhtemeldir.

4. Neden kültür ve toplum konularını tekrarlayıp duruyoruz?

YZ sistemleri, insanlar gibi düşünmeleri gerektiği için toplumsal normları kopyalıyor. Örneğin, çeviriye yönelik makine öğrenimi modellerinin, erkek adlarını ‘maaş’ veya ‘profesyonel’ gibi kelimelerle, kadın adlarını ise ‘düğün’ gibi terimlerle ilişkilendirdiği kaydedildi. Algoritmanın kendi başına ilişkilendirme yapması pek olası değildir ve yalnızca bu cinsiyet kinayelerini yansıtan metinler üzerinde eğitilmiş olabilir.

Muhtemel çözümler

Dünyanın dört bir yanındaki hükümetler, müşterileri verilerinin kötüye kullanılmasından korumak için yasalar çıkardı. Avrupa Birliği yakın zamanda şirketlerin müşteri verilerini nasıl koruması gerektiğini belirleyen Genel Veri Koruma Yönetmeliği (GDPR) yasasını kabul etti. Bölgede faaliyet gösteren web sitelerinin mal ve hizmet satışına devam edebilmeleri için bu yasaya uymaları gerekiyor.

Sistemi eğitirken cinsiyet ayrımı gözetmeyen bir dil kullanılarak yapay zekadaki önyargı azaltılabilir. Örneğin ‘iş adamı’ kelimesini kullanmak yerine ‘iş adamı’ terimini kullanabilirsiniz . Bu, sistemin insanlara cinsiyete dayalı ayrımcılık yapmasını zorlaştıracaktır. Şirketlerin YZ sistemini eğitmek için çeşitli ekipler kullanması da gerekiyor. YZ sisteminin müşterileri ve kullanıcıları, geliştiricinin sistemin nasıl performans gösterdiğini takip edebilmesi için geri bildirim de sunabilir. Kullanıcılardan aldığınız geri bildirimlere göre modeli nasıl geliştirebileceğinize dair somut bir planınızın olması gerekir. Modelin yaratıcısı da yeterli ve kaliteli bilgi vermelidir.