Çeviren: Seda Saluk
Bu makale, feminist yapay zekâ (FYZ) kavramının tarihsel ve güncel olarak nasıl şekillendiğini incelemektedir. İlk bölümde, yapay zekânın çoklu tarihine katkı sunmak ve feminist tarihini gün yüzüne çıkarmak amacıyla, Alison Adam ve onun lisansüstü öğrencileri tarafından üretilen çalışmalar üzerinden yapay zekânın mikro tarihine odaklanılacaktır. Ardından, FYZ’nin günümüzde aldığı farklı biçimleri tartışabilmek için şu tipolojiyi öneriyorum: (1) model olarak FYZ, (2) tasarım olarak FYZ, (3) politika olarak FYZ, (4) kültür olarak FYZ, (5) söylem olarak FYZ ve (6) bilim olarak FYZ. Bu tipoloji şu sorulara ışık tutacaktır: FYZ terimi ne anlama geliyor? FYZ zaman içinde nasıl şekillendi?
Giriş[1]
“Feminist yapay zekâ” (FYZ) terimiyle ilk karşılaştığımda, kural tabanlı feminist sohbet robotları üzerine araştırma yapıyordum. 2020 yılında İngiltere’nin Londra şehrinde gerçekleştirilen Algorithms for Her [Kadınlar İçin Algoritmalar] konferansında feminist sohbet robotları hakkında bazı ön düşüncelerimi sunmaya hazırlanırken, yapay zekâyı “feminizmi makineleştirmek” için kullanan sohbet robotlarına örnekler arıyordum. Ancak o dönemde, feminist bir veri setiyle desteklenen ve FYZ yapmak üzere feministler tarafından eğitilmiş herhangi bir feminist sohbet robotuna rastlayamadım. Bunun yerine, terimi farklı şekillerde kullanan ve tanımlayan çevrimiçi sunumlar ve bir avuç proje buldum. Josie Young’ın (2019) YouTube’daki “Neden Feminist Yapay Zekâ Tasarlamamız Gerekiyor” başlıklı TED Konuşması, Siri ve Alexa gibi yapay zekâ destekli sesli asistanların cinsiyetçi ve zararlı etkilerine karşı koymak için FYZ’nin gerekliliğini savunuyordu. Charlotte Webb’in (2019) Berlin’deki Disruption Network [Kesintiye Uğratma Ağı] Laboratuvarı’nda sunduğu “Feminist Yapay Zekâ Nedir: Olası Feminizmler, Olası İnternetler” başlıklı çalışması, feminist İnsan-Bilgisayar Etkileşimi (İBE) uzmanı Shaowen Bardzell’in (2010) çalışmalarına dayanan, yol gösterici on ilke öneriyordu. Projeler arasında, yapay zekâ tasarımında duyulmamış sesleri dahil etmek için Poieto yazılımını kullanan Los Angeles merkezli toplum temelli araştırma ve tasarım grubu feminist.ai ve Caroline Sinders’ın (2020) bir FYZ sistemini güçlendirmek için, bir dizi halka açık atölye çalışması aracılığıyla feminist bir veri kümesi oluşturmayı hedefleyen sanatsal projesi yer alıyordu. Bu genel bağlam, beni şu soruyu sormaya itti: FYZ terimi ne anlama geliyor? FYZ zaman içinde nasıl şekillendi?
“Feminist yapay zekâ” kategorisi, “feminizm” ve “YZ”nin nasıl birden fazla anlam kazandığını yansıtıyor. FYZ terimini, terimin günümüzdeki kullanımını yansıtmak için tekil olarak kullansam da kesişimsel (Combahee River Collective, 1979; Crenshaw, 1991), Siyah feminist (hooks, 2015), sömürgecilik karşıtı (Lugones, 2010) ve liberal yaklaşımlar da dahil olmak üzere feminizmlerin çağdaş tezahürleri nedeniyle bu analitik kategorinin çoğul olduğunu kabul ediyorum. Benzer şekilde, YZ terimi de tekil olarak kullanılıyor ve terimi kimin kullandığına bağlı olarak farklı anlamlar kazanabiliyor. Terimin bir anlamı, 1955 tarihli “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence” [Dartmouth Yaz Araştırma Projesi için Yapay Zekâ Önerisi] (McCarthy vd., 1955) makalesindeki kullanıma atıfta bulunuyor; burada yapay zekâ, “makinelerin dili nasıl kullanacağını, soyutlamalar ve kavramlar oluşturmasını, şu anda sadece insanlara ait olan türden sorunları çözmesini ve kendilerini geliştirmesini sağlama” girişimi olarak tanımlanmıştır (s. 1). Yapay zekânın verimlilik doktrinine hizmet eden bir ideoloji olduğu genel fikrine atıfta bulunmak için de kullanılabiliyor (Katz, 2020). Bunun dışında, geleceğe yönelik tahminler için büyük veri ve algoritmalara dayanan, büyüyen bilgisayar ağı ve altyapısını tanımlayan genel, her şeyi kapsayan bir belirteç olarak da anlaşılabilir. Son olarak, çoğu akademisyenin Genel Yapay Zekânın henüz var olmadığı ve duyarlı robotlarla ilgili herhangi bir şey ifade etmediği konusunda hemfikir olduğunu belirtmek önemli. Şu anda yapay zekâ olarak adlandırılan şey, steroidli istatistik anlamına gelen dar yapay zekâdır (Broussard, 2018). Yapay zekâ, “mevcut bir veri setini analiz ederek, bu veri setindeki kalıpları ve olasılıkları belirleyerek ve bu kalıpları ve olasılıkları model adı verilen bir hesaplama yapısına kodlayarak” çalışır (s. 32). Bu makalede, yapay zekâ veya feminizm için sabit bir tanım almıyorum ve daha ziyade, tartışılan bilim insanları ve uygulayıcıların bu terimleri biçimlendirdiği şekillerde kullanıyorum.
Metodolojik olarak, bu makale konu hakkında yayımlanmış tüm materyallerin sistematik ve kapsamlı bir incelemesine dayanmamaktadır. Daha ziyade, FYZ’nin geniş anlamıyla nasıl farklı biçimlerde anlaşıldığına ışık tutan, konuyla ilgili bazı yazı ve uygulamaların eleştirel bir incelemesidir. Bu, akademik veri tabanlarında (Google Akademik ve WorldCat), arama motorlarında (Google Chrome ve Mozilla Firefox) ve akademisyen ile aktivistlerin çoğunun aktif olduğu Twitter’da bulduğum, amaca yönelik bir örneklemdir. Öncelikle, kesişimsel YZ (Ciston, 2019), insan sonrası FYZ (Meinders, 2017), transfeminist YZ (Peña ve Varon, 2020), aşağıdan gelen FYZ (West, 2020) ve kesişimsel, sömürgecilik karşıtı YZ (Costanza-Schock, 2018) gibi diğer tanımları da içeren feminist yapay zekâ (ya da FYZ) geniş kategorisini kullananların akademik çalışmalarını ve uygulamalarını dikkate aldım. İngilizce, Fransızca, Portekizce ve İspanyolca makalelere ve web sitelerine başvurmuş olsam da bu yazıda atıfta bulunulan ve hâlihazırda mevcut olan makalelerin, kitapların ve uygulamaların büyük bir kısmı İngilizcedir. Son olarak, bu kavramın oluşumunda kimlerin rol aldığına dair hayal gücümüzü genişletmek ve terimin çeşitli bağlamlarda ve farklı amaçlar için nasıl üretken olduğunu göstermek için küresel Güney’den uygulamalar ve yazılar aramak için önemli bir çaba sarf ettim. Bu nedenle FYZ üzerine Kuzey Amerika ve Avrupa araştırma ve uygulamalarının ötesine geçerek çoğunluk dünyasındaki (majority world) bireyleri, kolektifleri, projeleri ve araştırmaları öne çıkardım. Yapay zekâ alanındaki değersizleştirilmiş bilgi üretimine ışık tutmak, akademisyenlerin, okuyucuların ve uygulayıcıların alternatif anlatılara erişmesini ve eleştirel yapay zekâ araştırma ve uygulamalarının tarihini ve güncel uygulamalarını zenginleştirmesini sağlayan feminist bir hamledir.
Bu makale, FYZ kavramı üzerine düşünmek için geçmişteki ve güncel çabaları incelemekte, bu pratiğin geleneksel ve/veya hegemonik yapay zekâ biçimlerine nasıl meydan okuduğunu ele almaktadır. İlk olarak, FYZ’nin ortaya çıktığı bağlamın ve nasıl şekillendiğinin mikro-tarihsel bir genel çerçevesini sunuyorum. Bu tarihsel bölüm, feminist akademisyenlerin uzun zamandır FYZ hakkında düşündüğünü, bunu ifade ettiklerini, prototipler geliştirdiklerini göstererek yapay zekâya dair anlayışı zenginleştiriyor. Ayrıca, yazarların küçük ölçekli projelerini prototipleme sürecinde ortaya koydukları ve mücadele ettikleri çelişkileri ve soruları görünür kılıyor. Ardından, FYZ’nin bugün nasıl şekillendiğine dair güncel örnekleri incelemek için tipolojiyi sunuyorum: (1) model olarak FYZ, (2) tasarım olarak FYZ, (3) politika olarak FYZ, (4) kültür olarak FYZ, (5) söylem olarak FYZ ve (6) bilim olarak FYZ. Son olarak, feminist teknoloji uzmanlarının, aktivistlerin ve sanatçıların yapay zekâyı farklı bir şekilde anlama ve uygulama konusunda eleştirel bir yaklaşım geliştirmiş olsalar da henüz teknoliberal kapsayıcılık alanının ötesine geçemedikleri yönündeki savımı ortaya koyarak makaleyi sonlandırıyorum.
FYZ’nin tarihsel şekillenişi
Yapay zekâya yönelik feminist eleştiriler, bilim felsefesi ve sosyolojisi ile feminist bilim ve teknoloji çalışmaları (Feminist BTÇ) içindeki yapısalcı (constructivist) perspektiflere dayanır. 1980’lerde bu akademik alanlar, Batı’daki bilim tartışmalarının, kadınların bilgisinin dışlanması nedeniyle eksik ve çarpık olduğunu savunmaya başlamıştır (Jansen, 1988; Turkle, 1984). Daha sonra bu alanlar, çoğunluk dünyasına (majority world), yerli halklara ve insan-dışı varlıklara ait bilgiler gibi dışlanmış diğer bilgi biçimlerine de vurgu yapmaya başladı (Harding, 2008; Liboiron, 2021; TallBear, 2013). Feminist BTÇ, bilimin nesnelliğini sorgulamanın yanı sıra, doğa ile hayvan, insan ile makine ve zihin ile beden arasındaki sınırları kırmaya veya uzlaştırmaya odaklandı; ayrıca teknokültür içindeki uzun süredir devam eden Avro-Amerikan hegemonik erkekliği eleştirdi (Forsythe, 1993; Wajcman, 1991). Konumlanmış bilgi (situated knowledge) duruşu (Haraway, 1988), bilgi üretiminin toplumsal ilişkilere gömülü olduğunu, tüm bilginin kısmi perspektiflerden türediğini ve ezilen konumların sunduğu perspektiflerin ortaya çıktıkları toplumsal dünyaların en “nesnel” anlatılarını sağladığını vurgulayarak feminist BTÇ için çığır açıcı bir yaklaşım oldu. Bu tartışmalardan etkilenen İngiliz bilgisayar bilimcisi ve bilim tarihçisi Alison Adam, yapay zekânın derin biçimde muhafazakâr temellere sahip olduğunu göstererek onu feminist bir bakış açısıyla eleştirmeye başladı (Suchman, 1987; 2008). Amacı, yapay zekâ eleştirisine özellikle toplumsal cinsiyet, ırk, sınıf ve genel olarak iktidarı dahil etmek ve şu soruları sormaktı: Yapay zekâ nasıl ve hangi amaçlarla kullanılır? Yapay zekâ bilgiyi nasıl temsil eder? Yapay zekâ sistemlerinde hangi bilgi türleri kullanılır? (Adam, 1995). Bu feminist sorular, Adam’ın FYZ kavramını formüle etmesinin başlangıç noktasıydı. FYZ’yi “yapay zekânın alternatif bir ardılı” olarak tamamlamaktan ziyade “yapay zekânın feminist teoriden nasıl beslenebileceğini ve feminist projelerde nasıl kullanılabileceğini” ortaya çıkardı (Adam, 1998: 157).
Bu bölüm, Adam’ın çalışmaları ve ilişkileri aracılığıyla FYZ’nin mikro tarihini kısaca anlatıyor. Sorularının çoğunun bugün hâlâ geçerli olması ve çoğu çağdaş uygulamanın onu bir ilham kaynağı olarak göstermesi nedeniyle, Adam’ın çalışmalarının dikkate değer olduğunu savunuyor. Adam’ın FYZ üzerine düşündüğü bağlamda, yapay zekâ araştırmalarına karşı derin bir hayal kırıklığı vardı. 1970’ler ve 1980’lerde yapılan ciddi kamu yatırımlarına rağmen yapay zekâ henüz vaatlerini yerine getirememişti (Jansen, 2002; Mitchell, 2019). Adam, bu dönemki projelerin “araştırma fonu getirmediğini ve genellikle lisans son sınıf ve yüksek lisans düzeyindeki tezlerin sınırları içinde ele alınmak zorunda kaldığını” vurguladı (Adam, 1998: 158). Çok az sayıda fon sağlayıcı kurumun ve üniversitenin FYZ pratiğine ilgi göstermesi nedeniyle bunun kendi laboratuvarı dışında gelişememiş olması Adam için açık bir hayal kırıklığı kaynağıydı.
“Feminist yapay zekâ” terimine rastladığım en eski kaynak, Adam’ın (1995) “Artificial Intelligence and Women’s Knowledge” [Yapay Zekâ ve Kadınların Bilgisi] adlı makalesinin sonuç bölümüdür. Bu makalede Adam, feminizmden ilham alan farklı bir yapay zekânın önündeki yolun iki yönlü olduğunu ileri sürmüştür. İlk olarak, geleneksel yapay zekâyı feminist amaçlar için kullanmak mümkündür. İkinci olarak, feminizmin yapay zekâya müdahil olması gerekmektedir. Adam (1998), FYZ hakkındaki düşüncelerini Artificial Knowledge [Yapay Bilgi] adlı kitabında daha da geliştirmiştir. Terimle ne kastettiğini açıklamadan önce, kendisinden önce gelen eleştirel feminist akademisyenlerin çalışmalarına dayanarak (Jansen, 1988; Suchman, 1987; Turkle, 1984) üç kavramsal sorunsal ortaya koymuştur. Birincisi, yapay zekânın (hem nesnenin hem de onu inceleyen ve geliştiren insanların), zekânın ne olduğuna dair tartışmalı bir epistemolojik ve felsefi anlayışa sahip olduğunu düşünüyordu. Zekâ sorunsalının merkezinde, yapay zekâ projelerindeki sorunlu rasyonalite modeli vardı. Yapay zekâ araştırmaları ve uygulamaları bağlamında, “rasyonalite” terimi, insan zihninin bedenin önünde geldiğini ima eder ve zekânın kültürel ve toplumsal olarak konumlanmış doğasını hesaba katmaz; kısacası, bedenden bağımsız bir yapay zekâ biçimini ayrıcalıklı kılar. Robotik biliminin ortaya çıkmasıyla birlikte, yapay zekânın fiziksel bedenselliğinin öne çıktığını, ancak kültürel bedenselliğinin öne çıkmadığını kabul eder. Adam’ın üçüncü kavramsal kaygısı ise yapay zekâ ve erkek egemenliğiydi. Özellikle, yapay zekâdaki rasyonel “norm olarak erkek” anlayışını ortadan kaldırmayı önerdi çünkü o dönemdeki baskın yapay zekâ paradigmaları, Haraway’in (1993) “tanrı numarası” (god trick) olarak adlandırdığı, hiçbir yerden her şeyi gördüğü düşünülen, konumlanmamış (unsituated) bilgi türüne dayanıyordu.
Adam, FYZ’den ne kastettiğini açıklarken, büyük ölçüde, onun rehberliğinde feminist bilgi tabanlı sistemler geliştiren iki yüksek lisans öğrencisinin çalışmalarından faydalandı. Sembolik yapay zekâ terminolojisinde uzman sistemler olarak bilinen bilgi tabanlı sistemler, o dönemde yaygın bir yapay zekâ modeliydi. Sözünü ettiği ilk FYZ, şu anda Brezilya’daki São Carlos Federal Üniversitesi’nde bilgisayar bilimleri öğretim üyesi olan Brezilyalı öğrencisi Chloe Furnival tarafından 1993 yılında prototipleştirilmişti. FYZ projesi, Birleşik Krallık’taki toplumsal cinsiyete dayalı ayrımcılık konularına dair feminist içtihatları derlemeyi hedefliyordu. Bu prototip PROLOG ile programlanmıştı ve cinsiyet ayrımcılığı davalarında ispat yükünün, haklarının ihlal edildiğini göstermek zorunda olan kadınların üzerinde olduğu gerçeğine dayanıyordu. Sistem, bir feminist içtihat veri tabanından yararlanarak, avukata erişimi olmayan düşük gelirli kadınların hâkim karşısında ikna edici bir dava sunabilmesini desteklemeye çalışıyordu. Adam ve Furnival (Adam, 1998; Adam ve Furnival, 1995), bu prototipin geliştirilmesinde karşılaşılan zorluklar üzerine düşünürken şu soruları sordular: Bilgisayar kullanma deneyimi olmayan, düşük gelirli kadın kullanıcılar için tehditkâr olmayan bir yapay zekâ tabanlı sistemi nasıl tasarlarız? Tasarım sürecinde ve sonuç ürününde toplumsal cinsiyet, ırk ve sınıfı nasıl dikkate alırız? Ayrıca, kullanıcıya sunulan tavsiye konusunda fazla umut vermeden veya bir kararı kullanıcıya dayatmadan bunu nasıl başarırız? Bu feminist hukuk bilgi tabanlı sistem, mali kısıtlamalar nedeniyle gerçek hayatta hiçbir zaman uygulanamamıştır.
Adam’ın yürüttüğü ikinci FYZ projesi, Britanyalı yüksek lisans öğrencisi Maureen Scott aracılığıyla geliştirilen feminist bir hesaplamalı dil bilgi tabanlı sistemiydi. Sisteminin amacı, kadınlar ve erkekler arasındaki iletişimde ortaya çıkan yanlış anlamaları anlamlı bir şekilde onarmaktı. Sistem, cinsiyetlendirilmiş konuşmalarda onarımın çoğunlukla kadınlar tarafından yapıldığı öncülünden yola çıkıyordu. Kadınların iletişimde onarım modeline değer vermek isteyen feminist bilgi tabanlı sistem, onları bu alanın uzmanları hâline getiriyordu. Bu prototipi oluşturmak için gereken bilgi, feministlerle yapılan görüşmeler aracılığıyla edinilmişti. Bu sistem yine bir öğrenci tez projesinin ötesine geçememiştir.
Bu iki deneye geriye dönüp bakan Adam, bu sistemlerin çözülmemiş çelişkilerle dolu olduğunu vurguladı. Aslında bunlar, özellikle sistemdeki bilgi girdilerinin bedensizleştirilmiş niteliği ve bunun sonucunda ortaya çıkan kararlar söz konusu olduğunda, Adam’ın yapay zekâya yönelik kendi eleştirilerinden bazılarını tekrarlıyordu. Düşünsel süreci, onu baskın ve zayıf mühendislik teknolojisi sorusu olarak tanımladığı şu soruyu sormaya yöneltti: “Nereden başlamalıydım?” (Adam, 1998: 166). Audre Lorde’un “Efendinin araçlarını kullanarak efendinin evini yıkamazsın” sözünü hatırlatan Adam (1998), feminist yapay zekânın “duvarda birkaç çizik atmak” için taktiksel olarak kullanılabileceğine inanıyordu (s. 70). Nitekim, “Henüz başka araçlar yok ve denemeden bilemeyiz” diyerek (Adam, 1998: 164), yalnızca yapay zekâyı eleştirmenin ötesine geçip FYZ yapma ihtiyacını öne çıkarıyordu (Adam, 1998; Adam ve Furnival, 1995). Bu yapma ve üretme meselesi, feminist BTÇ’de son zamanlarda ele alınan bir konu olmuştur: “[e]leştirinin ötesine geçip pratiğe yönelmek bir sonraki kritik hamledir” (Bauchspies ve Puig de la Bellacasa, 2009: 341).
FYZ yapmanın beraberinde getirdiği bazı tehlikelerin farkında olan Adam, bir toplumsal cinsiyet ve teknoloji atölyesinde, bir erkeğin kendisine feminist birinin tasarlayacağı bir savaş uçağının nasıl farklı görüneceğini sorduğunu aktarır. Adam, bu soruyu “Feministler savaş uçağı tasarlamaz” diye yanıtlamıştır (Adam, 1998: 157). Bu ifade, teknoloji alanındaki siyasal taahhüdüne gönderme yaparak, belirli FYZ biçimlerinin geliştirilmemesi gerektiğini vurgular. Bu hikâyeye eşlik eden ikinci bir konu ise, iki feminist bilgi tabanlı sistemin geleneksel uzman sistemlerden farklı olup olmadığına dair duyduğu belirsizlikti. Endişesi hem feminist hukuk sisteminin hem de dilsel deneyin hâlihazırda var olan sosyal düzeni ve güç ilişkilerini yeniden üretmiş olmasıydı (Adam, 1998). Başka bir deyişle, bu sistemler, Atanasoski ve Vora’nın (2019) sosyal, kültürel, politik ve ekonomik sorunları çözmeye yönelik teknoliberal yaklaşım olarak adlandırdığı şeyin bir parçası hâline gelmişlerdi. Bununla birlikte, feministlerin yapay zekâ uygulamaları tasarlayıp tasarlamaması gerektiği sorusuna yanıt olarak, mevcut çelişkilere rağmen FYZ’nin siyasi projesini gözden kaçırmamamız gerektiğini söylemiştir.
FYZ’yi şekillendiren güncel eğilimler
FYZ neden yeniden ortaya çıkıyor? İlk olarak, FYZ, araştırma ve projeler için artan fonlama imkânı anlamına gelen bir “yapay zekâ baharı” içinde yeniden ortaya çıkıyor. Derin öğrenmeye ayrılan muazzam fon, Geoffrey Hinton’ın ekibinin 2012 ImageNet yarışmasını kazanmasının ardından hızlandı; bu başarı, denetimli makine öğreniminin “önemli hesaplama gücü ve büyük miktarda etiketlenmiş veriyle eğitildiğinde son derece etkili bir öngörüsel örüntü tanıma yöntemi” olduğunu göstermişti (Whittaker, 2021: 51). İkinci olarak, eleştirel teknoloji uzmanları, öngörüsel analitiklerin artan kullanımının ırksal kapitalizme sıkı sıkıya bağlı olduğunu ve eşitliği hak eden gruplar üzerinde olumsuz bir etkiye sahip olduğunu göstermiştir (Benjamin, 2019b; Crawford, 2021). Örneğin, Siyah feminist akademisyenler, Siyah kız çocuklarının ve kadınların algoritmalar ve diğer sistemlerden nasıl olumsuz etkilendiğini ortaya koymuştur (Benjamin, 2019a; Buolamwini ve Gebru, 2018; Noble, 2018). Bu akademik çalışmalar, sömürgecilik karşıtı/sömürgeciliği ortadan kaldıran yapay zekâ (Adams, 2021; Mohamed vd., 2020), yerli (indigenous) yapay zekâ (Lewis vd., 2020) ve FYZ (West, 2020) gibi unsurları içeren yapay zekâ araştırmaları ve prototiplemesinde eleştirel bir dönüşümün gelişimi için zemin hazırlamak açısından önemlidir.
Bir sonraki bölümde, FYZ’nin var olması için gerekli olan insanları, süreçleri, ilişkileri ve teknolojileri görünür kılıyorum. Adam ve öğrencilerinin prototiplerinde olduğu gibi, FYZ projelerinin de küçük ölçekli, eksik ve çelişkilerle dolu olmaya devam ettiğini gösteriyorum. Günümüz FYZ’sinin ne anlama geldiğini daha iyi anlamak için şu tipolojiyi öneriyorum: Model olarak, tasarım olarak, politika olarak, söylem olarak, kültür olarak ve bilim olarak FYZ. Bu kategoriler zaman zaman geçirgen ve geniş kapsamlı olsa da genel olarak FYZ’nin ne olduğu ve ne işe yaradığı konusundaki tahayyülümüzü genişletmeye yardımcı oluyorlar.
Model olarak FYZ
İncelediğim ilk tipoloji, model olarak FYZ’dir. Buradaki “model”, Broussard’ın (2018) “içine veri yükleyip bir yanıt alabileceğimiz bir tür kara kutu. Modeli alıp içinden yeni veriler geçirerek bir şeyleri tahmin eden sayısal bir yanıt elde edebiliriz” şeklinde tanımladığı şeye karşılık gelir (s. 32). Bir model, iyileştirilecek ve ince ayar yapılacak bir veri kümesine bağlıdır. Yapay zekânın tarihsel olarak nasıl şekillendiğiyle ilgili bir önceki tartışma, model olarak FYZ’nin bir örneğini gösteren iki küçük ölçekli bilgi tabanlı prototipe odaklanıyordu. Aşağıda ise, makinelerin öğrenme modellerini büyük ölçekli, şirket güdümlü, opak ve sömürücü derin öğrenme sistemlerine karşı bir alternatif olarak geliştirmeyi amaçlayan küçük ölçekli güncel bir FYZ projesine odaklanıyorum.
Makine öğrenimi tasarımı araştırmacısı ve sanatçı Caroline Sinders (2020), güncel FYZ’nin model olarak ne anlama geldiğini oldukça iyi örneklemektedir. 2017’de başlattığı Feminist Veri Seti projesi, küçük ölçekli, topluluk odaklı bir veri seti geliştirme umuduyla yapay zekâ sürecinin her adımını inceledi. Bu veri setinin nihai amacı, kullanıcının feminizm üzerine sohbet edebileceği, FYZ destekli bir sohbet robotunu beslemekti. Proje, yapay zekâ destekli bir sohbet robotunun çalışması için gereken temel görevleri parçalara ayırmayı içeriyordu: veri toplama, veri etiketleme, veri eğitimi, kullanılacak algoritma modelinin seçilmesi ve modelin bir sohbet robotuna nasıl yerleştirileceğinin ve sohbet robotunun nasıl görüneceğinin tasarlanması (Sinders, 2020). Londra’daki sanat galerileri ve kitapçılar gibi kamusal alanlarda düzenlenen bir dizi yüz yüze atölye çalışması ve forum aracılığıyla Sinders, feministleri feminizmlerin çoğulluğunu yansıtan eserlerden oluşan bir veri seti oluşturma sürecine katılmaya davet etti. İzlediği açık süreç, Wikipedia’nın akran üretimi yaklaşımından ilham alıyordu; yani veri, var oluşunun önemli olduğunu düşünen bir topluluk tarafından üretiliyordu. Bu durum, tarihsel olarak kadınlar tarafından ve bugün de çoğunluk dünyasından (majority world) insanlar tarafından üstlenilen görünmez emeği görünür kıldı (Posada, 2022; Roberts, 2021). Aynı zamanda topluluğa, veri setlerindeki verilerin yapay zekâ sistemleri açısından neden önemli olduğunu öğretmeyi amaçlayan bir eğitim projesiydi. Sinders’ın belirttiği gibi, boşlukları gidermek ve önyargıları düzeltmek için veri toplama sürecinin yavaş olması gerekiyordu. Her atölyeden sonra Sinders, toplanan verileri dikkatlice inceledi ve şu soruları sordu: Bu veri setinde natrans ve beyaz kadınlara ait çok fazla eser var mı? Bu durum sohbet robotuyla yapılacak olan konuşmayı etkiliyor mu? Yanıt evet ise, veri setini zenginleştirmek için özellikle natrans olmayan kadınlardan, beyaz olmayan kadınlardan ve trans içerik oluşturuculardan çalışmalar istedi (Sinders, 2020). Feminizmler hakkında konuşacak sohbet robotunun dayanacağı veri setini oluşturmanın kilit aşamalarından biri, verileri feminist bir toplulukla birlikte, onların çağrısına yanıt vererek toplamaktı.
Sinders’ın sohbet robotunu geliştirmek için attığı ikinci adım, veri etiketleme süreciyle ilgiliydi. Verileri etiketlemenin yorucu ve düşük ücretli emeğini görünür kılmak için teknik olarak sorumlu bilgi (technically responsible knowledge, TRK) aracının prototipini oluşturmaya karar verdi. Bu araç, feminist veri emekçileri ve etiketleyicileri için gerekli bir geçim ücretine dayalı bir ücret hesaplayıcı içeriyordu; bu da bu tür emeğin önemli olduğunu ve FYZ geliştirmede değer görmesi gerektiğini gösteriyordu. Bu aracın tasarımıyla, sömürücü Amazon Mechanical Turk platformuna feminist bir alternatif sundu. Sinders’ın FYZ destekli sohbet robotu hâlâ yapım aşamasında; bu da bu tür projelerin ne kadar yavaş ve zaman alıcı olduğunun bir göstergesidir. Bununla birlikte, bu projeden çıkan feminist toplumsal ve siyasal yorumlar, yapay zekâ üretimi için alternatif bir yol sunmaktadır. Gerçekten de Sinders (2020), süregiden projesini bir protesto eylemi olarak tanımlamıştır çünkü topluluk tarafından yürütülen bir veri seti oluşturmanın görünmez, yavaş ve ince işçilik gerektiren emeğini kolaylaştırmaktadır; bu da büyük ölçekli şirket ve devlet makine öğrenimi projelerinin verimlilik, üretkenlik, kara kutu yaklaşımı ve sınır tanımayan hız anlayışına karşıt bir pratiktir. Feminist Veri Seti projesi, model olarak FYZ’nin yavaş, küçük ölçekli, tamamlanmamış, sanatsal ve eğitsel doğasını ve feminist veri setlerine duyulan ihtiyacı anlamak için bir pencere sunmaktadır.
Tasarım olarak FYZ
FYZ’yi anlamanın en popüler yolu şüphesiz ona tasarım perspektifinden bakmaktır. Bu, yapay zekânın bir mühendislik teknolojisi olarak konumlanmasını yansıtır; yani bilgisayar sistemlerinin tasarlanması ve inşa edilmesiyle ilgilidir. Adam daha 1990’larda, yapay zekâ tasarımcılarının profesyonelleşmesi ve prestij ihtiyacının, yapay zekâyı diğer anlamların üzerinde bir mühendislik teknolojisi olarak kavrama biçimine meşruiyet kazandırdığını savunmuştu. Bu durum, “yapay zekâ araştırmacılarının tasarım sürecine ve eserlerin inşasına odaklanmalarına ve zekânın doğası gibi daha zor felsefi soruları bir kenara bırakmalarına” olanak sağladı (Adam, 1998: 14). (Trans)feminist akademisyenler de feminist insan-bilgisayar etkileşimi (Bardzell, 2010), tasarım adaleti (Costanza-Shock, 2018) ve veri feminizmi (D’Ignazio ve Klein, 2020) gibi feminist bilim ve teknolojiyi uygulama ve tasarlama alanlarıyla giderek daha fazla ilgilenmeye başlamışlardır. Aşağıda, kültürel unsurlara ve kurumsal feminizmin olumsuz etkilerine odaklanarak FYZ’nin tasarım olarak ne anlama gelebileceğini somut bir örnekle açıklıyorum.
Los Angeles merkezli feminist.ai adlı sanat ve tasarım araştırma grubu bu örneklerden biridir. 2016’da kurulan bu grup, Christine Meinders’ın yüksek lisans çalışması kapsamında, katılımcılara yapay zekâ tasarım araçlarına erişim sağlamak amacıyla topluluk atölyeleri düzenlemesiyle ortaya çıkmıştır (Meinders, 2017; Meinders ve diğerleri, 2020). Meinders’ın FYZ’ye yaklaşımı, Adam’ın yapay zekâ tasarımında kültürel bedenselleştirmenin yetersiz olduğunu yönündeki tespitine dayanır. Kültürün yapay zekâ mühendisliğinde temel bir tasarım unsuru olarak entegrasyonunu kolaylaştırmak için Meinders, Poieto adında bir yazılım geliştirmiştir. Tasarım sürecindeki “kültür”, hem yapay zekâ üreticilerinin kültürünü hem kullanıcıların kültürünü hem de yapay zekâ araçlarının geliştirildiği daha geniş toplumsal bağlamı ifade eder. Üreticilerin kültürü, her türlü deneyim, köken ve coğrafyadan kadın, kuir, trans ve non-binary tasarımcıların katılımını artırmaya odaklandığını ifade eder. Bu yaklaşımın ardında, tasarımcıların cinsiyet, ırk ve diğer kimliklerinin yapay zekânın geliştirilmesi üzerinde bir etkisi olacağı varsayımı vardır. Kullanıcıların kültürü ise, kadınlar, kuirler, translar, siyahlar, yerliler ve beyaz olmayan diğer insanlarla birlikte katılımcı bir tasarım süreci inşa edilmesinin Poeito’nun ayrılmaz bir parçası olduğu anlamına gelir. Bu tasarım yaklaşımının temel amacı, kodlama deneyimi çok az olan ya da hiç olmayan topluluk üyelerinin sürece dahil edilmesini sağlayarak yapay zekâ üretimine girişteki engelleri ortadan kaldırmaktır. Yapay zekâ tasarımına topluluk üyelerinin dahil edilmesiyle birlikte, bu sistemlerin topluluk üzerindeki olumsuz etkilerinin azalacağı düşünülmektedir. Yapay zekâ araçlarının geliştirildiği toplumsal bağlamın kültürü ise, büyük sermayeli şirketler tarafından geliştirilen yapay zekâ sistemlerinin belirli grupları orantısız ve olumsuz biçimde etkilediği anlamına gelir.
Feminist.ai’nin kurucusu ve üyelerinin içinde bulunduğu eşitsiz ve çelişkili Kaliforniya teknoloji ortamı, Meinders’ı “Feminist AI™” ifadesini ticari marka olarak tescil ettirmeye yöneltmiştir. Bu ifadeyi Amerika Birleşik Devletleri Patent ve Marka Ofisi’ne kaydettirmek, Meinders’a bu ifadeyi ABD’de ve uluslararası alanda on yıl süreyle, yenilenebilir biçimde kullanma hakkı tanımaktadır. Şirketler arasında yaygın olan bu fikri mülkiyet yöntemi kullanıldığında, Feminist AI™, dijital ortak alanlarda serbestçe kullanılacak bir ifade olmaktan çıkıp korunması gereken bir markaya dönüşür. Küçük ölçekli bir proje olarak Feminist.ai, kurumsal türde bir feminizm ile daha topluluk odaklı bir örgütlenme biçimi arasında ikircikli bir konumda yer almaktadır.
Politika olarak FYZ
Politika olarak FYZ, gelişmekte olan ülkelerin yapay zekâ yarışına dahil olmak ve bu yarışı yakalamak için teşvik edilmeleri anlamına gelir. Aynı şekilde kadınlar da varsayılan ekonomik faydaların gerisinde kalmamaları için yapay zekâ yarışına katılmaya teşvik edilir. FYZ, Kanada’nın yerleşimci-sömürgeci bağlamında uluslararası bir kalkınma politikası meselesi hâline gelir. 2015’te Liberal Başbakan Justin Trudeau iktidara geldiğinde, bilim, teknoloji, mühendislik ve matematik (STEM) gibi alanlar dahil olmak üzere kadınların ve kız çocuklarının güçlendirilmesini, kapsayıcılığı ve toplumsal cinsiyet eşitliğini destekleyen bir Feminist Uluslararası Yardım Politikası uygulamaya koydu. Bu politika, Kanada’nın sorumlu yapay zekâya olan artan ilgisi ve Birleşmiş Milletler Sürdürülebilir Kalkınma Amaçları’na (SDG) yönelik yenilenen bağlılığıyla güçlendirildi. 2018’de, Kanada’nın dış ilişkiler ve kalkınma çabalarının bir parçası olarak araştırma ve inovasyonu destekleyen federal bir kurum olan Uluslararası Kalkınma Araştırma Merkezi (IDRC), küresel Güney’de yapay zekâ ve kalkınma üzerine bir teknik rapor yayımlamıştır. Bu rapor, kalkınma için yapay zekâ (AI for development, AI4D) projelerine fon sağlamak üzere bir dizi teklif çağrısını başlattı. Bunun sonucunda, Feminist Yapay Zekâ Araştırma Ağı (f < a + i > r) doğdu.
İsviçreli STK Kadınlar Masada (Women at the Table) ile Kosta Rika ve Tayland’daki küresel Güney üniversite ortakları tarafından başlatılan bu ağ, IDRC’den fon aldı. İki milyon Kanada doları değerindeki (IDRC, 2021) bu üç yıllık proje (2021-2024), FYZ’yi geliştirmeyi amaçlamaktadır. Feminist YZ: Kâğıttan Prototipe, Prototipten Pilot Uygulamaya adı verilen bu proje, FYZ’yi önemli ölçüde finanse eden türünün ilk örneğidir. Proje, mevcut kurumsal mantığı -yapay zekâ sistemlerinin Kuzey’de geliştirilip Güney’e, sistematik toplumsal cinsiyet, ırk ve kesişimsel önyargılarla birlikte ihraç edilmesi durumunu-düzeltmeyi amaçlamaktadır. Bu kaynakla f < a + i > r, küresel Güney’deki kadınları ve LGBTQI+ bireyleri FYZ’nin kilit aktörleri ve geliştiricileri olarak merkezine alan dijital haklar STK’lerini finanse eder. İddiaları, küresel Güney STK’lerinin verilerdeki önyargıları azaltmaya ve yapay zekâ sistemlerini iyileştirmeye yardımcı olacağıdır.
Aralık 2022 itibarıyla ağ, prototipleme aşamasına geçmek üzere birkaç makale seçti. Oluşturulan ilk prototip, Arjantinli Via Libre Vakfı tarafından hazırlandı. Bu kuruluş, metinlere kelime yerleştirme (word embeddings) otomatik dil işleme süreçlerinde ortaya çıkabilen ayrımcı davranışları azaltmayı amaçlayan bir aracın prototipini oluşturmayı hedefler. Ayrımcı kelime yerleştirmeye örnek olarak, “hemşire”, “bakım” veya “dikiş” gibi kelimelerin genellikle kadınlarla; “maaş”, “spor” ve “lider” gibi kelimelerin ise genellikle erkeklerle ilişkilendirilmesi verilebilir (Alemany ve ark., 2022). İkinci prototip, yine Arjantin merkezli, toplumsal cinsiyet perspektifine sahip bir veri gözlemevi olan DataGenero STK’si tarafından geliştirildi. Proje, Arjantin’le Meksika’daki ceza mahkemesi yetkilileriyle iş birliği yaparak kadınlara ve LGBTIQ+ bireylere yönelik cinsiyete dayalı şiddet davalarının yargısal işleyişine daha fazla şeffaflık getirmeyi amaçlayan açık kaynaklı bir yapay zekâ sistemi geliştirmektir. Sistemin amacı, “kamuoyunun adalete olan güvenini artırmak” ve hükümetlerin “cinsiyete dayalı şiddeti önleyen ve şiddeti kadın cinayetine dönüşmeden önce ortadan kaldıran kanıta dayalı kamu politikalarını geniş çapta benimsemesini sağlamaktır” (Feldfeber vd., 2022: 20). Üçüncü prototip ise, Şilili STK Derechos Digitales tarafından geliştirilmiştir. Bu proje, FYZ sistemlerinin ortak tasarımına yönelik pratik bir rehber geliştirmeyi amaçlamaktadır. Derechos Digitales, rehberin yerel ihtiyaç ve kaygılara dayanacağını ve bu sistemlerden etkilenecek kişiler tarafından geliştirileceğini vurgular (Guerra, 2022).
Politika olarak FYZ, yerleşimci-sömürgeci Kanada’nın bilim ve teknolojide feminist liberal bir perspektifi destekleyerek küresel “sorumlu yapay zekâ”nın şampiyonu olma arzusunun bir hikâyesidir. Bu, STEM alanındaki kadınların sayısını artırmaya yönelik SDG 5’in (Toplumsal Cinsiyet Eşitliği) ve küresel Güney’deki devletler ile diğer kurumlar tarafından yapay zekâda iyi uygulamaları teşvik etmeyi hedefleyen SDG 16’nın (Barış, Adalet ve Güçlü Kurumlar) aracılığıyla ifade bulur. Ancak çevre sıkıntılarının arttığı bir dönemde politika olarak FYZ’de dile getirilmeyen gerçek, yerleşimci-sömürgeci Kanada merkezli madencilik şirketlerinin yurtdışındaki yerli topraklarda mineral çıkarma faaliyetlerine karıştığıdır. Bu projelerin tam olarak nasıl gelişeceğini ve sonunda kimin yararına olacağını anlamak için süreçlerin yakından izlenmesi gerekecektir. Bu noktada aklıma takılan soru şu: FYZ, toplumsal cinsiyet eşitliğini sağlamak ve cinsiyete dayalı şiddete yanıt oluşturmak için uygun bir teknoloji olarak nasıl görülmeye başlandı? Yapay zekâ projelerine fon sağlanması, feminist teknoloji uzmanlarıyla dijital hak örgütlerinin çalışmalarını FYZ’ye kaydırmada nasıl bir rol oynamaktadır?
Söylem olarak FYZ
Şimdiye kadar, daha çok pratik temelli olan FYZ kategorilerine odaklandım. Bu bölümde ise FYZ’yi söylem olarak ele alıyorum ve bu kavrama eşlik eden tahayyülleri anlamak için elverişli bir kategori olduğunu belirtiyorum.
FYZ, sıklıkla toplumsal cinsiyetle teknoloji arasındaki ilişkiyi ele alan eleştirel çalışmaları, kimi zaman da ırkla sınıfın kesişimlerini tanımlamak için kullanılan bir kavram ya da belirteç işlevi görür. İlk örnek olarak Florida Üniversitesi Kadın ve Toplumsal Cinsiyet Çalışmaları bölümünü ele alıyorum. Bu bölüm, Alison Adam tarafından kaleme alınan Artificial Knowing [Yapay Bilme], Safiya Umoja Noble (2018) tarafından kaleme alınan Algorithms of Oppression [Ezilme Algoritmaları] ve Ruha Benjamin (2019a) tarafından kaleme alınan Race After Technology [Teknolojiden Sonra Irk] gibi akademik kitaplara atıfta bulunmak üzere “Feminist Yapay Zekâ ve Büyük Veri” başlığını kullanır. FYZ’nin söylem olarak bu şekilde kullanılması, okuyucuya feminist, kuir ve eleştirel ırk teorilerinin yapay zekâ sistemlerini incelemek ve eleştirmek için kullanıldığı sinyalini verir.
İkinci örnek olarak Radical YZ Podcast’inin FYZ 101 bölümünü ele alıyorum. Bu bölümde, podcast sunucuları FYZ’nin anlamı üzerine iki araştırmacıyla söyleşi yapmıştır. FYZ’yi dünyada iyi işler yapan feminist bir teknoloji olarak değerlendiren Dr. Kerry Mackereth, Mumkin adlı multimedya destekli, yapay zekâyla güçlendirilmiş sohbet robotunu örnek vermiştir (Doyle-Burke ve Smith, 2021). Bu Hintli feminist uygulama, Hindistan’daki Bohra topluluğunda kadın khatna (kadın genital kesimi) meselesine dair zor konuşmaları mümkün kılmak üzere tasarlanmıştır. Sohbet robotu, kullanıcıların çekincelerini aşmalarına, toplumsal cinsiyet, kültür ve toplum üzerine gerçek hayatta konuşmalar yapabilme cesareti kazanmalarına yardımcı olmayı amaçlar. FYZ’yi tanımlamanın zorluğunu kabul eden Dr. Mackereth, FYZ’nin ne olmadığını açıklamayı tercih eder: “FYZ, asla öngörücü polislikle ilgilenmeyecek” (Doyle-Burke ve Smith, 2021).
FYZ, uygulayıcılar ve savunucular tarafından etkili biçimde kullanılan söylemsel bir güce sahiptir. f < a + i > r ile bağlantılı Renata Avila (2021), yeni yapay zekâ tahayyüllerinin açığa çıkması için yapay zekânın feminist sosyal adalet ilkeleri doğrultusunda yeniden inşa edilmesi gerektiğini öne sürmüştür. Avila şöyle yazar:
FYZ, yapay zekâ etrafındaki söylemi yeniden kuruyor ve bunu kadınların ve kız çocuklarının ellerine ve zihinlerine daha yakın hâle getiriyor [. . .] Feministler sadece bugünü tasarıma çevirmekle kalmayacak, ütopyayı da çevirecek ve tasarıma toplumsal cinsiyet ve ırk eşitliğini kodlayacaklar. (Avila, 2021)
Benzer şekilde, Kampala merkezli Policy adlı STK’nin yöneticisi Neema Iyer (t.y.), FYZ’den, Afrika bağlamında, Afrika’daki feminist hareketlerin farklı yapay zekâ ve veri yönetişim modelleri altında feminist bir geleceği nasıl eleştirel bir şekilde ele alabileceklerini, tartışabileceklerini ve öngörebileceklerini ifade eden bir söylem olarak bahseder. Bu iki örnekte de FYZ etrafındaki söylem, kadınların ve kız çocuklarının yapay zekâya ilgi duymaları ve bu alanda aktif olmaları için bir pencere açıyor. Bu, muhtemelen FYZ etrafındaki söylemin uygulayıcılar ve akademisyenler arasında bu kadar olumlu, umutlu ve hatta zaman zaman ütopik olarak betimlenmesinin nedenlerinden biri. Aslında, tıpkı yapay zekânın kendisi gibi, FYZ de gelecekte ortaya çıkması beklenen, fakat henüz gerçekleşmemiş bir özgürleştirici potansiyel hakkında büyük iddialarda bulunuyor. Bu da beni şu soruyla baş başa bırakıyor: FYZ etrafındaki mevcut söylem, yapay zekânın toplumsal, siyasal, çevresel ve ekonomik adaletsizliklere yanıt olmayacağını düşünecek feministler için yapay zekâyı ne ölçüde kabul edilebilir kılıyor?
Kavramsal olarak, Sarah Myers West (2020) bize FYZ’yi söylem olarak farklı şekilde nasıl düşünebileceğimize dair bir bakış açısı sunuyor. West, aşağıdan bir FYZ tahayyülü kurarken, yapay zekâ etrafındaki söylemin adalet, hesap verebilirlik ve şeffaflıktan, onarma (remediation) kavramına kaydırılması gerektiğini ileri sürmüştür (West, 2020). West’in önerisi söylemsel olduğu kadar maddidir de çünkü söylemin toplumsal dönüşümle el ele gittiğine inanır. West, algoritmaları önyargısız ve kapsayıcı kılmaya yönelik liberal çerçeveyi eleştirmiş ve onarmanın güçlü bir alternatif sunduğunu savunmuştur. Onarma, zararlı yapay zekâ sistemlerinin verdiği zararı durdurmak ve tersine çevirmek, yanlışları düzeltmektir. “Adalet” ise, odağı, ayrımcılığın sistematik ve yapısal boyutlarıyla yüzleşmekten uzaklaştırır (West, 2020). West, algoritmik onarmaya yönelik bu yönelimin, yeni imkân alanları açabileceğini ve bunun kolektif güce, dayanışmaya ve reddedişe zemin hazırlayabileceğini savunmuştur (West, 2020).
Kültür olarak FYZ
Bilim ve teknolojiyi kültür olarak temsil etmek yeni değildir. Feministler uzun süredir teknolojiyi bir kültür olarak betimlemişlerdir. Judy Wajcman (1991), Feminism Confronts Technology [Feminizm Teknolojiyle Yüzleşiyor] adlı kitabında, teknolojiyle kültürü, teknoloji ile toplumsal cinsiyet ilişkilerinin birbirini karşılıklı olarak şekillendirmesi üzerinden ele alır. Şöyle yazar: “Kadınların teknolojiden dışlanması ve teknolojiyi reddetmesi, teknolojinin erkekler arasındaki ilişkileri ifade eden ve pekiştiren bir kültür olarak analiz edilmesiyle daha açık hâle gelir. Teknolojiler, insanların ve geliştikleri toplumsal bağlamın izlerini taşır” (Wajcman, 1991: 22). Wajcman (1991), toplumsal cinsiyetin tarihsel ve kültürel inşasının bir sonucu olarak teknolojinin eril bir kültür olarak kabul edildiğini savunmuştur. Bu, erkeklerle makineler arasında bağ yaratan ideolojik bir duruşun, erkeklik ideolojisinin ürünüdür. Teknoloji ile erkeklik arasındaki ilişkiyi tartışırken şöyle yazar: “Teknolojiyi bir kültür olarak ele almak, teknolojinin nasıl da erkekliği ifade ettiğini, dolayısıyla da erkeklerin de kendilerini nasıl karakteristik olarak makinelerle ilişkili gördüklerini anlamamızı sağladı” (Wajcman, 1991: 149). Ayrıca, teknolojiye dair semboller, imgeler ve temsiller gibi birçok kültürel faktörün kızların ve kadınların teknolojiye ilgisini azaltabileceğini vurgulamıştır.
Bazı yapay zekâ sistemlerinde toplumsal cinsiyet ve ırka yönelik önyargıların mevcut olduğu ilkesinden yola çıkan Galit Wellner ile Tiran Rothman (2020), FYZ’ye kültürel norm perspektifinden yaklaşmıştır. Toplumsal cinsiyete yönelik önyargıları, neden oluştuğunu, nereden geldiklerini, nihayetinde nasıl düzeltilebileceklerini anlamak için –toplumsal, fiziksel ve bilişsel olmak üzere– üç norm kategorisine ayırmışlardır (Wellner ve Rothman, 2020). Toplumsal normlar, belirli bir teknolojinin bir cinsiyetle ilişkilendirilmesi anlamına gelir (örneğin, kadınlar düşünülerek tasarlanmış bir bulaşık makinesi); fiziksel normlar, tek bir cinsiyetli bedenin evrensel olarak kabul edilmesidir (örneğin, yüz tanıma sistemlerinin beyaz erkekleri siyah kadınlara kıyasla çok daha yüksek oranda tanıması); bilişsel normlar da, zihinsel beceriler ile yeteneklere yönelik, hayatınız üzerinde etkisi olan varsayımlardır (örneğin, bir posta kodunun bir kişinin kredi onayını belirlemesi gibi bilişsel ırkçı önyargı). Yazarlar, bu kültürel normların değiştirilmesinin bizi FYZ’ye götüreceğini savundular. Pratikte, kültür olarak FYZ, yukarıda bahsi geçen Poeito yazılımıyla somutlaşır. Bu kültürel yapay zekâ aracı, feminist.ai araştırma grubunun on beş felsefi yönelimine dayanmaktadır; bu yönelimlerden biri, kültürün, maddesellik ve amacın veri ve model kadar önemli olduğunu özellikle belirtir.
Bilim olarak FYZ
İncelemenin son kategorisi, “zekâ”yı feminist bir perspektiften ele alan, bilim olarak FYZ’dir. Yıllar içinde, yapay zekâ içindeki zekâ kavramının araştırılması felsefe ve psikoloji gibi disiplinlerden gelmiştir. “Zekâ” terimini sorgulayan, FYZ’yi bilim olarak ele alan tek referans, Neda Atanasoski ile Kalindi Vora’nın (2019) Surrogate Humanity [Vekil İnsanlık] adlı kitabıdır. Kitabın “Teknoliberal Arzu Üzerine, Ya da Neden Feminist Yapay Zekâ Diye Bir Şey Yok” başlıklı son bölümü bu argümanı açıkça ortaya koyar. Adam gibi, onlar da yapay zekânın tarihinin başlangıcından beri rasyonalist ve maskülinist olduğunu savunur fakat Adam’ın aksine FYZ’nin yine de değerli olduğu sonucuna varmazlar; aksine, bunun kapsayıcı olma yönünde teknoliberal bir arzudan doğduğunu ve kökten bir dönüşüm gerektiğini öne sürerler. Teknoliberalizmi, “teknolojinin insanların emek gücünü ikame edeceği ve böylece ırka dair eşitsizliklerin ve insanlar arasındaki diğer tüm eşitsizliklerin ortadan kalkacağı, ırkın ve ırkçılığın olmadığı (postracial), özgürlüklerin olduğu bir gelecek kuracağını iddia eden bir ideoloji” olarak tanımlarlar (Atanasoski ve Vora, 2019: 28). Argümanlarını somutlaştırmak için Luna adlı bir yapay zekâyı feminist zekâ merceğinden incelerler. Luna, 2018’de insani yardım amaçlı, kâr amacı gütmeyen Robots Without Borders [Sınır Tanımayan Robotlar] örgütü tarafından oluşturulmuş holografik bir robottur. Mavi gözlü, uzun koyu saçlı bir kadın olarak tasvir edilir. Konuştuğunda içeriği Wikipedia gibi kaynaklardan alır. Luna, insani yardım koşullarında eğitimin kalitesini artırmak ve tıbbi tavsiye sağlamak için tasarlanmıştır. Atanasoski ve Vora, Luna projesini, teknoliberal bir hayal dünyasının parçası olduğu için eleştirir. Öncelikle, Luna’nın yapay zekânın sosyo-ekonomik sorunlara teknolojik bir çözüm olduğu varsayımına dayanan yapay zekâ pazarlama çılgınlığına dayandığını söylerler. İkinci olarak da Luna’nın toplumsal cinsiyet ve ırk temsilini iyileştirmek iddiasında bulunurken, tarihsel ve güncel kesişimsel baskı biçimlerini gerçekten sorgulamak için gereken siyasal emeği ortaya koymadığını iddia ederler. Bu AI projesi, kendisini FYZ hareketinin bir parçası olarak görmediğinden, incelenen küçük ölçekli FYZ projelerinden oldukça farklıdır. Yine de Atanasoski ve Vora’nın (2019) feminist zekânın varlığını sorgulayan felsefi yaklaşımı kavramsal olarak zengindir. Şöyle yazarlar:
Zekâ kategorisinin genişletilmesine duyulan arzu —bu kategori ve liberal özneyi oluşturan diğer kategorileri bozmaya yönelik bir arzudan ziyade— yapay zekânın vekil etkisini telafi etmeyecektir. Feminizmi liberal, kapsayıcı bir proje yerine sömürgecilikten arındırıcı bir proje olarak tanımlarsak; feminizm siyasal olarak kullanım, mülkiyet ve öz-sahiplik kategorilerini bozmaya çalıştıkça, belki de kışkırtıcı biçimde feminist bir zekâ diye bir şey olması gerekmediğini söyleyebiliriz.” (2019: 196)
Atanasoski ve Vora’nın bu provokasyonu, FYZ kavramıyla birlikte gelen daha iyi bir gelecek vaatlerini sorgular. Feminist olsun ya da olmasın, yapay zekâ toplumların dijitalleşmesini takip eder. FYZ, toplum olarak verimlilik, doğruluk ve kolaylık için benimsediğimiz bağımlılıkları gözden kaçırmamıza neden olabilir. FYZ, şu hâliyle, insan özgürlüğüne, ırk sonrası ya da emek sonrası bir geleceğe yönelmekten çok, ırksal eşitsizlik, el koyma, sömürü ve gezegen tahribatı üzerine kurulu çıkarcı kapitalist sistemin bir parçası olarak kalmaktadır. Öyleyse, kapsayıcı-liberal bir proje olmayan, feminist-sömürgecilikten arındırılmış (yapay) zekâ ne olabilir? Belki de başlangıç noktası, “feminist zekâyı” algoritmalara, verilere ve yapay zekâya hapsetmeye çalışmak yerine, dünyayı yeniden tasavvur etme ve direnme yönündeki feminist sömürgecilikten arındırıcı bilgi ve becerilerimizde yatıyordur.
Sonuç
Bu makale, FYZ kavramını düşünmeye yönelik geçmişteki ve günümüzdeki girişimleri ve bu pratiklerin geleneksel ve hegemonik yapay zekâ biçimlerine farklı derecelerde nasıl meydan okuduğunu incelemiştir. Adam ve öğrencilerinin çalışmaları üzerinden FYZ tarihine bakmak, yapay zekânın çoğul tarihini zenginleştirmemizi sağlar ve feminist tarihi yapay zekâya yeniden dahil etmemize olanak tanır. Bu mikro-tarihsel yaklaşım, FYZ yapmanın içerdiği çelişkileri kabul etmekten kaçınmadığı için günümüz açısından önemli bir ders niteliğindedir.
Günümüzde FYZ geliştirmeye yönelik çağdaş çabalar, hem yapay zekânın üretim sürecine farklı aktörlerin hem de küçük ölçekli, yavaş veri ve yapay zekâ projelerine toplulukların dahil edilmesini içermektedir. Günümüzde FYZ projelerinin, küresel Güney ve Kuzey’deki feminist akademisyenler, öğrenciler, STK’ler ve sanatçılar tarafından şekillendirildiğini anlamış bulunuyoruz. Bu aktörlerin yapay zekâyı yeniden düşünme sürecine dahil olması, yapay zekânın geleneksel tarihine yeni bir anlam katar. Dijital haklar STK’lerinin yükselişi ve feminist aktivist çalışanlarının profesyonelleşmesi, FYZ’yi inceleyen, uygulayan ve prototipleştiren yeni aktörlerin ortaya çıkmasına yol açmıştır.
FYZ ile ilişkilendirilen vaat, daha adil, daha yavaş, daha uzlaşmacı ve daha kolektif bir yapay zekânın mümkün olduğudur. Varsayım şudur: Eğer FYZ varsayılan model olsaydı, üreteceğimiz ve deneyimleyeceğimiz teknolojiler bugün sahip olduklarımızdan çok farklı olurdu. Böylesi ütopyacı hayaller bir yana, FYZ aynı zamanda taktiksel bir müdahale biçimi ve büyük ölçekli hegemonik ve ayrımcı yapay zekâya karşı bir direniş formu olarak görülebilir.
Ancak FYZ’nin başarabilecekleri sınırlıdır; zira henüz teknoliberal kapsayıcılık alanının ötesine geçmemiştir. İçinde yaşadığımız ve çevreyi tahrip eden kapitalist siyasal-ekonomik sistemin güç ilişkilerini ve eşitsizliklerini sorgulamak için çok az şey yapar. FYZ, ağır çevresel ve toplumsal adaletsizlik baskıları altında dünyayı dönüştürecek bir siyasi pratik değildir çünkü hâlâ teknik çözümler alanında kalmaktadır. Veri ve yapay zekâ gibi teknolojiler feminist aktivizmi destekleyebilir ve güçlendirebilir ancak kolektif özgürlüğümüz için mücadele edebilmek amacıyla esas ihtiyacımızın toplumsal hareketleri daha da güçlendirmek olduğunu unutmamamız gerekir.
TEŞEKKÜR
Feminist yapay zekâ üzerine düşüncelerime katkıda bulunan Beth Coleman, Alex Ketchum, Yousif Hassan, Fenwick McKelvey ve Alessandra Renzi dahil herkese müteşekkirim. Ayrıca, hakemlere yorumları için teşekkür ederim.
Finansman
Yazar(lar), bu makalenin araştırılması, yazılması ve/veya yayımlanması için herhangi bir finansal destek almamıştır.
KAYNAKÇA
Adam, A. (1995) “Artificial intelligence and women’s knowledge.” Women’s Studies International Forum, Cilt. 18, Sayı. 4: 407–415.
Adam, A. (1998) Artificial Knowing: Gender and the Thinking Machine. London ve New York:
Taylor & Francis Group, http://ebookcentral.proquest.com/lib/mcgill/detail.action?docID=165123.
Adam, A. ve Furnival, C. (1995) “Designing intersections—designing subjectivity: feminist theory and praxis in a sex discrimination legislation system.” Information & Communications Technology Law, Vol. 4, No. 2: 161–173.
Adams, R. (2021) “Can Artificial Intelligence be decolonized?” Interdisciplinary Science Reviews, Cilt. 46 Sayı. 1–2: 176–197.
Alemany, L.L., Benotti L., González L., v.d. (2022) “A tool to overcome technical barriers for bias assessment in human language technologies.” https://drive.google.com/file/d/1Ppdf6K8p4rYv5U-MLUql4o7fwTpoKheW/view.
Atanasoski, N. ve Vora, K. (2019) Surrogate Humanity: Race, Robots, and the Politics of
Technological Futures. Durham, NC: Duke University Press.
Avila, R. (2021) “Deploying Feminist AI.” Alliance +, 13 Eylül. https://feministai.pubpub.org/pub/deploying-feminist-ai/release/1
Bardzell, S. (2010) “Feminist HCI: Taking stock and outlining an agenda for design.” CHI ‘10: Proceedings of the SIGCHI Conference on Human Factors in Computing Systems içinde, 1301–1310. https://doi.org/10.1145/1753326.1753521
Bauchspies, W.K. ve Puig de la Bellacasa, M. (2009) “Feminist science and technology studies: a patchwork of moving subjectivities. An interview with Geoffrey Bowker, Sandra Harding,
Anne Marie Mol, Susan Leigh Star and Banu Subramaniam.” Subjectivity, Cilt. 28: 334–344.
Benjamin, R. (2019a) Race after Technology: Abolitionist Tools for the New Jim Code. London: Polity Press.
Benjamin, R. (y.h.) (2019b) Captivating Technology: Race, Carceral Technoscience, and Liberatory Imagination in Everyday Life. Durham, NC: Duke University Press.
Broussard, M. (2018) Artificial Unintelligence: How Computers Misunderstand the World.
Cambridge, MA: MIT Press.
Buolamwini, J. and Gebru, T. (2018) “Gender shades: Intersectional accuracy disparities in commercial gender classification.” Proceedings of the 1st Conference on Fairness, Accountability and Transparency içinde, PMLR, Vol. 81: 77–91.
Ciston, S. (2019) “Intersectional AI is essential: polyvocal, multimodal, experimental methods to save artificial intelligence.” Journal of Science and Technology of the Arts, Cilt. 11, Sayı. 2: 3–8.
Combahee River Collective (1979) “A black feminist statement.” Off Our Backs, Cilt. 9, Sayı. 6: 6–8.
Costanza-Chock, S. (2018) Design Justice, A.I., and Escape from the Matrix of Domination. https://doi.org/10.21428/96c8d426
Crawford, K. (2021) Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven, CT: Yale University Press.
Crenshaw, K. (1991) “Mapping the margins: intersectionality, identity politics, and violence against women of color.” Stanford Law Review, Cilt. 43, Sayı. 6: 1241–1299.
D’Ignazio, C. ve Klein, L. F. (2020) Data Feminism. Cambridge, MA: MIT Press.
Doyle-Burke, D. ve Smith, J. (2021) “Feminist AI.” The Radical AI Podcast, 2 Haziran.
https://radicalai.podbean.com/e/feminist-ai-101-with-eleanor-drage-and-kerry-machereth/
Feldfeber, I., Quiroga, Y.B., Guevara. C., v.d. (2022) “Feminisms in Artificial Intelligence: Automation tools towards a feminist judiciary reform in Argentina and Mexico.” https://drive.google.com/file/d/1VKeeSdJz6-8DoEbetQ8f1wTH1ORqvIXV/view
Forsythe, D.E. (1993) “Engineering knowledge: the construction of knowledge in artificial intelligence.” Social Studies of Science, Cilt. 23, Sayı. 3: 445–477.
Guerra, J. (2022) “Towards a feminist framework for AI development: From principles to practice.” https://www.derechosdigitales.org/wp-content/uploads/Fair_Doc_Eng.pdf
hooks, b. (2015) Feminism Is for Everybody: Passionate Politics. London: Routledge.
Haraway, D. (1988) “Situated knowledges: the science question in feminism and the privilege of partial perspective.” Feminist Studies, Cilt. 14, Sayı. 3: 575–599.
Harding, S.G. (2008) Sciences from below: Feminisms, Postcolonialities, and Modernities. Durham, NC: Duke University Press.
IDRC (2018) “Artificial intelligence and human development: Towards a research agenda.” https://www.idrc.ca/en/stories/artificial-intelligence-and-human-development, son erişim tarihi: 20 Nisan 2022.
IDRC (2021) “Advancing research on feminist artificial intelligence to advance gender equality and inclusion.” IDRC. https://www.idrc.ca/en/project/advancing-research-feminist-artificial-intelligence-advance-gender-equality-and-inclusion
Iyer N (t.y.) “What does the future of Feminist AI look like?” Goethe Institute. https://www.goethe.de/prj/k40/en/eth/fem.html
Jansen, S.C. (1988) “The ghost in the machine: Artificial Intelligence and gendered thought patterns.” Resources for Feminist Research/ Documentation sur la Recherche Feministe, Cilt. 17, Sayı. 4: 4–7.
Jansen, S.C. (2002) Critical Communication Theory: Power, Media, Gender and Technology. Lanham, MD: Rowman & Littlefield.
Katz, Y. (2020) Artificial Whiteness: Politics and Ideology in Artificial Intelligence. New York: Columbia University Press.
Lewis, J.E., Abdilla, A., Arista, N., v.d. (2020) “Indigenous protocol and Artificial Intelligence position paper.” https://spectrum.library.concordia.ca/id/eprint/986506/
Liboiron, M. (2021) Pollution Is Colonialism. Durham, NC: Duke University Press.
Lugones, M. (2010) “Toward a decolonial feminism.” Hypatia, Cilt. 25, Sayı. 4: 742–759.
McCarthy, J., Minsky, M.L., Rochester, N., v.d. (1955) “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence.” AI Magazine, Vol. 27, No. 4: 12.
Meinders, C. (2017) “From Feminist AI projects to artificial knowing.” Media Design Practices Lab, 30 Kasım. https://mediadesignpractices.net/lab/2017/11/collaborative-ai-research/
Meinders, C., Thompson, J., Ciston, S., v.d. (2020) “Week 3: Feminist AI (Main Thread).” Critical Code Studies. http://wg20.criticalcodestudies.com/index.php?p=/discussion/87/week-3-feminist-ai-main-thread
Mitchell, M. (2019) Artificial Intelligence: A Guide for Thinking Humans. New York: Farrar, Straus and Giroux.
Mohamed, S., Png, M.T., ve Isaac, W. (2020) “Decolonial AI: Decolonial theory as sociotechnical foresight in Artificial Intelligence.” Philosophy & Technology, Cilt. 33, Sayı. 4: 659–684.
Noble, S.U. (2018) Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York University Press.
Peña, P. ve Varon, J. (2020) “Decolonising AI: A transfeminist approach to data and social justice.” Coding Rights, 10 Eylül. https://medium.com/codingrights/decolonising-ai-a-transfeminist-approach-to-data-and-social-justice-a5e52ac72a96
Posada, J. (2022) “Embedded reproduction in platform data work.” Information, Communication & Society, Cilt. 25, Sayi. 6: 816–834.
Roberts, S. (2021). “Your AI is a human.” Mullaney, T.S., Peters, B., Hicks, M., v.d. (y.h.) Your Computer is on Fire içinde. Cambridge, MA: MIT Press, 51–70.
Sinders, C. (2020) “Feminist data set.” https://carolinesinders.com/wp-content/uploads/2020/05/Feminist-Data-Set-Final-Draft-2020-0526.pdf
Suchman, L. (2008) “Feminist STS and the sciences of the artificial.” In: Hackett, E.J. (y.h.) The Handbook of Science and Technology Studies içinde. Cambridge, MA: MIT Press, 139–164.
Suchman, L.A. (1987) Plans and Situated Actions: The Problem of Human-Machine Communication. Cambridge: Cambridge University Press.
TallBear, K. (2013) Native American DNA: Tribal Belonging and the False Promise of Genetic Science. Minneapolis, MN: University of Minnesota Press.
Turkle, S. (1984) The Second Self: Computers and the Human Spirit. New York: Simon & Schuster.
Wajcman, J. (1991) Feminism Confronts Technology. Cambridge: Polity Press.
Webb, C. (2019) “WHAT IS A FEMINIST AI? Possible Feminisms, Possible Internets. Disruption.” Network Lab, Berlin. https://www.youtube.com/watch?v=bBQOyvNhWJY
Wellner, G. ve Rothman, T. (2020) “Feminist AI: Can we expect our AI systems to become feminist? Philosophy & Technology, Cilt. 33, Sayı. 2: 191–205.
West, S.M. (2020) “Redistribution and rekognition: A feminist critique of algorithmic fairness.”
CATALYST: Feminism, Theory, Technoscience, Cilt. 6, Sayı. 2: 124.
Whittaker, M. (2021) “The steep cost of capture.” Interactions, Cilt. 28, Sayı. 6: 50–55.
Young, J. (2019) “Why we need to design feminist AI.” https://www.youtube.com/
watch?v=E-O3LaSEcVw
[1] Makalenin Türkçe çevirisine onay verdikleri için yazara teşekkür ederiz. İngilizce orijinali için bkz. Toupin, S. (2023). Shaping feminist artificial intelligence. New Media & Society, 26(1), 580-595. https://doi.org/10.1177/14614448221150776