YAPAY ZEKÂNIN KARANLIK YÜZÜ: GÖZETİM TOPLUMU

Hamd, görünen ve görülmeyenlerin bilgisine sahip olan Allah’a; salât ve selam, insanlığın en güzel rehberi olan Resûl’üne olsun.

Modern çağın hızlı yükselişi, teknolojiyi hayatımızın ayrılmaz bir parçası hâline getirdi. Bu süreçte insanoğlu, bilginin ve inovasyonun cazibesine kapılarak kendini kuşatan bir ağ inşa etti. Foucault’nun meşhur Panoptikon kavramının dijital dünyaya bir iz düşümü gibi olan bu yeni düzen, bireylerin mahremiyetini tarihte eşi görülmemiş bir şekilde tehdit etmektedir. Artık bireyler, görünmez gardiyanlar tarafından izlenen birer dijital mahkûm gibi yaşamaktadır. Bu yazımızda, teknolojinin karanlık yüzünü gün ışığına çıkarmaya çalışacak, var olan bazı teknolojik tahribatlardan bahsedeceğiz, inşallah.

Dijital panoptikon

Foucault, Panoptikon modelini merkezdeki bir gözetleme kulesi etrafında tasarlanan bir hapishane olarak tarif eder. Bu tasarım, mahkûmları sürekli gözetlendikleri duygusuyla disipline eder. Dijital çağda ise bu model, telefonlarımız, bilgisayarlarımız ve güvenlik kameralarıyla her birey için gerçek bir tehdit hâline gelmiştir. Artık gözetim yalnızca duvarlarla çevrili hapishanelerde değil; sokaklarda, sosyal medya platformlarında ve her tıklamada internette karşımıza çıkmaktadır. İnsanların sürekli olarak kendilerini gözetimde hissetmelerini sağlama çabası güdülmektedir. Bu sistemlerin günümüzde karşımıza nasıl çıktığına bir göz atalım.

Dijital panoptikonun bileşenleri

Yüz Tanıma Teknolojileri

Alışveriş merkezlerinden havaalanlarına kadar hayatın her alanına yayılan yüz tanıma sistemleri, bireylerin birçok hareketini kaydeden bir gözetim ağı oluşturdu. Örneğin dijital panoptikonun en somut uygulamalarından biri, Çin’de kullanılan Sosyal Kredi Sistemi’dir. Bu sistem, bireylerin sosyal ve ekonomik davranışlarını sürekli gözetim altında tutar, belirli kurallara uymalarını teşvik eder. Mesela kamu alanında kurallara uymayan, borçlarını ödemeyen ya da “uygun görülmeyen” davranışlarda bulunan kişiler, şu gibi toplumsal yaptırımlarla karşılaşabilir:

Seyahat yasağı

Destek, kredi ya da borç talep etme skoru

Eğitim ve iş fırsatlarından mahrum bırakılma

İçtimai hayat içinde ötekileştirilme/kodlanma

Bu çarpık sistemler, bireylerin sürekli kontrol altında olduğu ve davranışlarını düzenlemek zorunda kaldığı bir ortam var eder. Böyle bir yapının, maneviyatın yok edilmesine, korku kültürüne ve toplumsal tek tipleşmeye yol açacağı açıktır. Sosyal Kredi Sistemi, panoptikonların dijital bir versiyonunu gözler önüne sermektedir.

Ayrıca bu tarz sistemler, insanların günlük yaşamını yönetmenin bir aracı hâline de gelmiştir. Adaletin tam tesis edilmediği ülkelerde yüz tanıma/biyometrik tarama teknolojileriyle, şahıslara rahatlıkla neredeyse her ülkede sorun çıkarabilecek ulusal “tahdit kodları” atanabilmektedir. Böylece fertleri bir nevi dijital bir duvarla hapsetmiş, yaşamlarına ise kısmen bir hudut koymuş oluyorlar.

Konum Takibi

Konum hizmetleri, hayatımızı kolaylaştıran pek çok avantaj sunuyor gibi görünse de perde arkasında dijital dünyayı bizim adımlarımızla dolduran bir gözetim ağı örüyor. Telefonlarımız, sinyaller sayesinde o ân nerede olduğumuzu, ne kadar süreyle orada kaldığımızı ve hangi rotaları izlediğimizi kaydediyor. Telefonunuzu kapatsanız bile bu veri aktarımı kısmen devam etmektedir. Şimdi teknoloji devlerinin bizleri neden batarya çıkar tak derdinden kurtardığını (!) daha iyi anlayabiliyoruz, değil mi?

Konum takibi, cihazlarımızın GPS, Wi-Fi ve hücresel ağlardan gelen verileri birleştirerek ortalama bir yer tespiti yapmasıyla gerçekleşir. Harita uygulamaları, restoran önerileri ya da trafik bilgileri gibi günlük yaşamı kolaylaştıran hizmetler, bu verilere dayanır. Ancak bu hizmetlerden faydalanırken farkında olmadan bir gözetim sisteminin parçası hâline de gelebiliyoruz. Tam olarak istenen de budur. İki basit örnek verelim:

Rota önerileri: Hangi tür vasıtayla seyahat ettiğiniz, ne sürede nerede kaldığınız ve ne tarz rutinlerinizin olduğunu kayıt altına almaktadır. Böylece kişilerin aylık, yıllık bazı rutinlerini denetleyen bir sistem oluşturmak istenmektedir. Ev ya da iş yerinizle ilgili veriler kayıt altındadır.

Trafik uygulamaları: İzlediğiniz yollar kaydedilerek trafik yoğunluğu hakkında bilgi sağlanır. Ancak bu bilgiler, yine bir bireyin günlük rutinlerini ve alışkanlıklarını anlamak için de kullanılabilir.

E-ticaret ve teknoloji devleri, konum verilerini reklam kampanyalarını hedeflemek ve kullanıcı deneyimini kişiselleştirmek için kullanır:

Anlık reklam bildirimleri: Bir mağazanın yakınından geçtiğinizde o mağazanın uygulaması, size ânlık bildirimler göndererek alışveriş yapmanız için teşvik edebilir. Bununla birlikte bu tür taktikler, bireyleri sürekli bir tüketim döngüsüne sokabilir ve davranışlarını manipüle edebilir/etmektedir.

Temel ihtiyaçlara duyarlılık: Telefonunuzda açık kalan bazı alışveriş uygulamaları, temel bazı kelimeleri arka planda karşılığı olan, eğitilmiş bir algoritmayla süzgeçler. Bu kelimeler genelde, “… ihtiyacım var.” ya da “Bir tane … alacağım.” tarzındaki tümcelerde geçen nesneleri yapay zekâ teknolojisiyle cımbızlayarak size reklam gönderir. Bu da esasında yine kişi hakkında bir veri toplanması ve kişinin dijital bir vesveseye maruz kalmasıdır diyebiliriz.

Devletler açısından konum takibi, özellikle güvenlik ve kamu düzeni gerekçesiyle büyük bir veri kaynağıdır. Ancak bu sistemler, bazen bireylerin temel haklarına müdahale edecek şekilde kullanılabilinmektedir.

Göçmen analizleri: Devletler, yasa dışı göçmenlerin izini sürmek ve sınır güvenliğini sağlamak için konum takibi teknolojilerini kullanmaktadır. Özellikle sınır geçişlerinde, biyometrik taramalar ve telefon konum bilgileriyle bireylerin hareketlerini takip eden sistemler devreye sokulmaktadır. Ancak bu tür uygulamalar, genelde insan hakları ihlalleri ve göçmenlerin mahremiyetine müdahale bağlamında bir eleştiri olarak tekrar onlara dönmektedir. Çoğu zaman kaçak geçişleri tespit etmek için gözetim dronları ve telefon sinyalleri kullanılmaktadır. Bu sistemler, bireylerin özgür hareket etme hakkını kısıtlayan bir kontrol aracı olarak tartışılmaktadır.

Dijital Pasaportlar: Covid-19 pandemisi döneminde, bulaşı önlemek amacıyla geliştirilen uygulamalar, bireylerin sağlık durumlarıyla birlikte nerede olduklarını kaydetmekteydi. Korona sonrası HES (Hayat Eve Sığar) kodunuz yoksa otobüs, tren, uçak yolculuğu bile yapılamıyordu. HES için ise uygulama ve konum bilgisi şart koşuluyordu. Bu da ciddi manada hem bireysel hem de toplumsal anlamda kişi-topluluk-konum korelasyonundan anlamlı veriler çıkarmak demekti.

Önleyici Polislik: Devletler, potansiyel suçların önlenmesi amacıyla konum takibi teknolojilerinden yararlanır. ‘Önleyici polislik’ adı verilen bu yöntemle, bireylerin geçmiş hareketleri ve kalabalık alanlardaki davranışları analiz edilerek suç işleme riski taşıyan kişiler önceden tahmin edilmeye çalışılır.

Örneğin İngiltere’nin bazı şehirlerinde kullanılan yapay zekâ destekli suç önleme sistemleri, belirli bir bölgede sıkça bulunan bireylerin davranışlarını analiz eder. Bu veriler, gelecekteki suçları tahmin etmek için istihbarat tarafından kullanılır. Ancak bu sistemler, yanlış kararlarla bireylerin gereksiz yere izlenmesine, hapsedilmesine ve mahremiyetinin delinmesine yol açmaktadır. Her bireye potansiyel bir suçlu gözüyle bakıldığından, paranoyak bir devlet/kolluk teşkilatını da inşa etmiş oluyorlar.

Konum takibi, hem bireysel hem de içtimai düzlemde özgürlüklerin sınırlandırılması riskini taşımaktadır. Teknolojinin bu güçlü aracının, bilinçli bir şekilde kullanılmadığında, modern dünyanın dijital bir kelepçesi hâline evrilebildiğini görmekteyiz. Bu nedenle, bireyler konum hizmetlerini yalnızca gerektiğinde açmalı ve mahremiyetlerini korumak için proaktif davranmalıdır. Bu konuda gerekli ek araştırmaları yapmalı, konum bilgisine dair verilerimizi ara sıra gözden geçirmeli, gereksiz veri ve çerezleri temizlemeliyiz.

Gözetim toplumu ve İslami bakış açısı

Gözetim toplumları, bireyin mahremiyetini kontrol altına almak adına inşa edilen dijital bir kafes gibidir. Sürekli izleniyor olma hissi, bireyleri yalnızca davranışlarını kontrol etmeye değil, aynı zamanda düşüncelerini sansürlemeye de zorlamaktadır. İslam ise bireyin mahremiyetini kutsal bir hak olarak görmüş ve bu hakkı korumayı kullarına bir görev olarak yüklemiştir. Zira mahremiyet, insan onurunun bir tezahürüdür.

“Ey iman edenler! Kendi eviniz dışındaki evlere izin almadan ve ev halkına selam vermeden girmeyin. Bu, sizin için daha hayırlıdır. Umulur ki öğüt alırsınız.”[1]

Bu İlahi mesaj, yalnızca fiziksel bir mahremiyeti değil; bireyin düşünce ve inanç dünyasını, özel hayatını ve sırlarını da koruma altına alır. Ancak modern gözetim toplumları, bu hakları sistematik bir şekilde ihlal ederek bireylerin manevi hanelerine âdeta zorla girmektedir. Yine İslam’da, hiç kimse başkasının maddi hanesi olan evini ya da manevi hanesi olan gönlünü/niyetini araştıramaz, casusluk yapamaz:

“Ey iman edenler! Zannın çoğundan kaçının! Çünkü zannın bir kısmı (dahi) günahtır. Tecessüs etmeyin/birbirinizin özelini araştırmayın. Birbirinizin gıybetini yapmayın/arkasından konuşmayın. Sizden biri, ölü kardeşinin etini yemeyi ister mi? (Nasıl da) tiksindiniz! Allah’tan korkup sakının. Şüphesiz ki Allah, (tevbeye muvaffak kılan ve tevbeleri çokça kabul eden) Tevvâb, (kullarına karşı merhametli olan) Rahîm’dir.”[2]

Bu ilke, insanların yalnızca dış görünüşüne ya da davranışlarına değil, kalplerindeki niyetlerine dahi şüpheyle yaklaşmama gerekliliğini vurgular. Gözetim toplumları ilkesel değil, fırsatçıdır/menfaatçidir. Bireylerin tüm dijital ve fiziksel hareketlerini izleyerek, zannı ve tecessüsü bizatihi bir sistem hâline getirmiştir!

Gözetim toplumunun çarpıklıkları

Gözetim toplumlarında bireyler sürekli kontrol altındadır. Kendilerini “koruma” bahanesiyle özgürlüklerinden vazgeçmeye zorlanır. Mahremiyetten mahrumlardır; gözlemler ve veri toplama yoluyla özel alanları daraltılır. Psikolojik baskıya maruz bırakılırlar; sürekli izleniyor olma hissi, insanları kendi iradeleriyle değil, sistemin istediği gibi davranmaya iter.

Bu çarpık düzen, bireylerin yalnızca özgürlüklerini değil, insana yaraşır şekilde yaşama hakkını da ellerinden alır. Halbuki İslam, insanı yeryüzünün halifesi kılmış ve ona, yalnızca Allah’a hesap vereceği bir yaşam alanı bahşetmiştir. Allah (cc) insanın donanımını; kötülüğü gördüğünde manevi bir bariyer, salih amelleri gördüğünde yaşama ve yayma dinamiğiyle süslemiştir. Tekrar fıtrata, Rabbimize verdiğimiz söze dönmemiz gerektiği aşikârdır.

Dünyada var olan hiçbir teknolojik evrim ya da mekanik devrim İlahi yasalara galebe çalamaz, onları sınırlayamaz. Zira ancak Yaratan her şeyin künhünü bilir ve gerçek bilgiye sahip olan ancak söz söyleyebilir. İnsanlığın, dünyanın sonunu anlatan bir Kitab’ın kanunları hiç bugünden habersiz olabilir mi? Hâşâ! İlahi kanunlar (şeriat) ve Allah korkusu (takva) tüm bu zikrettiğimiz beşerî kanunların ve insani gözetimlerin üstündedir ve hiç şüphesiz daha azizdir. Hem kişiliği hem toplumu ihya eder, onurunu korur hem de dünya ve ahiretini inşa eder. Rabbinin (cc) sonsuz rahmetine talip olur. Gönlü bizzat Allah (cc) tarafından korunur. Hiçbir gözetim toplumunun ya da toplum mühendisliğinin tuzağına düşmez bir konuma yükselir: kalbini/iradesini/aklını korumuş olur. Zira Allah’ın (cc) iradesi tüm irade ve muratların üstündedir! Bize düşen davete icabet etmektir:

“Ey iman edenler! Sizleri, size hayat verecek şeylere davet ettiğinde Allah’a ve Resûl’e icabet edin. Bilin ki Allah, kişiyle kalbi (düşünceleri) arasına girer. Ve muhakkak (diriltilip), O’nun huzurunda toplanacaksınız.”[3]

Enes’ten (ra) şöyle rivayet edilmiştir:

“Allah Resûlü (sav), ‘Ey kalpleri evirip çeviren Allah’ım, kalbimi dinin üzere sabit kıl.’ demeyi çokça yapardı.

Bunun üzerine O’na, ‘Ey Allah’ın Resûlü! Sana ve getirdiğin şeriata inandık. Bu durumda hâlâ bizim hakkımızda korkuyor musun?’ dedim.

Allah Resûlü de (sav) şöyle dedi: ‘Evet, çünkü kalpler Allah’ın iki parmağı arasındadır, onları dilediği şekilde evirip çevirir.’ ”[4]

Burada not edemediğimiz daha birçok konuda verilerimizin toplandığına şahit olmaktayız. Özellikle giyilebilir cihazlarla; kalp atışlarımız, korku ânındaki tansiyon değerimiz, aramalarla tespit edilen zaaflarımız, alışverişle açığa çıkan tarzımız, siparişlerle yiyecek ve içecek tercihlerimiz, mal varlığımız, nereye para aktardığımız veya günlük/aylık rutinlerimiz hakkında daha da çok veri elde edilmek isteniyor. Sonra mali verileri diğer bankalarla; teknoloji firmalarıyla, alışveriş şirketleriyle… takas ederek daha da geniş bilgi ağı elde etmekte ve kendilerince kolektif bir çalışma ortaya koymaktalardır. Zira günümüz dünyasının dinî inanışı kapitalizmdir. Özgürlük, eşitlik, adalet naraları atanların, verileri ilk elden satanlar olduğuna da şahitlik ettiğimiz bir devirdeyiz maalesef.

Rabbimizden (cc) dileğim bizleri ve neslimizi koruması, yeni çağın teknolojik tuğyanından bizleri muhafaza etmesidir. Her nimette olduğu gibi yapay zekâ alanında da bizleri güzellikleriyle faydalandırıp şükrü; kötülüklerinden uzaklaştırıp içtinabı kolaylaştırsın!

Bir sonraki yazımızda görüşmek dileğiyle…


[1] 24/Nûr, 27

[2] 49/Hucurât, 12

[3] 8/Enfâl, 24

[4] Tirmizi, 2140

Önerilen makaleler

İlk Yorumu Sen Yap

Cevap Ver