DÜNYADAN

ABD’nin Portland şehrinde yüz tanıma sistemleri yasaklandı

Sadece güvenlik birimleri değil artık özel şirketler de bunları kullanamayacak.

Geçtiğimiz günlerde, ABD’nin Oregon eyaletinin Portland şehri yöneticileri yüz tanıma sistemleri konusunda ülkedeki en katı belediye yasağını kabul ettiler. Belediyenin şehirdeki yeni düzenlemesine göre artık yüz tanıma sistemini sadece polis gibi kamu birimleri değil, özel işletmeler de kamusal alanlarda kullanamayacak. Bu, oteller, mağazalar ve restoranlar gibi işletmelerin müşterilerin olduğu alanlarda yüz tanıma sistemini kullanamayacağı anlamına geliyor.

Ocak 2021’den itibaren yürürlüğe girecek tasarı belediye meclisinde oybirliğiyle kabul edildi. Yasayı ihlal eden işletmelere dava açılabilecek ve günde 1000 dolara kadar para cezası ödemeleri söz konusu olacak.

Belediye meclisi bu kararın gerekçesinde “gözetim ve gözetimin kötüye kullanımında özellikle etnik ve ırkçı ayrımcılığı desteklemesinin etkili olduğu” kaydedildi. Yüz tanıma teknolojilerinin “kabul edilemez bir ırkçı ve cinsiyetçi önyargıya sahip olduğunun belgelendiğini” ve şehrin “bu teknolojiler değiştirilip, kullanımı güvenli hale getirilene ve bireysel özgürlük sorunları çözülene kadar ihtiyati tedbirler alması gerektiğini” açıkladı.

Portland yetkilileri taslak üzerinde ilk olarak Kasım 2019’da çalışmaya başladılar ve yasa tasarısı geçerse özel işletmelerin yüz tanıma sistemlerini kullanmasını öncelikle yasaklayacaklarını açıkladılar. Geçmişte diğer şehirlerin getirdiği yasaklar bu kadar katı değildi: Örneğin San Francisco’da yasak yalnızca şehir yönetimi için getirilmişti.

Amazon’un karar sonrası meclis üyelerini tasarının dilini yumuşatmaya ikna etmek için 24.000 dolar harcadığı söyleniyor. E-ticaret devi, Portland yasağının yüz tanıma sistemini ülke çapında etkileyebilecek bir emsal oluşturacağından endişeleniyor .

Bir meclis toplantısında konuşan Portland Belediye Başkanı Ted Wheeler, kendi kararlarının diğer şehirlere de daha sert yüz tanıma yasakları getirmeleri için ilham vereceğini umduğunu söyledi.

Haziran ayında, bir grup Demokrat Senatör ve Meclis temsilcisi, hatalı bir biyometrik eşleşme nedeniyle bir kişinin tutuklanmasının ardından “federal hükümet tarafından açık bir yasal izin olmaksızın biyometrik gözetimi yasaklayacak” bir yasa tasarısı sundu. Tasarı ABD genelinde eyalet ve yerel güvenlik kuvvetlerinin yüz tanıma ve diğer benzer sistemleri kullanımının engellenmesini içeriyor.

Veri ve teknoloji regülasyonu ile insan hakları alanlarında çalışan bir avukat ve araştırmacı olan Nergis Oprescu’nun Aposto’da yayınlanan yazısında yüz tanıma teknolojilerini ayrıntılı biçimde tartışıyor.

Herkes bizi tanıyacak mı?

Yüz tanıma teknolojilerinin gerek teknoloji şirketleri gerekse güvenlik kuvvetleri tarafından kullanımı ve getirdiği etik ve hukuksal problemler dünya gündemini bir süredir meşgul ediyor. Batı ülkelerinde yapay zekâ ve verinin yasal kullanımı üzerine izlenecek politikalar konusunda parlamentolarda çalışmalar sürmekteyken mahkemelerden de önemli kararlar geliyor. Geçtiğimiz ağustos ayında Birleşik Krallık Temyiz Mahkemeleri, polis güçlerinin yüz tanıma sistemlerini kullanımının illegal olduğuna kesin olarak karar verdi. ABD’de pek çok eyalet geçen yıl yüz tanıma sistemlerini yasaklayan yasalar çıkarmıştı fakat henüz bir mahkeme kararı verilmemişti. Bu, tüm dünyada ilgili sistemin illegal olduğunu hükme bağlayan ilk karar.

Clearview AI: Bu konudaki tartışmalar 2019 yılının kasım ayında New York Times’tan bir gazetecinin Clearview AI isimli bir şirketi afişe etmesiyle alevlenmişti. Bu teknoloji şirketi, Facebook ve YouTube gibi platformların da içinde bulunduğu pek çok sosyal medya platformundan fotoğraflar toplayarak 3 milyar civarında görsel depoladığı bir veri tabanı oluşturmuştu. Şirket, herhangi bir kişinin fotoğrafının uygulamaya yüklenmesi hâlinde o kişinin kimlik bilgilerini açıklayan bir uygulama tasarladı. Aslında, bu uygulama basitçe, sokakta gördüğünüz herhangi bir kişinin fotoğrafını çekerek kimliğini öğrenebileceğiniz bir teknoloji sağlıyordu.

Esas tartışma: Günümüzde sosyal medyanın yaygın kullanımı nedeniyle kullanıcıların kimlik bilgilerini ele veren yüzlerce fotoğrafı internet ortamında kolaylıkla bulunabiliyor. Bu da Clearview AI gibi şirketlere arama sonuçlarının doğruluk oranının çok yüksek olduğu algoritmalar oluşturma imkânı veriyor. Burada tartışma yaratan şey Clearview AI tarafından tasarlanan bu uygulamanın ABD’de 600 polis merkezi tarafından hâlihazırda kullanılıyor olması ve kamuoyunun bundan haberinin olmamasıydı. Uygulamanın doğruluk oranının yüksek olduğu ve güvenlik güçlerine büyük kolaylık sağlayarak suç önleme amaçlı kullanabileceği öne sürülmüş ve güvenlik birimlerine toplumdan habersiz pazarlanmıştı.

Irkçılık: Zamanla pek çok araştırma gösterdi ki yüz tanıma teknolojileri azınlık grupların ve özellikle Afro-Amerikan kadınların yüzlerini doğru tanımlayacak kadar gelişmiş değil ve bu teknoloji üzerinden yaratılan algoritmalar yaş, etnik köken ve ırksal ayrımcılığa neden oluyor. Massachusetts Teknoloji Enstitüsü’nün (MIT) üç büyük yüz tanıma sistemi üzerinde yaptığı araştırmaya göre, bu sistemler siyah kadınların dahil olduğu davaların %21 ila %35’inde hatalı sonuç veriyor. Amazon’un tasarlayıp polis teşkilatlarına pazarladığı yapay zekâya dayalı “Rekognition” isimli yüz tanımlama teknolojisi üzerine yapılan bir araştırmaya göre, sistem esmer tenli bireyleri açık tenli bireylere göre çok daha zor tanımlıyor ve Afro-Amerikan erkekleri suçsuz yere mahkûm etmek gibi bir ihtimali  beraberinde getiriyor.

Gizlilik ihlali: Bu uygulamaların polis teşkilatları dışında kullanımının anonim kalmanın sonu olduğu ve büyük gizlilik ihlalleri yaratabileceği sıklıkla dile getiriliyor. Bir gün Google’da bir kişinin görselini aratmak ismini aratmak kadar kolay olabilir ve o gün pek de uzakta görünmüyor. Dolayısıyla, elinde bu teknolojiyi bulunduran bir kişinin hiç tanımadığı birinin adı, ev ve iş yeri adresi, telefonu veya diğer kişisel bilgilerine ulaşması ve bunları suistimal etmesi gayet olası. Bu durum pek çok etik ve hukuki endişeyi beraberinde getiriyor.

Teknoloji dünyasındaki gelişmeler: Clearview AI’ın kamuoyundan habersiz kullanımı tartışmaların fitilini ateşleyen olay olsa da Amazon, Microsoft gibi diğer teknoloji şirketleri de yüz tanıma teknolojilerine dayanan uygulamalar tasarlıyor, geliştiriyor ve bunları polis teşkilatları da dahil olmak üzere çeşitli kurumlara pazarlıyordu. Haziran ayında George Floyd’un polis memuru Derek Chauvin tarafından öldürülmesinin ve Black Lives Matter hareketinin de etkisiyle Amazon, Microsoft ve IBM gibi teknoloji şirketleri yüz tanıma uygulamalarını araştırmayı, geliştirmeyi ve kullanmayı bıraktığının sinyallerini verdi. Amazon Rekognition isimli sistemi polis teşkilatlarına pazarlamaya bir yıl ara verdiğini duyururken IBM ve Microsoft yüz tanıma teknolojileri pazarından çekildiklerini açıkladı.

Sistem sokakta gördüğünüz herhangi bir kişinin fotoğrafını çekerek kimliğini öğrenebileceğiniz bir teknoloji sağlıyor

Birleşik Krallık’ın adımı? Birleşik Krallık bu günlerde yeni bir “Güvenlik Birimleri Mega Veri Tabanı” oluşturmayı planlıyor. Bunun için aylar öncesinden bir kamusal platform oluşturarak kamuoyunun görüşlerini almaya başlamıştı. Bu kamuoyu müzakeresi 9 Eylül’de sona erecek ve hükümet yeni veri sistemini oluşturmaya başlayacak. Sivil toplum örgütleri ise bu yeni sistemin yüz tanıma teknolojileriyle entegre edileceğine ve bunun yaratacağı sürveyans (sistematik gözlem) etkilerine dikkat çekiyor.

Sonuç: Görünen o ki Clearview AI olayının ortaya çıkmasıyla ateşlenen tartışmalar ve yüz tanıma teknolojilerinin yarattığı ırk ve cinsiyet ayrımcılığının bilimsel olarak kanıtlanması hem teknoloji şirketlerini hem de devletleri bu uygulamalara karşı tedbirli davranmaya itiyor. Birleşik Krallık’ta verilen son mahkeme kararı da ayrımcılığa neden olan algoritmalara vurgu yaparak bu tutumun meşruluğunu doğrulamış oldu. Gelecekte bu teknolojinin kimler tarafından ne şekilde ve hangi algoritmalarla kullanılacağı, ayrımcılık endişelerinin giderilip giderilemeyeceği ise merak konusu.

0 comments on “ABD’nin Portland şehrinde yüz tanıma sistemleri yasaklandı

Bir Cevap Yazın

%d blogcu bunu beğendi: