Güvenlik sistemlerinin kullanımına karşı kampanya yüz tanıma Buenos Aires şehrinde caddeyi buranın kullanımına karşı posterlerle kapladı. Bu, Democracia en Red kuruluşları ve Arjantin Bilgisayar Hukuku Gözlemevi (ODIA) tarafından yönetilen ve farkındalık yaratmayı amaçlayan “recognizeme.org”dur. Bir QR kodunu tarayarak.
O Kaçaklara Yönelik Yüz Tanıma Sistemi (SRFP)Haberten kaçanları ve suçluları tespit etmek ve tespit etmek için uygulanan bu uygulama, bu yılın Mart ayında Buenos Aires Güvenlik Bakanlığı uzmanları ve temsilcileriyle yapılan bir duruşmanın ardından bu konuda hala bir anlaşma sağlanamadığının belirlenmesinin ardından şu anda Buenos Aires Haber Bakanlığı tarafından askıya alındı. Bu teknolojinin nasıl kullanılacağı ve denetleneceği.
Kullanımı, vurgulanan sivil toplum kuruluşları tarafından sorgulanmaktadır. eksiklikler sistemde. Bahsettikleri sembolik vaka, 2019 yılında, bir vatandaşın aynı adı taşıyan bir suçlu olan Guillermo Ibarrola ile karıştırıldığı için neredeyse bir hafta hapiste kaldığı sırada meydana geldi. Geçen yılın sonunda, Javier Milei Hükümeti protestocuları tespit etmek ve onları sosyal planların geri çekilmesiyle cezalandırmak için bu tür biyometrik teknolojileri uygulamayı hedeflediğinde, bu kez ulusal düzeyde, konu yeniden gündeme geldi.
ODIA sivil derneği tarafından 2019 yılında yapılan kamuya açık bilgilere erişim talebine ve ardından korumatarafından da zorlanan bir dizi hukuki süreç yaşandı. Hukuki ve Sosyal Araştırmalar Merkezi (CELS) ve Vía Libre Vakfı bu da Buenos Aires bölgesinde kullanımının askıya alınmasına yol açtı. Yazılımı yöneten Danaide SA firmasında yapılan denetimler, bu kuruluşlara duruşmada yöneltilen soruları gündeme getirdi.
Zurna Sokakta posterleri gördüklerini garanti eden Buenos Aires Güvenlik Bakanlığı kaynaklarına danıştı: “Kampanyayı gördük ve gerçeğin eksikliği. Kaçak tanıma aracı (yanlış bir şekilde “yüz” olarak adlandırılmıştır) yalnızca ve yalnızca yasadan kaçan suçluları yakalamak için adalet araçları sağlamayı amaçlamaktadır.”
“Beni tanıyın” kampanyası
Avenida Brasil ve Bolívar, CABA hakkında bir poster. Fotoğraf: Juan Brodersen
ODIA kampanyası vatandaşlar arasında yüz tanıma sistemi ve vatandaşların hakları konusunda farkındalık yaratmaya çalışıyor: “Bu girişim farkındalığı artırmayı amaçlıyor ve bu teknolojilere özgü riskleri azaltmak ve toplumu şeffaflık, uygun kullanım talebi konusunda harekete geçirmek için bir eylem çağrısıdır.” ve kullanımını sınırlayan bir kontrol mekanizması. ODIA ve Democracia en Red, Arjantin'de insan haklarına saygılı, adil bir dijital gelecek için verilen mücadelede kilit aktörler haline geldi.”
“Bilgi, farkındalık ve yurttaş seferberliği aracılığıyla, teknolojik ilerlemenin bir kontrol ve baskı aracı değil, herkesin özgürlüklerinin geliştirilmesine olanak tanıyan, toplumun hizmetinde bir araç haline gelmesini garanti altına almayı amaçlıyor” diye ekliyorlar.
Bunu yapmak için, recognime.org web sitesine girerek veya sokakta görülen QR'yi tarayarak kullanıcıları, ünlülerin maskelerini pikselli bir tarzda basmaya davet ediyorlar, böylece haberin yayılmasına yardımcı oluyorlar: Axel Kicillof ve Cristina Kirchner'in modelleri var. Patricia Bullrich ve Eduardo Feinmann'a.
“Beni tanı” basılacak ve farkındalık yaratacak modeller veriyor. Fotoğraf: Ekran görüntüsü
Biyometrik verilerle ilgili olarak ODIA başkanı Tomás Pomar şunları söyledi: Zurna: “Biyometrik verilerin kötüye kullanılması, kişisel bilgilerimizin özel veya kamu kuruluşları tarafından sahibinin izni olmaksızın işlenmeye ve kullanıma tabi tutulmasıdır. Bu gibi durumlarda kendimizi en azından vatandaşların mahremiyet hakkının açık bir ihlaliyle karşı karşıya buluyoruz.”
Pomar, bu kişisel verilerin çoğunlukla ticarileştirildiğini vurguluyor. Ve üretken yapay zekanın ilerlemeleriyle birlikte görüntüler özellikle daha anlamlı hale geliyor: “Son yıllarda görüntüleme sistemlerinin ortaya çıkışı Makine Öğrenimi veya yapay zeka yeni ve zorlu bir senaryo yapılandırdı. Örneğin Brezilya'da kişisel verileri koruma makamı Meta'ya (Facebook) yapay zeka sistemini eğitmeyi bırakmasını emretti platformlarının kullanıcılarının bilgileriyle.”
Democracia en Red ve ODIA adlı sivil dernekler tarafından en çok tartışılan konulardan biri sistemin denetimiyle ilgilidir; bu durum, bu yıl da SRFP'nin kullanımının askıya alınmasına yol açtı.
Buenos Aires şehrinde yüz tanıma kullanımına karşı bir kampanya olan “Reconoceme”. Fotoğraf: “ODIA”
Buenos Aires Hükümeti'nin kampanyaya tepkisi
Waldo Wolff, Jorge Macri hükümetinin Güvenlik Bakanı. Fotoğraf Marcelo Carroll
Şehir Güvenliği Bakanlığı, kampanyanın bir teknoloji olarak yüz tanımayı kaçakların tespiti ile karıştırdığını garanti ediyor: “Yapay zeka (AI) sistemlerini kaçak tanımlama sistemi ile karıştırmamalıyız ve tek bir rezervasyon yaptırmak önemlidir: yüz tanıma sistemi yanlış adlandırılmıştır; bu bir kaçak tanıma sistemidir. Ortalama vatandaşın bu ayrımı bilmesi önemlidir“.
“Sistem sivillerin yüzlerini arayarak veya takip ederek çalışmıyor; bunun yerine adaletten kaçan vatandaşların kayıtlarının saklandığı bir üsse ulaşıyor. Projenin özü bu ve arama niyetinde olduğumuzun açıklığa kavuşturulması önemli.” Kaçaklar için kullanım sırasındaki taahhüt budur. 1700'den fazla kişiyi tutukladık Adli sistem tarafından arananlar” diye eklediler.
ODIA'dan şu senaryoyu sorguluyorlar: “Buenos Aires Şehri dünya çapında neredeyse benzersiz bir örnek. “Kamu kurumunun bu özelliklere sahip bir sistemi iyi uygulamalardan yüksek düzeyde koparak ve yazılım geliştirme endüstrisini oluşturan minimum güvenlik önlemleriyle uyguladığı bir durumu bibliyografyada veya karşılaştırmalı içtihatlarda bulmak kolay değildir.” diye açıklıyor Pomar.
Bu nedenle siber güvenlik uzmanları her ne kadar kuruluşlar bu teknoloji ve riskleri konusunda farkındalık yaratmaya çalışmaktadır. Kamuya açık yollarda kodları taramanın güvenli olmadığı konusunda uyardılar.
“Kampanya, insanları daha fazla bilgi için bir QR kodunu taramaya teşvik ediyor. Bu durumda herhangi bir kötü niyet olmamasına rağmen, halka açık yerlerde görünen ve kaynağı belli olmayan QR kodlarının taranması önerilmez” dedi.
“Bir QR kodu, örneğin bir kişiyi 'kimlik avı' amacıyla, yani kötü niyetle gizli veya hassas bilgiler talep eden bir siteye yönlendirebilir. Aynı mekanizma, kullanıcıyı önceden zararsız görünen ancak gerçekte öyle olmayan bir uygulamayı yüklemeye teşvik etmek için de kullanılabilir” diye bitirdi.
Latin Amerika'da yüz tanıma
Buenos Aires şehrinde yüz tanıma kullanımına karşı bir kampanya olan “Reconoceme”. Fotoğraf: “ODIA”
Bir kentsel kontrol teknolojisi olarak yüz tanıma dünyanın çeşitli yerlerinde sorgulanıyor. Latin Amerika'da kullanımının uygulanmasına yönelik büyüyen bir eğilim var. Kamu Politikaları Direktörü Paloma Lara Castro, “Yüz tanıma uygulaması Latin Amerika'da gerekli güvenlik önlemleri olmadan önemli ölçüde arttı. Ulaşım, sosyal yardım ve göçün yanı sıra esas olarak kamu güvenliği ve kamusal alanlarda gözetim amacıyla uygulandı.” organizasyonun Dijital Haklar.
“Genellikle rıza, istişare veya insan hakları etki araştırmaları yapılmadan uygulanan bu sistemler, özellikle savunmasız durumdaki grupları etkileyen, mahremiyet ve temel haklar açısından önemli riskler teşkil ediyor. Bu teknolojilerin hassasiyet ve denetim eksikliği, yersiz tutuklamalara neden olduyapısal eşitsizlikleri sürdürüyor ve haklara erişimi kısıtlıyor. Bu göz önüne alındığında sivil toplum şeffaflık ve sorumluluk talebinde ısrar ediyor” diye ekledi.
Bu anlamda bu kuruluş, Latin Amerika'da yüz tanımanın durumunu incelediği bir rapor yayınladı ve buldukları ortak paydalardan biri, hem yazılım edinimi hem de denetimlerde şeffaflığın olmayışıydı.
Bu tartışmalar sadece bu bölgede olmuyor; güncel bir örnek vermek gerekirse, 21 Ekim'de Amerika Birleşik Devletleri'nin Virginia eyaletinde bir sivil özgürlükler örgütünün Norfolk şehrinde dava açtığı öğrenildi. Bir veri tabanının bakımı için yapay zekadan yardım almanın yanı sıra vatandaşların yaptıklarını kaydeden kameraların kullanılması.
Bölgesel düzeyde “ ParaguayOtomatik Yüz Tanıma Sistemi (SMARF) kısa süreliğine üçlü sınırda çalıştı ve şu anda Ulusal Polis veritabanlarını kullanarak Silvio Pettirossi Uluslararası Havaalanında çalışıyor. İçinde EkvadorECU 911 sisteminin gözetleme kameraları, sözde kamu güvenliği için 2002'den beri yüz tanıma teknolojilerini uyguluyor. Ancak bu sistemin eylem protokollerinin 2028 yılına kadar rezerve edilmiş olduğu ilan edildi, bu da şeffaflık eksikliği yaratıyor ve biyometrik bazda kullanımının denetlenme olasılığını sınırlıyor”, diye kapatıyor Derechos Digitales.
Buenos Aires'te Jorge Macri Hükümeti Durdurmanın kaldırılmasını hedefliyor: “Yeni yönetimi devraldığımız günden bu yana (Aralık 2023) Hakim Liberatori ile koordinasyon içerisinde, kaçak tanıma sisteminin yeniden hayata geçirilmesi için tüm adım ve süreçlere uyuyoruz. Çeşitli tedbirlerle ilerledik, teknik raporlar sunduk, sunduk. Güvenlik Bakanı Waldo Wolff liderliğindeki bakanlıktan kaynaklar, bize yapılan tüm gerekliliklere uyduk ve bunu geri getireceğimize güveniyoruz çünkü bu, güven oluşturmamıza olanak sağlayacak bir araç” dedi.
“Nihayetinde mesele yasaya uymak ve halihazırda yasaya uymayanları tutuklamakla ilgili: Onlara ilerlemeleri için daha fazla araç sağlamak üzere Haber Bakanlığı ile birlikte çalışmaya devam edeceğiz.”
O Kaçaklara Yönelik Yüz Tanıma Sistemi (SRFP)Haberten kaçanları ve suçluları tespit etmek ve tespit etmek için uygulanan bu uygulama, bu yılın Mart ayında Buenos Aires Güvenlik Bakanlığı uzmanları ve temsilcileriyle yapılan bir duruşmanın ardından bu konuda hala bir anlaşma sağlanamadığının belirlenmesinin ardından şu anda Buenos Aires Haber Bakanlığı tarafından askıya alındı. Bu teknolojinin nasıl kullanılacağı ve denetleneceği.
Kullanımı, vurgulanan sivil toplum kuruluşları tarafından sorgulanmaktadır. eksiklikler sistemde. Bahsettikleri sembolik vaka, 2019 yılında, bir vatandaşın aynı adı taşıyan bir suçlu olan Guillermo Ibarrola ile karıştırıldığı için neredeyse bir hafta hapiste kaldığı sırada meydana geldi. Geçen yılın sonunda, Javier Milei Hükümeti protestocuları tespit etmek ve onları sosyal planların geri çekilmesiyle cezalandırmak için bu tür biyometrik teknolojileri uygulamayı hedeflediğinde, bu kez ulusal düzeyde, konu yeniden gündeme geldi.
ODIA sivil derneği tarafından 2019 yılında yapılan kamuya açık bilgilere erişim talebine ve ardından korumatarafından da zorlanan bir dizi hukuki süreç yaşandı. Hukuki ve Sosyal Araştırmalar Merkezi (CELS) ve Vía Libre Vakfı bu da Buenos Aires bölgesinde kullanımının askıya alınmasına yol açtı. Yazılımı yöneten Danaide SA firmasında yapılan denetimler, bu kuruluşlara duruşmada yöneltilen soruları gündeme getirdi.
Zurna Sokakta posterleri gördüklerini garanti eden Buenos Aires Güvenlik Bakanlığı kaynaklarına danıştı: “Kampanyayı gördük ve gerçeğin eksikliği. Kaçak tanıma aracı (yanlış bir şekilde “yüz” olarak adlandırılmıştır) yalnızca ve yalnızca yasadan kaçan suçluları yakalamak için adalet araçları sağlamayı amaçlamaktadır.”
“Beni tanıyın” kampanyası
Avenida Brasil ve Bolívar, CABA hakkında bir poster. Fotoğraf: Juan Brodersen
ODIA kampanyası vatandaşlar arasında yüz tanıma sistemi ve vatandaşların hakları konusunda farkındalık yaratmaya çalışıyor: “Bu girişim farkındalığı artırmayı amaçlıyor ve bu teknolojilere özgü riskleri azaltmak ve toplumu şeffaflık, uygun kullanım talebi konusunda harekete geçirmek için bir eylem çağrısıdır.” ve kullanımını sınırlayan bir kontrol mekanizması. ODIA ve Democracia en Red, Arjantin'de insan haklarına saygılı, adil bir dijital gelecek için verilen mücadelede kilit aktörler haline geldi.”
“Bilgi, farkındalık ve yurttaş seferberliği aracılığıyla, teknolojik ilerlemenin bir kontrol ve baskı aracı değil, herkesin özgürlüklerinin geliştirilmesine olanak tanıyan, toplumun hizmetinde bir araç haline gelmesini garanti altına almayı amaçlıyor” diye ekliyorlar.
Bunu yapmak için, recognime.org web sitesine girerek veya sokakta görülen QR'yi tarayarak kullanıcıları, ünlülerin maskelerini pikselli bir tarzda basmaya davet ediyorlar, böylece haberin yayılmasına yardımcı oluyorlar: Axel Kicillof ve Cristina Kirchner'in modelleri var. Patricia Bullrich ve Eduardo Feinmann'a.
Biyometrik verilerle ilgili olarak ODIA başkanı Tomás Pomar şunları söyledi: Zurna: “Biyometrik verilerin kötüye kullanılması, kişisel bilgilerimizin özel veya kamu kuruluşları tarafından sahibinin izni olmaksızın işlenmeye ve kullanıma tabi tutulmasıdır. Bu gibi durumlarda kendimizi en azından vatandaşların mahremiyet hakkının açık bir ihlaliyle karşı karşıya buluyoruz.”
Pomar, bu kişisel verilerin çoğunlukla ticarileştirildiğini vurguluyor. Ve üretken yapay zekanın ilerlemeleriyle birlikte görüntüler özellikle daha anlamlı hale geliyor: “Son yıllarda görüntüleme sistemlerinin ortaya çıkışı Makine Öğrenimi veya yapay zeka yeni ve zorlu bir senaryo yapılandırdı. Örneğin Brezilya'da kişisel verileri koruma makamı Meta'ya (Facebook) yapay zeka sistemini eğitmeyi bırakmasını emretti platformlarının kullanıcılarının bilgileriyle.”
Democracia en Red ve ODIA adlı sivil dernekler tarafından en çok tartışılan konulardan biri sistemin denetimiyle ilgilidir; bu durum, bu yıl da SRFP'nin kullanımının askıya alınmasına yol açtı.
Buenos Aires Hükümeti'nin kampanyaya tepkisi
Şehir Güvenliği Bakanlığı, kampanyanın bir teknoloji olarak yüz tanımayı kaçakların tespiti ile karıştırdığını garanti ediyor: “Yapay zeka (AI) sistemlerini kaçak tanımlama sistemi ile karıştırmamalıyız ve tek bir rezervasyon yaptırmak önemlidir: yüz tanıma sistemi yanlış adlandırılmıştır; bu bir kaçak tanıma sistemidir. Ortalama vatandaşın bu ayrımı bilmesi önemlidir“.
“Sistem sivillerin yüzlerini arayarak veya takip ederek çalışmıyor; bunun yerine adaletten kaçan vatandaşların kayıtlarının saklandığı bir üsse ulaşıyor. Projenin özü bu ve arama niyetinde olduğumuzun açıklığa kavuşturulması önemli.” Kaçaklar için kullanım sırasındaki taahhüt budur. 1700'den fazla kişiyi tutukladık Adli sistem tarafından arananlar” diye eklediler.
ODIA'dan şu senaryoyu sorguluyorlar: “Buenos Aires Şehri dünya çapında neredeyse benzersiz bir örnek. “Kamu kurumunun bu özelliklere sahip bir sistemi iyi uygulamalardan yüksek düzeyde koparak ve yazılım geliştirme endüstrisini oluşturan minimum güvenlik önlemleriyle uyguladığı bir durumu bibliyografyada veya karşılaştırmalı içtihatlarda bulmak kolay değildir.” diye açıklıyor Pomar.
Bu nedenle siber güvenlik uzmanları her ne kadar kuruluşlar bu teknoloji ve riskleri konusunda farkındalık yaratmaya çalışmaktadır. Kamuya açık yollarda kodları taramanın güvenli olmadığı konusunda uyardılar.
“Kampanya, insanları daha fazla bilgi için bir QR kodunu taramaya teşvik ediyor. Bu durumda herhangi bir kötü niyet olmamasına rağmen, halka açık yerlerde görünen ve kaynağı belli olmayan QR kodlarının taranması önerilmez” dedi.
“Bir QR kodu, örneğin bir kişiyi 'kimlik avı' amacıyla, yani kötü niyetle gizli veya hassas bilgiler talep eden bir siteye yönlendirebilir. Aynı mekanizma, kullanıcıyı önceden zararsız görünen ancak gerçekte öyle olmayan bir uygulamayı yüklemeye teşvik etmek için de kullanılabilir” diye bitirdi.
Latin Amerika'da yüz tanıma
Bir kentsel kontrol teknolojisi olarak yüz tanıma dünyanın çeşitli yerlerinde sorgulanıyor. Latin Amerika'da kullanımının uygulanmasına yönelik büyüyen bir eğilim var. Kamu Politikaları Direktörü Paloma Lara Castro, “Yüz tanıma uygulaması Latin Amerika'da gerekli güvenlik önlemleri olmadan önemli ölçüde arttı. Ulaşım, sosyal yardım ve göçün yanı sıra esas olarak kamu güvenliği ve kamusal alanlarda gözetim amacıyla uygulandı.” organizasyonun Dijital Haklar.
“Genellikle rıza, istişare veya insan hakları etki araştırmaları yapılmadan uygulanan bu sistemler, özellikle savunmasız durumdaki grupları etkileyen, mahremiyet ve temel haklar açısından önemli riskler teşkil ediyor. Bu teknolojilerin hassasiyet ve denetim eksikliği, yersiz tutuklamalara neden olduyapısal eşitsizlikleri sürdürüyor ve haklara erişimi kısıtlıyor. Bu göz önüne alındığında sivil toplum şeffaflık ve sorumluluk talebinde ısrar ediyor” diye ekledi.
Bu anlamda bu kuruluş, Latin Amerika'da yüz tanımanın durumunu incelediği bir rapor yayınladı ve buldukları ortak paydalardan biri, hem yazılım edinimi hem de denetimlerde şeffaflığın olmayışıydı.
Bu tartışmalar sadece bu bölgede olmuyor; güncel bir örnek vermek gerekirse, 21 Ekim'de Amerika Birleşik Devletleri'nin Virginia eyaletinde bir sivil özgürlükler örgütünün Norfolk şehrinde dava açtığı öğrenildi. Bir veri tabanının bakımı için yapay zekadan yardım almanın yanı sıra vatandaşların yaptıklarını kaydeden kameraların kullanılması.
Bölgesel düzeyde “ ParaguayOtomatik Yüz Tanıma Sistemi (SMARF) kısa süreliğine üçlü sınırda çalıştı ve şu anda Ulusal Polis veritabanlarını kullanarak Silvio Pettirossi Uluslararası Havaalanında çalışıyor. İçinde EkvadorECU 911 sisteminin gözetleme kameraları, sözde kamu güvenliği için 2002'den beri yüz tanıma teknolojilerini uyguluyor. Ancak bu sistemin eylem protokollerinin 2028 yılına kadar rezerve edilmiş olduğu ilan edildi, bu da şeffaflık eksikliği yaratıyor ve biyometrik bazda kullanımının denetlenme olasılığını sınırlıyor”, diye kapatıyor Derechos Digitales.
Buenos Aires'te Jorge Macri Hükümeti Durdurmanın kaldırılmasını hedefliyor: “Yeni yönetimi devraldığımız günden bu yana (Aralık 2023) Hakim Liberatori ile koordinasyon içerisinde, kaçak tanıma sisteminin yeniden hayata geçirilmesi için tüm adım ve süreçlere uyuyoruz. Çeşitli tedbirlerle ilerledik, teknik raporlar sunduk, sunduk. Güvenlik Bakanı Waldo Wolff liderliğindeki bakanlıktan kaynaklar, bize yapılan tüm gerekliliklere uyduk ve bunu geri getireceğimize güveniyoruz çünkü bu, güven oluşturmamıza olanak sağlayacak bir araç” dedi.
“Nihayetinde mesele yasaya uymak ve halihazırda yasaya uymayanları tutuklamakla ilgili: Onlara ilerlemeleri için daha fazla araç sağlamak üzere Haber Bakanlığı ile birlikte çalışmaya devam edeceğiz.”