Yapay Zeka sistemleri ve Bireysel Haklar: Nereye gidiyoruz?

https://www.cost.eu/artificial-intelligence-systems-and-individual-rights-where-are-we-heading-to/ 27 Temmuz 2021 10:01 15 ve 16 Temmuz 2021'de DigForASP COST Eylemi, Yapay Zeka, Dijital Adli Tıp, Veri Gizliliği, Hukuk ve Etik alanlarında 250'den fazla uzmanla Otomatik Karar Verme konusunda çevrimiçi bir konferans düzenledi. Otomatik karar verme (ADM) sistemleri, yani herhangi bir insan müdahalesi olmaksızın otomatik araçlarla karar almak için kullanılan sistemler giderek yaygınlaşmaktadır. Yeni Yapay Zeka (AI) tekniklerinin geliştirilmesi, bu sistemlerin daha yaygın ve erişilebilir olmasına katkıda bulunuyor ve bunlar artık günlük yaşamla bütünleşiyor. İnsanların daha iyi bir performansa ulaşmalarına yardımcı olarak daha hızlı ve daha tutarlı kararlara yol açabilmelerine rağmen, vatandaşların hak ve özgürlükleri için önemli riskler olabilir. Gerçekten de, sigorta sözleşmeleri, kredi değerliliğinin doğrulanması, işe alma süreçleri, sosyal yardımların verilmesi ve diğer birçok araç örneğinde olduğu gibi, genellikle vatandaşların yaşamları üzerindeki sonuçlarının tam olarak farkında olmadan haklarını etkilemek için kullanılırlar. Bazı durumlarda, sorumlu ve yasal olarak kullanıldığında bile olumsuz etkiler ortaya çıkabilir. Ek olarak, Bu sorunları ele almak için, Avrupa Komisyonu kısa süre önce, daha tehlikeli olduğu düşünülen sistemler için belirli uyumluluk prosedürleri sağlayan, insanların bir yapay zeka ile etkileşimde olduklarının farkında olmalarını gerektiren ve bazı teknolojileri yasaklayan yeni bir Yapay Zeka Düzenlemesi önerisi yayınladı. halka açık yerlerde yüz tanıma gibi. “Otomatik Karar Verme, AI sistemleri ve bireysel haklar”, Eindhoven Teknoloji Üniversitesi, NL'den Dr. Chiara Gallese Nobile, Cenevre, CH'deki Uygulamalı Bilimler Üniversitesi'nden Prof. David Billard, Carlo Cattaneo Üniversitesi'nden Dr. Elena Falletti tarafından düzenlendi. LIUC, IT ve Bari “Aldo Moro” Üniversitesi'nden Prof. Francesca A. Lisi, IT. Konferans, Dijital Adli Bilimler alanında Yapay Zeka ve Otomatik Akıl Yürütme uygulamalarının potansiyelini araştıran bir işbirliği ağı olan COST Eylemi “DİJİTAL FORENSİK: Akıllı Sistemler ve Uygulamalar aracılığıyla kanıt analizi” (DigForASP) girişimlerinin bir parçasıydı. Bu alanlar arasındaki sinerjiler. Konferansa Eindhoven Yapay Zeka Sistemleri Enstitüsü ve Eindhoven Teknoloji Üniversitesi'nde (TU/e) Veri Yönetimi ve Kütüphane Departmanı ev sahipliği yaptı. İlk günün sabahında 70 çevrimiçi katılımcıyla zirveye ulaşan 250'den fazla kayıtlı katılımcıyı çekti. Konferans, şeffaf ve açıklanabilir yapay zeka ihtiyacı, veri kümelerindeki önyargıları ortadan kaldırmadaki zorluklar ve yasal ve tıbbi alanda ADM sistemlerinin kullanılmasının sonuçları gibi ADM sistemlerinin etik, yasal ve teknik konularını araştırdı. Yapay zeka sistemlerine güven konusu da kapsamlı bir şekilde tartışıldı. Sunumlar, ADM sistemlerinin kullanımının bireyler ve toplum üzerinde, ayrımcılığı ve toplumsal önyargıları sürekli kılarak nasıl çok çeşitli etkileri olabileceğini ve bazen insan haklarıyla uyumsuz olabileceğini gösterdi. vatandaşlara ve özellikle savunmasız gruplara yönelik olumsuz sonuçları mümkün olduğunca en aza indirgemek. Bu sorunların üstesinden gelmek için, konuya ilişkin disiplinlerarası bir vizyona sahip olmak çok önemlidir. 15 Temmuz sabahı açılan olay th Dr. Carlo van de WEIJER (Genel Müdür EAISI, TU / e) ve Dr Iza Witkowksa ait selamlarımla ardından karşılama ve Dr Gallese Nobile tarafından tanıtımıyla, 2021, (Veri Yönetimi ve Gizlilik Başkanı, TU/e). Prof. Billard'ın başkanlık ettiği oturum, Eylemin ana hedeflerini gösteren DigForASP başkan yardımcısı Prof. Stefania Costantini (L'Aquila Üniversitesi, IT) ile başladı. Prof. Marta Poblet Balcell (RMIT Üniversitesi, AU), gelecekteki AI düzenlemesinin bölge dışı kapsamında devlet merkezli yukarıdan aşağıya yönetişim sistemlerinin tasarımına odaklandı. Prof. Vincent Müller (Eindhoven Teknoloji Üniversitesi, NL) daha sonra 'kara kutu sorununa', özellikle mahremiyet bağlamında, kararların ve eylemlerin gerekçesi bağlamında değindi. Prof. Cesar Hidalgo (University of Toulouse, FR) insanların insanlar ve makineler tarafından gerçekleştirilen eylemlere tepkilerini karşılaştırarak insan-makine etkileşimlerindeki önyargıları ortaya çıkardı. 15 Temmuz öğleden sonraki bölümünde inci sabah görüşmelerini özetlenmiştir ve Avrupa Komisyonu AI Yasası teklifinin ana noktalarını ortaya Dr. Gallese Nobile, başkanlık yaptı. Öğleden sonraki ilk konuşma, yapay zekanın kör noktaları ve toplumsal zorlukları tartışan Prof. Alexandros Kalousis (Uygulamalı Bilimler Üniversitesi, CH) tarafından yapıldı. Prof. Francisco de Elizalde (IE Üniversitesi, ES), yasal alanda otomatik araçlar kullanan yasal teknoloji şirketleri arasında yürütülen anketi tanıttı. Prof. Andrea Pin (University of Padua, IT), ABD ve AB yaklaşımları arasındaki farkı açıklayarak son AI Yasası teklifini tartıştı ve tek bir yasal sistem içinde neler yapabileceğinizi ve yapamayacağınızı belirlemenin zorluklarını vurguladı. 16 Temmuz 2021'de, Dr. Falletti başkanlığındaki konferansın son oturumu, AlgorithmWatch'in ADM sistemlerinin etkilerine ilişkin bakış açısını sunan Dr. Angela Muller ile başladı. Sicco Verwer (Delf Teknoloji Üniversitesi, NL) veri madenciliği uygulamalarında önyargı ve ayrımcılığı önlemek için faydalı teknikler sundu. Prof. Susana Vieira (Lizbon Üniversitesi, PT), sağlık sektöründeki çok disiplinli araştırma ekiplerini verileri uygun şekilde analiz etmeye ve yapay zeka aracılığıyla bilgiyi anlamaya çağırdı. Konferans, Prof. Billard'ın bir özeti ve bazı son sözleriyle sona erdi. Konferansın her oturumunu panelistler ve halkla çok aktif bir tartışma izledi, birçok soru ve yorum yapıldı. Genel olarak, konferans çok katılımlı ve teşvik ediciydi. https://digforasp.uca.es/admevent/ Tanım Otomatik karar verme (ADM) sistemleri, yani herhangi bir insan müdahalesi olmaksızın otomatik araçlarla karar almak için kullanılan sistemler giderek yaygınlaşmaktadır. Yeni Yapay Zeka (AI) tekniklerinin geliştirilmesi, bu sistemlerin daha yaygın ve erişilebilir hale getirilmesine katkıda bulunuyor ve bunlar artık günlük hayata entegre ediliyor. Onlar olsa daha hızlı ve daha tutarlı kararlara yol açabilir, insanları ve yardımcı olarak daha iyi bir performans ulaşan vatandaşların önemli riskler olabilir hak ve özgürlük. Gerçekten de, sigorta sözleşmelerinde, kredi değerliliğinin doğrulanmasında, işe alımlarda olduğu gibi, genellikle vatandaşların yaşamları üzerindeki sonuçların tam olarak farkında olmadan haklarını etkilemek için kullanılırlar.süreçler, sosyal yardımların verilmesi ve diğer birçok araç. Bazı durumlarda, sorumlu ve yasal olarak kullanıldığında bile olumsuz etkiler ortaya çıkabilir. Buna ek olarak, İnternet'te ve birbirine bağlı cihazlardan kişisel verilerin artan erişilebilirliği, birden fazla kaynak arasındaki bağlantıyı kolaylaştırarak, otomatik ve büyük ölçekli analiz ve bireylerin tercihlerinin, alışkanlıklarının, kişiliklerinin ve davranışlarının tahmin edilmesini sağladı . Bu sorunları ele almak için, Avrupa Komisyonu kısa süre önce , daha tehlikeli olduğu düşünülen sistemler için belirli uyumluluk prosedürleri sağlayan , insanların bir yapay zeka ile etkileşimde olduklarının farkında olmalarını gerektiren ve bazılarını yasaklayan yeni bir Yapay Zeka Düzenlemesi önerisi yayınladı.halka açık yerlerde yüz tanıma gibi teknolojiler. Bu etkinlik , ADM'nin hassas gruplar üzerindeki etkisi, şeffaf ve açıklanabilir AI ihtiyacı , ADM'nin deneme ve soruşturmalar sırasındaki sonuçları ve ADM'ye neden olan bazı son vakalar gibi ADM sistemlerinin etik, yasal ve teknik konularını araştırmayı amaçlamaktadır. örneğin tıp alanında bireyler üzerinde olumsuz etkiler. Ayrıca ADM konusunun GDPR tarafından nasıl düzenlendiği tartışılacaktır. Biçim Yalnızca çevrimiçi etkinlik, davetli konuşmacılar , ardından konuşmacılar ve katılımcılar arasında tartışma. Etkinliğe kayıt olmak için bağlantı: https://www.eventbrite.nl/e/registratie-automated-decision-making-ai-systems-and-individual-rights-158893720395?aff=affiliate1 Hoparlörler Stefania Costantini , L'Aquila Üniversitesi, BT Francisco de Elizalde , IE Hukuk Fakültesi, ES César Hidalgo , Toulouse Üniversitesi, FR Alexandros Kalousis , Uygulamalı Bilimler Üniversitesi, CH Angela Müller , Algoritma İzle Vincent Müller , Eindhoven Teknoloji Üniversitesi, NL Andrea Pin , Padua Üniversitesi, BT Marta Poblet Balcell , RMIT Üniversitesi, AU Susana Vieira , Lizbon Üniversitesi, PT Sicco Verwer , TU Delft, NL Etkinlik programı. Program ve özetler – ADM 15 _ 16 Temmuz 2021 Tüm zaman dilimleri Orta Avrupa Saatine ( CET ) atıfta bulunur. 15 TEMMUZ SABAH OTURUMU Başkan: David Billard (Cenevre HES-SO Uygulamalı Bilimler Üniversitesi) 09:30 – 09:45: Eindhoven Teknoloji Üniversitesi'nden Chiara Gallese Nobile tarafından açılış 09:45 – 10:00: EAISI ve DML direktörlerinden selamlar 10:00 – 10:15: COST Action'ın tanıtım bilgileri, Stefania Costantini, L'Aquila Üniversitesi 10:15 – 10:45: Marta Poblet Balcell, RMIT Üniversitesi 10:45 – 11:00 < Kahve Molası > 11:00 – 11:30: Vincent Müller, Eindhoven Teknoloji Üniversitesi 11:30 – 12:00: César Hidalgo, Toulouse Üniversitesi 12:00 – 12:30 Panelistler arasında tartışma 12:30 – 13:30 ÖĞLE ARASI ÖĞLEDEN SONRA SEANSI Başkan: Chiara Gallese Nobile (Eindhoven Teknoloji Üniversitesi) 13:30 – 13:45 Chiara Gallese Nobile tarafından öğleden sonra oturumuna giriş 13:45 – 14:15 Alexandros Kalousis, HES-SO Uygulamalı Bilimler Üniversitesi, Batı İsviçre 14:15 – 14:45 Francisco de Elizalde, IE Üniversitesi 14:45 – 15:00 < Kahve Molası > 15.00 – 15:30 Andrea Pin, Padua Üniversitesi 15:30 – 16:00 Panelistler arasında tartışma 16:00 – 16:30 Halkla tartışma 16 TEMMUZ SABAH OTURUMU Başkan: Elena Falletti (Carlo Cattaneo Üniversitesi LIUC) 09:15 – 09:30 İkinci güne giriş Elena Falletti, Carlo Cattaneo Üniversitesi, LIUC 09:30 – 10:00 Angela Müller, Kıdemli Politika ve Savunuculuk Müdürü, Algoritma İzleme 10:00 – 10:30 Sicco Verwer, Delft Teknoloji Üniversitesi 10:30 – 10:45 < Kahve Molası > 10:45 – 11:15 Susana Vieira, Lizbon Üniversitesi 11:15 – 11:45 Panelistler arasında tartışma 11:45 – 12:15 Halkla tartışma 12:15 – 12:45 Kapanış konuşması, David Billard, Geneva HES-SO University of Applied Sciences Organizasyon Komitesi Chiara Gallese Nobile , Eindhoven Teknoloji Üniversitesi, NL David Billard , HES-SO, Cenevre Uygulamalı Bilimler Üniversitesi, CH Elena Falletti , Carlo Cattaneo Üniversitesi LIUC, BT Francesca A. Lisi , Bari Üniversitesi, BT ( COST Action DigForASP Bilim İletişim Müdürü ) ev sahipliği yapan kurum Eindhoven Teknoloji Üniversitesi CA17124 - Dijital adli tıp: akıllı sistemler ve uygulamalar aracılığıyla kanıt analizi Tanım Dijital Adli Tıp, ceza davalarının çözümünde bilimsel ilkelerin uygulanması yoluyla dijital kanıtların kurtarılması ve kullanılması ile ilgilenen Kriminalistik Bilimlerin bir parçasıdır. Dijital kanıt toplamak için çeşitli ve giderek daha karmaşık yöntemler vardır. Nitekim teknolojinin gelişimi bu tür yöntemleri sürekli olarak zorlamaktadır. Bununla birlikte, mahkemede sunulmak üzere kanıt elde etmek amacıyla olaylar, eylemler ve gerçekler (veya bunların dizileri) ile ilgili hipotezleri ortaya çıkarmak için kaba kanıtlar kullanılmalıdır. Kanıt analizi, parçalanmış tamamlanmamış bilgiyi incelemeyi ve zaman, belirsizlik, nedensellik ve alternatif olasılıkları içeren karmaşık senaryoları yeniden yapılandırmayı ve birleştirmeyi içerir. Günümüzde dijital kanıt analizi için yerleşik bir metodoloji bulunmamaktadır. Önerilen COST Eyleminin Zorluğu, Dijital Adli Tıp alanında Yapay Zeka ve Otomatik Akıl Yürütme uygulamalarının potansiyelini keşfetmek için bir Ağ oluşturmak ve bu alanlar arasında sinerji yaratmaktır. Spesifik olarak, zorluk, olası olayları, olay sekanslarını yeniden oluşturmak için çeşitli elektronik cihazlardan (özel yazılım aracılığıyla ve belirli düzenlemelere göre) toplanan olası suçlar ve suç failleri hakkındaki kanıtlardan yararlanılması gereken Kanıt Analizi aşamasını ele almaktır. ve bir suçla ilgili senaryolar. Kanıt Analizi sonuçları daha sonra kolluk kuvvetlerine, müfettişlere, savcılara, avukatlara ve hakimlere sunulur: bu nedenle, benimsenen tekniklerin güvenilirliği ve doğrulanabilirliği garanti etmesi çok önemlidir. 3. ÇALIŞMA GRUBU & 3. MC TOPLANTISI 3. Çalışma Grubu Toplantısı 23-24 Ekim 2019 tarihlerinde La Valleta (Malta), Valleta Kampüsü, St Paul Caddesi'nde gerçekleştirildi. Ertesi gün, 25 Ekim'de 3. Yönetim Komitesi (MC) gerçekleşti. Özet Kitabı 3WGM Malta 2019 Malta Ekim 2019 Basın Bülteni Çalışma Grupları Toplantı Gündemi Yönetim Komitesi Toplantı Gündemi Seyahat, Konaklama ve Sosyal Aktiviteler 3. Çalışma Grubu Toplantısı – Özet Çağrısı 3. Çalışma Grubu Toplantısının (WGM3) hedeflerinden biri, çalışmanın sonuçlarını bir sentetik veri seti listesiyle sunmaktı. Bu çalışmalar, Eylemdeki katılımcılar arasında sinerji yaratılmasını teşvik edecektir. Aşağıdaki Easychair sistemi aracılığıyla PDF olarak gönderilebilecek altı sayfaya kadar bilimsel yayınları davet ediyoruz: Özet gönderimi Yazarlardan Springer LNCS stili için biçimlendirme talimatlarını izlemeleri istenir ( https://www.springer.com/computer/lncs/lncs+authors?SGWID=0-40209-0-0-0 ) Son tarih: İlgi gösterileri ve özet göndermek için son tarih 2 Eylül olacaktır . Her yıl DFRWS'nin önerdiği zorluğun incelenmesi ilginç olabilir. Bu nedenle, bu zorluğu çözmek için çok disiplinli bir araştırma grubunun oluşturulması Eylem için çok ilginç olabilir. Hedef: Gelecek yılın zorluğuna bir çözüm bulmak için matematiksel, AI ve AR araçlarını uygulamak için Eylemdeki katılımcılar arasında çok disiplinli araştırma grupları oluşturun. https://www.dfrws.org/dfrws-forensic-challenge Bu problemin yanı sıra, başka veri kümeleri de önerilmiştir. Sonraki veri kümelerinin hedefi şudur: Bir veya birkaç veri kümesini inceleme yeterliliğine sahip bireysel araştırma grupları en az birini seçecek ve sonuçlarını WGM3 sırasında sunacaktır. NIST https://www.nist.gov/programs-projects/fingerprint https://www.nist.gov/itl/iad/image-group/resources/biometric-special-databases-and-software Janus-C IARPA Janus Benchmark-C yüz meydan okuması (IJB-C), tam hareketli videoların doğrulanması, tanımlanması, tespiti, kümelenmesi ve işlenmesine yönelik sekiz zorluk tanımlar. Bu 138000 yüz görüntüsü, 11000 yüz videosu ve 10000 yüz olmayan görüntüden oluşan IJB-C seti tarafından desteklenir. Bu veri seti aşağıdaki bağlantılardan talep edilebilir: https://www.nist.gov/programs-projects/face-challenges https://www.nist.gov/itl/iad/ig/ijb-c-dataset-request-form Bu veri seti hakkında bir makale burada bulunabilir . virüs paylaşımı Bu veri kümesinin amacı kötü amaçlı yazılım sınıflandırmasıdır: https://tracker.virusshare.com:6969/ Londra Suç Verileri 2008-2016 Londra gibi büyük metropollerde suç, farklı şekillerde ortaya çıkıyor. Bu veriler, Ocak 2008-Aralık 2016 tarihleri ​​arasında aya, LSOA ilçesine ve büyük/küçük kategorisine göre sabıka kaydı sayısını kapsar. Aşağıdaki bağlantıda bulunabilir: https://www.kaggle.com/jboysen/london-crime Kaggle Paysim1 (ödeme simülatörü) Dolandırıcılık Tespiti için Sentetik Finansal Veri Kümeleri. PaySim mobil para simülatörü tarafından oluşturulan sentetik veri kümeleri. PaySim, işlemlerin normal işleyişine benzeyen sentetik bir veri kümesi oluşturmak için özel veri kümesinden toplanan verileri kullanır ve daha sonra dolandırıcılık algılama yöntemlerinin performansını değerlendirmek için kötü niyetli davranışlar enjekte eder. Bu veri seti aşağıdaki bağlantıdan indirilebilir: https://www.kaggle.com/ntnu-testimon/paysim1