Katı kurallar geliyor… AB, yapay zeka için kolları sıvadı!

Avrupa Birliği (AB), son periyotta kullanım alanı süratle yaygınlaşan sohbet robotu ChatGPT üzere çeşitli yapay zeka teknolojilerine katı kurallar getirecek yasanın kapsamını belirlemeye çalışıyor.

Yapay zekanın günümüzde üretim, sıhhat, finans, eğitim, ulaşım ve güvenlik üzere farklı alanda yaygın biçimde kullanıma girmesiyle bu teknolojiye yönelik kuralların açık biçimde belirlenmesi önemli değer taşıyor.

AB’nin şimdi ChatGPT yahut gibisi yapay zeka sistemleriyle ilgili bir düzenlemesi bulunmuyor fakat AB Kurulu 2 yıl evvel yapay zeka konusunda yeni kurallar çerçevesini içeren birinci yasal düzenleme teklifini hazırlayıp üye ülkeler ve Avrupa Parlamentosu’na (AP) sunmuştu.

Bu teklif, yapay zeka sistemlerinin kullanımında birtakım sınırlama ve şeffaflık kuralları getiriyordu. Bu teklifin yasalaşması halinde, ChatGPT üzere yapay zeka sistemlerinin de bu kurallara uygun olarak kullanılması gerekecek.

YAPAY ZEKA RİSKLERİNE KARŞI YENİ KURALLAR

Bütün üye ülkelerde tıpkı formda uygulanması beklenen yapay zekaya yönelik yeni kurallar risk temelli bir yaklaşım getiriyor.

Komisyonun yasa teklifinde, yapay zeka sistemleri kabul edilemez risk, yüksek risk, sonlu risk ve en az risk olmak üzere 4 ana kümeye ayrılıyor.

İnsanların can güvenliğine, geçim kaynaklarına ve haklarına ait açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk kümesinde yer alıyor. Bu alanlardaki sistemlerin kullanımının yasaklanması bekleniyor.

Bireylerin özgür iradesine karşı olan, insan davranışını manipüle eden yahut toplumsal puanlama gerçekleştiren yapay zeka sistemleri yahut uygulamaları da yasak kapsamında.

Kritik altyapı, eğitim, ameliyat, işe alım sürecinde CV kıymetlendirme, kredi derecelendirme, kanıtlar, göç, iltica ve hudut idaresi, seyahat evraklarının doğrulanması, biyometrik kimlik belirleme sistemleri, yargı ve demokratik süreçler ise yüksek risk kümesine giriyor.

BİYOMETRİK KİMLİK SAPTAMA SİSTEMLERİNDE KULLANILAMAYACAK

Yüksek risk kümesine dahil alanlara katı şartlar getirilirken, bu kümedeki yapay zeka sistemlerinin piyasaya sunulmadan evvel uyması gereken sıkı yükümlülükler getiriliyor. Bu sistemlerin ayrımcılık yapmaması, sonuçların gözlemlenebilir olması ve kâfi ölçüde insan nezaretine tabi tutulması gerekiyor.

Kurallar kapsamında emniyet üniteleri terör ve önemli hatalar üzere özel durumlarda halka açık alanlarda biyometrik kimlik saptama sistemlerini özel durumlarda kullanabilecek. Lakin, yapay zeka sistemlerinin bu çeşit kullanımları hudutlu tutulacak ve isimli kuruluşun izine tabi olacak.

Sınırlı risk kümesinde yer alan yapay zeka sistemleri de belli şeffaflık yükümlülüğüne uymak zorunda olacak.

Sohbet robotları da kelam konusu teklifte hudutlu risk kümesinde yer alıyor. Burada, kullanıcıların sohbet robotlarıyla görüşme yaparken bir bilgisayarla etkileşimde olduklarının farkında olmasının sağlanması hedefleniyor.

Yapay zeka dayanaklı görüntü oyunları yahut istenmeyen e-posta filtreleri üzere uygulamalar ise asgarî risk kümesinde. Bireylerin hakları yahut güvenliği için az yahut hiç risk içermeyen bu kümedeki yapay zeka sistemlerine bir müdahalede bulunulmayacak.

KURALLARA UYULMAMASI HALİNDE REKOR CEZALAR GELEBİLİR

Söz konusu teklif, yapay zeka yasasını ihlal edenlere 30 milyon avro yahut global karlarının yüzde 6’sına ulaşacak düzeyde para cezası verilmesini de içeriyor.

Yürürlüğe girmesi için AP ve üye ülkelerin onayı gereken yapay zeka yasası üzerinde çalışmalar ise hala devam ediyor. Bu alanda AB üyesi ülkeler geçen yıl sonunda ortak tavır belirledi.

AB ülkeleri, yasaklanmış yapay zeka uygulamalarıyla ilgili birtakım değişiklikler istedi ve yapay zekayı toplumsal puanlama için kullanma yasağını özel dalı de kapsayacak biçimde genişletti.

Belirli bir kümenin güvenlik açıklarından yararlanan yapay zeka sistemlerinin kullanımını yasaklayan kararın kapsamı genişletildi.

Kolluk kuvvetleri tarafından halka açık alanlarda gerçek vakitli uzaktan biyometrik tanımlama sistemlerinin kullanımına ise istisnai olarak müsaade verildi. AB ülkeleri, ulusal güvenlik, savunma ve askeri hedeflerin ise yapay zeka yasası kapsamına dahil edilmemesinde uzlaştı.

AVRUPA PARLEMENTOSUNDAN ORTAK TAVIR KARARI

AP ise bu bahiste şimdi ortak bir tavır belirlemiş değil. Parlamento üyeleri yapay zeka yasası üzerinde hala çalışmaları sürdürüyor. Milletvekilleri, burada bilhassa Chat GPT üzere sistemlerin hangi risk kümesine gireceği konusunda ortak tavır belirlemek için görüşmeler yapıyor.

AP’nin bu alanda çalışan üyeleri, hali hazırda insan nezareti olmadan ve karmaşık metinler üreten yapay zeka sistemlerinin yüksek risk listesinin bir modülü olması gerektiği görüşünde.

Parlamento, yasa konusunda tavrını belirlemesinin akabinde üye ülkeler ile müzakere masasına oturacak.

YAPAY ZEKA GÖRÜŞMELERİNİN BU YIL YAPILMASI BEKLENİYOR

AP ve üye ülkelerin ortak bir metin üzerinde uzlaşmasının akabinde onaylanacak yasa ile kesime ahenk için 2 yıllık bir geçiş süreci tanınması bekleniyor.

Yapay zeka alanına yönelik yeni kuralları bilhassa bu alana önemli yatırımlar yapan Microsoft ve Google üzere büyük teknoloji şirketleri yakından takip ediyor.

GÜNDEMDEN DÜŞMEYEN CHATGPT, AB’NİN RADARINDA

AB ülkelerinin ulusal data müdafaa kurumlarını bir ortaya getiren Avrupa Bilgi Muhafaza Konseyi, son toplantısında OpenAI tarafından geliştirilen yapay zeka sohbet robotu ChatGPT’yi kıymetlendirdi.

Toplantıda, ChatGPT’ye yönelik yürütülen incelemelerde, iş birliğini ve bilgi paylaşımını artırmak için özel bir vazife gücü kurulması karara bağlandı.

İtalyan Data Müdafaa Ajansı, geçen ay ChatGPT yapay zeka sohbet robotuna şahsî dataları toplama kurallarını ihlal ettiği kuşkusuyla soruşturma başlatmış ve uygulamaya erişimi durdurmuştu.

Almanya’daki yetkililer de, bilgi güvenliği tasaları nedeniyle prensip olarak gerekirse yapay zekaya dayalı sohbet robotu ChatGPT’yi engelleyebileceklerini bildirmişti.

Aynı vakitte, Fransa ve İrlanda’daki dataların korunmasından sorumlu yetkililer bulgularını tartışmak için İtalya Bilgileri Müdafaa Ajansı ile bağlantıya geçmişti.

Bu durumda AB’nin ChatGPT ile ilgili yaklaşımını yakın vakitte açıklığa kavuşturması ve benzeri yapay zeka teknolojilerine katı kurallar getirmesi kaçınılmaz görünüyor.