Yapay Zeka İçeriklerinin Yayılması Pahalı Ceza Getirebilir
Yapay zeka tarafından oluşturulan “deepfake” içerikler interneti dolduruyor ve bazen tehlikeli sonuçlar doğuruyor. Geçtiğimiz yıl içerisinde, bir eski ABD başkanının aldatıcı ses klonlarının yapılmasında ve çocukları doğal afetlerde tasvir eden sahte, politik yüklü görüntülerin yayılmasında yapay zeka kullanıldı. Ayrıca, rızasız olarak oluşturulan yapay zeka destekli cinsel görüntüler ve videolar, lise öğrencilerinden Taylor Swift’e kadar herkesi etkileyen travma izleri bırakıyor. Microsoft ve Meta gibi büyük teknoloji şirketleri, bazı AI manipülasyonlarını tespit etme çabalarında bulundular ancak sadece sınırlı başarı elde ettiler. Şimdi, hükümetler bu yayılımı durdurmaya yönelik adımlar atıyor ve bunu yaparken oldukça iyi bildikleri bir şeyi kullanıyor: cezalar.
Bu hafta, İspanya’daki yasama organları, yapay zeka destekli içerikleri uygun şekilde etiketlemezlerse şirketlere 38,2 milyon dolara veya global yıllık cirolarının %2 ila %7’sine kadar ceza kesilmesini öngören yeni yasal düzenlemeleri ilerletti. Bu yasa tasarısının imzalanmasından saatler sonra, South Dakota’daki yasama organları, politik bir kampanyayı etkilemeyi amaçlayan deepfake’leri paylaşan bireyler ve gruplar için sivil ve cezai yaptırımlar öngören kendi yasal düzenlemelerini ileriye taşıdı. Eğer kabul edilirse, South Dakota, 2019’dan bu yana deepfake’leri suçlayan yasaları geçiren Amerika Birleşik Devletleri’nin 11. eyaleti olacak. Tüm bu yasalar, potansiyel olarak boşalmış banka hesapları tehdidi ile birlikte gelmektedir.
Reuters’a göre, İspanyol yasa tasarısı, geçen yıl resmen yürürlüğe giren geniş kapsamlı AB Yapay Zeka Yasası’nın belirlediği kuralları takip etmektedir. Özellikle, bu yasa, “yüksek riskli” olarak kabul edilen belirli AI araçları için daha sıkı şeffaflık gereksinimlerini zorunlu kılan AI Yasası’ndaki hükümlere cezai dişler eklemeyi amaçlamaktadır. Deepfake’ler bu kategoriye girer. Yapay zeka destekli içerikleri uygun şekilde etiketlemezse, bu “ciddi bir suç” olarak kabul edilecektir.
İspanya’nın Dijital Dönüşüm Bakanı Oscar Lopez, Reuters’a gönderdiği bir açıklamada, “AI hayatlarımızı iyileştirmek için kullanılabilecek çok güçlü bir araçtır … veya yanlış bilgi yaymak için kullanılabilir” dedi.
Yasal düzenlemenin derinfake etiketleme kurallarının yanı sıra, yasa tasarısı, “altliminal teknikler” olarak adlandırılan yöntemleri belirli kırılgan gruplara uygulamayı yasaklamaktadır. Ayrıca, yüz tanıma gibi biyometrik araçları kullanarak bireylerin ırkını veya siyasi, dini veya cinsel yönelimlerini çıkarsamaya çalışan kuruluşlara yeni sınırlar getirecektir. Yasa tasarısının yasalaşması için hala İspanya’nın alt meclisi tarafından onaylanması gerekmektedir. Eğer yasalaşırsa, İspanya, AB AI Yasası çerçevesindeki deepfake’lerle ilgili kuralları uygulayan ilk ülke olacaktır. Aynı zamanda diğer ülkeler için bir şablon oluşturabilir.
Bir avuç ABD eyaleti derinfake uygulamalarının önüne geçmeye çalışıyor
Buna karşılık, yeni önerilen South Dakota yasa tasarısı daha dar kapsamlıdır. Bu, politik doğada olan ve seçimden 90 gün içinde oluşturulan veya paylaşılan deepfake içeriğin etiketlenmesini gerektirir. Bu hafta ileriye taşınan yasa tasarısının versiyonu, derinfake içeriği yanlışlıkla paylaşmaktan kaynaklanan potansiyel hukuki sorumluluklar konusunda endişelerini dile getiren gazeteler, yayıncılar ve radyo istasyonları için muafiyetler içermektedir. Yasa tasarısı ayrıca, “alaycı veya parodi oluşturan derinfake’ler” için bir istisna içermektedir, bu da geniş ve zor tanımlanabilir bir ayrım olabilir.
Ne kadar sulandırılmış olursa olsun, South Dakota yasa tasarısı, derinfake’lerin yayılımını sınırlamayı amaçlayan büyüyen bir eyalet yasaları yumağının en son eklemesini temsil etmektedir. Texas, New Mexico, Indiana ve Oregon gibi birçok eyalet, politik kampanyaları etkilemeyi amaçlayan derinfake’leri hedefleyen yasaları kabul etmiştir. Bu çabaların birçoğu, 2024’te, Başkan Joe Biden’ın yapay zeka tarafından oluşturulan “dijital klon” sesinin New Hampshire’daki seçmenleri arayarak, eyaletin başkanlık ön seçimine katılmamalarını istemesinden sonra ivme kazandı. Biden sahtekarlığı, o zamanlar rakip başkanlık adayı Dean Phillips’in kampanyası için çalışan politik danışman Steve Kramer tarafından sipariş edildiği bildirildi. Phillips daha sonra derinfake’i kınadı ve bunun sorumlusu olmadığını iddia etti. Federal İletişim Komisyonu ise, Krammer’ı The Truth in Caller ID Act’i ihlal ettiği iddiasıyla 6 milyon dolar para cezasına çarptırdı.
“FCÇ’nin yaptırım uygulamasının, seçimlere müdahale etmeyi düşünen herhangi birine güçlü bir caydırıcı sinyal göndereceğini bekliyorum, kanun dışı robo çağrılar, yapay zeka veya başka herhangi bir araç kullanarak,” dedi New Hampshire Başsavcısı John Formella.
Florida, Louisiana, Washington ve Mississippi gibi dört eyalet, rıza dışı, yapay zeka destekli cinsel içeriğin dağıtımını suç kılan yasaları kabul etmiştir. Bu tür materyal, genellikle bir bireye yönlendirildiğinde “intikam pornosu” olarak adlandırılır ve zaten çevrimiçi yaygın bir şekilde yayılmaktadır. Wired ile konuşan bağımsız bir araştırmacı, son yedi yıl içinde en iyi 35 derinfake porno web sitesine 244,625 derinfake pornografik video yüklendiğini tahmin etti. Bu videoların neredeyse yarısı, bu dönemin son dokuz ayında yüklendi.
Yüksek kullanımı, daha kolay kullanılan, daha ikna edici üretken AI araçlarının – anlamlı korumaların eksikliği ile birleştirildiği – rıza dışı derinfake’leri daha yaygın hale getirdiğini göstermektedir. Yasama organları da konuyla ilgili kişisel bir ilgi taşımaktadır. Geçen yıl yayımlanan American Sunlight Project (ASP) tarafından yapılan bir çalışma, Kongre’deki kadınların altısının birinin yapay zeka destekli cinsel derinfake’ler tarafından hedef alındığını bulmuştur.
Federal düzeyde derinfake’leri sınırlama çabaları yavaş ilerliyor, ancak durum değişebilir. Bu ayın başlarında, First Lady Melania Trump, sosyal medyada rıza dışı samimi imgelerin yayınlanmasını federal bir suç haline getirecek olan tartışmalı “Take It Down Act”i destekledi. Eğer kabul edilirse, yasa aynı zamanda platformların rapor edilmesi durumunda NCII içeriğini ve kopyalarını 48 saat içinde kaldırma zorunluluğunu getirecektir. Yasa tasarısı zaten Senato’dan geçti ve birkaç hafta veya ay içinde Temsilciler Meclisi’nde oylamaya sunulabilir.
“Genç ergenlerin, özellikle kızların, derinfake’ler gibi kötü niyetli çevrimiçi içeriklerin neden olduğu ezici zorluklarla başa çıkmalarını izlemek kalp kırıcı,” dedi Melania Trump.
Anti-derinfake yasalarındaki sürekli sorunlar
Derinfake’leri sınırlamayı hedefleyen yasaların, eleştirmenlerin bazılarının fazla ileri gittiği endişeleri taşıdığı belirtiliyor. Elektronik Özgürlük Vakfı (EFF), politik derinfake’leri hedefleyen birkaç eyalet yasasında kullanılan aşırı geniş dilin, bir kötü niyetli kişi tarafından, sadece dramatik müzik kullanan reklamları veya bir aday için zararlı olarak algılanan otantik video klipleri bir araya getiren reklamları suçlayarak manipüle edilebileceği konusunda yıllardır uyarıyor. EFF, Take It Down Act ve benzeri yasal düzenlemeleri eleştiriyor ve bunların, yasal konuşmaların yanlış şekilde rıza dışı derinfake olarak etiketlenmesi ve sansürlenmesi için bir teşvik oluşturduğunu belirtiyor.
“Bu korkunç gizlilik ihlalleri kurbanlarını koruma hedefi, iyi niyetlerin tek başına iyi politika yapmadığını göstermeye yetmez,” dedi EFF Kıdemli Politika Analisti Joe Mullin.
2025’in başlangıcı, yapay zeka destekli derinfake’lerle mücadelede küresel çabaların bir dönüm noktasını işaretleyebilir. Daha fazla Avrupa ülkesinin, İspanya’nın öncülüğünü takip ederek, derinfake’lerin oluşturulmasını veya yayılmasını suç kılan yeni yasalar önermesi muhtemeldir. Bu yasaların ayrıntıları değişebilir olsa da, bunlar kısmen AB AI Yasası’nda belirlenen temel çerçeveler tarafından birleştirilmişlerdir.
Bu arada, ABD, ilk federal derinfake yasa tasarısını kabul etme aşamasında. Ancak, bu yasalara ne kadar etkin bir şekilde hükümetlerin bu yeni yasal araçları nasıl kullandığı henüz görülmüyor. Bu yasalara hedef olan büyük teknoloji şirketleri ve politik kampanyalar muhtemelen hükümet kaynaklarını zorlayan yasal mücadelelerle karşı karşıya kalacaklar. Bu olası uzun sürecek hukuki mücadelelerin sonucu, derinfake yasalarının gerçekten amaçlarını gerçekleştirebilir mi yoksa sürecin içerisinde ifade özgürlüğünü ortadan kaldırabilir mi, bunu belirleyecektir.
