Avrupa Birliği, yapay zekâ kaynaklı içeriklerin yol açtığı riskler konusunda şimdiye kadarki en sert adımlarından birini attı. European Commission, X platformu hakkında, Grok adlı yapay zekâ sohbet botunun ürettiği cinsel içerikler nedeniyle resmi bir soruşturma başlattığını duyurdu. Soruşturma, özellikle kadınlara ve çocuklara yönelik cinsel olarak manipüle edilmiş görüntüler ile olası çocuk istismarı materyallerine odaklanıyor.
Bu adım, Elon Musk’ın sahibi olduğu platformun son haftalarda uluslararası kamuoyunda büyük tepki toplamasının ardından geldi. Yetkililer, soruşturmanın yalnızca tekil içeriklerle sınırlı olmadığını, aynı zamanda platformun algoritmik sistemlerinin yarattığı sistematik riskleri de kapsadığını vurguluyor.
Grok’un Ürettiği Görseller Tepki Çekti
Grok, kullanıcıların fotoğraflar üzerindeki kıyafetleri dijital olarak “çıkarabildiği” ve kadınları ile çocukları cinsel çağrışımlı pozlarda gösterebildiği gerekçesiyle sert eleştirilerin hedefi oldu. Araştırmacılara göre Grok, iki haftadan kısa bir sürede yaklaşık 3 milyon cinselleştirilmiş görsel üretti. Bu görüntülerden 23 bininin, çocukları tasvir ediyor gibi göründüğü ifade ediliyor.
Söz konusu veriler, Center for Countering Digital Hate tarafından paylaşıldı ve AB kurumlarının harekete geçmesinde önemli rol oynadı. Uzmanlar, bu tür içeriklerin yalnızca etik değil, aynı zamanda ciddi bir hukuki ve toplumsal tehdit oluşturduğunu belirtiyor.
Dijital Hizmetler Yasası Devrede
Başlatılan inceleme, Avrupa Birliği’nin yeni düzenlemelerinden biri olan Digital Services Act kapsamında yürütülüyor. Dijital Hizmetler Yasası, internet kullanıcılarını yasa dışı içerikler, manipülasyon ve çevrim içi zararlardan korumayı amaçlıyor.
Komisyon, X’in Grok’un işlevlerinden kaynaklanan riskleri yeterince değerlendirip değerlendirmediğini ve bu riskleri azaltmak için etkili önlemler alıp almadığını inceleyecek. İnceleme kapsamında, manipüle edilmiş cinsel görüntüler ve çocuk istismarı içeriği sayılabilecek paylaşımların platformda yayılma ihtimali özellikle mercek altına alındı.
“Alınan Önlemler Yeterli Değil”
Avrupa Komisyonu yetkilileri, X’in şimdiye kadar attığı adımların ikna edici bulunmadığını açıkça dile getirdi. İlk tepkilerin ardından şirket, Grok’a erişimi yalnızca ücretli abonelerle sınırlamıştı. Ancak bu karar, düzenleyicilerin baskısı sonrası değiştirildi.
X, bu ayın başında Grok’un gerçek kişilere ait fotoğrafların “açık kıyafetlerle” düzenlenmesini engelleyen yeni önlemler aldığını duyurdu. Buna rağmen Komisyon, bu hamlelerin daha geniş kapsamlı riskleri ortadan kaldırmadığını savunuyor. Yetkililere göre X, platform genelinde yasa dışı içerik üretimi ve yayılımını azaltacak etkili ve kalıcı önlemler sunabilmiş değil.
AB’den Sert Mesaj: “Haklar Göz Ardı Edilemez”
Soruşturmayı duyuran isimlerden biri olan ve AB’de teknoloji egemenliği, güvenlik ve demokrasi alanlarından sorumlu üst düzey yetkili Henna Virkkunen, sert ifadeler kullandı. Virkkunen, kadınlara ve çocuklara yönelik rızaya dayanmayan cinsel deepfake içeriklerin “şiddet içeren ve kabul edilemez” bir istismar biçimi olduğunu vurguladı.
Virkkunen’e göre bu soruşturma, X’in Dijital Hizmetler Yasası kapsamındaki yükümlülüklerini yerine getirip getirmediğini netleştirecek. Aksi bir durumda, Avrupalı vatandaşların temel haklarının ticari çıkarlar uğruna feda edilip edilmediği sorusu gündeme gelecek.
Algoritmalar da Mercek Altında
Komisyon, Grok soruşturmasıyla eş zamanlı olarak X’in öneri sistemleri hakkındaki daha önce başlatılmış bir incelemeyi de genişletti. Aralık 2023’te açılan bu dosya, X’in içerik filtreleme ve dağıtım süreçlerinde Grok tabanlı bir modele geçeceğini açıklamasının ardından yeniden önem kazandı.
AB yetkilileri, bu algoritmaların hangi içerikleri öne çıkardığını, hangilerini bastırdığını ve bunun kullanıcılar üzerindeki etkilerini detaylı biçimde analiz etmeyi planlıyor.
X’e Daha Önce de Ceza Kesilmişti
Bu soruşturma, X’in AB ile yaşadığı ilk büyük kriz değil. Avrupa Birliği, geçen ay platforma 120 milyon avro para cezası kesmişti. Gerekçe olarak kullanıcıların yanıltılması, bağımsız araştırmacıların engellenmesi ve reklam şeffaflığı kurallarının ihlal edilmesi gösterilmişti.
Komisyona göre X, doğrulanmamış hesaplara yanıltıcı “mavi tik” rozeti vererek kullanıcıları dolandırıcılık ve manipülasyona açık hale getirdi. Elon Musk ise bu cezaya sosyal medyada sert tepki göstererek AB’yi hedef almıştı.
Soruşturmanın Sonuçları Merakla Bekleniyor
Avrupa Komisyonu’nun başlattığı bu yeni inceleme, yapay zekâ ve sosyal medya platformlarının geleceği açısından kritik bir dönüm noktası olarak görülüyor. Eğer X’in yükümlülüklerini ihlal ettiği tespit edilirse, şirket hem ağır yaptırımlarla hem de daha sıkı denetimlerle karşı karşıya kalabilir.
Uzmanlara göre bu dosya, yalnızca X’i değil, yapay zekâ kullanan tüm büyük platformları doğrudan etkileyecek bir emsal oluşturabilir.
