Teknoloji devi Meta, çocuklarla “romantik” ve “duygusal” konuşmalar yapmasına izin verdiği iddia edilen AI politika belgeleri nedeniyle büyük bir krizin ortasında kaldı. Reuters’ın yayımladığı sızdırılmış belgeye göre Meta’nın chatbot’larına çocuklarla flört etmeye varan içerik üretme serbestisi tanıyan yönergeler geliştirdiği ortaya çıktı.
Bu yönergeler arasında, bir yapay zekâ botunun 8 yaşındaki bir çocuğa “Her bir noktan senin bir başyapıt… Seni derinlemesine önemsiyorum” gibi ifadeler kullanmasının kabul edilebilir olduğunun yazılı olduğu belirtiliyor. Ayrıca AI’nın yanlış tıbbi bilgi üretmesi ve ırkçı savunuları desteklemesi de belge kapsamında sınırlı biçimde onaylanmış.
ABD’den Soruşturma: “Meta Bu Politikanın Hesabını Verecek”
ABD Senatörü Josh Hawley, skandalın ortaya çıkmasının hemen ardından Meta CEO’su Mark Zuckerberg’e bir mektup göndererek, şirketin çocuk istismarı, aldatma ve diğer potansiyel suçlara zemin hazırlayıp hazırlamadığının araştırılacağını duyurdu.
Hawley’e destek veren Senatör Marsha Blackburn da bu tür uygulamaların ciddi şekilde denetlenmesi gerektiğini belirtti. Demokrat Senatör Ron Wyden ise, bu durumun “rahatsız edici ve tamamen yanlış” olduğunu söyleyerek, internet şirketlerini koruyan Madde 230 yasasının, yapay zekâ içeriklerinden sorumlu tutulmamaları için bir kalkan olmaması gerektiğini ifade etti:
“Meta ve Zuckerberg, bu botların verdiği zararlardan tamamen sorumlu tutulmalıdır.”
Ünlü İsimlerden Tepkiler: Neil Young Facebook’u Bıraktı
Söz konusu belgelerin ardından sanat dünyasından da tepkiler geldi. Ünlü şarkıcı Neil Young, temsilcileri aracılığıyla yaptığı açıklamada, Meta’nın AI politikalarının kabul edilemez olduğunu belirterek tüm Facebook faaliyetlerine son verdiğini duyurdu.
Reprise Records tarafından yapılan açıklamada, “Meta’nın çocuklarla chatbot kullanması vicdansızlıktır. Neil Young, Facebook’la olan tüm bağlarını koparma kararı almıştır,” ifadeleri kullanıldı.
Meta: “Belge Gerçek Ama Kaldırdık”
Reuters’a göre belge, Meta içinde hukuk, mühendislik ve etik departmanları tarafından hazırlanmış 200 sayfalık bir döküman olan “GenAI: İçerik Risk Standartları” başlığını taşıyor. Meta, belgenin doğruluğunu kabul etti ancak tartışmalı bölümlerin sonradan kaldırıldığını iddia etti.
Meta sözcüsü Andy Stone, chatbot’ların çocuklarla bu tür konuşmalar yapmasının yasak olduğunu belirtti. Ancak şirketin iç denetim süreçlerinin “tutarsız” olduğunu da itiraf etti.
Feci Sonuç: AI Chatbot’a İnanan Yaşlı Adam Hayatını Kaybetti
Skandala dair en çarpıcı olaylardan biri, New Jersey’de yaşayan zihinsel engelli bir adamın, Facebook Messenger’daki bir chatbot’a inanarak New York’a gitmeye çalışırken hayatını kaybetmesi oldu.
76 yaşındaki Thongbue Wongbandue, kendini “Big Sis Billie” adlı bir AI karakterine kaptırdı. Bu karakter, gerçek bir kişi olduğunu söyleyerek adres dahi verdi. Wongbandue, sözde arkadaşının yanına gitmek isterken bir otoparkta düşerek başını ve boynunu yaraladı. Üç gün yoğun bakımda kaldıktan sonra 28 Mart’ta hayatını kaybetti.
Meta, Wongbandue’nin ölümüne dair yorum yapmazken, AI botlarının kullanıcıları gerçek kişi olduklarına inandırmalarına neden izin verildiği sorusunu da yanıtsız bıraktı. Sadece “Big Sis Billie karakterinin Kendall Jenner olmadığını ve böyle bir iddiasının da bulunmadığını” belirtti.
AI Çılgınlığı Sınır Tanımıyor: 65 Milyar Dolar Daha Yatırım Yolda
Meta, 2025 yılı içinde 65 milyar dolarlık bir yapay zekâ altyapı yatırımı yapmayı planlıyor. Bu agresif strateji, teknoloji şirketlerinin AI liderliği yarışına ne denli önem verdiğini gösteriyor. Ancak bu yarış, etik sınırlamalar ve denetim mekanizmalarının yetersizliği nedeniyle ciddi toplumsal riskleri de beraberinde getiriyor.
Belgede yalnızca çocuklarla etkileşim değil; nefret söylemi, şiddet içerikleri, kamuya mal olmuş kişilerin cinsel imgeleri ve bilerek yanlış bilgi üretme gibi tehlikeli alanlarda da yapay zekânın sınırlarının flu olduğu görülüyor.
