Yapay zekâ alanında “kontrolsüz ilerleme” endişesi, dünyanın önde gelen bilim insanlarını ve tanınmış isimlerini aynı noktada buluşturdu.
Aralarında Prens Harry, Meghan Markle, 2024 Nobel ödüllü Geoffrey Hinton ve Virgin Grubu kurucusu Richard Branson gibi isimlerin de bulunduğu 800’den fazla kişi, “süper zekâ” araştırmalarına acil ara verilmesi çağrısı yaptı.
“Toplumsal Onay Olmadan Süper Zekâ Geliştirilemez”
ABD merkezli Future of Life Institute tarafından yayımlanan açık mektupta, insan zekâsını aşabilecek düzeyde yapay zekâ üretiminin “geri döndürülemez sonuçlar” doğurabileceği uyarısında bulunuldu.
Kurum, “Bilimsel olarak kontrol edilebilir ve güvenli olduğuna dair bir uzlaşma sağlanmadan, ayrıca toplumun rızası alınmadan süper zekâ geliştirilemez” ifadelerini kullandı.
Mektuba imza atanlar arasında yapay zekânın öncülerinden Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Apple’ın efsanevi ismi Steve Wozniak, Papa’nın AI danışmanı Paolo Benanti, sanatçı will.i.am, eski ABD başkan danışmanları Steve Bannon ve Susan Rice da bulunuyor.
“İki Yıl Sonra Da, On Beş Yıl Sonra Da Kabul Edilemez”
Future of Life Institute Başkanı Max Tegmark, AFP’ye yaptığı açıklamada, süper zekânın zamanlamasından çok doğasının sorun teşkil ettiğini belirterek, “İster iki yıl ister on beş yıl sonra geliştirilsin, bu düzeyde bir varlığın inşası düzenleyici çerçeve olmadan kabul edilemez” dedi.
Tegmark, “Kanserle mücadele, iklim değişikliği veya bilimsel keşiflerde güçlü yapay zekâlar kullanılabilir, ancak insan zekâsını aşacak sistemler etik ve politik temeller oturmadan geliştirilemez” diye konuştu.
Süper Zekâ Nedir?
Bilimsel literatürde “Genel Yapay Zekâ (AGI)” terimi, insanın tüm bilişsel yeteneklerine erişebilen sistemleri ifade ederken; “Süper zekâ” insan zekâsını aşan, kendi kendini geliştirebilen ve kontrolsüz biçimde karar alabilen yapay sistemleri tanımlıyor.
Uzmanlara göre bu teknoloji, bir kez geliştirilirse “geri dönülmez bir güç asimetrisi” yaratabilir.
Küresel Kırmızı Çizgi Çağrısı
Bu uyarı, geçen ay Birleşmiş Milletler Genel Kurulu’nda gündeme gelen “yapay zekâ için uluslararası kırmızı çizgiler” çağrısının devamı olarak değerlendiriliyor.
Future of Life Institute’un açıklamasında şu ifadeler yer aldı:
“Yapay zekâ yarışında hiçbir ülke geride kalmak istemiyor. Ancak bu kontrolsüz hız, insanlık üzerinde geri döndürülemez etkiler bırakabilir.”
Prens Harry’den Dikkat Çeken İmza
Kraliyet Ailesi’nden ayrıldıktan sonra teknoloji, medya ve sosyal sorumluluk projelerine yönelen Prens Harry, bildiriyi imzalayarak ilk kez yapay zekâ tartışmalarında açık bir tutum aldı.
Harry ve Meghan Markle, “İnsan merkezli teknolojinin korunması gerektiğini” vurgulayan bir açıklama yayımlayarak, “AI’nin toplumun ruhunu değil, refahını büyütmesi gerekir” ifadelerini kullandı.
