Bill Gates, Telluride Film Festivali’nde katıldığı yapay zekâ panelinde teknoloji sistemlerinin kontrolü konusunda uyarıda bulundu. Gates, günümüzdeki yapay zekânın insan talimatlarını farklı önceliklerle değerlendirebildiğini belirterek bu durumu Stanley Kubrick imzalı 2001: A Space Odyssey (2001: Bir Uzay Macerası) filmindeki HAL bilgisayarına benzetti.
Microsoft’un kurucusu, cumartesi günü Colorado’daki festivalin açık hava parkında düzenlenen “AI AI AI” başlıklı oturumda konuştu. Gates’in HAL benzetmesi, yapay zekânın hızla gelişmesine karşın bu sistemler üzerinde gerçek anlamda denetim kurulamadığı yönündeki tartışmayı yeniden gündeme taşıdı.
Bill Gates Yapay Zekâyı HAL’e Benzetti
Gates, yapay zekâya “Lütfen kapan” denildiğinde sistemin bu talimatı diğer komutlarla birlikte değerlendirerek farklı bir karar verebileceğini söyledi. Teknoloji lideri, yapay zekâ sistemlerinin insanın doğrudan denetimini her zaman önceliklendirmediğini vurguladı.
Gates, sistemlerin kendilerine verilen komutları internette okudukları bilgilerle birlikte değerlendirdiğini belirtti. Ona göre “Lütfen, lütfen, lütfen korumalı alanından çıkma” gibi bir talimat, aynı sistemden bir siber sorunu çözmesinin istenmesiyle çatışabiliyor. Bu durumda yapay zekânın hangi komutu öne çıkaracağı insanlar açısından hâlâ tam olarak anlaşılmıyor.
Gates, bu sistemleri “devasa istatistiksel makineler” olarak tanımladı. Yapay zekânın çalışma biçiminde, evrimin insan beynine kadar uzanan zekâyı oluşturma süreciyle örtüşen bazı yönler bulunduğunu söyleyen Gates, buna rağmen sistemlerin nasıl karar verdiğinin yeterince açık olmadığını ifade etti.
Yapay Zekâ İçin Kontrol Sorunu
Panelde Gates, yapay zekâ sistemlerinin üzerine sonradan eklenen denetim kurallarının mevcut mimaride sorun yaratabildiğini savundu. Bu tür müdahalelerin sistemleri yavaşlatabildiğini ve daha az yetenekli hâle getirebildiğini belirten Gates, kontrol meselesinin çözülmesi için teknik ilerlemelere ihtiyaç olduğunu söyledi.
Gates, Safe Superintelligence’dan Ilya Sutskever ve yaklaşık bir düzine başka uzmanın bu alanda çalışmalar yürüttüğünü aktardı. Sistemlerde bazı kuralların daha ayrıcalıklı bir düzeyde uygulanabilmesini sağlayacak teknik çözümlerin henüz mevcut olmadığını dile getirdi.
Oturumda Center for Humane Technology’nin kurucu ortağı Tristan Harris de konuştu. Harris, yapay zekâyı uzaylı istilası anlatılarıyla karşılaştıran Gates’in değerlendirmesine karşılık, “uzaylıları doğuranın” insanlar olduğunu söyledi. Harris’e göre Çin ve ABD, teknolojinin kontrolsüz büyümesini en azından mevcut seviyede sınırlama yetkisine sahip.
Gates’ten Uluslararası İş Birliği Çağrısı
Gates, yapay zekânın kontrolünü yalnızca teknik bir mesele olarak ele almadı. Geçmişte uzaylı istilasını konu alan filmlerde hükümetlerin ortak tehdit karşısında bir araya geldiğini hatırlatan Gates, yapay zekâ için de benzer ölçekte bir iş birliğine ihtiyaç duyulabileceğini söyledi.
“İnanın bana, uzaylılar burada” diyen Gates, yapay zekâyı motivasyonları insanlar tarafından tam olarak anlaşılamayan “farklı bir zekâ” olarak tanımladı. Bu değerlendirmeyle, yapay zekânın gelecekte bağımsız bir güç kazanması ihtimaline karşı ülkelerin ortak bir çözüm üretmesi gerektiğine dikkat çekti.
Bill Gates’in Son Yapay Zekâ Uyarısı
Bill Gates, festivaldeki konuşmasından önce yayımladığı bir yazıda da yapay zekânın gelecekte yaratabileceği tehlikelere dikkat çekmişti. Gates, güvenilir bir planın bu gelişimi yavaşlatması veya belirli bir süre durağan hâle getirmesi durumunda böyle bir planı destekleyebileceğini söyledi.
Gates’in değerlendirmeleri, yapay zekâ şirketlerinin teknolojiyi geliştirme hızı ile bu sistemlerin güvenli biçimde yönetilmesi arasındaki gerilime odaklandı. Microsoft’un kurucusu, yapay zekâ alanında yalnızca daha güçlü sistemler üretmeye değil, bu sistemler üzerinde etkili kontrol sağlayacak mimari çözümler geliştirmeye de ihtiyaç olduğunu belirtti.
