Yapay Zekanın Dikkat Çeken Riskleri: Geoffrey Hinton’dan Uyarılar

Bir köprünün çökmek üzere olma ihtimali yüzde 20 olsa, kimse o köprüden geçmeyi göze almazdı. Bir uçağın düşme ihtimalinin yüzde 20 olduğunu bilseydik, kimse o uçağa binmezdi. Fakat, yapay zeka gibi devrim niteliğindeki bir teknolojiyi, ona olan güvenimiz ve beklentilerimizle birlikte hızla ilerletirken aynı yüzde 20‘lik oranı görmezden geliyoruz. Oysa bu kez uyarıyı, yapay zekayı inşa eden isimlerden biri yapıyor: Geoffrey Hinton.

Sevimli bir yavru kaplan büyütüyoruz

Modern yapay zekanın mimarlarından, “Yapay Zekanın Babası” olarak bilinen Nobel Fizik Ödülü sahibi Hinton, CBS’e verdiği röportajda, insanlık için sarsıcı bir tahminde bulundu: Yapay zekanın kontrolü ele geçirme ihtimali yüzde 10 ila 20 arasında. Bu, bir bilimsel kesinlik değil elbette; ancak içgörüsü bizzat sistemin kurucularından gelen bir sezgi.

Yapay zekanın gelişimini tehlikeli bir benzetmeyle tarif eden Hinton, “Bunu duygusal olarak anlamanın en iyi yolu, gerçekten sevimli bir kaplan yavrusuna sahip birine benzememizdir. Eğer büyüdüğünde sizi öldürmek istemeyeceğinden emin olamıyorsanız, endişelenmelisiniz” diyor.

“Beş yıl önceyle kıyaslayın”

Hinton’un fikirleri ve çalışamları yapay nöronların derin yığınlarını uçtan uca eğitmenin ilk pratik yolu da dahil olmak üzere ChatGPT gibi büyük ölçekli modelleri mümkün kılan teknik temelleri oluşturdu. 2023 yılında Google’daki görevinden ayrılan Hinton, bu kararı açıkça konuşabilmek için aldığını söylemişti.

Yapay zekanın son beş yıldaki gelişimine vurgu yapan Hinton, hızla ilerleyen teknolojinin nereye evrileceğini kestirmenin zor, ancak potansiyel olarak ürkütücü olduğunu belirtti: “Beş yıl önce nasıl olduğuna ve şimdi nasıl olduğuna bakın. Aradaki farkı alın ve geleceğe taşıyın. Bu korkutucu.”

Hinton, büyük teknoloji şirketlerinin neredeyse hiç olmayan yapay zeka regülasyonlarını gevşetmeye çalıştıklarını ve güvenlik önlemlerini ihmal ettiklerini de dile getirdi. Mevcut yasal düzenlemelerin yetersizliğine dikkat çeken bilim insanı, şirketlerin daha çok pazar payı ve hız uğruna güvenlikten ödün verdiğini ifade etti. Hinton’a göre, bu şirketler bilgi işlem gücünün sadece küçük bir kısmını güvenlik araştırmalarına ayırıyor.

Askeri kullanım tehdidi

Yapay zekanın askeri alanlarda kullanımı da Hinton’ın bir diğer endişesi. Özellikle Google’a yönelik eleştirilerde bulunan Hinton, şirketin daha önce verdiği “yapay zekayı silahlandırmayacağız” sözünden döndüğünü ve 2025 başında politika değiştirerek teknolojisinin askerî kullanımına yeşil ışık yaktığını hatırlattı. “Don’t be evil” (Kötü olma) mottosunu bir kenara bırakan şirketin bu hamlesi, Hinton’ı hayal kırıklığına uğratmış görünüyor.

Elbette bu eleştirilere rağmen yapay zekanın babası olarak nitelendirilen Hinton, bir yapay zeka karşıtı değil. Çoğu bilim insanı ve vizyoner gibi kendisi de teknolojinin eğitimi, tıbbı, bilimi dönüştürebileceğine ve potansiyel olarak iklim değişikliğini çözebileceğine inanıyor; tabi yukarıda saydığı endişelerin giderildiği senaryoda. Yapay zekanın diğer öncülerinden Yann LeCun ise Hinton kadar endişeli değil. LeCun daha önce yaptığı açıklamalarda, yapay zekanın insanlık için varoluşsal bir tehdit oluşturduğu yönündeki iddiaları “saçma” olarak nitelendirmişti.