Yapay zekanın vaftiz babası Geoffrey Hinton, Google’dan ayrıldığında riskler konusunda uyarıyor

Yaygın olarak yapay zekanın (AI) vaftiz babası olarak görülen bir adam, bu alandaki gelişmelerden kaynaklanan artan tehlikeler konusunda uyarıda bulunarak işinden ayrıldı.

75 yaşındaki Jeffrey Hinton, New York Times’a yaptığı açıklamada, artık yaptığı işten pişman olduğunu söyleyerek Google’dan istifa ettiğini duyurdu.

BBC’ye bazı chatbot risklerinin “çok korkutucu” olduğunu söyledi.

“Şu anda söyleyebileceğim kadarıyla bizden daha akıllı değiller. Ama bence yakında olabilirler.”

Dr. Hinton’un derin öğrenme ve sinir ağları üzerine öncü araştırması, ChatGPT gibi mevcut yapay zeka sistemlerinin yolunu açtı.

Ancak İngiliz-Kanadalı bir bilişsel psikolog ve bilgisayar bilimcisi BBC’ye, bir chatbot’un yakında insan beyninin tuttuğu bilgi seviyesini geçebileceğini söyledi.

“Şu anda gördüğümüz şey, GPT-4 gibi şeylerin sahip oldukları genel bilgi miktarı açısından bir kişiden daha iyi performans gösterdiği ve bir kişiden çok daha iyi performans gösterdiği. Mantık açısından çok iyi değil, ancak basit düşünme

“İlerleme hızı göz önüne alındığında, her şeyin çok hızlı bir şekilde gelişmesini bekliyoruz. Bu yüzden bunun için endişelenmemiz gerekiyor.”

Bir New York Times makalesinde Dr. Hinton, yapay zekayı “kötü şeyler” için kullanmaya çalışan “kötü oyunculardan” söz etti.

BBC tarafından bu konuyu detaylandırması istendiğinde, “Bu sadece en kötü durum senaryosu, kabus senaryosu türünden bir şey.

“Örneğin, bazı kötü aktörleri hayal edebilirsiniz. [Russian President Vladimir] Putin, robotlara kendi alt hedeflerini oluşturma yeteneği vermeye karar verdi.

Bilim adamı, nihayetinde “‘Daha güçlü olmam gerekiyor’ gibi alt hedefler yaratabilir” diye uyardı.

“Geliştirdiğimiz zeka türünün sahip olduğumuz zekadan çok farklı olduğu sonucuna vardım.

“Biz biyolojik sistemleriz ve bunlar dijital sistemler. Dijital sistemlerdeki en büyük fark, aynı ağırlık setinin, dünyanın aynı modelinin birçok kopyasına sahip olmanızdır.

“Ve tüm bu klonlar ayrı ayrı öğrenebiliyor ama bilgilerini anında paylaşabiliyor. Yani 10.000 kişiniz varsa ve birisi bir şey öğrendiğinde herkes bunu otomatik olarak biliyor gibi. Ve böylece bu sohbet robotları herhangi bir kişiden çok daha fazlasını bilebiliyor.”

Dr. Hinton, işini bırakmak için başka nedenler de olduğunu söyledi.

“Biri, 75 yaşındayım. Emekli olma zamanım geldi. Bir diğeri, Google hakkında gerçekten güzel şeyler söylemek istiyorum. Google için çalışmasaydım daha inandırıcı olurdu.”

Google’ı eleştirmek istemediğini ve teknoloji devinin “çok sorumlu” olduğunu vurguladı.

Google Baş Bilim İnsanı Jeff Dean yaptığı açıklamada, “Yapay zekaya karşı sorumlu bir yaklaşıma bağlı kalmaya devam ediyoruz. Sürekli olarak ortaya çıkan riskleri anlamayı öğrenirken aynı zamanda cesurca yenilikler yapıyoruz” dedi.