Google, GPT-4’e cevabı olan PaLM 2’yi duyurdu – Ars Technica

Çarşamba günü, Google tanıttı PALM2, OpenAI’nin GPT-4 modeliyle karşılaştırılabilir bir temel dil modelleri ailesidir. Mountain View, California’daki Google I/O etkinliğinde Google, konuşmalı yapay zeka asistanı Bard da dahil olmak üzere 25 ürünü güçlendirmek için halihazırda PaLM 2 kullandığını açıkladı.

Büyük dil modelleri (LLM’ler) ailesi olarak PaLM 2, büyük miktarda veri üzerinde eğitilmiştir ve insanlar tarafından hızlı giriş yapıldıktan sonra en olası metni üreten bir sonraki kelime tahminini gerçekleştirir. PaLM, Yollar Dil Modeli anlamına gelir veoyun makinesiGoogle’da oluşturulan bir makine öğrenimi teknolojisidir. PaLM 2 bir dosyayı izler Orijinal PaLMNisan 2022’de Google tarafından duyuruldu.

Google’a göre PaLM 2, 100’den fazla dili destekliyor ve “mantıksal akıl yürütme”, kod oluşturma ve çok dilli çeviri gerçekleştirebiliyor. Google I/O 2023’teki açılış konuşmasında Google CEO’su Sundar Pichai, PaLM 2’nin dört boyutta geldiğini söyledi: Gecko, Otter, Bison ve Unicorn. Gecko en küçüğüdür ve bir mobil cihazda oynanabilir. Bard dışında PaLM 2, belgelerde, elektronik tablolarda ve sunumlarda AI özelliklerinin arkasındadır.

Bunların hepsi iyi ve güzel, ancak PaLM 2 nasıl GPT-4’e denk geliyor? İçinde PaLM Teknik Raporu 2PALM2 Anlaşılan Bazı matematik, çeviri ve çıkarım görevlerinde GPT-4’ü geçmek. Ancak gerçek, Google standartlarına uymayabilir. Genellikle yapay zeka hakkında yazan bir Wharton profesörü olan Ethan Mollick tarafından Bard’ın PaLM 2 versiyonunun hızlı bir değerlendirmesinde Mollick, PaLM 2’nin birkaç resmi olmayan dil testinde GPT-4 ve Bing’den daha kötü performans gösterdiğini buldu. Menteşe Twitter dizisinde.

Yakın zamana kadar, PaLM dil modelleri ailesi, Google Research’ün dahili bir ürünüydü ve tüketicilere açık değildi, ancak Google, API’ye sınırlı erişim sağlayın Martta. Ancak, ilk PaLM devasa boyutuyla dikkate değerdi: 540 milyar parametre. Parametreler, modelin edindiği “bilgi” işlevi gören ve aldığı girdiye dayalı olarak tahminler yapmasını ve komut dosyası oluşturmasını sağlayan sayısal değişkenlerdir.

Daha fazla parametre kabaca daha fazla karmaşıklık anlamına gelir, ancak bunların verimli bir şekilde kullanılacağına dair bir garanti yoktur. Karşılaştırıldığında, OpenAI’nin GPT-3’ü (2020 itibariyle) 175 milyar parametreye sahiptir. OpenAI, GPT-4’teki parametre sayısını hiçbir zaman açıklamadı.

Bu da bizi şu büyük soruya götürüyor: Parametre sayısı açısından PaLM 2 ne kadar “büyük”? Google söylememekbazılarını hayal kırıklığına uğratan Endüstri uzmanları Yapay zeka modellerini neyin harekete geçirdiğine dair daha fazla şeffaflık için genellikle kampanya yapanlar.

Google’ın gözden kaçırmadığı tek PaLM 2 özelliği bu değil. şirket o diyor PaLM 2’nin “çeşitli kaynaklar: web belgeleri, kitaplar, kod, matematik ve konuşma verileri” konusunda eğitildiğini söylüyor, ancak bu verilerin tam olarak ne olduğu konusunda ayrıntılara girmiyor.

Diğer büyük dil modeli veri kümelerinde olduğu gibi, PaLM 2 veri kümesinin çok çeşitli dilleri içermesi muhtemeldir. Telif hakkıyla korunan materyal İzinsiz ve zararlı olabilecek materyallerin kullanılması kazımak İnternet. Eğitim verileri, herhangi bir AI modelinin çıktısını kritik bir şekilde etkiler, bu nedenle bazı uzmanlar, açık veri kümeleri Bilimsel yeniden üretim ve etik inceleme için fırsatlar sağlayabilir.

“Artık LLM bir ürün (ve sadece araştırma değil) olduğuna göre, bir devrilme noktasındayız: Kâr amacı güden şirketler, hangi bileşenlerin en önemli olduğu konusunda *özellikle* daha az şeffaf hale gelecek.” cıvıldamak Jesse Dodge, araştırma bilimcisi Allen Yapay Zeka Enstitüsü. “Yalnızca açık kaynak topluluğu birlikte organize olursa ayak uydurabiliriz!”

Şimdiye kadar, gizli sosun gizlenmesine yönelik eleştiriler, tüm LLM’lerdeki her şeyi yoktan var etme eğilimine rağmen, Google’ı yapay zeka modellerinin yaygın bir şekilde dağıtımını sürdürmekten alıkoymadı. Google I/O konferansı sırasında şirket temsilcileri, amiral gemisi ürünlerinin birçoğundaki yapay zeka özelliklerinin tanıtımını yaptı; bu, halkın geniş bir kesiminin yakında yapay zeka sorunlarıyla mücadele edebileceği anlamına geliyor.

Ve LLM’ler açısından, PaLM 2 hikayenin sonundan çok uzak: I/O açılış konuşmasında Pichai, “Gemini” adlı yeni bir multimedya AI modelinin şu anda eğitimde olduğundan bahsetti. Yapay zeka hakimiyeti yarışı devam ederken, ABD’deki Google kullanıcıları ve 180 diğer ülke (yabancı hariç Kanada ve anakara Avrupa) PaLM 2’yi kendiniz deneyin Deneysel yapay zeka asistanı Google Bard’ın bir parçası olarak.