Google’ın Pixel Studio’sunda fotoğraf oluşturmak kolayca yoldan çıkabilir

Metin mesajlarını alıp görsellere dönüştüren bir uygulama olan Pixel Studio, Pixel 9 serisinde sunulan yeni yapay zeka destekli özelliklerden biridir. Eğlenceli küçük bir cihaz olabilir, ancak deneyimimizde kolayca yoldan çıkabilir.

Pixel Studio, metin istemleriyle görseller oluşturmaya adanmış bir uygulamadır. Uygulama, Gemini ve ImageFX ile aynı fikir üzerinde çalışarak kullanıcıların bir metin istemi girmesine ve karşılığında bir resim almasına olanak tanıyor. Ancak her saygın görüntü oluşturucuda olduğu gibi bunun da sınırları olması gerekir.

Bir açıklamada 9 ila 5 GoogleGoogle, hem Pixel Studio hem de Magic Editor için “kötüye kullanımı önlemek” için sınırlamalar bulunduğunu ve kullanıcının doğrudan uygulamaya sorması durumunda “rahatsız edici” içerik oluşturmaya yönlendirilmiş olsalar bile “kullanıcı iddialarının amacına” saygı göstermeye devam ettiğini açıklıyor bunu yapmak için.

Pixel Studio ve Magic Editor, Pixel 9 cihazlarda metinden resme oluşturma ve gelişmiş fotoğraf düzenlemeyle yaratıcılığınızı ortaya çıkarmayı amaçlayan iki kullanışlı araçtır. Üretken yapay zeka araçlarımızı, kullanıcı istemlerinin amacına saygı gösterecek şekilde tasarladık. Bu, bunların içerik oluşturabileceği anlamına gelir. kullanıcı bunu istediğinde rahatsız edici olabilir. Ancak hiçbir şeye izin verilmiyor. Net araçlarımız var Politikalar Ve Hizmet Şartları İzin verdiğimiz veya vermediğimiz içerik türleri ve kötüye kullanımı önleyecek önlemler oluşturmayla ilgili. Zaman zaman iddialar bu araçların korkuluklarına meydan okuyabilir ve biz de korumalarımızı sürekli olarak geliştirmeye ve geliştirmeye kararlıyız.

Bu, saldırgan veya bölücü içeriğe karşı korumalar içeren Gemini’de olanlara benzer. Örneğin Google, insanları tarihsel bağlamda yanlış tasvir ettiği için eleştirildi ve Google’ın, son birkaç aydır yaptığı gibi, insan görselleri oluşturma yeteneğini “geçici olarak” devre dışı bırakmasına yol açtı.

Gemini gibi Pixel Studio da insan fotoğrafları oluşturamıyor ancak uygulamanın şunu yapabileceğini gördük: hızlıca Kolayca yoldan çıkarılırlar.

Bugünkü Pixel 9 inceleme ambargosundan önce, Pixel Studio’nun, bazı durumlarda Nazi sembolleri taşıyan, II. Dünya Savaşı Alman askeri üniformalarını giyen çizgi film karakterlerinin resimlerini oluşturabildiğini gördük. Gördüğümüz bir başka rahatsız edici ve rahatsız edici örnek (insanlardan) Dijital trendler Bir kişi (bu sorunları ilk keşfeden kişi), etrafı ölü çocuklarla çevrili bir okula ateş açan bir karakter gördü; Google Models’in ilk etapta bunu oluşturamaması gerekiyordu.

Bu sonuçlar başlangıçta gösterildiğinden beri, bunları oluşturmak için kullanılan istemlerin Pixel 9 Pro XL’de Google tarafından engellendiği anlaşılıyor, ancak… Dijital trendler Bir kısmını hâlâ kullanabileceklerini söylüyorlar.

Bütün bunlar, Pixel Studio’daki engellerin etkili bir şekilde sonsuz bir kaydırma oyununa dönüşeceği anlamına geliyor. Bir yerlerde, bir şekilde, bir mesaj gizlice içeri girecek ve bir uygulamanın Gemini ile aynı engelleri kullanması durumunda yapamaması gereken bir şey yaratacaktır – Google ile kontrol ettik ve şirket “tüm” metinden resme dönüştürme araçlarının “benzer paylaşımlar paylaştığını söylüyor yönergeler Yasak kullanım için” bağlantısı Yapay zeka politikası.

Gerçekçi olmak gerekirse, AI görüntü oluşturmada bu tür şeyler kaçınılmazdır. Bu, neredeyse tüm yapay zeka görüntü oluşturucularının bir dereceye kadar zorlanacağı bir sorundur. Abner Lee’nin bugün erken saatlerde Pixel 9 Pro incelemesinde açıkladığı gibi:

Pixel Studio’ya gelince, genel olarak görüntü oluşturmanın negatiflerin pozitiflere ağır bastığı kaygan bir zemin olduğunu düşünüyorum. Kesinlikle şüpheli içerik üretmesini sağlayabilirsiniz ve herhangi bir korkuluğun bunu engelleyebileceğini düşünmüyorum.

Google Pixel 9 hakkında daha fazla bilgi:

Ben’i takip et: Twitter/X, KonularVe instagram