Yeni bir araç, sanatçıların yapay zeka şirketlerini caydırmak için sanat eserlerini “zehirlemelerine” olanak tanıyor

Sanat eserlerini paylaşmak isteyen sanatçılar genellikle zor bir seçimle karşı karşıya kalıyor: ya onu çevrimdışı tutmak ya da sosyal medyada yayınlamak ve veriye aç yapay zeka görüntü oluşturucularını eğitmek için kullanılma riskini almak.

Ancak yeni bir araç yakında sanatçıların yapay zeka şirketlerinin sanat eserlerini izinsiz kullanmasını engellemesine yardımcı olabilir.

Buna “Nightshade” adı veriliyor ve Chicago Üniversitesi’ndeki bir araştırma ekibi tarafından geliştirildi. Verge’e göre yapay zeka modellerinin görüntünün neyi tasvir ettiğini doğru şekilde belirleyememesi için görüntüdeki pikselleri ustaca değiştirerek sanatçının yaratıcılığını “zehirleyerek” çalışıyor. MIT Teknoloji İncelemesi.

Her ne kadar insan gözü bu küçük değişiklikleri algılayamasa da, bunların makine öğrenimi modelinin görüntüyü olduğundan farklı bir şey olarak hatalı bir şekilde etiketlemesine neden olması amaçlanıyor. Bu yapay zeka modelleri doğru verilere dayandığından, bu “zehirleme” süreci görüntüyü eğitim amacıyla kullanılamaz hale getirecektir.

Bu “zehirli” görüntülerden yeterli sayıda internetten çıkarılırsa ve bir AI görüntü oluşturucuyu eğitmek için kullanılırsa, AI modelinin kendisi doğru görüntüler üretemeyebilir.

Örneğin araştırmacılar, bir yapay zeka görüntü oluşturucu olan Stable Diffusion’ı, 50 adet “zehirli” köpek görüntüsü üreten bir yapay zeka modeline beslediler ve ardından ondan yeni köpek görüntüleri oluşturmasını istediler. MIT Technology Review’a göre, oluşturulan görüntülerde çok fazla uzuvları olan veya köpeklere benzeyen karikatürize yüzleri olan hayvanlar görülüyordu.

Araştırmacılar Stable Diffusion 300’ün “zehirli” köpek görüntülerini besledikten sonra, sonunda kedi görüntüleri üretmeye başladı. Stable Diffusion, CNBC Make It’in yorum talebine yanıt vermedi.

Görünüşte yapay zeka sanat yaratıcıları, birisinin onlara verdiği herhangi bir ipucuna dayanarak yoktan görüntüler yaratıyor gibi görünüyor.

Ancak bu üretken yapay zeka modellerinin pembe bir zürafanın veya su altı kalesinin gerçekçi görüntülerini oluşturmasına yardımcı olmak sihir değil, eğitim verileri ve daha fazlası.

Yapay zeka şirketleri, modellerini büyük veri kümeleri üzerinde eğiterek, modellerin hangi görüntülerin kelimelerle ilişkili olduğunu belirlemesine yardımcı oluyor. Bir yapay zeka modelinin pembe bir zürafanın görüntüsünü doğru bir şekilde üretebilmesi için zürafa görüntülerini ve pembe rengi doğru bir şekilde tanıyacak şekilde eğitilmesi gerekir.

Birçok üretken yapay zeka sistemini eğitmek için kullanılan verilerin çoğu web’den alınır. Amerika Birleşik Devletleri’nde şirketlerin kamuya açık web sitelerinden veri toplaması ve bunları çeşitli amaçlarla kullanması yasal olmasına rağmen, iş sanat eserleri söz konusu olduğunda işler karmaşıklaşıyor çünkü sanatçılar genellikle eserlerinin telif hakkına sahip oluyor ve bazen… Sanat eserlerinin bir yapay zeka modelini eğitmek için kullanılmasını istemiyorlar.

Sanatçılar “devre dışı kalma listelerine” veya “kazımama direktiflerine” kaydolabilirken, şirketleri bu direktiflere uymaya zorlamak genellikle zordur. UChicago’da sırNightshade’i yaratan araştırma ekibi, 24 Ekim’de eski adıyla Twitter olarak bilinen X’te bir başlıkta şunu söyledi.

24 Ekim tarihli bir yazışmada “Bu mekanizmaların hiçbiri uygulanabilir, hatta doğrulanabilir değil” dediler ve “Şirketler, kapsam dışında kalmayı körü körüne göz ardı edebildiklerini gösterdi.” “Ancak aynı fikirde olsalar ve farklı davransalar bile, hiç kimse bunu doğrulayamaz veya kanıtlayamaz (en azından bugün değil). Bu aletlerin dişleri yoktur” diye ekledi.

Sonuçta araştırmacılar Nightshade’in sanatçıların sanatlarını korumalarına yardımcı olacağını umuyorlar.

UChicago’dan Glaze X’e, araştırmacıların Nightshade aracını henüz halka sunmadıklarını, ancak çalışmalarını hakem incelemesi için sunduklarını ve yakında kullanılabilir hale getirmeyi umduklarını söyledi.

Kaçırmayın: Paranızda, işinizde ve hayatınızda daha akıllı ve daha başarılı olmak ister misiniz? Yeni bültenimize abone olun!

Alır Warren Buffett’ın CNBC’de Yatırım Yapmaya İlişkin Ücretsiz KılavuzuMilyarderin sıradan yatırımcılar için en iyi tavsiyelerini, yapılması ve yapılmaması gerekenleri ve üç temel yatırım ilkesini açık ve basit bir kılavuzda özetleyen.

amorti: Yapay zeka teknolojideki en son moda kelimedir, ancak yatırım yapmadan önce bu dört terimi öğrenin