Google, sağlıkla ilgili sorularınızı yanıtlamak için yapay zekayı kullanıyor. Ona güvenmeli misin?

Başınız mı ağrıyor yoksa sinüzit mi? Stres kırığı neye benziyor? Göğsünüzdeki ağrıdan endişelenmeli misiniz? Bu soruları şimdi Google’da aratırsanız yanıtlar yapay zeka tarafından yazılmış olabilir.

Mayıs ayında Google, internetteki bilgilerle eğitilen ve bazı arama sorularına saniyeler içinde sohbet yoluyla yanıtlar üreten bir tür makine öğrenimi teknolojisi olan üretken yapay zekayı kullanan Yapay Zeka Genel Bakış adlı yeni bir özelliği kullanıma sundu.

Aracın piyasaya sürülmesinden bu yana geçen haftalarda kullanıcılar, çeşitli konularda çok çeşitli yanlışlıklar ve tuhaf yanıtlarla karşılaştı. Şirket daha sonra bu hataları azaltmaya çalıştığı için bazı aramalarda bu özelliği geri aldığı ortaya çıktı.

Yapay zekanın sağlıkla ilgili sorulara verdiği yanıtlar söz konusu olduğunda uzmanlar riskin özellikle yüksek olduğunu söylüyor. Bu teknoloji, insanları sağlıklı alışkanlıklara veya ihtiyaç duyulan tıbbi bakıma yönlendirebilir ancak aynı zamanda yanlış bilgi sağlama potansiyeline de sahiptir. Yapay zeka bazen gerçekleri uydurabiliyor. Cevapları bilimsel dayanağı olmayan web siteleri tarafından şekillendiriliyorsa, tıbbi tavsiyelerle çelişen veya kişinin sağlığı açısından risk teşkil eden tavsiyelerde bulunabilirler.

Sistemin hatalı kaynaklara dayalı gibi görünen zayıf yanıtlar ürettiği zaten gösterildi. Örneğin, “Kaç tane kaya yemeliyim” sorulduğunda AI Genel Bakış, bazı kullanıcılardan vitamin ve mineral almak için günde en az bir kaya yemelerini istedi. (Tavsiye kopyalandı Soğanlarhiciv sitesi.)

UC San Diego Health’in baş sağlık yapay zeka sorumlusu Dr. Karandeep Singh, “Okuduğunuz her şeye güvenemezsiniz” dedi. Sağlıkta bilgi kaynağınızın çok önemli olduğunu söyledi.

Google’ın ürün yönetimi direktörü olan ve yapay zekaya genel bakış üzerinde çalışmaya liderlik eden Hema Buddaraju, sağlık aramalarının “ek korkuluklara sahip olduğunu” söyledi ancak bunları ayrıntılı olarak açıklamayı reddetti. Ciddi veya açık olarak kabul edilen veya birinin kendine zarar verme gibi savunmasız bir durumda olduğunu gösteren aramaların yapay zeka özetlerini tetiklemediğini söyledi.

Google, AI Genel Bakışındaki bilgileri destekleyen web sitelerinin ayrıntılı bir listesini vermeyi reddetti ancak aracın aşağıdakilerle birlikte çalıştığını söyledi: Google Bilgi GrafiğiYüzlerce kaynaktan milyarlarca gerçeği çıkaran mevcut bir bilgi sistemi.

Yeni araştırma yanıtları bazı kaynakları belirliyor; Sağlıkla ilgili sorular için bunlar genellikle Mayo Clinic, WebMD, Dünya Sağlık Örgütü ve bilimsel araştırma merkezi PubMed gibi web siteleridir. Ancak bu kapsamlı bir liste değil: Araç ayrıca Wikipedia’dan, blog yazılarından, Reddit’ten ve e-ticaret sitelerinden de bilgi alabilir. Kullanıcılara hangi bilgilerin hangi kaynaklardan geldiğini söylemez.

Standart bir arama sonucunu kullanan birçok kullanıcı, saygın bir tıbbi web sitesi ile bir şeker şirketi arasındaki farkı hemen anlayabilecektir. Ancak birden fazla kaynaktan gelen bilgileri birleştiren tek bir metin bloğu kafa karışıklığına neden olabilir.

Stanford Üniversitesi Sağlık İletişimi Girişimi direktörü Dr. Seema Yasmin, “İnsanlar kaynağa bakıyorsa böyledir” dedi ve “İnsanların bakıp bakmadığını veya onları gerçekten yeterince eğitip eğitmediğimizi bilmiyorum.” Bakmak için” dedi Kendi araştırması Yanlış bilgi nedeniyle, ortalama kullanıcının hızlı yanıtın ötesine bakma konusundaki ilgisi konusunda karamsarlığa neden oldu.

Çikolata cevabının doğruluğuna gelince, Tufts Üniversitesi’nde kardiyolog ve tıp profesörü olan Dr. Dariush Mozaffarian, bu cevabın çoğunlukla doğru olan bazı gerçekleri içerdiğini ve çikolatanın sağlığa faydalarına ilişkin araştırmayı özetlediğini söyledi. Ancak rastgele denemelerle sağlanan güçlü kanıtlar ile gözlemsel çalışmalardan elde edilen daha zayıf kanıtlar arasında ayrım yapmadığını veya kanıtlarla ilgili herhangi bir uyarıda bulunmadığını söyledi.

Dr. Mozaffarian şunları söyledi: Çikolatanın antioksidan içerdiği doğrudur. Peki çikolata tüketiminin hafıza kaybını önlemeye yardımcı olabileceği iddiası? Bunun açıkça kanıtlanmadığını ve “çok fazla uyarıya ihtiyaç olduğunu” söyledi. Bu tür iddiaların yan yana sıralanması, bazılarının gerçekte olduğundan daha iyi kanıtlandığı izlenimini veriyor.

Belirli bir cevabın arkasındaki bilim değişmese bile, yapay zekanın kendisi geliştikçe cevaplar da değişebilir.

Bir Google sözcüsü yaptığı açıklamada, şirketin gerektiğinde yanıtlara ilişkin sorumluluk reddi beyanlarını göstermeye çalıştığını ve bilgilerin tıbbi tavsiye olarak ele alınmaması gerektiğini belirten notlar da dahil olduğunu söyledi.

AI Genel Bakış’ın kanıtların gücünü tam olarak nasıl değerlendirdiği veya kahvenin sizin için iyi olup olmadığı gibi çelişkili araştırma bulgularını dikkate alıp almadığı açık değil. Dr. Yasmin, “Bilim, sabit gerçeklerden oluşan bir dizi değildir” dedi. Kendisi ve diğer uzmanlar ayrıca aracın, o zamandan beri çürütülmüş olan eski bilimsel bulgulara mı dayanacağını, yoksa bir soruna ilişkin en güncel anlayışı mı yakalayacağını merak etti.

Dana-Farber Kanser Enstitüsü’nde doktor ve yapay zeka bilimcisi olan Dr. Danielle Peterman, “Kritik bir karar verebilmek (kaynakların kalitesini ayırt etmek) insanların ve doktorların her zaman yaptığı bir şeydir” dedi. Brigham. Ve kadın hastanesi. “Kanıtları analiz ediyorlar.”

Yapay Zeka Genel Bakışları gibi araçların bu rolü oynamasını istiyorsak, “farklı kaynaklar arasında nasıl gezineceğimizi ve bir özete ulaşmak için eleştirel bir bakış açısının nasıl uygulanacağını daha iyi anlamamız gerektiğini” söyledi.

Uzmanlar, yeni sistemin Mayo Clinic ve Cleveland Clinic gibi saygın tıbbi web sitelerine yönelik bireysel bağlantılara yapay zeka genel bakış yanıtı sunması nedeniyle bu bilinmeyenlerin rahatsız edici olduğunu söyledi. Bu tür siteler tarihsel olarak birçok sağlık aramasında üst sıralara çıkmıştır.

Bir Google sözcüsü, AI Genel Bakış’ın en iyi arama sonuçlarında görünen bilgileri eşleştireceğini veya özetleyeceğini, ancak bu içeriğin yerini alacak şekilde tasarlanmadığını söyledi. Bunun yerine sözcü, bunların insanların mevcut bilgiler arasında gezinmesine yardımcı olmak için tasarlandığını söyledi.

Mayo Kliniği yeni yanıtlar hakkında yorum yapmayı reddetti. Cleveland Clinic’ten bir temsilci, sağlık bilgisi arayan kişilerin “doğrudan bilinen ve güvenilir kaynaklara başvurması” gerektiğini ve herhangi bir semptomla karşılaştıklarında sağlık uzmanlarıyla iletişime geçmeleri gerektiğini söyledi.

Bazı AI Genel Bakış özetlerinde adı geçen Kaliforniya merkezli bir sağlık sistemi olan Scripps Health’ten bir temsilci, yaptığı açıklamada “Google AI tarafından oluşturulan yanıtlardaki alıntıların, Scripps Health’i güvenilir bir sağlık bilgileri kaynağı haline getirdiği için faydalı olabileceğini” söyledi. .

Ancak temsilci şunları ekledi: “Tıp uzmanlarımız tarafından incelenen kendi içeriğimizle aynı şekilde yapay zeka tarafından üretilen içeriğe de kefil olamayacağımıza dair endişelerimiz var.”

Uzmanlar, tıbbi sorularda önemli olanın yalnızca cevabın doğruluğu değil, aynı zamanda kullanıcılara nasıl sunulduğu olduğunu söyledi. “Kalp krizi mi geçiriyorum?” sorusunu ele alın. Ohio Eyalet Üniversitesi Wexner Tıp Merkezi’nde kardiyovasküler tıp direktörü Dr. Richard Gumina, AI’nın yanıtının semptomların yararlı bir özetine sahip olduğunu söyledi.

Ancak kısa mesajın kendisine 911’i aramasını tavsiye etmesinden önce uzun bir semptom listesi okuması gerektiğini ekledi. Dr. Gumina ayrıca “İnme mi geçiriyorum?” diye de arama yaptı. Aracın daha acil bir yanıt üretip üretemeyeceğini görmek için, ilk hattaki kullanıcılardan 911’i aramalarını istedi ve bunu da yaptı. Kendisi, kalp krizi veya felç belirtileri olan hastalara derhal yardım almalarını tavsiye edeceğini söyledi.

Uzmanlar, sağlık bilgisi arayan kişileri yeni yanıtlara dikkatli davranmaya teşvik etti. Temel olarak, kullanıcıların bazı AI genel bakış cevaplarındaki daha ince ayrıntılara dikkat etmesi gerektiğini söylediler: “Bu yalnızca bilgilendirme amaçlıdır. Tıbbi tavsiye veya teşhis için bir uzmana danışın. Üretken AI deneyseldir.”

Danny Bloom Raporlara katkıda bulunuldu.