OpenAI’ye güvenmek neden giderek zorlaşıyor?

• OpenAI, eski NSA Direktörü Paul Nakasone’yi yönetim kuruluna atadı.
• Nakasone’nin işe alınması yapay zeka güvenliğini artırmayı amaçlıyor ancak gözetlemeyle ilgili endişeleri artırıyor.
• Şirketin dahili güvenlik grubu da fiilen dağıtıldı.

Ofisinin önünde korkunç gizli güvenlik görevlileri var. Yakın zamanda eski bir Ulusal Güvenlik Teşkilatı yöneticisini yönetim kuruluna atadı. Yapay zekanın güvenli kullanımını teşvik etmeyi amaçlayan dahili çalışma grubu dağıtıldı.

OpenAI her geçen gün daha az açık hissediyor.

Şirket son sürpriz hamlesinde Cuma dedi ki Eski Ulusal Güvenlik Ajansı Direktörü Paul Nakasone’yi yönetim kuruluna atadı.

Nakasone, NSA’ya liderlik etmenin yanı sıra, Savunma Bakanlığı’nın siber güvenlik bölümü olan ABD Siber Komutanlığının da başkanıydı. OpenAI, Nakasone’nin atanmasının “emniyet ve güvenliğe olan bağlılığını” temsil ettiğini ve yapay zeka gelişmeye devam ederken siber güvenliğin öneminin altını çizdiğini söylüyor.

Nakasone yaptığı açıklamada, “OpenAI’nin misyonuna olan bağlılığı, benim değerlerim ve kamu hizmetindeki deneyimim ile yakından örtüşüyor” dedi. “OpenAI’nin yapay genel zekanın güvenli ve dünya çapındaki insanlar için faydalı olmasını sağlama çabalarına katkıda bulunmayı dört gözle bekliyorum.”

Ancak eleştirmenler Nakasone’nin atanmasının başka bir şeyi temsil edebileceğinden endişe ediyor: gözetleme.

2013 yılında gözetlemeyle ilgili gizli belgeleri sızdıran Amerikalı muhbir Edward Snowden bir mektubunda şunları söyledi: X’te paylaş Nakasone’nin atanması “Dünyadaki her insanın haklarına hesaplanmış bir ihanetti.”

Snowden, “Bunu tamamen maskelediler: OpenAI’ye veya onun ürünlerine (ChatGPT vb.) asla güvenmeyin” diye yazdı.

Başka X için yorum yapınSnowden, “Yapay zekanın, son yirmi yılda biriken kitlesel gözetleme verileri okyanusuyla kesişmesi, gerçekten korkunç güçleri hesaplanamayan bir azınlığın eline bırakacak” dedi.

Öte yandan Virginialı Demokrat ve Senato İstihbarat Komitesi başkanı Senatör Mark Warner, Nakasone’nin atanmasını “büyük bir zafer” olarak nitelendirdi.

Warner, “Güvenlik camiasında genel anlamda ondan daha saygı duyulan kimse yok” dedi. Axios dedi ki.

Eleştirmenler güvenlik sorunlarının onu saldırılara maruz bırakabileceği yönündeki endişelerini dile getirdiği için Nakasone’nin güvenlik uzmanlığına OpenAI’de ihtiyaç duyulabilir.

OpenAI, eski yönetim kurulu üyesi Leopold Aschenbrenner’ı, “büyük bir güvenlik olayını” ayrıntılarıyla anlatan bir not gönderdikten sonra Nisan ayında kovdu. Şirketin güvenliğinin, yabancı şahısların hırsızlığına karşı koruma sağlamak açısından “skandal derecede yetersiz” olduğunu belirtti.

Kısa bir süre sonra, insan çıkarlarıyla uyumlu yapay zeka sistemleri geliştirmeye odaklanan OpenAI süper ekibi, şirketin en iyi güvenlik araştırmacılarından ikisinin istifasının ardından aniden dağıldı.

Ayrılan araştırmacılardan biri olan Jan Lake, “bir süredir şirketin temel öncelikleri konusunda OpenAI’nin liderliğine katılmadığını” söyledi.

Başlangıçta hiper hizalama ekibini kuran OpenAI’nin baş bilim insanı Ilya Sutskever, ayrılma nedenleri konusunda daha ihtiyatlıydı. Ancak şirket içerisindeki kişiler, CEO Sam Altman’ın başarısız bir şekilde görevden alınmasındaki rolü nedeniyle onun sallantılı bir zeminde olduğunu söyledi. Sutskever, Altman’ın yapay zeka geliştirmeye yönelik saldırgan yaklaşımını onaylamadı ve bu da onların güç mücadelesini alevlendirdi.

Tüm bunlar yetmezmiş gibi, OpenAI’nin San Francisco ofisinin yakınında yaşayan ve çalışan yerel halk bile şirketin onları geri çevirmeye başladığını söylüyor. dedi yandaki evcil hayvan dükkanındaki kasiyer San Francisco standardı Ofisin “gizli bir atmosferi” var.

Yakındaki şirketlerdeki birçok işçi, gizli güvenlik görevlilerine benzeyen adamların binanın dışında durduğunu ancak OpenAI için çalıştıklarını söylemediklerini söylüyor.

“[OpenAI] “Kötü bir komşu değil” dedi içlerinden biri, “Ama çok gizliler.”