Nvidia, Microsoft ve SpaceX'ten Açık Yapay Zekâ Güvenliği İttifakı

Nvidia, Microsoft, SpaceX ve çok sayıda teknoloji şirketi, açık ağırlıklı yapay zekâ modellerinin güvenliğini artırmayı hedefleyen yeni bir girişim başlattı. Open Secure AI Alliance adı verilen oluşum, OpenAI modelleriyle bağlantılı siber saldırının ardından yapay zekâ güvenliği alanında açık teknolojilerin kullanımını desteklemeyi amaçlıyor. 🤖

Geçen hafta yaşanan olayda, saldırının hedefi olan Hugging Face'in önde gelen ABD merkezli kapalı yapay zekâ modellerini savunma amacıyla kullanamadığı, bunun yerine kendi altyapısında çalıştırdığı açık ağırlıklı Çin menşeli bir modeli tercih ettiği belirtildi. Buna gerekçe olarak kapalı modellerdeki güvenlik sınırlamalarının saldırgan ile savunmacıyı ayırt edememesi gösterildi.

Open Secure AI Alliance neleri hedefliyor?

Nvidia, ittifakın açık teknolojiler aracılığıyla güvenlik açıklarını tespit etmeyi, gidermeyi ve paylaşmayı hedeflediğini açıkladı.

• Girişimin üyeleri arasında Nvidia (NVDA), Microsoft (MSFT), SpaceX ve Palantir (PLTR) yer alıyor.
• İttifaka ABD ve Avrupa'dan onlarca teknoloji şirketi katıldı.
• Açık ağırlıklı modellerin geliştiriciler tarafından indirilebilmesi, değiştirilebilmesi ve şirket altyapılarında çalıştırılabilmesi öne çıkan avantajlar arasında gösteriliyor.

Nvidia, Hugging Face olayının, gelişmiş yapay zekâ sistemlerinin savunma amacıyla şirketlerin kendi altyapılarında çalıştırılabilmesinin kritik önem taşıdığını ortaya koyduğunu belirtti. 🔐

Çin merkezli yapay zekâ modelleri tartışması büyüyor

ABD'de Çin merkezli yapay zekâ şirketlerine yönelik olası kısıtlamalar da gündemde kalmaya devam ediyor.

• Çinli şirketler, "distillation" yöntemiyle ABD'li yapay zekâ modellerinden bilgi çıkarmakla suçlanıyor.
• ABD Hazine Bakanı Scott Bessent, bu tür faaliyetlerde bulunan Çinli şirketlere yaptırım uygulanabileceğini söyledi.
• Değerlendirmelere göre olası kısıtlamalar, API erişimi veya ABD bulut sağlayıcıları üzerinden Çin modellerinin sunulmasını da kapsayabilir.

Buna karşın, gelişmiş açık ağırlıklı modellerin büyük bölümünün Çinli şirketler tarafından geliştirilmesi nedeniyle sektörde rekabet ve inovasyon açısından endişeler dile getiriliyor.

Teknoloji şirketlerinden politika çağrısı

Geçen hafta Nvidia, Microsoft, Meta Platforms (META), Palantir ve 20'den fazla şirket, politika yapıcılara açık ağırlıklı yapay zekâ modellerine yönelik erken aşamada getirilecek kısıtlamaların rekabeti zayıflatabileceği ve inovasyonu yurt dışına taşıyabileceği yönünde ortak çağrıda bulundu. 📌

Şirketler, Hugging Face olayının, savunma amaçlı yapay zekâ sistemlerinin kullanıcıların kendi altyapılarında çalıştırılabilmesinin kriz anlarında daha hızlı müdahale imkânı sunduğunu vurguladı.