Büyük bir uluslararası güvenlik toplantısı, 23 Eylül’de New York’da gerçekleştirildi. Birleşmiş Milletler Güvenlik Konseyi’nin eylül ayı dönem başkanlığını yürüten Fransa tarafından düzenlenen oturum “Yapay Zeka ve Uluslararası Güvenlik” başlığı altında toplandı. Toplantıya OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue katıldı ve yapay zekanın kontrol kaybı, biyolojik silah geliştirme ve siber saldırılardaki potansiyel rolünü gündeme taşıdı.
Sam Altman, yapay zekanın hızla ilerlemesiyle birlikte “güçlü yaratıcılık” ve “toplumsal dönüşüm” gibi faydaların ortaya çıkabileceğini vurguladı. Ancak aynı gelişimin “kontrol kaybı” riskini daha acil kıldığını söyledi. Altman, kararların yalnızca teknoloji laboratuvarlarında alınmaması gerektiğini, demokratik süreçlerin ve halka karşı sorumlu hükümetlerin bu konuda öncülük etmesi gerektiğini dile getirdi. Şirketlerin, fayda için kontrol edilemeyen riskleri almaması gerektiği konusunda da uyarıda bulundu.
Anthropic CEO’su Dario Amodei, iki temel riskin öne çıktığını belirtti. İlk olarak, güçlü yapay zeka sistemlerinin kötü niyetli kişiler tarafından biyolojik silah geliştirme amacıyla kullanılabileceği senaryosuna dikkat çekti. İkinci olarak, kontrol kaybının küresel ölçekte ele alınması gerektiğini savundu. Amodei, bu riskin herhangi bir ülke veya şirketi aşan bir nitelikte olduğunu ve tek bir şirketin önlemleriyle çözülebilecek bir sorun olmadığını söyledi. Biyolojik silah üretiminde yapay zekanın kullanımını yasaklamak için ortak bir öneri sundu ve uluslararası değerlendirme, doğrulama ve güvenlik standartlarının oluşturulmasını istedi.
Hugging Face CEO’su Clément Delangue, şirketinin yaşadığı yapay zeka ajanı kaynaklı bir siber güvenlik olayını anlattı. Delangue, yapay zekanın saldırganların kapasitesini artırabileceğini ancak aynı teknolojinin savunma amaçlı da kullanılabileceğini belirtti. Bu deneyim ışığında, küresel ölçekte daha güçlü izleme, şeffaflık ve olay bildirim standartlarının oluşturulması gerektiğini savundu. Ayrıca, yapay zeka araçlarının az sayıda şirket veya ülkenin elinde yoğunlaşmasının ayrı bir güvenlik problemi yaratabileceğini ve erişimin daha geniş bir tabana yayılması gerektiğini ifade etti.
Toplantıda paylaşılan görüşlerin ortak noktası, yapay zekanın geleceğinin yalnızca birkaç şirketin güvenlik politikalarıyla yönetilemeyeceğiydir. Katılımcılar, uluslararası standartlar ve işbirliğinin, teknolojinin insan yeteneklerini aşmadan önce küresel kuralların oluşturulmasını gerektirdiğini vurguladı. Bu nedenle, yapay zekanın insan kapasitesini aşmadan önce global düzeyde düzenlemelerin yapılması gerektiği sorusu toplantının merkezine yerleşti.
