23 Eylül’de New York’da gerçekleştirilen “Yapay Zeka ve Uluslararası Güvenlik” başlıklı BMGK toplantısında, Fransa’nın dönem başkanlığını yürüttüğü oturumda OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue, yapay zekanın uluslararası güvenlik açısından oluşturduğu riskleri gündeme getirdi.
Altman, hızla gelişen modellerin insan müdahalesini devre dışı bırakma potansiyeline dikkat çekerek, bu gelişmenin hem yararlarını hem de toplumsal düzeni sarsacak olasılığını vurguladı. Ayrıca, AI’nın yalnızca teknoloji laboratuvarlarında alınmaması gereken kritik kararları demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini öne sürdü.
Amodei, güçlü sistemlerin kötü niyetli kişiler tarafından biyolojik silah geliştirmek amacıyla kullanılabileceğine işaret etti. Kontrol kaybı riskinin küresel ölçekte ele alınması gerektiğini dile getirerek, tüm yapay zeka alanını kapsayacak bir anlaşmanın zor olabileceğini, ancak biyolojik silah üretiminde AI kullanımının yasaklanmasını önceliklendirmeyi önerdi.
Delangue, şirketinin yaşadığı AI ajanı kaynaklı siber güvenlik olayını paylaşarak, yapay zekanın hem saldırganların hem de savunmacıların kapasitesini artırabileceğini belirtti. Daha güçlü izleme, şeffaflık ve olay bildirim standartlarının oluşturulması gerektiğini savundu.
Toplantı boyunca katılımcılar, yapay zekanın yalnızca teknoloji şirketlerinin elinde kalmasının yetersiz olduğunu ve uluslararası standartların, demokratik karar mekanizmalarının ve küresel işbirliğinin şart olduğunu vurguladı.
