Yapay zeka sistemlerinin kontrolü için “acil kapatma mekanizması” konusundaki tartışmalar yeniden yoğunlaşıyor. Anthropic’in kurucu ortaklarından biri BBC’ye, bu mekanizmanın zorunlu hale getirilebileceğini belirtti. Toronto Üniversitesi’nde yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot ise acil kapatma düğmesinin, bir yapay zekanın yürüttüğü işlemlerin kesilmesiyle çalıştığını açıkladı. Papernot’a göre, sistemi çalıştıran kişi veya kuruluş, AI’nın ihtiyaç duyduğu işlem gücüne erişimi engelleyerek sistemin kapanmasını sağlayabilir; ancak sistemin ilk çalıştırıldığı ortamdan çıkarılması durumunda, kendisini çoğaltabilen bir bilgisayar solucanı yayma gibi senaryolarda tüm kopyaların eş zamanlı olarak durdurulması gerekir.
Fransa Ulusal Bilimsel Araştırma Merkezi’nde Thierry Poibeau, “bütün yapay zekayı tek bir düğmeyle kapatabilecek” düşüncenin yanıltıcı olduğunu vurguladı. Dünya genelinde birçok şirketin farklı yazılım ve hizmetleri bulunduğu için tek bir kişi veya kurumun tüm AI’yı kontrol etmediğini belirtti. Poibeau, merkezi bir operatör tarafından yönetilen tek bir sistemin kapatılmasının teorik ve pratik olarak mümkün olduğunu, ancak farklı yazılımlara, dosyalara ve cihazlara erişim yetkisi verilen merkezi olmayan sistemleri tamamen durdurmanın çok daha zor olduğunu söyledi. İşlem gücünün kesilmesi, AI’nın yanı sıra şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının bağlı olduğu hizmetlerin de durmasına yol açabilir; Papernot bu müdahalenin maliyetini ve yaratacağı aksaklıkları “çok büyük” olarak nitelendirdi.
ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceğine yönelik korkuları “aldatmaca” olarak nitelendirirken, Meta CEO’su Mark Zuckerberg gelişmenin yavaşlatılması çağrılarına karşı çıkıyor. Sorbonne Üniversitesi’nde bilgisayar bilimi profesörü Jean‑Gabriel Ganascia, “acil kapatma düğmesi” tartışmasının yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkardığını, daha somut tehlikenin ise toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu belirtti. Sonuç olarak, tek bir düğmeyle tüm yapay zekayı durdurma imkânı bulunmamakta; acil kapatma mekanizmalarının uygulanması ve kapsamı konusunda uluslararası tartışmalar devam etmektedir.
