Ceyhun Demirbaş
Algoritmaların Sessizliği: Bir Felaketin Anatomisi
Teknoloji dünyasının zirvesindeki isim Sam Altman, tarihe geçecek bir vicdan muhasebesiyle karşı karşıya. OpenAI CEO’su, Kanada’yı sarsan Tumbler Ridge okul saldırısı öncesinde, saldırganın ChatGPT ile yaptığı dehşet verici yazışmaları güvenlik güçlerine iletmedikleri için resmen özür diledi. Bu itiraf, yapay zekanın sadece bir yardımcı değil, aynı zamanda toplumsal felaketlerin önlenebileceği bir ‘erken uyarı sistemi’ olma potansiyelini ve bu potansiyelin nasıl harcandığını gözler önüne seriyor. Şirketin elindeki veriler, yaklaşan bir katliamın dijital ayak izlerini taşımasına rağmen, bürokratik kriterler ve iç değerlendirme süreçleri bu bilgilerin polise ulaşmasına engel oldu.
Silahlı Senaryolar ve OpenAI’nin Kritik Hatası
Olayın perde arkası, dijital dünyanın ne kadar karanlık noktalara evrilebileceğini gösteriyor. Van Rootselaar isimli saldırganın, geçtiğimiz yılın Haziran ayında ChatGPT üzerinden günlerce ‘silahlı şiddet senaryoları’ kurguladığı ortaya çıktı. Yapay zeka sistemi bu içerikleri ‘tehlikeli’ olarak işaretleyip şirket çalışanlarına bildirdi, hatta kullanıcının hesabı dahi kapatıldı. Ancak OpenAI içindeki değerlendirme birimleri, bu senaryoların kolluk kuvvetlerine bildirilmesi için gereken ‘yeterli kriterleri’ karşılamadığına karar verdi. Bu karar, Şubat ayında 9 kişinin hayatını kaybettiği, 27 kişinin ise yaralandığı o karanlık güne giden yolu adeta taşlarla döşedi.
Veri Mahremiyeti mi Yoksa Toplum Güvenliği mi?
Sam Altman’ın 23 Nisan tarihli mektubu, aslında teknoloji devlerinin üzerinde oturduğu devasa veri yığınının sorumluluğunu taşıyamadığının bir itirafı niteliğinde. ‘Kimse böylesi bir trajediyle karşı karşıya kalmamalı’ diyen Altman, gelecekte hükümetlerle daha sıkı bir iş birliği yapacaklarının sözünü veriyor. Ancak bu durum, madalyonun diğer yüzünü de aydınlatıyor: Veri mahremiyeti tartışmaları. Eğer yapay zeka şirketleri her ‘şüpheli’ yazışmayı polise raporlarsa, kullanıcıların özel hayatı ne olacak? Diğer yandan, elinde bir katliamın planları varken sessiz kalan bir algoritma ne kadar ‘etik’ sayılabilir? Tumbler Ridge trajedisi, bu soruların artık teorik bir tartışma olmaktan çıkıp, can yakan bir gerçekliğe dönüştüğünü kanıtladı.
Gelecekte Bizi Neler Bekliyor?
Stratejik bir bakış açısıyla değerlendirdiğimizde, bu olay yapay zeka denetiminde bir dönüm noktası olacak. Artık teknoloji şirketlerinin kendi iç kurallarıyla bu kadar büyük bir gücü yönetmesi kabul edilemez. Önümüzdeki süreçte, yapay zekanın ‘suç önleme’ kapasitesine dair yeni yasaların jet hızıyla geçtiğini göreceğiz. Vatandaşlar için bu, dijital platformlarda her yazdığımızın bir devlet denetimine tabi olabileceği bir dönemin başlangıcı anlamına geliyor. Sam Altman’ın özrü, kaybedilen canları geri getirmeyecek; ancak bir sonraki felaketi önlemek için algoritmaların artık sessiz kalmayacağı, her adımın izlendiği bir dünyanın kapılarını aralıyor. Teknoloji artık sadece yanıt vermiyor, aynı zamanda hakkımızda hüküm veriyor.
