Muse Image Özelliği Geri Çekildi
Meta, Instagram’da kullanıma sunduğu yeni yapay zeka görsel oluşturma modeli Muse Image’ın bir özelliğini, gizlilik tartışmalarının ardından yalnızca üç gün içinde kaldırdı. Bu özellik, kullanıcıların herkese açık Instagram hesaplarını @ işaretiyle etiketleyerek o hesaptaki profil fotoğraflarını referans almasına ve kişinin yüzüne benzeyen yeni görüntüler üretmesine olanak tanıyordu. Sistem varsayılan olarak etkin olduğu için, kullanıcıların ayrıca izin vermesine gerek kalmıyordu. Tepkiler üzerine Meta, 10 Temmuz’da bu özelliği devre dışı bıraktı.
Tepkiler Büyüdü
Özellik, özellikle oyuncular ve sanatçılar arasında büyük tepki çekti. Oyuncu Hannah Einbinder, SAG-AFTRA üyelerine ve Instagram kullanıcılarına özelliği kapatmaları çağrısında bulundu. Tartışmaların odağında yalnızca ünlüler değil, aynı zamanda herkese açık hesaba sahip sıradan kullanıcılar, çocuklar ve gençlerin fotoğraflarının da izinsiz olarak yapay zeka içeriklerinde kullanılabilmesi yer aldı. Bu durum, ciddi gizlilik ve güvenlik endişelerini beraberinde getirdi.
Uzman Görüşü: Açık Onay Gerekli
Bilişim uzmanı Osman Demircan, sosyal medya hesabının herkese açık olmasının, paylaşılan fotoğrafın her türlü amaçla kullanılabileceği anlamına gelmediğini vurguladı. Demircan, ‘Kullanıcı, fotoğrafını Instagram’da görülmesi amacıyla paylaşmış olabilir, ancak bu, yüzünün bir yapay zeka sistemi tarafından işlenmesine veya değiştirilmesine otomatik olarak izin verdiği anlamına gelmez’ dedi. Uzman, bu tür sistemlerin baştan kapalı olması ve yalnızca kullanıcının açık, anlaşılır ve bilgilendirilmiş onayıyla etkinleştirilmesi gerektiğini belirtti.
Sahte İçerik ve Dolandırıcılık Riski
Demircan, Muse Image benzeri sistemlerin bir kişinin yüzüne benzeyen gerçekçi görüntüler oluşturabilmesinin, sorunu yalnızca gizlilikle sınırlı bırakmadığını ifade etti. Bu teknolojiyle hazırlanan içerikler, bir kişiyi hiç gitmediği bir yerde veya gerçekleşmemiş bir olayın içinde gösterebilir. Bu tür görüntüler, itibar saldırısı, zorbalık, taciz ve yanlış bilgilendirme amacıyla kullanılabileceği gibi, dolandırıcılık için de kullanılabilir. Bir kişinin yüzünü kullanan sahte hesaplar açılması, yakınlarından para istenmesi veya sahte reklam ve yatırım içerikleri hazırlanması mümkün.
Meta’nın Adımı Yetersiz Mi?
Demircan, Meta’nın özelliği kaldırmasını olumlu bir adım olarak değerlendirse de, bunun tek başına yeterli olmadığını söyledi. Özelliğin kullanıma açık kaldığı süre içinde hangi fotoğrafların işlendiği, kaç görüntü üretildiği ve bu içeriklerin sistemlerde saklanıp saklanmadığı gibi soruların yanıtlanması gerekiyor. Kullanıcılara yalnızca gelecekteki kullanımı engelleme seçeneği değil, daha önce oluşturulan içeriklere itiraz etme ve kaldırılmasını isteme hakkı da sunulmalı. Ayrıca, yapay zeka ile üretilen görüntülerde içeriğin yapay olduğunu gösteren işaretler bulunmalı ve şikayetler için hızlı bir inceleme ve kaldırma sistemi kurulmalı.
Dijital Güvenlik İçin Ne Yapılmalı?
Demircan, teknoloji şirketlerinin yeni yapay zeka özelliklerini kullanıma sunmadan önce yalnızca sistemin neler yapabildiğini değil, kötü niyetli kişilerin bu sistemi nasıl kullanabileceğini de değerlendirmesi gerektiğini vurguladı. Bir kişinin fotoğrafının internette bulunması, o yüzün sınırsız bir yapay zeka malzemesine dönüşmesi anlamına gelmez. Teknoloji ilerledikçe açık onay, içeriklerin işaretlenmesi, itiraz hakkı ve hızlı kaldırma mekanizmaları, dijital güvenliğin temel şartları haline geliyor.
Kaynak: Hürriyet
