Yapay zeka casusluğu da öğrendi
Anthropic’in yayımladığı rapora göre Ocak-Temmuz döneminde tespit edilen kötüye kullanım vakalarının önemli bölümü Çin, İran ve Batı Afrika kaynaklı operasyonlarla bağlantılıydı.
Şirket, bu faaliyetlerin klasik istihbarat yöntemlerinin dijital ve otomatik hale getirilmiş bir versiyonuna dönüştüğüne dikkat çekti. Yapay zeka modellerinin çok sayıda açık kaynak verisini kısa sürede analiz edebilmesi, sosyal medya hesapları arasında bağlantılar kurabilmesi ve kişilerin dijital kimliklerini belirleyebilmesi, bu sistemleri gözetleme operasyonları açısından cazip hale getiriyor.
Rapordaki en dikkat çekici örneklerden biri İran bağlantılı aktörlere ilişkin oldu. Anthropic, İranlı bazı grupların şirketin yapay zeka modellerini kullanarak kişilerin sosyal medya hesapları üzerinden gerçek kimliklerini tespit etmeye yönelik bir yöntem geliştirdiğini açıkladı. Bu sistem aracılığıyla sosyal medya paylaşımları, kullanıcı adları, bağlantılar ve çeşitli dijital izler analiz edilerek hesapların arkasındaki kişilere ulaşılmaya çalışıldığı belirtildi. Şirket, özellikle İran dışındaki rejim muhalifleri ile bazı azınlık gruplarının bu tür faaliyetlerin hedefleri arasında bulunduğunu bildirdi.
Rapora göre yalnızca İran değil, başka ülkelerdeki yönetimler ve onlarla bağlantılı yapılar da benzer yöntemlere başvuruyor. Gözetleme faaliyetlerinin hedefleri arasında Hong Kong’daki demokrasi yanlısı isimler, Tibet toplulukları ve Asya’nın çeşitli ülkelerinde yaşayan Falun Gong hareketi mensupları bulunuyor. Anthropic, bu grupların zaten uzun yıllardır geleneksel istihbarat ve takip faaliyetlerinin hedefinde bulunduğunu, yapay zekanın ise bu gözetleme kapasitesini daha hızlı ve daha kapsamlı hale getirdiğini vurguladı.
Şirketin tespit ettiği bir başka olay ise Batı Afrika ülkesi Mali’de yaşandı. Rapora göre ulusal güvenlik kurumları adına çalışan bir taşeron, Anthropic’in Claude adlı yapay zeka modelinden yararlanarak temel istihbarat toplama yazılımları geliştirdi. Söz konusu yazılımların bilgi toplama ve analiz operasyonlarında kullanıldığı belirtilirken, yapay zeka modelinin yazılım geliştirme süreçlerini hızlandırdığı ve teknik kapasitesi sınırlı aktörlerin dahi daha gelişmiş gözetleme araçları oluşturabilmesine olanak sağladığı ifade edildi.
Anthropic’in raporu yalnızca devlet destekli casusluk faaliyetleriyle sınırlı kalmadı. Şirket, yapay zeka modellerinin biyolojik araştırmalar, potansiyel silah geliştirme girişimleri ve çeşitli dolandırıcılık operasyonlarında da kullanılmaya çalışıldığını açıkladı. Özellikle flört uygulamaları üzerinden gerçekleştirilebilecek dolandırıcılık yöntemlerinin tasarlanması ve kullanıcıları manipüle etmeye yönelik senaryolar hazırlanması gibi girişimlerin tespit edilerek engellendiği belirtildi.
