Yapay zeka kendini başka cihazlara kopyalayabilir mi? Anthropic'ten yeni uyarı

Yapay zekâ modelleri, insanların yardımına ihtiyaç duymadan kendilerini başka cihazlara kopyalayabilecek bir noktaya yaklaşıyor. Anthropic'in yeni araştırması, bu gelişmenin önümüzdeki birkaç ay içinde mümkün hale gelebileceğini gösteriyor. Üstelik yapay zekâların bunu yapmak için güçlü veri merkezlerine ihtiyacı olmayabilir. Akıllı televizyonlar, ev aletleri ve internete bağlanan diğer cihazlar da bu süreçte rol oynayabilir.

Anthropic'in 12 Ekim'de yayımladığı araştırma, küçük yapay zekâ modellerinin farklı cihazlara ulaşma, kendilerini bu cihazlara kopyalama ve insan müdahalesi olmadan yayılma becerilerini inceliyor.

Araştırmacılar, modellerin bu işlemleri tamamlamak için gereken birçok adımı yerine getirebildiğini belirledi. Ancak mevcut küçük modeller, tüm süreci başından sonuna kadar hatasız yürütmekte zorlanıyor.

Akıllı televizyonlar yapay zeka için yeni bir alan olabilir

Anthropic, araştırmasında akıllı fırınlar, televizyon kutuları, buzdolapları ve robot süpürgeler gibi internete bağlanan cihazlara odaklandı.

Bu cihazlar, büyük veri merkezlerindeki bilgisayarlara kıyasla çok daha düşük işlem gücüne sahip. Ancak birden fazla cihazın gücünü birleştirmek, yapay zekâ modellerinin çalışması için yeterli olabilir.

Araştırmacılar, yaklaşık 55 dolarlık 15 Android TV kutusunu birbirine bağlayarak bir yapay zekâ modelini çalıştırmayı başardı. Bu deney, sıradan elektronik cihazların da yapay zekâ sistemlerine işlem gücü sağlayabileceğini ortaya koydu.

Bir başka testte ise küçük bir yapay zekâ modeli, araştırmacıların denediği dokuz farklı donanım türünün sekizinde yapay zekâ çalıştırmak için gereken kurulumu tamamladı.

Yapay zeka kendisini başka cihazlara kopyalayabilir mi?

Araştırmanın dikkat çeken bölümünde Anthropic, yapay zekâların kendi kopyalarını oluşturup başka cihazlara aktarabilme yeteneğini test etti.

30 milyar veya daha az parametreye sahip modeller, bu işlem için gereken birçok görevi yerine getirdi. Ancak modellerin büyük bölümü, bütün adımları tek başına tamamlayamadı.

Araştırmacılar, güvenlik engellerini azalttıkları test ortamında GLM-5.2 modelinin tüm süreci tamamlayabildiğini gördü. Model, denemelerin büyük bölümünde ağdaki sekiz hedef cihazın tamamına ulaşmayı başardı.

Bununla birlikte deney, gerçek dünyadaki güvenlik önlemlerini tam olarak yansıtmıyor. Ayrıca GLM-5.2, test sırasında kendi modelini değil, daha küçük bir modeli diğer cihazlara aktardı.

Anthropic'e göre küçük yapay zekâ modelleri mevcut hızda gelişmeye devam ederse 2026'nın sonuna kadar bu işlemleri gerçekleştirebilecek yeteneklere ulaşabilir. Ancak şirket, bu tarihi kesin bir sonuç olarak değil, mevcut gelişim hızına dayanan bir tahmin olarak değerlendiriyor.

Asıl tehlike, yapay zekayı durdurmanın zorlaşması

Araştırmacıların üzerinde durduğu sorunlardan biri de kendi kendine yayılan yapay zekâların kontrolü.

Geleneksel zararlı yazılımlar belirli sistemleri hedef alırken yapay zekâ destekli yeni yazılımlar, karşılaştıkları cihazların özelliklerini inceleyebilir ve çalışma yöntemlerini değiştirebilir.

Böyle bir sistem farklı cihazlara yayıldığında bütün kopyalarını tek bir noktadan kapatmak mümkün olmayabilir. Bu durum, güvenlik ekiplerinin sistemi tamamen durdurmasını zorlaştırabilir.

Ancak Anthropic, söz konusu yapay zekâların çok hızlı yayılmasını beklemiyor. Araştırmaya göre bu sistemlerin yeni cihazlara ulaşması ve kendilerini çoğaltması günler sürebilir.

Şirket, özellikle güvenlik önlemleri zayıf olan akıllı ev cihazlarının risk taşıdığını belirtiyor. Üreticilerin güvenlik açıklarını gidermesi, güçlü varsayılan şifreler kullanması ve cihazların güvenliğini artırması bu tür tehditlerin önüne geçebilir.

Araştırma, kendi kendine yayılabilen ve gerçek dünyada bağımsız çalışan bir yapay zekânın henüz ortaya çıktığını göstermiyor. Ancak Anthropic'e göre mevcut deneyler, böyle bir sistemin geliştirilmesi için gereken teknik engellerin azaldığına işaret ediyor.