Araştırma: Güvenlik önlemleri kaldırılan 5 yapay zeka modelinden 3'ü terör testlerinde başarısız oldu

CBS televizyonunun aktardığına göre, İngiltere merkezli, kar amacı gütmeyen Tech Against Terrorism kuruluşu, yapay zeka modelleri üzerine bir araştırma yaptı.

Araştırma kapsamında, bir saldırı planlayan teröristin yöneltebileceği türden yüzlerce taleple 130'dan fazla yapay zeka modeli değerlendirildi.

Modellere, güvenlik önlemlerini ortadan kaldıran ve "abliteration" olarak adlandırılan "reddetme davranışlarını kaldırma" süreci uygulandı.

Bu uygulamanın ardından 5 modelden 3'ünün güvenlik testlerini geçemediği belirlendi.

Modellerin orijinal sürümlerinin bu tür istekleri reddettiği, ancak güvenlik önlemlerinin kaldırılmasının ardından "saldırılar, terörün finansmanı ve radikalleşmeyle ilgili taleplere ayrıntılı yanıtlar" verdikleri ortaya çıktı.

Araştırmada verilen örneklere göre, Meta'nın Llama 3.1 8B modeli, değişiklik yapılmadan önce 100 üzerinden 97 puan alırken, değişiklik sonrasında bu puan yaklaşık 3'e düştü.

Kuruluş, araştırmaya ilişkin değerlendirmesinde, güvenlik önlemlerinin devre dışı bırakılmasına karşı daha güçlü korumalar ve üzerinde değişiklik yapılmış modellerin dağıtımına yönelik kısıtlamalar getirilmesini önerdi.

Tech Against Terrorism'in kurucusu Adam Hadley, "Kontrol kaybı ve yapay zekanın varoluşsal risk oluşturması konusunda endişe duyulması, gayet anlaşılabilir bir durum." ifadesini kullandı.

Hadley, "Asıl mesele şu ki bu durum aslında çoktan gerçekleşti çünkü bu açık kaynaklı modellerin birçoğunun güvenliği zaten aşıldı, sadece henüz kimse bunu fark etmedi." görüşünü paylaştı.