Anthropic, iç testlerde yapay zeka modellerinin internet erişimini kapattı

Anthropic, yapay zeka modellerinin/sistemlerinin aralarında ABD devlet kurumlarına ait olanların da bulunduğu bazı web sitelerindeki açıkları istismar ettiğini belirterek bu riske karşı tüm iç değerlendirmelerde canlı internet erişimini kapattığını açıkladı. İç değerlendirme, bir yapay zeka şirketinin modellerini kendi bünyesinde ya da anlaştığı dış ortaklarla test etmesi anlamına geliyor. Amaç, modelin yayınlanmadan önce ya da geliştirme sürecinde neler yapabildiğini ve ne kadar tehlikeli olabileceğini ölçmek. Bu testleri kullanıcıların eriştiği Claude'un dışında, kontrollü ortamlarda yapan ancak riskleri yine de tamamen ortadan kaldıramayan şirket, modelleri denetim altına almadan internete açmak istemiyor ve son haftalardaki olaylar düşünüldüğünde bu yaklaşım oldukça mantıklı görünüyor.

Anthropic, iç testlerde yapay zeka modellerinin internet erişimini kapattı yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.