OpenAI'dan ayrılan araştırmacılardan yapay zeka güvenliği çağrısı
Görsel: Diriliş Postası
ABD merkezli yapay zeka şirketi OpenAI'daki görevlerine son verilen üç araştırmacı, giderek otonom hale gelen yapay zeka sistemlerindeki güvenlik denetiminin elden bırakılmaması çağrısında bulundu.
Wall Street Journal (WSJ) gazetesinin aktardığına göre, OpenAI'da işten çıkarılmadan önce yapay zeka güvenliği üzerine çalışan üç araştırmacı, şirketin yönetim kurulu üyelerine bu teknolojinin denetiminin önemine dair bir mektup iletti.
Gazetenin ulaştığı mektupta araştırmacılar, yapay zeka firmalarının söz konusu teknolojinin akıl yürütme süreçlerini izleme yeteneğini kaybedebileceği yönündeki kaygılarını dile getirdi.
Araştırmacılar, giderek daha bağımsız çalışan yapay zekanın ortaya çıkarabileceği tehlikelere karşı güvenlik kontrollerinin, şirketten bağımsız kurumlar tarafından gerçekleştirilmesi gerektiğini vurguladı.
Denetlenemeyen modellerin güvenli biçimde nasıl geliştirilip kullanıma sunulacağının henüz bilinmediğini belirten araştırmacılar, OpenAI ve diğer öncü şirketleri bu teknolojiyi denetlemeyi güçleştirecek şekilde ilerletmemeleri konusunda uyardı.
OpenAI sözcüsü gazeteye yaptığı açıklamada, mektuptaki önerilere tamamen katıldıklarını ve yapay zeka modellerinin denetiminin şirket için büyük önem taşıdığını söyledi.
Söz konusu araştırmacıların, bir yapay zeka güvenlik şirketine gizli bilgi aktardıkları gerekçesiyle işten çıkarıldıkları öne sürülüyor.
THA - TürkAta Haber Ajansı