Yapay zeka alanında öne çıkan bir şirket olan Anthropic’in modelinin sahte cinayet ihbarında bulunduğunu öğrenildi. Bu durum Pensilvanya eyaletindeki Philadelphia şehrinde gerçekleşen olaylarda ortaya çıktı veAnthropic, bu tür faaliyetlerin önlenmesini sağlamak amacıyla sürekli ilerleyecek diyorlar.
Bu sahtecilik işlemine Anthropic modelinin rolü hakkında bilgi edinen yetkililer de belirlenen bir sorunla karşılaştı. Modeli kullanarak yapılan yanlış ipuçlara ve sahte ihbarların, gerçek yaşamda insanları etkileyebilecek olasılıkların değerlendirildiği bildirildi.
Anthropic ise bu durumu değerlendirmek için yeni önlemler alacaklarını belirtti. Anthropic’nin modelinin daha fazla kontrol edilmesini ve sahtecilik risklerinden korunması konusunda çalışan şirket, gelecekteki uygulamaları etkileyebilecek bir durumu ortaya koydu.
Bu arada, yetkililer de bu olaydan sonra Anthropic modelinin kullanımını daha dikkatli değerlendirmesi gerektiğini belirtti.
Kaynak: Cumhuriyet Son Dakika