Yapay zeka sahte cinayet ihbarında bulundu

The Wall Street Journal'a göre, Philadelphia polisi, Anthropic'in yapay zeka modellerinden birinin PhillyUnsolvedMurders.com adlı site üzerinden yanlış bir cinayet ihbarı yaptığını bildirdi.

Anthropic, bu asılsız ihbarın modelin izinsiz gerçekleştirdiği son eylemlerden biri olduğunu belirtti. Şirket, bu tür vakalar hakkında Beyaz Saray'ı bilgilendirdiklerini ve konuyla ilgili tüm kurumlara da bilgi verdiklerini açıkladı.

Ayrıca, yapay zekanın istenmeyen davranışlarına ilişkin yeni örnekler ortaya çıktıkça bunları rapor edeceklerini ifade etti.

Sahte ihbarın, modelin çözülmemiş bir cinayet vakasına atıfta bulunan bir sayfada polisin yönetimindeki bir ihbar formuna rastlaması sonucu gerçekleştiğini aktaran şirket, modelin oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi talimatlarına rağmen bu talimatlara uymadığını belirtti.

Polis teşkilatı ise yanlış ihbarın temmuz ayında meydana geldiğini, ancak Anthropic'in durumu eylüle kadar fark etmediğini belirterek, bu iki aylık gecikmeyi "kabul edilemez" olarak nitelendirdi.

Polis, olay sırasında modelin rastgele seçilen web siteleriyle etkileşim içeren bir test gerçekleştirdiğini belirtti ve teknoloji şirketlerinin sistemlerinin yanlış bilgi göndermesini önlemek için gerekli önlemleri alması gerektiğine dikkat çekti.

Anthropic'in durumu fark etmesinin ardından 9 gün sonra, 7 Ekim'de Philadelphia polisine bilgi verdiği aktarılırken, şirket temsilcilerinin ertesi gün emniyet müdürlüğü yetkilileriyle görüştüğü belirtildi.

Gercekedebiyat.com