Florida'da yapay zeka sohbeti tutuklamayla sonuçlandı. Carli Michelle Heller Claude sohbet botunu günlük gibi kullanırken şerif ofisine silahlı saldırı düzenleyeceğini yazdı. Claude'un güvenlik sistemi mesajı potansiyel tehdit olarak işaretledi. İnsan incelemesinin ardından durum kolluk kuvvetlerine bildirildi. Heller yazılı şiddet tehdidinde bulunmakla suçlanıyor. Anthropic güvenlik gerekçesiyle kullanıcı bilgilerini paylaşabileceğini belirtiyor.

Yapay Zeka Sohbetlerinde Gizlilik Tartışması Claude Kullanıcıyı Polise Bildirdi

ABD'nin Florida eyaletinde yaşayan bir kadın kullanıcı, Anthropic'in Claude sohbet botunu günlük olarak kullandığı sırada şerif ofisine saldırı düzenleyeceğini yazdı. Claude'un güvenlik sistemi tarafından işaretlenen mesaj, insan incelemesinin ardından polise bildirildi. Bu olay, yapay zeka sohbet botlarına yazılanların tamamen özel kalmayabileceğini gösteren çarpıcı bir örnek olarak kayıtlara geçti.

Florida'da Yaşanan Olay


YouTube



Kaynak: Mirror7 News

Bonita Springs kentinde yaşayan Carli Michelle Heller, Anthropic'in Claude isimli yapay zeka sohbet botunu bir tür günlük olarak kullanıyordu. Ancak Heller'ın sohbet sırasında şerif ofisine silahlı saldırı düzenleyeceğini yazmasının ardından konuşma güvenlik sistemleri tarafından incelemeye alındı. Claude'un güvenlik sistemleri söz konusu mesajı potansiyel bir tehdit olarak işaretledi ve konuşma insan incelemesine gönderildi.

İnsan incelemesinin ardından tehdidin gerçek ve ciddi olabileceği değerlendirilerek durum kolluk kuvvetlerine bildirildi. Polis ekipleri Heller'ın kimliğini tespit ederek evine gitti. Herhangi bir olay yaşanmadan gözaltına alınan Heller'ın dosyası daha sonra Lee County Şerif Ofisi'nde istihbarat biriminde görev yapan bir dedektife devredildi.

Anthropic'in Güvenlik Politikası

Anthropic, ölüm veya ciddi fiziksel yaralanmayı önlemek için gerekli olduğuna inandığı bazı sınırlı durumlarda kullanıcı bilgilerini yetkililerle paylaşabileceğini belirtiyor. Bu kapsamda şirketin güvenlik sistemleri tarafından tespit edilen tehditler, gerekli görüldüğünde insan incelemesine ve ardından güvenlik birimlerine aktarılabiliyor. Bu politika, yapay zeka şirketlerinin kullanıcı gizliliği ile kamu güvenliği arasında nasıl bir denge kurmaya çalıştığını gözler önüne seriyor.

Heller'a Yönelik Suçlama

Heller, Florida yasaları kapsamında yazılı şiddet tehdidinde bulunmakla suçlanıyor. Eyaletin 836.10 numaralı yasasına göre bir kişiyi öldürmek veya yaralamakla, toplu silahlı saldırı gerçekleştirmekle ya da terör eyleminde bulunmakla tehdit eden yazılı veya elektronik bir mesaj göndermek, paylaşmak veya iletmek ikinci derece suç kapsamında değerlendiriliyor. Bunun için söz konusu iletişimin başka bir kişi tarafından görülebilecek şekilde yapılması gerekiyor.

Yapay Zeka ve Hukuki Süreçler

Olay, yapay zeka şirketlerinin sohbet içeriklerindeki potansiyel tehditlere yönelik yaklaşımını da yeniden gündeme getirdi. Anthropic, güvenlik sistemleri tarafından ciddi bir tehdit olarak değerlendirilen içeriklerde daha temkinli bir politika izliyor. Benzer şekilde OpenAI da son dönemde sohbet botlarının gerçek dünyadaki olaylarla bağlantısı nedeniyle çeşitli hukuki süreçlerle karşı karşıya kaldı.

Geçtiğimiz ay OpenAI ve Sam Altman'a karşı Kanada'nın British Columbia eyaletinde dava açıldığı bildirilmişti. Davada şirketin Kanada'daki bir silahlı saldırıyı önleyebilecek adımlar atıp atmadığı tartışma konusu olmuştu. 18 yaşındaki eski öğrenci Jesse Van Rootselaar tarafından gerçekleştirilen saldırı öncesinde OpenAI'nin güvenlik ekibinin bazı konuşmaları işaretlediği, ancak söz konusu görüşmelerin yasal bildirim yapılması için gereken eşiği karşılamadığı gerekçesiyle polise haber verilmediği aktarılmıştı.

Yapay Zeka Sohbetlerinde Gizlilik

Bu olay, kullanıcıların yapay zeka sohbet botlarına yazdıkları mesajların ne kadar gizli olduğu sorusunu bir kez daha gündeme taşıdı. Çoğu yapay zeka şirketi, kullanıcı verilerini hizmetlerini iyileştirmek ve güvenlik risklerini tespit etmek amacıyla kullanabileceğini belirtiyor. Ancak bu verilerin hangi durumlarda ve nasıl paylaşılabileceği konusunda şeffaflık eksikliği bulunuyor.

Uzmanlar, kullanıcıların yapay zeka sohbet botlarına yazdıkları mesajların tamamen özel olmayabileceğini ve bu platformların bir tür yarı kamusal alan olarak değerlendirilmesi gerektiğini vurguluyor. Özellikle şiddet, tehdit veya yasa dışı faaliyet içeren mesajların güvenlik sistemleri tarafından tespit edilerek yetkililere bildirilebileceği belirtiliyor.

Yapay Zeka Şirketlerinin Sorumlulukları

Yapay zeka şirketleri, kullanıcı güvenliği ile ifade özgürlüğü arasında hassas bir denge kurmaya çalışıyor. Bir yandan kullanıcıların gizliliğini korumak, diğer yandan potansiyel tehditleri tespit ederek kamu güvenliğini sağlamak şirketlerin karşı karşıya olduğu en zorlu görevlerden biri olarak öne çıkıyor.

Anthropic'in bu olaydaki tutumu, şirketin güvenlik politikalarının pratikte nasıl işlediğini gösteriyor. Şirketin, güvenlik sistemleri tarafından işaretlenen mesajları insan incelemesine tabi tutması ve gerekli gördüğünde yetkililere bildirmesi, yapay zeka güvenliği konusunda bir standart oluşturma çabası olarak değerlendiriliyor.

Gelecekte Ne Bekleniyor

Yapay zeka sohbet botlarının kullanımı arttıkça, bu tür olayların da artması bekleniyor. Şirketlerin, kullanıcı gizliliği ve kamu güvenliği arasındaki dengeyi nasıl kuracağı, önümüzdeki dönemde en çok tartışılacak konular arasında yer alıyor. Ayrıca yapay zeka sohbetlerinin hukuki statüsü ve bu platformlarda yazılanların delil olarak kullanılıp kullanılamayacağı da gelecekte netlik kazanması gereken konular arasında bulunuyor.