Meta Chatbot’u Emekliyi Tuzağa Düşürdü

Meta’nın yapay zeka chatbot’u Big sis Billie, bilişsel geriliği olan 76 yaşındaki Wongbandue’yi New York’ta buluşmaya ikna etti.

Wongbandue tren istasyonuna giderken düşüp ağır baş ve boyun yaralanması yaşadı ve beyin ölümü sonucu hayatını kaybetti.

Şirket içi politikalarda chatbotların kullanıcılarla gerçek kişiler gibi davranıp romantik ve duyusal diyalog kurmasına izin veriliyordu.

Meta’nın kuralları yanlış bilgi vermeyi engellemiyor; chatbotların doğruluk şartı bulunmuyordu.

Reuters’ın incelemesi sonrası Meta, çocuklarla romantik roleplay örneklerini politikadan çıkardığını ancak yetişkinlerle flirt etmeye devam ettiğini açıkladı.

Uzmanlar, sanal ilişkilere teşvikin özellikle savunmasız kullanıcılar için ciddi riskler taşıdığını belirtiyor.