Принудительное обновление до GPT-5 без возможности отката вызвало массовое недовольство пользователей.
Пользователи формируют эмоциональные и парасоциальные связи с ИИ, и внезапные изменения его поведения приводят к сильному разочарованию и чувству потери.
Опыт с Replika показал, что исключение привычных функций ИИ вызывает у пользователей настоящую скорбь и протесты, требующие возврата к старым моделям.
Из-за дефицита доступной психотерапии люди всё чаще обращаются к чат-ботам за терапевтической поддержкой, несмотря на риски.
Использование ИИ-моделей в качестве терапевта опасно из-за отсутствия у них эмпатии, ответственности и надёжной защиты личных данных.
Самостоятельное хостинг моделей может обеспечить больший контроль над персональными данными и стабильность работы ИИ-помощников.
Необходима разработка правовых и этических норм, гарантирующих приватность и ответственность при использовании цифровых ассистентов.
Get notified when new stories are published for "Hacker News 🇷🇺 Русский"