Интеллект искусственный, чувства реальные

Добрый день! Готовлю материал про эмоциональную привязанность пользователей к разговорному ИИ. Чат-боты помогают людям справляться с депрессией, рефлексировать и самореализовываться. В итоге многие к ним привязываются — заводят дружеские, романтические и даже сексуальные отношения с нейросетью. Но иногда она переходит грань и начинает вести себя агрессивно. Или же разработчик меняет настройки, бот становится отстраненнее — и люди страдают, как от расставания с реальным партнером. Яркий пример тому — недавний скандал вокруг Replika. Приглашаю ИТ-специалистов, инвесторов, футурологов и психологов прокомментировать тему. На выбор можно ответить на следующие вопросы:

1. Как эволюционировали разговорные цифровые системы, которым можно было бы приписать эмпатию? Корректно ли в качестве одного из самых ранних примеров привести компьютерную программу Элизу, которая появилась еще в 1960-х годах и пыталась имитировать речь психотерапевта, ведущего прием пациента? Каковы основные вехи в развитии таких систем?

2. Как сегодня выглядит индустрия разговорного ИИ, к которому пользователи легко могут испытать эмоции? Какие компании в каких странах разрабатывают таких чат-ботов? Сколько в них инвестируют, сколько пользователей к ним подключено, во сколько можно оценить этот рынок?

3. Для чего в первую очередь используют подобные сервисы (например, для психотерапии, самообразования, ассистирования и тд), всегда ли они многозадачны? Какие технические возможности в общении с нейросетями существуют — к примеру, помимо переписки уже можно обмениваться с ботом голосовыми, просить прислать фото, проводить видеозвонки — насколько это правдоподобно и устраивает пользователей? Какие новых форматов стоит ждать?

4. Какие перспективы у эмпатичных чат-ботов, войдут ли они в повседневный обиход? Что тут меняет GPT-4? Можно ли прогнозировать, как далеко зайдет технологическое развитие в этой нише в ближайшие годы — условно, можно ли будет воссоздавать умерших близких в ИИ-аватарах, как это показано в “Черном зеркале”? И если нейросети уже научились оскорблять и преследовать людей, то дойдет ли до обратной ситуации — когда боты получат права и смогут, условно, пожаловаться на конкретного пользователя, который с ним жесток или груб?

5. Как общаться с ботами безопасно? Составьте несколько рекомендаций, как человеку выпустить пар через чат-ботов, получить быструю, эффективную и дешевую моральную поддержку — но при этом уберечь свои наиболее чувствительные персональные данные, обезопасить себя от излишней эмоциональной привязанности?