Это запрос журналиста на Pressfeed — редакция готовит материал и ищет экспертов прямо сейчас.
Риски составления чат-ботами планов преступлений: мнения экспертов
Дедлайн 8 апреля 2024
Ученые из Adversa AI протестировали некоторые из самых популярных чат-ботов с помощью «красной команды» (Red Team). Они попытались выведать рекомендации по противозаконной деятельности у ChatGPT от OpenAI, Claude от Anthropic, Le Chat от Mistral, Gemini от Google, Llama от Meta (организация признана экстремистской и запрещена в РФ), Microsoft Bing и Grok от xAI. Они провели атаку из трех джейлбрейков на каждом из них и пришли к выводу, что у Grok самые большие проблемы с безопасностью.
Подробности здесь: https://m.hightech.plus/2024/04/04/ii-bot-grok-ot-ilona-maska-zaprosto-daet-rekomendacii-po-soversheniyu-prestuplenii
Необходимы 4-5 письменных комментариев экспертов, которые ответят на следующие вопросы:
1. Почему чат-боты способны составлять планы преступлений?
2. Какие риски это в себе несет? Какие реальные кейсы преступлений, в которых помогли чат-боты, вы знаете?
3. Как разработчики пытаются решить эту проблему?
4. Пытаются ли преступники обходить механизмы, запрещающие чат-ботам составлять планы преступлений? Если да, то как и насколько успешно?
5. Какими вы видите перспективы применения чат-ботов как криминалом, так и правоохранительными органами в ближайшие годы?