Data Poisoning или отравление данных. Хорошая ли это идея – использовать ее во благо?

Data poisoning — это вредоносная техника, которая используется для манипуляции моделями машинного обучения путём введения отравленных данных в обучающий набор данных.

Нужно экспертное мнение на основе следующих вопросов:

1. Как работает Data Poisoning?

2. Какие инструменты и технологии существуют для обнаружения и предотвращения Data Poisoning?

3. Используете ли вы в своей работе Data poisoning или нет? Почему?

4. Развита ли эта техника в РФ? Есть ли у нее перспективы в России?

5. Можно ли использовать Data Poisoning во благо, например, для улучшения безопасности моделей машинного обучения?

Формат: текст