Новая модель ИИ может помочь предотвратить опасные утечки данных
Предлагаемая разработка дает возможность современным аналитикам выполнять весьма эффективную проверку устойчивости QBS систем по отношению к разным типам атак.
Квалифицированные специалисты, относящиеся к группе цифровой конфиденциальности при Имперском колледже столицы Британии, выяснили интересный факт. Для автоматизации процесса поиска уязвимостей в системах, основанных на разнообразных запросах, резонно применять искусственный интеллект.
Эта коллегия выполнила анализ всех утечек информации в подобных системах при контролируемых условиях, что позволило выполнять запросы данных для получения важной информации о современном мире. Такой подход позволил создать новую методику поиска уязвимостей на основе ИИ, которую назвали «QuerySnout». Данный эксперимент был первым, где применялся ИИ, чтобы автоматизировать поиск уязвимостей в подобных системах.
Доктор по имени Ив-Александр де Монжуа, являющийся главным автором в данном исследовании, заключил: «Атаки для поиска уязвимостей проектировались квалифицированными сотрудниками, а это отнимало значительное количество времени, подвергало системы определенным рискам. Придуманная технология «QuerySnout» делает это в разы быстрее и уже запущена для тестирования в реальных условиях». Публикация этого проекта выполнена на 29 конференции ACM цифровой безопасности.
Как используются системы QBS?
За последнее время значительно увеличились возможности человечества по получению, накоплению информации. Большая их часть — это личные данные, потому, важен вопрос конфиденциальности. Чтобы предотвратить серьезные утечки личных материалов, применяются разные законы. Такой подход обеспечивает реализацию права каждого человека на неприкосновенность его личной жизни, а, также, считается серьезным вызовом для специалистов, обеспечивающих безопасность подобных систем.
QBS дают возможность выполнения крупного анализа анонимной информации, сохраняя высокий уровень анонимности в сети. Контроль за всей информацией осуществляют кураторы, выполняющие проверку пользовательских запросов от специально подобранных аналитиков, что по итогу защищает от утечек. Но подобная методика не лишена недостатков, что позволяет злоумышленникам обходить защиту, подобрав правильные запросы. Это дает им возможность получать данные о человеке, основывая свое проникновение на ошибках, уязвимостях в запросных системах.
QuerySnout и ее тестирование
Риски неизвестных мощных атак типа «нулевого дня», заключающейся в извлечении хакерами выгоды из недостатков запросной системы, остановили и задержали создание QBS систем. Чтобы проверить их надежность, моделируются атаки, с целью обнаружения утечек, определения возможных недостатков. Но реализовывать подобные атаки вручную довольно долго, сложно. Потому, исследователи сошлись во мнении, что нужно ограничить атакующие возможности для повышения безопасности QBS.
QuerySnout работает, изучая задаваемые системе вопросы для получения ответов. Далее, ИИ обучается комбинировать ответы для обнаружения потенциальных уязвимостей конфиденциальности. Машинное обучение позволяет смоделировать утечку информации при помощи запросов. Они объединяют ряд ответов, что дает автоматический доступ к личным данным, получившей название «эволюционный поиск», заключающийся в нахождении правильных вопросов. Автоматизация выполняется в условиях, которые контролируют специалисты, потому, искусственному интеллекту достаточно иметь доступ к QBS для поиска возможных утечек без необходимости изучения основ ее работы.
Ана-Мария Крету, являющаяся одним из авторов исследования, сделала заключение: «Автоматизация на ИИ способна создать сильнейшие атаки в сравнении с теми, которые создают тестировщики, что подтверждает более высокую его эффективность в вопросе выявления хакерских атак».
Дальнейшая эволюция QuerySnout с целью выявления более серьезных утечек данных
Сегодня разработка «QuerySnout» работает со сравнительно немногих объёмом вероятных утечек критических данных. Поэтому команда стремится усовершенствовать систему, чтобы обнаруживать еще более сложные уязвимости. По словам доктора де Монжуайе: «Главная задача в будущем будет заключаться в том, чтобы масштабировать поиск до появления нового функционала для возможности находить даже наиболее сложные атаки».
Предлагаемая разработка дает возможность современным аналитикам выполнять весьма эффективную проверку устойчивости QBS систем по отношению к разным типам атак. Процесс разработки «QuerySnout» является ключевым этапом в гарантировании конфиденциальности личной информации в отношении систем, работающих по специальным запросам.