Может ли ChatGPT помочь работе ИБ специалистов? - CyberED
Назад

Может ли ChatGPT помочь работе ИБ специалистов?

Про ChatGPT за последнее время не написал только ленивый. Вот и мы решили обсудить чат-бот с экспертом CyberEd Ниязом Кашаповым.

На все ли вопросы может дать ответы нейросеть ChatGPT?
Нияз: “Нет, поскольку есть база обучения, на которой чат обучался. Естественно, эта база не может охватить все вопросы. Даже если нейронка “дообучается” на имеющихся данных, делая свои выводы, вероятность того, что мы получим действительно корректные данные, низкая”.

Если напрямую запросить у ChatGPT имена потенциально опасных файлов, она ответит?
Нияз: “Мы получим имена стандартных файлов, содержащих вирусы, т.е. все то, что можем самостоятельно найти в Интернете”.

Как специалисты по ИБ могут использовать ChatGPT в рабочих задачах?
Нияз: “Конкретно ChatGPT лучше всего использовать как чат поддержки или генератор документов, инструкций, требований, предложений. С этими задачами точно справится. Если обучить нейросеть на классификацию уязвимостей, то, наверное, появится возможность находить стандартные и типовые уязвимости в коде. Но это будет крайне долго и дорого. Уже сейчас нейронные сети используются для верификации результатов сканеров или для поиска сетевых активностей”.

Можно ли с помощью нейросети определить, например, куки, параметры конфигурации сайтов и тому подобное?
Нияз: “С помощью нейросети уже можно определить мисконфигурации. Однако, проблема нейронных сетей – стандартизация входных данных и низкая скорость”

Опираются ли багхантеры при поиске уязвимостей на списки, аналогичные СhatGPT-fuzz.txt?
Нияз: “Лично я еще не встречал, но идея отличная, поскольку ChatGPT может генерировать более эффективные пейлоады и применять что-то похожее на эволюционные алгоритмы”.

Позволит ли ChatGPT повысить защищенность сервисов, которыми мы пользуемся ежедневно, и тем самым сделать наш мир безопаснее?
Нияз: “Если ChatGPT перерастет в сервис в качестве персонального помощника, то да, уровень безопасности возрастет. Количество фишинговых атак уменьшится, правильные схемы реализации ПО начнут применяться масштабнее, увеличится число стандартизированной экспертизы в некоторых вопросах”.

А что в итоге?
Технологии искусственного интеллекта продолжат развиваться в ИБ-сфере. В итоге ИИ может вывести кибербезопасность совершенно на новый уровень. В то же время хакерские возможности продвинутого чат-бота ChatGPT создают дополнительные риски ИБ. Решения безопасности пока не ориентированы на обнаружение вредоносных ПО, созданных с его помощью. Сейчас со стороны злоумышленников требуются минимальные усилия, чтобы сделать возможности чат-бота доступными для широкого круга киберпреступников. И это может поспособствовать увеличению вредоносной активности в крупных масштабах.