Этот текст написал я, а не ChatGPT. И я не просил его отвечать на вопрос из заголовка – это сделаю я. Но, думаю, ChatGPT мог бы ответить именно так. Хорошо, что тут остались ошибки, чтобы доказать, что я не робот. Но ChatGPT тоже мог бы так сделать, чтобы казаться.Эта модная сейчас робо-технология — крутой автоответчик. Он отлично пишет ответы на домашку, научные работы, юридические ответы, ставит медицинские диагнозы и многое другое. Всё это проходит проверку «на запах», будто это работа человека. Но добавит ли он что-то значимое?В схватке машин, которую техно-гики давно желали увидеть, ChatGPT выглядит слишком «хорошо», чтобы не считаться серьёзным претендентом, который может сломать противника. И атакующий, и защищающийся использовали новейшие модели машинного обучения (ML). Это должно было случиться.Вот только для создания хорошей защиты от вредоносов нужно не только робот против робота. Всегда требовалось участие человека: мы поняли это много лет назад. Это огорчало тех, кто продавал только ML, и они пытались запутать всех, называя свои ML-решения.Хотя модели ML использовались для первичной сортировки и более сложного анализа, они не могут стать кнопкой «убить вредонос». Вредоносное ПО просто не такое простое.Но чтобы убедиться, я спросил у гуру ML из ESET:В. Насколько хорош будет вредоносный код, сгенерированный ChatGPT? Или это вообще возможно?О. Мы ещё не близко к «полностью сгенерированному ИИ вредоносу». Хотя ChatGPT отлично подсказывает код, генерирует примеры и фрагменты кода, исправляет ошибки, оптимизирует код и даже автоматизирует документацию.В. А что насчет более продвинутых функций?О. Мы не знаем, насколько хорошо он справляется с обфускацией (запутыванием кода). Некоторые примеры связаны со скриптовыми языками, вроде Python. Но мы видели, как ChatGPT «обращал» смысл дизассемблированного кода, связанного с IDA Pro. Это интересно. В целом, это, вероятно, полезный инструмент для программиста. И, возможно, для…В. Насколько он хорош сейчас?О. ChatGPT очень впечатляет, учитывая, что это большая языковая модель (LLM). Его возможности удивляют даже создателей таких моделей. Однако сейчас он очень «поверхностный», делает ошибки, создаёт ответы, похожие на галлюцинации (то есть выдуманные ответы), и не очень надёжен для…В. Что он может делать сейчас – какой «низко висящий фрукт» для платформы?О. Пока мы видим три вероятных области для злонамеренного использования:Переплюнуть фишеровЕсли вы думали, что фишинг выглядел убедительно раньше, подождите. Проникая в большее количество источников данных и объединяя их, он будет создавать точно настроенные письма. Их будет очень сложно обнаружить по содержанию. Успех обещает быть выше в получении кликов. И вы не будете…Автоматизация переговоров с ransomwareУмелые переговорщики с ransomware, вероятно, редкость. Но добавление блеска ChatGPT к общению может снизить нагрузку на атакующих, чтобы они выглядели легитимно во время переговоров. Это также означает меньше ошибок, которые могли бы позволить защитникам вычислить истинные личности и местоположения…Телефонные мошенники станут лучшеПоскольку генерация естественного языка становится всё более, ну, естественной, злые мошенники будут звучать так, будто они из вашего района и действуют в ваших интересах. Это один из первых шагов в мошенничестве с доверием: звучать увереннее, говоря так, будто они «свои».Если всё это звучит как дело далёкого будущего, не ставьте на это. Всё не произойдет сразу, но преступники скоро станут намного лучше. Посмотрим, справится ли защита с вызовом.ПРЕЖДЕ ЧЕМ УЙТИ: Пишем как босс с ChatGPT и как лучше распознавать фишинговые атаки

Читать полный анализ на WeLiveSecurity →