Осторожно — ChatGPT используется для создания вредоносных программ

Печально известный ИИ упрощает вредоносные программы

(Изображение предоставлено Shutterstock)

Мощности самого популярного в мире чат-бота ChatGPT используются злоумышленниками для создания новых штаммов вредоносного ПО.

Фирма по кибербезопасности WithSecure подтвердила, что обнаружила в дикой природе образцы вредоносного ПО, созданного печально известным автором ИИ. Что делает ChatGPT особенно опасным, так это то, что он может генерировать бесчисленные варианты вредоносных программ, что затрудняет их обнаружение.

Злоумышленники могут просто предоставить ChatGPT примеры существующего вредоносного кода и поручить ему создать на их основе новые штаммы, что позволит увековечить вредоносное ПО, не требуя почти того же уровня времени, усилий и опыта, что и раньше.

К добру и ко злу

Эта новость появилась на фоне многочисленных разговоров о регулировании ИИ, чтобы предотвратить его использование в злонамеренных целях. По сути, не было никаких правил, регулирующих использование ChatGPT, когда он был запущен до безумия в ноябре прошлого года, и в течение месяца его уже взломали, чтобы писать злонамеренные электронные письма и файлы.

Внутри модели предусмотрены определенные меры безопасности, которые предназначены для предотвращения выполнения гнусных подсказок, но есть способы, которыми злоумышленники могут их обойти.

Юхани Хинтикка, генеральный директор WithSecure, сказал Infosecurity, что ИИ обычно используется защитниками кибербезопасности для поиска и устранения вредоносных программ, созданных злоумышленниками вручную.

Однако кажется, что теперь, когда мощные инструменты искусственного интеллекта, такие как ChatGPT, доступны бесплатно, ситуация меняется. Инструменты удаленного доступа использовались в незаконных целях, а теперь и ИИ.

Тим Уэст, глава отдела анализа угроз в WithSecure, добавил, что «ChatGPT будет поддерживать разработку программного обеспечения как во благо, так и во вред, а также способствует и снижает входной барьер для злоумышленников для разработки вредоносного ПО».

По словам Хинтикки, фишинговые электронные письма, которые может писать ChatGPT, обычно обнаруживаются людьми, поскольку LLM становятся более продвинутыми, и в ближайшем будущем может стать труднее предотвратить попадание в такие аферы.

Более того, с тревожным ростом успешности атак программ-вымогателей злоумышленники реинвестируют и становятся более организованными, расширяя операции за счет аутсорсинга и углубляя свое понимание ИИ для запуска более успешных атак.

Хинтикка пришел к выводу, что, глядя на будущее кибербезопасности, «это будет игра между хорошим ИИ и плохим ИИ».