Хакеры и киберпреступники начали использовать чат-боты вроде ChatGPT для атак на пользователей интернета. Об этом сообщает издание Infosecurity Magazine.
Согласно отчету «Лаборатории Касперского», пик обсуждений чат-ботов в даркнете пришелся на март 2023 года, однако спустя почти 11 месяцев дискуссии продолжаются. По мнению экспертов компании, мошенники заинтересовались искусственным интеллектом (ИИ) и постоянно думают о том, как он может помочь в организации атак.
В частности, в даркнете обсуждаются секретные запросы, с помощью которых можно «взломать» ChatGPT, чтобы чат-бот помогал в создании вирусов и координации атак на пользователей сети. Также злоумышленники нашли способы создания альтернативных версий обычных чат-ботов вроде XXXGPT и FraudGPT, которые настроены на помощь мошенникам.
По словам аналитика «Лаборатории Касперского» Алисы Кулишенко, хакеры начали взламывать и скупать аккаунты ChatGPT, чтобы использовать их в своей деятельности. Так, в даркнете начали рекламировать услуги по взлому или массовой регистрации платных аккаунтов в сервисе. Исходя из этого специалисты по безопасности отметили, что крупные компании должны обратить внимание на проблему.
Ранее компания OpenAI изменила политику использования ChatGPT, тем самым сняв запрет на применение чат-бота в военных целях. В OpenAI изменения мотивировали стремлением упростить свод правил к использованию продуктов.