Программисты создали «криминальный» чат-бот. Нейросеть не имеет морально-этических ограничений, учится на преступных базах данных и может использоваться для преступлений.
В даркнете появился «криминальный» чат-бот под названием WormGPT. Он построен на основе больших языковых моделей (LLM) и является аналогом ChatGPT. Правда, с одним существенным отличием. «Криминальная» версия не имеет морально-этических блоков и применяется в преступных целях. С его помощью злоумышленники пишут фишинговые письма, вирусы, программы для кражи логично и паролей в браузерах и от различных учетных записей. Также «аморального» бота можно использовать для получения любой информации, в том числе опасной для людей. Например, инструкции по изготовлению оружия или иных запрещенных в гражданском обороте предметов.
Глава управления киберразведки компании Bi.Zone Олег Скулкин в комментарии СМИ отметил, что подобный чат-бот снижает порог входа в киберпреступность. Он сокращает расходы, упрощает решение задач, помогает хакерам автоматизировать рутинные процессы. WormGPT уже используется в России. Об этом говорят дискуссии на теневых форумах. Некоторые пользователи тестируют его для своих целей и делятся опытом с другими, отметил Скулкин. Также «криминальный» бот присутствует в продаже.
По словам экспертов, цель создания таких ботов в упрощении разработки мошеннических инструментов и их усложнении. Последнее нужно для обхода систем безопасности. Обучаются такие нейросети на базах злоумышленников, базах ИБ-компаний, которые регулярно исследуют угрозы. Основными заказчиками разработки теневых чат-ботов являются криминальные элементы и представители теневого бизнеса.
Эксперты предупреждают о многочисленных рисках, связанных с использованием «криминальных» чат-ботов. Нейросеть WormGPT, например, может содержать вредоносный код, который при активации поставит под угрозу всех пользователей чат-бота. Это представляет опасность не только для взрослых, но и для детей или психологически нестабильных людей.
Развитие чат-ботов без морально-этических ограничений создает серьезную угрозу для общества. Способность этих нейросетей к обучению повышает вероятность успешного взлома даже самых защищенных ИТ-систем, включая объекты критической информационной инфраструктуры.
С учетом глобального уровня цифровизации, сценарии, при которых злоумышленники могут получить доступ к городским системам видеонаблюдения или нарушить работу производственных предприятий, становятся все более вероятными. Перспективы использования «криминальных» чат-ботов вызывают волнение и тревогу среди экспертов.
Фото: Rolf van Root / Unsplash.com
