Недавние исследования показали, что спамеры применяли возможности OpenAI для создания уникальных сообщений, которые позволяли им обходить фильтры спама. В результате таких действий более 80,000 сайтов стали жертвами нежелательной рассылки всего за четыре месяца.
Двойственное использование языковых моделей
Открытие, зафиксированное в публикации исследовательской компании SentinelOne, подчеркивает двойственное воздействие крупных языковых моделей. То, что делает их полезными для добрых целей — обширность доступных данных и способность генерировать контент в больших объемах — также может быть использовано в злонамеренных целях. Несмотря на то что OpenAI аннулировал аккаунт спамеров после получения уведомления от SentinelLabs, четыре месяца незамеченной деятельности показывают, что контроль и защита зачастую носят реактивный характер.
Как работает AkiraBot
Массовая рассылка сообщений была организована с помощью AkiraBot — фреймворка, который автоматизирует отправку сообщений в больших количествах для продвижения сомнительных услуг по поисковой оптимизации для малых и средних сайтов.
Технические аспекты работы AkiraBot
AkiraBot использовал скрипты на Python для ротации доменных имен, которые рекламировались в сообщениях. Он также применял API чата OpenAI, связанный с моделью gpt-4o-mini, чтобы создавать уникальные сообщения, адаптированные для каждого конкретного сайта. Эта техника, вероятно, значительно помогла ему обойти фильтры, которые отслеживают и блокируют идентичный контент, отправляемый на большое количество сайтов.
Методы доставки сообщений
Сообщения доставлялись через контактные формы и виджеты чата, встроенные в целевые сайты. Такой подход повышал вероятность того, что сообщения будут замечены и прочитаны пользователями, что еще больше увеличивало эффективность спама.
В итоге, использование технологий, созданных для улучшения пользовательского опыта, стало инструментом для распространения нежелательного контента, подчеркивая необходимость более строгого контроля за их применением.
Comments are closed.