Россия использует генеративный искусственный интеллект в своих онлайн-кампаниях по обману, но ее усилия не увенчались успехом, согласно отчету Meta Security, опубликованному в четверг.
Материнская компания Facebook и Instagram обнаружила, что до сих пор тактика, основанная на искусственном интеллекте, «приносила лишь дополнительную выгоду в производительности и создании контента» злоумышленникам и что Meta смогла пресечь операции обманного влияния.
Усилия Meta по борьбе с «скоординированным недостоверным поведением» на своих платформах происходят на фоне растущих опасений, что генеративный ИИ используется для обмана или запутывания людей на выборах в США и других странах.
Россия остается основным источником «скоординированного недостоверного поведения» с использованием фейковых аккаунтов в Facebook и Instagram, заявил журналистам директор по политике безопасности компании «Мета» Давид Агранович.
В докладе говорится, что после вторжения России в Украину в 2022 году эти усилия были сосредоточены на ослаблении Украины и ее союзников.
По мере приближения выборов в США Мета ожидает, что поддерживаемые Россией онлайн-кампании по обману будут атаковать политических кандидатов, поддерживающих Украину.
В течение многих лет Facebook обвиняли в том, что он используется в качестве мощной платформы предвыборной дезинформации. Российские оперативники использовали Facebook и другие социальные сети в США для разжигания политической напряженности во время нескольких выборов в США, включая выборы 2016 года, на которых победил Дональд Трамп.
Эксперты опасаются беспрецедентного потока дезинформации со стороны злоумышленников в социальных сетях из-за простоты использования инструментов генеративного искусственного интеллекта, таких как ChatGPT или генератор изображений Dall-E, для создания контента по запросу за считанные секунды.
Согласно отчету, ИИ использовался для создания изображений и видео, а также для перевода или генерации текста, а также для создания фейковых новостей или обзоров.
Когда Meta ищет обман, она смотрит на то, как действуют аккаунты, а не на контент, который они публикуют.
после продвижения информационного бюллетеня
Кампании влиятельных лиц, как правило, охватывают широкий спектр онлайн-платформ, и Meta заметила, что сообщения на X, ранее Twitter, используются для повышения доверия к сфабрикованному контенту. Meta делится своими выводами с X и другими интернет-компаниями и заявляет, что для предотвращения дезинформации необходима скоординированная защита.
«Что касается Twitter (X), они все еще находятся в переходном состоянии», — сказал Агранович, когда его спросили, видит ли Мета, что X действует на основе вводящей в заблуждение информации. «Многие люди, с которыми мы имели дело в прошлом, ушли. »
X уничтожила свои команды по обеспечению доверия и безопасности и сократила усилия по модерации контента, которые когда-то использовались для обуздания дезинформации, превратив его в то, что исследователи называют рассадником дезинформации.
