Согласно отчету, опубликованному в среду, поддерживаемые государством хакеры из России, Китая и Ирана используют инструменты OpenAI, поддерживаемого Microsoft, чтобы отточить свои навыки и обмануть свои цели.

Microsoft MSFT.O сообщила в своем отчете, что отслеживала хакерские группы, связанные с российской военной разведкой, Стражами исламской революции и правительствами Китая и Северной Кореи, когда они пытались усовершенствовать свои хакерские кампании, используя большие лингвистические модели. Эти компьютерные программы, часто называемые искусственным интеллектом, полагаются на огромные объемы текста для генерации ответов, похожих на человеческие.

Компания объявила об этом открытии, поскольку она полностью запретила поддерживаемым государством хакерским группам использовать ее продукты искусственного интеллекта.

«Будь то нарушение закона или условий предоставления услуг, мы просто не хотим, чтобы те, кого мы определили – кого мы отслеживаем и знаем, – являлись субъектами угроз любого рода – мы не хотим, чтобы они присутствуют. получить доступ к этой технологии», — сказал Reuters в интервью перед публикацией отчета Том Берт, вице-президент Microsoft по безопасности клиентов.

Дипломатические представители России, Северной Кореи и Ирана не сразу ответили на сообщения с просьбой прокомментировать обвинения.

Представитель посольства Китая в США Лю Пэнъюй заявил, что он выступает против «необоснованной клеветы и обвинений в адрес Китая» и выступает за «безопасное, надежное и контролируемое» внедрение технологии искусственного интеллекта для «улучшения общего благосостояния всего человечества».

Утверждение о том, что поддерживаемые государством хакеры были пойманы на использовании инструментов искусственного интеллекта для усиления своих шпионских возможностей, вероятно, подчеркнет обеспокоенность по поводу быстрого распространения этой технологии и ее потенциала для распространения. Высокопоставленные западные чиновники по кибербезопасности с прошлого года предупреждали, что злоумышленники злоупотребляют этими инструментами, хотя подробностей на местах пока мало.

«Это один из первых, если не первый, случаев, когда компания, занимающаяся искусственным интеллектом, выступила и публично обсудила, как игроки в области кибербезопасности используют технологии искусственного интеллекта», — сказал Боб Ротстед, руководитель отдела анализа угроз кибербезопасности в OpenAI.

OpenAI и Microsoft описывают использование хакерами своих инструментов искусственного интеллекта как «раннее» и «постепенное». Берт сказал, что ни один из них не видел вторжений кибершпионов.

«Мы действительно видели, как они используют эту технологию, как и любой другой пользователь», — сказал он.

В отчете по-разному описываются хакерские группы, использующие большие языковые модели.

Хакеры, предположительно работающие от имени российского военного шпионского агентства, широко известного как ГРУ, использовали эти модели для исследования «различных спутниковых и радиолокационных технологий, которые могут быть связаны с обычными военными операциями на Украине», — заявили в Microsoft.

Microsoft заявила, что северокорейские хакеры использовали эти шаблоны для создания контента, «который можно было бы использовать в целевых фишинговых кампаниях» против региональных экспертов. По словам Microsoft, иранские хакеры также использовали эти шаблоны для создания более убедительных электронных писем, а в какой-то момент использовали их для создания сообщения, пытающегося заманить «выдающихся феминисток» на заминированный веб-сайт.

Гигант программного обеспечения заявил, что поддерживаемые государством хакеры также экспериментировали с широкими языковыми шаблонами, например, задавая вопросы о конкурирующих спецслужбах, проблемах кибербезопасности и «известных людях».

Ни Берт, ни Ростед не будут проинформированы об объеме активности или количестве заблокированных аккаунтов. А Берт защищал запрет абсолютной терпимости к хакерским группам – который не распространяется на предложения Microsoft, такие как поисковая система Bing – подчеркивая новизну ИИ и обеспокоенность по поводу его внедрения.

«Эта технология одновременно новая и невероятно мощная», — сказал он.

(Рейтер)