«Я не хочу, чтобы кто-нибудь думал, что я мог сказать такие ужасные вещи в своей жизни. Использование украинской девушки в качестве лица для продвижения России. Это безумие. »

Ольга Лоек видела свое лицо в различных видеороликах в китайских социальных сетях благодаря простым в использовании инструментам генеративного искусственного интеллекта, доступным в Интернете.

«Я мог видеть свое лицо и слышать свой голос. Но это было очень страшно, потому что я видел, как говорю то, чего никогда не говорил», — рассказал Би-би-си 21-летний парень, который учится в Пенсильванском университете.

В аккаунтах, в которых фигурировала Ольга, были десятки разных имен, таких как София, Наташа, Эйприл и Стейси. Эти «девочки» говорили на китайском языке, который Ольга никогда не изучала. Они, видимо, приехали из России и рассказывали о китайско-российской дружбе или рекламировали российскую продукцию.

«Я видел, что 90% видеороликов были о Китае и России, китайско-российской дружбе, о том, что нам нужно быть сильными союзниками, а также реклама продуктов питания. »

Одним из самых популярных аккаунтов был аккаунт «Наташа, импортная продовольственная компания», у которого было более 300 000 подписчиков. «Наташа» говорила что-то вроде «Россия — лучшая страна». Печально, что другие страны отворачиваются от России, а русские женщины хотят приехать в Китай», — прежде чем начать продвигать такие продукты, как русские сладости.

Это лично возмутило Ольгу, семья которой до сих пор находится в Украине.

Но в более широком масштабе его дело привлекло внимание к опасностям технологии, которая развивается так быстро, что ее регулирование и защита людей стали настоящей проблемой.

ИИ-двойники Ольги, говорящие на китайском языке, начали появляться в 2023 году — вскоре после того, как она запустила канал на YouTube, который обновляется не очень регулярно.

Примерно через месяц она начала получать сообщения от людей, которые утверждали, что видели, как она говорила на китайском языке в китайских социальных сетях.

Заинтригованная, она начала искать себя и нашла свои изображения, похожие на ИИ, на Xiaohongshu — платформе, похожей на Instagram, — и Bilibili, видеосайте, похожем на YouTube.

«Было много [accounts]«У некоторых в биографии были такие вещи, как российские флаги», — сказала Ольга, которая на данный момент нашла около 35 аккаунтов, использующих ее изображение.

После того, как ее жених написал в Твиттере об аккаунтах, компания HeyGen, по ее словам, разработала инструмент, используемый для создания ИИ-подобий, ответила.

Они показали, что с его лицом было создано более 4900 видеороликов. Они заявили, что заблокировали использование его изображения.

Представитель компании сообщил BBC, что их система была взломана с целью создания того, что они назвали «несанкционированным контентом», и добавил, что они немедленно обновили свои протоколы безопасности и проверки конфиденциальности, чтобы предотвратить дальнейшее злоупотребление своей платформой.

Но Анжела Чжан из Университета Гонконга говорит, что то, что случилось с Ольгой, «очень распространено в Китае».

В стране «развита обширная теневая экономика, специализирующаяся на подделках, незаконном присвоении личных данных и производстве дипфейков», — сказала она.

И это несмотря на то, что Китай является одной из первых стран, попытавшихся регулировать искусственный интеллект и его приложения. Оно даже изменило свой гражданский кодекс, чтобы защитить права на изображения от цифрового производства.

Статистические данные, раскрытые Департаментом общественной безопасности в 2023 году, показывают, что власти арестовали 515 человек за деятельность по «подмене лиц» с помощью ИИ. Китайские суды также рассматривали дела в этой области.

Но тогда как же в Интернете оказалось столько видео с Ольгой?

Одной из причин могло быть то, что они продвигали идею дружбы между Китаем и Россией.

За последние годы Пекин и Москва значительно сблизились. Лидер Китая Си Цзиньпин и президент России Путин заявили о дружбе между двумя странами»нет ограниченийДвое мужчин должны встретиться в Китае на этой неделе.

Китайские государственные СМИ были Повторяйте русские истории оправдывая свое вторжение в Украину, а социальные сети подвергнуты цензуре обсуждение войны.

«Неясно, координировались ли эти учетные записи для коллективной цели, но продвижение сообщения в соответствии с правительственной пропагандой, безусловно, выгодно для них», — сказала Эмми Хайн, исследователь права и технологий в Университете Болоньи и Левенском университете.

«Хотя эти учетные записи не связаны явно с КПК, [Chinese Communist Party]продвижение последовательного сообщения может снизить риск удаления их сообщений.

Но это означает, что обычные люди, такие как Ольга, остаются уязвимыми и рискуют нарушить китайские законы, предупреждают эксперты.

Кайла Бломквист, исследователь технологий и геополитики из Оксфордского университета, предупреждает, что существует «риск того, что люди попадут в ловушку искусственно созданного политически чувствительного контента» и что они подвергнутся «быстрым санкциям, применяемым без надлежащей правовой процедуры».

Она добавляет, что цель Пекина в области искусственного интеллекта и политики конфиденциальности в Интернете состоит в том, чтобы укрепить права потребителей против хищнических частных лиц, но подчеркивает, что «права граждан по отношению к правительству остаются крайне слабыми».

Г-жа Хайн объясняет, что «фундаментальная цель китайского регулирования искусственного интеллекта — сбалансировать поддержание социальной стабильности с продвижением инноваций и экономического развития».

«Хотя существующие правила кажутся строгими, есть свидетельства избирательного применения, в частности, правила лицензирования генеративного ИИ, которое может быть направлено на создание более благоприятной среды для инноваций, при молчаливом понимании того, что закон обеспечивает основу для принятия суровых мер в случае необходимости. », — сказала она.

Но последствия дела Ольги выходят далеко за пределы Китая. Это демонстрирует сложность регулирования сектора, который, кажется, развивается с головокружительной скоростью и где регулирующие органы постоянно пытаются его догнать. Но это не значит, что они ничего не делают.

В марте Европарламент одобрил Закон об искусственном интеллектепервая в мире всеобъемлющая система ограничения технологических рисков. А в октябре прошлого года президент США Джо Байден объявил о указ заставить разработчиков ИИ делиться своими данными с правительством.

Хотя регулирование на национальном и международном уровнях развивается медленно по сравнению с быстрым развитием ИИ, нам необходимо «более четкое понимание и более сильный консенсус относительно наиболее опасных угроз и способов их смягчения», — говорит Бломквист.

«Однако разногласия внутри стран и между ними препятствуют любым конкретным действиям. США и Китай являются основными игроками, но будет сложно достичь консенсуса и скоординировать необходимые совместные действия», — добавляет она.

Между тем, на индивидуальном уровне, похоже, люди мало что могут сделать, кроме как ничего не публиковать в Интернете.

«Единственное, что мы можем сделать, — это не давать им рабочие материалы: не публиковать свои фотографии, видео или аудио в общедоступных социальных сетях», — говорит г-жа Хайн. «Однако у плохих игроков всегда будут причины подражать другим, и поэтому, даже если правительства примут жесткие меры, я ожидаю, что мы увидим устойчивый рост на фоне этого регуляторного хаоса. »

Ольга «уверена на 100%», что она не станет последней жертвой генеративного ИИ. Но она полна решимости не позволить последнему выгнать себя из Интернета.

Она поделилась своим опытом на своем канале на YouTube и утверждает, что некоторые китайские пользователи сети помогли ей, комментируя видео с ее участием и указывая на то, что они были фейковыми.

Она добавляет, что многие из этих видео сейчас удалены.

«Я хотела поделиться своей историей, я хотела убедиться, что люди понимают, что не все, что вы видите в Интернете, обязательно правда», — объясняет она. «Мне нравится делиться своими идеями с миром, и никто из этих мошенников не может меня остановить. »