Может ли Том Круз засудить свой дипфейк / Skillbox Media

Содержание:

• Поддельный Том Круз
• Дипфейк-ландшафт современности — от порно со звёздами до угроз демократии
• Как регулируют дипфейки в мире

Поддельный Том Круз

В конце февраля в TikTok появился аккаунт @deeptomcruise, который выложил три дипфейк-видео с Томом Крузом. На первом из них поддельный актёр играет в гольф, на втором спотыкается, а затем рассказывает несмешную шутку про Михаила Горбачёва, а на третьем показывает фокус с монеткой.

Аккаунт быстро стал вирусным. На него подписались почти 370 тысяч человек. Три видео в сумме собрали более 11 млн просмотров и 1,1 млн лайков. Судя по комментариям, некоторые пользователи всерьёз поверили в то, что на видео настоящий Круз, — хотя большинство сразу распознали обман. TikTok отказался удалять аккаунт, объяснив это тем, что видео не несут никакой опасности и не вводят в заблуждение.

Ролики сделаны очень правдоподобно. Фальшивый Том Круз надевает на себя шляпу и очки, двигается, машет рукой перед лицом, камера вращается вокруг него. Тем не менее догадаться о том, что актёр не настоящий, не так уж и сложно. На это указывает даже само название странички. Единственная страница, на которую подписан псевдо-Круз, — настоящий аккаунт актёра с галочкой. Поддельный Круз выглядит гораздо моложе своего нынешнего возраста — для изготовления дипфейка наверняка использовались его старые видео и фото.

Тиктоки с поддельным Крузом стали настолько популярными, что ими заинтересовались исследователи. Профессор калифорнийского университета Беркли Хани Фарид, специализирующийся на дипфейк-технологиях, назвал видео очень качественными, однако нашёл несколько почти незаметных огрехов. Например, в одном из них у псевдо-Круза немного изменяется цвет глаз. Фарид считает, что в этих роликах дипфейк-нейросеть, скорее всего, пририсовала неизвестному актёру не всё лицо Тома Круза — только его глаза и зону вокруг них, а рот и подбородок принадлежат живому человеку, которого хорошо загримировали.

Том Круз никак не прокомментировал появление своего TikTok-двойника — вполне благоразумное решение. Сама возможность засудить создателей аккаунта и добиться удаления дипфейков со своим лицом пока только теоретическая, но некоторые артисты уже пытались судиться с авторами подобных роликов.

Дипфейк-ландшафт современности — от порно со звёздами до угроз демократии

Технология дипфейков появилась в 2017 году, когда пользователь Reddit под ником deepfakes выложил свои творения — порнофильмы, в которых актрисам были пририсованы лица знаменитостей. Через несколько месяцев учёные из Вашингтонского университета опубликовали пугающе правдоподобное дипфейк-видео с Бараком Обамой.

Технология дипфейков быстро развивается. Согласно исследованию итальянской IT-компании Sensity, в середине 2020 года в интернете было 49,081 дипфейк-видео. 62,7% из них были развлекательными (в эту категорию включается и порнография), 21,7% относились к тематике моды, а ещё по 4% были посвящены бизнесу, политике и спорту.

После того как в 2018–2019 годах многие платформы объявили войну порнографическим дипфейкам, самым популярным жанром стали пародии на знаменитостей. Звёзды предпочитают игнорировать безобидные дипфейки с их участием. Наверное, они боятся выглядеть глупо или стать жертвами эффекта Стрейзанд — когда попытка добиться удаления информации лишь привлекает к ней ещё больше внимания. Впрочем, есть и исключения.

В 2020 году компания Roc Nation, принадлежащая рэперу Jay-Z, подала иск к YouTube-каналу Vocal Synthesis. Канал выпускает пародийные видео, в которых синтетические голоса знаменитостей произносят забавные тексты и поют песни. Пародии канала довольно безобидны: Боб Дилан исполняет Baby One More Time Бритни Спирс, а Notorious B.I.G. читает рэп из строчек рассказов Лавкрафта.

Jay-Z обвинил канал в незаконном использовании искусственного интеллекта для имитации его голоса, сославшись на закон об авторском праве, и потребовал удалить два видео — в одном его копия поёт песню We Didn’t Start the Fire поп-исполнителя Билли Джоэла, а в другом читает монолог Гамлета «Быть или не быть».

YouTube удалил оба ролика, однако уже через два дня восстановил их — представитель видеохостинга заявил, что запросы на удаление были «неполными» и компания удалит ролики лишь по решению суда. Юристы говорят, что шансов на победу у Jay-Z и его компании в таком разбирательстве почти нет: закон об авторском праве, на который они ссылаются, не защищает уникальное звучание человеческого голоса.

Пару раз американские суды принимали решения, противоречащие этому принципу. К примеру, в 1990 году певец Том Уэйтс отсудил у производителя чипсов Frito-Lay почти 2,5 миллиона долларов за то, что компания использовала в рекламе очевидное подражание его голосу. Однако тогда речь шла о коммерческом применении.

Канал Vocal Synthesis продолжает выпускать видео с синтетическим голосом Jay-Z. На последнем из них он зачитал «копипасту морского котика» — шуточный текст, в котором брутальный американский экс-военнослужащий угрожает отомстить обидчику в интернете.

Дипфейки применяют не только ради забавы и исполнения эротических фантазий. Технология может быть использована для мошенничества, введения в заблуждения, дезинформации и клеветы. Самая громкая такая история случилась в 2019 году. Мошенники синтезировали голос CEO крупной немецкой энергетической корпорации, позвонили главе её британской «дочки» и приказали перевести на свои счета 220 тысяч евро. Операция прошла успешно, злоумышленников так и не вычислили.

Множество опасений вызывают и почти бескрайние возможности использования дипфейков для создания политической дезинформации. В начале 2019 года в американских соцсетях завирусилось видео, которое изображало пьяной Нэнси Пелоси — спикера Палаты представителей Конгресса и одну из самых авторитетных персон Демократической партии. Видео посмотрели почти 3 миллиона раз. Строго говоря, ролик даже не был дипфейком: 78-летняя Пелоси разговаривает быстро, но оттого немного невнятно, и достаточно было просто замедлить её речь, чтобы выставить её нетрезвой.

После истории с роликом о пьяной Пелоси в преддверии президентских выборов 2020 года в Америке поднялась настоящая паника. Многие комментаторы всерьёз утверждали, что дипфейки могут разрушить демократические процедуры.

Крупнейшие соцсети добавили в свои правила запреты на дипфейки, которые используются для дезинформации. В 2019–2020 годах четыре американских штата ввели уголовное наказание за использование дипфейков в политической рекламе. Министерство обороны США сейчас разрабатывает программу MedFor (Media Forensics — «Медиакриминалистика»), которая будет автоматически выявлять манипуляции в интернете, в том числе созданные по дипфейк-технологии.

Как регулируют дипфейки в мире

О том, как дипфейки регулируются в США и других странах, рассказала ведущий юрист департамента международного сотрудничества Национального бюро экспертизы интеллектуальной собственности Наталья Голубицкая.

«В США дипфейки рассматриваются как часть более масштабной проблемы — fake news. Туда же относятся разные фейковые аккаунты в соцсетях, которые могут быть как деперсонифицированными ботами, так и копиями страниц других людей», — объясняет Голубицкая.

По её словам, в американском законодательстве есть множество механизмов, связанных с персональными данными. Они развиваются и меняются с каждым годом.

«Теоретически Jay-Z мог бы добиться удаления голосовых дипфейков, если бы воспользовался законодательством о персональных данных, а не обвинил их создателей в нарушении авторского права, — поясняет Голубицкая. — То же самое и с Томом Крузом».

Юрист рассказывает, что в 2019 году суд Калифорнии ввёл уголовную ответственность за использование дипфейков в политической рекламе.

«С этой точки зрения они рассматриваются как угроза, — поясняет эксперт. — Фейковые аккаунты знаменитостей иногда удаляются социальными сетями, однако для того, чтобы их заметили, они должны привлечь внимание пользователей».

При этом Голубицкая обращает внимание на то, что дипфейк не всегда может быть распознан. В марте 2019 года апелляционный суд штата Колорадо при рассмотрении дела об убийстве приобщил к доказательствам запись голоса обвиняемого, который угрожал жертве в голосовых сообщениях. Тот настаивал, что подлинность голоса не была доказана и он мог быть сгенерирован как дипфейк.

«Независимо от того, прав суд в этом конкретном деле или нет, возможность создания подобных доказательств с помощью дипфейков остаётся открытой», — заключает юрист.

Европейский суд, по словам Голубицкой, тоже разделяет подход американского законодательства. Согласно его решению люди в таких ситуациях должны использовать только законы о защите чести, достоинства и репутации, а коммерческое регулирование здесь неприменимо.

В Китае публикация дипфейков без дисклеймера влечёт уголовную ответственность. Считается, что раз сутью дипфейков является имитация, основанная на нашей готовности поверить в их реальность, предупреждение будет разрушать этот эффект. Власти установили правила из-за появления большого количества порно с использованием дипфейков.

Парламент Сингапура в 2019 году принял закон, в котором было прописано, что люди не должны публиковать ложную информацию, зная или имея основания думать, что она является ложной.

«Регулирование и реакция правовой системы на дипфейки сегодня зависят от цели их создания», — подводит итог эксперт.

Если дипфейк используется ради шутки или пародии, его могут удалить только по требованию человека, который изображается в нём. Однако использование дипфейков для фальсификации доказательств, сокрытия мошенничества или влияния на общественное мнение и политику затрагивает совсем другие аспекты.

Если в первом случае речь идёт о конкретном человеке, то во втором — о публичных интересах многих людей. Голубицкая говорит, что для регулирования безобидных дипфейков вряд ли будут разработаны отдельные инструменты. Однако во втором случае в будущем стоит ожидать создания специальных законов и технологий, которые будут защищать от злонамеренных дипфейков.