„Дълбоката фалшификация“ на вейпинг тийнейджър е в центъра на случая на тормоз - но какво, ако не е фалшифицирана?

„Дълбоката фалшификация“ на вейпинг тийнейджър е в центъра на случая на тормоз - но какво, ако не е фалшифицирана?

Експертите пораждат съмнения, че изкуственият интелект е бил използван за създаване на видеоклип, който полицията нарича „фалшив фалшификат“ и е в центъра на продължаващата правна битка, която се разиграва в Пенсилвания.



Инцидентът направи международни новини миналия месец, след като майката на мажоретката от гимназията беше обвинена в манипулиране на изображения и видеоклипове в опит да изглежда така, сякаш съперниците на дъщеря й пият, пушат и позират разголени.

Съобщава се, че майката, 50-годишната Рафаела Споне, е изпратила докторското съдържание от анонимен номер на трима мажоретки и техните треньори.



Окръжният прокурор на окръг Бъкс, който обвини Споне по три точки за кибер тормоз над дете и три обвинения за тормоз, се позовава на термина deepfake при обсъждането на изображенията, както и на видеоклип, който изобразява едно от изпаданията на предполагаемата жертва.

Но обвинението повдига сериозни въпроси относно разбирането на правоохранителните органи за технология за дълбоко фалшиво изкушение и готовността на медиите да повтарят своите твърдения без проверка.

Въпреки че прокурорите не са предоставили конкретни данни, инструменти, предназначени да направят жените да изглеждат голи в изображения с помощта на изкуствен интелект (AI) наистина съществуват . Вместо това предполагаемото вейп видео е предизвикало значителен отблъскване от експерти за дълбоки фалшификати.

Въпреки че предполагаемият фалшив фалшив първоначално не беше достъпен за обществеността, миналия месец на NBC News беше предоставен запис на мобилно устройство на друго устройство, възпроизвеждащо вейп кадрите, след като една от предполагаемите жертви се появи.



Мади Хаме, 17-годишна мажоретка от отбора на Victory Vipers, отрече пред NBC News, че кадрите всъщност показват нейното вейпинг. Хаме казва, че е научила за видеото, след като е изпратено, твърди се от Споне, до нейните треньори по мажоретки.

„Мислех, че ако го кажа, никой няма да ми повярва, защото очевидно има доказателства, има видео, но очевидно това видео е манипулирано“, каза Хаме пред NBC News.



Daily Dot се обърна към майката на Hame Дженифър, която се появи заедно с Hame в интервюто на NBC News, за да се осведоми за видеото, но не получи отговор от пресата.

Хенри Адждер, британски експерт по дълбоки фалшификати и синтетични медии, беше един от първите, които повдигнаха въпроси за видеото за вейпинг, след като ABC News излъчи подобен доклад.

„Имах резерви по отношение на историята на майка, която прави фалшификати на мажоретни съперници на дъщеря си“, туитна Ajder миналия месец. „Един от видеоклиповете, публикувани от ABC, не изглежда да е фалшив, но въпреки това те го обозначават като такъв без съществени доказателства или анализ.“

Изглежда, че и други експерти по дълбоките фалшификации имат същите проблеми. Популярният създател на deepfake, известен онлайн с прякора Д-р Факенщайн - който в момента работи като изпълнител на изкуствен интелект в комедийното шоу Sassy Justice разработена от създателите на South Park Трей Паркър и Мат Стоун - каза пред Daily Dot, че изглеждащото видео за вейпинг не е изкуствено генерирано.



По-конкретно, д-р Факенщайн отбеляза, че във видеото липсват определени проблеми, които почти винаги се появяват при фалшиви фалшификати, когато дадено лице е затруднено от друг обект.

„Трудно е да се види, тъй като е видео на видео, но не ми прилича на дълбока фалшификация“, казаха те. „Светлината се променя като естествена, няма бъгове около мястото, където ръката покрива лицето, няма бъгове, когато облакът вейп отива пред лицето, което е много трудно, ако не и невъзможно, без проблеми.“

Daily Dot достигна до Полицейско управление на град Хилтаун , които разследваха и по-късно извършиха ареста срещу Споне, за да се осведоми за вейп видеото.

Шефът на полицията Кристофър Енгелхарт заяви, че вярва, че документите за обвинение срещу Споне не са категорично обозначили видеоклипа като фалшив фалшификат.

„Разбирам, че е бил включен или като фалшив фалшив продукт или подобна технология“, каза Енгелхарт.

В наказателна жалба срещу Споне, служителят на полицията в Хилтаун Матю Рейс се позовава на вейп видеото като „работа на програма, която е или е подобна на„ Deep Fakes “.

Когато го притискат дали отделът е имал възможността видеоклипът за вейпинг да не е изобщо фалшив, Енгелхарт заяви, че не е сигурен дали терминологията, използвана за описване на видеото, е въведена от предполагаемата жертва или полицията.

Енгелхарт твърди, че следователите са извършили съдебен анализ на видеоклипа, за да установят, че е манипулиран.

„Твърди се, че тази жертва не е вейпинг“, добави Енгелхарт. „Твърдението е, че тя [Споне] е успяла да манипулира това, за да изглежда, че е вейпирала.“

Но експертите са скептични, че дори най-добрите създатели на дълбоки фалшификати могат да създадат толкова убедително видео, да не говорим за Споне. На въпрос дали 50-годишната майка потенциално е получила помощ от създател на дълбоки фалшификати, Енгелхарт заяви, че макар това да е възможно, понастоящем няма доказателства, че Споне е имал съучастник.

Derpfakes, друг известен художник на deepfake, чиито творения са събрали милиони гледания онлайн, също разгледаха вейп видеото, представено от NBC News, и заявиха пред Daily Dot, че не могат да кажат със сигурност, че е манипулирано.

'Бих се наклонил да кажа, че е автентично', каза Дерпфакес. „Ако става въпрос за deepfake, тогава със сигурност е необходимо определено ниво на умение за визуални ефекти, а не за изчерпан софтуер.“

По време на пресконференция миналия месец, окръжният прокурор на окръг Бъкс Мат Уайнтрауб като че ли предположи, че видеоклипът за вейпинг се базира на съществуващи кадри от акаунтите на жертвата в социалните медии.

„Видеоклиповете или изображенията вече са съществували под някаква форма и след това нашето твърдение - това разбира се подлежи на доказване по време на процеса, тя е невинна, докато се докаже, че е виновна - но нашето твърдение е, че г-жа Споне е взела съществуващи изображения от съществуващите социални медии от тези три съществуващите акаунти в социалните медии на жертвите и са ги манипулирали “, каза Уайнтрауб.

Изявлението е подобно на твърденията на Енгелхарт пред Daily Dot, че Spone твърди, че е използвал легитимно видео като основа за deepfake. Полицията не знае дали лицето на предполагаемата жертва е добавено към видеоклип на друга млада жена, която вейпира, или вейп писалка и дим са добавени цифрово към легитимен видеоклип на предполагаемата жертва.

Независимо от това, експертите са скептични, че всеки от сценариите е точно представяне на кадрите.

Известният създател на deepfake, известен като Шамук , чиито видеоклипове са гледани повече от 21 милиона пъти само в YouTube, аргументира, че въпреки че разделителната способност на vaping видеото е „много ниска, просто е прекалено чиста, за да бъде фалшив фалшификат“.

„От моя гледна точка това не е фалшив фалшификат“, каза Шамук пред Daily Dot. „Димът от вейпа би бил твърде труден за създаване ... Просто не виждам никакви правдоподобни доказателства, че това е фалшив фалшификат.“

Weintraub също заяви по време на пресконференцията, че следователите са установили, че вейп видеото е било манипулирано след анализ на неговите „метаданни“, термин, който се отнася до вградена информация в дигитални медии, която може да разкрие как и кога е била последно редактирана.

Но след като се свърза с Рейс, полицаят, разследвал Споне, Daily Dot научи, че полицията всъщност никога не е получила оригиналното видео за вейпинг. Вместо това, подобно на това, което беше видяно в NBC News, полицията имаше достъп само до запис на мобилен телефон, заснет от Spone, на видеото, което се възпроизвежда на отделно устройство. Следователно всеки анализ на метаданни няма да включва информация за видеото с източника.

В отговор на въпросите как е могло да се установи, че заснетите кадри са били манипулирани без достъп до оригиналния видеоклип, Рейс твърди, че може да види с „невъоръжено око“ елементи, които „нямат смисъл“.

„Източникът откъде г-жа Споне излезе с това видео все още е въпрос“, каза Рейс. „И ние се надяваме, че г-жа Споне по време на предварителното изслушване или съдебно заседание ще ни освети дотолкова, доколкото е била нейният източник и намерение.“

Рейс категорично заяви, че „изкуственият интелект е бил използван“ на снимките, които карат няколко мажоретки да изглеждат разголени, което ще се приведе в съответствие със съвременните технологии, предназначени да направят точно това. Но съществуването на тези променени снимки, в допълнение към отказа на предполагаемата жертва във връзка с очевидното й включване във вейп видеото, изглежда е цялата основа за убеждението, че кадрите са били манипулирани, въпреки че досега нито едно техническо доказателство не подкрепя иск.

Думата „deepfake“, както се споменава в документите за таксуване, изглежда се превърна в общ термин сред полицията, районната прокуратура и медиите, когато обсъждаха каквото и да е цифрово съдържание, свързано с инцидента.

Следващото съдебно заседание на Споне ще се състои на 14 май, където Рейс казва, че повече информация за разследването ще бъде оповестена публично.

Макар новите доказателства да могат да променят случая, схващането, че полицията може да се позовава неправилно на автентично видео, манипулирано, не е извън сферата на възможностите.

Още по-обезпокоително изглежда, че никоя медия не се е опитвала да провери, че изстреляните кадри всъщност са фалшификат, преди да излъчат иска на милиони американци.

Възможната грешка от страна на медиите и шансът системата за наказателно правосъдие да приложи погрешно закони срещу видеоклипове, погрешно характеризирани като фалшиви фалшификати, е това, което най-много притеснява експертите.

„Страшно обаче, ако не е фалшив фалшификат“, добави Шамук. „Това може да е началото на хората, които могат да дискредитират реални доказателства, като просто кажат„ deepfake “.“

Настрана видеото за вейпинг, останалите обвинения срещу Споне, ако са верни, все още са изпълнени и поглъщащи. Но последствията от делото срещу нея, дори ако се разчита дори отчасти на неточна информация, могат да имат опасни последици в света на манипулирани (и неманипулирани) медии.


Водещите истории за тази седмица

„Омръзнало ми е да виждам прославени престъпници“: Ченгета в цялата страна даряват за набиране на средства за офицер, убил Бреона Тейлър
FCC е в задънена улица. Кога най-накрая Байдън ще поправи това?
Крадците на меми F * ck Джери взе почти 1 милион долара за облекчение на коронавируса
Добре дошли в непрекъснато разширяващия се свят на конспиративни теории за ваксини
„Дълбоката фалшификация“ на вейпинг тийнейджър е в центъра на случая на тормоз - но какво, ако не е фалшифицирана?
Регистрирай се за да получите Daily Dot’s Internet Insider бюлетин за спешни новини от фронтовата линия на онлайн.