Як розпізнати відео, створене штучним інтелектом

На даний момент у нас немає 100-відсотково надійного способу виявлення контенту штучного інтелекту щоразу, але є деякі ознаки згенерованого комп’ютером тексту, аудіо, зображень і відео, на які варто звернути увагу. Додайте трохи людського інтелекту, і зазвичай можна визначити, коли є велика ймовірність, що щось генерується штучним інтелектом.

Тут ми зосередимося на відео, створеному штучним інтелектом, створеному такими інструментами, як Sora від OpenAI, а також включили кілька прикладів. Наступного разу, коли ви натрапите на відео, в якому не впевнені, подивіться, як воно відповідає цим критеріям.
Поганий текст

Ви помітите, що текст відсутній у багатьох відео (і зображеннях) зі штучним інтелектом. Генеративний штучний інтелект насправді погано працює з текстом, тому що він не розуміє букви або мову — принаймні, не так, як люди. Знаки штучного інтелекту часто виглядають так, ніби вони написані чужою мовою, тому звертайте увагу на спотворений текст або взагалі його відсутність.

Це не означає, що хороший текст не з’явиться у відео зі штучним інтелектом, але якщо це станеться, він, ймовірно, буде доданий пізніше. У цьому трейлері Monster Camp (вбудованому нижче), створеному Luma AI, деякі вивіски виглядають добре (і, швидше за все, були додані вручну) — зверніть увагу на написи на автобусі та ярмаркових кіосках, щоб знайти трохи тарабарщини. Вам потрібно буде уважно подивитися, тому що дивний текст видно недовго.

Швидкі (або повільні) розрізи

Це підводить нас до ще однієї відмінної риси відео, створеного штучним інтелектом: ви часто помітите, що монтажі дуже короткі, а дія рухається дуже швидко. Частково це робиться для того, щоб приховати невідповідності та неточності у відео, які вам показують — ідея полягає в тому, щоб створити враження чогось реального, а не самого справжнього.

З іншого боку, і це суперечить тому, що ми щойно сказали, іноді дія сповільнюється. Однак кінцева мета одна: не дати швам проявитися на межі можливостей ШІ.

У цьому музичному відео, створеному штучним інтелектом (вбудованому нижче) від Washed Out, це перше: все швидко та швидко, і зникло, перш ніж ви встигнете як слід на це подивитися. Спробуйте поставити відео на паузу в різних точках, щоб побачити, скільки дивацтв ви можете помітити (ми помітили, що принаймні одна людина зливається зі стіною).

Погана фізика

Генеративний штучний інтелект знає, як змішувати рухомі пікселі, щоб показати щось, що нагадує кота, місто чи замок — однак він не розуміє світ, 3D-простір чи закони фізики. Люди зникатимуть за будівлями або виглядатимуть по-різному між сценами, будівлі будуть побудовані дивним чином, меблі не вишикуватимуться належним чином тощо.

Розглянемо цей знімок з дрона (вбудований нижче), створений Сорою з OpenAI. Слідкуйте за зграєю людей, що йдуть до нижньої частини сцени в нижньому лівому куті: всі вони поглинають один одного і, нарешті, зливаються з перилами, тому що штучний інтелект бачить їх як пікселі, а не людей.

Моторошна долина

Відео зі штучним інтелектом часто має блиск, який здається неприродним, і ми вже знайомі з фразою «моторошна долина», коли мова заходить про комп’ютерну графіку, яка намагається відтворити те, що є реальним і природним. Ви часто відвідуватимете моторошну долину під час перегляду відео зі штучним інтелектом, навіть якщо це лише на короткі моменти.

Якщо ви подивитеся на фірмовий фільм, знятий Toys R Us за допомогою Sora AI, ви побачите, що посмішка та рухи волосся маленької дитини виглядають підозріло неприродно. Це також виглядає як інша дитина від сцени до сцени, тому що він не актор: він є згенерованим 2D-зображенням, заснованим на тому, як, на думку штучного інтелекту, повинен виглядати хлопчик.
Ідеальні (або недосконалі) елементи

Це ще одна проблема, де є щось на кшталт протиріччя, тому що відео зі штучним інтелектом можуть бути видані елементами, які є занадто ідеальними або недостатньо ідеальними. Зрештою, ці кліпи генеруються комп’ютерами, тому малюнки на будівлях, транспортних засобах або матеріалах можуть повторюватися знову і знову, у візерунках, занадто бездоганних, щоб існувати в реальному житті.

З іншого боку, штучний інтелект продовжує боротися з усім природним, будь то рука, підборіддя або листя, що дме на вітрі. У цьому відео зі злітно-посадкової смуги AI астронавта, що біжить, ви помітите, що в руках безлад (а також багато фонової фізики неправильна, а текст розмазаний).

Перевірте контекст

Тоді у вас є всі інструменти, які ми вже мали для виявлення дезінформації: ще до того, як з’явився генеративний штучний інтелект, існував Photoshop, тому деякі правила виявлення фейків залишаються незмінними.

Контекст є ключовим фактором: якщо відео походить з офіційного облікового запису New York Times у соціальних мережах, то, швидше за все, воно заслуговує на довіру. Якщо його пересилає безлика людина на X з великою кількістю цифр у своєму імені користувача, можливо, менше.

Перевірте, чи події на відео були зняті з інших ракурсів, чи широко висвітлювалися в інших місцях, чи справді має якийсь сенс. Ви також можете перевірити людей, зображених у відео: якщо на задньому плані є якась розповідь Моргана Фрімена, Морган Фрімен зможе перевірити її так чи інакше.