Як відрізнити контент, створений за допомогою ШІ, чому не варто поширювати його у соцмережах та до чого тут російський вплив
Читайте NV у Google
Сьогодні у соціальних мережах поширюється чимало контенту, створеного ШІ — відрізнити його допоможуть як спеціальні програми, так і уважність до деталей (Фото: Image by gt39 from Pixabay)
Згенеровані ШІ зображення, які видають за ілюстрацію справжніх подій, ставлять під сумнів реальність, застерігає експертка з фактчекінгу Альона Романюк.
Альона Романюк — медіаекспертка, головна редакторка фактчекінгового проєкту НотаЄнота, викладачка Інституту журналістики КНУ ім. Т. Шевченка та НУ Києво-Могилянська академія.
Як і чому контент, створений за допомогою технологій штучного інтелекту, заполонив наші соціальні мережі та яку загрозу він може нести, Альона Романюк розповідає у інтерв'ю NV.
— У соцмережах сьогодні бачимо багато ШІ-згенерованого контенту на тему війни в Україні. Навіщо створювати фейковий контент такого роду, якщо у нас є достатньо такого ж, але справжнього?
— У січні 2023 року на сайті Верховної Ради новину про трагедію в Дніпрі — російську ракетну атаку на дев’ятиповерховий будинок — проілюстрували згенерованим ШІ зображенням маленького хлопчика. Це викликало жваву дискусію і серед комунікаційників, і серед фахівців з дезінформації, і у журналістських колах. Більшість фахівців сходяться на тому, що ілюструвати згенерованим контентом справжні події, особливо ті, з яких все ж таки існують реальні фотографії, не варто. Це розмиває межі й створює враження, що тут війни немає, бо немає навіть справжніх відео та фото. Такі аргументи використовують росіяни, щоб переконати, що війна в Україні - вигадана і не така, якою її ілюструють українців.
Все це засилля зображень — військові, які стоять на колінах у болоті, діти, які просять поставити вподобайку, бо вони вирізьбили неймовірної краси об'єкт — насправді походить з ворожих сторінок, які мімікрують під українське. Ці сторінки мають українську символіку на аватарках, адмініструються здебільшого українською мовою, але — з умовного Таїланду, В'єтнаму чи Індонезії. Вони набирають аудиторію за допомогою контенту, який викликає емоції. Цілей можуть мати кілька, зокрема — виявити вразливу до конкретних типів дезінформації аудиторію. Наприклад, є ті, кого найбільше зачіпає релігійний контент, як-от молитви абощо. Інші — спрямовані на тих, хто реагує на дописи про старше покоління — бабусь, дідусів і їхні поневіряння. Таким чином на цих людей згодом можна достатньо легко впливати, розуміючи, за якою емоцією вони точно підуть і яку інформацію не будуть перевіряти.
З іншого боку, такі зображення використовують і у шахрайських схемах. Цей згенерований контент є інструментом для досягнення певних цілей, які здебільшого не є проукраїнськими.
— Часто можна побачити, що коли людям вказують, що поширений ними контент створений штучним інтелектом, вони відповідають, мовляв, яка різниця? Чому люди не бачать принципової різниці у тому, що розповсюджують?
— Під час атак по Ізраїлю у соцмережах поширювалися фото зі згенерованими за допомогою ШІ котами, які лежать під завалами. Схожі ілюстрації розповсюджувалися і після чергових обстрілів по території України. Ці ілюстрації поширювали у себе зокрема і деякі публічні люди, навіть народні обранці. Тобто одне і те ж саме згенероване зображення репостилося у різних сегментах, зі схожим підписом — мовляв, навіть тварини переживають страшне. І коли таким людям намагалися пояснити, що вони поширюють контент, створений штучно, аргументом у відповідь була фраза: «Важливий сам меседж, а не те, що зображення згенероване».
Насправді — ні. Важливими є і меседж, і те, щоб зображення або відео, яке поширюється, має бути справжнім. Або ж необхідно чесно зазначати, що його створено з використанням ШІ-технологій.
Коли згенеровані зображення видають за ілюстрацію справжніх подій, це врешті ставить під сумнів саму подію і меседж, який намагається донести людина. Коли росіяни підірвали Каховську ГЕС, у соцмережах почали активно поширювати зображення постраждалих тварин: це були собаки, коти у тазиках, які рятуються від повені. Коли ми почали перевіряти ці зображення, з’ясувалося, що всі вони походять з інших країн. Тобто це навіть не згенеровані ілюстрації, а просто фотографії, на яких зображені різні затоплення у інших частинах світу — на територіях Росії, Хорватії, Японії.
В Україні багато користувачів проблеми з цим не бачили — ці світлини «вірусилися» дуже сильно. Проте коли наші підписники, які перебували за кордоном, поширювали такі знімки у себе, їхня аудиторія намагалася перевіряти те, що там зображено. І несправжність фото викликала у іноземців сумнів: чи справді в Україні відбувається подібне затоплення? На що збираються гроші? Чи потрібна якась допомога, якщо фото і відео — не про реальні події? В цьому і полягає небезпека: ми підриваємо довіру і до самої події, і до людини або до інституції, яка поширює такий контент.
— Сьогодні поширюється також багато згенерованого ШІ контенту, який по своїй суті є безневинним, та все ж — фейковим. Наприклад, нібито домашні відео з кошенятами або песиками. Навіщо це створюють?
— ШІ — це технологія. Інструменти сервісів штучного інтелекту стали доступними. Фактично, безкоштовно, або за маленьку плату можна створити щось нове, цікаве, те, що раніше було неможливим.
Хтось використовує ШІ для просвітницьких, культурних цілей, задля культурної дипломатії. Наприклад, аби «оживити» умовних Лесю Українку, Івана Франка чи Михайла Грушевського.
Велика кількість користувачів користуються сервісами ШІ для розваги, та поширюють такий контент для привернення уваги аудиторії. Люди заходять у соцмережі не для того, щоб перевірити інформацію і критично сприймати кожен допис, вони хочуть відволіктися, розважитися, поспілкуватися з кимось, переслати друзям щось смішне. Тому розважальний контент, створений за допомогою ШІ, не сприймається як щось загрозливе.
— Можна також побачити, як у соцмережі у широкий вжиток також заходять згенеровані ШІ відео з використанням образів відомих персоналій, наприклад, відомі широкому загалу ведучі новин популярних каналів, які просувають пропагандистський меседж. Чому це небезпечно?
— Це так звані lip-sync deep fakes, коли відео справжнє, але є згенерованим звук. Цей звук накладають на зображення так, аби губи рухалися максимально в такт із тим, які слова проговорюються. Та збігаються аудіо і відео доріжка не завжди.
Зазвичай такі дипфейки використовують або для шахрайських схем. Наприклад, нібито починаються якісь нові виплати, і щоб оформити їх, потрібно перейти у Telegram-канал. Там вас «оброблятиме» спеціально навчена людина, спонукаючи перерахувати на щось кошти або ж надати дані своїх платіжних карток.
Використовувати такий тип шахрайства можуть також недобросовісні компанії. Раніше це були сайти, де за рахунок впізнаваних імен відомих лікарів рекламували препарат, «якого ви точно не знайдете в аптеці», бо це все — «фарм мафія», яка змовилася. Але цей «чудо-засіб» можна замовити тільки тут, і він обов’язково вилікує від варикозу, геморою або іншої «чуми ХХІ століття». Зараз для цього почали використовувати дипфейки з ведучими, а також викладати історії про те, як інші відомі люди нібито зцілилися-схудли-вилікувалися. Тут ставка робиться на авторитет і впізнаваність конкретних людей, за допомогою яких намагаються продати ці засоби.
Я наголошую: якщо у вас щось болить, треба звертатися до лікаря, а не слухати ведучих, тим паче у соцмережах. Ми знаємо, як раніше з такою самою метою використовувалися «золоті пірамідки».
Окремо хотілося б додати тут стосовно того, як використовуються у таких історіях боти. Раніше коментарі ботів було визначити значно легше. Зараз завдяки сервісам штучного інтелекту меседж-бокси, за якими працюють боти, формулюються зовсім різними словами. Тому за одним і тим же повідомленням, фактично, вже не можна відслідкувати ботів. Стає складніше доводити, що той чи інший контент — скоординована діяльність ботоферми, якраз таки завдяки тому, що ті, хто запускають такі дезінформаційні кампанії, використовують сервіси ШІ, щоб генерувати різні тексти, зображення з різними емоціями, з різними помилками, від імені різних осіб.
— Як відрізнити згенероване ШІ фото від справжнього?
— Перевірка ШІ-згенерованого контенту вимагає поєднання традиційних журналістських методів та новітніх технологічних підходів. Незалежно від типу контенту — текст, фото чи відео, можемо виділити кілька основних стратегій верифікації, серед яких основні - це логіка та точність.
Тому перше, що слід зробити, це перевірити джерело інформації, автора фото чи відео, де і коли воно було зроблено.
Якщо ж говорити про візуальну верифікацію, є кілька моментів, на які треба звертати увагу. Проте це все відносно. Перший — це анатомічні особливості людини, яка з’являється у кадрі. Десь може бути голова завелика або навпаки замала, немає однієї фаланги пальця абощо. Дуже глянцева шкіра говорить про те, що або фото дуже сильно оброблене, або згенероване штучним інтелектом. Якщо світлина занадто ідеальна у кольорах, пропорціях, формах тощо, можливо, вона не є правдою. Проте ШІ-сервіси розвиваються настільки швидко, що визначити «на око» згенерований контент чи справжній з кожним днем стає все складніше.
До речі, зараз у шоу-бізнесі існує ціла індустрія — це моделі, згенеровані ШІ. Наприклад, Айтана Лопес, ще два роки тому заробляла по 4 тис. дол. на місяць. Творці цієї моделі спеціально прописують промпти таким чином, щоб в неї була неідеальна шкіра, десь прищик, зморшка, створюючи ефект «справжності».
Якщо ж повернутися до верифікації фотоконтенту, то встановити, чи не фейк перед вами, допоможуть також інші об'єкти на світлині. Якщо це природа, дерева, рослини, дорога, будинки, машини, звертаємо увагу на деталі, тому що дуже часто штучний інтелект може «накосячити» саме в деталях. Наприклад, я бачила зображення, на якому течія у річки іде в різні боки — такого у житті просто не існує. Або дорога, яка йде під міст, а з-під мосту не виходить, на збільшеному зображенні автівки на дорозі зливаються в одну, а у лавки одна ніжка заходить кудись у стіну, дерево, на якому різне листя.
Часто визначити згенероване ШІ фото можна, роздивляючись зачіски та прикраси. Сережка звисає не з мочки вуха, а десь значно нижче, або просто із волосся, ланцюжок зростається з шиєю, а перстень виходить з пальця. Волосся може переходити в кофту. Що ж до одягу, тут треба уважно дивитися на замки, лямки, шнурівки — можуть бути невідповідності. Щоб знайти їх, часто треба збільшити світлину.
— А відео?
— Є дуже якісні відеопідробки, дипфейки з людьми. У соцмережах здебільшого використовують технологію, яка називається lip sync: беруть справжнє відео, генерують до нього аудіодоріжку і за допомогою спеціальних сервісів накладають цю аудіо доріжку на відео. Часто такі фейки можна розпізнати за тим, що аудіодоріжка і картинка не синхронізовані між собою. Один з відомих ліпсінк-дипфейків — це відео із колишнім головнокомандуючим ЗСУ Валерієм Залужним, де той закликав людей до повалення влади в Києві, виходу на Майдан і захоплення влади військовими. Такі відео мають гіршу якість, ніж ми звикли, тому що після кожної обробки втрачають її. Але я думаю, що у найближчому майбутньому якість таких дипфейків ставатиме кращою.
Один із різновидів дипфейків — це маски. Навіть у соціальних мережах є можливість накладати такі маски у режимі реального часу. В прямому ефірі, коли ми просимо людину повернути голову праворуч або ліворуч, маска злітає. Якщо ж це записане відео, тут треба уважно дивитися на межу між шиєю і обличчям, також на те, чи збігаються передній і задній плани.
Якщо це відеопідробка, треба розуміти, з якою ціллю вона зроблена. Якщо мета — дезінформувати, тут може відрізнятися фон, на якому знімають, і якість цього фону, від об'єкту, який стоїть, говорить або рухається.
Звісно, важливим є і першоджерело: хто зняв фото або відео, де це зняли, чи є підтвердження у якісних медіа, на офіційних акаунтах цієї людини або установи. Тож спробуйте встановити автора світлини або її першоджерело. Якщо першоджерела немає, а світлина поширюється у якійсь сумнівній фейсбук-групі на кшталт Всі українці за перемогу, дуже ймовірно, що це — ворожа група, яка мімікрує під українську. Таким чином вона набирає собі контент за допомогою згенерованих зображень.
— Якими програмами користуватися, щоб перевірити фото або відео на наявність ШІ-втручань?
— Зараз бум серед стартапів, які використовують ШІ, також окремо зʼявляється велика кількість стартапів і проєктів, спрямованих на ідентифікацію ШІ-контенту.
Проте слід памʼятати, що сервіси з ідентифікації згенерованого контенту можуть бути лише помічниками, адже здатні давати хибно позитивні й хибно негативні результати.
Для самостійної перевірки контенту можна використовувати такі сервіси, як:
- https://www.aiornot.com/
- https://wasitai.com/
- https://hivemoderation.com/ai-generated-content-detection
- https://brandwell.ai/ai-image-detector/
- https://aiimagedetector.org
- https://isitai.com/ai-image-detector/
- https://app.illuminarty.ai/
та інші.
У будь-якому разі, подібні детектори не можуть бути основним методом, а при роботі з зображеннями слід використовувати різні інструменти та підходи: робити кросфактчекінг і памʼятати, що технології з ідентифікації ШІ завжди зʼявляються після технологій створення ШІ.