Нещодавно штучний інтелект став інструментом для поширення масштабної дезінформації: вірусне відео, згенероване ШІ, сфабрикувало чутки про нібито повалення президента Франції Еммануеля Макрона. Цей інцидент викликав міжнародний резонанс і змусив главу держави публічно реагувати, що значно загострило дискусію про відповідальність онлайн-платформ за контент. Ролик набрав мільйони переглядів, перш ніж його врешті-решт видалили.
Фальшиве відео, яке швидко поширилося у Facebook, набрало понад 12 мільйонів переглядів. Воно було майстерно стилізоване під новинний репортаж, демонструючи вертоліт, військових та натовп, а також ведучу, яка оголошувала про “державний переворот” у Франції. Жоден елемент цього матеріалу не був справжнім, його повністю створили за допомогою передових технологій штучного інтелекту.
Про існування цього підробного відео Еммануель Макрон дізнався з несподіваного повідомлення від свого іноземного колеги. “У неділю один з моїх африканських колег зв’язався зі мною та написав: ‘Шановний президенте, що з вами відбувається? Я дуже хвилююся'”, — розповів Макрон, підкреслюючи шок, який викликав фейк. Звернення до французького порталу Pharos для повідомлень про незаконний контент стало першим кроком у боротьбі.
Незважаючи на запит Pharos до Meta з вимогою видалити відео, компанія відмовилася, мотивуючи це відсутністю порушень правил Facebook. Тоді президент вирішив втрутитися особисто, використовуючи свій вплив. “Я схильний думати, що маю більше влади чинити тиск, ніж інші люди”, — зазначив Макрон, хоча визнав, що навіть прямі звернення не одразу дали бажаний результат.
Президент Франції жорстко розкритикував авторів і розповсюджувачів подібного контенту, називаючи їхні дії небезпечними. “Ці люди насміхаються з нас. Їм байдуже до спокою публічних дебатів, їм байдуже до демократії, і тому вони наражають нас на небезпеку”, — наголосив він. Цей інцидент підкреслює зростаючу загрозу для стабільності демократичних процесів.
З’ясувалося, що фейкове відео опублікували з Facebook-акаунту під назвою “Islam”, який, попри назву, не містив релігійного контенту. Обліковим записом керував підліток із Буркіна-Фасо, який, за даними журналістів, заробляє на життя, продаючи курси з монетизації штучного інтелекту. Автор видалив ролик лише через тиждень після його публікації, після значного політичного та суспільного резонансу.
Цей випадок є лише одним із прикладів швидкого зростання кількості складних для розпізнавання фейкових відео. Багато з них використовують ШІ-ведучих з мікрофонами, стилізованими під відомі медіа.
Зокрема, йдеться про технологію Sora 2 від OpenAI, яка дозволяє створювати гіперреалістичні 10-секундні відео з текстових підказок. Водяні знаки Sora можна легко видалити на етапі постпродакшну, що робить розпізнавання підробки ще складнішим.
Запуск таких технологій у жовтні призвів до різкого зростання обсягів подібного контенту у соцмережах.