Vietnamské ‘obsahové farmy’ zaplavily Facebook falešnými zprávami o britské politice

Expertní vyšetřování BBC odhalilo rozsáhlou síť stránek provozovaných z Vietnamu, které pomocí umělé inteligence vytvářejí falešné zprávy o britských politicích a šíří je na Facebooku.

Tisíce sledujících, jeden zdroj

Když BBC začala zkoumat podezřelé stránky na Facebooku, objevila znepokojivý vzorec. Desítky stránek s názvy napodobujícími britská zpravodajská média publikovaly identický nebo velmi podobný obsah. Každá měla tisíce sledujících, ale při bližším pohledu na transparentní funkce Meta se ukázalo, že téměř všechny byly provozovány z Vietnamu.

Professor Martin Innes z Cardiffské univerzity označil tyto stránky za ‘obsahové farmy’ navržené tak, aby se staly virálními. ‘Jsou řízeny ziskem a udělají cokoli, kde si myslí, že mohou získat pozornost na svůj obsah, pokud jim to vydělá peníze,’ vysvětlil expert na bezpečnost.

Stránky často zobrazovaly více politiků, včetně Nigela Farage, Borise Johnsona, Rishiho Sunaka a Zie Yusufa, ve stejných vymyšlených situacích – například jak bouřlivě opouštějí rozhovor s Laurou Kuenssbergovou po dramatických hádkách.

Deepfaky jako zbraň dezinformace

Nejznepokojivějším objevem byly AI generované videa zobrazující velšské politiky v kompromitujících situacích. Některá falešně ukazovala, jak podporují rivaly nebo líbají kolegy. Poslankyně Alex Davies-Jones z Labouristické strany popsala svou zkušenost: ‘Nemyslím si, že najdete politika, kterému se to nestalo… říct to nahlas mě dělá docela smutnou.’

Tyto deepfaky představují novou úroveň sofistikovanosti v oblasti dezinformací. .

Elektorální komise mezitím vyvíjí software pro odhalování a boj proti deepfakům před květnovými volbami do velšského a skotského parlamentu.

Meta reaguje, ale problém přetrvává

Meta odstranila některé z těchto stránek poté, co ji kontaktovala BBC, ale během vyšetřování se téměř denně vytvářely nové stránky. Společnost označila některé příběhy varováním, že byly prokázány jako nepravdivé nezávislými fact-checkery – například poté, co Full Fact vyvrátila příběh o hospitalizaci Nigela Farage.

Přesto bylo možné najít velmi podobné příběhy, které toto varování neměly. .

Professor Innes upozornil, že nemůžeme si být jisti, zda jsou všichni tisíce sledujících těchto stránek skuteční lidé, protože provozovatelé stránek často používají boty k ‘podvádění algoritmu’.

Širší kontext globálního problému

Problém vietnamských obsahových farem není izolovaný. .

.

Tento případ ukazuje, jak se moderní technologie stávají nástrojem pro manipulaci veřejného mínění v globálním měřítku, přičemž hranice mezi pravdou a fikcí se stávají stále rozmazanějšími.