Az egész Jake Lang akciójával indult. A január 6-i Capitolium-ostrom miatt korábban börtönben ülő szélsőjobboldali aktivista egy békés vallási felvonuláson jelent meg Dearbornban egy olyan táblával, amely százmillió muszlim deportálását követelte. Dulakodás tört ki, három embert őrizetbe vettek. Lang ezután „keresztes menetet” hirdetett a városba.
A valódi utcai konfliktus itt találkozott az AI-szeméttel.
Egy verekedésből az interneten már „megkövezett keresztény” lett
Lang a következő demonstrációját már olyan mesterséges intelligenciával készített képpel hirdette, amelyen kardot rántó keresztény lovagok rohannak muszlimok felé. A felirat nagyjából azt üzente: keresztes hadjárat vagy lecserélnek benneteket.
Kapcsolódó cikk
Innen a történet gyorsan elkezdte elveszíteni kapcsolatát a valósággal. Facebook-posztokban már úgy terjedt tovább az eset, mintha muszlimok halálra köveztek volna egy keresztényt Dearbornban. Ilyen haláleset nem történt.
A hazugság mellé viszont megérkeztek a képek. AI-val generált videók és posztok mutattak fegyveres kereszteseket, feldühödött tömegeket és egy olyan Dearbornt, amely inkább hasonlított vallásháborús propagandafilmre, mint Michigan egyik városára.
A Futurism által összegyűjtött bejegyzések között már olyan felszólítások is megjelentek, amelyek a muszlim lakosság erőszakos eltávolítását követelték, mások pedig arra biztatták a motorosokat, hogy felfegyverkezve érkezzenek a városba.
Ehhez kapóra jött a Sturgis Motorcycle Rally is. A több százezer motorost vonzó dél-dakotai találkozó résztvevőit egyes posztok már arra biztatták, hogy a rendezvény után tegyenek egy nagyjából 1000 kilométeres kitérőt Dearborn felé.
A Facebook ezt a filmet egyszer már látta
A Meta a Futurism megkeresésére saját gyűlöletbeszéd-szabályzatára hivatkozott. A lap által jelzett tartalmak közül néhányat eltávolítottak, mások azonban fennmaradtak – köztük olyan bejegyzések is, amelyek muszlimokat dehumanizáló kifejezésekkel illettek, illetve tovább terjesztették a nem létező megkövezés történetét.
És itt már nehéz úgy tenni, mintha csak néhány megvadult kommentelőről lenne szó.
A Facebook történetében ugyanis nem először találkozik egymással politikai hazugság, algoritmikus terjedés és valódi erőszak. A január 6-i Capitolium-ostrom előtt választási összeesküvés-elméletek futottak végig a platformon – történetesen Jake Lang maga is részt vett az ostromban. Még súlyosabb előzmény Mianmar, ahol a rohingya muszlimok elleni gyűlöletkeltés tömegesen terjedt a Facebookon a 2017-es etnikai erőszak előtt és alatt.
Most ehhez jött hozzá egy új eszköz: a generatív AI. Nem kell fotó egy feldühödött muszlim tömegről, mert néhány másodperc alatt lehet gyártani egyet. Nem kell megtörténnie egy keresztény megkövezésének, ha egy kép, egy videó és néhány száz egymást erősítő komment elég ahhoz, hogy valóságként kezdjen élni.
A Dearbornba meghirdetett menetet augusztus 18-ra szervezik. Addigra az interneten már jóval véresebb történet épült köré, mint ami a város utcáin valaha megtörtént.
