Online botokkal, trollokkal és emberekkel küzd

(Inside Science) - Fél évszázaddal ezelőtt, 1968-ban Philip K. Dick kiadta a Do Androidok álma az elektromos juhról című sci-fi klasszikust? amely később a "Blade Runner" film lesz. A könyvben Dick bemutatta a Voigt-Kampff gép nevű eszközt - egy kihallgatási eszközt, amelyet kifejezetten arra terveztek, hogy megmondja az androidot az embertől. Most az élet a művészetet utánozza, a robotok emberként pózolva tombolnak az interneten. De a Dick regényében szereplő androidokkal ellentétben a botok manapság test vagy akár arc nélkül vannak. Beavatkoztak a 2016-os amerikai elnökválasztásba, és egyes szakértők szerint készen állnak a támadás folytatására a 2018-as középső szakaszokban.

De ha nem tudjuk felkerekíteni őket egy szobában, és kérdéseket feltenni nekik, hogyan válogathatnánk ki a botokat egy milliárdos online tömeg között?

I. Emberi programozók és nyomozók

"Soha nem tudok aludni. De nyugodtan fekszem, és nem tudok kukucskálni."
- David, "A.I. mesterséges intelligencia" (2001)

Ha valaki a nap 24 órájában tweetel, akkor lehet, hogy egy ember sok Red Bull-ot iszik - de valószínűbb, hogy bot.

A fizikai robotokkal ellentétben a botok manapság csak számítógépes algoritmusok, amelyek bármilyen feladatot elvégeznek a programozók által. A bot mindent elkövethet, kezdve a spam küldésétől millió e-mail címig, a webhely lebontásáig a sávszélességének túllépésével, egészen lenyűgözően összefüggő versek megírásáig és a Twitteren való közzétételig.

A politikai hírek ciklusát manipulálni próbáló Twitter-robotok esetében a fiók tweetjeinek időbélyegzőinek megtekintése csak egy módja annak megítélésének, hogy a száz vagy több karakter emberből vagy botból származik-e. Sokkal finomabb tippeket lehet felhasználni az embernek színlelő robotok kiválasztására.

Politológusok és számítógépes mérnökök legalább 2000 közepe óta vizsgálják a közösségi médiában elkövetett politikai botokat és trollokat, jóval azelőtt, hogy a 2016-os amerikai elnökválasztás befolyásolása érdekében a szociális média platformjaiba beszivárogtató orosz kiberhadjárat történt.

A Big Data folyóirat nemrégiben megjelent tanulmányában a kutatók emberi kódolókat képeztek ki, hogy 2014-ben és 2015-ben segítsenek azonosítani az orosz robotokat a Twitteren. Az emberi kódolókat - 50 moszkvai egyetemi hallgatót - arra tanították, hogy nyomokat keressenek, például ha egy felhasználó az avatar üres vagy úgy néz ki, mint egy stock fotó, ha egy felhasználónév túl sok számot tartalmaz, és ha egy profilleírás túl általánosnak tűnik. A kódolók árnyaltabb részleteket is kerestek, például azt, hogy a fiók barátai és követői közötti arányosság rendellenesnek tűnt-e, vagy a tweetjei csak szöveget tartalmaztak, és soha nem készítettek fényképeket.

De "a botok nem árulják el magukat botoknak" - mondta Joshua Tucker, a New York-i Egyetem politológusa és a cikk szerzője. Az igazsághoz való könnyű hozzáférés nélkül a következő legjobb dolgot tették meg - összehasonlítva az emberi kódolók válaszait, amelyek rendkívül következetesnek bizonyultak egymással. Ha egy Twitter-fiók botnak tűnik, és botnak tűnik 50 emberből 49-nek, akkor valószínűleg botról van szó.

Összességében az 50 kiképzett emberi kódoló nagyjából 250 botot szippantott ki körülbelül ezer Twitter-fiók között, amelyek az orosz politikáról tweeteltek a Krím-félsziget Oroszország általi annektálása körüli események során. De ezer fiók csak a Twitter jéghegy csúcsa. A további vizsgálat érdekében a kutatóknak maguknak kellett kölcsönkérniük a számítógépek erejét.

A gépi tanulási algoritmusok és az emberi kódolók által kurált adatokkal kombinálva a kutatók számítógépeket képeztek ki, hogy majdnem negyedmillió Twitter-fiókot elemezzenek, amelyek több mint 15 milliószor tweeteltek 2014-ben és 2015-ben.

Megállapították, hogy a 250 000 fiókból 97 000 volt aktív az időszak folyamán, amelynek nagyjából kétharmada bot lehet. Bizonyos napokon az orosz politikához kapcsolódó összes tweet több mint felét ezek a feltételezett botok tették közzé. Ahogy az várható volt, a botok ritkábban osztották meg tartózkodási helyüket vagy tweetelt egy mobil eszközről, de inkább többször is retweeteltek, mint az emberek, és amikor ezt tették, akkor inkább csak a szöveget retweetelték linkek nélkül.

Ellentétben azzal, amit a kutatók korábban vártak, ezek a robotok nem egyszerűen intenzíven tweetelnek és retweetelnek, mint a régi idők botjai, amelyek a 2000-es évek elején elkezdték elárasztani az online fórumokat és kommentszálakat a Viagra hirdetésekkel. Ehelyett úgy tűnik, némi finomságot alakítottak ki szemléletükben. Ez azt sugallja, hogy csata lehetett a Twitter programozói és az orosz botépítészek között, akik megpróbálták megszerezni az irányítást a más felhasználók Twitter-hírcsatornáiban.

Ez a háború a programozók és a botépítészek között nem új keletű - gondoljunk csak az e-mail spamszűrőjükre a "nigériai herceggel" szemben, de most ez a háború kiterjedt az internet minden más szegletére, és viszont a mi a mai élet.

"Az egyik nagy dolog, amire felfigyeltünk, az RT (korábban Russia Today) és a Sputnik címsorainak emelkedése, amikor online híreket keresünk. Ezek lényegében állami támogatott oroszországi médiaszervezetek" - mondta a NYU Tucker. "Alapvetően Önnek vannak Google keresési rangsorolási algoritmusai, amelyek megpróbálják kitalálni, hogyan kerülhetők el ezek a botok, és vannak olyan robotjai, amelyek megpróbálják leplezni magukat a Google-től."

"És a macska-egér játék folytatódik" - mondta.

II. Emberi trollok és szponzorok

" Emberibb, mint ember "a mottónk."
- Dr. Eldon Tyrell, "Blade Runner" (1982)

Bármennyire is fejlettek a botok, az álhíreket az interneten továbbra is többnyire az emberek generálják. A botok és botdetektívek közötti huzavona során a politikai szereplők néha felülkerekedhetnek egymással azzal, hogy egy kicsit több pénzt költenek, és tényleges embereket - közismert nevén fizetett trollokat - alkalmaznak, hogy az interneten is befolyásolják az információkat.

A fizetett trollok olyan emberek, akik olyan dolgokat csinálnak, mint bizonyos politikai menetrendek online előmozdítása, és ezeket sokkal nehezebb felfedezni, mint a botokat. Végül is, valakinek az IP-címének ásása nélkül, hogyan lehet megmondani, hogy YouTube-megjegyzés érkezik-e a Kreml alagsorából vagy egy indonéziai bungalóból?

Az internet globális hozzáférhetősége és felhasználói névtelensége hatalmat adott a botoknak és a trolloknak, ellentétben más korábban megjelent médiumokkal. Rég elmúltak a propagandának a napjai a szórólapok és a TV-tornyokba való betörések útján. Ma a fizetett trollok hamis híreket tudnak közvetíteni az amerikai otthonokba a bolygó bármely pontjáról, amennyiben van internetkapcsolat.

Az állam által támogatott trollok általi kizsákmányolás elleni küzdelem érdekében a Facebook megkezdte a fizetett politikai hirdetések címkézését, és megkövetelte a népszerű Facebook-oldalakat futtató felhasználók igazolását. Robyn Caplan, a New York-i Adat- és Társadalomkutató Intézet közösségi média szakértője szerint, bár ezek a protokollok nem képesek teljesen eltaszítani az internetes félretájékoztatásokat, mégis nyújtanak egy kis védelmet.

"Ha egy webhelyhez telefonszámra van szükség a fiók igazolásához, ez azt jelenti, hogy hamis számla létrehozásához égő telefont kell vásárolnia, ami további befektetés lenne" - mondta Caplan.

A névtelenség régóta az internet támasza. Kétélű kard, a névtelenség arra ösztönzi az embereket, hogy szabadon gondolkodjanak a társadalmi ellenőrzés vagy akár jogi következményektől való félelem nélkül. Különböző országok különböző szintű ellenőrzéssel közelítették meg az internet anonimitásának kérdését. A kínai kormány például most azt követeli, hogy a Weibo minden felhasználója - a kínai kínai megfelelője a Nagy Tűzfalnak - személyesen igazolja számláit a „Valódi név regisztráció” programon keresztül.

A felszínen a "Valódi név regisztráció" program célja a félretájékoztatások interneten történő elterjedésének megállítása, de néhány kommentátor a kormány kísérletének tekinti az online beszéd további ellenőrzését. Kínában már az USA-nál is szigorúbb törvények vannak netezői számára, például tiltják az online platformok számára a "nemzeti becsületet és érdekeket káros" tartalom létrehozását, közzétételét vagy népszerűsítését.

"A névtelenség és az elszámoltathatóság, valamint a szólásszabadság és az udvariasság között mindig lesz egy kompromisszum. Nem hiszem, hogy lenne értelme azt mondani, hogy egyik vagy másik oldalon kell lennünk - ez egy kedves hely a közepén, de senki sem tudja, hol van ez az édes folt - mondta Rishab Nithyanand, az Adat- és Társadalomkutató Intézet kutatója is. - Ez egy filozófiai vita, amelynek meg kell történnie.

III. Emberi jogalkotók és szabályozók

"400 000 szó van angol nyelven, és hét olyan van, amelyet nem mondhat el a televízióban. Micsoda arány ez!"
- George Carlin, "Hét szó, amit soha nem mondhatsz el a televízióban" (1972)

Valaki vihet a viharra a Twitteren követők millióinak, de nem egy helyi rádióműsorban, amelyet több százan hallgattak meg. Miért?

"Az internet mindig is olyan volt, mint a vadnyugat" - mondta Thaddeus Hoffmeister, az ohiói Daytoni Egyetem közösségi médiajogi szakértője.

Az internetes információk sokkal nagyobb szabadságot élveznek a tévéhez és a rádióhoz képest, amelyeket a Szövetségi Kommunikációs Bizottság szigorúbban szabályoz. Minden közösségi média platformnak általában saját közösségi irányelvei vannak. A Twitteren például találhat bizonyos, felnőtteknek szóló tartalmakat, amelyeket a Facebook nem engedélyez.

Ez év elején az amerikai kormány új lépést tett az internetes tartalom szabályozásában. Egy új törvény, amelyet Donald Trump elnök áprilisban írt alá, nevezi el a szexkereskedőkről szóló törvény engedélyezését, és engedélyezze az államoknak és az áldozatoknak az online szexkereskedelem elleni küzdelmet, vagy a FOSTA-SESTA, kivételt tesz az 1996-os kommunikációs tisztességességről szóló törvény meglévő 230. szakaszába, amely megvédi az online platformokat attól, hogy felelősségre vonják a felhasználók által közzétett adatokért.

A törvényhozók a Backpage-et - a Craigslisthez hasonló online apróhirdetési weboldalt - a törvény egyik fő motivációjának nevezték. Az oldalt többször beperelték, mert tudatosan tárolták a szexkereskedelemhez és a gyermekpornográfiához kapcsolódó hirdetéseket, de az ügyvédek a 230. szakasz miatt küzdöttek a per megnyeréséért.

Bár a törvényt jó szándék támasztja alá, Hoffmeister figyelmeztetett annak lehetséges nem szándékos következményeire. A jogi szakértők a törvénytervezet nyelvét "rendkívül homályosnak és átfogónak" bírálták. A törvény elfogadása után számos webhely, köztük a Craigslist és a Reddit, bezárta közösségeik egy részét.

További szabályozások segíthetik a meglévő technológiai óriások, például a Twitter és a Facebook piaci ellenőrzését is, amelyek már rendelkeznek olyan rendszerekkel, amelyek figyelemmel kísérik a felhasználói tartalmat - állítja Hoffmeister. A Facebook saját havi jelentése szerint a vállalat csak 2018 első három hónapjában 21 millió darab pornográf tartalmat távolított el. Előfordulhat, hogy egy kisebb induló vállalat nem rendelkezik ugyanazokkal az erőforrásokkal, hogy lépést tartson a szigorú előírásokkal - mondta Hoffmeister.

"Amikor Zuckerberg kollégiumából indította a Facebookot, nem kellett aggódnia ezekért a dolgokért. Tehát, ha új szabályokat léptetünk életbe a botok és az álhírek ellenőrzésére, ez hogyan hatna a következő induló cégre?" - mondta Hoffmeister.

Még akkor is késő, ha új törvényeket és platformprotokollokat vezetünk be ezeknek a rosszindulatú robotoknak és trolloknak a megfékezésére? Egy nemrégiben készült tanulmány szerint a negatív pártoskodás - az az elképzelés, hogy az emberek nem azért csatlakoznak, hogy támogassák a sajátjukat, hanem hogy ellenkezzenek a másik féllel - növekszik, és hozzájárul a közösségi médiában tapasztalható inaktivitásokhoz. Tehát a megosztottságnak ez a közelmúltbeli fokozódása csak természetes fejlemény az Egyesült Államok kétpártrendszerében, vagy van valami más, ami táplálja a tüzet?

IV. Emberi moderátorok és végrehajtók

- A tömeg mindig emberekből áll.
- Atticus Finch, A gúnyos madár megölése (1960)

Az intenzív viták a demokratikus és a republikánus ellenfelek között ugyanolyan amerikaiak, mint a tűzijátékok július negyedikén, de egyes felmérések szerint a politikai szakadék ma nagyobb, mint évtizedek óta. A közösségi médiában folytatott politikai viták trendjének tanulmányozásához Nithyanand a Reddit nevű online hírösszesítő és vitafórumot vizsgálta, amely a 2010-es évek eleje óta gyorsan népszerűvé vált.

A Facebookon és a Twitteren ellentétben a Reddit bejegyzéseit és kommentjeit emberi önkéntesek, valamint számítógépes algoritmusok folyamatosan moderálják. A Reddit minden tartalma kisebb, subbreddits nevű közösségekbe van rendezve, olyan nevekkel, mint/r/liberális vagy/r/konzervatív, mindegyik saját szabálykészlettel, valamint automatikus szűrőkkel és emberi moderátorokkal, amelyek figyelemmel kísérik és eltávolítják mindazt, ami megsérti ezeket a szabályokat. Emiatt a Reddit több ezer mikrokozmoszt biztosít a kutatók számára annak megvizsgálására, hogy ezek a subreddit közösségek miként alakítják felhasználói viselkedését.

Miután 2015 és 2016 között több mint 100 millió Reddit-megjegyzést elemzett, Nithyanand egyértelmű aszimmetriát fedezett fel a konzervatív és a liberális szubedrits között. Ebben az időszakban a konzervatív szubedritsek 1600 százalékkal növelték az összeesküvés-elméletekről és álhírekről ismert vitatott üzletekből származó linkeket, míg a liberális szubedditek szinte nem tapasztaltak ilyen tevékenységet.

Nehéz megmondani, hogy az 1600 százalékos növekedés annak tudatos erőfeszítéseinek tudható-e be, hogy túlnyomórészt beszivárogjon a konzervatív alsókba a liberális alsókhoz képest, Nithyanand azonban úgy véli, hogy a különbségek alakításában jelentős szerepet játszott a különböző alrendűek szabályainak és moderáló filozófiáinak különbsége. Nithyanand megállapította, hogy a vitatott üzletek bejegyzéseit a liberális subbreddits-en a moderátorok és az automatikus szűrők általában gyorsan letiltják vagy eltávolítják, és alig vagy egyáltalán nem vesznek részt a felhasználóikban. Ezzel szemben a konzervatív subbreddits moderátorai viszonylag „kihangosító” megközelítést alkalmaznak, és nagyobb szabadságot engednek felhasználóiknak a tartalom közzétételében és megosztásában.

A moderátorok ilyen hiányos fellépése a konzervatív szubrétditákban valószínűleg a kommentárok hatalmas beáramlását is táplálta, sok közülük sértő és gyűlöletkeltő, a szélsőséges alrendekhez kapcsolódó felhasználóktól származnak - derül ki Nithyanand tanulmányából. Vizsgálata kimutatta, hogy a konzervatív subreddits ilyen tevékenységek hatvanszoros növekedését tapasztalta az Egyesült Államok 2016-os elnökválasztásáig, míg a liberális aldobok csak kétszer növelték meg a hasonló forgalmat.

Nithyanand csapata olyan troll számlákat is talált, amelyek gyulladásos megjegyzéseket indítottak a politikai spektrum mindkét oldaláról. Mivel a gyulladásos kommentek általában több megjegyzést szülnek, ezek az állampolgári érvek fennmaradnak és visszhangoznak a subbredditsben, ahol a moderátorok vagy vonakodnak, vagy nem képesek hatékonyan megjelölni és eltávolítani a megjegyzéseket.

"Segítenünk kell a már túlhajszolt moderátorok számára eszközök nyújtásában, hogy megkönnyítsük a tartalom moderálását" - írta Nithyanand egy e-mailben.

A nap végén azonban, függetlenül attól, hogy ezek a botok és trollok mennyire invazívak az interneten, nem választhatják ki közvetlenül a kormányunkat helyettünk. Mi, az emberek, igen.

V. Emberi polgárok és választók

"R2-D2! Jobban tudod, mint bízni egy furcsa számítógépben!"
- C3PO, "Csillagok háborúja: V. epizód - A birodalom visszavág" (1980)

A botok és a trollok ereje abban rejlik, hogy képesek megtéveszteni az embereket. A RAND Corporation, az amerikai nonprofit politikai agytröszt nemrégiben készített jelentése számos ajánlást sorolt fel a demokráciák védelmére a közösségi médiában megjelenő rosszindulatú robotok és trollok megjelenésekor. A csoport ajánlásai olyan technikai megközelítéseket tartalmaznak, mint a robotok és a trollok hatékonyabb azonosítási és címkézési módszereinek kidolgozása és megvalósítása, valamint az "offline" megoldások, például a lakosság éberebbé tétele az álhírek és pletykák ellen.

A jelentés ahelyett, hogy kizárólag a közösségi média cégeire támaszkodna egyedül ebben a harcban, a jelentés azt ajánlja az országoknak, hogy oktassák polgáraikat a médiaműveltségre, bővítsék és fejlesszék a helyi megbízható hírek által létrehozott tartalmakat, lehetővé téve számukra, hogy jobban versenyezhessenek a külföldi állam által támogatott propagandával, és felhatalmazza az influencereket a közösségi médiában.

Tucker szerint az ellentétes politikai oldalak közötti küzdelem az információk online megosztása kapcsán valami fegyverkezési versenyt idézhet elő, mindkét fél folyamatosan próbálkozik egymással. Új csatatéret hoz létre, ahol a politikai hatalmat el lehet nyerni vagy elveszíteni, olyan polgárok manipulálásával, akik esetleg nem ismerik e szereplők motívumait és tetteit - mondta.

"Önnek vannak olyan rendszerei, amelyek megpróbálják kitalálni a közösségi média felhasználásának módját, hogy növeljék hatalmukat, de vannak olyan rezsimjeinek ellenfelei is, akik megpróbálják javítani saját képességeiket, hogy versenyezzenek ellenük" - mondta Tucker.

Ha "az információ a demokrácia pénzneme" - Thomas Jeffersonnak nem megfelelően tulajdonított idézet egyes weboldalakon - akkor érthető, miért próbálkozhatnak a politikai szereplők a közösségi médiában és az interneten történő információk manipulálásával. Július végén a Facebook bejelentette, hogy bezárt 32 hamis fiókot, amely megosztó online üzeneteket terjesztett a félidős választások előtt.

"Nagyon sok ideológiát vontak be az internet állítólagosan - gondolom, hogy valaki így fogalmazott - állítólag átláthatatlanságot ad az erőtleneknek, és átláthatóságot hoz a hatalmasak számára. De az internet ebből fejlődött, és továbbra is változik "- mondta Nithyanand. "Segítenünk kell a nyilvánosságot abban, hogy megértsék, ez az, amire valóban törődniük kell."