Az evés-zavaros hozzászólások hogyan kerülik el a szűrőket a közösségi médiában

Egy új tanulmány bemutatja, hogyan küzdenek az olyan webhelyek, mint az Instagram és a Pinterest az pro-ED tartalom mérsékléséért, vagy akár az ajánlási algoritmusaik megakadályozásában.

Szinte addig, amíg az internet létezik, ugyanúgy vannak az étkezést zavaró közösségek: blogok, csoportok, fórumok és közösségi média profilok, ahol a felhasználók megosztják a rendezetlen étkezéssel és a testképpel kapcsolatos történeteket és fotókat. Egyes tagok egyszerűen ítélet nélküli helyet akarnak kifejezni a bonyolult betegséggel kapcsolatos érzelmeikkel, mások viszont veszélyesebb magatartást hirdetnek, például szélsőséges diétákra ösztönzik, vagy lebeszélik az embereket a segítségkéréstől.

És hasonlóan az interneten található egyéb káros tartalmakhoz, az ED-pro-közösségeket befogadó platformok is régóta küzdenek azzal, hogyan lehet őket moderálni. 2001-ben a Yahoo több mint 100 pro-ED webhelyet távolított el szervereiről, mondván, hogy azok megsértették a szolgáltatási feltételeket. Egy évtizeddel később egy HuffPost bemutató tizenéves lányokról, amelyek a „Thinspiration” blogokat készítették a Tumblr-en, arra késztette ezt a webhelyet és másokat, hogy kifejezetten tiltják az ED-párti közösségeket.

A múlt hónapban a New Media & Society szakértői folyóiratban megjelent új kutatás rávilágít arra, hogy az ED-párti csoportok hogyan kerülik tovább a mértékletességet. A tanulmány azt is megállapította, hogy az olyan oldalak, mint a Pinterest és az Instagram, néha több pro-ED tartalmat javasolnak a felhasználóknak az ajánlási algoritmusaik révén. Ez nem elszigetelt probléma - a kutatók azt tapasztalták, hogy az olyan platformok ajánlómotorjai is problémás tartalmakra utalnak, mint az összeesküvés-elméletek. De az álhírektől eltérően azok a felhasználók, akik megosztják az étkezési rendellenességeket, súlyos betegségben szenvedhetnek, mint például étvágytalanság vagy bulimia. A vállalatoknak nemcsak a tartalmat kell mérlegelniük, hanem azt is, hogy az eltávolítás milyen hatással lehet a kiszolgáltatott emberekre, akik megosztják.

"Nagyon, nagyon nehéz utolérni, hogy mi illene a toxikus vagy étkezést zavaró tartalmak kategóriájába" - mondja Claire Mysko, az Országos Evészavarok Szövetségének vezérigazgatója, amely közösségi oldalakkal dolgozott a moderátorok mérséklésében. -ED közösségek. „Azok az emberek, akik kiküldik, és akik részt vesznek ezekben a közösségekben, valóban küzdenek. Nem akarja beállítani, mivel ez jó és rossz, démonizálja azokat a felhasználókat, akik közzéteszik ezt a tartalmat. "

A hashtag dilemma

Az Új média és társadalom tanulmány a hashtagekre mint a tartalom moderálásának eszközére összpontosít, és aláhúzza, hogy a technológiai vállalatok mennyire nehezen találnak problémás tartalmat, és eldönthetik, mit szabad és mit nem szabad eltávolítani.

Miután a HuffPost cikk 2012-ben megjelent, az Instagram, a Pinterest és a Tumblr elkezdte moderálni az pro-ED hashtageket és a keresési kifejezéseket.

Amikor a felhasználók étkezési rendellenességekkel kapcsolatos címkékre keresnek, például #bulimia, a webhelyek vagy teljesen blokkolják az eredményeket, vagy felugró üzenetet jelenítenek meg arról, hogy segítséget akarnak-e kérni.

Ez érthető stratégia: a hashtageket a képektől eltérően az automatizált érzékelő rendszerek és az emberi moderátorok könnyen kategorizálhatják és megjelölhetik. Azt is, hogy hány ember talál új tartalmat, ezért bizonyos hashtagek blokkolása korlátozza, hogy egy bejegyzés hány embert érhet el. Történelmileg a címkézett tartalmakat a társadalomtudomány kutatói is túlhangsúlyozzák ugyanezen okok miatt. Könnyebb elemezni egy adott hashtagek nagy adatsorát, mint manuálisan átfésülni a címkézetlen tartalmakat.

A konkrét hashtagek azonban nem állandó jellegűek a közösségi médiában, és könnyen átalakulhatnak a közösségek igényeinek megfelelően. A Georgia Institute of Technology külön 2016-os tanulmánya azt találta, hogy az ED-pro felhasználók egyszerűen szándékosan kezdték elgépelni vagy megváltoztatni a kifejezéseket: a „#thinspiration” például „#thynspiration”, „#thinspire” vagy „#thinspirational” lett. A mértékletesség elkerülése érdekében sok pro-ED fiók és blog egyáltalán nem használ hashtageket, így a platformok és a kutatók számára nehezebb megtalálni őket.

"Ez a csoport valóban hozzáértő, mert tudják, hogy mit csinálnak, az elfogadhatatlan a társadalom szemében, a platform szemében, a trollok szemében" - mondja Ysabel Gerrard, a legutóbbi tanulmány szerzője és a Sheffieldi Egyetem oktatója . "Annyira tisztában vannak vele, hogy a számlájukat le lehet vonni."

A tanulmány lefolytatása

Gerrard kutatását azzal kezdte, hogy új fiókokat hozott létre az Instagramon, a Pinteresten és a Tumblr-en egy iPhone-on. Mindhárom webhely közösségi irányelvei kimondják, hogy nem engedélyezik a felhasználók számára az olyan tartalmak közzétételét, amelyek „ösztönzik vagy sürgetik az embereket, hogy vállalják az önsérüléseket”, vagy amelyek „aktívan népszerűsítik”. táplálkozási zavarok."

Rögtön megállapította, hogy az Instagram ED-párti hashtag-tilalmának könnyű megoldása van: kereshet olyan embereket, akiknek a felhasználónevében vannak a kulcsszavak, csak nem hashtagged a bejegyzéseikben. 74 olyan nyilvános fiókot azonosított, amelyek nevében vagy életrajzában olyan kifejezések voltak, mint „proana”, „proanorexia” vagy „combhézag”, és akik szintén pro-ED tartalmat tettek közzé. Ezután 1612 bejegyzésüket elemezte - amelyek közül csak 561-nek volt hashtagje - a kép tartalmának és feliratának katalogizálásával.

A Tumblr-en Gerrard számos olyan pro-ED tartalommal kapcsolatos kifejezést követett, mint a „thinspo”, „proana” és „bulimic”. A Tumblr lehetővé teszi a témák követését anélkül, hogy konkrét felhasználókat kellene követnie. Például egyszerűen követheti a „filmeket” anélkül, hogy követne egy adott felhasználót, aki erről a témáról posztol. Ezzel a módszerrel 50 pro-ED blogot talált és mindegyikből 20 bejegyzést elemzett, vagyis összesen 1000 bejegyzést. A bejegyzésekből csak 218-at jelöltek meg.

„Ez a csoport igazán hozzáértő, mert tudják, hogy mit csinálnak, az elfogadhatatlan a társadalom szemében, a platform szemében, a trollok szemében.” Ysabel Gerrard

A 2612 Instagram és Tumblr bejegyzést megvizsgálva Gerrard egy olyan bonyolult lexikont tárt fel, amely valószínűleg megkerülne minden platform moderációs erőfeszítéseit. Például számos bejegyzést talált az étrendhez kapcsolódóan, például az Ana Boot Camp diétát, amely elősegíti a kalóriabevitel drasztikus csökkentését. Az ABC Diet néven hirdetve nehéz megkülönböztetni a mainstream fitnesz- és diétatartalmatól, amely az olyan alkalmazásokban terjed, mint az Instagram. Néhány ilyen étrend, például a népszerű ketogén étrend, szintén rendkívül korlátozó, jelezve, hogy mennyire elmosódott a határ az ED-párti közösségek és mások között, amelyek látszólag nem sértik a webhely szabályait.

Az ajánlások szerepe

A tanulmány egyik legaggasztóbb megállapítása az a szerep, amelyet az ajánlási algoritmusok játszanak. Gerrard azt találta, hogy miután a pro-ED bejegyzéseket megnézte a Pinteresten, a webhely azt javasolta, hogy „szerethessen” más olyan „ötleteket”, amelyek mind a halálhoz és az öngyilkossághoz kapcsolódnak, mint például a „hogyan kell meghalni” és a „meghalni akaró idézetek”. Az étkezési rendellenességek gyakran együtt járnak a mentális betegségek más formáival, például a depresszióval és a szorongással. A webhely e-mailben ajánlotta Gerrardnak a „népszerű csapok az Ön számára” témákat, amelyek olyan témákat tartalmaztak, mint a „csípőcsontok”.

"Irányelveink vannak az ilyen típusú tartalom más webhelyekről és a közösségi médiából történő platformmentésünk ellen." - mondta a Pinterest szóvivője közleményében. „Ha ez a tartalom belép a rendszerünkbe, számos automatizált és kézi eljárást alkalmazunk annak eltávolítására vagy megnehezítésére, és nem jelenítünk meg eredményeket, ha valaki rákeres ezekre a kifejezésekre. Nagyon komolyan vesszük ezt a tartalmat, és mindig azon dolgozunk, hogy jobbá váljunk. ”

Gerrard kutatásai szerint az Instagram és a Tumblr ajánlási algoritmusai hasonlóan viselkedtek. Az Instagramon például Gerrard soha nem tetszett és nem kommentált egyetlen olyan bejegyzést sem - amelyet a felhasználók láthattak és potenciálisan befolyásolhatták a viselkedésüket -, de „mentette” az ED-pro-tartalmat a mentett bejegyzések mappájába, amely nem küld értesítést a poszter. Miután elkezdte menteni a dolgokat, az Instagram Explore lapja elárasztotta az egyéb pro-ED tartalmakat. Az Instagram és a Tumblr nem válaszolt az ismételt megjegyzéskérésekre.

A más platformokon található ajánlási algoritmusok akaratlanul is problémás tartalmat hirdettek a felhasználók számára. A New York Times és a Wall Street Journal is az év elején találta meg, hogy a YouTube ajánlási algoritmusa kiterjeszti az összeesküvés-elméleteket és más szélsőséges tartalmat.

"A platformok algoritmikusan még nem egyeztették az étkezési rendellenességekkel és az önkárosítással kapcsolatos erkölcsi álláspontjukat, vagyis egyszerre tolják és tagadják a problémás tartalmat a felhasználóik számára" - írta Gerrard tanulmányában.

Mit tehetnek a platformok

Nem minden szakértő ért egyet azzal, hogy a pro-ED tartalmat nagykereskedelemben kell lebontani. Egy tanulmány megállapította, hogy ezek a csoportok hasznos helyek lehetnek az emberek számára a betegségük megfogalmazásában, néha először. További aggodalom, hogy ha a platformok eltávolítják az ED-pro felhasználókat, akkor nehezebben elérhető helyekre költöznek, mint például privát csoportok és elmúló alkalmazások, például a Snapchat.

Ugyanakkor kétségtelen, hogy az étkezést zavaró csoportok mérgezőek és károsak lehetnek. "Ez volt a betegség egyik legsúlyosabb súlyosbítója számomra, ezek a weboldalak" - mondja az egyik nő, aki felépült az étvágytalanságból, és azt kérte, hogy ne használják valódi nevét. „A fórum tökéletes hely arra, hogy minden idejét és energiáját a rendellenességére fordítsa. Megkapja a betegségének érvényesítését. ”

Mysko, a NEDA vezérigazgatója és Gerrard egyetértenek abban, hogy a közösségi média cégei többet tehetnek az étkezési rendellenességekkel küzdő embereknek, akik az oldalukat használják.

Gerrard azt javasolja, hogy a platformok tartózkodjanak a személy teljes fiókjának törlésétől, és inkább fontolja meg az egyes bejegyzések törlését. Így nincsenek hirtelen elzárva más, esetleg támogató felhasználóktól. Sok ED-pro-fiók álnevet használ, ami megnehezíti a kapcsolattartás helyreállítását, ha egy fiókot felfüggesztenek.

Gerrard azt is javasolja, hogy a platformok képzett moderátorokat alkalmazzanak, akik a káros pro-ED tartalom azonosítására specializálódtak. A vállalatok közösségi irányelvei gyakran homályosak; a moderátoroknak vagy a felhasználóknak nem könnyű tudni, mikor lépték át a határt.

Mysko szerint a platformoknak azt is fontolóra kell venniük, hogy közvetlenül együttműködjenek a már népszerű fitnesz- és egészségbefektetőkkel az egészségesebb üzenetek és a testkép megismertetése érdekében. Az étkezési rendellenességekkel foglalkozó csoportok és blogok mindig is online voltak. Ami megváltozott, hogy ma már személyre szabott, gyakran nemek szerinti tartalom mellett léteznek, amelyek ugyanazt a soványság-eszményt erősítik, csak nem kifejezetten.

„Hajlamos az összehasonlítás. Sok ember valóban perfekcionista, és ez valóban felerősödik a közösségi médiában ”- mondja Mysko. "Ez állandóan megerősíti azokat a bizonytalanságokat, amelyek számos étkezési rendellenesség középpontjában állnak."

Ha Ön vagy valaki, akit érdekel, étkezési rendellenességgel küzd, felhívhatja az Országos Étkezési Zavarok Szövetségének forródrótját a (800) 931-2237 telefonszámon. A "NEDA" szöveget a 741741 telefonszámon is elküldheti. A rendelkezésre álló forrásokról itt talál további információt.

További nagyszerű vezetékes történetek

FOTÓ ESZKÖZ: Helyezze el a rejtett képeket ezeken a pszichedelikus tájakon
Ezek a fizikusok 14 évig figyelték az óra ketyegését
Az Apple azt tervezi, hogy mesterséges intelligenciát hoz a telefonjára
Itt az ideje izgulni a PC-k jövője miatt. (Igen, PC-k.)
A 4Chan 15 éves - és továbbra is az internet tinédzsere
Többet keres? Iratkozzon fel napi hírlevelünkre, és soha ne hagyja ki legújabb és legnagyszerűbb híreinket