Systém hlášení incidentů
|
Systém hlášení incidentů
Nápověda při získávání pomoci v případě škodlivých událostí
|
Jako Bezpečnost a integrita produktů chceme poskytovat bezpečnější a zdravější prostředí pro komunity. Vytváříme Systém hlášení incidentů (IRS), aby uživatelé mohli snadno najít správnou cestu k pomoci v případě škodlivé události.
Cíle
- Usnadnit lidem, kteří zažijí škodlivé události, získání pomoci.
- Eliminovat situace, kdy lidé mlčí o incidentech, protože nevědí, co mají dělat.
- Zajistit, aby se lidé, kteří zažijí škodlivé incidenty, dostali ke správným subjektům, které jim mohou pomoci, v souladu s komunitními procesy.
- Zajistit, aby respondenti nebyli zahlceni neplatnými hlášeními nebo problémy, které patří jinam.
Pozadí
Hlášení a zpracování škodlivých incidentů je tématem zájmu komunit Wikimedie již mnoho let. S Univerzálním kodexem chování se stala klíčová diskuse o systémech hlášení uživatelů.
Způsob, jakým se v prostorech Wikimedie, na wikinách a platformách řeší porušení pravidel a nevhodné chování, se vyvinul organicky. Každá komunita a skupina má svůj vlastní způsob hlášení a zpracování incidentů. Děje se tak prostřednictvím diskusních stránek wiki, nástěnek, e-mailu nebo soukromých diskusí na komunikačních kanálech mimo wiki (Discord, Telegram a další).
Pro mnoho uživatelů nebylo jasné, co dělat, když dojde k incidentu: kam se obrátit, s kým mluvit, jak ho nahlásit, jaké informace zahrnout do hlášení, jak se hlášení zpracovává, co se děje potom atd. Uživatelé musí vědět, jak nahlásit problém a kam se obrátit pro pomoc. Někteří se při hlášení incidentů necítí bezpečně kvůli složitosti procesu hlášení nebo kvůli obavám o soukromí. Existuje také jen velmi málo informací o tom, co se stane po podání hlášení a co by měl uživatel očekávat.
Aktualizace
: Konec zkušební verze na anglické Wikipedii
Mezi květnem a začátkem července byl systém hlášení incidentů testován na anglické Wikipedii, a to od 5 % do 100 % oprávněných uživatelů. Celkově nástroj negeneroval velký objem hlášení a neviděli jsme žádné známky ani neslyšeli žádné obavy dobrovolníků, že by nástroj způsoboval jakékoli narušení. Viděli jsme uživatele, kteří s ním interagovali a podávali jak nouzová, tak i nenouzová hlášení.
Na začátku zkušební verze jsme na základě zpětné vazby od funkcionářů anglické Wikipedie přidali funkci (říkáme jí přímé hlášení), kde v případě, že si komunita pro určitou kategorii nežádoucího chování zvolí e-mailovou adresu, formulář uživateli zobrazí textové pole pro zadání hlášení a poté se hlášení odešle přímo na tuto komunitou zvolenou e-mailovou adresu.
Nástroj nepodporuje přímé hlášení většiny kategorií nežádoucího chování – místo toho je uživateli poskytnut odkaz a popis (vybraný komunitou), kam má jít a co tam má dělat.
Odkaz může obsahovat parametr preload, což usnadní přidávání dobře strukturovaných reportů.
Tyto dva grafy ukazují, že:
- Na konci zkušebního období se tlačítko Nahlásit zobrazovalo přibližně 12 000 uživatelům denně.
- Kategorie, které uživatelé nejčastěji zpočátku vybírali, byly: Šikana / zastrašování, Rušivé úpravy a Vandalismus – tyto tři kategorie tvoří více než polovinu všech hlášení.
Víme, že je stále co vylepšovat, včetně potenciálu pro zefektivnění pracovního postupu prostřednictvím hlubší integrace s procesy na wiki. Myslíme si ale, že zkušební verze alespoň prokázala, že tuto funkci lze integrovat způsobem, který nenaruší zpracování zneužívání, a odtud ji lze dále rozvíjet. Vážíme si názorů členů komunity, když zvažujeme, co dělat dál. A zvláštní poděkování patří funkcionářům a dalším dobrovolníkům, kteří pomohli s touto zkušební verzí a pomohli ostatním uživatelům.
Specifikace produktu a vývoje
Případy použití
Potřeby uživatele, který hledá pomoc se škodlivým incidentem, jsou následující:
- Chci být schopen/schopna uvést typ incidentu, se kterým se setkávám, aby mi bylo možné pomoci s jeho vyřešením.
- Chci snadno získat informace o dostupných zdrojích nápovědy, které jsou relevantní pro problém, se kterým se potýkám.
- Chci být jasně informován/a, kdy pomoc poskytuje komunita a nikoli nadace, abych mohl podle toho upravit svá očekávání.
Potřeby administrátora/funkcionáře jsou následující:
- Chci mít možnost přizpůsobit krok "informace o podpoře", který se zobrazí reportérům, podle incidentu, se kterým se setkávají, a podle zásad mé wiki.
- Pokud moje wiki není velká, chci mít standardní/výchozí šablonu, kterou mohu použít v případě, že moje wiki nemá zavedené zásady nebo procesy.
Bezprostřední hrozby fyzického ublížení na zdraví (zpracováno T&S)
Uživatel může podat hlášení, když se dozví o situaci, která představuje vážné riziko pro jeho (nebo někoho jiného) fyzickou bezpečnost. Po odeslání jsou tato hlášení zaslána týmu Důvěra a bezpečnost v Wikimedia Foundation, který je zodpovědný za kontrolu a řešení takových problémů.
Jakékoli další incidenty (zpracované členy komunity)
Uživatelé si mohou vybrat jeden z typů nežádoucího chování, jak je definováno v Univerzálním kodexu chování. Jsou přesměrováni na krok "informace o podpoře", který poskytuje jasné informace o tom, jak získat podporu s incidentem vybraného typu. Cílem je zajistit, aby uživatelé dostávali správnou podporu způsobem, který odráží potřeby a postupy místní komunity.
Pro každý typ incidentu si místní komunity mohou přizpůsobit omezený počet sekcí obsahu s terminologií a odkazy specifickými pro wiki, a to v souladu se svými zásadami a postupy.
Administrátoři nyní mohou nastavit externí odkazy jako cíle pro reporty. To umožňuje použití parametrů řetězce dotazu URL, jako je preload, a může reporty ještě více zjednodušit a zefektivnit.
Typy incidentů
| 1st-tier category | 2nd-tier category | UCoC provision | UCoC definition, or description |
|---|---|---|---|
| Immediate threat of physical harm (processed by T&S) | Threats of physical harm | — | Intending to commit violence against an individual |
| Threats of self harm | — | Intending to commit an act of harming oneself | |
| Threats of public harm | — | Intending to commit an act of mass violence | |
| Unacceptable user behavior (processed by community members) | Bullying, intimidation, threats or repeated insults | 3.1 – Harassment | "This includes name calling, using slurs or stereotypes, and any attacks based on personal characteristics. Insults may refer to perceived characteristics like intelligence, appearance, ethnicity, race, religion (or lack thereof), culture, caste, sexual orientation, gender, sex, disability, age, nationality, political affiliation, or other characteristics. In some cases, repeated mockery, sarcasm, or aggression constitute insults collectively, even if individual statements would not."
"Explicitly or implicitly suggesting the possibility of physical violence, unfair embarrassment, unfair and unjustified reputational harm, or intimidation by suggesting gratuitous legal action to win an argument or force someone to behave the way you want." "This includes encouraging someone else to commit self-harm or suicide as well as encouraging someone to conduct violent attacks on a third party." |
| Sexual harassment | "Sexual attention or advances of any kind towards others where the person knows or reasonably should know that the attention is unwelcome or in situations where consent cannot be communicated." | ||
| Exposing private personal information (Doxing) | "Sharing other contributors' private information, such as name, place of employment, physical or email address without their explicit consent either on the Wikimedia projects or elsewhere, or sharing information concerning their Wikimedia activity outside the projects." | ||
| Trolling or Hounding (Stalking) | "Deliberately disrupting conversations or posting in bad-faith to intentionally provoke."
"Following a person across the project(s) and repeatedly critiquing their work mainly with the intent to upset or discourage them. If problems are continuing after efforts to communicate and educate, communities may need to address them through established community processes." | ||
| Hateful or discriminatory content | 3.3 – Content vandalism and abuse of the projects | Content vandalism containing "hate speech in any form, or discriminatory language aimed at vilifying, humiliating, inciting hatred against individuals or groups on the basis of who they are or their personal beliefs"
"The use of symbols, images, categories, tags or other kinds of content that are intimidating or harmful to others outside of the context of encyclopedic, informational use. This includes imposing schemes on content intended to marginalize or ostracize" (Hate speech towards an editor falls under "Bullying, intimidation, threats or repeated insults") | |
| Spam or promotional content | Other content vandalism | ||
| Something else | Including 3.2 – Abuse of power, privilege, or influence |
Komunitní konfigurace
Konfigurace komunity je nástroj, který umožňuje komunitám nastavit a spravovat konfiguraci různých funkcí. V systému hlášení incidentů používáme konfiguraci komunity, která umožňuje komunitám přizpůsobit krok "informace o podpoře".
Příklad, jak by mohl vypadat krok úpravy "informací o podpoře" pro "Zveřejnění soukromých osobních údajů (Doxing)":
-
Krok "informace o podpoře" bude mít výchozí zobrazení (pole, která zůstanou prázdná, se nezobrazí). -
Komunity si pak budou moci přizpůsobit výchozí zobrazení prostřednictvím Konfigurace komunity.
.png)
.png)
Časová osa nasazení
- První a omezená verze na portugalské Wikipedii –
- Další pilotní wikiny –
- Zkušební verze anglické Wikipedie – –
Kontakt
Často kladené otázky
Snaží se Nadace změnit stávající komunitní procesy?
Naším plánem pro IRS není měnit jakýkoli komunitní proces. Cílem je propojit stávající procesy.
Jsou k dispozici údaje o tom, kolik incidentů je hlášeno ročně?
Máme shromážděná data o užívání na wiki stránkách, kde byl nasazen IRS. Největší z nich je portugalská Wikipedie. Objem dat je však příliš malý na to, abychom na jeho základě mohli dělat předpovědi. Chceme to řešit spuštěním zkušební verze na anglické Wikipedii s publikem podobným celému publiku na portugalské Wikipedii.
Kromě údajů o využití od IRS není k dispozici mnoho jasných dat, která bychom mohli použít. Pro to existuje několik důvodů. Zaprvé, problémy jsou hlášeny různými způsoby a ty se liší komunita od komunity. Zachycení těchto dat kompletně a čistě je velmi složité a časově náročné. Za druhé, interpretace problémů se také liší. Některé věci, které jsou interpretovány jako obtěžování, jsou jen záležitostí wiki (např. smazání propagačního článku). Přezkoumání problémů s vedením/chováním uživatelů může také vyžadovat kulturní nebo komunitní kontext. Nemůžeme automatizovat a vizualizovat data ani je objektivně spočítat. Systém hlášení incidentů je příležitostí k řešení některých z těchto datových potřeb.
Jak jsou v systému hlášení incidentů definovány různé typy škodlivých incidentů – jako je obtěžování, výhrůžky nebo nevhodné chování?
Tyto pojmy používáme tak, jak jsou definovány v Univerzálním kodexu chování.
Na jaké otázky se snažíte odpovědět první verzí produktu?
Zde jsou otázky, na které musíme odpovědět:
- S jakými problémy s chováním/uživatelským chováním potřebují lidé pomoc?
- Kolik lidí hlásí příslušné druhy problémů?
- Jak velký je tento problém?
- Můžeme získat jasnější představu o rozsahu problémů s chováním uživatelů? Můžeme získat nějaká data o počtu hlášení? Je pochybení uživatelů hlášeno nedostatečně nebo naopak nadměrně?
- Nehlásí lidé v současné době různé typy problémů s chováním uživatelů, protože se nedějí, nebo proto, že nevědí jak?
- Bude to s naším současným nastavením hodně nebo ne?
- Kolik je oprávněných stížností ve srovnání s lidmi, kteří nerozumí procesu wiki? Můžeme rozlišit/filtrovat oprávněné stížnosti a filtrovat neplatné stížnosti, abychom ušetřili čas dobrovolníků nebo zaměstnanců?
- Budeme dostávat spoustu hlášení od lidí, kteří jsou naštvaní, že jejich úpravy byly vráceny zpět nebo že jejich stránka byla smazána? Co s nimi uděláme?
Jak si hnutí Wikimedia vede v porovnání s tím, jak se k obtěžování postaví jiné velké platformy, jako je Facebook/Reddit?
I když nemáme žádné identické online skupiny s podobnými zájmy, hnutí Wikimedia je nejčastěji spojováno s Facebookem a Redditem, pokud jde o to, jak řešíme obtěžování. Důležité je zvážit, že nikdo problém obtěžování nevyřešil. Jiné platformy se potýkají s moderováním obsahu a často mají placené zaměstnance, kteří se s tím snaží vypořádat. Dva obrovské rozdíly mezi námi a Redditem a Facebookem jsou globálně spolupracující povaha našich projektů a to, jak komunity pracují na řešení obtěžování na komunitní úrovni.
Předprojektový výzkum
Následující dokument je kompletním přehledem výzkumu, který Nadace Wikimedie provedla v letech 2015–2022 na téma online obtěžování v projektech Wikimedie. V tomto přehledu jsme identifikovali hlavní témata, poznatky a problematické oblasti a poskytli přímé odkazy na literaturu.
Náš tým studoval předchozí výzkum a konzultace s komunitou, aby mohl naši práci podložit. Znovu jsme se podívali na Návrh systému hlášení uživatelů v rámci iniciativy Community Health a Konzultacei systému hlášení uživatelů z roku 2019. Také jsme se snažili zmapovat některé postupy řešení konfliktů napříč wikinami, abychom pochopili, jak komunity v současné době konflikty zvládají. Níže je uvedena mapa postupu řešení konfliktů na italské Wikipedii. Obsahuje poznámky k možnostem automatizace.
-
Syntéza výzkumu z let 2015–2022, která identifikuje hlavní témata v dané problematice, jakož i potřeby uživatelů, výzvy, úvahy a předchozí práci. -
Na italské Wikipedii existuje tříkrokový systém řešení konfliktů. Tato mapa tento proces vizualizuje a snaží se identifikovat příležitosti k automatizaci jak pro editory, tak pro administrátory.
