Система повідомлень про інциденти
|
Система повідомлень про інциденти
Допомога в отриманні допомоги у разі небезпечних інцидентів
|
Як Безпека та цілісність продукту, ми хочемо забезпечити безпечніше та здоровіше середовище для спільнот. Ми створюємо Систему повідомлення про інциденти (IRS), щоб користувачі могли легко знайти правильний шлях для отримання допомоги у разі небезпечного інциденту.
Goals
- Полегшити людям, які зіткнутися з переслідуванням, отримання допомоги.
- Усунути ситуації, в яких люди не залишають скарг, бо не знають, як повідомити про переслідування.
- Забезпечити передачу повідомлень про переслідування до відповідних органів, які опрацьовують їх згідно з процесами локальної спільноти.
- Ensure responders are not overwhelmed with invalid reports or issues that belong elsewhere.
Підґрунтя
Повідомлення та обробка шкідливих інцидентів є темою, яка вже багато років цікавить спільноти Вікімедіа. З появою Універсального кодексу поведінки стало вкрай важливо обговорити системи повідомлення користувачів.
Спосіб реагування на порушення правил поведінки та політики у просторах, вікі та платформах Вікімедіа розвивався органічно. Кожна спільнота та група має власний спосіб повідомлення та обробки інцидентів. Це відбувається через сторінки обговорення вікі, дошки оголошень, електронну пошту або приватні обговорення на каналах комунікації поза вікі (Discord, Telegram тощо).
Для багатьох користувачів залишається незрозумілим, що робити, коли трапляється інцидент: куди звертатися, з ким розмовляти, як повідомляти, яку інформацію включати в повідомлення, як обробляється повідомлення, що відбувається після цього тощо. Користувачі повинні знати, як повідомити про проблему та куди звертатися за допомогою. Деякі не відчувають себе в безпеці, повідомляючи про інциденти, через складність процесу повідомлення або через побоювання щодо конфіденційності. Також дуже мало інформації про те, що відбудеться після подання звіту і чого повинен очікувати користувач.
Новини
: End of the trial on English Wikipedia
Between May and early July, Incident Reporting System was tested on English Wikipedia, starting from 5% to 100% of the eligible users. Overall, the tool was not generating a high volume of reports, and we did not see signs or hear any volunteer concerns that the tool was creating any disruption. We did see users interacting with it, and submitting both emergency and non-emergency reports.
Early in the trial, per the English Wikipedia functionaries feedback, we added a feature (we call it direct reporting) where, if the community selected an email-based destination for a particular category of unwanted behavior, the form would show the user a text area to type in the report, and it would then send the report directly to that community-chosen email address.
The tool does not support direct reporting for most categories of unwanted behavior – instead, the user is provided a link and description (chosen by the community) of where to go and what to do there.
The link may include the preload parameter, making it easier to add well-structured reports.
The two charts show that:
- At the end of the trial, the Report button was being shown to around 12,000 users per day.
- The categories most commonly initially selected by users were: Bullying / intimidation, Disruptive editing, and Vandalism – these three add up to over a half of all reports.
We know there are still more improvements to make, including the potential for streamlining the flow through deeper integration with on-wiki processes. But we think the trial has at least demonstrated that this feature can be integrated in a way that doesn't disrupt abuse handling, and can be iterated on from there. We appreciate the community members' thoughts as we consider what to do next. And a special thank you to the functionaries and other volunteers who helped support this trial and help other users.
== Технічні характеристики продукту та дизайну ==
=== Приклади використання ===
Як користувач, який шукає допомоги у зв'язку зі шкідливим інцидентом
- Я хочу мати можливість вказати тип інциденту, з яким я стикаюся, щоб отримати допомогу відповідно до моєї проблеми.
- Я хочу отримати інформацію про доступні ресурси допомоги, які стосуються проблеми, з якою я стикаюся.
- Я хочу чітко знати, коли допомога надається спільнотою, а не Фондом, щоб я міг відповідно скоригувати свої очікування.
Як адміністратор/функціонер,
- Я хочу мати можливість налаштовувати сторінки довідки, які відображаються репортерам, відповідно до інциденту, з яким вони стикаються, та політик моєї вікі.
- невеликої вікі, я хочу мати стандартний/типовий шаблон, який я можу використовувати у випадку, якщо моя вікі не має встановлених політик або процесів.
=== Надзвичайні інциденти ===
Про негайні загрози шкоди повідомляють через процедуру повідомлення про надзвичайні ситуації. Користувач може подати звіт, коли дізнається про ситуацію, що становить серйозну загрозу його (або чиєїсь іншої) безпеці. Після подання ці повідомлення надсилаються до команди Довіра та безпека у Фонді Вікімедіа, яка відповідає за розгляд таких питань та реагування на них. Once submitted, these reports are sent to the Trust and Safety team at the Wikimedia Foundation who are responsible for reviewing and responding to such issues.
=== Не надзвичайні ситуації ===
Ситуації, які не становлять безпосередньої загрози шкоди але вимагають уваги, такі як домагання, повідомляються через процедуру для не надзвичайних ситуацій. У цьому випадку користувачів направляють на сторінку довідки, яка містить чітку інформацію про те, як отримати підтримку щодо їхнього конкретного питання. Мета полягає в тому, щоб забезпечити користувачам належну підтримку, яка відповідає потребам і практикам місцевої спільноти. They are guided to a "support information" step that provides clear information on how to get support with an incident of the selected type. The goal is to ensure users receive the right support in a way that reflects the needs and practices of the local community.
For each incident type, local communities can customize a limited number of content sections with wiki-specific terminology and links, according to their policies and practices.
Administrators can now set up external links as the destinations for reporting. This allows the use of URL query string parameters such as preload and may make the reporting even simpler and more efficient.
Incident types
| 1st-tier category | 2nd-tier category | UCoC provision | UCoC definition, or description |
|---|---|---|---|
| Immediate threat of physical harm (processed by T&S) | Threats of physical harm | — | Intending to commit violence against an individual |
| Threats of self harm | — | Intending to commit an act of harming oneself | |
| Threats of public harm | — | Intending to commit an act of mass violence | |
| Unacceptable user behavior (processed by community members) | Bullying, intimidation, threats or repeated insults | 3.1 – Harassment | "This includes name calling, using slurs or stereotypes, and any attacks based on personal characteristics. Insults may refer to perceived characteristics like intelligence, appearance, ethnicity, race, religion (or lack thereof), culture, caste, sexual orientation, gender, sex, disability, age, nationality, political affiliation, or other characteristics. In some cases, repeated mockery, sarcasm, or aggression constitute insults collectively, even if individual statements would not."
"Explicitly or implicitly suggesting the possibility of physical violence, unfair embarrassment, unfair and unjustified reputational harm, or intimidation by suggesting gratuitous legal action to win an argument or force someone to behave the way you want." "This includes encouraging someone else to commit self-harm or suicide as well as encouraging someone to conduct violent attacks on a third party." |
| Sexual harassment | "Sexual attention or advances of any kind towards others where the person knows or reasonably should know that the attention is unwelcome or in situations where consent cannot be communicated." | ||
| Exposing private personal information (Doxing) | "Sharing other contributors' private information, such as name, place of employment, physical or email address without their explicit consent either on the Wikimedia projects or elsewhere, or sharing information concerning their Wikimedia activity outside the projects." | ||
| Trolling or Hounding (Stalking) | "Deliberately disrupting conversations or posting in bad-faith to intentionally provoke."
"Following a person across the project(s) and repeatedly critiquing their work mainly with the intent to upset or discourage them. If problems are continuing after efforts to communicate and educate, communities may need to address them through established community processes." | ||
| Hateful or discriminatory content | 3.3 – Content vandalism and abuse of the projects | Content vandalism containing "hate speech in any form, or discriminatory language aimed at vilifying, humiliating, inciting hatred against individuals or groups on the basis of who they are or their personal beliefs"
"The use of symbols, images, categories, tags or other kinds of content that are intimidating or harmful to others outside of the context of encyclopedic, informational use. This includes imposing schemes on content intended to marginalize or ostracize" (Hate speech towards an editor falls under "Bullying, intimidation, threats or repeated insults") | |
| Spam or promotional content | Other content vandalism | ||
| Something else | Including 3.2 – Abuse of power, privilege, or influence |
Community configuration
Community Configuration is a tool allowing communities to set up and control the configuration of different features. For the Incident Reporting System we are using Community Configuration to allow communities to customize the "support information" step.
Example of how customizing the "support information" step for "Exposing private personal information (Doxing)" might look:
-
The "support information" step will have a default view (fields that are left blank will not display) -
Communities will then be able to customize the default view via Community Configuration
.png)
.png)
== Графік впровадження ==
- Перша обмежена версія на португальській Вікіпедії –
- Наступні пілотні вікі –
- English Wikipedia trial – –
Часті запитання
З: ФВМ намагається змінити наявні процеси у спільнотах?
Наш план із IRS не в тому, щоб змінити якісь процеси спільнот. Ціль долучитися до наявних процесів. Кінцева ціль така:
З: Чи доступні дані про те, скільки інцидентів фіксується за рік?
We have usage data collected on the wikis where IRS has been deployed. The largest of them is Portuguese Wikipedia. However, the volume of data is too low to make predictions based on it. We want to address this by launching a trial on English Wikipedia, with the audience similar to the entire audience on Portuguese Wikipedia.
В: Станом на зараз є не так багато чітких даних, які ми можемо використати. Так склалося з кількох причин. По-перше, про проблеми повідомляють у різні способи, які різняться у спільнотах. Повністю й чисто зібрати такі дані надзвичайно складно і займе дуже багато часу. По-друге, інтерпретація проблем також різниться. Деякі речі, які хтось вважає переслідуванням, виявляються звичайними вікісправами (як-то вилучення рекламної статті). Розгляд випадків переслідування може також потребувати культурного чи спільнотного контексту. Ми не можемо автоматизувати й візуалізувати дані чи обліковувати їх об'єктивно. Система повідомлення про інциденти є можливістю вирішити деякі з потреб щодо даних. There are a couple of reasons for this. First, issues are reported in various ways and those differ from community to community. Capturing that data completely and cleanly is highly complicated and would be very time consuming. Second, the interpretation of issues also differs. Some things that are interpreted as harassment are just wiki business (e.g. deleting a promotional article). Review of user conduct/behaviour issues may also need cultural or community context. We cannot automate and visualize data or count it objectively. The incident reporting system is an opportunity to solve some of these data needs.
How are different types of harmful incidents – such as harassment, threats, or misconduct – defined in the Incident Reporting System?
В: Ознайомтеся, будь ласка, з визначеннями в Універсальному кодексі поведінки.
З: На які запитання ви намагаєтеся знайти відповіді через мінімально життєздатний продукт?
В: Ось запитання, на які нам потрібні відповіді:
- What kind of user conduct/behavior issues do people need help with?
- How many people report the respective kinds of issues?
- Наскільки великою є проблема?
- Чи можемо ми чіткіше побачити обсяг проблем переслідування? Чи можемо ми отримати іще дані щодо кількості скарг? Чи про переслідування повідомляють надто рідко чи надто часто?
- Люди, які не повідомляють про переслідування зараз, не роблять це тому, що його немає, чи тому, що не знають як?
- Чи виявиться проблема завеликою для нашої поточної спроби, чи ні?
- Скільки є валідних скарг порівняно зі скаргами від людей, які не розуміють процесів вікі? Чи можемо ми відрізняти/фільтрувати дійсні скарги і відділяти недійсні, щоб зекономити час волонтерів чи працівників?
- Чи отримаємо ми багато повідомлень від людей, які засмучені відкотами їхніх редагувань чи вилученням їхніх сторінок? Що ми будемо з ними робити?
З: Як справи руху Вікімедіа порівняно з іншими великими платформами, як Facebook чи Reddit, у питаннях переслідувань?
В: Хоча у нас немає цілковито однакових споріднених онлайн-груп, рух Вікімедіа найчастіше пов'язаний з Facebook та Reddit в плані того, як ми боремося з переслідуванням. Важливо мати на увазі, що проблему переслідування ще ніхто не вирішив. Іншим платформам важко з модеруванням контенту й у них часто є оплачувані працівники, щоб з ним розбиратись. Дві великі між нами й Reddit чи Facebook полягають у глобальній спільній природні наших проєктів і тому, як спільноти працюють над вирішенням проблем переслідування на рівні спільнот.
Передпроєктні дослідження
Поданий документ є завершеним оглядом досліджень за 2015—2022 роки, які Фонд Вікімедіа здійснював щодо онлайн-переслідувань у проєктах Вікімедіа. У цьому огляді ми визначили головні теми, висновки та турбуючі момент і даємо прямі посилання на літературу.
Команда інструментів довіри та безпеки вивчала попередній дослідження та консультації зі спільнотою, щоб сформувати базу нашої роботи. Ми переглянули пропозицію щодо Системи користувацьких скарг від Ініціативи здоров'я спільноти та консультацію щодо Системи користувацьких скарг 2019 року. Також ми намагалися скласти схеми деяких процедур вирішення конфліктів у різних вікі, щоб зрозуміти, як спільноти працюють з конфліктами зараз. Нижче подано схемо процедури вирішення конфліктів в італійській вікі. Там є примітки щодо можливостей автоматизації.
-
Синтез досліджень з 2015-2022 років, який визначає основні теми в проблемному полі, а також користувацькі потреби, виклики, очікування і попередню роботу. -
В італійській Вікіпедії є правило трьох кроків вирішення конфліктів. Ця схема візуалізує цей процес і намагається визначити можливості для автоматизації як для редакторів, так і адмінів.
