Segurança e Integridade do Produto/Sistema Relatório de Incidentes
|
Sistema Relatório de Incidentes
Obtendo ajuda em incidentes danosos
|
Como Segurança e Integridade do Produto, queremos proporcionar ambientes mais seguros e saudáveis às comunidades. Estamos a desenvolver o Sistema Relatório de Incidentes (SRI) para facilitar aos utilizadores o acesso à ajuda adequada quando se deparam com um incidente danoso.
Objetivos
- Tornar mais fácil para as pessoas que sofrem incidentes danosos obterem ajuda.
- Eliminar situações em que as pessoas se calam sobre incidentes por não saberem o que fazer.
- Assegurar que as pessoas que sofrem incidentes danosos cheguem às entidades certas que as possam ajudar, de acordo com os processos da comunidade.
- Certifique-se de que os respondedores não sejam sobrecarregados com relatórios inválidos ou questões que pertencem a outro lugar.
Antecedentes
O relato e o tratamento de incidentes danosos têm sido um tema de interesse para as comunidades da Wikimedia há muitos anos. Com o Código de Conduta Universal, ficou crucial discutir os sistemas de relato para os utilizadores.
A forma como a má conduta e as violações das políticas são tratadas nos diversos espaços, wikis e plataformas da Wikimedia tem-se evoluído organicamente. Cada comunidade e grupo tem a sua maneira de comunicar e tratar os incidentes. Isso acontece através das páginas de discussão das wikis, dos quadros de avisos, do e-mail ou de discussões privadas em canais de comunicação fora das wikis (Discord, Telegram e outros).
Para muitos utilizadores, não tem sido claro o que fazer quando ocorre um incidente: para onde ir, com quem falar, como comunicar o incidente, que informações incluir no relatório, como é que o relatório é processado, o que acontece a seguir, etc. Os utilizadores precisam de saber como sinalizar um problema e onde ir para obter ajuda. Alguns não se sentem seguros ao comunicar incidentes devido à complexidade do processo de comunicação ou a preocupações com a privacidade. Há também muito pouca informação sobre o que acontecerá depois de o relatório ser feito e quais as expectativas que o utilizador deve ter.
Atualizações
: End of the trial on English Wikipedia
Between May and early July, Incident Reporting System was tested on English Wikipedia, starting from 5% to 100% of the eligible users. Overall, the tool was not generating a high volume of reports, and we did not see signs or hear any volunteer concerns that the tool was creating any disruption. We did see users interacting with it, and submitting both emergency and non-emergency reports.
Early in the trial, per the English Wikipedia functionaries feedback, we added a feature (we call it direct reporting) where, if the community selected an email-based destination for a particular category of unwanted behavior, the form would show the user a text area to type in the report, and it would then send the report directly to that community-chosen email address.
The tool does not support direct reporting for most categories of unwanted behavior – instead, the user is provided a link and description (chosen by the community) of where to go and what to do there.
The link may include the preload parameter, making it easier to add well-structured reports.
The two charts show that:
- At the end of the trial, the Report button was being shown to around 12,000 users per day.
- The categories most commonly initially selected by users were: Bullying / intimidation, Disruptive editing, and Vandalism – these three add up to over a half of all reports.
We know there are still more improvements to make, including the potential for streamlining the flow through deeper integration with on-wiki processes. But we think the trial has at least demonstrated that this feature can be integrated in a way that doesn't disrupt abuse handling, and can be iterated on from there. We appreciate the community members' thoughts as we consider what to do next. And a special thank you to the functionaries and other volunteers who helped support this trial and help other users.
Especificações do produto e do design
Casos de utilização
As necessidades de um utilizador que procura ajuda com um incidente danoso são as seguintes:
- Quero poder indicar o tipo de incidente que estou a enfrentar, para que possa obter ajuda na resolução do problema.
- Quero obter facilmente informações sobre os recursos de ajuda disponíveis que são relevantes para o problema que estou a enfrentar.
- Quero ser claramente informado quando a ajuda for fornecida pela comunidade e não pela Fundação, para que possa ajustar as minhas expectativas de acordo.
As necessidades de um administrador/funcionário são as seguintes:
- Quero poder personalizar a etapa «informações de apoio» que é apresentada aos repórteres, de acordo com o incidente que estão a enfrentar e as políticas da minha wiki.
- Se o minha wiki não é grande, quero ter uma predefinição padrão que possa utilizar no caso de a minha wiki não ter políticas ou processos estabelecidos.
Ameaças imediatas de danos físicos (tratadas pela T&S)
O utilizador pode apresentar um relatório quando tiver conhecimento de uma situação que implique um risco grave para a sua segurança física (ou a de outra pessoa). Depois de apresentados, estes relatórios são enviados à equipa de Confiança e Segurança da Fundação Wikimedia, responsável por analisar e responder a estas questões.
Quaisquer outros incidentes (tratados pelos membros da comunidade)
Os utilizadores podem selecionar um dos tipos de comportamento indesejável, tal como definido no Código de Conduta Universal. São orientados para uma etapa de «informações de apoio» que fornece informações claras sobre como obter ajuda com um incidente do tipo selecionado. O objetivo é assegurar que os utilizadores recebam o apoio adequado, de acordo com as necessidades e práticas da comunidade local.
Para cada tipo de incidente, as comunidades locais podem personalizar um número limitado de secções de conteúdo com terminologia e ligações específicas da wiki, de acordo com as suas políticas e práticas.
Os administradores podem agora configurar hiperligações externas como destinos para a geração de relatórios. Isto permite a utilização de parâmetros de cadeia de consulta do URL, como o preload, e pode tornar a geração de relatórios ainda mais simples e eficiente.
Tipos de incidentes
| 1st-tier category | 2nd-tier category | UCoC provision | UCoC definition, or description |
|---|---|---|---|
| Immediate threat of physical harm (processed by T&S) | Threats of physical harm | — | Intending to commit violence against an individual |
| Threats of self harm | — | Intending to commit an act of harming oneself | |
| Threats of public harm | — | Intending to commit an act of mass violence | |
| Unacceptable user behavior (processed by community members) | Bullying, intimidation, threats or repeated insults | 3.1 – Harassment | "This includes name calling, using slurs or stereotypes, and any attacks based on personal characteristics. Insults may refer to perceived characteristics like intelligence, appearance, ethnicity, race, religion (or lack thereof), culture, caste, sexual orientation, gender, sex, disability, age, nationality, political affiliation, or other characteristics. In some cases, repeated mockery, sarcasm, or aggression constitute insults collectively, even if individual statements would not."
"Explicitly or implicitly suggesting the possibility of physical violence, unfair embarrassment, unfair and unjustified reputational harm, or intimidation by suggesting gratuitous legal action to win an argument or force someone to behave the way you want." "This includes encouraging someone else to commit self-harm or suicide as well as encouraging someone to conduct violent attacks on a third party." |
| Sexual harassment | "Sexual attention or advances of any kind towards others where the person knows or reasonably should know that the attention is unwelcome or in situations where consent cannot be communicated." | ||
| Exposing private personal information (Doxing) | "Sharing other contributors' private information, such as name, place of employment, physical or email address without their explicit consent either on the Wikimedia projects or elsewhere, or sharing information concerning their Wikimedia activity outside the projects." | ||
| Trolling or Hounding (Stalking) | "Deliberately disrupting conversations or posting in bad-faith to intentionally provoke."
"Following a person across the project(s) and repeatedly critiquing their work mainly with the intent to upset or discourage them. If problems are continuing after efforts to communicate and educate, communities may need to address them through established community processes." | ||
| Hateful or discriminatory content | 3.3 – Content vandalism and abuse of the projects | Content vandalism containing "hate speech in any form, or discriminatory language aimed at vilifying, humiliating, inciting hatred against individuals or groups on the basis of who they are or their personal beliefs"
"The use of symbols, images, categories, tags or other kinds of content that are intimidating or harmful to others outside of the context of encyclopedic, informational use. This includes imposing schemes on content intended to marginalize or ostracize" (Hate speech towards an editor falls under "Bullying, intimidation, threats or repeated insults") | |
| Spam or promotional content | Other content vandalism | ||
| Something else | Including 3.2 – Abuse of power, privilege, or influence |
Configuração pela comunidade
Configuração pela comunidade é uma ferramenta que permite às comunidades configurar e controlar as definições de várias funcionalidades. No que diz respeito ao Sistema Relatório de Incidentes, estamos a utilizar a Configuração pela comunidade para permitir que as comunidades personalizem a etapa «informações de apoio».
Exemplo de como pode parecer a personalização da etapa «informações de apoio» para «Divulgação de informações pessoais privadas (doxing)»:
-
A etapa «informações de apoio» terá uma visualização padrão (os campos que ficarem em branco não serão apresentados) -
As comunidades poderão personalizar a visualização padrão através da Configuração pela Comunidade
.png)
.png)
Cronograma de implementação
- Primeira versão, ainda limitada, na Wikipédia em português –
- Próximas wikis em teste piloto –
- Período experimental da Wikipédia em inglês – –
Contacto
Perguntas frequentes
Está a Fundação a tentar mudar os processos existentes das comunidades?
O nosso plano para o SRI é não mudar nenhum dos processos comunitários. O objetivo é integrar-se nos processos já existentes.
Há dados disponíveis sobre quantos incidentes são relatados por ano?
Temos dados de utilização recolhidos nas wikis onde o SRI foi implementado, sendo a maior delas a Wikipédia em português. No entanto, a quantidade desses dados é demasiado reduzida para permitir fazer previsões com base neles. Pretendemos resolver isso através do lançamento de um teste na Wikipédia em inglês, cujo público seja semelhante ao público total da Wikipédia em português.
Além dos dados de utilização do SRI, não há muitos dados claros que possamos utilizar. Há duas razões para isso. Primeiro, as denúncias são relatadas de várias maneiras e estas variam entre as diferentes comunidades. Recolher esses dados de forma completa e precisa é extremamente complicado e seria muito demorado. Segundo, a interpretação das problemas também difere. Algumas situações que são interpretadas como assédio são apenas questões normais do funcionamento da wiki (por exemplo, a eliminação de um artigo promocional). Review of user conduct/behaviour issues may also need cultural or community context. We cannot automate and visualize data or count it objectively. The incident reporting system is an opportunity to solve some of these data needs.
How are different types of harmful incidents – such as harassment, threats, or misconduct – defined in the Incident Reporting System?
R: Ver, por favor, as definições no Código de Conduta Universal.
P: Que questões estamos a tentar responder com o produto minimamente viável?
R: Aqui estão as questões a que precisamos responder:
- What kind of user conduct/behavior issues do people need help with?
- How many people report the respective kinds of issues?
- Qual a dimensão deste problema?
- Podemos ter uma imagem mais clara da magnitude dos problemas de assédio? Podemos obter alguns dados sobre o número de denúncias? O assédio está sub ou sobre denunciado?
- As pessoas não estão atualmente a denunciar assédio porque este não existe ou porque não sabem como o fazer?
- Será isto muito difícil de lidar com a nossa configuração atual, ou não?
- Quantas são as queixas válidas em comparação com o caso de pessoas que não entendem o processo wiki? Podemos distinguir/filtrar queixas válidas dos reportes inválidos para poupar o tempo de voluntários ou de pessoal contratado?
- Receberemos muitos relatos de pessoas que estão aborrecidas porque as suas edições foram revertidas ou porque uma página criada por si foi apagada? O que vamos fazer com eles?
"P: Como se compara o movimento Wikimedia com a forma como outras grandes plataformas, como o Facebook/Reddit, lidam com o assédio?"
r: Embora não tenhamos grupos de afinidade online idênticos, o movimento Wikimedia é frequentemente equiparado ao Facebook e Reddit no que diz respeito à forma como lidamos com o assédio. O que é importante ter em conta é que ninguém resolveu o problema do assédio. Outras plataformas lutam com a moderação de conteúdo e, muitas vezes, têm funcionários pagos que tentam lidar com isso. Duas grandes diferenças entre nós e o Reddit e o Facebook são a natureza colaborativa global dos nossos projetos e como as comunidades trabalham para resolver o assédio ao nível comunitário.
Investigação pré-projeto
O documento seguinte é uma revisão completa da pesquisa de 2015-2022 que a Wikimedia Foundation fez sobre assédio online em projetos Wikimedia. Nesta revisão, identificámos os principais temas, ideias chave e áreas de preocupação e fornecemos links diretos para a literatura.
A Equipe de Ferramentas de Confiança e Segurança tem estudado pesquisas anteriores e consultas à comunidade para basear o nosso trabalho. Revimos a Iniciativa comunitária de saúde Proposta de sistema de relatórios do usuário e a Consulta de sistema de reporte do utilizador de 2019. Também temos tentado delinear alguns dos fluxos de resolução de conflitos nas várias wikis para entender como as comunidades estão atualmente a gerir os conflitos. Abaixo está um esquema do fluxo de resolução de conflitos da Wiki italiana. Inclui notas sobre possibilidades de automatização.
-
A synthesis of research from 2015–2022 that identifies major themes in the problem space as well as user needs, challenges, considerations, and previous work. -
Na Wikipédia italiana, existe uma política de 3 passos para a resolução de conflitos. Este esquema reproduz este processo e tenta identificar oportunidades de automatização tanto para os editores como para os administradores.
