Система повідомлень про інциденти
Фонд Вікімедіа прагне покращити те, як повідомляють про інциденти люди, які зазнали переслідування та інших зловживань, щоб забезпечити спільнотам безпечніше та здоровіше середовище.
Новосформована Команда продуктів довіри та безпеки отримала завдання розробити Систему повідомлень про інциденти (Incident Reporting System, IRS). Наша ціль — зробити безпечне та конфіденційне повідомлення про погані інциденти легшим для користувачів.
Підґрунтя проєкту
Повідомлення й обробка повідомлень про інциденти входять до сфери інтересів спільнот Вікімедіа уже багато років. З впровадженням нового Універсального кодексу поведінки критично важливо провести дискусію щодо систем надсилання скарг користувачами.
Те, яким чином у просторах і проєктах Вікімедіа працюють з інцидентами, неприйнятною поведінкою та порушенням правил, розвивалось саме по собі і дуже відрізняється у різних спільнотах.
Кожен проєкт чи спільнота Вікімедіа мають власний підхід до роботи з цим. Повідомлення й обробка інцидентів проводиться різними способами:
- на сторінках обговорення у вікі
- на дошках оголошення / запитів
- електронною поштою
- у приватних розмовах позавікійними каналами комунікації (Discord, IRC)
Для багатьох користувачів не зрозуміло, що робити, якщо стається інцидент: куди йти, до кого говорити, як повідомляти, яку інформацію включати у це повідомлення, як така скарга обробляється, що стається потім тощо.
Користувачі повиння знати, як повідомити про проблему і де це зробити. Також є дуже мало інформації про те, що станеться після подачі скарги і які варто мати очікування.
Деякі користувачі не почуваються в безпеці достатньо, щоб повідомляти про інциденти, коли вони стаються, бо процес подання скарг складний і є побоювання щодо конфіденційності.
Наразі у користувачів немає стандартизованого шляху конфденційного подання скарг.
Фокус проєкту
Високорівнева ціль цього проєкту — полегшити вирішення ситуацій з переслідуваннями та нанесенням шкоди і забезпечити отримання скарг відповідними органами, які будуть їх розглядати.
Ми хочемо забезпечити приватність та безпеку тих, хто подає скарги. Також ми хочемо переконатися, що скарги містить необхідну інформацію і спрямовані до правильного органу, що має їх опрацювати, не створюючи при цьому додаткового тиску на тих, хто здійснює це опрацювання.
Команда продуктів довіри та безпеки також розглядає цю систему повідомлення про інциденти як частину ширшої екосистеми управління інцидентами у спільноті Вікімедіа. Ми вивчаємо, як працюють індивідуальні системи і як можна усе поєднати.
Новини
Incident Notification System is now available on Portuguese Wikipedia: December 11, 2024
Trust and Safety Product team has implemented the Incident Reporting System Minimum Viable Product on Portuguese Wikipedia today, Wednesday, December 11, 2024. Users on the wiki can quickly report emergency incidents directly to the Wikimedia Foundation Trust and Safety team or be directed to submit community-managed reports to the appropriate community pages - all from a single, centralized platform.
To report an incident, users can access the reporting functionality in the Discussion Tools menu by clicking the ellipsis menu or the overflow menu (...) next to each comment, and then click Report. See screenshot.
If you have any comments, please share them on the project talk page.
Incident Reporting System Upcoming Pilot: December 5, 2024
The Trust and Safety Product team has finalized development of the Incident Reporting System MVP which is now available on Beta. Visit a page, choose any comment and click the menu to access the reporting link.
We have made some updates to the designs as per feedback. You can check the latest designs here:
Emergency workflow
Non-emergency workflow
We are now moving ahead with piloting this in production. We will be enabling the Incident Reporting System on testwiki on December 9 for another round of testing and fixing bugs. If everything goes well we will be enabling the system on Portuguese Wikipedia likely in the week of 10 December.
We will share another update once we are live on testwiki and then on Portuguese Wikipedia. In the meantime feel free to give feedback.
Incident Reporting Update: November 7, 2024
We’re continuing the work on the Incident Reporting System.
The next step is to develop an MVP (Minimum Viable Product) that we can test in production on a few pilot wikis. Following our Minimum Testing Product (MTP) user testing some months ago, we have made improvements to the design:
- Emergency incidents - Incidents relating to immediate threats of physical harm. These incidents need to be handled by the Wikimedia Foundation emergency team.
- Non-emergency incidents - Incidents that are not immediate threats of harm, for example bullying, sexual harassment and other unacceptable user behavior. These incidents are handled through local community processes.
The Emergency user flow will direct users to file a report that will be sent to the Wikimedia Foundation emergency team.
The Non-emergency user flow will direct users to reach out to their local community for support, as outlined in community policies. This will be done through a “Get support” page that will contain links and information specific to each community. The intention is to have configuration options on this page so that each local community can add the relevant links as necessary.
We have some screenshots to demonstrate how this might work. For the next deployment the main focus is to test the emergency user flow in production.
Designs
Emergency flow:
-
IRS emergency report button -
Design showing how users can describe an emergency incident when reporting -
Design showing how users can add additional information when reporting immediate threat of harm -
Design showing confirmation users see after reporting immediate threat of harm
Non-emergency user flow:
-
IRS non-emergency report button -
Design showing how users can describe an incident when reporting -
Design showing the types of unacceptable behaviour users will see when reporting -
Design showing how users can get support for unacceptable behaviour on the wikis -
Design showing how users can get support for unacceptable behaviour on the wikis
We’d love to hear your thoughts on the current designs! Please comment on the discussion page.
Test the Incident Reporting System in Beta – November 2023
We invite editors to test the initial version for the Incident Reporting System. It makes it possible file a report from the talk page where an incident occurs. This version is for learning about filing reports to a private email address (e.g., emergency
wikimedia.org or an admin group). It doesn't cover all scenarios, like reporting to a public noticeboard. We need your opinions to see if this approach is effective.
To test:
1. Visit any talk namespace page on Wikipedia in Beta that contains discussions. We have sample talk pages available at User talk:Testing and Talk:African Wild Dog you can use and log in.
2. Next, click on the overflow button (vertical ellipsis) near the Reply link of any comment to open the overflow menu and click Report (see slide 1). You can also use the Report link in the Tools menu (see slide 2).
-
Slide 1 -
Slide 2
3. Proceed to file a report, fill the form and submit. An email will be sent to the Trust and Safety Product team, who will be the only ones to see your report. Please note this is a test and so do not use it to report real incidents.
4. As you test, ponder these questions:
- What do you think about this reporting process? Especially what you like/don’t like about it?
- If you are familiar with extensions, how would you feel about having this on your wiki as an extension?
- Which issues have we missed at this initial reporting stage?
5. Following your test, please leave your feedback on the talk page.
If you can't find the overflow menu or Report links, or the form fails to submit, please ensure that:
- You have logged in
- Your Beta account email address is confirmed
- Your account has been created for over 3 hours and you have at least 1 edit.
- You have enabled DiscussionTools because the MTP is integrated with DiscussionTools
If DiscussionTools doesn’t load, a report can be filed from the Tools menu.
If you can't file a second report, please note that there is a limit of 1 report per day for non-confirmed users and 5 reports per day for autoconfirmed users. These requirements before testing help to reduce the possibility of malicious users abusing the system.
Детальніше у розділі цієї сторінки про дослідження.
Процес
Оскільки це комплексний проєкт, його треба розділити на менші ітерації та фази проєкту. У кожній з цих фаз ми проводитимемо один чи кілька циклів обговорень, щоб забезпечити взаєморозуміння зі спільнотою та раннє впровадження відгуків від неї, до переходу до більших обсягів роботи.
Фаза 1
Первинне дослідження: збір відгуків, читання наявної документації.
Проведення інтерв'ю для кращого розуміння простору проблеми й визначення критичних запитань, на які необхідно дати відповідь.
Визначення з обговорення можливого напрямку продукту й рамок проєкту. Визначення можливих пілотних вікі.
Наприкінці цієї фази у нас має бути чітке розуміння того, що ми намагаємося зробити.
Фаза 2
Створення прототипів для ілюстрації ідей, які виникли у Фазі 1.
Створення переліку можливих опцій для нових глибоких консультацій та розглядів.
Фаза 3
Визначення й пріоритизація найкращих можливих ідей.
Перехід до розробки програмного забезпечення і розділення обсягу роботи на завдання у Фабрикаторії.
Продовження циклу на наступні ітерації
Дослідження
Липень 2024: Підсумок користувацького тестування Системи повідомлення про інциденти
У березні 2024 команда Trust & Safety Product провела користувацьке тестування мінімально життєздатного продукту (МЖП) Системи повідомлень про інциденти, щоб перевірити, чи користувачі знатимуть, куди йти повідомляти про надзвичайні інциденти, та чи загалом робота інструменту інтуїтивна і має сенс для користувачів.
Ми дізналися таке:
- Під час тестування усі учасники знайшли вхід до системи надсилання повідомлення про інцидент і поточний хід роботи інструменту їм зрозумілий.
- Було дещо незрозуміло з двома опціями повідомлення: «хтось може спричинити заподіяння собі шкоди» та «публічне повідомлення з погрозою шкоди».
- Двоє учасників також зробили припущення, що система автоматизована. Один учасник висловив стурбованість автоматизацією і бажав отримати відповідь від людини, тоді як іншого заспокоїла ідея, що автоматизована система перевірить, чи в порушника є історія попередніх погроз і порушень, і відповідно вилучить образливий коментар. Усі учасники очікували своєчасної відповіді (у середньому 2—3 дні) після подачі скарги.
Вересень 2023: Результати дослідження повідомляння про інциденти
Проєкт Системи повідомлень про інциденти завершив дослідження про переслідування в обраних пілотних вікі.
Це дослідження, що стартувало на початку 2023, проводилося в індонезійській та корейській Вікіпедіях, щоб зрозуміти саме́ явище переслідування, як про нього повідомляють і як діють ті, хто відповідає на такі повідомлення.
Опубліковано результати цього дослідження.
Ми отримали цінні знання про поліпшення, які необхідно внести у процедуру повідомлень про інциденти як у вікі, так і поза вікі. Ми також дізналися більше про потреби спільнот, що можна використати як цінні вхідні дані для інструменту повідомлень про інциденти.
Ми раді поділитися з вами нашими знахідками; у звіті є більш повна інформація.
Будь ласка, залишайте свої відгуки і запитання на сторінці обговорення.
Поданий документ є завершеним оглядом досліджень за 2015—2022 роки, які Фонд Вікімедіа здійснював щодо онлайн-переслідувань у проєктах Вікімедіа. У цьому огляді ми визначили головні теми, висновки та турбуючі момент і даємо прямі посилання на літературу.
Команда інструментів довіри та безпеки вивчала попередній дослідження та консультації зі спільнотою, щоб сформувати базу нашої роботи. Ми переглянули пропозицію щодо Системи користувацьких скарг від Ініціативи здоров'я спільноти та консультацію щодо Системи користувацьких скарг 2019 року. Також ми намагалися скласти схеми деяких процедур вирішення конфліктів у різних вікі, щоб зрозуміти, як спільноти працюють з конфліктами зараз. Нижче подано схемо процедури вирішення конфліктів в італійській вікі. Там є примітки щодо можливостей автоматизації.
Часті запитання
Ми перейменували Систему конфіденційного повідомлення про інциденти на Систему повідомлень про інциденти (Incident Reporting System). Слово «конфіденційний» було прибрано з назви. В контексті переслідувань і УКП слово «конфіденційний» стосується поваги до приватності членів спільноти й забезпечення їхньої безпеки. Воно не означає, що усі стадії подання повідомлення будуть конфіденційними. Ми отримали відгуки про те, що використання цього слова в назві спантеличує і може бути складним для перекладу, тому ми його й прибрали.
З: Чи доступні дані про те, скільки інцидентів фіксується за рік?
В: Станом на зараз є не так багато чітких даних, які ми можемо використати. Так склалося з кількох причин. По-перше, про проблеми повідомляють у різні способи, які різняться у спільнотах. Повністю й чисто зібрати такі дані надзвичайно складно і займе дуже багато часу. По-друге, інтерпретація проблем також різниться. Деякі речі, які хтось вважає переслідуванням, виявляються звичайними вікісправами (як-то вилучення рекламної статті). Розгляд випадків переслідування може також потребувати культурного чи спільнотного контексту. Ми не можемо автоматизувати й візуалізувати дані чи обліковувати їх об'єктивно. Система повідомлення про інциденти є можливістю вирішити деякі з потреб щодо даних.
З: Як визначають, що є переслідуванням?
В: Ознайомтеся, будь ласка, з визначеннями в Універсальному кодексі поведінки.
З: Скільки працівників і волонтерів треба буде для підтримки IRS?
В: Наразі обсяг проблеми невідомий. Тому і кількість людей, необхідних для підтримання системи, також невідома. Експеримент з мінімально життєздатним продуктом дасть там уявлення про те, скільки людей потрібно для підтримки IRS.
З: Яке призначення МЖП (мінімально життєздатного продукту)?
В: МЖП — це експеримент і можливість дізнатися нове. Ця перша експериментальна робота дасть відповіді на запитання, які у нас зараз є. Отримані результати спрямують подальші плани.
З: На які запитання ви намагаєтеся знайти відповіді через мінімально життєздатний продукт?
В: Ось запитання, на які нам потрібні відповіді:
- Якого роду скарги люди залишають?
- Скільки людей залишає скарги?
- Скільки людей нам потрібно, щоб їх обробляти?
- Наскільки великою є проблема?
- Чи можемо ми чіткіше побачити обсяг проблем переслідування? Чи можемо ми отримати іще дані щодо кількості скарг? Чи про переслідування повідомляють надто рідко чи надто часто?
- Люди, які не повідомляють про переслідування зараз, не роблять це тому, що його немає, чи тому, що не знають як?
- Чи виявиться проблема завеликою для нашої поточної спроби, чи ні?
- Скільки є валідних скарг порівняно зі скаргами від людей, які не розуміють процесів вікі? Чи можемо ми відрізняти/фільтрувати дійсні скарги і відділяти недійсні, щоб зекономити час волонтерів чи працівників?
- Чи отримаємо ми багато повідомлень від людей, які засмучені відкотами їхніх редагувань чи вилученням їхніх сторінок? Що ми будемо з ними робити?
З: Як справи руху Вікімедіа порівняно з іншими великими платформами, як Facebook чи Reddit, у питаннях переслідувань?
В: Хоча у нас немає цілковито однакових споріднених онлайн-груп, рух Вікімедіа найчастіше пов'язаний з Facebook та Reddit в плані того, як ми боремося з переслідуванням. Важливо мати на увазі, що проблему переслідування ще ніхто не вирішив. Іншим платформам важко з модеруванням контенту й у них часто є оплачувані працівники, щоб з ним розбиратись. Дві великі між нами й Reddit чи Facebook полягають у глобальній спільній природні наших проєктів і тому, як спільноти працюють над вирішенням проблем переслідування на рівні спільнот.
З: ФВМ намагається змінити наявні процеси у спільнотах?
В: Наш план із IRS не в тому, щоб змінити якісь процеси спільнот. Ціль долучитися до наявних процесів. Кінцева ціль така:
- Полегшити людям, які зіткнутися з переслідуванням, отримання допомоги.
- Усунути ситуації, в яких люди не залишають скарг, бо не знають, як повідомити про переслідування.
- Забезпечити передачу повідомлень про переслідування до відповідних органів, які опрацьовують їх згідно з процесами локальної спільноти.
- Забезпечити відповідальникам (responders) отримання гарних звітів та переспрямування непідкріплених скарг та проблем на обробку в інші місця.