Дата публикации: 24 декабря 2019 г.

В Кембриджском университете придумали, как бороться с онлайн-ненавистью

Исследователи из Кембриджского университета нашли способ решения проблемы распространения ненавистнических высказываний в социальных сетях в создании «карантинного» подхода, который используется для борьбы с вредоносным программным обеспечением.

Определения разжигания ненависти варьируются в зависимости от страны, закона и платформы, и просто блокирование ключевых слов неэффективно: например, графические описания насилия не должны содержать явных этнических пятен, чтобы представлять угрозу расистской смерти. Таким образом, ненавистнические высказывания трудно обнаружить автоматически. Об этом должны сообщать лица, подвергшиеся его воздействию, после нанесения «психологического вреда».

Лингвисты и специалисты машинного обучения из Кембриджского университета  используют базы данных угроз и насильственных оскорблений для создания алгоритмов, которые могут дать оценку вероятности появления онлайн-сообщения, содержащего формы ненавистнических высказываний. Результаты исследования опубликовали в журнале «Этика и информационные технологии» (Ethics and Information Technology).

По мере того, как эти алгоритмы будут усовершенствованы, потенциальная ненавистническая речь может быть выявлена и «помещена в карантин». Пользователи получат предупреждающее предупреждение с «Hate O'Meter» - показателем серьезности ненавистнических высказываний - именем отправителя и возможностью просмотра содержимого или удаления невидимого.

Этот подход подобен фильтрам спама и вредоносных программ, исследователи считают, что он может значительно сократить количество ненавистнических высказываний онлайн. Прототип программы будет готов в начале 2020 года.

«Ненавистнические высказывания являются формой преднамеренного вреда в Интернете, например, вредоносных программ, и поэтому могут быть обработаны посредством карантина», - сказала соавтор и лингвист доктор наук Стефани Уллман (Stefanie Ullman). «На самом деле, много ненавистнических высказываний генерируется программным обеспечением, таким как боты Twitter».

«Такие компании, как Facebook, Twitter и Google, как правило, реагируют на ненавистнические высказывания», - сказал соавтор и инженер доктор наук Маркус Томалин (Marcus Tomalin). «Это может быть хорошо для тех, кто не сталкивается с этим часто. Для других это слишком мало, слишком поздно».

Источник: cam.ac.uk

Гасанбекова Л. А. Оценка эффективности финансово-хозяйственной деятельности государственных унитарных предприятий Практическое пособие / Л. А. Гасанбекова, В. И. Никитина, Б. В. Сошников; под общ. науч. ред. канд. экон. наук О. А. Коробко. – М.: ФГБНУ «Аналитический центр» Минобрнауки России, 2019. – 49 с. (ISBN 978-5-904670-54-2). Доступна электронная версия печатного издания.

Вопросы контроля хозяйственной деятельности и финансового аудита, национальной безопасности, системного анализа и управления Сборник материалов III Всеросс. науч.-практ. конф., г. Москва, 29 декабря 2017. – М.: ФГБНУ «Аналитический центр» Минобрнауки России, 2018. – 200 с. (ISBN 978-5-904670-53-5). Доступна электронная версия печатного издания.

открыть полный список изданий Центра →