Виды модерации контента
Вы можете выбирать из множества процессы модерации для нужд вашего бренда и согласие пользователя, Некоторые из них:
Предмодерация
Прежде чем контент появится на вашем сайте, он находится в очереди на модерацию. Только после того, как контент будет рассмотрен и признан пригодным для использования, он будет опубликован на платформе. Хотя это безопасный метод блокировки откровенного контента, он требует много времени.
Постмодерация
Постмодерация — это стандартный метод модерации контента, при котором существует компромисс между взаимодействием пользователей и модерацией. Хотя пользователям разрешено публиковать свои материалы, они все еще находятся в очереди на модерацию. Если контент был помечен, он проверяется и удаляется. Компании стремятся сократить время проверки, чтобы нежелательный контент не оставался в сети слишком долго.
Реактивная модерация
При реактивной модерации сообществу пользователей рекомендуется помечать неприемлемый контент, нарушающий правила сообщества. правила и рекомендации. В этом методе внимание сообщества привлекается к контенту, который нуждается в модерации. Однако оскорбительный контент может оставаться на платформе в течение более длительного периода времени.
Распределенная модерация
В методе распределенной модерации онлайн-сообщество может просматривать, помечать и удалять контент, который он считает оскорбительным и противоречащим правилам, используя систему рейтинга.
Автоматическая модерация
Как следует из названия, автоматическая модерация использует различные инструменты и системы для пометки слов или фраз и отклонения отправленных материалов. Он работает путем фильтрации определенных запрещенных слов, изображений и видео с помощью алгоритмов машинного обучения.
Хотя модерация с помощью технологий становится все более распространенной, человеческая умеренность в обзоре нельзя не учитывать. В идеале предприятия используют комбинацию автоматизированных инструментов и модераторов-людей, по крайней мере, в сложных ситуациях.
Как машинное обучение помогает модерировать контент?
С более чем 5 миллиардами человек, использующих Интернет, и более чем 4 миллиардами активных пользователей социальных сетей, нелегко удивиться огромному количеству изображений, текста, видео, постов и сообщений, генерируемых ежедневно. Этот гигантский контент должен быть каким-то образом модерирован, чтобы пользователи, заходящие на их сайты в социальных сетях, могли получить приятный и обогащающий опыт.
Модерация контента возникла как решение для удаления контента, который является явным, оскорбительным, оскорбительным, мошенническим или противоречащим духу бренда. Традиционно предприятия полностью полагались на модераторов-людей для проверки онлайн-контента, созданного пользователями, опубликованного на их платформах. Однако полная зависимость от модераторов-людей может сделать процесс трудоемким, дорогостоящим и неэффективным.
В настоящее время предприятия используют алгоритмы машинного обучения для автоматической и эффективной модерации контента. AI-питание модерация контента сделала весь процесс эффективным, быстрым, последовательным и экономичным.
Хотя этот процесс не устраняет необходимость в модераторах-людях — человек в курсе, участие модераторов-людей помогает решать сложные вопросы. Более того, модераторы-люди лучше понимают языковые нюансы, культурные различия и контекст. Когда используются автоматизированные инструменты с помощью модераторов-людей, это снижает психологическое воздействие воздействия триггерного контента.
Проблемы модерации контента
Основной проблемой разработки алгоритма модерации контента является потребность в скорости, способности обрабатывать большие объемы данных и поддерживать точность. Кроме того, для разработки такой модели требуется большое количество данных. Тем не менее, такие данные сложны, поскольку большая часть баз данных контента цифровых платформ становится собственностью компаний.
Еще одна серьезная проблема, связанная с разработкой точного алгоритма модерации контента, — это язык. Надежное приложение для модерации контента должно уметь распознавать несколько языков и понимать культурные нюансы, социальные контексты и языковую динамику.
Так как язык претерпевает несколько изменений с течением времени, так как некоторые слова, которые вчера были безобидными, сегодня могли бы заслужить дурную славу, модель машинного обучения должна идти в ногу с меняющимся миром. Например, изображение обнаженной натуры может быть откровенным и вуайеристским или просто искусством.
Как часть контента воспринимается или считается неуместным, зависит от контекста. И очень важно иметь последовательность и стандарты на вашей платформе, чтобы ваши пользователи могли доверять вашим усилиям по модерации.
Типичный пользователь всегда пытается найти лазейки в ваших рекомендациях и обойти правила модерации. Однако ваш алгоритм машинного обучения должен иметь возможность непрерывно развиваться в соответствии с меняющимся временем.
Наконец, это вопрос предвзятости. Диверсификация вашей базы данных обучения и моделей обучения для определения контекста имеет решающее значение. Хотя разработка надежного алгоритма модерации контента может показаться сложной задачей, она начинается с получения высококачественных обучающих наборов данных.
Сторонние поставщики, обладающие необходимыми знаниями и опытом в предоставлении адекватных наборов данных для обучения, — это то, с чего стоит начать.
Каждый бизнес с социальным присутствием нуждается в передовом решение для модерации контента это помогает завоевать доверие клиентов и обеспечить безупречный клиентский опыт. Чтобы создать приложение и обучить модель машинного обучения, вам необходим доступ к высококачественной базе данных без предвзятости, соответствующей последним тенденциям в области лингвистики и контента на рынке.
Благодаря нашему многолетнему опыту, помогающему предприятиям запускать модели ИИ, Шаип предлагает комплексные системы сбора данных, отвечающие различным потребностям модерации контента.
Что такое модерация контента? Типы модерации и инструменты
Уровень сложности
Средний
Время на прочтение
7 мин
Количество просмотров 1.7K
Цифровой мир находится в состоянии постоянного движения, и одной из его мощных движущих сил является генерируемый контент. Сегодня люди охотнее поверят мнению, высказанному другими людьми онлайн, чем информации, предоставляемой компаниями и государственными органами. В этой статье мы расскажем, что такое модерация контента.
Ежедневно публикуются невообразимые объёмы текста, изображений и видео, поэтому компаниям необходимо отслеживать контент, хранящийся на их платформах. Это критически важно для обеспечения безопасной и надёжной среды для клиентов, а также для мониторинга социальных влияний на восприятие брендов и соответствия государственным требованиям.
Наиболее эффективным способом достижения всех этих целей является модерация контента.
Под модерацией контента понимается отсев недопустимого контента, публикуемого пользователями на платформе. Этот процесс включает в себя применение заранее установленных правил мониторинга контента. Если контент не соответствует требованиям, он помечается и удаляется. Причины этого могут быть разными: насилие, оскорбления, экстремизм, нагота, враждебные высказывания, нарушения авторских прав и тому подобное.
Задача модерации контента — обеспечение безопасности платформы и её соответствия политике компании по обеспечению доверия и защиты. Модерация контента широко применяется в социальных сетях, на веб-сайтах и в приложениях для онлайн-знакомств, на торговых площадках, форумах и других подобных платформах.
Почему модерация контента важна?
Из-за огромного объёма ежесекундно создаваемого контента платформы, основанные на генерируемом пользователями контенте, с трудом справляются с недопустимыми и оскорбительными текстами, изображениями и видео.
Модерация контента — единственный способ поддерживать соответствие веб-сайта стандартам, защищать клиентов и репутацию компании. С её помощью можно обеспечить выполнение предназначения платформы и не становиться площадкой для спама, насилия и нецензурного контента.
Типы модерации контента
При выборе способа реализации модерации контента на платформе следует учитывать множество факторов, например, задачи бизнеса, типы генерируемого пользователями контента и специфику пользовательской базы.
Вот основные типы процессов модерации контента, которые можно выбрать для своей компании:
1. Автоматическая модерация
Для ускорения и упрощения процесса модерации сегодня активно применяются технологии. Алгоритмы на основе ИИ анализируют текст и графику за крошечную долю того времени, которое бы для этого понадобилось людям; и самое главное — они не страдают от психологических травм, вызванных обработкой недопустимого контента.
При работе с тексом автоматическая модерация может отсеивать ключевые слова, считающиеся проблемными. Более сложные системы могут выявлять спорные паттерны и выполнять анализ взаимосвязей.
Что касается графической информации, то ИИ-инструменты наподобие Imagga позволяют выполнять мониторинг изображений, видео и прямых трансляций. Такие решения выявляют недопустимые изображения и имеют различные опции для управления пороговыми значениями и типами визуального контента.
Хотя модерация на основе технологий становится всё более точной и эффективной, она не способна полностью заменить проверку человеком, особенно в сложных ситуациях. Именно поэтому при автоматической модерации по-прежнему используется сочетание технологий и труда живых модераторов.
2. Премодерация
Это самый сложный способ решения задачи модерации контента. При нём каждый элемент контента проверяется перед публикацией на платформе. Когда пользователь публикует текст или графическую информацию, элемент передаётся в очередь проверки. Его публикуют на платформе только после того, как модератор контента одобрит его.
Хотя это самый надёжный способ блокировки вредного контента, такой процесс довольно неспешен и неприменим в стремительном онлайн-мире. Однако платформы, требующие высокого уровня защиты, по-прежнему используют такой способ модерации. Одним из примеров могут быть платформы для детей, где безопасность пользователей — это самое важное.
3. Постмодерация
Постмодерация — самый типичный способ отсева контента. Пользователи могут публиковать свой контент в любой момент, но все элементы становятся в очередь на модерацию. Если элемент помечен как недопустимый, он удаляется, чтобы защитить остальных пользователей.
Платформы стремятся снизить время проверок, чтобы недопустимый контент не оставался онлайн слишком долго. Хотя постмодерация не так безопасна, как премодерация, сегодня это всё равно предпочтительный способ для многих цифровых бизнесов.
4. Реактивная модерация
При реактивной модерации пользователи отмечают контент, который считают недопустимым или нарушающим правила платформы. В некоторых случаях она может быть эффективным решением.
Для обеспечения оптимальных результатов реактивную модерацию можно использовать и как единственный способ проверки, и в сочетании с постмодерацией. В последнем случае пользователи могут помечать контент после того, как он прошёл процессы модерации, обеспечивая таким образом двойную защиту.
Если вы решите использовать только реактивную модерацию, следует учесть и определённые риски. Саморегуляция платформы кажется отличной идеей, однако может привести к тому, что недопустимый контент будет находиться онлайн слишком долго. Это может нанести долговременный ущерб репутации компании.
5. Распределённая модерация
Этот тип модерации целиком полагается на помощь онлайн-сообщества в проверке контента и его удалении. Пользователи используют систему рейтингов, чтобы указывать, соответствует ли контент требованиям платформы.
Такой способ используется редко, потому что создаёт серьёзные сложности для компаний с точки зрения репутации и соответствия требованиям закона.
Как работает модерация контента?
Чтобы внедрить на своей платформе модерацию контента, сначала нужно установить чёткие инструкции о том, что же является недопустимым контентом. Благодаря этому люди, выполняющие такую работу (модераторы контента) смогут узнавать, что нужно помечать для удаления.
Кроме типов контента, который нужно просматривать, помечать и удалять, нужно также определить пороговые значения для модерации. Под этим понимается уровень чувствительности, которого должны придерживаться модераторы контента при его проверке. Задаваемые пороговые значения зависят от ожиданий пользователей и их состава, а также от типа вашего бизнеса.
Как объяснялось в предыдущем разделе, модерация контента может принимать различные формы. Премодерация, или проверка контента до его публикации, обычно считается слишком медленной для современных объёмов генерируемого пользователями контента. Именно поэтому большинство платформ предпочитает проверять контент после его публикации и немедленного помещения в очередь модерации.
Постмодерацию часто сочетают с автоматической модерацией для обеспечения наилучших и самых быстрых результатов.
Какие типы контента можно модерировать?
Модерацию можно использовать с любыми типами контента, это зависит от сферы интересов вашей платформы: текст, изображения, видео и даже прямые трансляции.
1. Текст
Текстовые публикации используются повсюду и могут сопровождать все типы визуального контента. Именно поэтому модерация текста — одна из прерогатив для всех типов платформ с генерируемым пользователями контентом.
Просто представьте разнообразие непрерывно публикуемых текстов:
- Статьи
- Обсуждения в социальных сетях
- Комментарии
- Вакансии
- Посты на форумах
На самом деле, модерация текста может быть довольно сложной задачей. Выявления оскорбительных ключевых слов часто недостаточно, потому что недопустимый текст может состоять из последовательности абсолютно допустимых слов. Также следует учитывать нюансы и культурную специфику.
2. Изображения
Модерация визуального контента считается чуть более простой, однако критически важно наличие руководств и пороговых значений. Здесь тоже могут играть свою роль культурные тонкости, поэтому важно подробно знать специфику пользовательских баз в различных географических регионах.
Проверка больших объёмов изображений может быть довольно трудной, это важная тема для платформ визуального контента наподобие Pinterest и Instagram. Модераторы контента могут видеть крайне травмирующие изображения, что создаёт огромный риск для их работы.
3. Видео
Сегодня видео стало одним из повсеместных типов контента. Однако его модерация — непростая работа. Весь видеофайл может быть удалён из-за наличия единственной недопустимой сцены.
Ещё одна серьёзная сложность модерации видеоконтента заключается в том, что он часто содержит разные типы текста, например, субтитры и заголовки. Их тоже необходимо проверять, прежде чем одобрить видео.
4. Прямые трансляции
Существует также потоковое вещание в прямом эфире, и это совершенно иной тип контента. Для него не только нужно модерировать видео и текст, это ещё и должно происходить в момент непосредственной трансляции контента.
Работа модератора контента
По сути, задача модератора контента заключается в проверке серий контента (текстового или визуального) и в пометке контента, не соответствующего заранее установленным инструкциям платформы. Это значит, что сотрудник должен вручную просматривать каждую единицу контента, полностью проверять и оценивать её допустимость. Часто это довольно медленный (и опасный) процесс, если модератору не помогает автоматическая предварительная проверка.
Сегодня уже не секрет, что ручная модерация контента сказывается на людях. Такая работа скрывает множество рисков для психического состояния и здоровья модераторов. Они могут сталкиваться с самым неприемлемым, жестоким, оскорбительным и ужасным контентом.
Именно поэтому в последние годы создано множество различных решений для модерации контента, берущих на себя самую сложную часть работы.
Часто задаваемые вопросы
Что такое модерация контента?
Модерация контента — это работа по отсеиванию недопустимого контента, публикуемого пользователями на платформе. Её задача заключается в защите пользователей от любого контента, который может быть небезопасным или недопустимым, что, в свою очередь, способно испортить онлайн-репутацию платформы.
Как работает модерация контента?
Модерацию контента можно выполнять вручную живыми модераторами, которых проинструктировали о типах контента, считающегося неприемлемым, или автоматически, при помощи ИИ-платформ для точной модерации контента. В некоторых случаях для ускорения и улучшения результатов может использоваться сочетание ручной и автоматической модерации контента.
Какие можно привести примеры модерации контента?
Модерация контента необходима, когда контент должен демонстрироваться несовершеннолетним. В таком случае неприятный, насильственный или нецензурный контент должен тщательно проверяться и помечаться как недопустимый. Модерация контента может применяться к тексту, изображениям, видео и прямым трансляциям.
Content moderation is a critical part of any brand’s social media strategy. In a world of bots, trolls, and scams, social media moderation ensures your brand’s social channels – and their comments sections – are safe, friendly, and pleasant places to be.
Reduce response time (and your workload)
Manage all your messages stress-free with easy routing, saved replies, and friendly chatbots. Try Hootsuite’s Inbox today.
Book a Demo
What is content moderation?
Content moderation is a part of social media management in which a content moderator handles incoming messages, comments, and other content generated by third parties.
Those third parties might be your followers, customers, or random strangers on the internet. The content moderator’s role is to make sure that real people get a real response, while trolls and bots get sorted to the virtual dustbin.
Content moderators also screen comments and other public-facing content for profanity, obscenity, slurs, and other offensive or material.
Why is content moderation important?
Content moderation is important for a couple of main reasons.
1. Customer service
Customers and potential customers may use your social channels to reach out for help. A content moderator makes sure incoming queries are answered appropriately.
On small teams, the content moderator might be responsible for answering questions directly. On larger teams, they might have help in the form of other marketing members or members of the customer service team.
Source: Hootsuite Social Trends 2023
Either way, the content moderator makes sure incoming DMs and public queries or complaints are handled. That might mean addressing messages themselves or assigning them to someone else.
It’s important to note that the content moderation process is not about trying to make it look like you only get positive comments. Instead, it’s about removing content that violates reasonable standards of decent behavior. Negative comments that are civil should be responded to and addressed, rather than removed.
2. Brand image
Social media content moderation affects brand image in two ways. First, it’s very clear on social media when a brand ignores its customers. Even if someone initially reaches out via DM or other private channels, they’ll soon take their issues public if they don’t get a response.
Staying on top of incoming content is a good way to build social trust.
Unfortunately, there are some nasty people on the internet, and they’re going to post nasty comments on your social accounts. Leaving those unattended can also harm your brand image, as no one wants to see offensive content in the comments of a social post.
You might initially get some sympathy from fans, but if you routinely leave ugly comments unchecked, your brand image will begin to suffer. Since social is an important tool for brand and purchase research, this can have a direct impact on your sales.
This is particularly important if you work with influencers or publish user-generated content.
Why is content moderation important for user-generated campaigns? Because when you’re sharing someone else’s content, it’s even more important to keep the comments civil. Someone who shares their content with your brand once is not likely to do so again if they have to read vitriol, slurs, or profanity in response.
5 content moderation best practices
1. Set up clear guidelines for moderators
Social media moderation is a tough job. A clear set of rules makes the work less stressful for moderators and potentially more effective for the brand.
Just like your social media style guide and social media policy, social media content moderation guidelines outline how to refer to your brand and your products on social channels. In fact, these two documents can be a great starting point when creating your content moderation guidelines.
Your content moderation guidelines also need to explain:
- how moderators should deal with rude and abusive messages and comments
- when to pass messages on to another department
- and when to get more senior staff involved
Incoming comments can also be your first warning of a social media crisis. So make sure your social media moderation guidelines align with and refer to your social media crisis management plan.
2. Answer all real comments and messages
We’ve already talked about why it’s important to answer comments and messages. Here, let’s focus on the “real” part of this best practice.
Content moderation tools help filter out spam comments and messages so you can focus your energy on responding to real people.
It’s important to review your filtered messages regularly to ensure no real messages get missed. Even if people are rude or inappropriate, it’s a best practice to respond. Just make sure you keep things business-like and never stoop to their level.
Of course, some people will never be satisfied with your response and are focused on stirring up trouble. In this case, remember the old saying, “Don’t feed the trolls.” Acknowledge that you have engaged with them to the extent you are able and that you cannot help them any further.
Reduce response time (and your workload)
Manage all your messages stress-free with easy routing, saved replies, and friendly chatbots. Try Hootsuite’s Inbox today.
Book a Demo
3. Use filters and alerts
There are some words and phrases you know for sure you never want to see in the public comments on your social posts. What those words and phrases are will vary. For example, a skateboard brand might have a broader range of acceptable vocabulary than a pharmaceutical firm.
Fortunately, the social networks offer built-in tools to filter out comments based on your pre-selected list of no-go words.
You can also use these tools to help you manage spam comments. For example, you could block comments that contain the phrase “I’m paying”
Source: Instagram
We walk you through the Instagram process in our post on how to manage Instagram comments. Other platforms offer similar tools. Or you can set up these filters through your dedicated content moderation tool (more on those below).
4. Automate straightforward tasks
Many of the messages that come in, especially to your DMs, will be questions you get over and over again. Fortunately, some of these inquiries can be managed through automated responses.
You can set up ultra-basic autoresponses through the social platforms themselves. But a conversational chatbot like Heyday can actually interact with people who message you. It guides people through their initial contact through to a resolution. This might be a simple answer to their question or even a sale based on customized product recommendations.
Source: Heyday
All of this simplifies human moderation, allowing your content moderators to spend their time on the interactions that bring the most value to your brand.
5. Support your team
Content moderators provide immense value to your organization. It’s important to recognize that they do a difficult job and offer them appropriate support.
Content moderators are on the front lines of the sometimes dark world of online comments. They can see some challenging things and have to deal with even more challenging people. Recognize that your content moderators are not robots. They need time and support to decompress from those difficult interactions.
Make workplace wellness a priority. Check in regularly to see how your moderators are doing, and solicit their input on any ways in which you can make their work less stressful.
4 content moderation tools for businesses of all sizes
1. Hootsuite
Hootsuite can help with your content moderation in a couple of key ways.
Hootsuite Streams
First, Hootsuite Streams are a simple, free content moderation solution for small businesses
Each of the links below takes you to a detailed help article with everything you need to know to set up content moderation for the specified platform.
- Facebook comment moderation. From your Hootsuite streams, you can like or hide comments on your Facebook Page or profile. You can also reply to comments both publicly and privately.
- Instagram comment moderation. If your Instagram business profile is fully authenticated with Facebook, you can hide or delete comments in your My Posts stream. You can also reply to comments as long as your profile is connected to a Facebook Page.
- TikTok comment moderation. WIth Hootsuite streams, you can comment on, reply to, and hide your own comments and comments from others in TikTok My Videos streams. You can also sort comments and delete your own comments.
- YouTube comment moderation. The first step is to enable content moderation for your YouTube channel. Then, you can approve, delete, or reply to comments in your YouTube Moderate and Likely Spam streams in Hootsuite, before they’re published.
- LinkedIn comment moderation. If a particular LinkedIn post is getting a lot of comments, you can create a Hootsuite stream specifically for that post. You can then moderate the comments for that post separately to make sure nothing gets missed.
Hootsuite Inbox
With Hootsuite Inbox, you can fully bridge the gap between social media engagement and customer service — and manage all of your social media messages in one place. This includes:
- Private messages and DMs
- Public messages and posts on your profiles
- Dark and organic comments
- Mentions
- Emoji reactions
… and more.
The all-in-one agent workspace makes it easy to
- Track the history of any individual’s interactions with your brand on social media (across your accounts and platforms), giving your team the context needed to personalize replies
- Add notes to customers’ profiles (Inbox integrates with Salesforce and Microsoft Dynamics)
- Handle messages as a team, with intuitive message queues, task assignments, statuses, and filters
- Track response times and CSAT metrics
Book a free demo
Plus, Inbox comes with handy automations:
- Automated message routing
- Auto-responses and saved replies
- Automatically triggered customer satisfaction surveys
- AI-powered chatbot features
2. Respondology
Source: Respondology
Repondology is an automated content moderation tool with a particular focus on eliminating racism, slurs, and other abusive comments. It also helps filter out spam and bots, along with inappropriate comments that are potentially damaging to your brand.
3. BrandFort
Source: BrandFort
BrandFort uses artificial intelligence to filter out hate, spam, profanity, and overtly negative comments on Facebook and Instagram. It offers support for multiple languages.
4. Smart Moderation
Source: Hootsuite App Directory
Smart Moderation is another automation tool that moderates comments on Facebook, Instagram and YouTube. It’s designed to filter out inappropriate content including abusive language, hate speech, spam, trolling, and bots.
What does a content moderator do?
Content moderators deal with all incoming comments and messages on social media platforms, both public and private.
What are the types of content moderation?
The main types of content moderation are:
- Pre-moderation. This content moderation process is used in blogs or online communities rather than in the more narrow content moderation definition that applies to social media. This is when all comments go into a queue and have to be approved before they are posted.
- Post-moderation. This is the most common kind of content moderation in social media, where your content moderator reviews all comments after they are posted.
- Automated moderation. This type of content moderation refers to blocking a list of specific words or phrases through a more sophisticated content moderation tool.
What skills do you need to be a content moderator?
First off, content moderators require the ability to deal with challenging work. It can be a fun job because it involves interacting with fans and followers of your brand’s social channels. But it also involves dealing with spammers, scammers, angry customers, and other difficult tasks.
Content moderation teams also need to understand how to use social tools effectively. This includes both the social platforms themselves as well as any content moderation tools in use.
Finally, content moderators require good writing and editing skills, so they are able to represent the brand well through their responses to comments and messages on social channels.
Save time managing your social media presence with Hootsuite. From a single dashboard you can publish and schedule posts, find relevant conversions, engage the audience, measure results, and more. Try it free today.
Get Started
Save time on social messaging with automated responses, smarter workflows, and friendly chatbots — all in the Hootsuite Inbox.
Free Demo
#статьи
-
0
Модерация прямых эфиров по играм: как создать дружелюбную атмосферу и не допустить хаоса
Делимся главными тезисами доклада Кэт Лоу и Виктории Тран, представленного на конференции GDC.
Иллюстрация: Оля Ежак для Skillbox Media
Считает игры произведениями искусства и старается донести эту идею до широких масс. В свободное время стримит, рисует и часами зависает в фоторежимах.
Несколько лет назад пандемия изменила привычный уклад жизни. Владельцы компаний делали всё, чтобы вернуть прежний охват. Вскоре выяснилось, что прямые эфиры справляются с этой задачей не хуже офлайн-мероприятий, и в игровой индустрии тоже. И хотя в большинстве стран ковидные ограничения уже сняты, издатели до сих пор проводят онлайн-шоу в Сети, а разработчики записывают производственные стримы и демонстрируют геймплей игр в прямом эфире на различных площадках, в частности в Steam.
Возникает вопрос: как поддерживать на трансляциях дружелюбную атмосферу и исключить токсичность и угрозы? Неловкие ситуации в чате возникают даже на эфирах с сотнями тысяч зрителей. Выходит, это относительно новое направление тоже нуждается в стандартизации. В рамках GDC 2023 Кэт Лоу и Виктория Тран поделились знаниями, которые помогут компаниям и организаторам подготовиться к онлайн-мероприятию, создать комфортную и безопасную среду для аудитории в чате и не оттолкнуть спонсоров и рекламодателей. Редакция «Геймдев» Skillbox Media делится основными тезисами этого выступления.
Рекомендации из доклада будут полезны любым брендам, студиям, компаниям, организациям или даже тематическим сообществам, которые хотят продвигать свои проекты с помощью прямых трансляций, но не до конца разобрались во всех нюансах этого направления. Стримеры также могут почерпнуть для себя что-то новое.
Ведущий специалист по модерации контента в некоммерческой организации Meedan, которая разрабатывает ПО, направленное на улучшение цифровой грамотности. Сотрудничает с Центром надёжных, этичных и доступных технологий Калифорнийского университета в Ирвайне: помогает исследовать тему модерации сообществ и различных негативных явлений, которые возникают в этой сфере. Продюсер ютубера Hbomberguy и ещё нескольких блогеров. Руководит командой модераторов аккаунта политика и общественного деятеля Александрии Окасио-Кортес в Twitch. Общий стаж онлайн-модерации — около 15 лет.
Директор по развитию сообщества студии Innersloth — разработчика Among Us. Также является одним из организаторов сообщества Wholesome Games и отвечает за проведение ежегодного мероприятия Wholesome Direct с презентациями инди-игр.
Представьте, что вы владелец компании, у которой есть отличный проект — игра, сервис или даже благотворительная акция. Вы стараетесь быть в тренде, поддерживать связь с молодым поколением, знаете, что прямые эфиры собирают большую аудиторию, и тоже хотите попробовать этот метод продвижения. Вы составляете программу с презентацией ваших проектов, приглашаете популярных ведущих и спонсоров, тратите большое количество денег на спецэффекты и анимации для заставок — словом, готовитесь к эфиру для большой аудитории.
И вот настал момент долгожданного запуска. К трансляции подключаются тысячи зрителей, и всё идёт замечательно. До тех пор, пока кто-нибудь не отправит в чат непристойную текстовую картинку. Конечно, такое сообщение можно оперативно удалить, и его не заметят. Но вот уже другой пользователь написал провокационную фразу, которая задела большинство зрителей. И чат моментально начинает заполняться текстовыми картинками с мемами с лицом тролля, оскорблениями и другими вещами, которых вы, как организатор, точно не ожидали.
Выходит, что, несмотря на тщательное планирование и техническое оснащение, вы были не готовы к негативным реакциям — вполне привычному для интернета явлению. Когда у людей появляется возможность моментально взаимодействовать с кем угодно из любой точки мира, нередко начинается хаос, от которого не застрахованы даже крупные мероприятия. Можно вспомнить случай в начале этого года, когда текстовая картинка с непристойным содержанием появилась на экране церемонии Spanish Streamer Awards.
Организаторам необходимо предотвращать подобные ситуации, поскольку те подвергают риску несовершеннолетних пользователей и в целом негативно влияют на восприятие аудитории, сотрудников, рекламодателей и спонсоров. В своё время Кэт и Виктория наблюдали за реакцией медиа на модерацию конференции E3 2021 и не понимали, почему организаторы не приняли никаких мер во время эфира. В итоге в прессе появилось несколько статей, посвящённых не самой конференции, а токсичной атмосфере в чате и плохой работе модераторов.
Кадр: GDC / YouTube
Чтобы о вашем проекте говорили только хорошее и пресса смаковала события самого мероприятия, а не инциденты в чате трансляции, необходимо создать комфортную и дружелюбную атмосферу для зрителей. Она, в свою очередь, может стать отличной средой для потенциальных рекламодателей. В этом поможет модерация. С её помощью зрители могут обмениваться информацией о происходящем в реальном времени и фокусироваться на том, что происходит на экране, а не в чате.
- Большой объём сообщений. Это характерно для масштабных онлайн-мероприятий, когда в чат пишет много зрителей.
- Спам. К нему относится копипаста и отправка повторных или бессмысленных сообщений.
- Рейд. Чат атакует группа пользователей или ботов.
- Боты. Размещение ссылок и предложений, имитирующих общение с целью рекламы.
- Харассмент. Сообщения с агрессией, домогательствами, угрозами по отношению к организаторам и другим участникам чата.
- Токсичность. Споры ради споров, пассивная агрессия, оскорбления — всё, что вызывает у человека негативные эмоции и дискомфорт.
- Многие пользователи могут покинуть трансляцию. Возможно, они посмотрят запись эфира на другом ресурсе — или же не посмотрят ваш эфир вовсе.
- Зрители свернут окно с чатом. На первый взгляд, в этом нет ничего страшного, ведь они по-прежнему смотрят эфир. Но если чат будут массово игнорировать, исчезнет социальное взаимодействие. Если зрители не собираются вместе, не общаются друг с другом и не обсуждают происходящее, они попадают в своеобразный вакуум и перестают быть частью сообщества. Высока вероятность того, что они и вовсе перестанут следить за вашим проектом и пропустят следующие эфиры. Зрителей на стримах можно сравнить с посетителями спортивного мероприятия, которые вместе весело проводят время и болеют за свою любимую команду.
- Есть люди, для которых негативная атмосфера неприемлема. Если такого зрителя заденет токсичное сообщение в чате, а модераторы будут бездействовать, он станет вашим недоброжелателем и ярым критиком в соцсетях. При этом вы, как организатор, узнаете о том, как на самом деле прошло ваше шоу, только когда обнаружите в Сети подобные посты.
- Худший вариант: у людей может сложиться негативное впечатление о ценностях вашей компании или студии. Они будут считать, что вы привлекаете токсичную аудиторию. Это не только отразится на вашей репутации, но и оставит негативное впечатление о вашем сообществе.
Успешный эфир требует тщательной подготовки и определённых действий. Разберём их подробнее.
Для начала нужно определиться с платформой, на которой вы будете проводить трансляции. Например, если выбирать между Twitch и YouTube, то инструменты для модерации есть у обоих порталов. Однако у Twitch настройки более гибкие с точки зрения автоматической модерации и общей структуры сервиса. К тому же эта платформа поддерживает интеграцию сторонних чат-ботов. На YouTube такая функциональность всё ещё находится в разработке. Чтобы компенсировать технические недостатки сервиса, придётся нанять больше модераторов.
Независимо от того, какую платформу вы выберете в итоге, вам придётся самостоятельно проверить работу всех инструментов модерации сервиса. Делайте это на сторонней учётной записи, а не с основного профиля, чтобы пробный эфир не заметили подписчики.
Приведённые ниже рекомендации рассчитаны в основном на крупные корпорации с большой аудиторией, но многие пункты подходят и для небольших студий. Вам потребуются:
- свод правил поведения для участников чата;
- чат-боты для автоматической модерации;
- список экстренных команд, таких как команда для включения режима «Только смайлики»;
- руководства по модерации и рабочий лист;
- команда модераторов.
Как только всё будет готово, лично протестируйте функциональность выбранной платформы, как было указано ранее. Разберём подробнее самые важные элементы списка.
Перед отправкой сообщений пользователю обычно предлагают ознакомиться с правилами поведения в чате и принять их. Хотя люди редко их читают, в этих правилах отражена общая атмосфера сообщества и на них всегда можно сослаться в случае возникновения инцидентов. Благодаря правилам зрители понимают, что можно писать, а что нет. Это во многом облегчает модерацию больших сообществ.
Скриншот: DMITRY_BALE / Twitch
Ниже приведено несколько рекомендаций по оформлению свода правил.
- Обозначьте запрещённые вещи в вашем чате.
- Добавьте пункты с позитивным контекстом — например, «Будьте вежливы по отношению друг к другу».
- Свод правил должен быть лаконичным, чтобы пользователи дочитали его до конца.
Но если посмотреть на стандартные правила чата в каналах стримеров, можно заметить довольно расплывчатые формулировки, на которые модераторам ориентироваться порой сложно. Стоит ли в том или ином конкретном случае наказывать «отличившегося» зрителя или оставить всё как есть?
Поэтому вы должны задать себе вопрос, что именно в вашем понимании считается:
- токсичным;
- слишком провокационным;
- спамом;
- не связанным с темой;
- деструктивным;
- в иной степени крайне негативным.
Многие люди отфильтровывают плохой контент по принципу крылатого выражения «Узнаю, когда вижу». Но такая модерация не может быть объективной. Существует «серая зона» с определениями, относительно которых у вас могут возникнуть разногласия с модераторами. И вы должны обозначить, какие высказывания запрещены, а в каком случае можно сделать исключение.
После того как вы определились с вещами, которые в вашем понимании считаются плохими, возникнет другой вопрос: попадает ли в эту категорию какой-то специфический контент? В пример можно привести историю лягушонка Пепе. Персонаж был придуман в 2005 году, и мемы с ним пользовались большой популярностью. Но 10 лет спустя его образ приобрёл негативный окрас. В сообществах Twitch и Discord до сих пор ведутся дискуссии по поводу смайликов с Пепе. Одни пользователи категорически против их использования, другие считают лягушонка неотъемлемой частью гик-культуры. В своё время Кэт тоже долго обсуждала с командой, насколько корректно использовать этот мем в трансляциях. Подобные детали можно уточнить в руководстве для модераторов.
Этот документ нужно очень тщательно проработать, чтобы убедиться, что правила модерации соответствуют ценностям вашей компании. Составляя такую инструкцию, вы указываете, каким в вашем понимании должен быть чат трансляции, какой контент допустим и как должны действовать модераторы.
В отличие от свода правил, здесь нужно более подробно расписать все пункты и добавить к ним распространённые примеры слов и специфических понятий, которые часто встречаются в чатах. Это особенно важно, если в вашей команде есть люди, которые могут быть не в курсе значений некоторых локальных выражений.
Чтобы модераторы знали, как поступить в той или иной ситуации, необходимо подготовить для них инструкцию, которую в рамках доклада Кэт условно называет матрицей. В этой многоуровневой системе чётко указано, за какие действия участников чата стоит наказывать, а за какие нет.
Уровень 0. Модератор не предпринимает никаких действий. К этому уровню относятся:
- конструктивная критика игры или проекта без оскорблений и угроз;
- смайлики без текста, если это не умышленный спам;
- конструктивная критика ведущего или самой трансляции без оскорблений, угроз, нетолерантных высказываний и так далее;
- ненормативная лексика, если она допустима в рамках стрима.
Уровень 1. Модератор применяет тайм-ауты. Их длительность зависит от того, насколько радикальным было высказывание зрителя. К этой категории относятся:
- сообщения с сексуальным или фетишистским подтекстом (если они адресованы ведущей трансляции, тайм-аут должен быть более продолжительным);
- недвусмысленные сообщения с намёком на расизм, сексизм, экстремизм и так далее.
Если модераторы реагируют оперативно, такие инциденты будут незаметны для аудитории. А если зрители не видят подобных сообщений, шанс, что кому-то из них придёт в голову написать что-то провокационное, будет гораздо ниже. В совокупности это упрощает работу модераторов.
Уровень 2. Обсуждение неоднозначных сообщений с другими модераторами в специальном чате (Discord или в любом другом приложении), созданном для дополнительных консультаций.
Когда модератор не уверен в том, нужно ли забанить конкретного пользователя за высказывание или просто дать ему тайм-аут, он присылает в чат скриншот с сообщением и получает рекомендации от ведущего модератора или организатора. Чем больше подобных спорных случаев разбирает команда, тем быстрее она поймёт, что именно нужно доработать или добавить в текущий свод правил. Дополнительные консультации — одна из ключевых частей обсуждения, итераций и модерирования.
Кадр: GDC / YouTube
Кадр: GDC / YouTube
Например, в чате, который модерировала команда Кэт, зрители не могли писать название портала OnlyFans, потому что оно было занесено в автофильтр. Тогда они приноровились писать «only fans» с пробелом. Модератор заметила это и предложила внести словосочетание в список запрещённых слов.
Стоит помнить, что такие решения требуют индивидуального обсуждения, так как их нельзя применять для всех эфиров подряд. Но если команда модерирует трансляцию привлекательной девушки, всегда найдутся те, кто спросит ведущую, есть ли у неё страничка на одноимённом ресурсе, что однозначно неприемлемо. Нужно заранее позаботиться о том, чтобы свести к минимуму количество недвусмысленных сообщений за счёт добавления спорных слов и словосочетаний в стоп-лист в настройках трансляции.
Уровень 3. Перманентный бан для авторов сообщений с чётким негативным посылом: токсичных, оскорбительных, с харассментом, разжиганием ненависти и так далее.
Уровень 4. Бан и фиксация угрозы в отдельном канале для модераторов из соображений безопасности. Применяется, когда пользователь перешёл все границы.
Также следует составить рабочий лист, в котором, как правило, кратко перечисляется всё, что вашей команде нужно знать о будущем мероприятии.
1) Основная информация:
- дата, время начала и окончания трансляции;
- тематика;
- имена ведущих;
- языки, на которых разрешено общаться в чате;
- расписание;
- список модераторов;
- какие чат-боты будут использованы и для чего.
2) Предполагаемая атмосфера мероприятия, примерная оценка аудитории и сложности, с которыми, возможно, придётся столкнуться. Также можно определить:
- деликатные темы и слова в чате, использование которых модераторы должны пресекать;
- роль чата в трансляции. Важно обозначить, могут ли зрители лишь реагировать на происходящее и подбадривать в комментариях или же у них есть возможность общаться с ведущими напрямую.
Примечание
Обязательно укажите, будут ли в вашей трансляции какие-то нестандартные решения. Например, если вы планируете вывод сообщений с Twitch на экран во время живого мероприятия, нужно настроить задержку чата на 15 секунд. Если что-то пойдёт не так, модераторы успеют среагировать. Так можно избежать неловких ситуаций.
3) Контакты координатора, ответственного за трансляцию, на случай, если у модераторов возникнут вопросы.
Кадр: доклад Кэт Лоу и Виктории Тран на GDC 2023 / YouTube
Имея на руках подобный рабочий лист, модераторы и координатор трансляции могут ориентироваться на него в течение всего эфира, не отвлекая вас по мелочам.
После трансляции Кэт рекомендует провести разбор полётов, особенно если вы в будущем планируете проводить и другие онлайн-мероприятия.
Рейд хейтеров:
- Превентивные меры: настроить бота, который будет автоматически блокировать слова, используемые в подобных рейдах.
- Решение проблемы в реальном времени: создать позитивную атмосферу в чате, чтобы она подавила негатив → включить режим «Только смайлики» → отключить чат → настроить общение только для подписчиков.
Спам:
- Превентивные меры: отключить в настройках отправку сообщений, содержащих ссылки; настроить задержку чата.
- Решение проблемы в реальном времени: добавить ключевые фразы спамеров в автофильтр → включить режим «Только смайлики» → отключить чат → настроить общение только для подписчиков.
Токсичное поведение:
- Превентивные меры: обозначить в правилах чата, что приемлемо, а что нет; настроить задержку чата.
- Решение проблемы в реальном времени: временный или перманентный бан.
Залог успешной трансляции — хорошая работа модераторов. Поэтому вам нужно уделить особое внимание их найму.
Рассчитывайте необходимое количество модераторов, оценив:
- размер вашей аудитории;
- самобытность стримера или типа мероприятия;
- количество ваших недоброжелателей.
Обязанности модератора зависят:
- от продолжительности трансляции;
- наличия параллельных трансляций;
- наличия смен;
- скорости потока чата.
Кэт рекомендует добавлять в вакансии больше конкретики: описание обязанностей, кто будет непосредственным руководителем (то есть кому модераторы будут сдавать отчёт), кто принимает окончательное решение и так далее.
При рекрутинге важно обращать внимание на опыт работы модератора, особенно на его умение настраивать чат-ботов и управлять сторонними инструментами для стриминговых платформ. Это очень ценные навыки в данной сфере, и, если вам попадётся такой специалист, сделайте всё, чтобы он продолжил работать с вами после первого эфира. Скорее всего, вам ещё придётся нанять на разовую работу одного-двух сотрудников с опытом модерации масштабных мероприятий.
Когда в команде много модераторов — это не всегда хорошо, особенно если большинство из них новички в профессии. Но если ваша трансляция будет проходить на платформах, где система модерации пока несовершенна, как в случае с YouTube, — вам потребуется больше кадров.
Перед трансляцией рекомендуется провести созвон со всеми модераторами, где вы можете проговорить задачи будущего мероприятия, проинструктировать команду и ответить на интересующие сотрудников вопросы.
Одна из важнейших вещей — корпоративные чаты (спикеры рекомендуют Discord), где модераторы могут обсуждать рабочие вопросы, например, с продюсером трансляции, который всегда будет на связи. Нет ничего хуже, чем команда модераторов, которая не знает, как поступить в той или иной ситуации и при этом не может связаться с вышестоящим руководством. В результате происходит недопонимание, и в чате трансляции начинается хаос.
Рабочие чаты помогают:
- оперативно реагировать на непредвиденные обстоятельства;
- передавать смену;
- уточнить, какие сообщения подлежат модерации и какие меры стоит предпринять.
Таким образом, наличие рабочих чатов сводит к минимуму возникновение непредвиденных ситуаций на трансляциях и к тому же снижает уровень стресса сотрудников. Ниже приведены примеры таких каналов в Discord. Каждый из них посвящён какой-то одной теме: объявления от компании, канал для общения главных модераторов, консультации по спорным сообщениям и так далее.
Кадр: GDC / YouTube
Платите им гонорар, так как любой труд должен быть оплачен. Стоит помнить, что могут возникнуть сложности с выплатами из-за того, что некоторые сотрудники могут работать удалённо в разных точках мира. К тому же есть люди, которые из принципа не хотят денег за свою работу, так как не горят желанием брать на себя бремя наёмного сотрудника.
Указывайте имена модераторов в титрах игры. В рамках трансляции вы также можете отдельно поблагодарить команду модераторов по окончании мероприятия.
Скриншот: игра Fallout: New Vegas / Obsidian Entertainment
Дарите фирменную атрибутику: она даёт ощущение эксклюзивности. Это своего рода символ тесной связи с компанией, и порой для людей такие подарки намного ценнее, чем деньги.
Хвалите модераторов за выполненную работу. Специфика этой профессии в том, что, если модераторы отлично справляются со своими обязанностями, этого никто обычно не замечает. Но когда во время трансляции что-то идёт не так, все внезапно вспоминают об их существовании. К тому же многие люди относятся к модераторам предвзято и обесценивают их навыки, необходимые для успешного проведения прямого эфира.
В качестве аргумента, подчёркивающего, насколько эта профессия важна, Кэт приводит исследование Антидиффамационной лиги, в котором сравнили чат благотворительного стрима Among Us на канале Александрии Окасио-Кортес со стримом этой же игры актёра и телеведущего Джимми Фэллона.
На трансляции AOC работало несколько чат-ботов и 14 модераторов, а у Джимми Фэллона было всего три аккаунта. Недостаток модерации на канале Фэллона привёл к тому, что чат актёра был переполнен спамом, непристойными текстовыми картинками и токсичными комментариями, что, мягко говоря, не вписывалось в общий формат ивента. В итоге Фэллон собрал для организации Feeding America 17 тысяч долларов из обещанных 25 тысяч (недостающую сумму актёр компенсировал из личных средств), тогда как Окасио-Кортес на совместном эфире с канадским политиком Джагмитом Сингхом смогла собрать более 200 тысяч долларов.
Этот пример также указывает на то, что, даже если сама трансляция протекает в позитивном ключе, негативные эмоции, возникающие при чтении чата, могут оттолкнуть даже самых преданных подписчиков.
Помните, что стримы посещают в основном так называемые зумеры — люди, родившиеся в период с 1995 по 2010 год. Согласно исследованию консалтинговой компании McKinsey & Company, именно они диктуют новые правила продвижения. А значит, вам придётся приложить максимум усилий, чтобы атмосфера в чате соответствовала их видению комфортного общения.
Например, даже если им нравится ваш проект, но они замечают, что на трансляциях вы игнорируете вещи, которые для них неприемлемы, — они изменят своё отношение к вам и уйдут к конкурентам. С другой стороны, если вы докажете, что ваша компания придерживается общечеловеческих ценностей, — молодая аудитория потянется к вам.
В рамках подготовки этого материала мы также запросили комментарий о модерации у Антона Морозова, креативного директора BH Studio.
«По моим субъективным подсчётам, в настоящий момент комьюнити Beast Hour составляет около 2 тысяч человек. Мы регулярно проводим трансляции игры на разных ресурсах и стараемся плотно работать с сообществом в соцсетях таким образом, чтобы оно становилось сплочённым и самомодерируемым. Например, недавно в одной из соцсетей пользователь прислал сообщение с критикой игры без каких-либо аргументов. Нашим комьюнити-менеджерам даже не пришлось вступать с ним в диалог, потому что два участника сообщества вежливо и развёрнуто объяснили ему, что он неправ. Встречаются и спорные моменты. Однажды наша команда столкнулась с тем, что один поклонник нашего проекта постоянно отпускал негативные комментарии в сторону Nosgoth, а мы очень уважаем эту игру и вдохновлялись ей в процессе разработки. В итоге нам пришлось забанить этого человека, хотя мы неоднократно просили его не писать подобные вещи.
Одно из главных правил общения в чате — не кормить троллей. Если они гнут свою линию, но при этом не нарушают правил сообщества, то достаточно просто их игнорировать. Вскоре они сами уйдут искать «пищу» в других каналах. В целом минимизировать количество конфликтов и создать доброжелательную атмосферу в чате можно путём запрета сообщений, в которых содержатся:
- нецензурная лексика и всё, что касается материалов 18+, как в тексте, так и в визуальном формате (в том числе блокировка игроков с нецензурными аватарами и именами). Многие сочтут запрет мата ханжеством, но там, где он разрешён, люди перестают уважать друг друга. К тому же чат — это публичное пространство, и всегда найдутся те, кому будет неприятно читать сообщения с подобным содержанием;
- разговоры на тему политики, религии и меньшинств. В чате можно обсуждать только проект разработчика и видеоигры в целом;
- предложения о покупке или продаже товаров;
- всё, что может посеять раздор в сообществе, — слухи, ложная информация, плетение интриг по отношению к другим участникам и так далее;
- информация о читах и эксплойтах. Если игрок нашёл подобный баг, ему следует сообщить о нём в поддержку, за что он получит от разработчиков благодарность и, возможно, даже поощрение. Но сообщать об этом публично не нужно, так как это не вписывается в концепцию честной игры.
В первую очередь продумайте, какие у вас будут правила поведения, и создайте условия для того, чтобы люди понимали, как эти правила работают в рамках трансляции или канала, то есть составьте своего рода кодекс. В дополнении к нему укажите в описании сообщества основную информацию о проекте и оставьте контакты команды разработчиков. После этого вам останется только следить за выполнением этих правил.
Модерация — это серьёзная работа, порой очень тяжёлая, а иногда и неприятная. Особенно когда тебе приходится банить активного и лояльного участника за то, что он портит настроение другим людям и из-за него у тебя не будет шансов расширить аудиторию игры».
Текущий вариант стандарта модерирования прямых эфиров, предложенный спикерами, потребует итераций в будущем, так как ситуация в мире и технологии постоянно меняются. Но рекомендации, представленные в докладе, помогут избежать непредвиденных ситуаций и укрепить позиции студии или бренда в медиапространстве. Ниже приведены полезные ссылки для базового ознакомления с работой стриминговых сервисов, упомянутых спикерами.
- Руководство для модераторов на Twitch
- Как модерировать чат на YouTube
Как зарабатывать больше с помощью нейросетей?
Бесплатный вебинар: 15 экспертов, 7 топ-нейросетей. Научитесь использовать ИИ в своей работе и увеличьте доход.
Узнать больше
Просмотров 11.6к. Опубликовано
Обновлено
Дмитрий Михляев
Product manager в компании Zvonobot с 2021 года. Разработал концепцию продающего чат-бота в компании и вывел данный продукт на прибыль.
Задача модератора – следить за порядком во время онлайн-бесед пользователей, мониторить работу пабликов, сообществ социальных сетей. Таких прав, как у администратора, владельца, у модератора нет, но все равно возможности специалиста намного шире, чем у обычного посетителя.
Содержание
- Что такое модерация простыми словами
- Принципы работы модерации
- Когда стоит проводить модерацию
- Кто такой модератор
- Какие модераторы бывают
- Супермодератор
- Модератор чата
- Модератор портала либо форума
- Проверяющий новостей
- Права и обязанности модератора
- Обязанности модератора
- Права модератора
- KPI у модераторов
- Как происходит процесс обучения модераторов
- К чему должен быть готов модератор
- Карьерный рост модератора
- Модератор как профессия
- Достоинства
- Недостатки
- Виды и способы модерации
- Предмодерация
- Постмодерация
- Автоматическая модерация
- «Общественная» модерация
- Модерация конфликтов
- Особенности модерации разных площадок
- Модерация чатов
- Модерация форума
- Модерация соцсетей
- Модерация новостей
- Модерирование онлайн-мероприятий
- Как выглядит правильная модерация: мифы и ошибки
- Советы тем, кто хочет стать крутым модератором
- Коротко о главном
Что такое модерация простыми словами
Модератор осуществляет проверку контента на соответствие правилам и управляет им. Речь о постах, аудиозаписях, видео, комментариях и другом контенте. У каждого модератора свой перечень прав и обязанностей – они определяются администратором либо владельцем ресурса.
Основные задачи модерации:
- Ограничение доступа к аккаунту либо беседе (бан) для отдельных пользователей за неподобающее поведение.
- Удаление сообщений, не отвечающих тематике, содержащих брань и личные оскорбления в адрес других пользователей, запрещенные ссылки на сторонние ресурсы.
- Удаление фейков, ботов из беседы.
- Добавление нового контента, редактирование старого.
- Стимулирование активности подписчиков, наполнение страниц интересным контентом.
Принципы работы модерации
Модерация – это не только система управления контентом, но и способ организации культурного общения в рамках единого цифрового пространства. Права и обязанности модератора, участников строго регламентируются, должны быть указаны на сайте.
Модерация всегда должна руководствоваться следующими принципами:
- систематический, логичный, последовательный подход;
- прозрачность процесса;
- структурированность всех этапов проверок.
Когда стоит проводить модерацию
Модерацию необходимо проводить на любых типах ресурсов – сайтах, форумах, где общаются пользователи. Можно организовывать сообщества, колонки публикации и без проверки, но это чревато постоянными конфликтами, нарушением правил, размещением запрещенных сведений.
Модератор должен не только следить за порядком, но и поддерживать жизнь ресурса, мониторить обновления контента, внедрять правила общения, доносить их перечень, необходимость соблюдения для пользователей. Поэтому для полноценной работы специалист должен разбираться в теме, иметь навыки разрешения конфликтов и молниеносно реагировать на любые внештатные ситуации.
Кто такой модератор
Модератор – это проверяющий на онлайн-ресурсах, который должен оперативно убирать весь контент, не отвечающий правилам и поддерживать с участниками обратную связь.
Модерация предполагает соблюдение ответственным лицом всех своих обязанностей. Проверяющий должен знать правила и строго им следовать, подавать собственным поведением пример, устранять конфликты, всегда сохранять нейтралитет. Общение должно быть вежливым.
Для успешной реализации текущих задач специалист должен понимать тематику, специфику ресурса, правила его работы и проверки публикаций. Знание истории портала, местечкового сленга также будет плюсом. Поэтому часто модераторами назначают старожилов ресурса, ранее продемонстрировавших себя с позитивной стороны.
Но только пользовательского опыта проверяющему мало – он регулярно выступает в качества арбитра во время конфликтов и других спорных ситуаций. Для этого нужны развитые коммуникативные навыки, умение поддерживать порядок и не настраивать аудиторию ресурса против администрации, исключать риски повышенного оттока пользователей. Обязанности и права модератора существенно различаются с учетом политики работы владельцев сайта.
Если у пользователей появляются претензии к работе проверяющего, они могут отправить жалобу администрации ресурса. Для этого на каждом сайте предусматриваются специальные формы и разделы.
Какие модераторы бывают
Основные категории проверяющих:
Супермодератор
Главный ответственный специалист. Его права максимальные, часть касается администрирования. Супермодератор следит за проектом в целом, может изменять темы, категории, внедрять новые настройки (публичность, контакты), просматривать статистику группы, блокировать старых участников и принимать новых.
Модератор чата
Мониторит переписки, работу чата. Его роль выполняет пользователь чата, которого наделили обязанностями курировать подконтрольный чат, отслеживать порядок в нем. Основная цель – исключать тех, кто не соблюдает прописанные правила общения. В некоторых чатах действует контроль за IP-адресами пользователей, что предотвращает повторные регистрации.
Модератор портала либо форума
Помогает админу мониторить не отдельные чаты, а целый ресурс – все темы, опросы, комментарии и т. д. Модератор форума либо портала делает проверки на мультиаккаунты, удаляет спам. Поэтому и полномочий у него больше, чем у обычного проверяющего.
Проверяющий новостей
Специалист работает с новостными ресурсами. Нужны определенный опыт, уровень подготовки и обязательно – навыки фактчекинга. Модератор должен понимать принципы новостного формата и проверять все публикации на предмет соответствия требованиям.
Права и обязанности модератора
Модератор обязан постоянно мониторить активность пользователей на ресурсе, проверять контент, комментарии на предмет вероятных нарушений требований конкретной площадки. В зоне основного внимания – взаимные оскорбления, флуд, запрещенный контент, спам, несогласованная реклама.
В отличие от администратора, права модератора небезграничные. Ему могут предоставить расширенные права или полностью их лишить — например, в результате нарушения правил работы или недостаточно качественного выполнения рабочих обязанностей.
Обязанности модератора
- мониторинг комментариев, публикаций;
- проверка сообщений на соответствие правилам;
- общие оповещения с призывом к соблюдению правил;
- ответы на жалобы;
- решение конфликтов.
Карательные меры – основные, но не все функции модератора. Специалист может оповещать о добавлении, изменении правил, новых событий на площадке, решать задачи контент-менеджера (полностью, частично).
Права модератора
- удаление чужих сообщений;
- редактирование, обрезка, скрывание части чужих сообщений;
- удаление страничек пользователей;
- ограничение конкретных пользователей в правах просмотра, редактирования сайта;
- выдача блокировок (временных или перманентных).
KPI у модераторов
Как правило, KPI у модераторов включают:
- Число и качество комментариев за один месяц.
- Скорость реагирования.
- Своевременная реакция на запросы клиента в чатах.
Как происходит процесс обучения модераторов
Обучение не занимает много времени, обычно проводится компаниями бесплатно. Для работы модератором важны такие качества как усидчивость, стрессоустойчивость, умение общаться с разными людьми и решать конфликты. Высокие уровень владения ПК будет плюсом. Безупречная грамотность очень желательна, поскольку пишущий с кучей ошибок модератор формирует соответствующую репутацию ресурса.
В целом, профессия подойдет каждому, у кого есть свободное время и доступ к ПК. Инструкции предоставит администратор ресурса.
Обучиться на модератора в высших учебных заведениях пока нет возможности — не существует учебных программ, а получить необходимые знания и навыки можно и на рабочем месте. Тем не менее, получение высшего образования по социологическим, психологическим направлениям — например, конфликтологии — поможет сформировать нужную базу и повысит качество работы.
К чему должен быть готов модератор
Для успешной работы проверяющий онлайн-ресурса должен учитывать особенности проекта – выучить наизусть термины, сленг клиента, названия отделов, услуг, продуктов, разобраться в должностях сотрудников.
Модератор постоянно решает огромное количество рутинных ежедневных задач. Ему приходится тратить много времени на мониторинг по сути одного и того же, поэтому работу сложно назвать креативной. Нужен определенный склад ума, умение концентрировать внимание на мелочах.
Плюсом будут профессиональные навыки коммуникации с людьми, знание различных психотипов. Чтобы отрабатывать разные виды негатива, нужно осознавать мотивацию конкретного комментатора. Формат общения тоже может различаться – кому-то хватит ответа в шуточной форме, а кто-то ждет реального решения проблемы либо развернутых пояснений.
Модераторам постоянно приходится пропускать через себя негатив, поэтому им требуются высокая стрессоустойчивость и умение не накапливать в себе неприятные эмоции. Не принимайте чужие негативные эмоции на свой счет.
Желательно наличие креативного мышления. Оно поможет вам находить оптимальные выходы из запутанных, сложных ситуаций.
Модератор должен постоянно находиться на связи. Если он спокойно относится к ненормированному графику работы, то сможет зарабатывать больше. То есть специалист может работать по четкому графику и получать фиксированный оклад либо выбирать ненормированный рабочий день и получать различные бонусы.
Ответственность проверяющего перед клиентом максимальная. Неквалифицированный специалист способен испортить имидж компании.
Карьерный рост модератора
Модератор может начать с низов вроде модерации чатов и со временем дорасти до администратора ресурса или супермодератора, руководящего целой командой. Многие специалисты уходят с головой в контент и занимаются только им – причем делать это можно по одному конкретному направлению или сразу по нескольким.
Модератор может пойти дальше и стать проджект-менеджером — специалистом, который руководит проектом в рамках продукта или ресурса. То есть набирает команду, собирает данные, формирует ТЗ, раздает задачи и проверяет их выполнение.
Модератор как профессия
Выше мы писали, что модераторами форумов, чатов обычно становятся старожилы площадок, отлично знающие специфику работы конкретного ресурса. В основном модераторы работают на энтузиазме либо за поощрения от владельцев, администраторов. Крупные площадки предлагают вакансии с достойной оплатой труда.
Профессия в будущем будет становиться все более востребованной – цифровые ресурсы становятся все более важной частью онлайн-бизнеса и повседневной жизни. Частично из-за этого повышаются и требования к проверке контента, поэтому хорошие модераторы будут нужны всегда.
У профессии есть свои плюсы и минусы, рассмотрим их подробнее.
Достоинства
- Востребованность. Модераторы нужны в интернет-магазинах, группах ВКонтакте, чатах Телеграм и на других ресурсах.
- Постоянное развитие навыков коммуникации. А они пригодятся по жизни в целом.
- Перспективность. Есть возможности для карьерного роста и повышения уровня дохода.
- Простое обучение. Для входа в профессию не нужно специальное образование.
- Гибкий график. Вы можете выбрать удобный для себя формат работы — 5/2, 2/2 или любой другой.
- Возможность удаленной работы. Вы можете не привязываться к стулу в конкретном офисе, работать модератором можно и из дома.
Недостатки
- Рутина. Творческих задач в профессии мало.
- Низкая зарплата на старте. Как и во многих профессиях, новички много не зарабатывают – пока не наработают достаточный опыт.
- Высокие требования к языковой грамотности. Комментарии и сообщения с ошибками, составленные модератором, выглядят непрофессионально.
- Ненормированный график. Чтобы нормально зарабатывать, придется работать сверхурочно.
- Устойчивость к стрессам. Постоянные конфликтные ситуации, во-первых, выводят из равновесия, во-вторых, формируют рабочие условия, которые подходят не всем.
Виды и способы модерации
Существует несколько способов модерации ресурса. Их можно использовать по отдельности либо комбинировать.
Предмодерация
Самый безопасный вариант. Сообщения размещаются только после проверки. Хорошее решение для тех сайтов, которые не приемлют даже непродолжительное засвечивание контента, который не соответствует требованиям.
Минус премодерации – отсутствие оперативности. Одно дело, когда до публикации проверяют статьи, а другое – комментарии и посты. Иногда премодерация применяется выборочно – к новым пользователям, в отдельных тематических категориях.
Постмодерация
В данном случае проверка проводится уже после размещения. Основные плюсы – 100% оперативность и довольные пользователи. Но есть недостатки – модераторы не сразу замечают отдельные нарушения и комментарии, что чревато негативными последствиями. Компромиссный вариант – автоматическая модерация.
Автоматическая модерация
Способ чаще всего задействуют в роли дополнительного. Программный встроенный модуль автоматом фильтрует все публикации, которые явно нарушают правила.
Допустим, есть простые стоп-листы – в них прямо перечисляются запрещенные слова со словоформами. Встречаются более сложные алгоритмы – они анализируют тексты с учетом семантических моделей, определяют тон сообщений, а не только наличие запрещенных терминов. Автоматически можно проверять и тексты, и графику.
«Общественная» модерация
Отдельные функции могут брать на себя пользователи ресурса – например, через систему оценок. Каждый комментарий плюсуют либо минусуют. На Хабре коммент, набравший большое число минусов, постепенно бледнеет и сливается с фоном.
Модерация конфликтов
Модераторы работают не только с контентом, но и с прямыми обращениями от пользователей. Когда кто-то из посетителей жмет кнопку «Пожаловаться», проверяющий получает сообщение и должен урегулировать конфликт. Модератор должен разобраться в ситуации и вынести решение, которое уладит конфликт до его усугубления.
КСТАТИ
Зарегистрируйтесь в нашем сервисе голосовых рассылок Zvonobot и получите первые 20 звонков — бесплатно!
Особенности модерации разных площадок
Существуют различные категории площадок для общения, публикации материалов. Это социальные сети, форумы, чаты, информационные и новостные ресурсы. Общие моменты в работе модератора схожие, но отличия тоже встречаются.
Модерация чатов
Самый сложный в плане мониторинга тип ресурсов. Чаты предполагают быстрое общение в режиме реального времени и почти полностью исключают возможность премодерации. Открытые чаты – раздолье для троллей, спамеров и просто неадекватных пользователей. Поэтому модератору нужно внимательно следить за публикациями и реагировать оперативно – удалять сообщения, нарушающие правила, выносить предупреждения, давать временные или перманентные блокировки, предотвращать повторную регистрацию регулярных нарушителей.
Модерация форума
Форум является более спокойной средой для общения. Работа модератора вдумчивая, не особо динамичная. Нужно мониторить новые темы, комментарии, определять, отвечает публикация тематике раздела или нет, переносить темы в другие ветки, если они не отвечают тематике, удалять оверквотинги (избыточное цитирование предыдущих постов), запрещенный контент, рекламу без разрешения администрации. Если для регистрации пользователи предоставляют персональные данные, модератор видит их, но использовать в своих целях не имеет права. Поэтому работодатель заинтересован в найме добросовестных специалистов.
Модерация соцсетей
У социальных сетей много общего с информационными ресурсами и форумами. Нужно отслеживать активность комментирующих, отклонять или одобрять предлагаемые к публикации материалы. Также модератор может отклонять либо принимать запросы на вступление в закрытые паблики, отслеживать неактивные аккаунты, боты, осуществлять сбор статистики.
Модерация новостей
Новостные сайты – разновидность информационных ресурсов, но есть отличия по формату по требованиям к публикациям.
Здесь модератору требуются опыт и определенная подготовка, понимание новостного формата. Он будет рассматривать новости, предлагаемые сотрудниками редакции или пользователями, проверять их на предмет соответствия новостном формату, делать фактчекинг (глубинный либо беглый), сверку материала с источником и решать, осуществлять публикацию или нет – то есть выступать в качестве выпускающего редактора.
Модерирование онлайн-мероприятий
Наиболее сложное направление – мероприятия, проводимые в прямом эфире. Специалисту нужно иметь хорошие организационные, коммуникативные навыки. Также он выполняет роль ведущего во время встречи, во многом определяет качество фидбека (обратной связи), впечатления участников.
Задачи модератора, работающего на онлайн-мероприятиях:
- Контролировать соблюдение поставленных планов для решения текущих задач;
- Обеспечивать условия для конструктивного, системного общения участников.
- Убедиться в том, что мероприятие проходит согласно правилам, а общение отличается логичностью и последовательностью.
Как выглядит правильная модерация: мифы и ошибки
Что важно помнить, чтобы модерация стала эффективным инструментом:
- Игнорировать необходимость качественной модерации недопустимо, хотя некоторые владельцы ресурсов и профильные агентства так и делают. Если нет контроля за контентом и общением, страдает репутация ресурса.
- Модерацию должен выполнять ответственный за решение конкретных задач специалист. В противном случае работы будут выполняться как попало.
- Только будни и вечером домой – график для офисного работника, но не для модератора. Основная активность в чатах, форумах, социальных сетях приходится на вечер пятницы и выходные. Поэтому ситуацию нужно мониторить постоянно.
Советы тем, кто хочет стать крутым модератором
- Ведите себя, как реальный человек, а не бот. Это располагает.
- Не давайте шаблонные ответы – персонализация срабатывает лучше.
- Помните, что модерация – системная деятельность, и специалисту придется собирать статистику, подготавливать отчеты.
- Переработки – скорее, норма, чем исключение. Но хороший работодатель выплачивает бонусы.
- Работа модератора сложная, стрессовая, но востребованная и очень нужная. Она может быть хобби для старожилов ресурса или стать настоящей профессией с доступными для карьерного роста возможностями.
Коротко о главном
Профессиональная модерация нужна любому ресурсу, на котором общаются посетители и подписчики, публикуются пользовательские материалы. Она может проводиться до и после публикации, выполняться самими пользователями, предполагать задействование автоматизированного софта.
Каждый тип ресурсов предъявляет свои требования к работе проверяющего. Модератор – отдельная профессия, и масштабные ресурсы предлагают интересные вакансии с солидной оплатой труда. При желании работать модератором может простой пользователь – если он имеет адекватную репутацию на сайте и разбирается в тематике.