Меню категорий
SharesPro
20.11.2020 20:01
0
Детская игровая платформа Roblox сталкивается с проблемами перед публичным листингом

Ненормативная лексика и другой оскорбительный контент, который отслеживается с помощью основных инструментов фильтрации слов, можно встретить в некоторых играх и профилях пользователей на детской игровой платформе Roblox. Об этом свидетельствуют поисковые запросы на веб-сайте, несмотря на политику компании «нет терпимости» и заверения, что она гарантирует ее соблюдение.

Платформа Roblox, специализирующаяся на играх, созданных пользователями, находится на пути к многомиллиардному дебюту на фондовом рынке до конца года. Компания решила  воспользоваться общенациональными локдаунами по всему миру, предоставив  место для безопасного веселого времяпрепровождения и взаимодействия для самых маленьких игроков во время соблюдения обязательной самоизоляции.

Но родительские группы и инвесторы заявили, что их беспокоит, могут ли автоматизированные системы компании для модерации контента эффективно удалять потенциально оскорбительные выражения и изображения, появляющиеся на платформе.

Простой поиск по ключевым словам Google на сайте компании  выявил более 100 примеров ненормативной лексики или изображений. В одном профиле, например, в строке описания профиля было «заткнись и изнасилуй меня, папочка»

В ответ на письменные вопросы представитель компании Тереза ​​Брюэр (Teresa Brewer) заявила, что Roblox «не терпит неприемлемого контента, поэтому у нас есть строгая система безопасности, включая проприетарную технологию фильтрации текста, сторонние решения для машинного обучения и индивидуальные правила блокирования пользователей».

В прошлом месяце Roblox удалил примеры ненормативной лексики в течение нескольких часов после их публикации. Roblox заявила, что 1600 человек работают полный рабочий день над устранением неприемлемого контента на платформе.

Roblox предлагает контроль учетных записей для родителей, чтобы ограничить взаимодействие их детей с другими пользователями на сайте. Компания также позволяет родителям ограничить ребенка списком игр с маркировкой для детей младше 13 лет. В таких играх не было обнаружено неприемлемого содержания.

Все сайты, которые полагаются на пользователей для создания материалов, прикладывают немало усилий для контроля над этим  контентом. И даже несмотря на эту огромную работу могут появляться несоответствующие сообщения. В отличие от Twitter TWTR.N и Facebook Inc FB.O, которые публикуют ежеквартальные отчеты о прозрачности типов и объемов очищенного контента, Roblox не предоставляет такие данные. Из-за этого трудно сказать, насколько ненормативная лексика распространена на платформе.

Roblox - это бесплатная платформа, предлагающая миллионы игр, многие из которых созданы молодыми пользователями с помощью простого инструмента программирования, который предоставляет компания. Этим играм  приписывают развитие логики и творческих способностей детей.

Как и MSFT.O Minecraft от Microsoft Corp., Roblox позволяет пользователям создавать и обмениваться трехмерным игровым контентом с помощью простых инструментов и отправлять сообщения другим пользователям.

Простота многих игр Roblox контрастирует с популярными видеоиграми, такими как Fortnite или Apex Legends, суть которых заключается в соревновании в количестве  убитых и нацелены на подростков.

Советник Roblox Ларри Магид (Larry Magid ) сказал, что три четверти детей в США в возрасте от 9 до 12 лет использовали платформу.

Инструмент Roblox не обнаруживает  совпадений с неприемлемой лексикой при проверке платформы, поскольку фильтры мешают пользователям активно искать проблемный контент во время игры на платформе Roblox. Однако поиск в Google показал, что дети могут видеть проблемные профили и описания разными способами, в том числе через приглашения друзей и групповые занятия.

Большинство примеров ненормативных слов включают преднамеренное неправильное написание непристойных слов, которое, по мнению ветеранов отрасли, не должно выходить за рамки стандартного программного обеспечения для фильтрации.

В прошлом году в СМИ появились сообщения, что на сайте обнаружены профили неонацистов и расистов, которые позже Roblox удалил. Тем не менее, в начале этого года отраслевой эксперт отправил руководителю службы безопасности Roblox Реми Малану (Remy Malan) дюжину примеров игр с расовыми оскорблениями или словом «еврей» в названии, в том числе с униформой концлагеря или другими изображениями, судя по снимкам экрана электронного письма.

Примеры были подтверждены и датированы еще 2009 годом. Некоторые из них были удалены.

Компания Common Sense Media, следящая за технологиями и развлечениями, повысила рекомендованный возраст для игроков Roblox до 13 лет в течение последних нескольких лет после того, как оскорбительные выражения в профилях и сексуальный контент в играх продолжали появляться на Roblox даже после того, как компания заявила, что удалит его.

Пять экспертов по онлайн-безопасности, изучившие примеры ненормативной и оскорбительной лексики, сказали, что они были удивлены, что такие профили и формулировки умудрились ускользнуть при условии, что даже  рудиментарные системы фильтрации могут улавливать и удалять такой контент.

Магид, советник Roblox и генеральный директор некоммерческой организации ConnectSafely.org, которая получает финансирование от Roblox и других компаний для продвижения руководящих принципов безопасности для родителей, сказала, что эти примеры показали, что меры безопасности не работают в полной мере.

«Я думаю, что масштаб является частью проблемы. Я не понимаю, почему программное обеспечение не обнаружило его», - сказал он.

По словам Джона Стреура (John Streur), исполнительного директора Calvert Research and Management, специализирующейся на социально ответственном инвестировании, по мере приближения к листингу акций компания может оказаться под более пристальным вниманием общественности.

«С точки зрения инвестора, это будет серьезной проблемой, если в заголовках в прессе появится информация о том, что компания не может управлять рисками своей платформы», - сказал Стреур.

Подписывайтесь на SharesPro в социальных сетях:
Telegram: t.me/sharespro
Instagram: www.instagram.com/sharespro/

Войдите, чтобы оставлять комментарии.

Получить консультацию