Секс, лъжи и видео игри: Във войната на Roblox срещу порно

Roblox се представя пред родителите като безопасно място за децата. Зад кулисите се води технологична война в сянка срещу кондо игри: цифрови секс партита, на които децата флиртуват с опасност.

Секс, лъжи и видео игри: Във войната на Roblox срещу порно

Когато беше още само на 11 години, играчът на Roblox, известен като Dazzely, се радваше на игри по старомодния начин: Той ги играеше.

как да предавате плейофи на nfl



През 2012 г. Roblox, масивната платформа за онлайн игри, имаше какво да му предложи. Той създава първия си аватар безплатно, оформя цилиндричната му глава и облича блоковото му тяло. След това, избирайки от списъка с над милион заглавия на Roblox.com, Dazzely поставя малкия човек в една игра след друга: Той го прескача през препятствия, закопчава го в състезателни коли и му изгражда крепости. Използвайки безплатен софтуер, наречен Roblox Studio, Dazzely дори може да конструира свои собствени игри. Това беше идеята: създателите на Roblox си представяха платформата като огромна и непрекъснато променяща се дигитална площадка, където децата изработват каквото си поискат-игри, облекло, структури, пейзажи.

Dazzely продължи да играе Roblox, докато расте, а платформата узрява с него. През 2013 г. Roblox въведе начин да конвертира своята виртуална валута, Robux, обратно в реални долари. Примитивна икономика - разработчиците, продаващи виртуални артикули като слънчеви очила или шапки с ограничено издание - се превърна в по -сложна. По -големите деца започнаха да работят един за друг и да изпълняват специализирани роли като художници, строители и скриптове на игри.





Не етажният план привлече вниманието му. Това беше гърчещата се тълпа от голи аватари на Roblox.

Roblox днес е продукт на своите над 150 милиона активни потребители месечно. Това, което започна като пясъчник, сега прилича на оскъдна кибернация на тийнейджъри и близнаци, чието население съперничи на това на Япония. А доларите са реални: Играчите изляха повече от 490 милиона долара в Roblox чрез мобилни устройства само през първата половина на 2020 г., според данните на Sensor Tower. Roblox прогнозира, че неговите потребители-разработчици-много от които са ветерани на Roblox в края на тийнейджърските си години и началото на двадесетте си години-ще спечелят повече от 250 милиона долара от продажбата на достъп до техните творения тази година. Компанията, която се оценява на 4 милиарда долара, взима приблизително 65 цента от всеки щатски долар, когато разработчиците осребрят.

Dazzely, който сега е на 19 години и чието истинско име е Дилън Лемус-Олсън, притежава уникално занимание в този процъфтяващ супер-метрополис: Той е измамник в YouTube. Отчасти репортер на таблоиди, отчасти интернет трол, той обикаля тъмните ъгли на Roblox и качва своите подвизи във видео платформата, където има повече от 53 000 абонати. Оказа се, че има много сенки, които той може да проучи.



За Dazzely това беше изпратено известие в една учебна вечер през 2017 г., което го събори в червения квартал на Roblox - директно съобщение чрез Discord, приложението за онлайн чат, което често се използва от геймърите. Текстът съдържаше хипервръзка към игра на Roblox, наречена просто The Condo. Dazzely се поколеба за кратко, след което щракна.

[Екранна снимка: Бърза компания]

Какво по дяволите е това? - казва той, припомняйки реакцията си. Мястото на играта беше няколко стаи и кухненски бокс, басейн в задния двор. Приличаше на малка кооперация. Оттук и името на играта. Но не етажният план привлече вниманието му. Това беше гърчещата се тълпа от голи аватари на Roblox в хола на бунгалото.



Те бяха същите герои с блогови глави, в стил Lego, както във всички игри на Roblox. С изключение на тези аватари, които носеха нецензурно преувеличени анатомии, а речевите мехурчета над главите им бяха мрачен облак от ругатни и клевети. Свободата на словото също не беше единственото, което упражняваха тези пикселизирани хедонисти.

Сигурно някой е хакнал филтрите за безопасност за деца на Roblox, заключава Dazzely.

Той натисна бутон, за да започне да записва екрана си. Той се наведе в микрофона на компютъра си и започна да предоставя хумористичен разказ за зараждащия се тогава канал в YouTube. На следващата сутрин, когато Dazzely влезе в профила си в YouTube и видя, че видеоклипът му вече е получил 1000 гледания, Roblox спря да бъде детска игра за него. Беше намерил своето призвание.

За непознатите, игрите от 21-ви век наподобяват поне 16-битовото си минало поне в едно отношение: Играчите все още мачкат контролери и клавиатури, за да накарат героите да тичат по екрана. Но днешните игри не само убиват времето. Те закотвят изобилни рифове на социалния живот. Феновете играят заедно в самите игри, но също така обучават около съседни сайтове - предават своя геймплей един за друг в Twitch, публикуват видеоклипове в YouTube, споделят мемове чрез Discord. Древни заглавия като Братя Супер Марио сега поддържайте процъфтяващи общности онлайн (Google Kaizo Mario). Но игрите, които вдъхновяват някои от най -оживените екосистеми, са масово отворените, където потребителите се забавляват сами - Minecraft , Fortnite , и особено Roblox.

За Дейвид Басуцки, съосновател и дългогодишен главен изпълнителен директор на Roblox, този обширен социален свят е най -добрата характеристика на играта и знак за предстоящия медиен метавселен. Платформи като Roblox представляват нова категория човешко съвместно преживяване и свобода, казва той, която съчетава видео игри и социални медии. Ние сме в тази уникална възможност да бъдем нейни пастири.

Това означава да наблюдавате свят, изпълнен с деца. Въпреки че Roblox не разкрива възрастта на своите потребители, той казва, че по -голямата част от тях са под 18 години - и че поне половината от децата на САЩ на възраст под 16 години са на платформата. Проучване на Comscore от декември 2017 г. установи, че децата на възраст между 5 и 9 години прекарват повече време в игра на Roblox, отколкото да правят нещо друго онлайн на персонални компютри; за тези на възраст между 9 и 18 години само YouTube консумира повече от тяхното онлайн внимание.

По време на социално дистанциране това не е непременно нещо лошо. Специалистите по детско развитие все повече виждат тези мултиплейър пространства като източник на уроци за децата относно социалните правила, работата в екип и саморегулацията. Онлайн игрите и съседните им видео стрийминг и сайтове за чат също пораждат чувство за принадлежност и другарство. Трябва да разбираме игрите по същия начин, по който разбираме играта на детската площадка, казва Джордан Шапиро, изследовател по психология в университета Темпъл и автор на Новото детство .

Всъщност много деца пристигат в Roblox, решени да играят любимия си вид измислица: да се преструват на възрастен. Игри, симулиращи дейности на възрастни, като грижи за домашни любимци и бебета (осинови ме!), Намиране на работа (работа на пицария) и шофиране на автомобили (Jailbreak, Driving Simulator), събират заедно десетки милиарди посещения.

Децата на възраст между 5 и 9 години прекарват повече време в игра на Roblox, отколкото да правят нещо друго онлайн на персонални компютри.

Искаме децата да имат възможност за безплатна игра, казва Башуцки. Roblox им позволява да се съберат, да създадат свои собствени правила, да ходят заедно, където пожелаят. . . и да творим заедно, да изграждаме заедно и в много случаи да учим заедно. Но както научиха лидерите на Twitter, Facebook и YouTube, поддържането на контрол върху платформата, докато расте, не е лесно. А Roblox, който навършва 16 години през септември, има допълнителното предизвикателство да поддържа платформа, специално създадена за млади потребители, които обичат да се занимават със софтуер.

Roblox е мястото, където се научих да хакна, казва Куин Уилтън, изследовател по сигурността, който е прекарал детството си в играта и сега работи във фирмата за софтуерна сигурност Synopsys. Като се има предвид изборът между изправяне срещу професионални хакери или тълпа непокорни тийнейджъри, Уилтън казва, че всеки път би избрала първия. Тийнейджър хакерства за его, слава, уважение - и те имат безкрайно много време, казва тя.

Децата тестват границите, а тийнейджърските желания не се вписват добре в условията на обслужване. В Roblox тези подрастващи, разбиращи се от цифрови технологии, растат бързо - и поставят своите аватари и себе си в опасни позиции.


Беше 7 сутринта източно в майска сутрин и в игра на Roblox, озаглавена Haha ~~;) само няколкоиграчиобикаляше около басейна, облицован с палмови дървета, в парти къща, създадена от група, известна като The Cons. В реалния живот тази къща може да е функционирала като пространство за корпоративни събития - може да си представите нейното просторно фоайе, изпълнено с ръководители в панталони и имена, които отглеждат лошо червено вино. Минусите ясно предвиждаха гостите им да се заемат и с бизнес за възрастни, макар и от различен вид. Тяхната бърлога демонстрира редица секс играчки. Частните стаи на горния етаж бяха обзаведени само с легла. Мазето беше секс подземие, осветено от факли.

[Видео: Бърза компания]

Нови играчи започнаха тази игра на Roblox с избор: Момче, Момиче или друго. Избирането на една от първите две опции незабавно съблича дрехите ви и ви транспортира до басейна; щракването върху друго ви постави, облечени, в стаята със секс играчки. Аватарите могат да избират между повече от 25 различни позиции и движения на тялото - повечето от тях симулират сексуални действия. (Мъжете също можеха, несъответно, да избират лицеви опори.) Налични бяха и кутии за бира и бум.

Къщата Хаха в крайна сметка щеше да бъде посещавана от играчи повече от 600 пъти за няколко часа съществуване, но засега беше сравнително тихо. Вътре единствената раздвижена душа беше самотна мъжка фигура в кухнята с отворена концепция на дома, легнала на бара за закуска. Съдейки по движенията, близки до тазовите му многоъгълници, той се задоволяваше. На друго място в къщата играч поиска личен редиграсървър с друг - за да могат да влязат в идентично, празно копие на купона и да продължат взаимодействията си сами.

Roblox е похвален от защитниците на детската безопасност за неговата отдаденост на защитата на потребителите. Той поддържа строги правила в играта, сред които: без кибертормоз и тормоз; няма дискриминационно, заплашително или прекалено насилствено поведение; и без търсене на срещи или участие в сексуално поведение от всякакъв вид. Играчите под 13 години (трябва да въведете дата на раждане, за да създадете акаунт, въпреки че компанията не го потвърждава) имат забрана да получават директни съобщения от други потребители, освен ако родителите не добавят тези имена към списъка с приятели. Родителите могат да настроят допълнителни контроли, като например да ограничат детето да играе подготвени, предварително проверени игри.

Споделяйки съдържание чрез други части на игралната екосистема, играчите се възползват от факта, че механизмите за прилагане на Roblox завършват на собствената си платформа.

Roblox прилага строго тези правила, като цензурира чатовете в играта със софтуерни филтри, наблюдава активността на играчите с помощта на AI и отговаря на проблеми с батальон от повече от 1600 модератори на човешко съдържание, денонощно. Органите на реда поддържат многопластовия подход на платформата към сигурността като златен стандарт. Roblox е много лидер в индустрията, казва Стивън Гроки, ръководител на секцията за експлоатация и неприличие на деца в Министерството на правосъдието на САЩ.

И все пак от години компанията тихо води технологична война в сянка срещу някои от собствените си млади потребители. Тези играчи са използвали Roblox, за да им позволят да проклинат, качват явно съдържание и да манипулират игри по начини, които компанията никога не е възнамерявала. Чрез споделяне на съдържание чрез други части на екосистемата за игри-най-вече Discord, което позволява на потребителите да говорят помежду си чрез текст, глас и видео, едно към едно или в групи-те използват факта, че механизмите за прилагане на Roblox завършва на собствена платформа. Това е недостатък, който може да остави потребителите на Roblox далеч по -малко защитени, отколкото техните родители биха си помислили. (Roblox казва, че работи усърдно с други чат, социални медии и платформи за съдържание, генерирано от потребители, за да съобщава за лоши актьори и съдържание, въпреки че тези платформи трябва да предприемат подходящи действия.)

Това е противоречива ситуация. . . [и] знаем, че лошите актьори няма да спрат, казва един от най -добрите представители на Roblox за безопасност, който поиска името му да бъде укрито.

[Видео: Бърза компания]

Сблъсъците между котката и мишката между Roblox и неговите непокорни играчи се случват ежедневно и денонощно. Същата сутрин, когато къщата на Хаха стартира, Roblox я затвори. Но това едва ли имаше значение: Две други кондо игри все още се изпълняваха, едната беше поставена в бункер без прозорци с плакати на Барт Симпсън и Спондж Боб, друга в пещерен, пълен с дим нощен клуб. Когато Roblox ги изключи, други поникнаха. Нищо в Roblox не показва кога може да се появи нова кондо игра или как може да се нарече (GAMEGAMEGAM, SCAR OF $). И все пак гуляите ги намират, аватарите им често отпадат само за секунди след излизането на игрите. Не след дълго една популярна кондо игра може да има над 1000 играчи - всички да пият, да пият, да псуват и като цяло да нахлуят в блока си.

Внезапната им поява не е магия. Съзвездието от любими уебсайтове на геймърите сочи пътя. И всеки от тези сайтове има свои собствени стандарти за съдържание. Roblox цензурира думата condo, но геймърските групи на Reddit могат лесно да обсъждат този вид игри. YouTube изисква видеоклипове, които изобразяват най -ясните моменти на игрите, да носят възрастово ограничение, но позволява на всеки да гледа видеоклипове, които обясняват как да намерят кондо игри. Раздорът е най -полезен: Бърза компания лесно разположени около 150 групи Discord (наричани още сървъри), които са посветени на изрично съдържание на Roblox.

Тези сървъри-няколко от които имат повече от 10 000 потребители всеки-са дом на обитаващи лагери на лошите актьори на Roblox: експлоататорите на игри, заобикалящите съдържанието и самите създатели на апартаменти. Те използват групите Discord, за да се смесят, да се похвалят с подвизите си, да споделят връзки към нови кондо игри и да разговарят помежду си, докато са в играта. Discord не забранява свързването със секс игри на Roblox, но казва, че цялото съдържание за възрастни трябва да бъде пренасочено към канали и сървъри, изрично маркирани за лица на възраст над 18 години. В изявление на компаниятазаяви, че предприема незабавни действия, ако установи, че потребителите са излъгали за възрастта си. (Discord не проверява възрастта на потребителите при регистрация.)

[Екранна снимка: Бърза компания]

Бърза компания интервюира 17 членове на Discordcondo сървъри, включително 14, които казаха, че сами са управлявали кондо игри на Roblox. Всички казаха, че са на възраст между 13 и 17 години. Три предоставиха снимки на личните си документи за училище, за да докажат, че са непълнолетни. (Никой не се съгласи да предостави родителите си за интервюта.)

Тези геймъри, които разговаряха с Бърза компания чрез текстовия и гласовия чат на Discord за период от четири седмици, се описват като дългогодишни играчи на Roblox, които са влезли в апартаменти за тръпката, състоянието и парите: Хакването на голяма платформа и надхитряването на комисарите на Roblox е вълнуващо предизвикателство, казват те, и може да има подреден бизнес при продажбата на административни привилегии в играта, които позволяват на играч да лети и да се телепортира, да манипулира аватарите на други потребители или дори да изгони други играчи.

Преглед на дневниците за чат на тези кондо сървъри- Бърза компания извлече и разгледа дневниците от 31 от тях, поток от геймърчат, който би обхванал над 910 000 страници, ако бъде отпечатан с шестточков шрифт-нарисува картина на юношеството без надзор в ерата на масовите онлайн игри. Изглежда, че това са деца с единия крак, все още засаден в Roblox, дигиталното пространство за игра на тяхното детство, а другият се простира до по -наглия свят за възрастни на Discord. Текстовите разговори с малки букви миришат на класическа тийнейджърска скука, състояние, което се влоши още повече от поръчките за подслон на място от COVID-19. Предпочитам да съм навън и да вися с приятелите си или нещо подобно, каза един собственик на апартамент.

Тежестта да се защитавате един друг в тези игри и чатове често пада върху раменете на тийнейджърите.

И все пак тези свободни от микроби виртуални пространства едва ли са безопасни, дори когато опасността е трудно разпознаваема. Някои сървъри на Discord с кондоматична тематика се рекламират като приобщаващи и приятелски настроени. Други сървъри са изпълнени с расови клевети и реч на омразата; един сървър на Discord, посветен на кондо игрите на Roblox, имаше много активен потребител с потребителско име WhiteSupremacist004.

Светът на кондо игрите е такъвмясто, където децата се държат като възрастни, възрастните може да се представят за деца, а родителите изглежда напълно отсъстват. Междувременно възрастните, които наистина имат гледна точка в случващото се-тези, които използват Roblox и Discord-изглеждат неспособни да затворят напълно това съдържание и не желаят да споделят публично всичко, което знаят. В резултат на това тежестта да се защитавате един друг в тези игри и чатове често пада върху раменете на тийнейджърите.


За К. пътуването в апартаменти започна, когато не можеше да намери играчи за своите игри с Roblox с рейтинг G.

16-годишният младеж се бори почти три години-основно през целия си постпубертатен живот-да направи хитова игра, но така и не успя да се открои от десетките хиляди нови игри, които се качват в Roblox всеки ден. Така че това лято той плати 1000 Robux или около 10 долара на човек, когото срещна в Discord, който му изпрати пълния код за кондо игра, която ще позволи на К. да го копира (с няколко ощипвания) всеки път Модераторите на съдържание на Roblox го изключиха. С напредването на инвестициите на Roblox К. смяташе, че това е сигурен залог. Аз съм като, искам да бъда богат и на Roblox, каза той, като се позова на играчи, които е срещал с дебели акаунти в Robux и виртуални артикули в изобилие. След това той създаде свой собствен Discord сървър и се зае с работата.

Подобно на повечето конзолни сървъри на Discord, К. функционира като салон на летището, като държи членовете заети и щастливи, докато чакат следващата игра. В специален канал, който той нарече #качване на апартаменти, връзките с кондо игри пристигнаха, докато той ги качи и замина, когато Roblox ги затвори. Потребителите могат да изстрелват бриз в #общия чат или да прескачат по каналите #NSFW, които съдържат почти постоянен поток от неприлични снимки и анимирани GIF файлове. (По-големите сървъри понякога посвещават бутикови канали на други специалности на черния пазар в подземния свят на Roblox: мами за игри, явни музикални хакове, домашно порно Roblox).

Говорейки с Бърза компания след пет дни на работа, К. каза, че се чувства така, сякаш не е запознат с основите: Той и няколко приятели създадоха куп изхвърлени акаунти в Roblox, стартираха VPN, за да маскират трафика си, и качиха игра след игра от горелката си сметки. Той печели пари, казва той, като продава виртуални тениски чрез различен акаунт в Roblox. Когато играчите се появиха в неговата кондо игра с една от тези фланелки, К. щеше да им даде административни привилегии. Той успява да направи близо 3 000 Robux, казва той, пари, които харчи изцяло за артикули на Roblox. Но седмица по-късно К. беше изхвърлен от ракетата за апартаменти: Roblox беше идентифицирал идентификационния номер на устройството на компютъра си и го блокира хардуерно.

[Екранна снимка: Бърза компания]

Други оператори на кондо-игри са по-сложни. Д., който казва, че е на 13 години, е управлявал апартаменти в продължение на месеци Бърза компания говори с него през юли. Той знаеше достатъчно, за да скрие хардуерния си идентификатор, имаше доброволен персонал, който качваше игри и следеше сървърните емисии, когато той не беше на разположение, и дори плащаше на забележителни хакери от Roblox, за да се присъединят към неговия сървър - версия на Discord за влиятелен маркетинг. Д. също поддържа отделен сървър на Discord, подобен на фирмен интранет, където публикува указания за персонала и отбелязва важните събития. Той изчисли, че прави около 150 000 Robux на месец от игрите си,или около 450 долара, ако е използвал валутната обмяна на Roblox. (На черния пазар има още по -добри цени.)Тези, които знаят какво правят, могат да качват апартаменти с години. Два от най -големите кондо сървъри на Discord, които Бърза компания оценен е бил активен от 2018 г.

Малко от операторите на апартаменти Бърза компания говори с признание за посещение на техните собствени игри. Това може да им донесе репутация на ODer, унизително понятие, което означава онлайн датер.Един собственик, който казва, че е на 17 години и управлява апартаментен сървър повече от две години, е помогнал да играе игрите му, но подсмърча, като ги нарича апартаменти. Той казва, че се грижи за по -зряла, изключителна потребителска база; той предпочита термина ERP, който означава еротична ролева игра.

Точно тази комбинация - възприемането на свободите на възрастните, смесени с графичен, без емоции секс - е тревожна.

При цялото уважение към клиентелата на maison ERP, няма нищо отдалечено еротично в тези игри. Цифровите въртеливи движения са смешни, ако невъзможно да бъдат забелязани: облечените в прага аватари на Roblox се въртят на стриптизьорски стълбове; пухкави руси аватари се долавят голи, с изключение на маските за COVID (написани по стените в тази конкретна игра: #stayathomehub) и достатъчно грубо анимирани изкривявания, за да запълнят няколко тома Кама Сутра (ако Lego някога реши да публикува издание).

Съдейки по коментарите в играта, повечето играчи на Roblox смятат Condo игрите за груби, поне когато за първи път се сблъскат с тях. (EEEEWWWW, написа един играч, когато пристигна в кондо игра през май.) Но те също ги намират за освобождаващи - цифровият еквивалент на празна къща, където родителите са извън града. tbh ill вероятно идва само тук, за да псува, разговаря с един потребител в кондо игра през май. по дяволите, секс, мамка им тук за лошите думи.

Точно тази комбинация - възприемането на свободите на възрастните, смесени с графичен, без емоции секс - е тревожна. Двама експерти по детски хищници, които прегледаха кадри от кондо игри, заявиха, че са представили терен с учебници за хищници, които искат да грижат децата за сексуално насилие: За някой, който иска [да плячка деца], тези видове среди го правят много лесен, казва Елизабет Джеглич, професор по психология, която изследва сексуалното насилие в колежа по наказателно правосъдие „Джон Джей“ в Ню Йорк. Веселите, цветни настройки на игрите ги правят още по -коварни.

[Екранна снимка: Бърза компания]

Кондо операторите също са наясно с такива опасности. Бърза компания разговаря с няколко, които описват усилията им да държат подозрителните хора на техните сървъри на Discord - и по този начин, извън техните игри. Двама оператори казват, че са настроили филтри в играта, които ги предупреждават, когато играчите споменават възраст под 13 години, искат или предлагат да споделят голи снимки или споменават Snapchat (смятан за средство за изпращане на незаконни снимки, тъй като Roblox не поддържа изпращане на изображения или видео). Един собственик на апартамент каза, че кани подозрителни потребители да гласуват, за да видят дали може да различи възрастта им по дървесината на гласовете им. Бързи компании анализът на регистрационните файлове на чата на 31 апартаментни сървъри Discord потвърждава схващането, че сървърните оператори редовно контролират игрите им. От февруари тези сървъри забраниха поне петима потребители, заподозрени в споделяне или търсене на изображения от непълнолетни потребители.Те пуснаха поне още 13 потребители, за които подозираха, че са под 13 години. Четири дни след работа К. каза, че е изгонил двама души от сървъра си, единият от които е използвал дръжката.

Но не всички оператори на апартаменти се ангажират да защитават своите потребители. Трима по същество вдигнаха рамене, когато ги попитаха какви предпазни мерки предприемат (не мога да кажа дали [играчите] лъжат за възрастта си, каза един. Просто не ми пука, каза друг. Ако възбудени малки деца се хващат на педофили в апартаменти, извинете това се превръща в естествен подбор, разговарял с друг потребител на апартаментен сървър през април.) Ю., собственик на апартамент, който твърди, че е на 15 години и управлява сървър Discord с повече от 3500 членове, заяви, че всъщност печели от хищническа дейност, като иска сексуални снимки от жени, които среща в Discord и опакова тези снимки за заинтересовани купувачи.( Бърза компания докладва за разказа на Ю. за тази дейностдо Националния център за изчезнали и експлоатирани деца.)

Й., собственик на апартамент, който твърди, че е на 15, каза, че всъщност печели от хищническа дейност, като иска сексуални снимки от потребителки, които среща в Discord.

Трудно е да се проследи реалната степен на престъпна дейност в подземния свят на Roblox. Геймърите и хакерите тийнейджъри понякога казват иронично неща, за да получат възход от другите - практика, известна като хумор на крайно ниво. Пример за това: Потребителите се наричат ​​един друг педофили почти като бягаща шега, начин да се изясни фактът, че са превърнали детската игра в явно секс парти. Думата pedo се появи повече от 3400 пъти в 31 -те кондо сървъри Бърза компания оценен; проверките на място на няколко стотин случая на думата показват, че всички, освен малка част от препратките, изглежда са на шега. Тийнейджърските хакери са основно групата на хората с най -малко доверие, казва Куин Уилтън, консултант по софтуерна безопасност.

Междувременно колкото по -големи стават сървърите на Discord, толкова по -хаотични стават. Й. казва, че постоянно търси насилствено и незаконно съдържание на своя апартаментен сървър. Това отчасти е за самосъхранение: Ако собственикът на сървър не успее да премахне грубо съдържание, публикувано от членовете (например садистична кървава магия, жестокост към животни, сексуализирани изображения на непълнолетни, заплахи за насилие), Discord ще изключи сървъра. Досега той казва, че е забранен на потребителите за публикуване на изключително графично съдържание, което включва видеоклипове и gifs на убийства, ампутации на гениталиите и изнасилване. (В изявление говорител на Discord заяви: Ние имаме политика на нулева толерантност към всяка незаконна дейност и работим в тясно сътрудничество с властите, за да защитим нашите потребители.)

Той казва, че е обмислял да докладва тези потребители и на Discord, но това би означавало да се подаде хартиена следа, документираща лошото им поведение, изисквайки от него да прекарва повече време със съдържанието, отколкото иска. (Discord предоставя на сървърните оператори филтър за съдържание по подразбиране, който автоматично открива и изтрива неподходящ материал, въпреки че собствениците могат да го изключат.) Видях много, каза Y. чрез чат на Discord. Ppl в моето училище са като невинен за мен. Видях твърде много.


Кондо игрите съставляват мъничко част от игрите, налични на Roblox, и те не са толкова популярни, колкото хитовите заглавия на платформата, като Piggy, която е посетена близо пет милиарда пъти, откакто дебютира през януари. Типична кондо игра има късмет да получи хиляди посещения, според четирима собственици на апартаменти Бърза компания интервюиран. И тези игри не са лесни за обикновения потребител на Roblox. Младите геймъри, които разговарят само с приятелите си в Roblox, е малко вероятно да се натъкнат на връзка за апартаментна игра. Но децата играят тези игри - и няма надежден начин да разберат с кого общуват.

Roblox казва, че е дълбоко ангажиран да се бори с лоши актьори в своята платформа: Нямаме толерантност към съдържание или поведение, което нарушава правилата на нашата общност и работим неуморно и неуморно, за да създадем безопасна, гражданска и разнообразна общност, каза най-добър представител по безопасността в електронна изпратено изявление. В допълнение към дългогодишните си усилия за модериране на съдържание, компанията също наскоро си партнира с Microsoft по Project Artemis, за да разработи набор от инструменти, които идентифицират и филтрират моделите за подстригване в чата, за да предотвратят експлоатацията на деца онлайн. Но Roblox не е предприел по -структурни стъпки, за да контролира съдържанието си и да защитава своите потребители, като например ограничаване на лекотата на създаване на акаунти, внедряване на система за преглед на игри, подобни на App Store на Apple, или разрешаване на само надеждни разработчици да качват игри. Такива решения биха стрували скъпо и биха могли да ограничат експлозивния растеж на Roblox.

Междувременно компанията няма да сподели подробностите за това, което нейният модерационен екип всъщност намира. Roblox отказа да каже кога за първи път е разбрал за кондо игри или колко кондо игри е затворил. Няма да се посочи колко пари са донесли тези игри както на играчите, така и на компанията. Също така не споделя вида на обобщената статистика, която YouTube, Facebook, Twitter и дори Discord сега рутинно предоставят в доклади за прозрачност, като например броя на жалбите на потребителите от неподходящо съдържание и исканията за информация за потребителите от правоприлагащите органи. Проблемите са минимални, компанията обещава - проблем от 0,1%. . . [причинено от] много малко, изчезващо малко малцинство хора на платформата, казва представителят на Robox за безопасност, който отказа да бъде посочен.

Някои от единствените налични данни идват от Националния център за изчезнали и експлоатирани деца (NCMEC), който изброява броя на препоръките, които CyberTipLine е получил от технологични компании - доклади, които могат да включват всичко - от трафик на секс с деца до предполагаемо онлайн примамване на деца, и които се подават от самите компании. През 2019 г. Roblox изпрати 675 доклада до NCMEC. Компанията казва, че съобщава за всякакви предполагаеми експлоатации на деца, материали за злоупотреба или онлайн грижи. Discord подаде 19 480 доклада в центъра. (За сравнение, Facebook изпрати 15,8 милиона отчета, а Google препрати 450 000.)

Оказва се, че непрозрачността е проблем за цялата индустрия. Нито една голяма компания за игри или огромни онлайн платформи за игри не издават доклади за прозрачност и не споделят данни за дейността по прилагане. (Microsoft предоставя броя на потребителските доклади и исканията на правоприлагащите органи, които получава, свързани например с Xbox и OneDrive, но не предлага подобна информация за Minecraft.) Междувременно системата за оценяване на родителските насоки на игралната индустрия (подобна на Motion Picture PG и R рейтингите на Асоциацията за филми) оценяват игрите въз основа на съдържанието, създадено от самите компании. Той не преглежда рисковете, произтичащи от други играчи: Той просто маркира всички мултиплейър заглавия с шаблонна бележка Потребителски взаимодействия. В резултат на това рейтингът E10+на Roblox: Подходящ за всички на 10 и повече години не е повлиян от кондо игрите.

Тъй като децата колективно прекарват милиарди часове, играейки тези игри, обществеността няма представа какво всъщност се случва вътре в тях или какво правят компаниите за игри, за да ги защитят.

И все пак тези игри са все по-мощни платформи за съдържание-нова категория човешко съвместно преживяване, както казва Башуцки-и те са населени от деца. Анекдотично играчите казват редовно чувате расови клевети, реч на омразата и език на тормоз във всякакви игри. А в Roblox те могат да навлязат в среда, която е много по -зряла, отколкото много хора осъзнават. Тъй като децата колективно прекарват милиарди часове, играейки тези игри, обществеността има малка представа за това какво всъщност се случвавътре в тяхили какво правят компаниите за игри, за да ги защитят.

Членовете на Конгреса настояват правителството да свърши по -добра работа за защита на децата в интернет. През март сенаторите Линдзи Греъм и Ричард Блументал представиха EARN IT - законопроект, който ще направи технологичните компании по -отговорни за изображенията на насилие над деца, разпространявани на техните сайтове, и ще създаде комисия, отговаряща за разработването на доброволни насоки относно безопасността и прозрачността на децата. През май сенаторите Рон Уайдън, Кирстен Гилибранд, Боб Кейси и Шеррод Браун представиха друг законопроект, който ще отпусне 5 милиарда долара за преследване на материалите за сексуално насилие над деца през следващите 10 години. И все пак законодателите все още не са насочили усилията си към защита на децата, докато играят тези огромни онлайн игри. (Стивън Гроки, който ръководи експлоатацията на деца в Министерството на правосъдието на САЩ, не беше чувал за кондо игрите на Roblox до Бърза компания протегна.)

[Видео: Бърза компания]

С малък надзор това оставя работата по прожектиране на престъпленията в играта на местни хора като Dazzely. Но през последните седмици Roblox направи това по -трудно. На 28 юли компанията забрани основния му акаунт в Roblox и блокира хардуерния идентификатор на компютъра му, като на практика го изключи от играта. На 31 юли компанията тръгна след неговия канал в YouTube, като обхвана последните му видеоклипове със съобщения за нарушаване на авторски права, което накара системата за модериране на съдържание на YouTube да деактивира 14 от тях. Roblox дори подаде известие за нарушение на авторски права срещу видео, където Dazzely обсъжда усилията на компанията да го затвори. Оттогава той премахна повечето от видеоклиповете си или ги направи частни.

По ирония на съдбата, Dazzely вече е планирал да остави апартаменти след себе си. Roblox беше станал много по-добър в своята кондо-игра whack-a-made, отбеляза той в по-ранно интервю. И игрите, които той успя да посети, изглеждаха почти идентични с тези, които бяха преди. За манипулатор като него беше станало досадно.

Но Dazzely няма намерение да изоставя Roblox напълно. Той знае, че на платформата няма недостиг на други видове тъмнина и черепи. Преди няколко месеца той посети на ePal.gg, сайт, стартиран през януаричесъдържа повече от 40 000 профила на хора, които се рекламират като e-Girls и e-Boys-флиртуващи придружители в играта, на които клиентите могат да платят, за да играят онлайн. Четирите основатели на Pal казват, че изискват всичките им ePals да са на възраст над 18 години и забраняват сексуалния тормоз. Но те признаха, че не проверяват възрастта и че имат само четирима служители, които преглеждат заявленията. Наскоро третият най-гледан видеоклип в секцията за съдържание на ePal беше „Как да съблазнявам е-момиче“. За изпращането на Dazzely в YouTube той нае електронно момиче, което каза, че е само на 17 (Те играха волейбол на Roblox заедно с някои от феновете му.)

В реалния си живот Даззели насочва вниманието си към колежа - в крайна сметка би искал да стане учител по история. Но засега той иска долната част на Roblox да остане негов творчески фокус - ако някога се допусне обратно в играта. Можете да правите толкова много неща в Roblox. Затова не ми е скучно, казва той. Може би някой ден ще напусне дигиталната си площадка за реалния свят. От друга страна, разсъждава той, може би възрастните хора най -накрая ще разберат, че са едни и същи.

Техническа помощ, предоставена от Кен Фикара и Натали Солър. За тази история е предоставен софтуер за анализ на данни от програмата Everlaw for Good.