Как социалните медии ни тласкат към 1984 г.

Платформите за социални медии манипулират потребителите и изкривяват чувството ни за реалност - точно както Джордж Оруел прогнозира.

Как социалните медии ни тласкат към 1984 г.

В своя антиутопичен роман, Деветнадесет осемдесет и четири , Джордж Оруел създава Big Brother и с него перфектната метафора за Big Tech. Телескопите на Оруел, които не могат да бъдат изключени и които записват всеки разговор и следят всяко движение на неговите герои, имат поразителна прилика с нашите смартфони. И точно както телеекраните автоматично насочват програми към своите зрители, алгоритмите на социалните медии днес решават какво виждаме и оформят визията ни за света.Героите на Оруел, под наблюдението на партията, се опитват да забранят определени идеи от съзнанието им, по начин, който наподобява начина, по който започваме да наблюдаваме мислите и действията си под влиянието на интернет.



Докато тази метафора е полезна (особено тъй като Китай активно работи за превръщането на фантастиката в реалност), докато препрочитах романа през лятото, бях впечатлен от това как Оруел изглежда предвижда отношенията ни със социалните медии по други начини. Със своите концепции за Двуминутна омраза, ежедневен ритуал на възмущение, организиран от партията, и Newspeak, умишлено двусмислен език, предназначен да ограничи способността на хората да общуват по нюансирани начини, Оруел разкри как могат да бъдат мислите, емоциите и действията на хората манипулиран. Динамиката, която той описва, неотразимо отразява начина, по който сега социалните мрежи влияят върху живота на милиарди хора по света.

Две минути омраза

В романа на Оруел хората прекъсват дейностите си всеки ден и застават пред телеекраните си, за да разпалват врагове и да празнуват Големия брат. Враговете се сменят редовно, но ритуалът, наречен Двуминутна омраза, не:



Ужасното в Двуминутната омраза не е, че човек е длъжен да играе роля, а че е невъзможно да се избегне присъединяването. В рамките на тридесет секунди всякакви преструвки винаги са били ненужни. Отвратителен екстаз от страх и отмъстителност, желание за убиване, за изтезания, за разбиване на лица с чук, сякаш течеше през цялата група хора като електрически ток, превръщайки човек дори против волята му в гримаса, крещене луд. И въпреки това яростта, която човек изпитваше, беше абстрактна, насочена емоция, която можеше да се превключва от един обект към друг като пламъка на ударна лампа.

как да спрем лошия късмет

Това описание звучи фантастично, докато не помислите какво се случва в нашите социални мрежи. По време на скандала с Gamergate през 2014 г. жена и нейното семейство се превръщат в обект на масова кампания за тормоз, включваща изтичане на личните й снимки и заплашване с изнасилване и смърт. Нещата само се влошиха. Днес възпалителните хаштагове и фалшификати редовно се популяризират от фалшиви акаунти, докато не станат официални тенденции и не бъдат взети от реални хора и дори от масовите медии. Увеличава се броят на влиятелните влияещи отдясно и издирващи конспирация, разпространяващи расистки и женоненавистни меми към своите последователи. И всичко това не просто е активирано, а овластено и усложнено от платформите за социални медии.



Освен тези силно организирани кампании на омраза, ежедневният тормоз и тормоз също се увеличиха. Според а доклад от изследователския център Pew , 59% от тийнейджърите в САЩ са тормозени или тормозени онлайн. При изборите във Великобритания през декември 2019 г. разследване на Би Би Си и либералния мозъчен тръст Демос открива скок в злоупотребите и смъртни заплахи в Twitter, насочени към кандидатите за народни представители. Около 7% от туитовете (т.е. 334 000), получени от кандидатите, са категоризирани като злоупотребяващи.

Преди да мислите не аз, помислете дали някога сте участвали в възмущение в социалните медии, само за да се събудите на следващия ден и да си помислите Как бих могъл да направя това? Осъзнавали ли сте някога, че не разполагате с всички факти и все пак се чувствате принудени да реагирате? Публикували ли сте някога, харесвате или ретутирате статия с особено запалително заглавие, без всъщност да я прочетете? Ако имате, участвали сте във версията на социалната мрежа на Двуминутната омраза на Оруел.

И макар да ми се иска всички да можем да контролираме малко повече нашите онлайн желания, антиутопичният роман на Оруел ми напомни, че истинският проблем е, че вирусното възмущение е нещо повече от случайна характеристика на социалните мрежи. Това е ядрото на техните продукти, на това, което те се стремят да създадат: мегафон, който непрекъснато поставя пред вас съдържание, което е толкова мощно, емоционално и екстремно, че както казва Оруел, е невъзможно да избегнете присъединяването. като тебпродължавате да превъртате, намирането на нови теми за ярост е лесно: алгоритмите на YouTube, Facebook и Twitter се уверяват в това.



Обектът на яростта на хората е толкова без значение за партията в романа на Оруел, колкото и за социалните мрежи днес. Важното е, че ядосаните хора са дълбоко ангажирани и по -лесни за манипулиране.

Newspeak

Също толкова страшно е как, в Деветнадесет осемдесет и четири , партията използва Newspeak, за да премахне смисъла от езика, което прави невъзможно хората да имат определени мисли. Намаляването на броя на думите, достъпни за хората, им пречи да имат правилни чувства и идеи и прави света по -труден за обработка и разбиране. Когато езикът загуби значението си ( войната е мир, свободата е робство, невежеството е сила ), партията контролира това, което се счита за реалност. Факти и независима мисъл вече не съществуват:

До 2050 г. - вероятно по -рано - всички истински познания за Oldspeak ще изчезнат. Цялата литература от миналото ще бъде унищожена. Чосър, Шекспир, Милтън, Байрон - те ще съществуват само във версии на Newspeak, не просто променени в нещо различно, но всъщност противоречащи на това, което са били. Дори литературата на партията ще се промени. Дори лозунгите ще се променят. Как бихте могли да имате лозунг като Свободата е робство, когато концепцията за свобода е премахната? Целият мисловен климат ще бъде различен. Всъщност няма да има мисъл, както я разбираме сега. Православието означава да не мислиш - няма нужда да мислиш. Православието е безсъзнание.

виждайки числото 33 многократно

Нашият собствен език става все по-редуциращ и опростен в резултат на ограниченията на характера на социалните медии и използването на хаштагове за изплуване и популяризиране на закачливи, лесни за разбиране идеи, събития и тенденции. На тези платформи нюансът не се възнаграждава. И като позволяват на всяко мнение (без значение колко крайно) да придобие вид на факти, социалните мрежи ни затрудняват да разберем нашата реалност.

Прости решения



Книгата на Оруел завършва с главния герой Уинстън, който напълно приема правилото на партията, участва изцяло в ритуалната двуминутна омраза и вярва, че две плюс две е равно на пет. Не е нужно да сме Уинстън, но по -важното е, че Big Tech не трябва да се държи като партито.

Това, което намирам за обезсърчаващо, е, че има няколко прости неща, които се застъпват от дълго време, които ако не решат напълно проблема, поне биха помогнали значително:

  • Добавете предупредително съобщение. Компаниите за социални медии се опитаха да премахнат всяка точка на триене за потребителите, за да увеличат максимално обема на комуникацията и ангажираността на техните платформи. Но какво ще стане, ако те вземат различен подход? Ами ако, когато потребител се канеше да публикува или туитва нещо възпалително, компаниите за социални медии прекъснаха с изскачащо съобщение, казващо нещо по следния начин: Сигурен ли си? Instagram внедри нещо подобно през 2019 г. за ограничаване на вредните реактивни комуникации. Въпреки че този подход няма да попречи на всички да публикуват скандално съдържание, той ще принуди много от нас да направим пауза и да помислим, преди да го направим.
  • Спрете да показвате предложени публикации или видеоклипове като начин да накарате потребителите да превъртат / преглеждат, дори когато са видели всичко, което хората, които следват, са публикували. YouTube стартира AutoPlay през 2015 г., като обслужва своите зрители поредица от непрекъснато възпроизвеждани предлагани видеоклипове. Тази функция до голяма степен се счита за основен двигател за разпространението на екстремно съдържание. Instagram, който се съпротивляваше досега, промени политиката си през август и започна да включва предложени публикации в емисиите на потребителите.
  • Агресивно се бори за факти . Когато някой напише, че две плюс две са равни на пет, направете мисията си поне да спрете да разпространявате лъжата, колкото и вълнуващо да е за вашите потребители. Това ще бъде невероятно трудна и вероятно безкрайна битка. Ще бъдат допуснати грешки. Но те си заслужават. Усилията досега бяха твърде плахи; инвестициите в стабилни екипи и процеси за проверка на фактите трябва да бъдат значително увеличени. Изследователите все още са разделени по въпроса дали поставянето на предупредителни съобщения заедно с невярна информация е ефективно за ограничаване на споделянето й. Някои са стигнали до извода, че това би могло да направи потребителите по -малко склонни да споделят; други не са видели никакво въздействие. Но си струва да опитате.
  • Безмилостно идентифициране и закриване на акаунти, страници и форуми, които насърчават омразата. А проучване за ефектите от забраната на две общности на омраза от Reddit през 2015 г. демонстрира, че чрез затварянето на тези ехокамери на омразата, Reddit е накарал участниците да напуснат сайта или драматично да променят езиковото си поведение. С други думи, нивото на омраза намалява напълно, дори когато същите потребители продължават да използват Reddit и се присъединяват към други форуми.

Всички тези решения се свеждат до проста идея: Истински ориентиран към човека бизнес-този, който иска да подобри човечеството-трябва да подкрепя силните страни на своите потребители, а не да използва нашите слабости. Въпреки че днешният ни свят може да прилича Деветнадесет осемдесет и четири , все още има време да напишем различен завършек.

Маел Гаве работи в областта на технологиите в продължение на 15 години. Тя е била изпълнителен директор на Ozon, изпълнителен вицепрезидент в Priceline Group и главен оперативен директор на Compass. Тя е автор на предстояща книга, Потъпкани от еднорози: Проблемът с емпатията на Big Tech и как да го поправим .