Tillidsproblemer

Facebook fremstiller tillid gennem falsk intimitet

Hvordan design kan få dig til at glemme, hvad du tilmelder dig

Kunst af Jessica Siao

Forestil dig at eje en robot, der er programmeret til at følge dine ordrer, uanset hvad. Med fuld forudsigelighed garanteret, vil du være sikker på absolut overholdelse og ville aldrig skulle give udtryk for de bange ord, ”Et tu, Beep Boop? Jeg stolede på dig!"

Hvis nogen siger: ”Jeg har ikke tillid til teknologi,” taler hun sandsynligvis i alt for generelle vendinger. Hvis hun bliver mere specifik og siger, ”Nå, hvad jeg mener er, at jeg ikke har tillid til selvkørende biler,” er hun stadig uden for markeringen. Denne erklæring siger virkelig, at hun er skeptisk over for selvkørende bildesigners, virksomheder, marketingfolk, sikkerhedsinspektører, reportere, tilsynsmyndigheder eller forsikringsselskaber. Hendes mistanke er, at en eller flere af disse parter i det sociotekniske system sætter liv i fare ved at fremsætte upålidelige påstande om, hvordan bilerne klarer sig.

Disse (og utallige andre) eksempler på, hvordan vi interagerer med teknologi, viser, at tillid altid involverer tre ting: sårbarhed, risiko og magt. Når vi oplever vores tillid, kan mild og øjeblikkelig skuffelse følge, ligesom tragedien om et forræderi, som uigenkaldeligt adskiller bånd. Uden disse risici kan tillid ikke eksistere. For at være tillid, skal du opgive kontrol. Og tech-virksomheder som Facebook - selvom det bestemt ikke er den eneste - ved dette.

Problemet med 'The Circle'

Jeg blev ikke overrasket, da en talsperson for et selskab - lad os kalde det "The Circle" - for nylig spurgte, om jeg gerne ville blive betragtet som et sted på dets etiske bestyrelse. (Cirklen er forresten ikke Facebook i dette særlige eksempel.) Hvis forbrugerne virkelig ønsker øget beskyttelse af privatlivets fred, større gennemsigtighed og mere svajer over, hvordan platforme organiserer og præsenterer information, kan Circle og dens konkurrenter ikke bank om overvågningskapitalisme som en sikkerhedsindsats.

Måske ønsker cirklen virkelig at gøre verden til et bedre sted og anmoder om hjælp til at finde den rigtige vej og blive på den. Derefter igen, måske den sande dagsorden er at kaste efter gode PR, i hvilket tilfælde folk som jeg vil blive brugt til at styre optik. Jeg kunne ikke fortælle, og hvis du var i mine sko, formoder jeg, at du også ville blive forundret.

Som resten af ​​pakken beskytter The Circle sin intellektuelle ejendom med aftaler om ikke-offentliggørelse (NDA). Ved design er disse juridiske dokumenter nødvendige for at beskytte forretningshemmeligheder. Men de kan også pålægge ubehagelige tavshed, der hindrer tillid. Ingen, jeg kender, har nogen idé om, hvad der foregår bag kulisserne, og hvis jeg var bundet af The Circle's NDA, kunne min offentlige stemme forvirres.

Det ville have været meningsløst for mig at prøve at måle Cirkelens troværdighed ved at undersøge dens brugeraftale. Selv hvis jeg er besat af dokumentet til uendeligt og videre, ville jeg stadig være usikker på, hvad det nøjagtigt tillader.

Det dilemma, jeg stod overfor, taler til et større emne. Tekniske virksomheder har meget at bevise, når deres økonomiske motorer kører på at absorbere, undersøge og dele vores intime oplysninger. Desværre er tilliden til at demonstrere god tro så høj, at fremragende virksomheder, der kommer ind på markedet - dem, der virkelig stræber efter at tilføje værdi til vores liv - måske uretfærdigt betaler for synderne fra deres forgængere. Hvis vi har lært fra den nylige fortid, insisterer vi på, at de er nødt til at gå ud over for at overbevise os om, at tingene kan være anderledes denne gang.

For at være tillid, skal du opgive kontrol. Og teknologivirksomheder ved dette.

Efter omfattende overvejelser besluttede jeg mig for at blive medlem af The Circle's ethics board. Da tillid vokser og dør i situationer fyldt med usikkerhed, ved jeg aldrig, om dette var den rigtige beslutning.

Lad os overveje de to juridiske dokumenter, der kan indføre barrierer for tillid: brugeraftaler og NDA'er.

Forbrugerne handler ofte med data for tjenester uden at forstå, hvordan deres oplysninger kan gemmes, deles, analyseres og handles, eller hvor meget deres information faktisk er værd. Problemet med informationsasymmetri opstår igen og igen, fordi brugeraftaler er blevet normaliseret til at være selskabsvenlige og ikke læservenlige. Aftalerne er notorisk uigennemsigtige og nuværende take-it-or-leave-tilbud, der fratar forbrugerne forhandlingsstyrke.

Tænk på, hvorfor kritikere hævder Mark Zuckerbergs Cambridge Analytica-inspirerede undskyldninger er krokodiltårer, og at han ikke tager forbrugertillid så alvorligt, som han burde. Mens Facebook for nylig har revideret sine servicevilkår, er det overbevisende blevet argumenteret for, at de begrænsede ændringer sammen med vedholdenheden af ​​begrænsede opt-in og opt-out-muligheder kun sigter mod at indrykke "pseudo-trust - en falsk eller overfladisk tillid", som er “Rent transaktionsmæssigt” og orienteret til “kortsigtede” resultater.

Så er der det dobbeltkantede sværd i aftalerne om ikke-offentliggørelse: nødvendigt for virksomheder at være levedygtige og beskytte deres voksende forretning, men også en mekanisme til at skabe sortkassede virksomhedskulturer. Kan du huske, at Weinstein Company indgav konkurs i marts efter at beskyldningerne om seksuelt overgreb og chikane ikke længere kunne ignoreres? Nå, virksomheden forsøgte at distancere sig fra Harvey og indrømmede, at han havde "brugt aftaler om ikke-afsløring som et hemmeligt våben for at dæmpe hans anklagere." (På lignende måde eksisterer der meget debat om de vejledende intentioner, der førte til, at Stormy Daniels fik en .)

Desuden kan NDA'er, uanset hvor lufttætte de er, ikke forhindre, at anonym kritik lækker og, selv når den er legitim, tilføjer en generel atmosfære af mistillid. Når konkurrerende parter kæmper for at legitimere og miskreditere anonyme påstande, kan vinderen være den farlige overbevisning om, at sandheden udelukkende ligger i beskuerens øje.

Facebook og flow

Tilbage i 1927 udgav den tyske filosof Martin Heidegger Being og Time, en bog før digital tidsalder, der gør et godt stykke arbejde med at beskrive en del af denne bekymring. En af Heideggers store indsigter var, at mennesker kan bruge den samme teknologi på to forskellige måder: ”nutidig” og ”klar til hånd”. Hver orientering har dybe konsekvenser for, hvordan teknologien og de aktiviteter, det letter, er opfattes. Forskere har længe drøftet, om disse synspunkter er gensidigt eksklusive, og om de kan tændes og slukkes som en lysafbryder.

Heidegger fanger disse forskydninger i fokus på en nuanceret måde og beskriver, hvordan vores engagement med genstande forvandler, hvordan vi ser og forstår dem. For at bruge et af hans yndlingseksempler: hvis nogen dygtigt bruger en hammer på en klar til hånd måde, falder værktøjet i baggrunden, og opmærksomheden henledes på den opgave, der er ved hånden, der kommer i zonen og bliver en med værktøj og nemt køre negle i træ.

I modsætning hertil kunne nogen indtaste en nuværende tilgang til en hammer. Hun tager muligvis et skridt tilbage fra tømreraktiviteten og koncentrerer sig fuldt ud om analytisk at bestemme, hvor meget tryk der skal udøves for at bruge en hammer - som føles som en ekstern genstand - uden at splitte træet.

Heidegger foreslår, at den parat-til-hånd-tilgang ikke kan opretholdes i tilfælde, hvor der forekommer sammenbrud, såsom ved et uheld at slå hammeren på tommelfingeren. I disse tilfælde overflader hammeren fra baggrunden og bliver et omdrejningspunkt, mens skadelidte græder: "Ouch, freakin 'hammer!" ("Hammer skader dem ikke," hvis du vil).

Hvad The Circle måske ønsker at opnå, er derfor at skubbe brugerne til at have en klar til hånd-relation med sin software, så værktøjet forsvinder i baggrunden og omdrejningspunktet bliver peers på netværket. På denne måde ser oplevelsen ud som om det hele handler om samtalerne og ikke om commodification af hjerte til hjerter. Den glatte frem og tilbage af en tête-à-tête kan nedbrydes gennem hæmning, hvis der findes stærke påmindelser om, at mellemmænd er til stede og stirrer med objektiverende blikke.

I ansigt til ansigt-miljøer er det ofte lettere at opdage trusler mod beskyttelse af personlige oplysninger. Du kan tale i forhastede toner i en overfyldt bar for at begrænse sandsynligheden for, at nogen undtagen din kompis, der sidder ved siden af ​​dig, vil lytte i. Men intet sammenligneligt eksisterer, når du har klikket på "enig" til en brugeraftale og effektivt godkender et online firma til at lurer evigt i skyggerne.

Virksomheder på sociale medier som Facebook udnytter ekspertisen inden for design af brugeroplevelse for at trække dette trick ud. De skaber tillid ved at få 2,2 milliarder brugere til at glemme platformen og gøre betroede ”venner” (og selvfølgelig ”venlige” mærker og organisationer) til centrum af opmærksomheden.

“Facebook tog disse designvalg, fordi den kender tillidens magt,” fortalte Ari Waldman, forfatter af Privacy as Trust: Information Privacy for an Information Age, til mig. ”Når vi stoler, deler vi, og Facebooks design er lavet til at udløse alle mulige mekanismer til tillid, fra signaler om vores venners opførsel til intimitet i samfundet.

Intimitet efter design

Facebook - som nu har tilføjet matchmaking til sine mange andre tilbud - oplevelser er beregnet til at føle sig mere intime end de er. Facebook konstruerer et rum for brugere, der opfordrer dem til at efterlade deres virksomhedsmæssige bekymringer.

De skaber tillid ved at få 2,2 milliarder brugere til at glemme platformen og gøre betroede ”venner” (og selvfølgelig ”venlige” mærker og organisationer) til centrum af opmærksomheden.

Én ting, der berørte mig, da jeg kiggede ind i The Circle, er, at den tilskynder kunder til at bruge sin onlinetjeneste til at sende beskeder til hinanden. På den ene side ved vi alle, hvor meget vi værdsætter disse udvekslinger med vores venner og familie. På den anden side, selvom The Circle eksplicit informerer brugerne, når de tilmelder sig tjenesten, at deres samtaler overvåges, analyseres og deles med specificerede tredjeparter, var det mindre klart for mig, hvor vigtig denne afsløring ville forblive, når tiden gik, relationer blev dannet, og tillid mellem jævnaldrende blev etableret.

Hvis nogen bad dig om at beskrive de tanker, du forbinder med Facebook som firma, ville du sandsynligvis tænke på billeder af Mark Zuckerberg, måske ligne en universitetsstuderende i jeans og en afslappet grå T-shirt eller hættetrøje. Eller måske en anden uniform - en af ​​hans jeg er ked af.

Du kan tænke på chefdrift Sheryl Sandberg eller måske på Facebooks hovedkvarter i Menlo Park, der er kendt for at tilbyde teknologiske frynsegoder som salgsautomater, der udleverer gratis netledninger og tastaturer.

Men når du logger på Facebook som bruger, forbliver nogle af disse billeder hos dig? Din opmærksomhed er rettet andetsteds - til indhold, der er valgt til dig, der gør virksomhedens bearbejdninger og interesser stort set usynlige.

"Facebooks opfattelse af samfund er en kilometer bred, men en tomme dyb," tilføjede Waldman. ”Alle i vores netværk er de samme: De er alle venner. Vores mor er en ven, det er også den fyr, vi mødte på yoga den ene gang. Vores brystkammerat får den samme behandling som den person, vi flirte med i går aftes. Fællesskabet er virkelig ikke der. Det er en facade, der er beregnet til at lulle dig ind i en falsk opfattelse af, at du virkelig snakker en chat i løbet af dit lokale hangout, og ikke hjælper med at skabe en stadig mere uhyggelig virtuel version af dig selv med hvert klik, besked eller kommentar. ”

Faktisk er det ikoniske boksede blå bogstav F-logo i hjørnet god branding. Det er æstetisk tiltalende og inviterer dig ikke til at tænke meget over, hvad det står for, meget mindre overveje, hvis virksomhedernes interesser afviger fra dine egne. Hvad der ikke er til stede, er lige så betydningsfuldt.

Af åbenlyse grunde er der ikke en fremtrædende boks med realtidsopdateringer af værdien af ​​Facebooks fælles aktie på NASDAQ eller nogen indikation af, hvor meget, hvad du skriver eller klikker på, er værd for virksomheden. Glem at få visceral bemærkning om, at Facebook gemmer alt, hvad du skriver og sletter, inden du lægger ud.

Meget er blevet sagt om, at Facebook for nylig har rullet et værktøj kaldet Access Your Information, der giver brugerne mulighed for at downloade oplysninger om, hvad Facebook ved om dem. Mens mange mennesker har udtrykt chok over, hvor meget information platformen har, er det stadig et åbent spørgsmål, om denne gennemsigtighed vil motivere til store forandringer. Når alt kommer til alt, hvis du vil granske oplysningerne, bliver du nødt til at klikke på "Download en kopi af dine Facebook-data", og vent på, at filen oprettes og deles, og derefter undersøge dossieret. Du kan være klar over, hvad du ser, i modsætning til når du ser brugeraftaler. Og hvem gør det?

Ikke desto mindre forekommer en sådan inspektion i nuværende tilstand, og de følelser, du føler, mens du overvejer den samlede information, kan formindskes markant, når du er tilbage på den i klar til hånd-tilstand, ruller gennem din nyhedsfeed, klikker og skriver op en storm og fanget i Facebook's trance.

At bryde trolldommen

Har du nogensinde oplevet den irriterende følelse af at se en andres Facebook-konto? Det er en underlig, næsten sort spejl-ish-oplevelse. På et niveau er det ejendommeligt, fordi du får et indblik i, hvordan forskellige mennesker kan være online versus i det virkelige liv. Du kan tro, at du kender nogen godt, men se derefter online interaktioner med folk, du aldrig har hørt om.

Det, der gør oplevelsen mærkelig, er, at den præsenterer det alt for velkendte i et bisarr lys - og giver dig mulighed for selv at se, hvor berettiget Facebooks hele opsætning er. Dit feed føles intimt for dig, men en andens foder giver afkald på faux-intimitet, fordi panderingen skiller sig ud.

Din opmærksomhed er rettet andetsteds - til indhold, der er valgt til dig, der gør virksomhedens bearbejdninger og interesser stort set usynlige.

Det er en Gestalt-switch - en anden overgang fra klar til hånd til nutid. Det er som at se ting med et andet par øjne. Fordi du subversivt bruger teknologien på en måde, som Facebook ikke anbefaler, skal du denne gang beslutte, hvad der er vigtigt. Du bliver fri til at nedbryde Facebooks konditioneringsmekanismer og forvandle funktionsfejl til befrielse.

Facebook trylle frem fortællingen om personalisering fra mange ting, lige fra likes og interesser til personlighedsforhold og politiske tilbøjeligheder. Dette er en central strategi for konstruktion af vores tillid. Bekymringer omkring filterbobler og vanskeligheden med at bestemme pålidelige fra upålidelige nyhedskilder findes delvis, fordi vores oplevelse af Facebook er designet til at få os til at stole på det "personlige" rum, vi er i, og derfor er åbne for at dele med udvidede venner.

I fremtiden kan det endda give brugerne et "helt virtuelt 'du' museum." Fordi for at citere fra Westworld: "Ved du, hvem elsker at stirre på deres egen reflektion? Alle."