Eli Pariser Eli Pariser Ferește-te de capacele filtrelor online! TED Talk Subtitrări și transcriere TED

Jurnalistului i s-a pus lui Mark Zuckerberg o întrebare despre noul feed, iar jurnalistul l-a întrebat: „De ce este atât de important, de fapt?” Iar Zuckerberg a răspuns: „Faptul că o veveriță moare chiar în fața casei noastre poate fi mult mai interesant pentru noi în acest moment decât faptul că oamenii mor în Africa”. Și vreau să vorbesc acum despre ce poate fi webul care se bazează pe această percepție a importanței.

În copilărie, în statul Maine, într-un cadru rural real, internetul însemna ceva complet diferit pentru mine. A însemnat contactul cu lumea. Ceva care ne va conecta pe toți. Și eram sigur că ar fi un lucru grozav pentru democrație și societatea noastră. Dar există o schimbare aici în modul în care informațiile circulă online și rămân invizibile. Și dacă nu îi acordăm atenție, poate fi cu adevărat o problemă. L-am remarcat pentru prima dată într-un loc în care petrec mult timp - pe pagina mea de Facebook. Sunt avansat din punct de vedere politic - ce surpriză - dar fac tot posibilul să întâlnesc conservatori. Îmi place să aud ce simt. Îmi place să văd ce le leagă; îmi place să știu un lucru sau două. Am fost foarte surprins într-o zi. că conservatorii au dispărut din feedul meu de pe Facebook. Și s-a dovedit că ceea ce s-a întâmplat a fost că Facebook a urmărit ce legături făceam clic și am observat că, într-adevăr, am dat clic mai mult pe link-ul prietenilor mei liberali decât pe prietenii mei conservatori. Și fără să mă întrebe, îi era dor de ei. S-au dus.

Dar Facebook nu este singurul care editează web într-un mod atât de discret, algoritmic. Google face la fel. Dacă eu și tu căutăm ceva, la fel și în același timp, putem obține rezultate complet diferite. Un inginer a spus că, chiar și atunci când se deconectează, Google monitorizează 57 de alerte - variind de la computerul pe care lucram, ce browser folosim până unde navigăm pe internet - pentru a personaliza apoi rezultatul interogării în consecință. Gândiți-vă o clipă: nu mai există nicio întrebare despre Google standard. Și știi, ciudatul lucru este că este greu de observat. Nu vedem cât de diferite sunt rezultatele căutării pentru noi decât pentru alții.

Dar acum câteva săptămâni am rugat câțiva prieteni să o caute pe Google pentru Egipt. și transmiteți ecranul rezultatului rezultat. Iată prietenul meu Scott. Și acesta este al lui Daniel. Dacă le așezăm una lângă alta, nici nu trebuie să citim linkurile pentru a vedea cât de diferite sunt cele două pagini. Dar dacă citim linkurile, este foarte remarcabil faptul că Daniel nu a primit nimic despre demonstrațiile egiptene de pe prima pagină. în timp ce comoara lui Scott era plină de ele. Și asta a fost povestea zilei în acel moment, cât de diferite au fost cele două rezultate.

Și nu doar Google și Facebook îl au. Acesta este un fenomen care se răspândește pe web. O masă de companii utilizează o astfel de personalizare. Yahoo News, cel mai mare site de știri de pe web, a devenit recent personal - diferite persoane primesc lucruri diferite. Huffington Post, Washington Post, New York Times - toate cochetează cu o anumită formă de personalizare. Și te duce foarte repede într-o lume în care internetul ne arată ceea ce crezi că vrem să vedem și nu neapărat ceea ce trebuie să vedem. Așa cum a spus Eric Schmidt, „Va fi foarte dificil pentru oameni să vadă sau să folosească ceva care nu este cumva aliniat cu ei”.

Cred că este greșit. Cred că dacă luăm toate aceste filtre, toți algoritmii, vom obține ceea ce eu numesc un filtru shell. Și plicul nostru de filtru este propria noastră lume a informațiilor personale separate în care trăim online. Și ce este în acest plic de filtru depinde de cine suntem, de ceea ce facem. Dar chestia este că nu noi decidem ce se întâmplă. Și, mai important, nu vedem cu adevărat ce a mai rămas din el. Una dintre problemele cu capacul filtrului a fost descoperită de cercetătorii Netflix. S-au uitat la cozile Netflix și au observat ceva amuzant, ceva ce probabil am observat deja mai mulți oameni, că există filme pe care le descărcăm aproape imediat. Îl adăugăm la coadă și îl descărcăm aproape imediat. De exemplu, „Iron Man” este descărcat imediat, în timp ce „Waiting for Superman” poate aștepta cu adevărat mult timp.

Am descoperit că există o luptă acerbă pe cozile noastre Netflix între cele două sinele noastre: unul este sinele nostru care vrea să fie în viitor, celălalt este sinele nostru impulsiv actual. Știți, cu toții vrem să fim printre cei care au mai văzut „Rashomon” înainte, dar preferăm să urmărim „Ace Ventura” chiar acum, pentru a patra oară. (Râsete) Deci, cea mai bună editare oferă un pic din ambele. El dă puțin de la Justin Bieber și puțin din Afganistan. Oferă puține informații despre legume și puțin despre desert. Dificultatea cu astfel de filtre algoritmice, cu aceste filtre personalizate, constă în faptul că acestea se uită în principal la ceea ce obținem din prima, supărând astfel echilibrul. Și în loc de o dietă informativă echilibrată, vom ajunge înconjurați de un burger de informații.

Acest lucru sugerează că am putea fi de fapt înțelese greșit despre internet. În comunicații - așa apar miturile - în comunicații, erau gardieni, editori și în mâinile lor erau canale de informații. Și internetul a venit și i-a scos din drum și ne-a permis tuturor să ne conectăm între noi și a fost minunat. Dar nu exact asta se întâmplă acum, ceea ce vedem acum este modul în care gardienii din carne și sânge transmit bagheta către gardienii algoritmici. Astfel, algoritmii nu au etica internă pe care editorii au folosit-o. Deci, dacă algoritmii vor aranja lumea pentru noi, dacă decid ce să privească și ce nu, trebuie să ne asigurăm că nu sunt doar programați în funcție de relevanță. Trebuie să ne asigurăm că acestea arată și lucruri incomode, provocatoare sau importante - așa cum o face TED - și din alte perspective.

Ca societate, am mai fost în această situație. Nu este ca și cum în 1915 ziarele țineau mult la răspunderea civilă. Atunci oamenii au observat că fac ceva foarte important. Că nu poate exista o democrație funcțională fără ca cetățenii să primească informațiile corecte. Că ziarele au fost esențiale pentru că au acționat ca un fel de filtru și apoi a evoluat etica jurnalistică. Nu a fost perfect, dar ne-a ajutat în secolul anterior. Așa că acum acesta este un fel de întoarcere la 1915 pe web. Și avem nevoie de noi paznici pentru a codifica această responsabilitate în codul pe care îl scriu.

Știu că sunt mulți oameni aici de pe Facebook și Google - Larry și Sergey - care au ajutat la modelarea internetului așa cum este și de aceea le sunt recunoscător. Dar chiar avem nevoie de dvs. pentru a ne asigura că acești algoritmi codifică judecata vieții publice, sensul responsabilității civice. Avem nevoie de dvs. pentru a asigura transparența, astfel încât să putem vedea care sunt regulile care determină ce trece prin filtrele noastre. Și, de asemenea, trebuie să ne dați un anumit control, astfel încât să putem dicta singuri prin ce trecem și ce nu. Pentru că cred că avem cu adevărat nevoie să fie internetul la care am visat cu toții. Avem nevoie de el pentru a ne conecta pe toți. Avem nevoie de el pentru a arăta gânduri noi, oameni noi și perspective diferite. Și asta nu se poate întâmpla dacă rămânem izolați unul de celălalt pe web.