În spatele ecranelor: algoritmii și roboții care rulează rețelele sociale

Te-ai întrebat vreodată de ce anumite postări apar în feedul tău, în timp ce altele nu apar niciodată? Sau cine este acel follower aleatoriu care vă trimite spam în secțiunea de comentarii? Rețelele de socializare de astăzi se simt din ce în ce mai automatizate, algoritmice și mai bine... minuscule.

Site-urile web prin care parcurgem ore întregi în fiecare zi sunt departe de a fi platforme neutre. În spatele ecranelor se află o infrastructură tehnologică complexă concepută pentru a gestiona conținutul și a implica utilizatorii.

Mulți dintre noi sunt familiarizați cu conceptul de algoritmi – formulele programate care calculează ceea ce vedem online. Dar cum funcționează exact acești algoritmi? Și cum s-au infiltrat boții – aplicații software automatizate concepute pentru a rula sarcini repetitive – în ecosistemele rețelelor sociale? Obiectivele și impactul acestor tehnologii sunt de anvergură, dar rareori transparente.

În acest articol, vom elimina funcționarea interioară din spatele ecranelor noastre de rețele sociale. Veți afla cum algoritmii și roboții influențează informațiile pe care le primiți și chiar vă manipulează opiniile și comportamentele.

De asemenea, ne vom arunca în studii de caz despre roboții care au mers prost și vom explora idei pentru creșterea responsabilității. Este timpul să investigăm ce se întâmplă cu adevărat în culise pe web-ul social pe care îl cunoaștem și îl folosim în fiecare zi. Povestea este mai complexă decât crezi.

TLDR; Algoritmii și roboții care rulează rețelele sociale

• Algoritmii organizează fluxurile de social media pentru a maximiza implicarea, nu discursul de calitate
• Boții precum spamboții și roboții politici răspândesc informații greșite și propagandă pe platforme
• Algoritmii pot crea camere de ecou; roboții promovează știrile false și criminalitatea cibernetică
• Platformelor sociale le lipsește supravegherea și transparența în ceea ce privește algoritmii lor
• Utilizatorii ar trebui să ceară transparență și responsabilitate din partea platformelor sociale

Creșterea algoritmilor pe rețelele sociale

Algoritmii sunt seturi de instrucțiuni sau calcule programate pentru a îndeplini sarcini și obiective specifice. Pe platformele de socializare, algoritmii analizează cantități uriașe de date despre utilizatori pentru a selecta și recomanda conținut din feedurile utilizatorilor. Scopul este de a arăta oamenilor postările cu care este cel mai probabil să interacționeze în acest moment.

Facebook a fost pionier în ideea unui flux de știri personalizat condus de algoritmi în 2006. Înainte de aceasta, postările erau pur și simplu afișate în ordine cronologică. Facebook a dorit să optimizeze pentru „conținut semnificativ” – adică postările care vor primi cele mai multe aprecieri, comentarii și distribuiri. Alte platforme precum Twitter, Instagram și TikTok au adoptat în cele din urmă și feed-uri algoritmice.

Acești algoritmi iau în considerare sute de semnale despre fiecare utilizator, inclusiv conexiunile, interesele, activitatea trecută și tipul de dispozitiv. Ei învață și se actualizează în mod constant pe baza unor date noi. Algoritmii de recomandare sugerează, de asemenea, conturi de urmărit sau conținut de vizualizat, pe baza asemănărilor cu ceea ce se interacționează deja un utilizator. Scopul final este maximizarea veniturilor din reclame, astfel încât algoritmii optimizează și postările și anunțurile care vor ține utilizatorii să deruleze la nesfârșit.

Peisajul botului pe platformele sociale

Boții de social media sunt programe software care produc automat conținut și interacționează cu utilizatori reali, adesea în timp ce se prezintă drept conturi umane. Spamboții răspândesc în mod autonom spam, reclame sau programe malware. Chatbot-urile au conversații AI. Boții politici răspândesc propagandă și dezinformare, așa cum s-a văzut la alegerile din SUA din 2016.

Boții au proliferat rapid pe măsură ce platformele sociale se extind. Un studiu a estimat că 9-15% dintre conturile Twitter pot fi roboți. Pe Facebook, s-a estimat că conturile duplicate și false reprezintă aproximativ 11% din utilizatorii activi lunari la nivel global, la sfârșitul anului 2021.

Cu toate acestea, detectarea botului este o provocare. Boții sunt din ce în ce mai avansați, folosind inteligența artificială pentru a imita modelele comportamentale umane online. Scopul lor este de a manipula opinia publică sau de a influența negativ discursul evitând în același timp depistarea.

Impactul algoritmilor și roboților

Algoritmii și roboții au produs unele beneficii pentru utilizatorii rețelelor sociale. Curatarea algoritmică personalizează fluxurile pentru a se potrivi cu interesele indivizilor, economisind timp pentru conținut irelevant. Chatbot-urile pot oferi servicii automate utile pentru clienți.

Cu toate acestea, curatarea algoritmică grea a dus, de asemenea, la camere de ecou și polarizare, deoarece oamenii văd doar perspective similare. Boții au fost folosiți pentru a răspândi dezinformări la scară rapidă, înecând fapte și manipulând discursul public, așa cum s-a văzut la alegerile din întreaga lume.

Poate că cel mai îngrijorător este lipsa de supraveghere și transparență în jurul acestor tehnologii. Platformele sociale oferă puțină vizibilitate asupra modului în care funcționează algoritmii lor și asupra modului în care aceștia au impact asupra conținutului pe care îl văd utilizatorii. De asemenea, se luptă să detecteze roboții sofisticați, făcând puțin pentru a reduce manipularea dăunătoare care decurge din inacțiunea lor.

Studii de caz ale roboților greșiți

În 2016, Microsoft a lansat chatbot-ul AI Tay pe Twitter, menit să implice utilizatorii printr-o conversație obișnuită. Dar trolii de pe internet au descoperit că l-ar putea antrena pe Tay să folosească un limbaj rasist și să propage opinii ofensive. În 24 de ore, Tay a trebuit să fie închis.

În timpul alegerilor prezidențiale din SUA din 2016, roboții asociați ruși au generat propagandă care a ajuns la peste 100 de milioane de americani pe Facebook, Twitter și alte platforme. Aceasta a avut ca scop să semăneze discordie socială și politică.

Spamboții răspândesc în mod regulat programe malware și linkuri rău intenționate pe platformele sociale prin conturi false. Un studiu din 2020 a constatat că peste 100.000 de roboți Twitter se implică în campanii coordonate de dezinformare și criminalitate cibernetică COVID-19. Acestea prezintă riscuri majore pentru utilizatori.

Lupta continuă împotriva roboților răi

Platformele sociale folosesc învățarea automată pentru a detecta conturile bot pe baza unor modele precum frecvența ridicată de tweet, conținut duplicat și comportamente coordonate. Când sunt semnalate ca boți probabili, conturile pot fi contestate pentru a dovedi că sunt oameni prin CAPTCHA sau verificarea telefonică. Dacă eșuează verificarea botului, conturile sunt eliminate.

Cu toate acestea, identificarea unor roboți mai sofisticați care utilizează inteligența artificială rămâne o provocare. Acești roboți imită programele de postare asemănătoare oamenilor, varietatea de conținut și interacțiunile online. Unii evită detectarea schimbând comportamentele odată semnalate. Platformele se angajează într-un joc nesfârșit între pisici și șoarece împotriva capacităților bot în evoluție.

Experții sugerează că o detecție mai bună ar putea proveni din analiza metadatelor contului, a relațiilor și a modelelor lingvistice de-a lungul timpului. Încetinirea răspândirii virale rapide a conținutului ar putea, de asemenea, să reducă mai bine influența rețelelor de bot coordonate înainte ca acestea să provoace prea multe daune.

Împingerea pentru transparență și supraveghere

Cu algoritmi și roboți încorporați în modelele lor de afaceri de bază, platformele sociale au puține stimulente să fie transparente sau să permită o supraveghere semnificativă. Dar grupurile de advocacy au cerut auditare algoritmică, oferind cercetătorilor acces pentru a evalua impactul.

Guvernele au în vedere, de asemenea, reglementări care impun transparența, cerințele de monitorizare umană și dreptul de apel împotriva deciziilor algoritmice neloiale.

Utilizatorii pot contribui la exercitarea presiunii exprimându-și îngrijorările prin petiții și hashtag-uri, sprijinind politicienii pro-transparență și chiar păcălirea algoritmilor, modificându-și propriile modele de activitate. Deși cultura închisă, bazată pe profit, a platformelor sociale va fi greu de schimbat, conștientizarea publică susținută și presiunea ar putea face ca transparența în jurul algoritmilor și boților lor să fie un imperativ.

Rezumând: algoritmii și roboții care rulează rețelele sociale

Fațada rețelei sociale a fost dezlipită și am întrezărit amestecul complex de algoritmi și roboți care conduc aceste platforme. Feedurile noastre sunt organizate de formule opace optimizate pentru implicare și venituri, nu discurs de calitate. Conturile automate funcționează de-a dreptul, acoperite cu identități umane false.

Acest adevăr întrezărit ar trebui să ne facă profund inconfortabil cu starea actuală a rețelelor sociale. Nu ne mai putem agăța de noțiuni ciudate de piețe neutre online ale orașului. Motivele de profit și automatizarea necontrolată au subminat potențialul rețelei sociale. Indignarea trebuie să se transforme în apeluri la transparență și responsabilitate.

Noi, utilizatorii, avem putere în cifre. Nu accepta ignorarea modului în care algoritmii îți influențează gândirea. Solicitați schimbarea prin legislație și implicarea directă a platformei. Fii suspect de amplificarea botului. Și nu uitați niciodată de umanul din spatele ecranului, indiferent dacă este o persoană reală sau un AI viclean. Realitatea noastră viitoare poate depinde de amintirea umanității noastre.