Chiar și Facebook nu înțelege algoritmii Facebook

După toate strângerile de mână care au venit din spectacolul „știri false”, prin amabilitatea fluxului de știri Facebook - conținutul pe care îl vedeți când vă conectați la Facebook de pe telefon sau laptop - un lucru a devenit din plin clar. Chiar și Facebook nu înțelege Facebook.

Și aceasta este problema cu bazarea pe o inteligență artificială algoritmică (AI) care a fost construită (sau mai exact, unită) de-a lungul anilor de sute de dezvoltatori și programatori diferiți.

Toate acestea mi-au devenit clare în ultimele zile, pe măsură ce am analizat lucrurile pe care le-am învățat la cea mai recentă conferință HealtheVoices 2017 și după ce am citit un articol excelent despre Facebook de Farhad Manjoo în Revista New York Times.

În cadrul conferinței, un reprezentant Facebook s-a confruntat cu o mulțime de oameni întrebători oarecum frustrată (și uneori, aproape ostilă) cu privire la motivele pentru care lucrurile pe care le-au scris în calitate de activiști și avocați ai sănătății păreau să apară rar pe fluxurile de știri Facebook ale altor persoane. Singura modalitate prin care părea să se angajeze, au spus oamenii din audiență în acea zi, a fost să o achiziționeze prin Facebook (printr-un mecanism plătit cunoscut sub numele de „stimularea” unei postări).

Reprezentantul Facebook nu a răspuns la aceste întrebări despre motivul pentru care conținutul aparent de înaltă calitate și bun nu este prezentat în fluxul de știri. Cu toate acestea, fiecare participant cu care am vorbit - avocați pasionați, angajați în domeniul sănătății - l-a văzut ca pe o problemă cu Facebook. Dar chiar și Facebook nu a putut explica cum să o remedieze.

Nu este de mirare. Articolul revistei Times aduce lumină asupra „de ce”. Algoritmul feedului de știri Facebook sortează, în medie, 2.000 de conținuturi posibile de fiecare dată când o persoană încarcă Facebook pentru prima dată și la fiecare reîmprospătare.

Există atât de multe variabile care intră în acel algoritm de sortare complex, întunecat și proprietar, încât nici măcar Facebook nu poate răspunde de ce ceva se va afișa sau nu în fluxul de știri al cuiva. Este cam același tip de durere pe care o simt de mult webmasterii în relațiile cu Google și algoritmul lor de indexare a căutării.

Faptul că algoritmul poate fi ușor ocolit prin simpla achiziționare a accesului la fluxul de știri al oamenilor nu este o surpriză. Este o mare parte din motivul pentru care Facebook câștigă atâția bani an de an. Chiar și conținutul de cea mai slabă calitate își poate accesa drumul către știrile presupuse personalizate.

Feed de știri: încă o lucrare în desfășurare

Ați crede că, după atâția ani de muncă grea, atenție, orele dezvoltatorilor și cercetări în acest algoritm, s-ar face unele lucruri de bază corecte. Dar două anecdote recente mi-au arătat cât de mult mai trebuie depășită lăudata IA a Facebook.

Primul este meme-ul de concert care a preluat fluxul de știri Facebook la sfârșitul lunii aprilie 2017. În acest meme, participanții listează 10 concerte la care au participat în viața lor, dar unul dintre ele este fals. Depinde de prietenii persoanei să vadă concertul fals la care nu au participat și să comenteze.

Gândul meu inițial când am văzut acest pop-up a fost: „Cui îi pasă?” pentru că, sincer, nu-mi pasă la ce concerte au participat prietenii mei. Dacă aș fi fost implicat într-o conversație reală cu prietenii mei despre tema „concertelor pe care le-am văzut”, ar putea fi interesant. Însă, ca inițiator al conversației, am găsit-o nesensibilă, deoarece este ieșită din senin - conectată social la nimic. Așa că am lovit „Ascundeți această postare” din prima pe care am văzut-o pe fluxul meu de știri.

A ajutat acest lucru să oprească afluxul acestui conținut în fluxul meu de știri în următoarele câteva zile? Nici măcar o iotă. Am văzut nu mai puțin de o duzină de astfel de întrebări în următoarele două zile care mi-au inundat feed-ul (chiar și după ce am făcut clic pe „Ascundeți această postare” pe cel puțin încă două). Toate acestea au fost de zero interes pentru mine. Atât de mult pentru funcționarea AI a Facebook.

Al doilea este județul Bloom. Sunt un mare fan și m-am bucurat când Berkeley Breathed a început din nou să deseneze. Aștept cu nerăbdare fiecare zi când un nou comic al său apare în feedul meu. Cu toate acestea, în mod misterios, Facebook nu are nicio idee despre acest lucru. Mi-a încetat să-mi mai arate benzile desenate acum câteva săptămâni, chiar dacă am făcut clic cu mare atenție pe cele mai multe dintre ele pentru a le citi mai ușor în forma lor mărită.

Cum ar putea rezulta atât de multe clicuri o etichetă „neinteresat, nu mai afișează acest lucru acestui utilizator”? Facebook nu ar putea răspunde la această întrebare dacă ar dori, deoarece nu are nicio idee despre cum funcționează efectiv algoritmul său de știri - sau nu - pentru utilizatorii individuali. Ar fi amuzant dacă nu ar fi o problemă atât de mare. Potrivit Centrului de Cercetare Pew, mai mult de jumătate dintre americani își primesc știrile de pe Facebook.

Formulare de feedback care oferă puțin feedback utilizatorilor

Facebook susține că poate evalua (și poate rezolva) o mulțime de probleme dacă utilizatorii au folosit formularele de feedback mai des. Dar există un motiv pentru care utilizatorii urăsc să ofere feedback Facebook - doar sistemul lor de feedback e de rahat.

Formularele de feedback ale Facebook oferă utilizatorilor foarte puține feedback-uri proprii și, în schimb, valorifică conducerea utilizatorilor într-o serie de întrebări „Iată cum să remediați acest lucru singur, idiot”, care în mod clar par să sugereze întotdeauna că majoritatea problemelor pe care le întâlniți sunt ale dvs. remediați - nu pe Facebook. Nu există oameni la sfârșitul acestor forme și niciun răspuns uman pe care să-l primiți vreodată. Aceasta este însăși definiția inumanului. Ironic pentru o companie care se vede „construind o comunitate globală” conectându-i pe toți mai social. Cum poate face o companie acest lucru evitând orice contact uman cu utilizatorii săi? 1

AI este atât de complexă, încât oamenii trebuie să ajute

Mulți dezvoltatori își spun că AI poate rezolva destul de mult orice problemă umană, dacă li se oferă suficiente variabile, seturi de date și modificări. Dar ceea ce Facebook a demonstrat în mod clar este că orice ar face pentru a rezolva problema fluxului de știri, AI nu funcționează bine pentru mulți, mulți oameni.

Nimeni nu simte că Facebook chiar ascultă. După cum am menționat mai devreme, militanții și activiștii pentru sănătate cu care am vorbit la conferință au spus că nu sunt audiați. Companiilor de social media, precum Facebook, nu le pasă. Și într-un grup de Facebook închis pentru editori de știri, aud frustrarea zilnică cu privire la câte organizații de știri respectate au articolele lor aprofundate, de jurnalism de investigație, dispărute pe Facebook, fără impulsuri plătite. Între timp, un articol aruncător „5 moduri uimitoare, rapide și ușoare către un bronz de vară” primește mai multe accesări decât căutările Google ale lui Trump pentru întrebările „Cum pot remedia ...”.

Parting Shots pe AI de astăzi

Lăudatul Siri de la Apple este adesea susținut ca un exemplu util de AI care funcționează în lumea modernă de astăzi. Dar, în timp ce scriam acest articol, am spus: „Hei Siri, spune-i lui Nancy că o iubesc”.

Siri, în înțelepciunea ei infinită, a făcut ca destinatarul mesajului să fie corect (din fericire, din moment ce știu o singură Nancy). Dar textul trimis de ea a fost: „O iubesc”. Siri, evident, nu înțelegea sensul propriu-zis al propoziției mele și, în schimb, a folosit filtre rudimentare pentru a-mi da seama că doream să trimit un text unei persoane din contactele mele cu mesajul literal „O iubesc”.

Acesta este nivelul de IA cu care lucrăm astăzi în cadrul marilor companii de tehnologie precum Facebook, Google și Apple - oarecum util, dar frustrant de inegal în ceea ce privește calitatea și implementarea acestuia.

Sper cu adevărat că Facebook își dă seama de acest lucru, deoarece în fiecare zi mă simt folosindu-l din ce în ce mai puțin, pe măsură ce devine din ce în ce mai puțin relevant pentru interese reale și viața de zi cu zi. S-ar putea să fiu minoritar astăzi, dar bănuiesc că acest lucru se va schimba dacă Facebook nu rezolvă în curând aceste probleme de relevanță și interes.

Note de subsol:

1. Acesta este unul dintre motivele pentru care prezentatorii Facebook la conferințe sunt adesea plini de atâtea întrebări - este singurul contact uman pe care majoritatea dintre noi l-a avut vreodată cu acest gigant tehnologic. [↩]