Contenuti consigliati, pubblicità online: la scelta di cosa mostrarci quando navighiamo è completamente automatizzata e demandata agli algoritmi di raccomandazione. Ma come fanno ad essere così precisi? Ci ascoltano? Ci spiano? Scopriamolo inisieme. Entra a far parte della community Canale Telegram Gruppo Telegram Sostieni il progetto Sostieni tramite Satispay Sostieni tramite Revolut Sostieni tramite PayPal (applica commissioni) Sostieni utilizzando i link affiliati di Pensieri in codice: Amazon, Todoist, Readwise Reader, Satispay Sostenitori di oggi: Alex Ghibellini Partner Runtime Radio GrUSP - Codice sconto per tutti gli eventi: community_PIC Schrödinger Hat Fonti dell'episodio Is YouTube Watching Me? Mozilla Explains: Recommendation Engines What Content is “Best”? Mozilla Explains: Recommendation Engines (part 2) Why Does YouTube Recommend Conspiracy Theories? Mozilla Explains: Filter Bubbles What are recommendation systems and how do they work? Il thred Twitter sul dentifricio in vacanza Attrezzatura Shure Microfono Podcast USB MV7 Neewer NW-5 Pannello fonoassorbente Link affiliati: il costo per te non cambia, ma una piccola parte del ricavato sostiene il podcast. Crediti Sound design - Alex Raccuglia Voce intro - Maria Chiara Virgili Voce intro - Spad Musiche - Kubbi - Up In My Jam, Light-foot - Moldy Lotion, Creativity, Old time memories Suoni - Zapsplat.com Cover e trascrizione - Francesco Zubani
Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.
Transcript
From the show. Tap a time to play from there.
A prescindere dal fatto che ne siamo consapevoli o meno, ogni giorno quando acquistiamo prodotti, guardiamo film, serie tv o video, quando ascoltiamo musica, visitiamo i social network o cerchiamo qualcosa sui motori di ricerca, stiamo di fatto sia utilizzando sia contribuendo al miglioramento di quelli che vengono chiamati i sistemi di raccomandazione. Si tratta di algoritmi che sono alla base del funzionamento di grandi compagnie come Amazon, Google, Facebook eccetera, i quali anche letteralmente guidano molte delle nostre
scelte quotidiane. Nell'episodio di oggi quindi proveremo a capire come funzionano gli algoritmi di raccomandazione, perché in certi casi sembrano comportarsi in modo strano e in altri sembra addirittura che ci leggano nel pensiero. Sigla. Benvenuti su Pensieri in Codice, il podcast dove si ragiona da informatici, con Valerio Galano. Fino a qualche anno fa, se volevamo un consiglio su cosa leggere, cosa comprare o guardare,
ci rivolgevamo ad una qualche persona di fiducia, un amico, un parente o nel migliore dei casi un esperto. Oggi invece non è più così, siamo letteralmente continuamente bombardati da consigli più o meno velati. I video correlati di YouTube o i suggerimenti di Amazon ad esempio sono dei consigli piuttosto evidenti, mentre i risultati selezionati da Google o i post dello stream di Instagram, Facebook o Twitter sono invece dei consigli molto meno evidenti, ma non per questo sfuggono
all'elaborazione da parte di quelli che si chiamano i sistemi di raccomandazione, i quali li filtrano per noi. La cosa paradossale poi è anche vedere come questi consigli automatizzati siano anche molto aderenti ai nostri gusti e ci attirino e ci tengano incollati più magari del consiglio di un amico o di un conoscente. A volte questi suggerimenti sono così inquietantemente precisi che non è raro che si verifichino casi strani o sospetti, i quali hanno con il tempo portato chi non conosce il funzionamento
di questi sistemi a convincersi di idee un po' particolari. Sicuramente ti sarà capitato di parlare con qualcuno che abbia il sospetto di essere spiato dal proprio smartphone perché dopo una serata con gli amici in cui ha parlato di, non lo so, posate pieghevoli in legno di faggio, si è trovato poi con uno sponsor su Instagram o su Facebook che cercava di vendergli posate pieghevoli. Oppure un altro classico è quello che è convinto che YouTube voglia plasmarlo e fargli
cambiare schieramento politico perché nella pubblicità gli infila un video di 20 minuti su un argomento del tutto contrario alle sue idee. Ecco, io posso capire che questi e tanti altri casi siano abbastanza inquietanti, però in verità essi hanno una spiegazione che diventa anche abbastanza banale se si conosce il sistema di raccomandazione. E lo so, la conoscenza rende le cose più tristi, ma tant'è. Quindi iniziamo col dire che, palesi o no, la scelta di tutti gli elementi che normalmente
ci vengono suggeriti mentre navighiamo sul web si può ricondurre ad un pugno di strategie di base. Come al solito in questo podcast non mi interessa catalogare questi algoritmi, quanto piuttosto arrivare semplicemente ad un livello di comprensione che sia sufficiente per fare qualche riflessione insieme. Sappi quindi che ti basterà una piccola ricerca sul web per trovare più informazioni e più dettagliate di quelle che sto per darti, ma come ben sai, qui su Pensieri in Codice quello
che ci interessa è capire i concetti fondamentali dell'informatica per capire come influiscono sulla nostra vita. Quindi, tornando a noi, il primo approccio di cui ti voglio parlare è quello che viene definito approccio basato sull'oggetto. Si tratta di un approccio abbastanza banale e infatti adatto per applicazioni relativamente semplici e con un numero abbastanza limitato di attori. In questo ambito, quando si parla di oggetto, si intende un qualcosa che si vuole suggerire,
come ad esempio un tweet, un prodotto da far acquistare, un'immagine o un utente da far seguire o qualcosa del genere. Il funzionamento di questo approccio basato sugli oggetti consiste in pratica nello stabilire delle caratteristiche comuni tra i vari oggetti, quindi ad esempio canzoni dello stesso autore o libri dello stesso genere o video nella stessa lingua, e utilizzare poi queste caratteristiche per scegliere il prossimo oggetto da suggerire ad un determinato utente.
Stai ad esempio ascoltando un episodio di Pensieri in Codice, allora l'algoritmo ti proporrà altri episodi di Pensieri in Codice. Hai appena guardato un film dell'orrore e allora l'app ti suggerisce altri film dell'orrore. Semplice e veloce. Ovviamente va da sé che un approccio del genere è piuttosto limitato. Funziona per piccoli gruppi di oggetti e piccoli gruppi di consumatori, perché infatti rischia di lasciare completamente fuori dai giochi molti oggetti, i quali non verranno mai raccomandati.
Se lo si utilizza in modo assoluto, ad utenti come quelli del nostro esempio verranno proposti sempre gli stessi podcast e sempre gli stessi film, e questo ovviamente non va affatto bene per cataloghi grandi e per siti sui quali si acquista con una certa frequenza. Per ovviare a questo tipo di problemi viene utilizzato di solito un altro tipo di approccio che viene definito collaborativo. L'approccio collaborativo può avere tantissime declinazioni e sfaccettature, ma quello che interessa a me in questo momento illustrarti è l'approccio collaborativo basato sugli oggetti.
In pratica, in parole povere, potremmo dire che questo algoritmo si basa sul concetto di gradimento. Infatti, prima raggruppa gli utenti in quelli che in gergo vengono definiti cluster, in base all'apprezzamento espresso per determinati oggetti. Poi, una volta capito il cluster o i cluster di appartenenza dell'utente al quale serve inviare un suggerimento, cerca gli oggetti più graditi tra gli altri consumatori degli stessi cluster e poi li ordina e li raccomanda al soggetto esaminato.
Ad esempio, a te piacciono i film della Marvel e odi quelli della DC. Quando un algoritmo deve suggerirti il prossimo film da guardare, esso cerca tutti quelli che come te odiano DC e amano Marvel e, fra le loro preferenze, cerca il film più apprezzato e ti suggerisce quello. Ora, questo approccio, come potrai facilmente immaginare, richiede molte più informazioni. Innanzitutto, serve un sistema per valutare il gradimento dei singoli utenti per i singoli
oggetti. Serve uno storico degli acquisti o delle visioni, a seconda di quale sia l'oggetto in questione. Serve un archivio degli utenti e dei cluster, ma in questo modo l'algoritmo risulta ovviamente molto più potente e funzionale del precedente. Il concetto di fondo, infatti, è che man mano che cresce la precisione di questi algoritmi, deve crescere anche la quantità di dati necessari da dargli in pasto per farli funzionare. Il primo approccio che ti ho descritto, infatti, funziona bene solo per realtà piccole e va
degradandone le prestazioni al crescere del numero dei consumatori, mentre il secondo funziona bene quando sono presenti molti utenti e molti oggetti, faticando invece ad essere preciso in contesti molto più ristretti. Ora, noi certamente non sappiamo con precisione come funzionano gli algoritmi di raccomandazione dei giganti di Big Tech. Si tratta di segreti industriali e certamente non li vengono a dire a noi, però possiamo essere certi che servano degli approcci in grado di gestire contesti abbastanza grandi.
E poi possiamo fare delle supposizioni e delle deduzioni a partire proprio dal comportamento di questi sistemi, dalle spiegazioni che ci sono sui blog tecnici e persino dalle privacy policy. Per aziende come Amazon, YouTube, Spotify e compagnia, avere un sistema di raccomandazione efficace, preciso e performante è fondamentale e contribuisce enormemente a incrementare quella popolarità e quelle entrate economiche che portano alle piattaforme.
Proviamo quindi a fare un piccolo sforzo in più e cerchiamo di capire come funzionano i loro sistemi di raccomandazioni e così facendo potremo anche capire perché qualche volta sembra che ci sfighino o qualche altra volta sembrano voler influire sulle nostre idee. L'approccio sul gradimento, così come te l'ho descritto prima, potrebbe ad esempio essere già sufficiente per aiutarci a capire il comportamento di un sito come Amazon. Gli utenti comprano, lasciano recensioni, gli oggetti hanno tante caratteristiche ben
codificate, ci sono tutte le informazioni sufficienti per applicare il metodo descritto prima senza troppe difficoltà e con buoni risultati. La verità però è che questi soggetti fanno molto di più e le informazioni da loro utilizzate per definire i cluster arrivano ad un livello di complessità molto più alto. Quando Facebook consiglia un post, o Youtube un video, o Instagram una foto, l'oggetto consigliato è sostanzialmente il frutto dell'elaborazione di due macro-categorie di dati, le informazioni
di contesto e le informazioni sull'utente. Le informazioni di contesto riguardano appunto la situazione in cui l'utente si trova in un dato momento, cosa ha appena finito di guardare, cosa sta guardando in questo periodo, ma anche banalmente che giorno è, che ore sono, se per quell'utente è un giorno di festa o un giorno feriale, in quale luogo del mondo si trova, in quale continente, nazione, comune e persino via. E se già questo ti suona strano, aspetta perché non ti ho ancora detto nulla, sono
le informazioni che ricadono nella categoria utente, quelle che possono essere definite più, diciamo, creepy. Sicuramente fra queste ci sono i dati espressi volontariamente, i like, i dislike, l'inserimento di un video in una certa lista, una certa recensione, la condivisione di un contenuto, eccetera. E' ovviamente chiaro che queste informazioni finiscano nel grande calderone che i social utilizzano per darci dei suggerimenti, sarebbe da ingenui pensare che non sia così.
Ci sono però altri dati che riguardano le nostre preferenze e questi vengono estrapolati dal nostro comportamento. E già perché il nostro modo di muoverci sulla piattaforma è fonte di informazioni molto interessanti. Per quanto tempo ascoltiamo o guardiamo qualcosa, se saltiamo parti di un video, quanto velocemente scorriamo le pagine, se accediamo ad una playlist, per quanto tempo la guardiamo, se clicchiamo su un contenuto o poi torniamo indietro. Questi e tanti altri comportamenti vengono registrati e utilizzati per cercare di capire
cosa ci piace e cosa non ci piace. E in pratica vanno ad integrare le nostre preferenze espresse esplicitamente e questo per formare una sorta di recensioni ibride, in parte volontarie e in parte no, di tutti i contenuti che ci capita di incontrare sulla piattaforma. Ora, già questo si può definire abbastanza inquietante, ma in realtà la storia non finisce qui. C'è ancora un ulteriore strato di dati riguardanti l'utente che vengono utilizzati dai sistemi
di raccomandazione, anche se a dire la verità questi sono di fatto pura invenzione. Si tratta delle cosiddette informazioni inferite. Grazie ai sistemi di machine learning, infatti, coloro che possiedono abbastanza dati su ciascuno di noi, possono essere in grado di fare delle assunzioni sulle nostre caratteristiche e sulle nostre preferenze. E si tratta di assunzioni non da poco, si parla infatti di algoritmi in grado di indovinare età, genere, livello di educazione, status economico, persino etnia, preferenze sessuali
e politiche anche religiose. E sì, hai capito bene, aziende come Google o Amazon riescono a capire per quale schieramento politico simpatizzi un proprio utente, quale sia il suo credo religioso e quanto abbia studiato e quanto guadagni senza chiederglielo. Tutto viene detotto a partire da come si muove sulla piattaforma, da cosa guarda, cosa scarta ed alcune informazioni estratte dai sistemi di tracciamento pubblicitari. Certamente non si tratta di informazioni attendibili al 100%, ma si parla comunque di un altissimo
grado di affidabilità, visto che su di esse si basa la vendita di spazi pubblicitari e comunque, te ne sarai accorto, alla fine i contenuti suggeriti non sono poi così campati in aria. Se il profilo che un social o un sito ha messo insieme su di te o su di me fosse poco accurato, allora anche i suggerimenti sarebbero tendenzialmente poco accurati, al massimo casuali. Il fatto che siano invece sempre così precisi, spesso sorprendenti e interessanti per l'utente che li riceve e perché no, significa che tutto sommato la strategia funziona.
E quindi, questo ci riporta al concetto espresso all'inizio, perché sembra che i sistemi di recommendation ci conoscano così bene? Ebbè, ora la risposta è chiara, perché è così, ci conoscono. A volte conoscono i nostri gusti e i nostri interessi persino meglio delle persone con cui viviamo e interagiamo tutti i giorni. E questo perché di fatto interpretano dei comportamenti e dei segnali che magari nemmeno noi stessi ci rendiamo conto di produrre. Ed è proprio questa precisione impressionante, unita al fatto che più ci si allontana dalla
conoscenza di questi meccanismi, più essi assumono una connotazione magica che contribuisce ad alimentare quelle che sono le leggende metropolitane di cui parlavamo prima. Le persone arrivano a credere di essere spiate da Facebook o da Instagram o dai loro smartphone, perché se parlano con qualcuno di un qualche argomento, durante la giornata o nei giorni successivi vedono comparire sui social offerte riguardanti quegli argomenti. Però la verità è che questo fenomeno si spiega facilmente con la combinazione di alcuni
fattori. Innanzitutto la tendenza umana a dare spiegazioni complesse a fenomeni casuali. Ogni giorno noi parliamo di un sacco di cose e vediamo un sacco di cose, ed ecco che se casualmente alcune di queste combaciano, gridiamo subito al complotto o al miracolo, trascurando tutte le centinaia di altre combinazioni che invece non hanno combaciato. E poi, in secondo luogo, ora lo sappiamo, dobbiamo tenere conto delle informazioni che i sistemi di raccomandazione hanno su di noi. Se parliamo spesso infatti con persone che conosciamo e che ci sono vicine sia geograficamente
che per interessi, per conoscenze, eccetera, dobbiamo supporre che i loro contesti siano simili ai nostri e quindi anche le informazioni inferite dai sistemi di raccomandazione lo siano. E questo ci colloca probabilmente negli stessi cluster, o comunque ci suddivide in gruppi in modo affine. E ora prova a immaginare tu stesso, cosa potrebbe mai accadere se uno degli elementi di un certo cluster manifestasse interesse per un nuovo argomento, magari cercandolo sui motori di
ricerca o sui social? Beh, ovviamente l'algoritmo avrebbe una nuova freccia al proprio arco, qualcosa di nuovo da iniziare a proporre agli altri appartenenti al cluster. In questo modo, quando qualcuno capiterà di vedersi suggerire un video sui giocattoli gommosi per cani, potrebbe casualmente decidere di dirlo ai suoi amici, e tra loro uno si potrebbe sorprendere per aver cercato giocattoli per il proprio cane proprio il giorno prima. Oppure, per fare un altro esempio, che cosa farebbe secondo te un sistema di raccomandation
se dalle posizioni degli smartphone evincesse che i loro proprietari si sono incontrati e hanno trascorso del tempo insieme? Beh, un tentativo abbastanza naturale potrebbe essere quello di provare a proporre agli uni gli interessi degli altri. Magari, con un po' di fortuna, avranno proprio parlato degli interessi di qualcuno di loro, facendo venire agli altri voglia di acquistare qualcosa di nuovo. Ed ecco quindi che se una sera ci si incontra fra amici e si parla, che so, di orologi da polso, i vari telefoni risulteranno molto vicini per un certo periodo di tempo, e così,
nei giorni successivi, qualcuno si vedrà probabilmente recapitare una e-mail con orologi in superofferta o una qualche pubblicità su un social network. E quando invece a qualcuno capita di ricevere consigli totalmente contrari ai propri interessi? Se abbiamo detto che i sistemi sono così precisi, perché ad esempio su YouTube ad alcune persone capita di ricevere pubblicità o consigli, che so, su video di destra quando guarda solo contenuti di sinistra o viceversa? Beh, qui la domanda da porsi per arrivare a capire questo tipo di fenomeni è in realtà
un po' diversa. È vero che abbiamo detto che i sistemi di raccomandazione sono molto efficienti nel proporre i contenuti migliori, ma dobbiamo anche capire i contenuti migliori per chi. Una cosa fondamentale da capire quando si ragiona su piattaforme come YouTube o Instagram o simili, è che la risorsa da massimizzare è il tempo che gli utenti trascorrono guardando i contenuti. Quello che in gergo si chiama l'engagement. E questa non è una supposizione, esiste un paper, credo del 2019, che spiega proprio
questa cosa. E quindi, se ci rifletti un attimo, ti renderai facilmente conto, anche tu, che la verità è che non solo i contenuti che ci piacciono ci tengono incollati ai social, succede anche con quelli che ci infastidiscono, o quelli che ci fanno innervosire, o che ci sorprendono come le teorie di cospirazione, il terrorismo, i contenuti divisivi di vario genere. Magari è vero che non ci piacciono, li riteniamo stupidi, sbagliati, ma tendiamo comunque a guardarli, magari per criticarli o perché vogliamo vedere quante sciocchezze riescono
a dire, ma comunque gli concediamo parti anche molto grandi del nostro tempo. In fin dei conti pare proprio che questa tecnica funzioni, e quindi non ha niente a che fare con il tentativo dei social di sovvertire nazioni o ordinamenti politici, o anche di spargere teorie complottiste. È un mero espediente per incrementare l'engagement. A pensarci bene è semplicemente l'applicazione in modo diverso di uno stesso concetto per ottenere lo stesso scopo.
Bene, spero di aver fatto un po' di chiarezza in questo ambito dei sistemi di suggerimento dei contenuti, che mi rendo conto essere abbastanza complicato, ma che io personalmente trovo molto molto interessante. Naturalmente se hai qualcosa da aggiungere ti esorto a farlo nei commenti o anche magari nel gruppo Telegram. Mi auguro quindi che l'episodio ti sia piaciuto e ti ricordo che se posso produrre questi contenuti è solo grazie a te che li ascolti e alla community di Pensieri in Codice che
sostiene il progetto. Scopri come dare una mano anche tu collegandoti al sito pensierincodice.it con due i. Puoi ascoltare tutti gli episodi sulle maggiori piattaforme e app di podcast o ricevere i nuovi direttamente sul tuo smartphone iscrivendoti al canale Telegram. Se Pensieri in Codice ti piace, e se sei arrivato fin qui, come al solito, immagino che un po' ti piaccia, puoi condividerlo con un amico e farglielo conoscere. Farai un favore a entrambi. Per oggi quindi è tutto, anche perché non ho più voce, ti do appuntamento al prossimo
episodio e ti ricordo che un informatico risolve problemi, a volte, anche usando il computer.
Quanto inquina una domanda fatta a un chatbot? In rete le risposte non mancano, ma quanto sono affidabili? In questo episodio della Community Edition Paola Zubani, consulente in ambito sostenibilità, ci accompagna tra...
Da quando lavoro con gli agenti di Intelligenza Artificiale, il mio Second Brain ha rischiato di morire: a cosa serve prendere appunti, se tanto la macchina sa già tutto? In questo episodio ti racconto perché invece è...
Per festeggiare i 150 episodi, stavolta al microfono non ci sono solo io: Nox, speaker artificiale di Runtime by Night, mi intervista per provare a raccontarti la vera anima di Pensieri in codice, tra idee da smontare,...
Oggi parliamo del legame tra tecnologia e memoria: come gli strumenti digitali cambiano il nostro modo di ricordare, come funziona la memoria umana e in cosa differisce da quella digitale. E sul finale una bella...
Oggi ti racconto la storia dell’Elea 9003, il primo calcolatore elettronico commerciale italiano: un’avventura tra Olivetti, ricerca, transistor e design che ha provato a portare l’Italia nel futuro dell’elettronica....