Musica & Libri

Robot 11 apre la Black Box. Se gli algoritmi guidano i nostri gusti musicali, chi guida gli algoritmi?

03-10-2019

Di Luca Vanelli

E se tutta questa semplicità tecnologica fosse un inganno?

Ogni giorno utilizziamo app e tecnologie che a volte ci semplificano la vita, ma allo stesso tempo si basano su algoritmi e procedimenti di cui ignoriamo il funzionamento. A quale costo ci abbandoniamo a questa facilità? Quali rischi corriamo a ignorare e a non comprendere il funzionamento di queste tecnologie, da Spotify a Justeat?

Queste le domande alla base del manifesto di Robot 11. Il festival organizzato dall’associazione culturale Shape che, dopo l’apertura del 12 ottobre a Palazzo Re Enzo, porterà il 25 e il 26 Ottobre all’Ex Gam e a Dumbo i più importanti artisti italiani e internazionali della scena musicale elettronica e di ricerca. Ve ne abbiamo parlato qui.

“Il rischio è proprio una società black box, nella quale non siamo più in grado di compiere autonomamente le nostre scelte”, ci racconta Daniele Gambetta,  giornalista freelance, curatore del libro Datacrazia. Politica, cultura algoritmica e conflitti al tempo dei big data, e anche uno degli autori del manifesto, insieme ad Andrea Zanni.

Daniele racconta non solo inganni e rischi, ma anche delle grandi opportunità che questo momento tecnologico porta con sé: democratizzazione delle scienze, apertura di percorsi condivisi, sviluppo di tecnologie e analisi al servizio della collettività.

Inganni, rischi e opportunità che però non riguardano solo informatici e smanettoni, ma coinvolgono ogni aspetto della nostra vita quotidiana e dovrebbero attirare l’attenzione di ognuno di noi.

Partiamo dalle basi. Cosa si intende per Black Box?

“Nel linguaggio comune odierno per Black Box, o scatola nera, si intende qualunque sistema complesso, meccanico, informatico o sociale, che in virtù di una sua intrinseca complessità risulta estremamente difficile da comprendere“.

 

Come si è diffuso il concetto di Black Box?

“A divulgare il termine negli ultimi anni è stato Frank Pasquale nel 2015 con il suo ‘The Black Box Society’, nel quale evidenzia come la sinergia tra accelerazione tecnologica e complessità finanziaria abbia portato la società attuale a trovarsi dominata da regole difficili da interpretare addirittura per gli stessi esperti del settore.

Il termine inoltre è sempre più diffuso tra i ricercatori di intelligenza artificiale. Si trovano oggi a escogitare algoritmi che spesso funzionano anche fin troppo bene, ma non sempre è possibile spiegare come queste intelligenze compiono le proprie scelte“.

 

Quali possono essere i rischi dell’incomprensibilità dei processi delle Black Box nella sfera della produzione musicale? Questa espansione di dati e algoritmi incomprensibili come potrebbe influenzare il mondo della musica?

“Il tema della Black Box ha vari livelli. Il primo riguarda il fatto che effettivamente la società si trova complessivamente davanti ad una nuova era oscura nella quale deve interfacciarsi con fenomeni enormi come il cambiamento climatico o la gestione della Rete; dall’altro lato c’è la questione politica, cioè il fatto che l’utente/cittadino della società delle piattaforme possiede paradossalmente una minima parte delle informazioni che produce.

Parliamo di musica? Attualmente una piattaforma come Spotify possiede una quantità di informazioni utile addirittura per creare nuove tracce musicali grazie all’intelligenza artificiale, potenzialmente fatte su misura del singolo utente. Non solo. Il cosiddetto ‘problema degli outliers’ (ndr in statistica gli outliers sono, in un insieme di osservazioni, i valori anomali. Il problema si genera quando bisogna valutare se tenerli in considerazioni o eliminarli) riguarda il fatto che i meccanismi di raccomandazione culturale, come la traccia che Spotify ci consiglia, dipendono da algoritmi il cui funzionamento è sconosciuto all’utente, e possono generare auto-convalide statistiche, omologazione, o radicalizzazione dei contenuti.

Chi sia, e come, a decidere su questi algoritmi, almeno ad ora, non ci è dato da sapere”.

Algoritmi e dati, però, spesso ci aiutano nella nostra vita quotidiana: ci connettono a ciò che ci interessa e ci avvicinano a ciò che ci è più affine, senza infinite ricerche, permettendoci anche di scontrarci con situazioni che possono cambiarci la vita. Anche più semplicemente, ci aiutano a destreggiarci nel traffico o a trovare lavoro. Quali potrebbero essere però le storture nel vedere questi algoritmi come amici e aiutanti? C’è un giusto compromesso?

“Le storture degli algoritmi o della società delle piattaforme, riguardano il fatto che dobbiamo fare il grande balzo, cioè ripensare da capo le tecnologie disponibili (e quelle possibili), per un bene comune.

Le tecnologie di smart city ci aiutano a trovare parcheggio? Esistono possibilità di gestire in maniera più fluida il mercato immobiliare urbano? Bene, allora facciamo le dovute considerazioni di forza e di capitale, visto quanto alcune piattaforme internazionali estraggono risorse dalle economie locali, e facciamone una questione politica, apriamo sperimentazioni di riappropriazione territoriale.

Certo non è facile, ma esperimenti ce ne sono, come Decode, progetto attivo in varie città che rilancia la definizione di data commons (ndr dati accessibili a tutti), proprio per formulare tecnologie di analisi dati utili per una comunità e al servizio della collettività”.

 

Se si decide di non fidarsi e di pretendere la comprensione di questi algoritmi, ciò potrebbe bloccare il progredire dello sviluppo tecnologico? Questa cosa potrebbe non essere accettata.

“Sono politicamente tutto fuorché luddista, e di formazione ‘scienziato’ e smanettone. Credo che la sfida sia proprio ridefinire termini come ‘progredire’, ‘sviluppo’, ‘crescita’, e inserire nei parametri in considerazione quelli umani e sociali. Una tecnologia all’altezza delle aspettative umane è più che possibile, oltre che necessaria”.

 

Stiamo giocando a fare Dio con le tecnologie? Quanto ci è già sfuggita di mano la cosa e in che situazione ci troviamo.

“‘Meglio cyborg che dea’, dice Haraway. Lasciamo stare il mito di Prometeo che viene punito perché scopre il fuoco, o quello dei primi uomini che si fanno sedurre dal serpente. Scopriamo nuove mitologie, dove umano e natura si possano fondere in un senso non antropocentrico né capitalocentrico.

Tecnologia e ambiente sono tematiche che non potranno mai più essere scisse d’ora in avanti, e ripensare i rapporti di forza in gioco è il primo passo”.

 

Sforziamoci di immaginare lo scenario più distopico possibile. Cosa potrebbe succedere se decidessimo di non aprire le Black Box? Quali rischi corriamo?

“Dietro alla Black Box la trappola è lo scientismo, la fiducia cieca nell’esperto in quanto tecnico al di sopra della politica. Che si parli di intelligenza artificiale, di governo tecnico, di Roberto Burioni, poco cambia. Il rischio allora è proprio una società Black Box, nella quale non siamo piú in grado di compiere autonomamente le nostre scelte.

C’è stata una fase, forse breve, a cavallo degli anni 10 del ventunesimo secolo, dove la dottrina di Chris Anderson della ‘Fine della Teoria’ e della ‘correlation is enough’ (ndr teoria secondo cui si afferma l’oggettività del dato di per sé e che sia sufficiente una correlazione di dati per dimostrare una teoria) sembrava aver preso piede. Forse l’allarme è rientrato, anche se i germi del datafeticismo sono ancora vivi e vegeti in vari ambienti”.

Datacrazia. Politica, cultura algoritmica e conflitti al tempo dei big data. Di Daniele Gambetta

Ho letto questa notizia riguardo Facebook che ha acquisito Ctrl-Labs, una startup che studia il controllo neurale dei computer. Qual è la direzione che si sta prendendo?

“Come dimostrano gli ultimi venti anni, gran parte delle innovazioni sociali immaginate dalla comunità globale vengono repentinamente inglobate dal mercato digitale e finanziarizzate. Questo ogni volta genera depressione, insicurezza, senso di impotenza. Questo acquisto è solo uno dei tanti che piattaforme come Facebook fanno (un altro è quello di Meta da parte della Zuckerberg-Chan Initiative).

Che dire? È chiaro che senza intelligenza collettiva da espropriare il capitalismo avrebbe i giorni contati, ma allora dobbiamo ancora di piú riconoscere l’importanza dei nostri desideri, politicizzarli continuamente, non lasciarli in mano al nemico. Sarà una sfida dura, ma nel tempo che ci resta da qui all’apocalisse vale la pena tentare”.

 

Cosa possiamo fare? Come si aprono le scatole nere e perché è così importante pretendere che vengano aperte?

“Riprendere in mano le nostre vite significa democraticizzare le scienze, aprire percorsi condivisi nei quali rimettersi in campo in base alle proprie conoscenze, riconoscere i limiti dell’accademia per costruire nuove istituzioni del sapere.

Il percorso è lungo, le strade sono infinite. Resta da inventare il futuro”.

 


Quest’anno siamo media partner del festival, qui gli altri approfondimenti:

> PASSATO, PRESENTE E FUTURO DEL FESTIVAL INTERNAZIONALE DI MUSICA ELETTRONICA

> FRANCESCO SALIZZONI CI RACCONTA IL FESTIVAL DI MUSICA ELETTRONICA NATO DAVANTI A UN PIATTO DI CARBONARA

Condividi questo articolo