di Antonio Dini
Una mail, un collegamento internet, uno specifico browser. E tanto tempo a disposizione, a otto-dieci euro l’ora, per un massimo di venti-trenta ore alla settimana. A pagare, è una società irlandese, o forse maltese, sicuramente anonima e sconosciuta, che però, in un gioco di specchi e scatole cinesi, con tutta probabilità è riconducibile a qualcuno dei grandi dell’informatica. Le varie Google, Facebook e Amazon. Anche in Italia c’è un esercito di anonimi, che lavora conto terzi per “registrare” e “mettere a posto” quello che il computer non può o non riesce a capire. Quando una parola chiave è veramente utilizzata in un determinato sito? Quel video è adatto alla visione di tutti o incita all’odio e alla violenza? Oppure ha, quantomeno, contenuti inappropriati per gli inserzionisti? La notizia condivisa è tale o è palesemente falsa? La testata che la scrive è davvero autorevole?
Una trasparenza frutto di grande sforzo
Sono domande a cui i software automatici non riescono a dare risposte attendibili. Utilizzare strumenti informatici costerebbe più che far ricorso a una legione di piccole formiche umane, che in tutto il mondo lavorano per correggere costantemente il tiro di sistemi che noi utenti pensiamo del tutto automatici. È il paradosso dell’informatica in rete. In una vignetta che oggi sembra di un milione di anni fa, il New York Times diceva che all’altro capo della chat poteva esserci chiunque, un altro uomo o addirittura un cane (mostrando in effetti un cane che si connette con il pc). Oggi il paradosso è diventato un altro: l’algoritmo che siamo abituati a pensare interagisca con noi potrebbe in realtà essere una persona “travestita” da macchina. Come il barista nascosto dentro il dispenserautomatico di caffè, che in quel caso automatico non lo è per niente.
I motivi per cui questo è sorprendente derivano sostanzialmente dal carattere strettamente elitario della cultura informatica: mentre altre scienze come la fisica e la matematica sono diffuse e condivise (tutti per esempio sappiamo più o meno cosa significa la teoria della relatività), quella del computer lo è molto meno. Ne conosciamo la tecnica, perché la incontriamo tutti i giorni, ma di rado i principi. L’esempio classico sono proprio gli algoritmi, il frutto più prezioso del computer, tanto che per le aziende alcuni di essi sono preziosi (e da tutelare) come la proverbiale ricetta della Coca Cola. Ma gli algoritmi sono anche il frutto di un’attività di progettazione squisitamente umana, e come tali i loro architetti hanno una responsabilità che invece, molto spesso, viene cancellata.
Vediamo in concreto cosa significa. Ci sono alcune costanti comuni a tutte le narrazioni sugli algoritmi, parola dal significato sempre più impalpabile nel parlare quotidiano. La prima è che essi siano in pratica “ricette di cucina” per i piatti informatici. Non è vero: la ricetta da cucina lascia margini di interpretazione al cuoco, mentre l’algoritmo tassativamente non prevede ambiguità per l’interprete automatico del computer. È una cattiva metafora. Wikipedia chiarisce poi che gli algoritmi sono procedimenti per risolvere un problema con un numero finito di passi, e nessuno si esime dal citare l’etimo della parola, che è di derivazione onomastica: algoritmo deriva dal nome del matematico persiano al-Khwarizmi, che li ha “inventati”, o quantomeno battezzati. Questa la vulgata, che poi assume una forma particolarmente deviante e consolatoria nel modo in cui la nostra società addomestica il feticcio del computer. L’algoritmo è antropomorfizzato e diventa il “genio dentro la bottiglia”, quasi uno spiritello cartesiano che si aggira dentro i computer e li anima di vita propria, distorcendo un aspetto fondamentale delle nostre vite. “Il computer” diventa un soggetto attivo capace di scelte e, con logica tutta umana, anche un alibi e una giustificazione.
“Quando qualcuno in un ufficio dice: ‘Questa cosa non si può fare perché il computer non lo permette’”, ricorda Luciano Floridi, filosofo italiano che insegna a Oxford, “in realtà sta usando il computer come paravento e come scusa per non fare. Il computer dovrebbe abilitare nuovi modi di fare, dando più risorse a chi li usa, e non limitarli”. Ancora, quando accadono cose che non dovrebbero accadere, dalle “bolle” di fake news su Facebook fino ai video che inneggiano alla violenza su YouTube con pubblicità aggregate automaticamente dal “solito algoritmo”, la scusa collettiva è che il piccolo genio automatico si prenda troppe libertà. Sino ad arrivare al problema dell’intelligenza artificiale, che è costruita su algoritmi (come qualsiasi processo informatico) che generano sistemi capaci di decisioni non esplicitamente previste negli algoritmi stessi, sulla base di analisi di dati precedenti. Sono le reti neurali e i sistemi di machine learning, altre parole chiave del nostro tempo, un po’ troppo complesse però per avere la potenza evocativa del misterioso algoritmo.
I motivi per cui questo è sorprendente derivano sostanzialmente dal carattere strettamente elitario della cultura informatica: mentre altre scienze come la fisica e la matematica sono diffuse e condivise (tutti per esempio sappiamo più o meno cosa significa la teoria della relatività), quella del computer lo è molto meno. Ne conosciamo la tecnica, perché la incontriamo tutti i giorni, ma di rado i principi. L’esempio classico sono proprio gli algoritmi, il frutto più prezioso del computer, tanto che per le aziende alcuni di essi sono preziosi (e da tutelare) come la proverbiale ricetta della Coca Cola. Ma gli algoritmi sono anche il frutto di un’attività di progettazione squisitamente umana, e come tali i loro architetti hanno una responsabilità che invece, molto spesso, viene cancellata.
Vediamo in concreto cosa significa. Ci sono alcune costanti comuni a tutte le narrazioni sugli algoritmi, parola dal significato sempre più impalpabile nel parlare quotidiano. La prima è che essi siano in pratica “ricette di cucina” per i piatti informatici. Non è vero: la ricetta da cucina lascia margini di interpretazione al cuoco, mentre l’algoritmo tassativamente non prevede ambiguità per l’interprete automatico del computer. È una cattiva metafora. Wikipedia chiarisce poi che gli algoritmi sono procedimenti per risolvere un problema con un numero finito di passi, e nessuno si esime dal citare l’etimo della parola, che è di derivazione onomastica: algoritmo deriva dal nome del matematico persiano al-Khwarizmi, che li ha “inventati”, o quantomeno battezzati. Questa la vulgata, che poi assume una forma particolarmente deviante e consolatoria nel modo in cui la nostra società addomestica il feticcio del computer. L’algoritmo è antropomorfizzato e diventa il “genio dentro la bottiglia”, quasi uno spiritello cartesiano che si aggira dentro i computer e li anima di vita propria, distorcendo un aspetto fondamentale delle nostre vite. “Il computer” diventa un soggetto attivo capace di scelte e, con logica tutta umana, anche un alibi e una giustificazione.
“Quando qualcuno in un ufficio dice: ‘Questa cosa non si può fare perché il computer non lo permette’”, ricorda Luciano Floridi, filosofo italiano che insegna a Oxford, “in realtà sta usando il computer come paravento e come scusa per non fare. Il computer dovrebbe abilitare nuovi modi di fare, dando più risorse a chi li usa, e non limitarli”. Ancora, quando accadono cose che non dovrebbero accadere, dalle “bolle” di fake news su Facebook fino ai video che inneggiano alla violenza su YouTube con pubblicità aggregate automaticamente dal “solito algoritmo”, la scusa collettiva è che il piccolo genio automatico si prenda troppe libertà. Sino ad arrivare al problema dell’intelligenza artificiale, che è costruita su algoritmi (come qualsiasi processo informatico) che generano sistemi capaci di decisioni non esplicitamente previste negli algoritmi stessi, sulla base di analisi di dati precedenti. Sono le reti neurali e i sistemi di machine learning, altre parole chiave del nostro tempo, un po’ troppo complesse però per avere la potenza evocativa del misterioso algoritmo.
Continua la lettura su Link, Idee per la Tv
