"L'ha fatto l'algoritmo": ovvero la tecnica tra algoritmo, scienza e consapevolezza critica

Dopo aver affrontato analitici commenti delle norme possiamo permetterci di rilassarci un po’ e non trattare aspetti applicativi diretti della professione, ma piuttosto riflettere su tematiche generali, non per questo però meno importanti; anzi ogni tanto farebbe bene soffermarsi a chiedersi cosa stiamo facendo, perché lo facciamo e se lo stiamo facendo bene.

Da qui l’opportunità di fare chiarezza su alcuni concetti e strumenti della nostra professione per essere consapevoli delle loro potenzialità e … dei loro limiti.

L’Algoritmo (con la “A” maiuscola)

Siamo circondati dagli algoritmi, viviamo di algoritmi, ne siamo condizionati e sempre più spesso – magari quando ci permettiamo di eccepire su alcune scelte o decisioni che non condividiamo o che ci paiono cervellotiche - sentiamo dire “L’ha fatto l’algoritmo” come se fosse per forza la “verità assoluta e indiscutibile”.

In realtà la risposta nasconde la non consapevolezza dell’interlocutore che copre la sua ignoranza dietro un tabù (che lui ritiene) indiscutibile; la versione moderna dello storico “ipse dixit” che credevamo superato dall’illuminismo.

Approfondiamo allora il significato (e, soprattutto, il contenuto) di alcuni concetti che regolano la nostra attività di tecnici partendo proprio dalla definizione di “tecnica” per valutarne in che rapporto sta con l’algoritmo e con la scienza.

Chiariamo subito: non parlo dell’intelligenza artificiale – nuova frontiera affascinante e terrificante – perché non ne ho alcuna competenza (anche se molti che pure non ne hanno ne parlano comunque).

So bene che anche gli algoritmi si sono evoluti e quelli di ultima generazione sono anche un po’ sfuggiti di mano a quelli stessi che li hanno … “creati”; ma non mi occuperò di questi algoritmi di ultima generazione, bensì di quelli di “prima generazione” – definiti “simbolici” – che sono in uso nella pratica professionale tecnica e oggi adottati in modo non sempre critico e consapevole in tanti campi in cui occorra operare scelte in situazioni più o meno complesse.

Questo lo voglio precisare subito prima che qualche raffinato cultore di informatica storca il naso sulle considerazioni che svolgerò appresso.

Ciò detto consultiamo pure le definizioni (che possiamo trarre dai dizionari) di cosa si intende per

• algoritmo (riferito, come ho detto, alla “prima generazione”);
• scienza (chiarendo, anche qui, che in questo scritto ci riferiamo alle scienze induttive e non a quelle deduttive e ben sapendo che anche la definizione di “scienza” potrà apparire sintetica e semplificata);
• tecnica.

Algoritmo e Scienza

Alla luce delle singole definizioni si può immediatamente cogliere che le scienze induttive e gli algoritmi stanno agli antipodi.

Come ha detto qualcuno prima di me “l’algoritmo è la negazione della scienza”.

La scienza è ricerca (e verifica) costante e quindi è dubbio; l’algoritmo (se mal compreso e peggio usato) diventa asserzione tassativa e, in un crescendo esponenziale, certezza, dogma.

Ma la certezza dell’algoritmo non è certezza intrinseca (ossia non è “verità”); molto più banalmente è l’esito dell’informazione datagli da chi l’ha elaborato; sì perché l’algoritmo ha un padre e riflette e ripropone acriticamente come certezze assolute le deduzioni dei processi logici datigli dal suo “creatore/inventore”.

L’algoritmo è rigido, non dialogante; la scienza è costante verifica dei risultati.

Poi qualcun altro (Galileo per citarne uno) ha messo a punto le metodiche della ricerca scientifica, ma lo stimolo della scienza è la curiosità e la consapevolezza che c’è sempre qualcosa di altro da vedere e da cui imparare, per cui mi piace pensare che il primo Padre della scienza sia Socrate (il filosofo del dubbio) che era “il più saggio degli uomini perché sapeva di non sapere”.

Atteggiamento che ci fa ripensare e rivedere le precedenti certezze acquisite anche magari quando comportano ricadute culturali, religiose o, addirittura, politiche. Non a caso Socrate fu condannato per “empietà” perché non riconosceva gli Dei.

Noi tecnici sappiamo bene cosa vuol dire l’analisi critica della realtà: il superamento delle leggi di Newton con le teorie di Einstein comportò addirittura una sorta di crisi esistenziale/etnica (erano più intelligenti gli anglosassoni o i germanici, o gli ebrei?).

Scienza e Tecnica (e l’obiettivo del “fare”)

Noi tecnici però - così amiamo definirci noi ingegneri, architetti, geometri, geologi, agronomi, … – non siamo scienziati e per operare abbiamo sì bisogno di certezze, ma non di quelle assolute (ammesso che esistano); ci accontentiamo anche di certezze “provvisorie”, quelle che rubiamo di volta in volta alla scienza e che sono il risultato più recente e attuale delle conoscenze scientifiche e che riteniamo essere quanto meno “le più probabili” (e comunque utili).

Da sempre abbiamo agito così perché il motore della nostra attività è il “fare qualcosa”; il nostro è sempre un obiettivo “materiale”.

E allora agiamo anche con qualche approssimazione.

Se avessimo aspettato la quadratura del cerchio non avremmo mai usato la ruota.

Per questo possiamo (dobbiamo forse) utilizzare anche gli algoritmi perché ci semplificano la vita e accelerano i processi, perché – tramite l’informatica - operano più velocemente di noi, ma dobbiamo avere la consapevolezza che sono uno strumento nelle nostre mani di cui occorre sempre verificare l’esito finale delle elaborazioni che gli abbiamo affidato.

Poiché implicitamente compiono delle scelte dobbiamo farne un uso critico, ma per farne un uso critico dobbiamo “sapere”.

L’algoritmo è autoreferenziale

Quando si dice che l’algoritmo non sbaglia, è solo nel senso che opera rigorosamente in base alle informazioni e procedure che qualcuno gli ha dato, perché è inflessibile (e anafettivo); ma se quelle informazioni o procedure sono sbagliate o anche più semplicemente non sono adeguate al caso in cui vengono applicate? Lui non ha sistemi di verifica esterni se non autoreferenziali.

E’ acritico.

Smentiamo allora la presunta oggettività dell’Algoritmo.

Heisemberg (quello del principio di indeterminazione) confutava il determinismo non perché negasse il principio di causalità, ma perché sosteneva che non si avevano mai tutte le conoscenze necessarie di partenza.

Altri prima di me hanno messo in guardia sull’uso degli algoritmi perché dipende dalle conoscenze di chi li fa, ma il discorso è ancora più ampio: è di Cultura della Tecnica (quella con la Maiuscola).

Vero è che la Tecnica non è scienza, ma certamente non è solo algoritmo, ovvero non è solo processo deduttivo.

L’esito di un prodotto tecnico non è solo deduttivo. E’ anche intuizione e valutazione discrezionale.

Le ingannevoli certezze dell’algoritmo

L’algoritmo applica in modo asettico le “conoscenze” del suo ideatore; se siamo noi gli artefici dell’algoritmo allora è uno strumento che ci aiuta e ci semplifica la vita.

Ma quando non fossimo noi a padroneggiare le informazioni e le istruzioni date allora l’utilizzatore diventerebbe l’esecutore di “conoscenze e scelte” altrui.

Ma se le conoscenze fossero incomplete, approssimate, non condivise, inadeguate o, addirittura, errate?

Questo per un “Tecnico” che pretenda di essere professionale e affidabile deve essere motivo di preoccupazione (… e verifica costante).

L’insostituibile presupposto della preparazione tecnico-scientifica

Per questo il Tecnico deve conoscere i processi, la teoria: deve avere cultura tecnica. Deve aver studiato (e capito), deve conoscere la logica dell’algoritmo e non esserne il fideistico utilizzatore.

Ma c’è di peggio.

Se poi anziché di “conoscenze incomplete, approssimative o errate” si trattasse addirittura di “volontà non condivisibili”? L’operatore sarebbe esecutore inconsapevole di volontà (o di scelte) altrui senza nemmeno conoscerle. Assumendone però la responsabilità.

L’algoritmo non è asettico, ma applica le scelte ….. del suo elaboratore.

Per questo rabbrividisco tutte le volte che – a fronte di richieste di chiarimenti - mi si oppone la giustificazione: “Lo ha fatto l’algoritmo”.

Di per sé questa asserzione per un Tecnico non è una scusante, ma un’aggravante.

La Tecnica - che si fonda sulle conoscenze tecniche (magari anche parziali e transitorie) per fini applicativi - può sì avvalersi degli algoritmi, ma tenendoli sotto vigile controllo senza lasciarsi sostituire o sopraffare.

E qui sta la Base della Formazione o, se preferite, la Formazione di Base del Tecnico.

Il manuale (l’algoritmo) è frutto della Scuola, ma non può sostituire la Scuola.

Come premesso ho parlato degli algoritmi di prima generazione, quelli cosiddetti “simbolici” di cui comunque è possibile conoscere la logica. Padroneggiando la conoscenza possiamo tenerli sotto controllo.

Ma gli algoritmi di oggi (sub-simbolici) non sono più quelli di una volta; questi sono “intelligenti”, imparano e sviluppano ragionamenti autonomi, anche se non sempre sappiamo bene come e perché.