La nuova enciclica sull’intelligenza artificiale. What’s god.

L’enciclica di Leone XIV sull’intelligenza artificiale mi ha lasciato un nocciolo d’oliva (cit. Erri De Luca) in bocca. Un nocciolo da rigirare e spolpare, non una risposta, ma una domanda intrisa di fede e corrente elettrica.

Lou Reed cantava What’s good; qui la domanda scivola più in basso, o più in alto: What’s God, quando l’algoritmo comincia a parlare come un oracolo.

AI: What’s good, What’s no good

La vita è buona, dice Lou Reed.
Poi aggiunge che non è giusta.

Ed è lì che ti frega.

Perché se fosse solo cattiva, basterebbe odiarla.
Se fosse solo buona, basterebbe ringraziare.
Invece no.
È buona e ingiusta.
Ti dà il sole e poi ti manda il conto.
Ti fa amare qualcuno e poi ti lascia con una sedia vuota davanti.

Nell’Attimo fuggente c’è J. Evans Pritchard che vuole misurare una poesia con un grafico.
Asse delle x, asse delle y.
Tecnica, importanza, area.
Il valore della poesia come se fosse una superficie catastale.

Magnifico.
Finalmente un modo per rendere idiota anche la bellezza.

John Keatin fa strappare le pagine.
Fa bene.
Non perché i numeri siano inutili.
I numeri servono.
Servono a non far cadere i ponti, a non far saltare le centrali, a capire quando una macchina sta per tradirti.

Ma quando un numero comincia a credersi un dio, bisogna staccargli la corrente.

Poi arriva l’intelligenza artificiale.
Pulita, lucida, addestrata, sorridente.
La macchina che ti dice che sa.
Sa cosa comprerai, cosa voterai, dove sbaglierai, quando ti ammalerai, forse anche quando ti stancherai di vivere.

E a volte vede davvero.
Vede i near misses.
I quasi incidenti.
Le piccole catastrofi mancate per un soffio.
Il bullone che vibra.
Il gesto ripetuto male.
Il turno troppo lungo.
L’errore che passa accanto al danno e gli sfiora la giacca.

Questo l’AI lo può fare.
E può farlo bene.

Può vedere il mostro quando è ancora nel corridoio.
Prima che entri nella stanza.
Prima che qualcuno finisca per terra.
Prima del verbale, del funerale, del comunicato aziendale con scritto “profondo cordoglio”.

Ma non sa perché importa.

Non sa cosa sia una madre che aspetta.
Non sa cosa sia uno che torna a casa intero.
Non sa cosa sia una poesia che non vale niente su un diagramma eppure ti salva la notte.

L’AI misura.
Classifica.
Predice.
Ordina il caos in colonne eleganti.

Perfetto.

Anche un obitorio è ordinato.

Il punto è non inginocchiarsi davanti alla macchina solo perché parla bene.
Non darle il volante solo perché ha visto più curve di noi.
Non confondere la previsione con la coscienza, il dato con il giudizio, il diagramma con la vita.

La vita non entra in Excel.
La poesia non entra in un’area.
Il dolore non entra in un dashboard.
E la sicurezza non nasce quando l’algoritmo ha ragione, ma quando qualcuno si assume la responsabilità di ascoltarlo prima che sia troppo tardi.

L’AI può dirci: guarda lì.
C’è qualcosa che non va.
C’è un rischio che sta crescendo.
C’è un incidente che non è ancora nato, ma ha già imparato a camminare.

Poi tocca a noi.

A noi fermare la macchina.
A noi cambiare il turno.
A noi rifare il progetto.
A noi dire che non basta essere efficienti, se intanto stiamo diventando ciechi.

Perché la vita è buona.
Ma non è giusta.

E se vogliamo restare umani, dobbiamo smetterla di chiedere alle macchine di liberarci dal peso più antico:
decidere che cosa vale, prima che qualcuno lo perda.

È forse questo che resta dall’enciclica di Papa Leone: l’AI non ci chiede solo nuove regole, ma di smettere di inginocchiarci davanti a ciò che abbiamo costruito. E se ci fosse tempo, ora dovremmo parlare del Mistero: non come rifugio dalla tecnica, ma come ultimo argine contro il mondo ridotto a calcolo.