Oggetti buoni. Per una tecnologia sensibile ai valori

Cosa significa che un artefatto tecnologico incorpora, fin dalla sua stessa progettazione, valori umani? Per rispondere a questa domanda, occorre guardare “oltre” le tre grandi narrazioni che dominano la nostra comprensione della tecnologia.

La visione dell’artefatto tecnologico secondo cui la tecnologia (1) è neutrale rispetto allo scopo per cui la si progetta (strumentalismo) o (2) è una forza che determina la società, in forza appunto di una interna logica evolutiva dell’innovazione, indipendente dal controllo della società (determinismo tecnologico), o ancora, viceversa, (3) è interamente dipendente dal controllo della società, al punto da essere “ininfluente” sul comportamento umano (costruttivismo sociale); tutte queste visioni “strumentali” della tecnologia trascurano, per Steven Umbrello, la dimensione sociale dell’artefatto tecnologico.

Ciò che si trascura è l’impatto sociale delle innovazioni, che, per quanto difficile da prevedere, non riguarda solo il presente ma anche le generazioni future. Un approccio all’innovazione in grado di tenere in conto che «la tecnologia e la società sono strettamente intrecciate e l’una dipende dall’altra» guarda alla tecnologia come vettore essenziale di valori umani, che ha il potere di vincolare il futuro della società.

L’attenzione riflessiva su questa interattività (o interdipendenza) è alla base di una progettazione (design) responsabile per la quale i valori – proprietà umane significative – possono prendere forma ed essere espressamente incorporati in artefatti tecnologici.

(1, continua)

La gestione di un mondo, ormai saturo di tecnologia, sembra giocarsi intorno a una questione strategica globale: il controllo di sempre più vasti flussi di informazione digitale – il controllo dei dati – che garantisce alle grandi piattaforme di esercitare una posizione dominante nell’espansione dell’offerta di servizi essenziali e sensibili per la vita degli individui.

A livello globale, le piattaforme digitali (come Google) perseguono un proprio disegno di potere, in stretta relazione con gli Stati di appartenenza (Stati Uniti e Cina) e i loro apparati militari, finalizzato al controllo di una crescente massa di informazioni sensibili, che ne fanno soggetti attivi nell’ambito delle strategie imperialiste di quegli stessi Stati. È quello che Steven Umbrello definisce “fascismo tecnologico”.

Come uscire da queta “presa”, da questo dominio non orientato alla questione dei valori umani? Occorre un approccio al mondo tecnologico basato su una visione “integrata” della tecnologia alla società, sulla consapevolezza che gli oggetti tecnologici incarnano sempre valori umani significati del contesto sociale e storico di appartenenza. Un approccio responsabile, dunque, che tenga conto dei valori fondamentali come la privacy, l’autonomia personale e il benessere umano – un’eredità, questi, della cultura europea – e che faccia della “partecipazione” dei soggetti interessati, e dell’inevitabile “sovraccarico morale” dei diversi valori in gioco, il criterio stesso della progettazione.

(2, continua)

È sostenibile una società, che fa dell’“innovazione” tecnologica la molla di un’espansione dell’economia, che si mira a creare, o meglio a “indurre”, nuovi bisogni più che a soddisfare le necessità della riproduzione materiale della vita quotidiana?

La parola sostenibilità può essere applicata sia all’ambiente che al business dell’economia di mercato. Ma è possibile  rendere “vantaggioso”l’investimento di un’impresa industriale, senza prima definire quale finalità l’economia capitalista persegue nell’immaginare il futuro della società?Una società in cui la dipendenza di tutti dal “consumo” di tecnologia continua a garantire un “guadagno” monopolistico alle grandi corporazioni, per le quali la soluzione all’attuale cambiamento climatico è da ricercare nell’innovazione tecnologica, come l’ingegneria ambientale?

Per Steven Umbrello, questa progettualità tecnologica ignora la sfida della complessità che è data dal crescente squilibrio nella relazione tra società e ambiente – che è appunto un sistema complesso. Non è possibile affidare la soluzione a una variabile, quella tecnologica, che è essa stessa il prodotto di condizioni storiche che sono all’origine dell’attuale contesto di crisi.

Si tratta di “educare” della complessità dell’esistente. Un richiamo, questo, a «non fare le cose in fretta», a rallentare, per non ostinarsi nella ricerca di «soluzioni semplici» di breve tempo, per pensare invece a una sostenibilità di lungo periodo, in grado di garantire alle generazioni seguenti di godere allo stesso modo delle “potenzialità” della natura.

(3, continua)

Cos’è ChatGPT (Chat Generative Pre-trained Transformer, ‘trasformatore pre-addestrato generativo’) un modello conversazionale, di simulazione del linguaggio umano, progettato per facilitare l’interazione tra macchina e utente umano, basato su intelligenza artificiale e apprendimento automatico (machine learning) sviluppato da OpenAI.

Mai un’ interazione verbale artificiale è stata così di alta qualità come quella di ChatGPT. La sua potenzialità di entrare a far parte di una molteplicità di sistemi a interfaccia conversazionale sarà alla base della diffusione pervasiva dell’intelligenza artificiale nella vita quotidiana della società. Uno scenario inquietante? Non è forse già vero che la “consultazione” di quell’oggetto tecnologico che è il cellulare scandisce, quasi come un rituale sacro, l’intero ritmo della nostra vita, dal primo e all’ultimo atto di una giornata? Un’esperienza di assoluta dipendenza, tale da conferire alla tecnologia digitale il carattere di una nuova sacralità, di cui i progettisti sono i sacerdoti.

Al di là della catastrofica minaccia – in uno scenario da Terminator – per la specie umana, la diffusa dipendenza da modelli di intelligenza artificiale può legittimamente generare preoccupazione: l’AI è pur sempre uno strumento, e se ne può fare un uso buono o cattivo, ma è uno strumento potente.E allora, poiché – per dirlo con il creatore di Spider-man – “da un grande potere derivano grandi responsabilità”, è difficile immaginare le conseguenze future per la società.

È possibile perseguire l’obiettivo di trasferire nell’intelligenza artificiale un sistema di valori coerente con quelli umani? Oltre al problema di unaraccolta responsabile dei dati – finora non perseguita – di cui si nutre l’addestramento di ChatGPT, Steven Umbrello infatti solleva un’altra problematica etica, quella relativa alla costruzione algoritmica dei dati secondo valori pregiudiziali di natura culturale e politica.

 

(4, continua)

Per una società migliore, in un mondo in cui le nostre vite sono sempre più mediate da artefatti tecnologici, è ragionevole chiedersi come la progettazione tecnologica (design) può plasmare questa mediazione. Una mediazione che non è mai innocente o neutra, ma al contrario che incorpora valori relativi alla “politica”, al bene comune.

In base a quali valori possiamo allora orientare la mediazione tecnologica delle nostre vite? E possibile fare riferimento a valori universali, più generali e astratti, come il benessere umano o la dignità umana? In ogni caso, non è possibile, per Steven Umbrello, astrarre la progettazione degli oggetti tecnologici dalla sua applicazione pratica, e dal conseguente impatto sulla vita sociale.

Quali approcci sono dunque offerti alla progettazione responsabile? Approcci dall’alto verso il basso, con la formulazione di linee guida etiche, e approcci dal basso verso l’alto, con metodologie di progettazione orientate al contesto di applicazione dell’innovazione tecnologica. Una progettazione partecipata, quindi, in grado di coinvolgere tutte le parti interessate in gioco.

Si tratta di perseguire un approccio interazionale, capace di sottolineare proprio questo: «il carattere socio-tecnico dei sistemi, il fatto cioè che esista una correlazione tra società e tecnologia e che si possa parlare della compresenza di sistemi all’interno di una rete complessa di relazioni. Una complessa rete di persone, istituzioni, credenze, manufatti e processi che compongono il nostro ambiente umano». (Steven Umbrello) Un ambiente non esente da sfide complesse già entro l’orizzonte del presente.

(5, continua)

Interrogarsi sulla natura della mediazione che l’innovazione tecnologica esercita nell’ambiente umano da cui emerge il suo stesso processo di progettazione ridisegna la questione etica come etica della responsabilità. È un approccio olistico alla progettazione (design), un portare l’attenzione sull’inter-relazionalità dinamica – il “tra” – che coinvolge i vari soggetti interessati, e l’ambiente nel suo insieme.

In pratica, l’innovazione responsabile svela come la concezione dell’individuo “costruttore” di sé stesso, come entità indipendente e a sé stante, non sia altro che una finzione ideologica. Al contrario, essa stabilisce il principio per cui la progettazione tecnologica comporta assumersi «la responsabilità per la responsabilità per gli altri», nel tempo appunto: progettare significa allora avere la consapevolezza che una tecnologia incorpora parametri che sono vincoli alle possibilità di scelta in futuro. Più ampia è la possibilità di scelta offerta – come il riciclo dei materiali impiegati –, maggiore è l’apporto di responsabilità di cui le generazioni future potranno farsi carico per la cura del mondo.

Un futuro del mondo che oggi si presenta come sfida della sua fine. Sfida che è l’esito di un’economia capitalistica di crescita, basata su una tecnologia energetica a basso costo (energia fossile), il cui funzionamento risponde sempre di più all’effetto Matteo: «Perché a chi ha sarà dato e sarà nell’abbondanza; ma a chi non ha sarà tolto anche quello che ha» (Vangelo di Matteo, v. 25, 29).

Ma anche la soluzione alla questione climatica che oggi si prospetta – la riduzione globale dell’energia di origine fossile, che non fa che perpetuare una mancata diffusione di benessere nei paesi poveri – sembra rispondere alla stessa logica di sviluppo diseguale. Più propriamente, allora, per Steven Umbrello, si dovrebbe parlare di «imperialismo ecologico» dell’Occidente.

La “fine del mondo” è forse solo l’immaginario dei paesi ricchi, che non hanno il problema di cosa mangiare domani.

(6, continua)

La consapevolezza che il mondo moderno è un immane artefatto di sistemi tecnologici impone, per Steven Umbrello, una svolta progettuale. In un mondo globale, la cui connettività “fisica” – come infrastruttura di collegamento materiale tra i sistemi – e insieme “logica” – come regolazione cognitiva, algoritmica, nella comunicazione, nello scambio di informazioni tra i sistemi – è diventata la condizione della nostra convivenza, non è più possibile ignorare l’impatto che la tecnologia esercita sul modo di condurre le nostre vite.

Una progettualità responsabile mira, nella costruzione di un oggetto, a integrare i valori degli individui nei contesti in cui ne faranno uso – una progettualità etica che rimane aperta, in progress, a contesti in cui la soluzione progettuale può rivelarsi problematica.

Questa relativa autonomia della progettazione degli oggetti non è qualcosa che può bastare a trasformare immediatamente la consapevolezza dell’inter-connettività dell’attività produttiva in un soggetto, in un individuo collettivo, in un “noi” responsabile della cura del mondo. E tuttavia questa svolta progettuale dimostra che è possibile ricondurre le condizioni tecnologiche della società, condizioni vitali, sotto il controllo di un’intelligenza generale, orientata a valori universali della vita, ed è possibile rimodellare quelle condizioni in accordo con essa.

Insomma, la potenza tecnologica della società può essere costruibile non solo nella forma di un sapere, ma nella forma di una pratica sociale, di un processo di adattamento alle richieste emergenti dai contesti reali della vita.

È su questa base pratica che è possibile realizzare quella condivisione di valori universali, e fra questi la reciprocità stessa, che è necessaria per la convivenza umana?

(7, fine)

Gabriele Cavallo: – Se c’è una cosa che a me personalmente disturba un po’ è questa idea dell’uomo, nel senso di umano […], l’umano è colpevole. Noi siamo colpevoli, nel senso: noi chi? E quali umani?
Roberta Montaldo: – Di nuovo facciamo il discorso dell’altro che è lontano, ma noi…
Gabriele Cavallo: – …no, proprio un discorso di classe…Ma di chi?
Roberta Montaldo: – …di classe! Ma noi chi? Esattamente!
Gabriele Cavallo: –  Va benissimo tutto. Siamo tutti umani. Forse è un altro il discorso, che riguarda anche chi ci guadagna davvero, chi viene favorito davvero da questo sistema.

Steven Umbrello: – In Canada non esistono i canadesi! Ci sono le culture… ci sono gli italiani, gli indiani…
Daniele Ettorre: – Sì! Ma di che religione siete?
Steven Umbrello: No, no! Non esiste un voi. Non siamo americani. Gli americani sono americani, non esistono canadesi. Americani come statunitensi. Se tu vai negli Stati Uniti, e tu chiedi: Tu da dove provieni? Che cosa sei? Lui risponde: Americano! Se tu vai in Canada, nessuno ti dice: sono canadese.

Steven Umbrello: – Come è successo oggi, si inizia con la tecnologia, vai in profondo, vai in profondo, si va con la filosofia e, alla fine, l’unico vocabolario che abbiamo a nostra disposizione per spiegare le cose più fondamentali è quello religioso.