I rischi di un’utopia tecnicistica e la necessità di rivolgersi all’Umanesimo digitale per valorizzare le persone nella trasformazione digitale.
«Cos’è il test di Turing?»
Nathan, l’inventore del più grande motore di ricerca (il fittizio Bluebook), lo chiede al suo programmatore, Caleb, nel film “Ex Machina” del 2015, diretto da Alex Garland. «Lo so cos’è. È quando un umano interagisce con un computer. E se l’umano non capisce di interagire con un computer, il test è superato».
Nel film Nathan si è posto l’ambizioso obiettivo di sviluppare un’IA con una coscienza. È così che nasce Ava, un robot umanoide che i big data hanno reso una perfetta imitatrice dei sentimenti umani. Ava può provare dei veri sentimenti oppure è stata programmata per comportarsi come se ne avesse? Caleb si innamora di Ava, ma… non sveliamo oltre.
Questo esempio, che è citato da Julian Nida-Rumelin e Nathalie Weidenfeld nel libro “Umanesimo digitale”, può essere un esempio efficace di introduzione alla cosiddetta ideologia della Silicon Valley. Negli ultimi anni si sono diffuse teorie di natura materialistica, in base alla quale l’uomo non è altro che un computer assai complesso e che prima o poi lo sviluppo tecnico assottiglierà fino ad annullare ogni differenza tra uomo e macchina.
L’utopia tecnicista della Silicon Valley
Secondo il concetto di AI forte, la complessità umana può essere ridotta a “meccanismi” digitali, modellabili, determinabili da stimoli sensoriali e quindi prevedibili. L’interpretazione è comportamentistica: essere triste non è altro che mostrare un determinato comportamento scatenato da stimoli esterni.
Per i sostenitori di questa teoria, non c’è alcuna differenza (categoriale) tra il pensiero umano e l’elaborazione di un software, o meglio i suoi processi di computazione. Il boom delle neuroscienze, che ritengono che il protagonista dell’azione non sia la persona, bensì il suo cervello o meglio gli stati neurofisiologici, ha contribuito ad aumentare questo pensiero.
Il concetto di AI debole, allo stesso tempo, evidenzia la differenza tra il pensiero umano e quello delle macchine ma non nega la possibilità che possa essere simulato in modo identico.
In questa utopia tecnicista che ruolo avrà l’essere umano? Secondo Nida-Rumelin, uno dei più noti intellettuali tedeschi, già ministro della Cultura con Schroder e oggi ordinario di Filosofia a Monaco, questo approccio rischia di diventare pericolosamente anti-umanistico.
Secondo il filosofo, nulla lascia intendere che le macchine abbiano o avranno percezioni o emozioni. Contrariamente ai robot e alle AI, gli esseri umani, in quanto attori morali, ponderano le ragioni del loro agire. Le macchine invece hanno una logica utilitaristica: l’attribuzione di valore è compresa in una logica di utilità.
Un calcolo ottimizzatore potrebbe compensare vite umane con vite umane in base a calcoli probabilistici, ma la vita umana è incompensabile. Pensiamo agli esperimenti di guida autonoma: per preservare il conducente, compito per cui è stata programmata, l’auto potrebbe ferire degli innocenti.
L’Umanesimo digitale è la giusta misura
Dopo un iniziale entusiasmo, stanno aumentando i casi di “techclash”, ovvero di forte reazione negativa contro le più grandi aziende tecnologiche e i loro prodotti. Il termine, apparso su The Economist nel 2013 e candidato nel 2018 come parola dell’anno dalla Oxford Dictionares, è associato a casi controversi, come lo scandalo Facebook-Cambridge Analytica.
Su Netflix, “The social dilemma”, il documentario di Jeff Orlowski, approfondisce il dilemma etico di “pentiti” della Silicon Valley che li ha portati a lasciare le società dove ricoprivano ruoli apicali per la priorità data al profitto e alla pubblicità. Contemporaneamente nascono nuovi movimenti per rendere la tecnologia più sostenibile per l’uomo: è il caso di Tristan Harris, ex esperto di etica del design digitale di Google, che ha fondato il Center for Human Technology.
Ma alla critica dell’ideologia della Silicon Valley non si è mai affiancata una vera alternativa. Un pensiero positivo. Rumelin lo identifica nell’Umanesimo digitale, una filosofia che recupera la centralità dell’uomo nei confronti della tecnologia: l’autorialità degli esseri umani non viene mai messa in discussione, il digitale è solo un’estensione di questa capacità. Un booster che libera l’uomo dalle attività ripetitive per permettergli di concentrarsi su ciò che è di maggior valore.
Per questo è fondamentale affiancare alla scelta e alla progettazione della tecnologia una capacità di analisi dell’unicità umana, che va valorizzata e tutelata in ogni interazione digitale. Qui potete leggere il pensiero del CEO di WEGG sul nostro futuro digitale.
Questa componente è stata inserita all’interno della nostra consulenza: siamo, infatti, promotori del Manifesto della Persona Digitale, per incrementare la scelta di tecnologie sostenibili per le aziende e le persone per cui lavorano.
