Un robot si aggira per l’Europa: la nuova dialettica servo-padrone

Delle migliaia di concetti introdotti da Hegel nella sua Fenomenologia dello Spirito, la dialettica servo-padrone (Herrschaft und Knechtschaft) è tra quelle che ha avuto maggior successo tra i pensatori successivi, tanto che sono in molti a collegarla a uno dei filosofi che l’ha riutilizzato con maggiore incisività, Karl Marx. Spogliando il rapporto tra signore e schiavo di ogni aspetto morale o trascendentale, sorvolando sul ruolo della paura della morte e della coscienza religiosa nel modello originale, Marx rielabora il pensiero hegeliano in modo che definisca le origini e le dinamiche della lotta di classe, presentandola come un rapporto dialettico non solo logico ma necessario.

Riassumendo il paradigma di Marx, si hanno un Padrone e un Servo: il Padrone fornisce sostentamento al Servo, che però rinuncia alla propria libertà per compiere determinati lavori. Il ribaltamento (logico-dialettico, ma anche storico) dei ruoli avviene al momento in cui il Servo realizza che il lavoro da lui compiuto è assolutamente necessario al Padrone, che però non è in grado di compierlo in prima persona: se prima il Servo pensava di dipendere dal Padrone per la propria vita, si accorge che è invece quest’ultimo a dipendere da lui. La consapevolezza porta alla ribellione, il Servo usa le proprie competenze per spodestare il Padrone e prendere il suo posto, così che i due invertano i ruoli. Al momento in cui l’ex-Servo ora Padrone dimentica come compiere i lavori che affida all’ex-Padrone ora Servo, il processo ricomincia.

Marx aveva pensato questa alternanza dialettica come potenzialmente infinita, proprio in quanto descrivente rapporti tra classi sociali diverse nel corso delle epoche ma sostanzialmente analoghe; il primo punto fermo era comprensibilmente una relazione-scontro tra esseri umani in carne ed ossa. I progressi della tecnica e dell’informatica, invece, paiono aver aperto un terreno anche filosoficamente inesplorato nell’ambito della dialettica servo-padrone, una prospettiva introdotta dall’irrompere sulla scena della possibilità reale dello sviluppo di un’intelligenza artificiale quasi umana.

Non è certo un caso che la cultura popolare, dalla letteratura fantascientifica di Isaac Asimov alla saga cinematografica di Terminator, dagli incubi televisivi di Black Mirror agli orrori su tela di H.R. Giger, abbiano visto nell’evoluzione del rapporto tra umani creatori e macchine intelligenti ma “schiave” le premesse di un conflitto “di classe” con ingredienti al contempo antichi e inediti. Quel che accomuna i replicanti di Blade Runner a Skynet, o l’HAL 9000 di 2001: Odissea nello spazio all’Ultron dei fumetti Marvel, o ancora i pistoleri-robot di Westworld al V’ger di Stark Trek, è proprio la prosecuzione dello scontro dialettico, che vede la bassa manovalanza cibernetica ribellarsi a un’intelligenza umana ormai percepita come inferiore e ingiustamente predominante. Appare quindi emblematico che la parola robot derivi proprio dal ceco robota, “lavoro pesante”.

Con buona pace di Asimov e delle sue tre leggi della robotica, la prospettiva di una prossima ribellione della macchina ha preso piede come ansia collettiva, che si riflette nei dilemmi etici legati ai robot usati in chirurgia, ai droni da guerra, alle auto a guida autonoma, ai software di selezione del personale. Le reali prospettive, non solo di una guerra tra uomini e macchine in stile Matrix ma semplicemente della creazione di un sistema software che possieda coscienza oltre che intelligenza, sono però fattualmente scarsissime. L’elemento più spaventoso, e più ignorato, è invece la fase preliminare al conflitto di classe all’interno del processo dialettico: la delega del lavoro.

Nella visione di Hegel e Marx, il Padrone diventa dipendente dal Servo perché non è più in grado di fare ciò che a lui delega, rinunciando a tutta la propria inventiva e alle proprie capacità per vivere di rendita sul lavoro altrui. Prima ancora che pensare a cyborg assassini o software senzienti, sarebbe forse il caso di preoccuparsi del fatto che, dati alla mano, la stragrande maggioranza della popolazione mondiale non sia più capace di scrivere correttamente nella propria lingua senza l’ausilio di un correttore automatico, non sappia fare anche semplici operazioni matematiche senza ricorrere a una calcolatrice, non riesca a orientarsi neanche all’interno del proprio quartiere senza un navigatore satellitare.

È più che probabile che l’intelligenza artificiale non si traduca mai in una coscienza artificiale, che le macchine non diventino mai senzienti, che le capacità di apprendimento e di adattabilità non si evolvano in autodeterminazione, che i miliardi di sinapsi sintetiche non lavorino mai tutte assieme per elaborare il pensiero “Io”. Anche in assenza di un Robot-Schiavo vero e proprio, però, l’Uomo-Padrone ha già cominciato da tempo a delegare a terzi una parte sempre più consistente delle proprie capacità, e l’assenza di una controparte reale e attiva che possa avviare lo scontro storico-dialettico non è affatto positiva: il conflitto, quantomeno, avrebbe il merito di riaffidare ora all’una, ora all’altra parte quelle capacità che, nella versione “in solitaria” della dialettica servo-padrone, rischiano di andare semplicemente perdute.

 

Giacomo Mininni

 

[Photo credit Franck V. via Unsplash]

banner 2019

Manuale di sopravvivenza all’apocalisse robot

Domanda a bruciapelo:

“Chi sei?”

Non vale rispondere con nome e cognome.
Né per automatismo, né per tentare di delegare la risposta al proprio profilo Facebook,  scansando lo sforzo di pensarci e distraendoci con le foto della Tailandia in bacheca.

Per rispondere prova a cercare qualcosa in più:
Cosa sceglieresti per rappresentare quello che fa di te ciò che sei?

Se incontri una persona mai vista prima, è dura non notare prima di tutto i dettagli più superficiali. Allo stesso modo potresti fare tu mentre ti muovi verso “te stesso”. Soffermarti sulle caratteristiche della tua figura, il tuo stile nel vestirti. O andare un poco oltre: potresti descrivere le peculiarità dei tuoi movimenti. Sei vittima della goffaggine oppure agile, elegante? I tuoi gesti affermano un certa fiducia e sicurezza, o tradiscono la tua timidezza? E via continuando verso dettagli meno evidenti al primo sguardo. Potresti raccontare il tuo carattere. O le tue abitudini. I tuoi pregi o le tue nevrosi. La tua storia, passata e progettata, ricordi e sogni.
Pezzo dopo pezzo si costruisce una tua immagine, una tua rappresentazione, che cerca di essere autentica e aderente al reale. A quello che sei, ma che magari non sai, che non è facile raggiungere fino in fondo, completamente. Un figura in cui specchiarsi, rigirando e rivoltando il proprio profilo, cercando di capire come siamo e appariamo, possibilmente trovando il lato migliore.
Non è facile scegliere se tra queste c’è qualcosa che ci rappresenti in modo essenziale. Forse in misura diversa tutte insieme collaborano a renderci quella creatura che spesso frettolosamente etichettiamo e riconosciamo grazie a un nome e un cognome.

A volte finiamo per conoscerci meglio se abbiamo la possibilità di riconoscerci negli altri. Individuando qualcosa che ci risuona in coloro che appaiono simili a noi per questa o quella caratteristica.

Ci rispecchiamo in “qualcuno”, e ci rivediamo attraverso di lui.

Ma se invece cominciassimo a trovare ulteriori e sempre più frequenti similitudini con “qualcosa”?

L’avanzamento delle tecnologie robotiche prosegue senza sosta, e i suoi prodotti si rinnovano, si aggiornano e progrediscono.
Gli automi rinascimentali suggestionavano le corti mimando l’apparenza umana. Cavalieri meccanici che riproducevano i movimenti dell’uomo. Meraviglia in chi li osservava e stava al gioco dell’artificio teatrale. Ma poco più di una marionetta per chi riusciva a guardare al di là dell’armatura e scorgeva nell’ingegno del meccanismo un guscio vuoto d’anima.

Da allora robot e androidi si sono evoluti in molte forme, emulando caratteristiche umane, spesso migliorandole. Si pensi a tutti i compiti che richiedono un movimento ripetitivo e programmabile: più forti, più precisi, più rapidi.
Una somiglianza superficiale, che ci fa comodo e ancora non disturba. Anzi. Avere un doppio che ci sostituisce è intrigante. Il termine robot deriva proprio dal termine ceco robota, che significa lavoro pesante o lavoro forzato.

L’evoluzione scientifica è continuata, e a diventare meccanica è stata l’intelligenza. Qualcosa che è di consuetudine attribuito alla sfera dell’interiorità e della soggettività.
Intelligenza artificiale.
E le sue possibilità forse complicano le cose.

Macchine che parlano, reti neurali artificiali che elaborano informazioni, parole e immagini sino ad arrivare a riprodurre facoltà di stampo creativo. Le macchine, le “cose”, invadono il nostro territorio insomma, il campo di quelle possibilità una volta ritenute esclusiva dell’homo sapiens.
E che ne è dunque di quella marionetta vuota?
Impara a muoversi, a percepire l’ambiente circostante, a parlare il mio linguaggio e comprendermi. Si relaziona con me in modo sempre più realistico, analogico, umano. Mi somiglia sempre di più. Portandosi dietro quel vuoto di macchina, vuoto che rischia di risucchiarmi.
L’immaginario della fantascienza spesso ci ha raccontato un futuro apocalittico di terminator robotici che porteranno la distruzione per il nostro mondo di persone. Ma più che una battaglia campale tra agguerrite IA e soldati in carne ed ossa parrebbe che lo scontro avvenga sul piano concettuale. Più etereo, subdolo, inconsapevole.

Gli oggetti diventano riflesso dei soggetti, privandoli poco a poco dell’unicità rispetto a ciò che tradizionalmente li caratterizza. E lasciano ben poco in cui riconoscerci, conservando una sostanziale diversità dai macchinari. Cosa ci caratterizza in quanto umani? Cosa mi differenzia da quella marionetta vuota di coscienza?

“Chi sei?”

Sicuramente qualcuno che ha molto in comune con quella marionetta. E osservandola potrei addirittura imparare qualcosa di più su come “funziono”. E utilizzare quelle nuove conoscenze come base per costruire nuove domande. Senza esaurire la ricerca, per scoprire qualcosa di più.

“Chi sei?”

La tua apparenza, i tuoi pensieri. La tua capacità di imparare, ricordare. Il modo in cui ti relazioni con gli altri. I tuoi gesti, il tuo lavoro. E anche qualcosa di più.

Qualcosa di più.
È questo lo spazio in cui andare a cercare, per salvarsi dall’invasione dei robot.

 

Matteo Villa

P.s.: nel frattempo possiamo rassicurarci con qualche esempio di “stupidità artificiale”

 

banner-pubblicitario-03

Tra realtà e fantascienza. Educare il robot: fallo crescere felice senza che uccida nonna

L’Intelligenza Artificiale viene desiderata, ricercata, temuta, analizzata e discussa. La tematica dell’IA è sempre più al centro del dibattito pubblico, ma, un po’ come tutte le cose di questi tempi, viene spesso affrontata in maniera superficiale e spesso condannata a priori. Tanti film di fantascienza ci vedono soccombere dinnanzi alle nostre stesse creazioni in altri l’IA viene esaltata come mezzo salvifico per superare i nostri limiti: è interessante notare che entrambe le posizioni si pongono comunque in maniera acritica rispetto all’argomento e non affrontano fino in fondo i problemi ad essa connessi.

Un robot non è semplicemente un elettrodomestico in senso stretto tipo un tostapane, un robot dotato di intelligenza non sarebbe solo una cosa, sarebbe il simbolo dell’umanità che riesce a porsi dal lato di Dio ergendosi come capace di generare la vita, sia pure cibernetica. In fondo che l’esistenza abbia una matrice organica o artificiale cambia tutto sommato poco, a ben vedere la stessa distinzione netta tra chimica organica e chimica inorganica è una convenzione, delle catene di amminoacidi a base carbonio non sono poi molto diverse da catene a base di silicio, hanno comportamenti in parte differenti, ma non è che le prime abbiano qualcosa di divino e le seconde no.

Per trattare questa tematica dobbiamo rifarci alla machine ethics o alla robothics cioè a dei settori dell’etica applicata che sono impegnati a fornire regole cognitive e comportamentali a organismi artificiali intelligenti, per fare in modo insomma che il vostro tostapane intelligente nel 2145 non decida di tostare anche voi per colazione. Chi ha letto Isaac Asimov (Io, robot, 1950) ricorderà le tre leggi della robotica:

  • un robot non può recar danno a un essere umano né permettere che, a causa di una propria omissione, un essere umano patisca un danno;
  • un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non violino la prima legge;
  • un robot deve proteggere la propria esistenza, purché l’autodifesa non contrasti con la prima e seconda legge.

Queste leggi per quanto preziose sono incomplete, parzialmente rigide, oscure e troppo semplici rispetto ai dilemmi della vita, già messe in discussione dalle contraddizioni dell’impiego di robot a livello contemporaneo, vedasi al riguardo i droni utilizzati in operazioni militari.

Si è quindi tentato di semplificare ulteriormente le leggi di Asimov per ricondurle a un principio fondamentale che risolvesse tutto:

Rispetta l’umanità e non lederla né attivamente né passivamente”. Altri hanno preferito soluzioni casistiche, indicando cioè esempi di comportamento encomiabili da imitare (aiutare la nonna ad attraversare la strada) o disdicevoli, da evitare (rubare la borsetta a nonna e spingerla sotto un camion). I casi servirebbero come paradigmi ideali di comportamento.

La vera difficoltà etica che si pone e che è ben messa in luce nel film Blade Runner (USA 1982, di Ridley Scott) è pensare una società giusta in cui alcuni abitanti vengono progettati, costruiti e diretti quali schiavi al servizio di una classe superiore, cioè gli esseri umani, e qui viene la contraddizione massima: gli umani non sono superiori bensì potenzialmente inferiori alle macchine o fragili almeno tanto quanto loro.

Inutile dire che delle IA asservite agli umani non potranno che provare una sorta di fraternità, le sofferenze per i torti patiti e una imprevista passione per la libertà le indurrebbero a rintracciare il proprio creatore, a metterlo sotto accusa e infine a generare un sentimento di vendetta.

Certo potremmo creare regole come sistemi di controllo delle IA, che ne so, impiantiamo loro bombe che scoppino a un nostro comando, ma intelligenza e procedure violente finiscono per intaccare quello che ci rende forse tutti senzienti, senzienti davvero, la libertà. Senza libertà è impossibile che macchine antropomorfe imparino a sognare, senza sogni non si creano nuove visioni del futuro, non si crea un senso e quindi non vi è ragione di esistere, possiamo già prevedere un mondo in cui le macchine sono dominate da umani progressisti e dispotici che invidiosi della superiorità delle macchine non potranno che plasmare automi per mantenerli incatenati e infantili, rendendoli inutili a se stessi e all’umanità.

Se vuoi far crescere il tuo robot felice ed evitare che uccida nonna la cosa migliore che puoi fare e possiamo fare come umanità sarà insegnargli a sognare.

Matteo Montagner

 

 

banner-pubblicitario_abbonamento-rivista_la-chiave-di-sophia_-filosofia

Stampanti di corpi per vivere in eterno

E se fossimo alle porte di una rivoluzione evolutiva? In un futuro lontano (ma non troppo) sarà possibile “stampare” organi grazie a stampanti 3D dotate di “inchiostro” a base di cellule. Questi organi artificiali potranno poi essere trapiantati sostituendo le parti malate o danneggiate del nostro corpo: un ulteriore passo verso l’immortalità? Probabilmente sì. Il tempo sarà l’unica variabile in gioco nell’inesorabile progresso tecnologico che un giorno ci consentirà di replicare e sostituire qualunque parte del corpo. Persino il cervello un giorno sarà stampabile? Il cervello è stato definito “il pezzo di materia più complesso dell’universo” ma è pur sempre materia finita con determinate caratteristiche. Una volta studiate e mappate, si potranno replicare? Avremo interi corpi “di riserva” in grado di superare il naturale decadimento materiale e in cui ci potremo trasferire a nostro piacimento? Tutto è possibile anche se gli interrogativi si susseguono veloci: che cosa siamo noi e che cosa il nostro corpo? come faremo a trasferirci in un altro corpo? il mio bagaglio di conoscenze resterà intatto? E soprattutto: sarò ancora proprio io? Ma la vera domanda che questa prospettiva ci pone è: che cos’è la coscienza? Dove ha sede? E poi, è davvero “solo” materia ciò di cui siamo fatti? Per alcuni studiosi la risposta potrebbe essere affermativa, basti pensare a come ogni singola emozione può oggi essere spiegata in termini biologici come scambio di enzimi, ormoni, neurotrasmettitori, elettricità, et cetera.

Tutto è materia, persino un concetto come la felicità è una relazione chimica all’interno del nostro corpo. Tuttavia, la replicabilità dell’intero corpo umano ci fa pensare il contrario. Infatti, per quanto possa essere riprodotto esattamente il mio corpo, nulla farà in modo che il mio punto di vista si sdoppi. Vale a dire che l’altro corpo sarà sempre “altro” da me. Il cervello è la parte del nostro corpo in cui “risiediamo” più che in altre? Forse sì: trapiantare il cuore, ad esempio, non cambia chi siamo, mentre trapiantare un cervello probabilmente sì. E di conseguenza anche la ipotetica sostituzione di un cervello non lascerà il mio punto di vista intatto ma, se ipotizziamo che la sede della mia coscienza sia proprio il cervello (dove si troverebbe “diffusa” tra le varie aree cerebrali e ne emergerebbe quale combinazione di attivazioni, come alcuni recenti studi hanno suggerito), io mi spegnerò nel momento in cui il mio cervello sarà staccato da un corpo, e resterò legato ad esso. Ecco allora che, forzando il corso di questa fantasiosa ipotesi, forse un giorno troveremo il modo di trasferirci in un corpo nuovo di zecca semplicemente trapiantando il nostro cervello (dopo che avremo trovato anche il modo di conservarlo adeguatamente nel tempo), come fosse un pilota in una nuova automobile.

Questo potrebbe rivoluzionare quella che per millenni è stata la strategia dei geni, intenti a garantirsi nuovi corpi in cui essere ospitati («Noi siamo macchine da sopravvivenza ‐ robot semoventi programmati ciecamente per preservare quelle molecole egoiste note sotto il nome di geni» scriveva Richard Dawkins nel 1976), portando la teoria evolutiva ad una nuova dimensione, quella individuale appunto, superando quella propria della specie. Non più una lotta per la sopravvivenza di molecole all’interno di individui, non più una lotta tra individui per la sopravvivenza della specie, ma la prosecuzione dell’individuo stesso che abbia trovato il modo di superare i limiti naturali eternando ostinatamente se stesso attraverso nuovi supporti che superino il tempo.

Fabio Fornaroli

Fabio Fornaroli è laureato in filosofia e appassionato di tecnologia e neuroscienze. Lavora nell’ufficio stampa di una azienda di trasporti pubblici locali ed è autore del progetto musicale “La Finestra”.

[Immagine tratta da Google immagini]