In cerca della filosofia artificiale

“Devo puntare il nonno o il nipote?” Il pilota automatico, di fronte a questo imprevisto sulle strisce pedonali, non sa darsi una  risposta, perché il quesito non è stato programmato. Non farà peggio del pilota umano, posto che non abbia scelta non omicida. Ma, lo stesso, non è rassicurante: perché?

Kissinger non sa dire, non essendo dentro la tecnologia, tanto più per essere questa tecnologia in sviluppo costante. Ma ne fa una questione epocale: siamo nell’Età della Ragione, dopo l’Età della Religione, aperta dalla stampa nel Quattocento, e passiamo a un mondo basato su “macchine azionate da dati e algoritmi e non governate da norme etiche o filosofiche”. Pone dei quesiti. E arriva a conclusioni – il saggio non è lungo, otto cartelle, ma denso..

I quesiti sono di tre tipi. “La IA può raggiungere risultati non voluti”. È tema di fantascienza, ma “il pericolo che interpreti male le istruzioni per la sua inerente mancanza di contesto” è “probabile”. Inoltre, “arrivando a effetti non voluti, la IA può cambiare i processi di riflessione umani e i valori umani”. Né è senza rischi il fatto che “la IA vuole avere ragione”: “È questa insistenza pervicace ad avere ragione caratteristica della IA?” E in campo educativo, “vogliamo che i bambini imparino i valori attraverso algoritmi scollegati, o dobbiamo restringerne l’uso, e in che misura?”

Secondariamente, “se la IA apprende esponenzialmente più veloce che l’uomo, dobbiamo aspettarci che acceleri, anche esponenzialmente, il processo per prove ed errori con cui le decisioni umane generalmente si fanno, di fare errori più rapidamente e di maggiore grandezza di quelli che fanno gli umani”. In terzo luogo, concesso che la IA può raggiungere certe conclusioni più rapidamente dell’uomo, è però incapace di spiegarle. La cosa è disturbante perché “in certi campi – riconoscimento dei modelli, analisi dei big-data, gioco – le capacità della IA possono già avere sorpassato quelle umane”. Kissinger si è posto il problema della IA ascoltando una conferenza in cui si spiegava come un computer avesse vinto contro “Go”, “gioco più complesso degli scacchi, in cui ogni giocatore schiera 180 o 181 pezzi su un campo vuoto, che deve poi conquistare pezzo a pezzo”.

La conclusione è che la IA può aiutare poco i processi politici, per la sua “instabilità”, o insensibilità ai contesti, alla complessità. Sì per la enorme capacità di memorizzazione e compitazione, ma poco o niente per le decisioni: ha “cominciato a produrre” una “trasformazione della condizione umana”, ma i governi si limiteranno più probabilmente “ad accertarne le applicazioni in termini di sicurezza e intelligence”.

Le conclusioni sono un avvertimento ai tecnologi, di porsi I problemi che stanno creando. In sintesi: “L’Età della Ragione è cominciata con riflessioni essenzialmente filosofiche connesse a una nuova tecnologia”, la stampa mentre “il nostro periodo muove nella direzione opposta. Ha generato una tecnologia potenzialmente dominante in cerca di una filosofia che la guidi”.

Henry Kissinger, How the Enlightenment Ends”,“The Atlantic”, giugno, free online