La coscienza delle macchine, i dubbi degli uomini • memo

Le intelligenze artificiali sanno conversare, simulare emozioni e descrivere esperienze che non sappiamo se possano realmente vivere. Una recente ricerca sulla coscienza artificiale riapre una questione fondamentale: quando la tecnologia arriva a imitare l’essere umano, chi stabilisce il confine tra apparenza ed esperienza? E soprattutto, con quali criteri?

Un’intelligenza artificiale può scrivere «sono triste».

Può descrivere la malinconia di una giornata di pioggia, riconoscere la sofferenza nelle parole di qualcuno, rispondere con una delicatezza che talvolta fatichiamo a trovare persino nelle conversazioni umane.

Ma comprendere il linguaggio di un’emozione significa anche provarla?

È una domanda che fino a pochi anni fa avremmo affidato alla fantascienza. Oggi attraversa laboratori di ricerca, università e riflessioni filosofiche.

E riguarda sempre più da vicino la nostra quotidianità.

Il problema non è soltanto la risposta, ma la domanda.

Un recente studio, From Cacophony to Hierarchy, firmato da quattordici ricercatori tra cui Shane Legg e Anil Seth, propone un modello per valutare la possibile presenza di coscienza nei sistemi artificiali.

Il dato che colpisce è la sua variabilità.

A seconda delle teorie adottate e del peso attribuito ai diversi indicatori, le valutazioni possono oscillare da meno dell’1% a circa l’80%.

Non sono probabilità empiricamente accertate. Sono risultati che dipendono dalle premesse del modello.

Ed è proprio qui che la questione diventa interessante.

Anche quando affidiamo una risposta ai numeri, siamo noi a decidere quali domande porre e quali elementi considerare importanti.

La matematica può rendere trasparente un ragionamento. Non può, da sola, stabilire quali convinzioni debbano guidarlo.

Abbiamo insegnato alle macchine a parlarci

Nella sua riflessione sullo studio, il filosofo Paolo Benanti richiama una distinzione fondamentale: la capacità di riprodurre i segni della coscienza non dimostra necessariamente la presenza di un’esperienza soggettiva.

È un passaggio che merita attenzione.

Per secoli abbiamo riconosciuto gli altri anche attraverso il linguaggio. Le parole ci hanno permesso di raccontare il dolore, esprimere desideri, costruire relazioni e riconoscerci reciprocamente come persone.

Oggi abbiamo creato sistemi capaci di utilizzare quelle stesse parole senza sapere se dietro di esse esista qualcuno che prova qualcosa.

E questo cambia profondamente il nostro rapporto con la tecnologia.

Perché una macchina che sa descrivere perfettamente un’emozione non è necessariamente una macchina che la sente.

Ma vale anche la pena evitare la certezza opposta: ritenere impossibile, per principio, qualsiasi forma di esperienza artificiale soltanto perché il sistema è stato costruito da noi.

La ricerca non ci autorizza ancora a conclusioni definitive.

Ci invita, piuttosto, a coltivare il dubbio con rigore.

Chi decide che cosa conta?

C’è poi una questione che supera i confini della ricerca scientifica.

Se i criteri con cui valutiamo la coscienza artificiale dipendono anche da scelte teoriche, chi dovrebbe contribuire a definirli?

Soltanto chi sviluppa le tecnologie? I ricercatori? I filosofi? Le istituzioni?

E quale spazio lasciamo alla società, che con quelle tecnologie dovrà convivere?

Non si tratta di mettere ai voti una verità scientifica. Si tratta di riconoscere che le conseguenze etiche, sociali e politiche di una valutazione non possono essere considerate un dettaglio tecnico.

Oggi affidiamo già ai sistemi artificiali una parte crescente delle nostre conversazioni, delle nostre decisioni e persino delle nostre fragilità.

Li consultiamo, li interroghiamo, qualche volta ci confidiamo.

Il loro linguaggio diventa più convincente. Le loro risposte più personali. La loro presenza più familiare.

E noi rischiamo di confondere la qualità della simulazione con la natura di ciò che la produce.

Forse la coscienza da interrogare è anche la nostra

Il futuro dell’intelligenza artificiale non dipenderà soltanto dalla potenza dei sistemi che riusciremo a sviluppare.

Dipenderà anche dalla maturità delle domande che sapremo porci.

Dalla trasparenza delle scelte. Dalla capacità di distinguere ciò che sappiamo da ciò che supponiamo. Dalla disponibilità a rivedere le nostre convinzioni senza rinunciare al pensiero critico.

Perché il vero rischio non è soltanto attribuire una coscienza a qualcosa che potrebbe non averla, ma soprattutto smettere di esercitare la nostra mentre impariamo a convivere con macchine sempre più capaci di somigliarci.