Semiconduco

L'Angelo di Goedel (1/N)

Per sfizio, ma in realtà non proprio per sfizio, sto rileggendo "Ombre della mente", di Roger Penrose. Il libro è il seguito ideale (un ampliamento e un nota bene, se volete) de "La mente nuova dell'Imperatore", dello stesso autore.

Il punto fondamentale che preme a Penrose, Dio solo sa per quale preciso motivo, è una confutazione, basata su argomenti che trovo in parte condivisibili, in parte largamente fantascientifici, delle tesi fondamentali dell'IA (Intelligenza Artificiale), tanto in senso forte quanto in senso debole.

Riassumo brevemente la situazione, altrimenti parlo di fuffa al vento. Secondo i sostenitori dell'IA in senso forte, ogni pensiero è computo. Calcolo, insomma. In particolare, il senso della consapevolezza (la coscienza, compresa la sua estensione umana, l'autocoscienza) sarebbe suscitato dall'esecuzione di appropriati algoritmi di calcolo. Penrose etichetta questa tesi con la lettera A, in stile calligrafico.

Dopo di che, il buon Penrose etichetta come B (nello stesso stile calligrafico), la tesi dei sostenitori dell'IA in senso debole: ossia, mentre la consapevolezza (qualunque cosa sia) è il risultato dell'azione fisica del cervello, e mentre qualunque azione fisica può essere agevolmente simulata con un'opportuna strategia di calcolo, la simulazione computazionale non può però di per sé suscitare consapevolezza.

C'è poi un punto C, quello cui aderisce lo stesso Penrose, e che può riassumersi come segue: la consapevolezza è suscitata, in qualche modo, da qualche azione fisica del cervello, ma questa azione non può neanche essere simulata, cioè non può essere approssimata, finta, da nessuna strategia di calcolo.

Infine c'è il punto D, ossia esiste una piccola anima immortale, quindi non rompeteci troppo i coglioni con queste menate.

Per riassumere il riassunto: il punto D è autoevidente (inutile simulare alcunché, tanto la consapevolezza c'è data da una scintilla divina in noi); il punto A implica che prima o poi i computers saranno non solo più intelligenti di noi, ma almeno altrettanto autocoscienti; il punto B significa che l'intelligenza potrà essere simulata, ma questo non comporterà la nascita artificiale della coscienza; mentre il punto C, lo confesso, è quello che mi causa problemi, quello che non capisco.

Naturalmente capisco che il motivo per cui non lo capisco non è esplicitato nelle righe che precedono, ma il fatto è che sto proprio cercando di spiegare perché non capisco il punto C. Va da sé che non è che non lo capisco, in qualche senso: comprendo bene (credo) come possano esistere universi deterministici ma non computazionali (a dirla tutta mi è anche abbastanza chiaro che il nostro universo è non-computazionale). Diciamo che il punto C mi sembra una diramazione del punto B (ma a dirla tutta anche il punto D mi sembra un'ulteriore diramazione).

Il fatto fondamentale, credo, è che per Penrose "intelligenza" richiede comprensione, e "comprensione" richiede consapevolezza. Il problema è che occorre intendersi sui termini, e non vorrei che alla fine tutto si giochi sulla differenza e sull'ambiguità che (dis)legano coscienza ad autocoscienza.

Mi è per esempio abbastanza chiaro come la gatta-Lou sia una "macchina intelligente"; è evidente inoltre come "comprenda" perfettamente quando sto per tirarle una ciabattata a causa di qualcosa che ha fatto e che non avrebbe dovuto fare (tipo pisciare sotto al tavolo in soggiorno), perché scappa a gambe levate. Ma quanto e a che livello la gatta-Lou è consapevole? E le serve poi questa "consapevolezza" per essere intelligente e comprendere che deve scappare quando è il caso, per non pigliare la ciabattata sul muso?