Caro Giuseppe

On Sat, 16 May 2026 09:31:24 +0000 Giuseppe Attardi wrote:

> I Language Model (ancor prima dei LLM) fin dai tempi di [1] hanno
> fornito una definizione operativa di significato delle parole
> attraverso i word embedding (contestuali). Ripeto operativa, ossia
> sulla quale si possono costruire algoritmi, non generica o metafisica.

seguendo questo approccio metodologico, potremmo definire la vita
in modo da includere gli automi cellulari di Convey
https://en.wikipedia.org/wiki/Conway%27s_Game_of_Life 

Non ti sembra assurdo?

Spero ti renda conto anche tu che prendere un termine a caso dal
linguaggio comune ed attribuirgli una definizione "operativa" arbitraria
che permetta costruire algoritmi descrivibili con quel termine non ha
alcun rigore scientifico.

E se il problema è semplicemente costruire algoritmi, perché non
definire il termine "significato" come "intero esprimibile in 8 bit"?
Sai quanti algoritmi ci puoi fare!


I word embedding non rappresentano alcun significato, ma relazioni
statisticamente rilevanti fra i token cui sono associati all'interno
testi sorgente.

Parte di tali relazioni statisticamente rilevanti deriva dalle
funzioni grammaticali dei termini nella lingua utilizzata. Un'altra
parte deriva dallo stile compositivo degli autori dei testi. Un'altra
ancora è certamente correlata ai significati di quei termini.
Ma sempre di relazioni statisticamente rilevanti in un corpus testuale
stiamo parlando, non di significato.


> Si è dibattuto ad esempio sul significato di frasi quali “The present
> king of France is bald” che non è mappatile in una realtà esistente e
> così via per tutti i concetti astratti.

Ti prego, non ti limitare a ciò che il povero Puliafito ha capito degli
articoli della Bender e rigurgitato su facebook.

Una rapida lettura dell'articolo scritto con Koller nel 2020 [1] ti
rivelerà che la definizione formale di "significato" fornita nel
paragrafo 3.1 è molto più raffinata:

"""
We take meaning to be the relation M ⊆ E × I which contains pairs 
(e, i) of natural language expressions e and the communicative intents i
they can be used to evoke. Given this definition of meaning, we can now
use understand to refer to the process of retrieving i given e.
"""

Il malinteso che la Bender sottolinea nell'articolo di qualche giorno fa
è relativo alla definizione _informale_, di poche righe precedente:

"""
We take meaning to be the relation between the form and
something external to language...
"""

Tale definizione informale è effettivamente vaga, a causa di quel
"something" cui i fanboy della "intelligenza artificale" si aggrappano
per farci rientrare tecniche di programmazione statistica come la
"Contrastive Language-Image Pre-training", in cui due "reti neurali
artificiali" vengono programmate parallelamente per produrre in output
vettori prossimi a fronte di ciascuna coppia di immagine/descrizione.
[2]

Ora è vero che in qualche modo, a valle di una CLIP otteniamo una
mappatura fra un testo e _qualcosa_ fuori dal linguaggio (ovvero una
compressione con perdita delle immagini corrispondenti) ma questo non è
significato secondo la definizione di Bender e Keller perché, se ci
limitiamo a considerare il software che lo calcola, manca un qualsiasi
intento comunicativo. [7]


L'intenzionalità comunicativa è un interessantissimo proxy per la
definizione di informazione come esperienza soggettiva di pensiero
comunicabile. Ha di buono che chiarisce la centralità del mittente
nella definizione del significato che i riceventi si sforzano di
ricostruire interpretando il messaggio espresso.
Tuttavia l'intenzionalità comunicativa viene meno quando, ad esempio, 
il discorso è tutto interiore: quando usiamo il linguaggio nella
nostra mente per pensare (ovvero elaborare le nostre esperienze
soggettive).

Analogamente (ed in modo piuttosto ovvio) il riferimento alla realtà
condivisa nell'articolo in questione [3] è un proxy per le esperienze
condivise da mittente e ricevente.

La realtà è irrilevante per la definizione di un significato: è solo
necessario un insieme di esperienze condivise fra gli interlocutori.
Esperienze che includono il linguaggio dello scambio, ovviamente.

Se ci scrivessi che l'attuale re della Francia è calvo, intenderesti che
l'attuale re della Francia è calvo.
Non hai bisogno di conoscere il re di Francia per esprimere tale
significato: è sufficiente che la tua mente includa esperienze
soggettive di pensiero comunicabile come:
- "re", "attuale", "essere", "calvo"
- la lingua italiana
- l'assunzione che gli altri membri della lista dispongano di
  esperienze sufficienti simili
- l'assunzione che gli altri membri della lista sappiano interpretare
  la lingua italiana

Non è la realtà fisica ad essere rilevante in sé (analogamente a come
non è il corpo umano ad essere rilevante in sé) bensì la condivisione
di sufficienti esperienze soggettive di pensiero comunicabile fra gli
interlocutori a guidare il mittente nella selezione dei termini da
utilizzare per esprimere il messaggio.

La realtà (e la struttura dei corpi) che condividiamo sono poi veicoli
concretamente imprescindibili per acquisire esperienze soggettive di
pensiero comunicabile (per la gioia di Stefano e Enrico... :-)
sufficientemente simili da permetterci di sincronizzare le nostre menti
tramite il linguaggio.

In questo senso, il significato di molti testi è basato sul mondo
che i mittenti condividono con i destinatari.
Ma ciò non significa in alcun modo che gli autori non possano ad
esempio descrivere la teoria delle stringhe [4], assumendo una
sufficiente comprensione della matematica negli interlocutori.

> Enrico continua a usare la locuzione “comprendere in senso umano”
> (qui dice "non è la comprensione umana”) che a me non interessa
> assolutamente (anche perché non so come definirla scientificamente).

Enrico cerca di essere divulgativo.

Io, quando provo ad essere rigoroso, definisco la comprensione come il
processo di integrazione dell'interpretazione del messaggio nella mente
del ricevente [5].

Analogamente definisco il pensiero come l'esperienza soggettiva
dell'elaborazione dell'informazione [6].


Definizioni che rifiuti non perché contraddette dalla tua
esperienza soggettiva di pensiero, ma perché incompatibili
con la speranza di riuscire a costruire un giorno una macchina
intelligente.



Giacomo


[1] https://aclanthology.org/2020.acl-main.463.pdf

[2] per semplificare, dato un dataset di coppie immagine/descrizione
    una vector mapping machine viene programmata per ricevere in input
    la rappresentazione vettoriale dell'immagine e proiettarla in uno
    spazio X in output; l'altra viene programmata per ricevere in input
    la descrizione e proiettarla sempre nello spazio X in output,
    assicurandosi tramite la backpropagation che i due elementi di
    ciascuna coppia vengano proiettata su punti prossimi dello spazio
    X, così che l'immagine di un gatto e la descrizione "un gatto"
    siano vicini mentre l'immagine di un gatto e la descrizione "una
    finestra" siano distanti.

[3] le parole esatte, sempre nella sezione 3.1 sono "the real world
    the speaker and listener inhabit together"

[4] notoriamente né verificabile, né falsificabile
    https://it.wikipedia.org/wiki/Teoria_delle_stringhe#Critiche

[5] interpretazione che avviene, essa stessa, alla luce delle
    informazioni già presenti nella mente del ricevente. Se ti scrivo
      1 + 1 = 10
    tu non avrai problemi ad interpretare correttamente il messaggio
    come espressione in base 2, mentre altri obietteranno
    istintivamente "No, 1 + 1 = 2!".
    Tuttavia anche loro, leggendo il resto della frase precedente
    integreranno l'informazione nella propria mente che "espresso in
    base due, 1 + 1 = 10", comprendendo il messaggio iniziale.

[6] informazione sempre definita come esperienza soggettiva di pensiero
    comunicabile

[7] in realtà, a ben guardare, un intento comunicativo c'è: è l'intento
    dei programmatori statistici che hanno selezionato il corpus di
    coppie immagine/descrizione, ma il loro messaggio è l'intero
    software programmato statisticamente, di cui ogni specifico output è
    solo un frammento vagamente correlato all'input.

Reply via email to