Un modo che mi piace spesso usare per provare a “rendersi conto” di un grande numero è di tradurlo nel tempo che si impiegherebbe per contare fino a tale numero, immaginando di contare un numero al secondo. Questo per la quasi paradossale, forse illusoria, concezione che abbiamo del tempo, almeno finché paragonabile alla durata della vita umana o alla storia della civiltà.

Per cui, se per contare fino ad un milione ci vogliono solo 11 giorni e mezzo (un tempo sorprendentemente breve, a mio avviso), per contare fino a un miliardo ci vogliono poco meno di 32 anni. E già siamo in un lasso di tempo che comincia ad essere non così facilmente percepibile.

Pare che i neuroni artificiali usati per ChatGPT 3.5 siano circa 44 milioni, ovvero solo 1 anno e mezzo di conteggio. I parametri (più o meno equivalenti al numero di collegamenti, o sinapsi artificiali) di questa AI sono circa 175 miliardi, ovvero ben 5.500 anni di conteggio. Bisogna partire a contare da quando è stata costruita la piramide di Chefren, fino ad oggi, senza mai fermarsi.

Ho trovato stime del numero di neuroni artificiali di GPT-4 attorno ai 100 miliardi, e il numero di sinapsi artificiali attorno ai 100mila miliardi. Quest’ultimo numero raggiungibile dopo più di 3 milioni di anni di conteggio, ovvero partendo prima del primo ominide del genere Homo apparso sulla Terra, quando c’erano ancora solo gli Australopithecus.

Se volessimo quindi provare a seguire il percorso di un singolo valore di input verso l’output di GPT-4, allo scopo di capirne la ragione matematica di tale output (cosa possibilissima per piccole reti neurali), saremmo di fronte ad una tale quantità di calcoli da essere non solo praticamente irrealizzabile, ma anche umanamente inconcepibile.