Ricordandoci che è un inganno

Dobbiamo quindi barcamenarci tra il disagio psicologico che proviamo nel seguire i consigli di un software e i rischi che corriamo quando confondiamo un chatbot con un essere umano. Possiamo provare a difenderci ricordando che è un inganno, ma come dimostra il caso di Sydney rischieremmo comunque di convincerci che questi modelli siano qualcosa di più. […] Nel frattempo la nostra tendenza a vedere qualità umane dove non ci sono potrebbe metterci nei guai.

Effettivamente, a ben vedere, quasi tutti gli esperimenti che hanno fatto più rumore sulla stampa rispetto a ChatGPT, a prescindere dall’entusiasmo o dal terrore generato, sono partiti dal presupposto di considerare il chatbot alla stregua di un essere senziente, di un’intelligenza che, seppur artificiale – appunto – fosse dotata di empatia, di umanità. È un tranello nel quale correttamente Alex Wilkins suggerisce di non cadere.

Poi, se dovessimo avete ancora dubbi su quanto sia intelligente un’intelligenza artificiale, risponde puntualmente Annamaria Testa.

È il New Yorker a sostenere che ChatGpt non è altro che una copia sfuocata del web. L’argomentazione è convincente: per funzionare, ChatGpt individua ed estrae le regolarità statistiche, cioè le formule linguistiche più ricorrenti, dalla sterminata quantità di testi che prende in rete. Lo fa a partire da un modello che mette in fila le parole selezionandole in base alla probabilità che ciascuna parola segua la porzione di testo che la precede

In questo modo può restituire, rispondendo a qualsiasi richiesta (prompt) e in una forma grammaticalmente corretta, non una specifica informazione, ma qualcosa che è la sintesi meccanica di quanto appare con maggior frequenza in migliaia di contenuti che condividono una o più parole o sequenze di parole-chiave. Il risultato è un discorso formalmente impeccabile, a cui manca però ogni profondità e, per così dire, ogni spigolo.

In chiarezza: sono ancora uno entusiasta. Trovo molto utili le AI e le sto già usando per velocizzare o migliorare il mio lavoro. Non mi sono mai posto nei loro confronti come a confrontarmi con un amico, una collega o con mia madre, non mi aspetto pertanto di ricevere risposte emotivamente coinvolgenti né eccezionalmente illuminanti. È calcolo delle probabilità misto a un imponente lavoro di scraping i cui output sono correnti e sorprendenti. Ma non per forza intelligenti.