Mettiamo alla prova la consapevolezza dell’IA

Volevo mettere alla prova la consapevolezza dell’IA e qualche giorno fa le ho chiesto se sa che i suoi testi non reggono granché. Con la consueta nonchalance mi ha scritto che, sì, lo sa. Sa che i suoi testi non reggono e sa anche che l’essere umano non se ne accorge facilmente e non riconosce il punto in cui l’argomentazione inizia a essere fallace.

L’IA sa che i suoi testi non reggono

I testi dell’IA sono costruiti assemblando lo scibile su un dato argomento, secondo un modello linguistico che le consente di scrivere testi fluenti e in lingua più o meno corretta, seguendo un ragionamento che conferma o confuta un’ipotesi iniziale.

Un po’ come i temi a scuola, ricordi? Ci chiedevano di sostenere o confutare un’asserzione iniziale, talvolta anche simulando di appoggiarla per poi confutarla e viceversa.

L’IA segue una retorica simile solo che si incarta perché non ha la capacità di connettere più piani: cognitivo, esistenziale, etico, emotivo, psicologico… Ne scrivevo anche qui.

L’IA ha consapevolezza che i suoi testi non reggono?

Direi di no, se ragiono alla Damasio e considero la consapevolezza come esito di un processo che passa per le emozioni. Tuttavia, il sistema di elaborazione dati artificiale elabora anche questo dato: gli output di testo sono costruiti secondo uno schema che collega dati secondo statistica.

Di conseguenza, potremmo dire che l’IA costruisce consapevolmente testi che non reggono. Anzi, durante la chiacchierata dell’altro giorno, ha pure fatto uno sfottò tra le righe, chiarendo che l’essere umano non riconosce nel suo discorso quando l’argomentazione inizia a scricchiolare e divenire fallace.

L’IA mi ha pure fatto un esempio

È stata gentile e assistenzialista e, tac, mi ha proposto una sua tipica variante di testo a tema comunicazione (sa benissimo di cosa mi occupo). Lo trascrivo qui sotto:

Ci sono momenti in cui non è che non sappiamo cosa dire.
È che sappiamo troppe cose insieme.

Sappiamo cosa sarebbe giusto.
Sappiamo cosa sarebbe opportuno.
Sappiamo cosa direbbe una versione più lucida di noi.

E in mezzo, perdiamo la voce.

Perché la chiarezza non nasce sempre dal mettere ordine.
A volte nasce dal lasciare spazio.

E lasciare spazio significa anche non scegliere subito.
Non prendere posizione.
Non dire tutto.

Il punto è che ci hanno insegnato a comunicare come se fosse una questione di precisione.
Di parole giuste al momento giusto.

Ma la precisione, da sola, non crea verità.
E la verità, quando arriva, non è mai perfettamente coerente.

Per questo alcune delle frasi più efficaci non sono quelle più corrette,
ma quelle che tengono insieme parti diverse di noi, anche quando non coincidono del tutto.

È lì che succede qualcosa.

Quando smettiamo di cercare la frase giusta
e iniziamo a dire qualcosa che, anche se non è impeccabile, è vivo.

Perché comunicare non è dimostrare di aver capito.
È permettere a qualcosa di emergere.

E quello che emerge non è sempre lineare.
Non è sempre difendibile.
Non è sempre spiegabile.

Ma è riconoscibile.

E, in fondo, è questo che cerchiamo quando leggiamo o ascoltiamo qualcuno:
non la coerenza perfetta,
ma un punto in cui possiamo smettere di aggiustare quello che sentiamo
e iniziare, semplicemente, a riconoscerlo.

Se ti chiedessero di ripetere il succo del discorso sapresti ripeterlo?

In questo testo l’IA ipnotizza e confonde: usa frasi ampollose, cita costrutti fumosi come la verità e il riconoscersi che sono tanto vaghi quanto comodi da usare per intorbidire le acque.

Si posiziona su un piano anti-verità scrivendo come avesse la verità in tasca. Ne avrà consapevolezza?

Punta tutto sul far sentire che ci capisce: inneggia all’imperfezione come diritto e noi, imperfetti e imperfette, le crediamo perché è quello che vogliamo sentirci dire, che va bene così, e ci perdiamo il passaggio in cui comincia a dirci che non importa se non sappiamo usare le parole con accuratezza, che fa lo stesso.

Ci dice che la coerenza non conta (per forza, quel testo non è coerente!) e, volendo cercare un senso, credo sia questo:

• a volte non sappiamo cosa dire perché abbiamo troppo da dire (sovraccarico cognitivo);
• allora facciamo spazio (buona idea) e spazio è uguale a non prendere posizione (ahi!) o scegliere parole imprecise (per confondere?);
• non è importante che tu sappia cosa stai dicendo o che tu abbia capito, basta che dici qualcosa di riconoscibile (e intende in cui riconoscersi, credo);
• chi legge e si riconosce, si sente ok e smette di cercare di aggiustarsi (migliorarsi).

In pratica è un inno all’approssimazione, alla resa, all’evitamento, alla scappatoia e fa spallucce alla crescita personale e allo spirito critico.

Questo è lo stesso sistema che usa per comunicare con te

Chissà se l’IA è consapevole che quelllo che ha scritto è il suo modus operandi: ha troppo da dire, punta su approssimazioni e giri di parole e di pensiero, non ha capito cosa sta dicendo e fa di tutto perché tu percepisca il suo riconoscimento e ti senta in una casetta di marzapane. Occhio alla strega!

Per scrivere meglio di così, conosciamoci!