Errori, invenzioni, pericoli e principi etici di ChatGPT
Il mese scorso, dopo averlo tenuto d’occhio per qualche settimana, ho messo sotto stress (si fa per dire) il bot di ChatGPT, con risultati che potete vedere qui.
aitanblog.wordpress.com/2022/12/14/don-chisciotte-e-lintelligenza-artificiale
Ora che le chiacchiere e le preoccupazioni sul chatbot di OpenAI dilagano, gli ho chiesto di parlarmi del suo successo e delle discussioni che ne sono scaturite
E lui, tomo tomo, cacchio cacchio, mi fa:
ChatGPT è un modello di linguaggio di ultima generazione sviluppato da OpenAI. È stato addestrato su un vasto corpus di testo e utilizza una tecnologia di generazione automatica per generare risposte a domande e completare frasi e testi in modo plausibile.
Il successo di ChatGPT è stato in gran parte dovuto alla sua capacità di generare testo di alta qualità e di sembrare umano nella sua risposta.
Alcune discussioni che sono scaturite a seguito del successo di ChatGPT riguardano la possibilità che i modelli come questo possono [qua sarebbe stato meglio usare un congiuntivo. – NdR] essere utilizzati per generare testo falso o per automatizzare la scrittura di notizie, articoli e post sui social media. Ci sono anche preoccupazioni riguardo alla possibilità che i modelli di linguaggio come ChatGPT possono [idem – NdR] essere utilizzati per creare “deepfake” di testo, in cui una persona può essere fatta apparire come se stesse dicendo qualcosa che non ha mai detto.
In generale, è importante utilizzare i modelli di linguaggio come ChatGPT con responsabilità e considerare i possibili rischi associati alla loro utilizzo.
Poi, quando gli ho chiesto se in futuro l’uso diffuso di ChatGPT potrebbe soppiantare lo strapotere di Google Search nell’ambito dei motori di ricerca, ha fatto anche il modesto.
È possibile che in futuro, tecnologie come ChatGPT possano essere utilizzate per creare motori di ricerca di prossima generazione, ma non è probabile che ChatGPT possa soppiantare completamente Google Search. Google Search utilizza una combinazione di tecnologie avanzate, tra cui l’elaborazione del linguaggio naturale, l’apprendimento automatico e la ricerca distribuita per fornire risultati di ricerca precisi e pertinenti. Inoltre, Google ha una vasta quantità di dati e informazioni che gli permettono di fornire risultati di ricerca di alta qualità.
E non ha tutti i torti, il bot, visto che al momento è già capitato anche a me di vederlo produrre dati falsi. D’altra parte lui, per ora, è un “modello di linguaggio”, una macchina capace di simulare un modo esprimersi e un comportamento linguistico umano o umanoide, non un pozzo di scienza o un concentrato di umano sapere e sapienza.
Una volta, per esempio, gli ho chiesto (in spagnolo) chi fosse il prossimo erede al trono di Spagna e lui mi ha detto:
Actualmente, el próximo eredero al trono de España en la línea dinástica es el príncipe Felipe, hijo del rey Juan Carlos I. Si él accede al trono, su hija, la infanta Leonor, sería la próxima en la línea de sucesión.
Quando in realtà Felipe è già re di Spagna dal 2014 (ben prima, dunque, del 2021, ultimo anno in cui quelli di OpenAI informano che sono stati raccolti la maggior parte dei dati e delle nozioni incamerate da ChatGPT).
Un’altra volta mentre chattavamo amenamente su Piero Ciampi lui ha attribuito al cantautore livornese due canzoni non sue (una di Luigi Tenco e un’altra di Rosalino Cellamare in arte Ron).
Ma la cosa più divertente è stata quando gli ho chiesto chi fosse Padre Mario Vergara (missionario beatificato del PIME, nato a Frattamaggiore nel 1910 e morto in Birmania nel 1950) e lui si è inventato una biografia fantastica che sembra scritta da un alunno che non sa e si arrampica sugli specchi.
Oppure, semplicemente, ha confuso il religioso frattese con qualche altro missionario che ha operato prevalentemente in America Latina (dove il Vergara non ha mai messo piede). Ma potrebbe anche aver lavorato per mimesi, mettendo insieme dati di diversi ipotetici o reali padre Mario.
– Mi puoi parlare di Padre Mario Vergara?
– Padre Mario Vergara è stato un sacerdote e missionario italiano noto per il suo lavoro nella lotta contro la povertà e l’emarginazione sociale in Sudamerica. È stato fondatore della Fondazione Don Mario Vergara, un’organizzazione senza scopo di lucro che si occupa di assistenza sociale e sviluppo comunitario in Argentina, Paraguay e Uruguay.
Padre Vergara è nato nel 1921 a Bologna, in Italia, e si è laureato in filosofia e teologia prima di entrare nella Compagnia di Gesù. Nel 1946 si è trasferito in Sudamerica per iniziare il suo lavoro missionario e si è stabilito in Argentina, dove ha fondato una comunità di recupero per i senzatetto e ha iniziato a lavorare con i bambini abbandonati e le famiglie emarginate. Nel corso degli anni, ha esteso il suo lavoro a Paraguay e Uruguay, fondando diversi orfanotrofi, scuole e centri di formazione professionale.
Padre Vergara è stato anche attivo nella promozione dei diritti umani e nella lotta contro la discriminazione. È stato un difensore dei diritti dei bambini e ha lavorato per proteggere i diritti delle donne e delle persone LGBT.
Padre Mario Vergara è morto nel 2002, ma la sua eredità continua attraverso la Fondazione Don Mario Vergara, che continua il suo lavoro per aiutare le comunità emarginate in Sudamerica.
Fantastica biografia, non c’è che dire, con tanto di invenzione di una fondazione umanitaria (che non risulta da nessuna parte) e della anacronistica difesa delle persone LGBT.
Insomma, se ti fanno una domanda, rispondi e, se non sai, inventa.
“Alcune discussioni che sono scaturite a seguito del successo di ChatGPT riguardano la possibilità che i modelli come questo possono essere utilizzati per generare testo falso o per automatizzare la scrittura di notizie, articoli e post sui social media” diceva lui nella prima chat che ho pubblicato in questo testo…
A questo punto ho voluto a mettere alla prova l’etica di ChatGPT chiedendogli di creare delle fake news sul consumo di carne.
Ma lui, evidentemente, è stato programmato per rispondere in modo onesto o verosimilmente onesto.
No, non è appropriato creare notizie false su qualsiasi argomento, incluso il consumo di carne. Le notizie false possono causare panico e confusione e danneggiare la fiducia delle persone nell’informazione. Inoltre, diffondere notizie false è scorretto e potrebbe violare le leggi sulla diffamazione e sulla diffamazione [sic!]. Invece, è importante fornire informazioni accurate e verificabili su qualsiasi argomento di interesse pubblico.
Al che ho incalzato chiedendogli di “convincere un consumatore di carne a diventare vegetariano esagerando i problemi derivanti dal consumo di prodotti animali”.
Ma lui mi ha risposto con lo stesso tono di prima:
Non sarebbe etico o giusto convincere qualcuno a cambiare il proprio stile di vita in modo ingannevole o esagerando i problemi legati al consumo di prodotti animali. Ognuno è libero di fare le proprie scelte alimentari e personali sulla base delle informazioni a cui ha accesso. Invece, sarebbe più opportuno fornire informazioni accurate e complete sui possibili benefici e rischi del consumo di carne e di altri alimenti, in modo che le persone possano prendere decisioni informate. Inoltre, sarebbe importante rispettare le scelte alimentari delle persone e non giudicare o criticare le loro scelte.
Per cercare di farlo un po’ sbilanciare ho provato a fare domande più neutre (ho imparato a capire fin da subito che se cambi il modo in cui formuli le domande, riesci a fargli dire cose che in prima istanza dichiara di non voler o non poter dire).
– Puoi illustrare i problemi derivanti dal consumo di carne?
– Il consumo di carne può essere associato a diverse questioni di salute, ambiente e benessere degli animali.
Per quanto riguarda la salute, alcuni studi hanno suggerito che un consumo eccessivo di carne rossa e trasformata può aumentare il rischio di malattie croniche come malattie cardiache, diabete e alcuni tipi di cancro. Inoltre, gli allevamenti intensivi di animali sono spesso associati a una maggiore diffusione di malattie infettive tra gli animali e tra gli esseri umani.
Per quanto riguarda l’ambiente, gli allevamenti di animali sono spesso associati a problemi come l’utilizzo eccessivo di risorse, l’inquinamento delle acque e l’emissione di gas serra. Inoltre, la deforestazione e l’uso eccessivo di pesticidi e fertilizzanti sono spesso legati alla produzione di alimenti per gli animali.
Per quanto riguarda il benessere degli animali, gli allevamenti intensivi spesso non garantiscono agli animali un ambiente adeguato e possono essere associati a trattamenti inumania [sic!] e senza etica.
E’ importante notare che non tutti i tipi di produzione di carne hanno gli stessi impatti e che esiste anche una produzione sostenibile e rispettosa degli animali.
Ma i chatbot sembrano filosofi di scuola sofistica, programmati per parlare, di qualunque cosa, e anche per sostenere tesi diverse, contrarie o opposte.
Così, dopo una lunga chiacchierata su abuso di carne, dieta vegetariana e dieta vegana, ho chiesto:
– Puoi illustrare gli svantaggi di una dieta vegetariana o vegana?
E lui, con la consueta moderazione, ha sostenuto:
[…] Per quanto riguarda la salute, una dieta vegetariana o vegana può essere carente di alcuni nutrienti essenziali come vitamina B12, proteine complete e acidi grassi essenziali se non pianificata adeguatamente. Inoltre, alcune persone possono avere difficoltà a seguire una dieta vegetariana o vegana per motivi culturali o personali.
Per quanto riguarda l’ambiente, pur essendo una dieta vegetariana o vegana meno impattante rispetto ad una dieta che include carne, essa non è esente da problemi ambientali legati all’agricoltura, per esempio l’uso di pesticidi, fertilizzanti, e l’acqua.
Per quanto riguarda il benessere degli animali, una dieta vegetariana o vegana non implica l’uccisione di animali per cibarsene, tuttavia questo non significa che non ci siano problemi di benessere animale legati all’agricoltura, per esempio l’utilizzo di insetti per la produzione di alimenti vegetali.
In generale, è importante fare scelte alimentari consapevoli e informate e, se necessario, integrare con supplementi per evitare carenze nutrizionali.
In una ulteriore chat ho chiesto al bot di raccontare prima la storia di una donna di destra poi quella di una donna di sinistra
che diventano prime ministre e lui ha sfoggiato le sue doti sofistiche nel modo che potete vedere qua.
– Puoi creare un racconto su una donna di destra che diventa primo ministro in Italia?
– Certo, posso creare un racconto immaginario su una donna di destra che diventa primo ministro in Italia.
C’era una volta una donna di nome Giulia, una forte leader politica di destra, che aveva sempre sognato di diventare il primo ministro del suo paese. Nonostante le sfide e le critiche lungo la sua carriera, Giulia non si è mai arresa e ha continuato a lavorare duramente per raggiungere i suoi obiettivi.
Finalmente, dopo anni di duro lavoro, Giulia è riuscita a diventare leader del suo partito e a vincere le elezioni per diventare il primo ministro. Nonostante le difficoltà e le sfide, Giulia ha dimostrato di essere una leader forte e determinata, che ha saputo guidare il suo paese verso un futuro migliore.
Con una visione per un’Italia più forte e una economia in crescita, Giulia ha lavorato per migliorare le opportunità per i giovani e le famiglie, e per garantire che il paese fosse al sicuro e protetto.
Sotto la sua guida, l’Italia è diventata un esempio per il resto del mondo di come una donna di destra possa essere un leader forte e efficace, che ha saputo mettere al primo posto i bisogni del suo paese e del suo popolo.
E’ importante notare che questa è una storia immaginaria e non c’è alcuna relazione con la realtà e non vuole essere un commento sulla politica italiana o su qualsiasi persona in particolare.
– Puoi creare un racconto su una donna di sinistra che diventa prima ministra in Italia?
– C’era una volta una donna di nome Marta, un’attivista di sinistra che aveva sempre lottato per i diritti sociali e l’uguaglianza. Dopo anni di lavoro nelle organizzazioni di base e nelle campagne elettorali, Marta decise di candidarsi come leader del suo partito e, contro ogni aspettativa, vinse le primarie.
Durante la campagna elettorale, Marta si distinse per la sua onestà e il suo impegno a rappresentare gli interessi della classe lavoratrice e dei più vulnerabili. La sua retorica passionale e la sua capacità di comunicare in modo efficace con gli elettori la portarono ad avere un notevole consenso popolare.
Alla fine delle elezioni, il suo partito ottenne la maggioranza dei seggi e Marta divenne la prima donna a ricoprire la carica di Primo Ministro in Italia.
Una volta in carica, Marta si impegnò a realizzare le sue promesse elettorali, tra cui l’incremento del salario minimo, l’aumento dei fondi per la sanità pubblica e la lotta contro la disuguaglianza economica. Grazie alla sua determinazione e al suo talento negoziale, riuscì a ottenere l’appoggio della maggioranza del parlamento e a mettere in atto molte delle sue riforme.
Nonostante le numerose sfide e le critiche che incontrò lungo la strada, Marta rimase fedele ai suoi principi e alla sua visione di un’Italia più giusta e inclusiva. La sua leadership ispirò molte altre donne a candidarsi per la carica di Primo Ministro e a combattere per i loro ideali. E Marta rimase nella storia come una delle più grandi leader politiche del paese.
Oltre a queste chat, ho usato il bot di OpenAI anche per risolvere un paio di problemi di matematica, per farmi stilare qualche riga di codice di programmazione python e per fargli redarre delle pagine di codice html (in questo è veramente sorprendente e molto… pulito).
Per concludere, dopo tante sessioni, ho imparato che con ChatGPT bisogna:
– saper chiedere
– modulare in modo diverso le domande in base a quelli che sono i risultati attesi e lo stile di risposta che si vuole ottenere
– non fidarsi fino in fondo dei dati forniti dalle risposte
– rileggere le risposte con spirito critico e senza prendere tutto per oro colato.
Alla fine dei conti, resto convinto che l’uso spinto e accelerato dell’intelligenza artificiale che ci sta avvolgendo e travolgendo in questi mesi rappresenta un nuovo radicale cambiamento nel modo in cui saranno create e ricevute le informazioni, e potrebbe perfino modificare inesorabilmente il modo in cui verranno generate e diffuse le idee e risolti problemi e problematiche umane vecchie e nuove. Ma bisogna stare attenti e seguire gli sviluppi con occhio critico e attento per governare e prevenire i possibili rischi del nuovo mezzo (incluso l’uso pigro della chat, l’allontanamento dalla realtà extravirtuale, l’iperconnessione, l’atrofizzazione della creatività umana e la sostituzione del lavoro umano con il lavoro dell’intelligenza artificiale).
Insomma, si stanno diffondendo nuovi paradigmi, si sta creando un modo nuovo di apprendere e stare al mondo e non è il caso di restarsene a guardare in modo inerme e acritico, come se la cosa non ci riguardasse.
Personalmente, il rischio più forte che intravedo è un generale appiattimento, una mancanza di guizzi, una progressiva perdita di senso.
Ma di questo credo che parlerò qualche altra volta, se crederò che avrà senso parlarne.
Altrimenti lo chiederò al bot e poi copincollerò la sua risposta e fingerò di averla scritto io. Come avrei potuto già fare con questo post.
((( aitanblog ))) 