Un errore di Bard è già costato caro a Google

Mercoledì le azioni in borsa di Alphabet, la grande società che controlla Google, hanno perso il 7 per cento del proprio valore in seguito alla scoperta di un errore commesso in occasione di una presentazione pubblica da Bard, il suo nuovo sistema di intelligenza artificiale che l’azienda sta integrando all’interno del proprio motore di ricerca. L’errore riguardava il James Webb Space Telescope (JWST), il più grande e potente telescopio spaziale, era contenuto in uno degli annunci promozionali mostrati lunedì dai responsabili di Google durante la presentazione del nuovo sistema, ed era stato notato inizialmente da vari astronomi e appassionati di Spazio.

Bard è il software di Google per fare quello che fa il più noto e discusso ChatGPT, e cioè rispondere a domande e richieste degli utenti con testi pertinenti e informativi composti automaticamente sulla base di una grande mole di informazioni a disposizione. È ancora in fase di sperimentazione, ma Google ne sta accelerando lo sviluppo per rispondere alla concorrenza di ChatGPT di OpenAI, sistema che ha ricevuto grandi attenzioni alla fine dello scorso anno per la sua capacità di sostenere conversazioni con gli utenti e fornire risposte articolate, anche se non sempre corrette e verificate. Questa settimana Microsoft ha messo a disposizione una versione del proprio motore di ricerca Bing con alcune funzionalità di ChatGPT, mettendo ulteriormente sotto pressione Google per offrire in tempi rapidi qualcosa basato sui propri sistemi di intelligenza artificiale applicati alla ricerca di informazioni online.

Tra i materiali promozionali mostrati lunedì da Google su Twitter c’era una scheda dedicata al JWST, con una richiesta a Bard di spiegare a un bambino di nove anni come funzioni il telescopio spaziale, lanciato alla fine del 2021. Le informazioni fornite contenevano una frase notata in seguito da molti esperti: «Il JWST ha scattato le prime foto in assoluto di un pianeta fuori dal nostro sistema solare. Questi mondi lontani sono chiamati “esopianeti”. Eso significa “dall’esterno”».

Nelle ore e nei giorni seguenti, vari astronomi avevano segnalato su Twitter che in realtà la risposta non era corretta, considerato che la prima immagine di un esopianeta era stata realizzata e diffusa nel 2004, quindi circa 18 anni prima che il JWST iniziasse le proprie osservazioni dell’Universo. Chris Harrison, astronomo presso la Newcastle University (Regno Unito), aveva risposto al tweet chiedendo: «Perché non avete verificato questo esempio prima di condividerlo?».

Why didn't you fact check this example before sharing it? If you use Google to look stuff up you will see Bard has made errors. Try googling: "when was the first direct image of an exoplanet made?"

— Chris Harrison (@CMHarrisonAstro) February 7, 2023

Grant Tremblay, che lavora al Centro per l’astrofisica di Harvard e dello Smithsonian (Stati Uniti), aveva pubblicato un tweet chiedendo spiegazioni a Google e segnalando l’errore: «Non per fare lo stronzo che inizia con “beh veramente”, e sono certo che Bard sarà notevole, ma per la cronaca: il JWST non ha scattato la prima immagine di un pianeta fuori dal nostro sistema solare». Tremblay aveva anche allegato l’immagine del 2004 realizzata utilizzando i sistemi del Very Large Telescope dello European Southern Observatory nel deserto di Atacama in Cile.

Not to be a ~well, actually~ jerk, and I'm sure Bard will be impressive, but for the record: JWST did not take "the very first image of a planet outside our solar system".

the first image was instead done by Chauvin et al. (2004) with the VLT/NACO using adaptive optics. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h

— Grant Tremblay (@astrogrant) February 7, 2023

Essendo corpi celesti molto distanti dalla Terra e non brillando di luce propria come le stelle, gli esopianeti sono molto difficili da osservare direttamente. Per questo la tecnica più utilizzata consiste nell’osservare una stella rilevando i suoi periodici cambiamenti di luminosità, che si verificano quando un pianeta le passa davanti coprendola in parte (rispetto al punto di osservazione). Basandosi sui cambiamenti della luce e di altri parametri, gli astronomi riescono a ricostruire molte informazioni sui pianeti, determinando le loro dimensioni, la composizione e la distanza dalla stella di riferimento. L’osservazione diretta consiste invece nel realizzare un’immagine dell’esopianeta vero e proprio, dettaglio su cui Bard non sembra avesse le idee molto chiare.

Tremblay aveva detto di avere apprezzato la scelta di Google di utilizzare il JWST per la propria dimostrazione, ma ha ricordato che i sistemi di intelligenza artificiale sono spesso «troppo sicuri di ciò che affermano e sbagliano». In generale, tendono a dare come fatti informazioni che in realtà non sono in grado di verificare autonomamente.

Le attuali versioni di questi sistemi non attingono a una grande raccolta di informazioni verificate, che sarebbe del resto molto difficile da organizzare e mantenere aggiornata, ma fanno riferimento a enormi quantità di testo provenienti dalle più disparate fonti sulle quali si “allenano” per imparare a conversare con un linguaggio naturale, il più simile possibile al nostro. I loro algoritmi valutano quale parola usare dopo quella che hanno appena selezionato, utilizzando un approccio per lo più probabilistico. Non hanno prettamente “coscienza” di ciò che dicono e, benché ci siano algoritmi per attenuare questa condizione, non hanno strumenti adeguati per evitare di dare risposte errate.

Dopo l’annuncio di Bard, in molti si sono chiesti come farà Google a tenere sotto controllo la nuova funzione, riducendo il rischio di informazioni errate spacciate per corrette come nel caso del JWST. L’incertezza sulle effettive capacità del sistema e le forti pressioni dovute al successo di ChatGPT spiegano almeno in parte la perdita di valore in borsa di mercoledì.

Microsoft, che ha già iniziato a diffondere una versione aggiornata di Bing con alcune funzionalità derivanti da ChatGPT, ha per ora scelto di promuovere il sistema come qualcosa di sperimentale, puntando più sulla curiosità degli utenti: «Bing funziona grazie a un’intelligenza artificiale, quindi aspettatevi qualche sorpresa e qualche errore. Assicuratevi di verificare i fatti e fateci avere dei riscontri così da poter imparare e migliorare!».

Google ha risposto alle critiche degli ultimi giorni spiegando che Bard continuerà a essere rifinito nelle prossime settimane, sottoponendolo a «un rigoroso processo di verifica». Al momento non è chiaro quando le nuove funzionalità saranno disponibili sul motore di ricerca, anche se dai recenti annunci sembra che la società voglia fare in fretta per recuperare sui progressi raggiunti dalla concorrenza.