Google vuole cambiarci la vita, di nuovo

Nei prossimi mesi il modo di cercare informazioni online cambierà per miliardi di persone in tutto il mondo, in seguito a una delle più profonde modifiche al sistema che utilizzano per trovare praticamente qualsiasi cosa: Google. Nella sua pagina dei risultati – il punto di partenza di buona parte delle nostre esperienze online – il motore di ricerca più famoso e utilizzato mostrerà direttamente le risposte ai quesiti con testi generati sul momento dai suoi sistemi di intelligenza artificiale (AI). Per Google è un passo naturale e inevitabile per promuovere le nuove evoluzioni delle AI, ma osservatori ed esperti segnalano che potrebbe essere un ulteriore passo verso la scomparsa del Web, con grandi implicazioni per il modo in cui ciascuno di noi scopre nuove cose e si informa.

Google aveva già sperimentato in passato sistemi per riassumere alcune informazioni nelle pagine dei risultati, ottenendole per esempio da Wikipedia, con pannelli informativi dai quali poi si potevano raggiungere i siti utilizzati per compilarli. Durante Google I/O della scorsa settimana, l’evento organizzato annualmente per presentare le ultime novità, la società ha presentato l’evoluzione di quel concetto: l’ha chiamata “AI Overviews” (letteralmente “Panoramiche AI”) e funziona utilizzando Gemini, il sistema di intelligenza artificiale che Google sta progressivamente integrando in tutti i propri servizi da Gmail a Workspace, la serie di applicazioni per la produttività.

AI Overviews è già disponibile negli Stati Uniti e il piano di Google è di distribuirlo in buona parte del resto del mondo entro la fine del 2024, con modalità che potrebbero cambiare a seconda dei paesi. Il sistema era già stato sperimentato nell’ultimo anno in modalità meno evidenti, nell’ambito dei test che la società aveva avviato per rispondere alla serrata concorrenza di OpenAI, la società che ha sviluppato ChatGPT e che sembra abbia in programma di sviluppare un proprio motore di ricerca. La fase di test era stata a tratti caotica e iniziano a circolare segnalazioni sulla scarsa affidabilità di AI Overviews, soprattutto in alcune tipologie di risposte.

Che ci fosse qualche rischio era diventato del resto evidente già nel corso della presentazione della nuova funzionalità durante Google I/O. In una dimostrazione, una persona utilizzava la fotocamera del proprio smartphone per inquadrare una macchina fotografica a pellicola, e chiedeva all’AI di Google come mai non funzionasse la leva per l’avanzamento della pellicola stessa. Tra i consigli forniti dalla AI c’era quello di aprire la macchina fotografica per verificare che non si fosse inceppata la pellicola, un procedimento rischioso (soprattutto se ci si trova in un luogo con molta luce) perché potrebbe rovinare gli scatti già effettuati, esponendo la pellicola a un’eccessiva quantità di luce.

In generale, le AI hanno mostrato di avere spesso problemi nel fornire informazioni affidabili dovute a quelle che vengono definite “allucinazioni”. Le cause possono essere diverse, ma portano più o meno al medesimo risultato: le AI forniscono comunque una risposta, anche se non hanno informazioni o non ne hanno di precise a sufficienza, in alcuni casi confondendo o inventando le informazioni. Il risultato è che si ottengono risposte verosimili che talvolta vengono prese comunque per vere da chi sta cercando informazioni online, con tutti i rischi che ne conseguono.

I responsabili di Google non sembrano essere preoccupati più di tanto dal rischio delle allucinazioni, almeno a giudicare dalle loro dichiarazioni fornite durante e dopo la presentazione di AI Overviews. Sostengono anzi che con il nuovo sistema il loro motore di ricerca possa «googlare per voi», semplificando le ricerche online che richiedono di provare più parole chiave e ricerche consecutive. Il rischio che vengano fornite informazioni inesatte o completamente inventate viene di rado contemplato pubblicamente dall’azienda, nonostante questa abbia una certa responsabilità visto che offre uno dei servizi più utilizzati nella storia di Internet, tanto da averne segnato parte dell’evoluzione negli ultimi 25 anni.

Ai rischi legati alle allucinazioni si aggiungono le preoccupazioni degli editori dei siti, che temono una forte riduzione del traffico sulla loro pagine. Se Google offrirà direttamente le risposte nelle proprie pagine dei risultati, in modo molto più argomentato e completo di quanto faccia ora, pochissime persone saranno incentivate a cliccare sui link che rimandano verso i loro siti, dicono, con una perdita di lettori e di ricavi derivanti dagli annunci pubblicitari.

Liz Reid, la responsabile del motore di ricerca, sostiene invece che con AI Overviews i clic verso i siti aumentano: «In realtà, le persone vogliono cliccare sui contenuti del Web, anche quando è presente una AI Overview. Iniziano con quella e poi scelgono di approfondire». Reid dice che l’obiettivo di Google continuerà a essere quello di inviare «il traffico più utile» verso i siti, ma non ha fornito molte indicazioni su come Google intenda farlo né sui test finora effettuati per sostenere che con AI Overviews aumentino gli accessi ai siti citati nei testi scritti da Gemini.

Secondo diversi esperti dell’ottimizzazione dei contenuti dei siti (SEO) per rendere più probabile la loro presenza nelle prime posizioni della pagina dei risultati del motore di ricerca, in preparazione per l’avvento delle proprie nuove funzionalità legate all’intelligenza artificiale Google ha fatto diverse modifiche agli algoritmi. Alcune analisi hanno segnalato che dalla fine dell’estate del 2023 la visibilità nelle pagine dei risultati di alcuni grandi siti di informazione si è ridotta fino al 75 per cento. Google non commenta mai le modifiche ai propri algoritmi, ma l’ipotesi più condivisa è che la società abbia iniziato a rendere meno evidenti alcuni contenuti prodotti dai siti in modo da dare maggiore evidenza alle risposte generate dalle sue AI.

È vero che in AI Overviews è prevista la presenza di link verso i siti, ma le informazioni fornite direttamente nella pagina dei risultati sono spesso più che sufficienti per avere una risposta, soprattutto considerato che in media una ricerca su Google e la relativa sessione di lettura di una fonte dura meno di un minuto. I sistemi di AI scrivono le proprie risposte basandosi sulle enormi quantità di dati e informazioni che raccolgono online, anche se come abbiamo visto talvolta fanno confusione e riassumono i contenuti in modo errato. I produttori di quei contenuti, cioè gli editori dei siti a partire da quelli dei giornali, accusano Google, OpenAI e gli altri di utilizzare i loro articoli per allenare i sistemi di intelligenza artificiale, potenzialmente violando il diritto d’autore. Ciò ha sia implicazioni legali, con cause come quella del New York Times contro OpenAI avviata qualche mese fa, sia conseguenze pratiche su come debba essere considerato un motore di ricerca.

Google ha sempre sostenuto che il proprio motore di ricerca sia uno strumento per cercare e trovare informazioni, ma che non possa essere considerato un prodotto editoriale che dovrebbe sottostare a leggi e regole che variano a seconda dei paesi, soprattutto per quanto riguarda i contenuti prodotti da altri e tutelati dal diritto d’autore. Con l’introduzione di AI Overviews e la produzione di propri testi, non derivanti dal mostrare semplicemente anteprime dei siti nella pagina dei risultati, le cose potrebbero cambiare e Google potrebbe essere considerato un editore a tutti gli effetti. In questo caso l’azienda avrebbe molte più responsabilità, anche legate alla prevenzione della diffusione di notizie false.

In un quarto di secolo circa di esistenza, Google ha costruito una buona reputazione intorno ai propri servizi, grazie sia alla qualità dei suoi sistemi per catalogare il Web sia dei suoi algoritmi per trovare risposte a praticamente qualsiasi richiesta, indirizzando verso i siti più rilevanti per ottenere le informazioni desiderate. La costruzione di quella fiducia, intaccata negli ultimi anni dalle maggiori preoccupazioni da parte dei suoi utenti per la privacy, in parte è stata resa possibile dalla mancanza di concorrenti che potessero competere con i suoi servizi.

Controllando la quasi totalità delle ricerche online che vengono effettuate ogni giorno in buona parte del mondo, Google ha una grande responsabilità e anche per questo il suo approccio molto cauto sull’introduzione di sistemi di AI all’interno del proprio motore di ricerca era stato in più occasioni apprezzato da esperti e osservatori.

Negli ultimi due anni, in seguito soprattutto ai successi di OpenAI, sembra che Google abbia abbandonato molte di quelle cautele pur avendo ancora un ruolo centrale per miliardi di persone, che nel bene e nel male si affidano ai suoi sistemi per trovare informazioni online. Allucinazioni e funzionamenti imprevisti delle sue AI potrebbero portare a una perdita di fiducia e danneggiare i suoi affari, ma potrebbero anche avere grandi effetti su un pezzo importante del modello economico di molte imprese, nate da poco o che hanno fatto un pezzo importante della storia del Web.

Il CEO di Google, Sundar Pichai, non sembra essere preoccupato più di tanto da questa evenienza, soprattutto perché considera in un certo senso superata l’esperienza del Web per come lo abbiamo inteso alla sua nascita circa 35 anni fa: «Sono arrivati i dispositivi mobili, si sono affermati i video e ci saranno tipi di contenuti molto differenti. Il Web non è più al centro di tutto come era un tempo. E penso che sia così ormai da un pezzo».

Sull’Atlantic Charlie Warzel ha commentato che se “il Web non è più quello di una volta” è probabilmente anche responsabilità di Google, di come sia lentamente peggiorato il suo motore di ricerca e del potere che ha accumulato nel decidere che cosa mettere o non mettere in evidenza dei siti. Lo ha fatto sempre più grazie alla capacità dei propri sistemi di catalogare costantemente il Web rispondendo all’obiettivo che da sempre si erano dati i suoi fondatori e cioè «organizzare le informazioni del mondo». Warzel e altri si chiedono se Google non abbia infine deciso di esserci riuscito e di conseguenza di essere passato ad altro, diventando la risorsa per rispondere direttamente a qualsiasi domanda. A prescindere dalla correttezza della risposta.