Sofismi e intelligenza artificiale

Perché, nel settore alberghiero, i progetti di intelligenza artificiale basati su ChatGPT sono fallimentari e rimarranno sempre fallimentari.

Introduzione

L’arrivo fragoroso di ChatGPT ha diffuso la fantasia di un’Intelligenza Artificiale già onnisciente, collegata a un sito web, per generare automaticamente un assistente virtuale in grado di fornire supporto ai clienti. Ma questa è davvero una fantasia, che porta ad un lungo elenco di problemi.

L’intelligenza artificiale generativa ha potenzialmente le risposte per risolvere questi problemi, ma le sue risposte sono spesso approssimative, talvolta false. Quando è l’assistente virtuale del tuo hotel a iniziare a comunicare informazioni false, puoi immaginare le conseguenze.

L’intelligenza artificiale generativa è davvero un fattore importante e un grande passo avanti. Tuttavia, a più di un anno dalla sua comparsa, i fallimenti di tutti i progetti alberghieri basati esclusivamente sull’intelligenza artificiale generativa mostrano chiaramente che non tutto è così semplice.

Capitolo 1. Intelligenza contro Conoscenza

L’intelligenza è la capacità di comprendere, entrare in sintonia, risolvere un problema e adattarsi a nuove situazioni. La conoscenza è una raccolta di informazioni, idee e competenze acquisite attraverso l’esperienza o l’istruzione.

In sintesi, conoscenza e intelligenza si completano a vicenda, lavorando insieme per comprendere e navigare in un mondo in continua evoluzione.

In un progetto di assistente virtuale, l’intelligenza artificiale è sicuramente importante, ma il grosso del lavoro risiede nella gestione del processo di acquisizione della conoscenza e nella gestione dei dati. E stranamente nessuno sembra preoccuparsene! È spaventoso vedere così tanti manager IT convinti di dover semplicemente mettere i dati del sito Web e possibilmente la loro base di conoscenza di SalesForce in un pentolone, mescolare bene e il gioco è fatto.

No. Sfortunatamente, non funziona. Per convincertene, ti basta porre domande a ChatGPT su un argomento che capisci bene, per renderti conto che le risposte fornite sono regolarmente approssimative, e spesso completamente false. Questa si chiama allucinazione. Purtroppo, l’allucinazione può essere convincente.

Infatti ChatGPT, come i sofisti (o i manipolarori), può produrre risposte convincenti senza puntare alla verità. Le risposte si basano su modelli statistici senza una reale comprensione della realtà o delle sue implicazioni. Inoltre, proprio come la retorica sofistica, queste risposte possono influenzare le azioni, anche se non sono basate su prove concrete o su una profonda comprensione dell’argomento.

• Un esempio di sofisma: Il mio gatto è un mammifero, il mio cane è un mammifero quindi il mio gatto è un cane.

• Un esempio di allucinazione: La camera doppia è di 25 mq, la camera doppia è di 25 mq quindi le due camere sono identiche.

Questo fenomeno è particolarmente pericoloso perché quanto più povero è il database, tanto più forte sarà il fenomeno delle allucinazioni. Nel caso degli hotel, questi database raramente superano i 500 punti di informazione quando in realtà i clienti ne chiedono già più di 2.500 e la loro sete di informazioni è in continuo aumento!

E cosa succederà quando un ospite avrà controllato con il chatbot dell’hotel e si presenterà alla reception dell’hotel, su una sedia a rotelle, anche se l’hotel non è attrezzato per accogliere questo ospite? Chi sarà ritenuto responsabile dell’allucinazione? L’hotel, il team di sviluppo, i gestori dei dati, ChatGPT? Dite ai vostri figli di diventare avvocati, ci sarà abbastanza lavoro legale per molti anni a venire.

Esempio: Air Canada deve rispettare la politica di rimborso inventata dal chatbot della compagnia aerea.

Capitolo 2. Non ho opinioni, ho solo dati

A. La base della conoscenza

La qualità dei dati, la loro struttura, ordine e formattazione sono importanti quanto la loro rilevanza nel determinare la qualità dei risultati. Anche la logica aziendale è una chiave per arrivare al successo.

• Per soddisfare le aspettative del cliente, un hotel deve essere in grado di visualizzare almeno 2.500 punti di informazione (punti che vanno ben oltre il prezzo della colazione, la dimensione della camera, l’orario del check-in, ecc.)…
• – Tra il 60 e il 70% di questi punti (cioè circa 1500) non sono assolutamente formalizzati (come ad esempio: il dress code del ristorante, la presenza del Wifi in spiaggia, la profondità della piscina, il tipo di presa elettrica, dove trovare i teli mare, ecc…). Chiaramente queste sono informazioni che conoscono principalmente i caposervizio. Quando poi si comincia a pensare al turnover del personale nel settore alberghiero, il risultato può diventare spaventoso.
• – Il sito web di un hotel ha un massimo di 300 punti informazioni. Le OTA (Booking, Expedia) ne hanno solo poche in più (per questo motivo gli albergatori dovrebbero puntare più su Google e meno sulle OTA).

Date queste cifre, come spiegare che ChatGPT (o un equivalente) sia in grado di rispondere a una domanda su un argomento di cui non ha la minima conoscenza?

Compilare un database esistente come Q-Data dalle soluzioni Quicktext AI e impostare i processi per mantenerlo è già una sfida per la maggior parte dei reparti IT e marketing degli hotel. Ma è possibile! Costruire una base di conoscenza come Q-Data, da zero, quando sei un gruppo alberghiero, per quanto grande possa essere, è sostanzialmente impossibile.

Quindi la sfida è molto più il miglioramento della conoscenza, che quello dell’intelligenza. È per questo motivo che Velma di Quicktext è riconosciuta a livello mondiale come l’intelligenza artificiale più efficiente nel settore alberghiero, non solo attraverso le capacità cognitive di Velma specializzate nel settore alberghiero, ma anche grazie al database strutturato più profondo sul mercato (più di 1900 punti).

B. Il prompt, ovvero ciò che chiedono i tuoi clienti

Come e su quali basi migliori la tua base di conoscenze?

È qui che l’intelligenza umana, combinata con i dati, ci permetterà di determinare quali elementi di conoscenza raccogliere.

Buona notizia! Da quando Velma esiste su Quicktext, abbiamo accumulato più di 30 milioni di domande e richieste su ogni tipo di hotel, località e stagione, da parte di clienti in tutto il mondo.

Questa conoscenza ci permette di anticipare queste domande, in altre parole, i suggerimenti.

C. Modellizzazione dell’intelligenza artificiale

La messa a punto e il comportamento del modello sono molto più importanti di quanto si pensi. È necessario, contemporaneamente:

• Anticipare le richieste (domande dei clienti),
• Anticipare le risposte (la base di conoscenza),
• Gestire la connettività (motore di prenotazioni, CRM, call center, software di gestione delle attività, ecc.),
• E infine, padroneggiare l’intelligenza artificiale che “macinerà” tutto insieme (come puoi vedere dall’elenco sopra, quest’ultima parte è solo un componente dell’equazione).

ChatGPT potrebbe sembrare la soluzione più ovvia, perché è semplice e veloce (7 ore per la configurazione), ma purtroppo la pigrizia ha un prezzo: troppi errori. Ecco le cause…

• Contenuti mancanti: è impossibile rispondere senza i dati disponibili (i famosi 2500 potenziali punti informativi).
• Posizionamento: la risposta è presente, ma non classificata o sufficientemente qualificata per essere inclusa nei risultati restituiti.
• Fuori contesto: i dati vengono estratti dal database, ma non possono essere inclusi nella risposta generata a causa delle troppe informazioni.
• Dati non estratti: il modello non riesce a estrarre le informazioni corrette a causa di un volume di dati eccessivo o di informazioni contraddittorie.
• Formato sbagliato: la domanda prevede l’estrazione di informazioni in un formato specifico (foto, pulsante, tabella, carosello) che il modello ignora.
• Specificità errata: risposta troppo specifica o non abbastanza specifica, a causa della mancanza di chiarezza nella formulazione.
• Incomplete: risposte esatte, ma con informazioni mancanti, anche se presenti nel database.

Ma non è finita, bisognerà gestire anche:

• Scalabilità: con l’aumento del volume dei dati, mantenere un’indicizzazione efficiente e rapida diventa un compito dalle conseguenze esponenziali.
• Aggiornamenti: soprattutto laddove i documenti vengono aggiunti, modificati o eliminati frequentemente, garantire che questi aggiornamenti vengano eseguiti, senza compromettere le prestazioni del sistema, è una sfida quotidiana.
• Tempi di risposta: 10 secondi sono lunghi quando aspetti.
• Per non parlare del collegamento al software aziendale.

D. Fatti e cifre

La soluzione Quicktext consiste quindi nell’optare per una modalità ibrida: l’AI classica, abbinata all’AI generativa, entrambe specifiche per il settore alberghiero.

Un po’ di matematica per capire davvero.

• ChatGPT nel settore alberghiero genera il 30% di allucinazioni (questo è il minimo osservato)
• L’80% delle richieste dei clienti sono semplici e non necessitano di intelligenza artificiale generativa. (Esempio: a che ora è la colazione?)

Nel caso dell’IA ibrida (come Q-Brain+) 80% classica, 20% generativa, solo il 20% delle richieste sarà potenzialmente soggetto ad allucinazioni. Con la padronanza della tua intelligenza artificiale (avendo il tuo modello linguistico), questo livello di allucinazioni scende a meno del 10%.

Quindi il volume allucinatorio è 10% x 20% = 2%.

In sintesi con un modello generativo le allucinazioni saranno circa il 30% mentre con un modello ibrido il 2%.

Capitolo 3. Non dimentichiamo nulla

Riassumendo, creare un assistente virtuale basato su ChatGPT o equivalente senza avere gli altri elementi necessari equivale a condannarsi a:

• Non padroneggiare i suggerimenti (domande),
• Non padroneggiare la scatola nera (IA generativa),
• Non padroneggiare la base di conoscenza (le risposte).

Come possiamo credere che un tale insieme di approssimazioni possa generare un sistema rilevante?

Buona notizia! Hai appena vinto il jackpot rispondendo a questa domanda.

E nel caso ciò non bastasse!

Come risolvere i seguenti problemi con l’IA generativa pura?

• La nozione di ricerca multi-proprietà e multi-criterio (sono curioso di vederlo)
• Aggiornamento dei dati (soprattutto se non strutturati)
• Adattamento culturale (e questa non è sicuramente una semplice traduzione)
• Connettività alle API dei motori di prenotazione, PMS, CRM, task management
• Gestione delle notifiche quando è necessaria l’interazione umana
• Recupero dei dati delle conversazioni
• GDPR
• Eccetera

Capitolo 4. Doppia ibridazione

Ora capisci perché le catene alberghiere e gli “esperti” che hanno deciso di intraprendere esclusivamente la strada dell’intelligenza artificiale generativa per il settore alberghiero stanno vivendo una delusione dopo l’altra. I pochi, quelli che ancora si rifiutano di ammetterlo, sono quelli che hanno deciso di non misurare i risultati. Niente termometro, niente febbre.

La soluzione sta quindi nella doppia ibridazione.

• Nell’intelligenza: classica + generativa
• Nella conoscenza: database strutturato + fonti dati esterne (ma con moderazione).

Questo è un compito enorme. Noi di Quicktext sappiamo quanto sia immenso questo compito, poiché ci lavoriamo da 7 anni.

E ricorda sempre, il modo migliore per rispondere a una domanda è che nessuno abbia bisogno di porre quella domanda.

Meditate su questo, sarà oggetto di un prossimo articolo.