Chapter 9. Data, Analytics, and Artificial Intelligence

Il capitolo precedente ha stabilito come si producono dati validi (→ cap. 8). Questo tratta ciò che se ne fa quando sono già lì, e parte da un fatto elementare: nella maggior parte delle organizzazioni i dati non sono scarsi, sono in eccesso.

Obiettivi di apprendimento

Al termine di questo capitolo lo studente sarà in grado di:

distinguere le quattro dimensioni dei grandi insiemi di dati e spiegare perché la veridicità prevale sulle altre tre;
riconoscere un dato trovato da un dato progettato e indicare quale selezione il primo porta con sé;
descrivere le fasi dell’architettura del dato e spiegare perché integrazione e risoluzione dell’identità sono il punto in cui i progetti falliscono;
distinguere un modello di propensione da un modello di uplift, e spiegare perché la differenza separa l’analitica utile da quella inutile;
riconoscere le tre famiglie di apprendimento automatico e le condizioni necessarie per addestrare un modello;
individuare gli usi dell’intelligenza artificiale generativa nella funzione marketing, i loro modi tipici di errore e la supervisione che ciascuno richiede;
spiegare deriva del modello, opacità e retroazione, e perché il costo materiale dell’IA è una questione di marketing.

Concetti chiave

Big data · volume, varietà, velocità, veridicità · dato trovato e dato progettato · paradosso dei grandi numeri · architettura del dato · risoluzione dell’identità · dati di prima, seconda e terza parte · governo del dato · segmentazione algoritmica · modello di propensione e di risposta · predictive analytics · uplift · apprendimento supervisionato, non supervisionato, per rinforzo · variabile obiettivo · sovradattamento · validazione · intelligenza artificiale generativa · allucinazione · data-driven decision making · deriva del modello · opacità e spiegabilità · retroazione predittiva · costo materiale dell’inferenza

9.1 Big data: volume, varietà, velocità — e veridicità

9.1.1 Le tre V, e la quarta

La descrizione più diffusa dei grandi insiemi di dati risale a una nota di ricerca di Laney (2001), che individuava tre dimensioni di crescita simultanea. Il volume è la quantità di osservazioni. La varietà è l’eterogeneità dei formati: accanto alle tabelle del sistema gestionale ci sono testi liberi, immagini, audio, segnali di posizione, flussi da oggetti connessi (→ 38.4), molti privi di struttura predefinita. La velocità è il ritmo con cui i dati arrivano e la finestra entro cui sarebbero utili: un’informazione sul comportamento di chi sta navigando vale per pochi secondi, la stessa il giorno dopo vale per decisioni diverse.

A queste se n’è aggiunta una quarta, la veridicità: il grado in cui il dato corrisponde a ciò che dichiara di rappresentare. Non è una dimensione fra le altre, è la sola che decide se le prime tre servano a qualcosa, perché volume, varietà e velocità di un dato falso producono soltanto errore più rapido e su scala maggiore.

9.1.2 Dato abbondante e dato informativo

Vale la definizione già data: un dato diventa informazione solo se riduce l’incertezza di una decisione (→ 8.1.3). L’abbondanza non modifica il criterio, ma offre l’illusione che la quantità basti al posto della pertinenza.

Meng (2018) ha formalizzato l’aspetto più contro-intuitivo della questione. Quando un insieme di dati non è selezionato in modo casuale rispetto alla popolazione di interesse, la numerosità riduce la componente casuale dell’errore ma non tocca la distorsione: la rende anzi dominante e invisibile, perché una stima apparentemente precisissima resta centrata sul valore sbagliato. È il paradosso dei grandi numeri: un archivio di dieci milioni di osservazioni auto-selezionate può essere meno informativo di un campione probabilistico di mille (→ 8.4.2). Le domande utili non sono «quanti dati abbiamo», ma da quale processo provengono e chi ne resta fuori.

9.1.3 Dato trovato e dato progettato

La distinzione che regge il paragrafo è di Groves (2011), che ha contrapposto i dati progettati — raccolti per rispondere a una domanda formulata prima — ai dati organici, o trovati, che si accumulano come sottoprodotto di processi nati per fare altro: un registro di transazioni esiste per fatturare, un archivio di interazioni per far funzionare un servizio.

Quasi tutto ciò che chiamiamo big data appartiene alla seconda famiglia, e qui sta il punto da portare con sé: un dato trovato porta con sé la selezione del processo che lo ha generato. Chi non compra non compare nell’archivio delle transazioni, chi non usa quel canale non compare in quello delle interazioni, chi non scrive non compare in quello dei messaggi: non lacune casuali, ma assenze sistematiche e correlate proprio con le grandezze che interessano (→ 8.3.4). boyd e Crawford (2012) hanno aggiunto che questi archivi non sono osservazioni grezze del mondo, ma sono già interpretati dalle scelte di chi ha progettato la raccolta — che cosa conti come «evento», dove finisca una sessione, chi sia un «utente» — e ogni scelta di questo tipo è una decisione di misura, presa da chi non sapeva che qualcuno l’avrebbe usata per decidere.

Lazer, Kennedy, King e Vespignani (2014) ne hanno dato l’illustrazione classica analizzando un sistema che stimava la diffusione di una malattia stagionale dalle interrogazioni di ricerca degli utenti: accurato per alcuni anni, divenne poi sistematicamente eccessivo. Le due cause sono generalizzabili: l’hybris analitica, cioè l’idea che il dato abbondante sostituisca quello progettato anziché integrarlo, e il fatto che la piattaforma su cui i dati venivano raccolti cambiava di continuo, per ragioni estranee alla misura, modificando il significato del segnale senza che il modello ne fosse informato (§ 9.7.3).

9.2 L’architettura del dato di marketing: raccolta, integrazione, risoluzione dell’identità

Perché un dato sia utilizzabile deve attraversare una catena di passaggi che nella maggior parte delle organizzazioni non è progettata ma stratificata. Qui si descrive l’architettura; i sistemi gestionali che la incarnano stanno altrove (→ cap. 37).

9.2.1 Le tre origini del dato

I dati di prima parte sono quelli che l’organizzazione raccoglie direttamente nel rapporto con le persone che serve: transazioni, interazioni sui propri canali, richieste di assistenza, informazioni conferite volontariamente. Sono i più affidabili quanto a provenienza e i più solidi quanto a legittimazione d’uso (→ 39.3, → 39.4). I dati di seconda parte sono dati di prima parte di un’altra organizzazione, ottenuti con accordo esplicito: la qualità dipende dal partner, la responsabilità di verificarla resta di chi li usa. I dati di terza parte sono acquistati da fornitori che li aggregano da molte fonti: valgono le tre domande del § 8.6.1, e acquistare un dato non trasferisce la liceità del suo trattamento (→ 39.2).

9.2.2 Raccolta

La raccolta è il momento in cui si decide, spesso senza accorgersene, che cosa sarà misurabile in futuro. Che cosa si registra: un evento non registrato non è recuperabile, e vale la regola già vista (→ 8.1.3). Con quale definizione: ogni grandezza incorpora una convenzione — che cosa sia una «visita», un «cliente attivo» — e se cambia senza essere documentata la serie storica diventa inutilizzabile proprio quando servirebbe (→ cap. 10). Con quale base giuridica: la raccolta di dati riferiti a persone non è un fatto tecnico ma un trattamento (→ 39.1, → 39.2).

9.2.3 Integrazione: dove i progetti falliscono

L’integrazione consiste nel far coesistere dati di fonti diverse in una forma su cui si possa ragionare. È la fase meno visibile, la più costosa e quella in cui la maggior parte dei progetti si arena, per tre ragioni ordinarie. Le definizioni divergono: nel sistema amministrativo il «cliente» è l’entità che paga, in quello di assistenza la persona che scrive, in quello commerciale l’organizzazione con cui si negozia — conciliarli è una decisione di significato che nessuno vuole prendere. Le granularità divergono: un sistema registra il singolo evento, un altro il totale giornaliero, e l’aggregazione è irreversibile. I tempi divergono: fonti che si aggiornano con ritardi diversi, confrontate a date diverse, producono differenze che non esistono.

Da qui l’osservazione da ricordare: il costo dei dati interni non è di raccolta ma di riconciliazione (→ 8.1.2), e chi sottovaluta questa fase compra strumenti di analisi che resteranno inutilizzati.

9.2.4 Risoluzione dell’identità

Il caso più delicato dell’integrazione è stabilire quando due registrazioni si riferiscono alla stessa entità: la stessa persona compare come acquirente in un canale, come destinataria di una comunicazione in un altro, come autrice di una segnalazione in un terzo, e nulla garantisce che gli identificativi coincidano. Fellegi e Sunter (1969) ne hanno dato la trattazione probabilistica canonica, di cui Christen (2012) offre la versione applicativa moderna: in assenza di un identificativo comune, l’abbinamento si fonda sulla somiglianza di più attributi imperfetti, e ogni regola comporta un tasso di falsi positivi — entità diverse fuse in una — e uno di falsi negativi — la stessa entità contata due volte.

Due conseguenze contano per il marketing. La risoluzione dell’identità è sempre inferenziale: è una stima, con un margine d’errore raramente dichiarato. E i due errori hanno costi opposti: fondere entità diverse produce comunicazioni fuori bersaglio e, quando si tratta di persone, un’esposizione di informazioni fra soggetti distinti; separare la stessa entità produce duplicazioni e sovrastima del numero di clienti. La scelta della soglia è dunque una decisione di marketing, perché stabilisce quale dei due errori si preferisce commettere. Che cosa ne segua per l’osservazione del percorso d’acquisto è al § 30.3.3 (→ 30.3.3).

9.2.5 Qualità e governo del dato

La qualità del dato si valuta su dimensioni distinte, che richiedono rimedi diversi: completezza, accuratezza, coerenza fra sistemi, tempestività, tracciabilità. Il governo del dato è l’insieme di regole e responsabilità che le mantiene nel tempo: chi definisce le grandezze, chi ne autorizza le modifiche, chi risponde di ciascuna fonte, quanto a lungo un dato si conserva. Nessun modello corregge dati di cui nessuno risponde (→ 37.6, → 37.7).

9.3 Metodi: segmentazione algoritmica, modelli di risposta, predictive analytics, uplift

Qui si trattano le famiglie di metodo che producono stime a partire dai dati; gli indicatori del risultato sono materia del capitolo 10, la segmentazione come decisione del capitolo 16.

9.3.1 Segmentazione algoritmica

Si chiama segmentazione algoritmica la costruzione di gruppi di clienti a partire dai dati anziché da criteri stabiliti in anticipo: una procedura raggruppa le unità in modo che le somiglianze interne superino quelle fra gruppi. Tre proprietà sono all’origine di quasi tutti gli usi impropri.

La procedura restituisce sempre dei gruppi. Anche dove nei dati non esiste alcuna struttura, un algoritmo di raggruppamento produce partizioni: che i gruppi esistano non prova che siano reali.

Il numero dei gruppi è una scelta, non un risultato. Esistono criteri statistici che aiutano a orientarla, nessuno che la determini; e gruppi diversi emergono da scelte diverse sulle variabili incluse e sulla loro scala.

I gruppi ottenuti non sono segmenti di marketing. Un segmento è utile se è identificabile, raggiungibile, ampio abbastanza e — soprattutto — se risponde in modo diverso a ciò che l’impresa può fare: nessuna di queste proprietà è garantita da una procedura che ottimizza la somiglianza, non la reattività (→ 16.5, → 16.6).

9.3.2 Modelli di propensione e modelli di risposta

Un modello di propensione stima, per ciascuna unità, la probabilità che si verifichi un esito: che una persona acquisti, abbandoni, rinnovi, reclami. Un modello di risposta ne è l’applicazione più diffusa: stima la probabilità che l’azione desiderata segua a una sollecitazione ricevuta, e ordina i destinatari per priorità. Hanno un’utilità reale — concentrare risorse scarse dove il rendimento atteso è maggiore — e un limite decisivo, di cui tratta il § 9.3.4.

9.3.3 Predictive analytics

Con predictive analytics si indicano i metodi che stimano valori futuri o non osservati a partire da regolarità del passato: previsione della domanda, valore atteso di un cliente, rischio di abbandono. Neslin, Gupta, Kamakura, Lu e Mason (2006), confrontando molti modelli di abbandono costruiti sugli stessi dati, hanno mostrato che le differenze di accuratezza fra tecniche sono modeste, e che il guadagno maggiore viene dalla qualità delle variabili più che dalla sofisticazione del metodo: il rendimento marginale della raffinatezza tecnica è basso, quello della qualità del dato è alto.

Un modello predittivo, poi, dice che in condizioni simili a quelle osservate un certo esito è più probabile; non dice perché, né che cosa accadrebbe se si intervenisse. Hofman, Sharma e Watts (2017) hanno insistito sulla distinzione: prevedere e spiegare sono obiettivi diversi, e un modello eccellente nel primo compito può essere muto nel secondo (→ 3.2).

9.3.4 Uplift: modellare l’effetto, non l’esito

Qui sta la distinzione che separa l’analitica utile da quella inutile, ed è talmente semplice da essere quasi sempre trascurata. Un modello di risposta ordina le persone per probabilità dell’esito; ma la decisione di marketing riguarda l’effetto dell’intervento sull’esito. La domanda giusta non è «chi comprerà?», ma «per chi la mia azione fa la differenza fra comprare e non comprare?».

Le risposte divergono, e la ragione è intuitiva. Chi ha altissima probabilità di acquistare spesso acquisterebbe comunque, e rivolgergli l’azione consuma risorse senza produrre nulla di incrementale; chi ha probabilità bassissima non acquisterà comunque. L’effetto si concentra in una fascia intermedia, la cui decisione è realmente sensibile all’intervento — e in alcuni casi è negativo: un promemoria di scadenza può ricordare a qualcuno che può disdire.

Si chiama uplift — o effetto incrementale — la differenza, per la stessa unità, fra la probabilità dell’esito con l’intervento e senza. Stimarla richiede dati provenienti da un disegno con gruppo di controllo (→ 8.5.1): senza osservare che cosa accade a chi non riceve il trattamento, l’effetto incrementale non è stimabile in alcun modo. È il motivo per cui il metodo del capitolo precedente non è un’alternativa all’analitica, ma la sua precondizione. Lo stesso costrutto diventa un problema di inferenza quando si tratta di attribuire un risultato alle attività che vi hanno concorso (→ 30.4).

L’implicazione più scomoda è stata mostrata da Ascarza (2018) sui programmi di trattenimento: rivolgere l’azione ai clienti con il più alto rischio di abbandono può essere inefficace, perché rischio elevato e sensibilità all’intervento sono cose diverse. Un programma valutato sul numero di clienti a rischio contattati appare efficiente; valutato sull’effetto incrementale può risultare nullo. La logica era già stata formulata per il marketing diretto da Radcliffe (2007). Se ne ricava una regola valida per tutto il capitolo: ogni volta che un modello ordina persone per probabilità di un esito, ci si deve chiedere se l’esito sarebbe accaduto comunque.

9.4 Machine learning per il marketing: apprendimento supervisionato, non supervisionato, per rinforzo

Con apprendimento automatico si indica una famiglia di metodi in cui un programma non riceve regole esplicite ma le ricava da esempi. Rispetto alla statistica tradizionale il cambiamento è più di grado che di natura, ma l’accento si sposta dalla spiegazione alla capacità di prevedere su dati mai visti (Athey & Imbens, 2019).

9.4.1 Apprendimento supervisionato

Nell’apprendimento supervisionato il sistema riceve esempi in cui la risposta corretta è nota — clienti che hanno abbandonato e clienti che no, richieste classificate per tipo — e apprende ad associare le caratteristiche osservate alla risposta. Copre due compiti: la classificazione, quando l’esito è una categoria, e la regressione, quando è una quantità. Risolve i problemi che si formulano così: dato ciò che so di questa unità, quale esito è probabile?

9.4.2 Apprendimento non supervisionato

Nell’apprendimento non supervisionato non esiste una risposta corretta: il sistema riceve osservazioni e cerca struttura. Le forme principali sono il raggruppamento (§ 9.3.1), la riduzione dimensionale — comprimere molte variabili correlate in poche dimensioni interpretabili, come nelle mappe percettive (→ 18.2) — e l’individuazione di anomalie. Risolve i problemi che si formulano così: che struttura c’è in questi dati che non ho pensato di cercare? Vale la cautela riservata a ogni risultato esplorativo: produce ipotesi, non conclusioni (→ 8.2.3).

9.4.3 Apprendimento per rinforzo

Nell’apprendimento per rinforzo il sistema impara dalle conseguenze delle proprie azioni: sceglie, osserva un riscontro, aggiorna la propria politica di scelta (Sutton & Barto, 2018). La difficoltà caratteristica è il compromesso fra sfruttamento — continuare a fare ciò che finora ha funzionato meglio — ed esplorazione — provare alternative di rendimento ignoto. Risolve i problemi che si formulano così: devo scegliere ripetutamente fra alternative il cui rendimento imparo solo provandole. Schwartz, Bradlow e Fader (2017) hanno mostrato che un’allocazione adattiva di questo tipo può migliorare sensibilmente il rendimento rispetto a una prova a proporzioni fisse.

L’allocazione adattiva però non sostituisce l’esperimento: ottimizza mentre apprende, e produce perciò stime meno pulite dell’effetto delle singole alternative. Se l’obiettivo è sapere se qualcosa funziona serve il disegno sperimentale (→ 8.5).

9.4.4 Che cosa serve per addestrare un modello

Tre condizioni, e nessuna è tecnica. Dati etichettati in numero sufficiente: etichettare costa, e la qualità delle etichette fissa il limite superiore della qualità del modello. Una variabile obiettivo ben definita, che è il passaggio più sottovalutato: «prevedere i clienti insoddisfatti» non è una variabile obiettivo, «prevedere chi aprirà un reclamo formale entro novanta giorni» lo è. Quando l’obiettivo reale non è osservabile si ricorre a una grandezza sostitutiva, e il modello ottimizza la sostituta: usando il reclamo al posto dell’insoddisfazione, il sistema impara a riconoscere chi reclama, cioè chi ha tempo, lingua e fiducia per farlo. Un criterio di successo deciso prima: quale grandezza si massimizza, su quali dati, e quale soglia rende il modello preferibile a ciò che si fa oggi (→ 8.5.2).

Si aggiunge una regola procedurale: un modello va valutato su dati che non ha visto durante l’addestramento, perché un modello flessibile può memorizzare le particolarità del campione su cui è stato costruito — è il sovradattamento. La validazione su una porzione tenuta da parte è il minimo; la prova vera è il comportamento nel tempo (§ 9.7.3).

9.5 Intelligenza artificiale generativa nella funzione marketing

Si chiamano sistemi generativi i sistemi che producono contenuto nuovo — testo, immagini, audio, codice — a partire da un’istruzione in linguaggio naturale. I modelli linguistici di grandi dimensioni che ne costituiscono il nucleo apprendono, da grandi quantità di testo, quanto sia probabile una continuazione dato ciò che precede. La descrizione, per quanto sommaria, contiene già la ragione dei loro pregi e dei loro difetti: producono continuazioni plausibili, non affermazioni verificate. Plausibilità e verità coincidono spesso, e questo li rende utili; non coincidono sempre, e questo rende obbligatoria la supervisione.

I due quadri più usati per collocare l’intelligenza artificiale nel marketing sono complementari. Huang e Rust (2021) distinguono tre intelligenze — meccanica, di pensiero e di sentimento — e sostengono che vadano assegnate a compiti diversi, con le persone che si spostano verso i compiti che le macchine svolgono peggio. La tassonomia non va fusa con quella della loro proposta precedente, che ne articolava quattro e distingueva l’intelligenza intuitiva da quella empatica (Huang & Rust, 2018): sono due schemi diversi degli stessi autori, e citarli insieme come se fossero uno solo è l’errore da evitare. Davenport, Guha, Grewal e Bressgott (2020) articolano l’uso per livello di intelligenza incorporata e per collocazione nel processo, e insistono su un punto: gli usi ad alto valore non sostituiscono attività umane, ma rendono possibili attività prima non sostenibili.

Cinque impieghi ricorrenti nella funzione, con il rispettivo modo tipico di sbagliare.

Impiego	Fa bene	Sbaglia	Supervisione richiesta
Sintesi di materiale di ricerca — verbali, risposte aperte, temi ricorrenti	Ridurre volume e proporre categorie iniziali	Attenua le posizioni minoritarie a favore della formulazione più rappresentata, ed è quella minoritaria a contenere spesso l’informazione utile	Verifica delle categorie su un sottoinsieme letto integralmente da una persona
Generazione di varianti creative	Ampliare rapidamente lo spazio delle opzioni	Converge verso la media del già esistente	Selezione umana secondo criteri di posizionamento definiti prima (→ cap. 18)
Produzione di contenuto su scala — molti mercati, formati, registri	Coprire volumi che nessuna redazione sosterrebbe	Qualità disomogenea fra lingue, con degrado sistematico in quelle meno rappresentate (→ 8.8.3); contenuto indistinguibile da quello di chiunque altro	Revisione da parte di parlanti competenti e responsabilità editoriale dichiarata (→ 31.8)
Personalizzazione	Rendere sostenibile una varietà di trattamenti prima troppo costosa	Confonde personalizzazione e ripetizione di ciò che la persona ha già fatto, e supera con facilità la soglia oltre la quale l’attenzione diventa intrusione	Limiti espliciti su che cosa si può mostrare di sapere e verifica dell’effetto incrementale (§ 9.3.4; → 37.7, → 39.7.1)
Assistenza alla decisione	Abbassare la barriera di accesso all’analisi e produrre l’argomentazione contraria, che nelle riunioni manca sempre	Produce affermazioni sicure e sbagliate — la allucinazione della letteratura tecnica (Ji et al., 2023) — e la fiducia espressa non è correlata all’accuratezza	Nessuna cifra e nessun riferimento generati entrano in un documento senza verifica alla fonte primaria

Due avvertenze chiudono il paragrafo. Il sistema generativo non è uno strumento di misura: usandolo per rilevare qualcosa valgono integralmente le condizioni di riproducibilità già stabilite (→ 8.8). E usarlo dentro la funzione marketing è cosa diversa dall’essere visibili dentro le risposte che esso produce (→ cap. 32).

9.6 Data-driven decision making: condizioni di efficacia

L’espressione data-driven decision making designa la pratica di fondare le decisioni su evidenza sistematica anziché su intuizione o consuetudine. Che sia mediamente vantaggiosa è documentato: Brynjolfsson e McElheran (2016) ne rilevano l’associazione con prestazioni migliori — associazione, si noti, non effetto dimostrato (→ 8.5.1). Il punto non è però se funzioni in media, ma a quali condizioni: sono tre, e vengono quasi sempre disattese.

Una domanda formulata prima del dato. Una decisione è basata sui dati solo se la domanda esisteva prima della risposta. Chi parte dai dati disponibili e cerca che cosa «dicono» troverà sempre qualcosa: con abbastanza variabili, qualche relazione apparente emerge per costruzione (→ 8.5.2). La procedura corretta va dalla decisione alle alternative e da queste all’informazione che le distingue (→ 8.2.1).

Un criterio di decisione stabilito prima del risultato. Non basta sapere che cosa si vuole misurare: bisogna dichiarare in anticipo quale valore condurrebbe a quale azione — «se la differenza supera questa soglia estendiamo, altrimenti fermiamo». Senza quell’impegno preso prima, il risultato viene interpretato dopo, e l’interpretazione si adatta alla preferenza di chi decide (→ 8.7.2).

La disponibilità ad accettare una risposta sgradita. È la condizione più rara e la più determinante. Un’organizzazione che commissiona analisi ma non ha mai interrotto un’iniziativa a causa di un risultato non sta decidendo sui dati: li sta usando per legittimare decisioni già prese (→ 8.2.4). Il segno diagnostico è verificabile: quante volte, negli ultimi due anni, un dato ha fatto cambiare idea a qualcuno con potere di decisione? Se la risposta è nessuna, il problema non è analitico ma culturale, e nessun investimento in strumenti lo risolve (→ 5.1).

9.6.1 Un dato descrive, non prescrive

Resta la condizione logica che le tre precedenti presuppongono. Un dato è un’affermazione descrittiva, e dal descrittivo il normativo non discende senza una premessa che indichi un fine: l’argomento è svolto al § 3.2.2 e qui non si riespone.

Ignorarlo produce due errori simmetrici. Il primo è far dire ai dati ciò che non possono dire: «i dati mostrano che dobbiamo fare X» è quasi sempre l’abbreviazione di «i dati mostrano Y, e noi riteniamo che di fronte a Y sia giusto fare X», con la seconda parte — quella discutibile — resa invisibile. Il secondo è rifiutare i dati perché non decidono: che un’analisi non contenga la decisione non autorizza a ignorarne il contenuto descrittivo. Tenere esplicita la distinzione è la differenza fra una decisione informata e una decisione mascherata.

9.7 Limiti: correlazione, bias del campione, deriva del modello, opacità

Qui si trattano i limiti tecnici ed epistemici; quelli giuridici ed etici — profilazione, consenso, discriminazione algoritmica, manipolazione — hanno sedi proprie (→ 39.2, → 39.5, → 39.6, → 39.7).

9.7.1 Correlazione e causalità

Il limite fondativo è già stato stabilito (→ 8.5.1). Va però registrato un equivoco proprio dell’analitica su grandi archivi: la ricchezza delle variabili genera l’impressione che «controllando per tutto» si ottenga un effetto causale. Ma si controlla solo ciò che si è osservato, e le variabili non osservate sono precisamente quelle di cui non si sospetta l’esistenza. La randomizzazione risolve un problema che nessuna abbondanza di variabili risolve.

9.7.2 Bias del campione e dati mancanti non casuali

La forma più insidiosa della selezione descritta nel § 9.1.3 riguarda i dati mancanti. Rubin (1976) ha introdotto la distinzione che ordina la materia: i dati possono mancare in modo del tutto casuale, in modo spiegabile da altre variabili osservate, oppure in modo dipendente dal valore stesso che manca. Solo il terzo caso è irrimediabile con mezzi statistici, ed è il più comune nel marketing: chi è più insoddisfatto risponde meno ai questionari, chi teme per la propria riservatezza si registra meno, chi ha abbandonato non compila il modulo che spiega perché. Hand (2020) ha proposto di chiamare dati oscuri ciò che non è stato registrato e di trattarne l’assenza come informazione: davanti a un archivio, la domanda «chi non c’è, e perché» va posta prima di qualunque analisi.

9.7.3 Deriva del modello

Un modello è una fotografia di regolarità osservate in un periodo. Il mondo però cambia e il modello resta fermo: si chiama deriva il degrado progressivo delle prestazioni dovuto al mutamento della relazione fra variabili osservate ed esito (Gama, Žliobaitė, Bifet, Pechenizkiy & Bouchachia, 2014).

La deriva è pericolosa perché è silenziosa: un modello deteriorato continua a produrre stime dall’aspetto normale, e l’organizzazione se ne accorge quando i risultati economici peggiorano abbastanza da farsi notare. Il rimedio è procedurale: misurare periodicamente le prestazioni su dati recenti con esito noto, dichiarare al rilascio ogni quanto il modello sarà riesaminato, prevedere che possa essere ritirato.

9.7.4 Opacità e limiti della spiegabilità

Molti modelli ad alte prestazioni non sono ispezionabili. Esistono tecniche di spiegazione che ne approssimano il comportamento, e su di esse valgono due avvertenze. Lipton (2018) osserva che «interpretabilità» designa cose diverse — capire come il modello funziona, giustificare una singola decisione, sapere se è affidabile — e confonderle produce false rassicurazioni. Rudin (2019) aggiunge che una spiegazione approssimata non è il modello, e che quando la posta è alta conviene usare fin dall’inizio un modello interpretabile.

Per chi decide la conseguenza è netta: la spiegazione serve a chi deve rispondere della decisione, non a chi costruisce il modello. Se nessuno sa dire perché una persona sia stata esclusa da un’offerta, la decisione resta senza responsabile (→ 39.5).

9.7.5 Retroazione: il modello che modifica ciò che misura

L’ultimo limite è il meno intuitivo: un modello usato per decidere cambia il fenomeno che stima. Se si concentra l’azione commerciale sui clienti che il modello indica come promettenti, i dati futuri conterranno più esiti positivi proprio in quel gruppo, e la versione successiva ne trarrà conferma: la profezia si autoconferma, e nessuna misura interna al sistema può smentirla, perché il gruppo di confronto non esiste più. È la retroazione predittiva, formalizzata da Perdomo, Zrnic, Mendler-Dünner e Hardt (2020); Sculley e colleghi (2015) ne descrivono la versione operativa.

Il rimedio è uno solo, e riporta al capitolo precedente: mantenere sempre una quota di unità sottratta alla logica del modello, trattata in modo casuale, per osservare che cosa accadrebbe altrimenti. Costa in efficienza immediata ed è la sola assicurazione contro un modello che si è messo a misurare se stesso.

9.8 Il costo materiale dell’intelligenza artificiale

I sistemi di cui questo capitolo ha parlato hanno un corpo: consumano energia, richiedono acqua per il raffreddamento, dipendono da hardware che va estratto, fabbricato e infine smaltito. Trattarne qui è il riconoscimento che una voce di costo e di impatto è diventata rilevante per decisioni che il marketing prende.

Un’avvertenza di metodo: le cifre in circolazione sono spesso stime indirette, riferite a sistemi non comparabili, ripetute senza fonte. Qui non se ne riporta nessuna — si descrivono gli ordini di grandezza in termini relativi e i fattori che li determinano. Chi voglia numeri li prenda alla fonte primaria, verificando anno, perimetro e metodo (→ 8.6).

9.8.1 Energia: addestramento e inferenza

Il consumo energetico si distribuisce su due fasi di logica opposta. L’addestramento è un evento concentrato: un costo elevato sostenuto una volta, o poche, per produrre un modello. Strubell, Ganesh e McCallum (2019) hanno richiamato per primi l’attenzione su questo costo; Patterson e colleghi (2021) hanno mostrato che varia di ordini di grandezza secondo quattro fattori — architettura del modello, efficienza del processore, efficienza del centro dati e, decisiva, la composizione della fonte elettrica del luogo e del momento. L’inferenza è l’uso: ogni richiesta consuma pochissimo, ma le richieste sono continue, e su un sistema molto usato il consumo cumulato dell’inferenza supera quello dell’addestramento. Luccioni, Jernite e Strubell (2024) hanno misurato quanto il costo per richiesta vari con il compito: generare contenuto costa molto più che classificarlo, e generare immagini più che generare testo.

Per il marketing la conseguenza è utile: il costo ambientale di un impiego dipende più dal volume e dal tipo di richieste che dalla scelta del sistema. La domanda pertinente non è «l’intelligenza artificiale inquina?», ma «questo impiego, a questo volume, che cosa consuma a fronte di quale beneficio?».

9.8.2 Acqua

I centri di calcolo dissipano calore, e molti sistemi di raffreddamento lo fanno per evaporazione, consumando acqua che non torna al ciclo locale. Mytton (2021) ha documentato il problema principale di questa contabilità: la rendicontazione è scarsa e disomogenea. Li e colleghi (2023), proponendo una metodologia di stima dell’impronta idrica, hanno richiamato l’attenzione su ciò che conta più della cifra assoluta: il consumo idrico è locale, e un prelievo modesto su scala globale può essere significativo per il bacino da cui avviene.

9.8.3 Hardware e rifiuti elettronici

La terza dimensione è la meno discussa e la più materiale. I processori specializzati hanno cicli di vita brevi, perché la corsa alle prestazioni rende obsoleto ciò che funziona ancora: a monte c’è l’estrazione di minerali, a valle lo smaltimento. I rapporti internazionali dedicati (Forti, Baldé, Kuehr & Bel, 2020; Baldé et al., 2024) mostrano due fatti stabili: la quantità di rifiuti elettronici cresce più rapidamente della capacità di trattarla, e la quota riciclata con procedure documentate resta minoritaria.

Crawford (2021) ha argomentato che l’intelligenza artificiale va compresa come industria estrattiva — di minerali, energia, lavoro e dati — e non come tecnologia immateriale. Non serve condividere l’intera tesi per trarne l’implicazione: la metafora dell’immaterialità, ereditata dal lessico della «nuvola», è la ragione principale per cui questi costi restano fuori dalle valutazioni di chi li genera.

9.8.4 Perché è un tema di marketing

Si potrebbe obiettare che tutto questo riguardi le operazioni. L’obiezione non regge, per tre ragioni che toccano decisioni prese dal marketing. Entra nella rendicontazione, perché gli standard non finanziari richiedono di dichiarare gli impatti lungo la catena del valore, comprese le attività affidate a fornitori (→ cap. 43). Entra nella promessa di marca: chi fonda il posizionamento su impegni ambientali e insieme adotta senza valutazione impieghi ad alta intensità di calcolo espone uno scarto verificabile fra ciò che afferma e ciò che fa, che è la struttura di un’accusa di greenwashing (→ 42.6). Entra nella scelta dei fornitori, perché quali servizi adottare, in quali volumi e per quali compiti sono decisioni con criteri documentabili — composizione dichiarata della fonte energetica, rendicontazione idrica, prolungamento della vita dell’hardware, dati verificabili da terzi (→ 14.5).

Resta la misura richiesta dall’argomento. Non è vero che l’intelligenza artificiale abbia impatto trascurabile, né che sia la causa dominante dei problemi ambientali contemporanei. È vero che si tratta di un impatto in rapida crescita, mal misurato e raramente incluso nelle decisioni di chi lo genera (→ 42.1, → 42.4).

Sintesi del capitolo

I grandi insiemi di dati si descrivono per volume, varietà e velocità, ma la dimensione che decide se le altre tre servano è la veridicità. L’abbondanza non sostituisce la pertinenza: quando i dati non sono selezionati casualmente, aumentarne la quantità riduce l’errore casuale e lascia intatta la distorsione, rendendola meno visibile. Quasi tutti i dati abbondanti sono dati trovati, sottoprodotti di processi nati per altro, e ne portano con sé la selezione: davanti a un archivio le domande utili sono da dove venga e chi ne resti fuori.

L’integrazione è la fase dell’architettura del dato in cui la maggior parte dei progetti fallisce, perché definizioni, granularità e tempi divergono fra sistemi nati separatamente. La risoluzione dell’identità è sempre inferenziale, e la soglia che stabilisce quando due registrazioni riguardano la stessa entità è una scelta di marketing: decide se si preferisca fondere entità diverse o duplicare la stessa.

La distinzione che separa l’analitica utile da quella inutile è quella fra modelli di propensione e modelli di uplift: i primi ordinano le persone per probabilità dell’esito, i secondi per effetto incrementale dell’intervento, e solo i secondi rispondono alla domanda che la decisione pone. Stimare l’uplift richiede un gruppo di controllo: il metodo sperimentale è una precondizione dell’analitica. Addestrare un modello richiede dati etichettati, una variabile obiettivo ben definita e un criterio di successo stabilito prima; i sistemi generativi producono continuazioni plausibili anziché affermazioni verificate.

Una decisione è basata sui dati solo se la domanda precede il dato, il criterio precede il risultato e l’organizzazione è disposta ad accettare una risposta sgradita; e in ogni caso un dato descrive, non prescrive. I limiti tecnici sono la distanza fra correlazione e causa, i dati mancanti in modo non casuale, la deriva silenziosa, l’opacità e la retroazione predittiva. Questi sistemi hanno infine un costo materiale — energia, acqua, hardware, rifiuti elettronici — che dipende più dal volume e dal tipo di impiego che dalla tecnologia, ed entra nella rendicontazione, nella promessa di marca e nella scelta dei fornitori.

Domande di verifica

Di richiamo

Elenca le quattro dimensioni dei grandi insiemi di dati e spiega perché la veridicità ha uno statuto diverso dalle altre tre.
Che cosa distingue un dato trovato da un dato progettato, e quale conseguenza ha la distinzione sull’interpretazione di un archivio aziendale?
Definisci la risoluzione dell’identità e descrivi i due errori che comporta, con le rispettive conseguenze di marketing.
Distingui apprendimento supervisionato, non supervisionato e per rinforzo, indicando per ciascuno un problema di marketing che risolve.

Di applicazione

Un’organizzazione seleziona per una campagna di trattenimento i clienti con la più alta probabilità stimata di abbandono e a fine campagna osserva che il 70% di essi è rimasto. Spiega perché il risultato non dimostra nulla, quale grandezza andava stimata e come andava disegnata la rilevazione.
Ti viene chiesto di costruire un modello che «individui i clienti insoddisfatti». Formula tre possibili variabili obiettivo osservabili, indica per ciascuna quale popolazione resterebbe esclusa dalle etichette, e scegli motivatamente quale useresti.
Un modello di previsione della domanda, eccellente al rilascio, produce da mesi stime in eccesso senza che nessuno se ne sia accorto. Individua due spiegazioni distinte fra quelle del § 9.7 e, per ciascuna, la procedura che ne avrebbe permesso la rilevazione tempestiva.
Un’organizzazione che comunica impegni ambientali intende adottare un sistema generativo per produrre descrizioni di prodotto in dodici lingue. Elenca le informazioni che chiederesti al fornitore, le grandezze da monitorare internamente e le due condizioni alle quali l’iniziativa sarebbe coerente con la promessa di marca.

Attività generative

A. Chi non c’è nell’archivio. Esercizio di analisi documentaria, in gruppi di tre. Scegliete un archivio di dati di cui un’organizzazione potrebbe realisticamente disporre. Ricostruite il processo che lo genera e compilate due elenchi: che cosa viene registrato e chi resta sistematicamente fuori. Per ciascuna categoria di esclusi formulate un’ipotesi su come differiscano da chi è dentro, e indicate quale conclusione di marketing ne risulterebbe distorta e in quale direzione.

B. La stessa domanda, due modelli. Esercizio di formulazione. A partire da una decisione concreta — a chi rivolgere un’offerta, un promemoria, uno sconto — scrivete due specifiche di modello: una che ordini i destinatari per probabilità dell’esito, una per effetto incrementale. Per ciascuna indicate dati necessari, disegno di raccolta, criterio di successo e lista di destinatari che ne risulterebbe. Le persone presenti nella prima lista e assenti nella seconda sono la misura esatta dello spreco che il primo modello produce.

C. Che cosa il sistema non dice da solo. Confronto critico con un sistema generativo, su materiale fornito. Il capitolo mette a disposizione un piccolo insieme di dati predisposto dal docente, di cui è dichiarata la struttura reale: contiene una relazione spuria prodotta da una variabile confondente e alcune osservazioni mancanti in modo dipendente dal valore mancante. Sottoponetelo a un sistema generativo chiedendo un’analisi, senza segnalare nulla. Registrate integralmente la risposta e verificate tre cose: se segnala i dati mancanti o li ignora; se distingue associazione e causa; se dichiara un’incertezza proporzionata. Ripetete poi la richiesta chiedendo di elencare ciò che i dati non permettono di concludere. La differenza fra le due risposte misura quanto il risultato dipenda da ciò che chi interroga già sapeva.

Rimandi

Approfondiscono concetti qui introdotti: metriche e cruscotto → cap. 10 · decisione delegata → 11.8 · segmentazione, metodi e validità → cap. 16, 16.5, 16.6 · mappe percettive → 18.2 · IA co-autrice della comunicazione → 31.8 · visibilità nei sistemi generativi → cap. 32 · commercio agentico → 36.7 · CRM, orchestrazione, personalizzazione → cap. 37, 37.6, 37.7 · tecnologie emergenti → cap. 38 · basi giuridiche e profilazione → 39.2 · dati di prima parte → 39.3, 39.4 · trasparenza e spiegabilità → 39.5 · bias algoritmico → 39.6 · anticipazione predittiva del bisogno → 39.7.1 · sostenibilità ed economia circolare → 42.1, 42.4 · greenwashing → 42.6 · rendicontazione non finanziaria → cap. 43 · agenti autonomi → 50.1.

Presuppone: generi di affermazione e legge di Hume → 3.2, 3.2.2 · orientamento al mercato come cultura → 5.1 · sistema informativo di marketing → 8.1 · dal problema decisionale al problema di ricerca → 8.2.1 · disegni di ricerca → 8.2.3 · campionamento ed errore → 8.4.2 · esperimento e randomizzazione → 8.5.1 · fonti secondarie e dati di intento → 8.6, 8.6.1 · riproducibilità delle misure su sistemi generativi → 8.8.

Letture di approfondimento

Groves, R. M. (2011). Three eras of survey research. Public Opinion Quarterly, 75(5), 861–871. — La contrapposizione fra dati progettati e dati organici, formulata da chi ha passato la carriera sui primi.
Meng, X.-L. (2018). Statistical paradises and paradoxes in big data (I): Law of large populations, big data paradox, and the 2016 US presidential election. The Annals of Applied Statistics, 12(2), 685–726. — Tecnico, ma la tesi va conosciuta: senza selezione casuale la dimensione peggiora la stima.
Huang, M.-H., & Rust, R. T. (2021). A strategic framework for artificial intelligence in marketing. Journal of the Academy of Marketing Science, 49(1), 30–50. — Il quadro più usato per decidere quali compiti affidare a quale intelligenza.
Ascarza, E. (2018). Retention futility: Targeting high-risk customers might be ineffective. Journal of Marketing Research, 55(1), 80–98. — La dimostrazione empirica che ordinare per rischio non è ordinare per effetto.
Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), 206–215. — Contro l’idea che si possano avere insieme opacità e responsabilità.
Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press. — L’intelligenza artificiale come industria estrattiva: tesi forte, da leggere criticamente.