Il sondaggio sul product-market fit: la regola del 40% funziona?

Per il test di Sean Ellis, il 40% di “molto delusi” significa product-market fit. Da dove viene il numero, che cosa lo altera e a che cosa serve davvero.

Aggiornato il 10 novembre 20266 min di lettura
Una chiave infilata in una serratura e, accanto, tre chiavi che non entrano

“Il product/market fit lo senti sempre, quando c’è”, scriveva Marc Andreessen nel giugno 2007. I clienti comprano alla velocità con cui riesci a produrre. I soldi si accumulano. Assumi di corsa. E quando non c’è, aggiungeva, senti sempre anche quello.

È una frase magnifica, e non serve assolutamente a nulla a un fondatore che non è sicuro. La maggior parte non lo è. Ha qualche cliente, alcuni dei quali sembrano contenti, e un grafico di crescita che si può leggere in un senso o nell’altro. Quello che vorrebbe è un termometro.

Un esperto di marketing di nome Sean Ellis gliene ha dato uno. Ha una sola domanda e una sola soglia di sufficienza, e da quindici anni è la cosa più vicina a un esame ufficiale che il mondo delle startup possieda. Merita uno sguardo più attento di quello che riceve di solito, perché il numero che produce è la cosa meno preziosa che ha.

Una sensazione con un numero

La domanda è questa: “Come ti sentiresti se non potessi più usare il prodotto?”. Le risposte possibili sono tre. Molto deluso, abbastanza deluso, non deluso.

Ellis ha posto la domanda agli utenti di quasi cento startup e ha cercato uno schema. Lo ha trovato. Nel racconto di Rahul Vohra, fondatore della società di posta elettronica Superhuman, “il numero magico era il 40%”. Le aziende che faticavano a crescere avevano quasi sempre meno del 40% di utenti che sceglievano “molto deluso”. Quelle che avevano preso slancio ne avevano quasi sempre di più.

È la storia dello stesso Vohra ad aver reso famoso il test. Nell’estate del 2017 Superhuman pose la domanda ai suoi utenti, e il 22% disse che sarebbe stato molto deluso. Tre trimestri dopo la cifra era il 58%. Un risultato celebre, più vecchio, riguarda Slack. Nel 2015 l’imprenditore Hiten Shah intervistò 731 utenti di Slack, e il 51% disse che sarebbe stato molto deluso di perderlo.

Ci sono dunque una domanda, una soglia e una serie di storie di successo. Sotto, a guardare bene, non c’è granché. Ellis ha descritto la soglia come “un po’ arbitraria”, una linea tracciata dopo aver confrontato quel centinaio di aziende. È un’osservazione su startup che erano già cresciute o non ci erano riuscite. Non abbiamo trovato alcuna verifica pubblicata del fatto che il punteggio preveda che cosa succede dopo.

Chi è stato interpellato

La prima cosa che altera il numero è la lista degli invitati.

Torniamo a Superhuman. Il punteggio non è salito dal 22% al 58% solo lavorando sul prodotto. Il primo salto è venuto da una decisione su chi contare. Il team di Vohra ha guardato chi fossero gli utenti molto delusi, soprattutto fondatori, manager, dirigenti e persone dello sviluppo commerciale, e ha ricalcolato il punteggio solo per quei tipi di cliente. È salito al 33%. Il prodotto non era cambiato di una riga di codice. Il denominatore sì.

È una cosa legittima, e Vohra ne parla apertamente. Ma mostra quanto margine ci sia. Il dato di Slack è altrettanto fragile. I 731 intervistati di Shah arrivarono dal suo tweet, dalle sue email e dai suoi messaggi, dalla mailing list di un amico e da chiunque avesse fatto girare il link. Chi risponde al sondaggio di uno sconosciuto su Slack non è uno spaccato di chi usa Slack.

Ogni versione del sondaggio ha poi un filtro più silenzioso. La domanda si può fare soltanto a chi c’è ancora. Chi ha provato il prodotto e se n’è andato, cioè proprio chi avrebbe più da dire sul fit, non è nell’elenco. Esaminiamo il problema parlando del bias di sopravvivenza nel feedback dei clienti.

Poi c’è la semplice aritmetica. Vohra suggerisce che circa 40 risposte bastino per essere utili “come direzione”, e Superhuman aveva soltanto da 100 a 200 utenti a cui chiedere. Con 40 risposte, un punteggio del 40% ha un margine di errore di circa 15 punti in più o in meno. Il valore vero potrebbe essere il 25%, cioè il fallimento, o il 55%, cioè il trionfo. La nostra guida alla dimensione del campione di un sondaggio fa i conti. Alla scala in cui la maggior parte delle startup fa questo sondaggio, la soglia di sufficienza sta ben dentro il rumore.

Saresti deluso?

La seconda difficoltà è la domanda stessa. Non chiede che cosa le persone hanno fatto. Chiede di immaginare una perdita e di prevedere che cosa proverebbero.

Non siamo bravi a farlo. Gli psicologi che studiano queste previsioni hanno un nome per l’errore tipico, l’impact bias: sopravvalutiamo l’intensità e la durata di ciò che gli eventi futuri ci faranno provare. La perdita sembra enorme quando ce la figuriamo. Poi arriva, e ci adattiamo assai più in fretta del previsto.

Justin Jackson, che scrive di software, ha descritto l’esperienza dal lato del cliente. Era sicuro che ci sarebbe rimasto male quando Microsoft avrebbe chiuso Sunrise, l’app di calendario che usava. Poi l’app chiuse, lui passò a un altro calendario, e “ogni sensazione di delusione sparì piuttosto in fretta”. In qualunque sondaggio avrebbe spuntato “molto deluso”.

È un parente del divario tra il dire e il fare. Un cliente che dice che sarebbe molto deluso ti sta dicendo qualcosa di vero su come vive il prodotto oggi. Non è una promessa di restare, e ancora meno una promessa di pagare.

A che cosa serve il sondaggio

Niente di tutto questo rende il sondaggio un’email sprecata. Significa che il punteggio si è preso l’attenzione che spettava al resto.

Superhuman faceva quattro domande, non una. Dopo quella famosa ne venivano altre tre: secondo te, quale tipo di persone trarrebbe più beneficio dal prodotto? Qual è il beneficio principale che ne ricavi? E come possiamo migliorarlo per te? Il team non leggeva le risposte alla rinfusa. Le ordinava in base alla prima domanda.

Il gruppo dei “non delusi” veniva messo da parte del tutto. Quelle persone non sarebbero state conquistate, e costruire per loro avrebbe allontanato il prodotto da chi lo amava. Il gruppo dei “molto delusi” diceva al team a che cosa serviva il prodotto: nel loro caso, la velocità. Il gruppo interessante stava nel mezzo. Tra gli “abbastanza delusi”, il team tenne solo quelli che indicavano anch’essi la velocità come beneficio principale, e furono le loro richieste a finire nella roadmap. Volevano la stessa cosa degli entusiasti, e qualcosa li frenava.

Visto così, il sondaggio è uno strumento di smistamento. Ti dice a quale feedback dare peso e quale lasciar perdere, che è la domanda più difficile quando si tratta di dare priorità alle richieste di funzionalità e a cui una pila di commenti non ordinati non sa rispondere.

Alcune abitudini lo rendono più onesto. Invialo solo a chi ha usato di recente il cuore del prodotto, perché nessuno è deluso di perdere ciò che non apre mai. Riporta il numero di risposte accanto al punteggio, e l’intervallo in cui il punteggio potrebbe cadere. Tieni fermi il pubblico e la formulazione da un giro all’altro, così che un aumento significhi qualcosa. E metti il risultato accanto a ciò che le persone fanno. Se il 45% dice che sarebbe molto deluso e metà non accede da un mese, credi agli accessi.

Soprattutto, chiedi perché. “Molto deluso” sono due parole. Il cliente che le ha scelte di solito sa dirti a che cosa dovrebbe tornare, e quella risposta, il foglio di calcolo o il concorrente o le due ore di ogni venerdì, è la vera descrizione del tuo mercato.

Andreessen aveva probabilmente ragione: il product-market fit si sente, quando c’è. Il sondaggio non può fornire quella sensazione, e un fondatore che ha bisogno di quaranta clienti per sapere se ce l’ha forse sospetta già la risposta. Ma quella sensazione, quando arriva, non ti dirà a chi la devi né che cosa vogliono poi quelle persone. Per saperlo bisogna ancora chiedere.

Come ti aiuta Diaform

Diaform pone la domanda sul product-market fit in una breve chat, e poi chiede perché. L’intervistatore IA approfondisce le risposte vaghe fin dove glielo consenti, così “molto deluso” arriva insieme a ciò che il cliente farebbe senza di te. Ogni conversazione riceve un riepilogo con citazioni testuali, e i report IA raggruppano i motivi per tema. Non deciderà se hai il product-market fit, e un campione piccolo resta un campione piccolo. C’è una prova gratuita di 14 giorni.

Domande frequenti.

Risposte brevi alle domande più comuni.

È una sola domanda, ideata da Sean Ellis: “Come ti sentiresti se non potessi più usare questo prodotto?”. Le risposte sono molto deluso, abbastanza deluso e non deluso. Il punteggio è la quota di chi risponde “molto deluso”.

I tuoi clienti hanno altro da dirti.

Basta tirare a indovinare con risposte di una parola sola. Lascia che Diaform faccia le domande di approfondimento e scopri cosa pensano davvero i tuoi clienti.

Crea la tua prima conversazione in pochi minuti.