Il Divano di Troia
Un dialogo con me stesso sui dark patterns e sul perché funzionano così bene.
Ma non era un cavallo?
Effettivamente, narra la leggenda che i Greci abbiano donato un cavallo di legno per espugnare e conquistare la città di Troia, ma questa è la solita vecchia storia, obsoleta e decisamente da boomer.
Oggi siamo fighi, oggi c’è la tecnologia e il progresso! Abbiamo il cloud, la blockchain, l’intelligenza artificiale, la stampa 3D, il 5G, abbiamo tutto, IOT, la VR e la AR! Per favore, non facciamo i luddisti, lasciamo in naftalina il cavallo di Troia e cancelliamolo dai programmi didattici assieme ai dinosauri. Così abbiamo anche un paio di cose in meno da studiare.
Il nostro mondo è questo, efficiente, connesso, smart. Con pochi click, in un attimo facciamo cose che sembravano impossibili, come prenotare online un appuntamento per rinnovare il passaporto… ok, forse questo non è il migliore tra gli esempi ma non toglie nulla al concetto di modernità che ci piace e che ci esalta.
Peccato che a guastare l’idillio ci siano quei fastidiosi e inutili banner, le caselle da spuntare e le formalità di leggi che, con tutta evidenza, appartengono al passato e che provano, invano, ad ostacolare questo florilegio di entusiasmo per il silicio. Potrebbe essere un complotto: magari servono per rallentare la tecnologia in modo da poter sostenere che non funzioni allo scopo di restaurare il passato. Maledetti NoTeck!
Come capita con i cartelli dei limiti di velocità, o quelli di pericolo, tanto abbondanti quanto inutili, siamo diventati abilissimi a filtrare e ignorare ogni distrazione da ciò che ci interessa veramente, dal nostro obiettivo e, in particolare, dalla nuova cosa fighissima, tutta da esplorare e che ci piace tanto, a prescindere.
A prescindere da cosa?
Non lo so, a prescindere e basta.
Clicca qui, acconsenti lì, vai avanti, sempre avanti, clicca ok, ok, ok, clicca un altro consenso, clicca “sì” a tutto, clicca “Ho visto la privacy policy”, “sì” anche ai termini e condizioni… ma che palle questa privacy, è proprio una fisima* per paranoici*, roba da vestali*, senza tutta questa roba avrei già finito.
Per fortuna, la tecnologia ha gli anticorpi per difendersi e per ogni ostacolo posto da quelli della privacy, c’è uno sviluppatore che trova la soluzione per neutralizzarlo. Santo subito chi ha inventato il pulsante “accetta tutto”, così non dobbiamo nemmeno leggere nulla e arriviamo subito alla agognata meta, alla faccia loro.
*NB: Citazione di commenti ricevuti in passato da illustri personaggi
Beh, questa non è esattamente la mia posizione e, a costo di rischiare la stessa fine di Laocoonte, un paio di cosette su questo tema le vorrei proprio dire.
Per ogni persona diventata più smart grazie alla tecnologia, ce ne sono cento che sono diventate semplicemente più pigre.
I comportamenti routinari e meccanici come cliccare, spuntare, chiudere banner e pop-up per procedere spediti, sono diventate azioni inconsapevoli ed automatiche che vanificano il senso di ciascun gesto.
Si potrebbe discutere per ore del valore di un consenso non consapevole oppure di una firma apposta su un documento scritto con caratteri minuscoli, o in una lingua sconosciuta o addirittura con inchiostro simpatico.
Il GDPR taglia corto, accantona questi giochetti, sconfessa ogni approccio farisaico e mette al centro dell’attenzione l’utente: se lui non ha capito, lo scemo sei tu!
Il GDPR ragiona così: se governi un sistema hai le metriche di utilizzo, quindi puoi fare una statistica di quanto tempo impiega un utente per completare il processo di firma. Puoi confrontare questo tempo con un tempo di riferimento, misurato con una esperienza completa di un tester che legge ogni cosa prima di cliccare a vanvera o, quanto meno, che apre i link e li scorre alla ricerca della fregatura. Ecco, se il tester ci mette 40 minuti e l’utente medio ci mette 2 minuti, significa che tu SAI BENE che l’utente medio ha cliccato a vanvera, che non ha letto assolutamente nulla, e sai anche che l’eventuale consenso che ti ha rilasciato non è affatto valido. Lo sai e te lo sei fatto andare bene. Forse era proprio ciò che desideravi ottenere.
Anche perché, sapendolo e riconoscendolo come un problema, faresti qualcosa per migliorare le cose.
Ahi!
Questa è la legge dell’uccello padulo. Volevi fare il furbo ma l’hai preso nel … (volano bassi, si sa).
Volendo esemplificare, possiamo ipotizzare che un gestore di piattaforma (o servizio) si avvantaggi di una meccanica di accettazione e di acquisizione del consenso basata su un dark patterns. Questo ipotetico gestore, chiamiamolo “DopoSigh”, potrebbe mettere in piedi un bellissimo portale per la gestione documentale e la raccolta di firme e approvazioni su documenti di vario tipo. È solo un gioco di fantasia e ogni riferimento a fatti e persone realmente esistenti è puramente stocastico. In questo gioco ci sono tre attori: DopoSigh, Cliente, che paga DopoSigh per poter usare la piattaforma, e tutte le Persone che useranno la piattaforma, su invito di Cliente e che, per esempio, firmeranno documenti a distanza risparmiando tempo e tonnellate di CO2. Diciamolo sin da ora: DopoSigh conosce solo Cliente e con lui ha un contratto e riceve denaro per erogare un servizio. Per DopoSigh, le Persone che useranno la piattaforma sono sconosciuti. Possono essere contatti, prospect, fornitori, dipendenti, ecc. di Cliente. Queste Persone non hanno alcun legame con DopoSigh, non hanno sottoscritto alcun contratto, non sanno nulla di nulla e nulla vogliono sapere.
Da un punto di vista relazionale, DopoSigh dovrebbe lasciarle beneficiare del (o usare il) servizio di firma per il quale viene pagato da Cliente e, appena dopo, dimenticarsi di loro. Non sono sicuro che sia una buona idea, sotto il profilo morale, volerli spremerli come limoni e cercare di lucrare e distillare da essi ogni forma di utilità immaginabile.
Se DopoSigh fosse un po’ furfante, potrebbe pensare di sfruttare a proprio vantaggio le debolezze dell’animo umano, le contraddizioni del mondo moderno e la generale compressione del concetto di buona fede. Potrebbe persino realizzare un sistema…
che sia presentato come fighissimo, moderno, innovativo, efficiente, sicuro e piacevole
che offra vantaggiosi piani ai clienti in cambio della possibilità di “apparire” visibile ai fruitori, cioè alle persone che firmeranno i documenti
che preveda un processo di firma costellato di finestrelle di consenso, spunte di accettazione, “clicca qui e clicca lì”, ricchi di link per scaricare lunghissimi testi in legalese, scritti con caratteri minuscoli e con inchiostro simpatico.
In pratica, DopoSigh potrebbe fare leva sull’elemento pigrizia, sull’abitudine a cliccare e proseguire, sulla rapidità di esecuzione, magari proponendo la stessa domanda capziosa più volte, in momenti differenti allo scopo di intercettare il maggior numero di click inconsapevoli.
Perché tutta questa fatica per alcuni click?
Beh, anima candida, per acquisire dati personali e formalizzare le premesse per un uso remunerativo di quei dati. C’è gente che lo sa fare molto bene e sono molto aperti alla condivisione dei dati di utenti, anche di passaggio.
Birbante DopoSigh!
E le persone? Cliccano… e dopo piangono (dà qui il nome DopoSigh).
Sì, perché cliccare in modo distratto, fidandosi della sapiente arte del web developer, porta queste persone a popolare liste di dati profilati e trattati per fini di marketing.
DopoSigh saprà come rispondere alla disperazione di utenti pentiti: “perché piangi, piccolo utente ingenuo e coccoloso? Non hai letto le 14 pagine di avvertenze? Non conosci i termini tecnici che ho usato? Parli un’altra lingua? Hai cliccato 6 volte senza leggere o senza guardare bene? Hai confuso una spunta obbligatoria con una facoltativa? Sei uno sprovveduto? Non hai un avvocato accanto a te? Hai avuto fretta? Ti sei fidato? Sei troppo pigro per attivare il cervello? E in che modo questi potrebbero essere problemi miei?”
Eccolo qui ciò che io chiamo il Divano di Troia, una comoda lusinga, calda d’inverno e fresca d’estate, morbida e rassicurante, molto paziente, capace di attendere che ciascuno si metta comodo, si rilassi e si lasci trasportare in un’estasi di fiducia incondizionata… a prescindere, appunto.
E la legge dell’uccello padulo?
Beh, la privacy è una cosa per paranoici, una fisima, un ostacolo alla tecnologia. E poi questa è solo un'ipotesi, un gioco di fantasia, vero?
Abbandoniamo DopoSigh e apriamo gli occhi.
Benvenuto nel mondo reale. Benvenuto sul Divano di Troia.
Benvenuto su DocuSign
Quanto è bello questo servizio! Lo stanno imitando tutti, Dropbox, Google, Adobe, SignNow e tanti altri.
Veloce, pratico, fatto bene, economico. Peccato per quel piccolo dettaglio, quel difettino, un vizietto che però non fa male a nessuno… il Divano di Troia.
Chi lo usa, il cliente di DocuSign, normalmente è un'azienda o un professionista e manda richieste di firma ai propri clienti, ai fornitori, persino a terzi come partner di clienti, dipendenti di fornitori, ecc., gente mai vista prima e senza alcun rapporto diretto con il cliente di DocuSign. Quindi è normale che per ogni cliente di DocuSign ci siano decine, centinaia, migliaia di persone che ricevono richieste di firma.
Devo dire che è tutta gente fortunata, felice di fare l’esperienza di firma con DocuSign, così veloce, smart e sexy. È un piacere.
Ciascuno di essi desidera sicuramente essere incluso in liste di utenti profilati per fini di marketing, condivise con call center, promotori di contratti telefonici, gas, finanziamenti, ecc.
Forse.
Siamo tornati nel mondo della fantasia. Se chiedessimo a DocuSign, probabilmente, ci metterebbero la mano sul fuoco e scommetterebbero la testa del primogenito di ogni loro dipendente e programmatore sull’entusiasmo e il coinvolgimento di ogni utente.
Forse, interpellando un campione casuale, scopriremmo una verità leggermente differente.
Per tornare, nuovamente, nel mondo reale, si utilizzano strumenti tecnici e un po’ ostici, concetti come “privacy by design”. Roba da specialisti che, però, possono essere spiegati in termini semplici, come bisogna fare di fronte ad un bambino di 5 anni che chiameremo Allan, in onore del CEO di DocuSign.
“Senti Allan, ma secondo te, quella persona che ha fatto la firma sul telefono, lo sa che adesso inizierà a ricevere telefonate di persone che non ha mai visto e che gli vogliono vendere delle cose? Secondo te, avrebbe fatto quella firma sul cellulare se lo avesse saputo? Cosa dici piccolo Allan, quella persona che ha solo ricevuto un foglio da firmare da un suo amico, si stupirebbe se qualcuno gli spiegasse cosa sta per accadere a causa di quella firma fatta con DocuSign?”
Credo che il Piccolo Allan di 5 anni sarebbe d'accordo con me e che nemmeno lui possa pensare che il marketing profilato sia una cosa coerente con il motivo e le finalità di utilizzo proprie di DocuSign.
Ma allora, perché esiste un Allan che, alla tenera età di 62 anni, pensa esattamente il contrario?
Dopo l’esperienza di firma, ad ogni utente viene proposto in modo a dir poco insistente, quasi estenuante, di iscriversi, di creare un profilo personale, di accettare cose, di cliccare su vari consensi. Un utente distratto accetta tutto perché si aspetta che faccia tutto parte del processo di firma ma non è così, sono cose extra che all’utente non servono affatto e non servono nemmeno al Cliente di DocuSign che ha inviato la richiesta di firma.
Allan sta proponendo di firmare e, in omaggio, di vendere la propria anima al diavolo, o meglio, fuor di metafora, di autorizzarlo a monetizzare ogni possibile dato personale di chiunque incontri, vendendolo a data broker per un utilizzo libero e illimitato a fini di marketing, profilazione, rivendita, interconnessione, ecc.
Non hai letto bene?
Hai frainteso?
Hai cambiato idea?
Hai scoperto che le chiamate del call center ad ogni ora del giorno e della notte non sono una figata come pensavi?
Beh, non è certamente un problema di Allan.
Se questa descrizione sembra inverosimile, l’esperienza pratica aiuta a capire che è realtà e come funziona.
Ecco cosa viene presentato dopo la firma: uno schemino che illustra lo stato di avanzamento della procedura. Guardandolo, la prima impressione è di essere a buon punto ma non alla fine.
Parole come “solo un passaggio in più”, “Completa…”, lo schemino dove sei a metà e due passaggi dopo trovi “Operazione completata”, sono elementi sapientemente utilizzati per condizionare l’utente.
Ti sembra una esagerazione? Bravo, hai indovinato, questo è esattamente il motivo per cui funzionano così bene.
In pratica, la finestra è una rappresentazione volta a dare l’impressione di essere a metà di una procedura in corso e ancora da terminare. Non si percepisce il fatto di aver già finito. Non c’è un esplicito “GRAZIE”, un cortese “torna a trovarci”, al contrario, si ha la netta sensazione di essere ancora all’interno di un passaggio intermedio. Solo un gerontologico burocrate potrebbe sostenere che l’informazione corretta è presente e, quindi, è colpa dell’utente se ha capito male. Il GDPR, con un approccio più moderno e privilegiando la sostanza alla forma, non permette di giungere a questa irritante e disumana conclusione.
Proseguendo, con alcuni click, le cose non migliorano.
Di nuovo, la nuova schermata presenta all’utente una falsa necessità, un bisogno indotto: vuoi la copia più recente del documento? Fai così, clicca qui. Il messaggio sottinteso è, ovviamente, che se non fai così, se non clicchi lì e rinunci alla creazione del tuo profilo, se non ti registri, non avrai mai la copia più recente del documento.
Questo non è scritto, ovviamente, è solo sottinteso ed è opera di cesello di chi sa manipolare molto bene le persone, il lavoro di un professionista.
Ti sembra una esagerazione? Grazie per la dimostrazione, hai appena confermato che l’autore è veramente un bravo professionista.
Dire senza dire, far credere senza esporsi.
Il messaggio, volendo decodificare la schermata con occhi allenati, è esplicito e ingannevole.
La meccanica sottostante è questa: ogni utente che abbia firmato un documento già alla schermata precedente, lo riceverà completo appena anche le altre eventuali firme saranno raccolte, vale a dire al termine del processo di firma, anche se cadesse la linea, se si spegnesse il PC, senza iscriversi da nessuna parte, senza cliccare caselle di consenso che nulla hanno a che fare con la procedura di firma.
Alla luce di questo, le schermate appena viste hanno un po' il retrogusto di una presa in giro.
Un elemento geniale e molto interessante è l’ammuina tra la prima e la seconda finestra, la migrazione di ciò che prima era a destra e che poi si sposta a sinistra. Non è affatto un caso. Bisogna riconoscere la vera inclusività, in questo modo si riesce a sgraffignare un consenso e dati personali a tutti, senza distinzione, sia a chi è abituato a fruire dello schermo da destra verso sinistra, sia a chi è abituato da sinistra verso destra. Nessuno sarà escluso e ciascuno sarà messo a proprio agio, potrà rilassarsi e sentirsi coccolato su questo magnifico Divano di Troia.
Clicca pure e prosegui, andrà tutto bene.
E naturalmente, fondamentale per l’efficacia del dark patterns, è il fatto di non turbare l’utente, non confonderlo con inutili opzioni tra cui scegliere: mettiamo il pulsante “No grazie” in colori neutri, poco visibili, poco contrastati, in basso, in piccolo, defilato come se fosse la scelta della vergogna, quella dei poveri, quella da sfigati.
Mica come la scelta giusta, quella gagliarda e fiera di esistere, color blu estoril con testo ad alto contrasto, a prova di daltonico.
Complimenti Allan, ottimo lavoro. Magari non è proprio a norma di legge, forse non rispetta il GDPR, le indicazioni dell’EDPB e una ventina di anni di consolidate posizioni dei Garanti, ma è certamente un capolavoro di manipolazione dell’utente.
Dato che sono un DPO (Data Protection Officer), forse anche a causa della “fisima della privacy”, sono andato anche a leggere l’informativa sul trattamento dei dati personali. Sono rimasto abbastanza sconcertato perché è molto distante da ciò che dovrebbe essere. DocuSign ha uno stuolo di consulenti alle spalle e non è riuscita a dare al documento la forma e i contenuti richiesti dal GDPR. Incredibile. Faccio fatica a pensare che sia un caso. In pratica, l’informativa è VUOTA rispetto ad elementi essenziali sia per il rispetto della norma, sia per dare sostanza al consenso che, se non è adeguatamente informato, non è affatto valido, anche al netto dei giochetti grafici e degli altri strumenti di manipolazione. Oltre a questo, l'informativa descrive uno scenario diverso da quello che si legge nelle schermate che l'utente vede.
In breve, le finalità del trattamento sono meramente elencate in modo alluvionale e alcune sono decisamente preoccupanti (quelle con l’emoji che bestemmia).
Per ciascuna di esse, dovrebbe essere specificata una base di legittimazione che, al contrario, è descritta in modo decisamente possibilista, vago ed etilico, in un paragrafo separato, senza alcun criterio per poter associare una delle tante ipotetiche basi alle singole finalità, nemmeno a quelle più discutibili, pericolose o preoccupanti. Stessa cosa per la durata del trattamento.
In altre parti del documento cadono le braccia: il trattamento per finalità di marketing e la condivisione dei dati con terzi (che riporto per precisione) è molto disinibito e in evidente stato di alterazione da MDMA. In pratica all'utente viene data una generica possibilità di opt-out, di opposizione, da esercitare con modalità astruse e complesse. Mi domando come possa una persona comune, che finisce tutto in due minuti e che non si addentra nei meandri del burocratese, rendersi conto che, usando il servizio, perde il controllo dei suoi dati personali. Questa cosa, l’opt-out, per avere un senso, richiede un bandierone di avviso giallo lampeggiante che dia immediatamente la possibilità di opporsi. Al contrario, il processo di firma acquisisce dati liberamente, ci fa quello che vuole. Solo se l’utente riesce ad accorgersene, allora, può provare a chiedere che questo trattamento non avvenga e, peraltro, non è detto che ci riesca.
Mr. Allan, mi dia retta, in Danimarca ci sono degli eccellenti DPO. Ne conosco alcuni che mi sento di consigliarle. Li contatti perché, da quello che vedo, se un Garante avesse voglia di metterci la testa, potrebbe fare veramente del male (o del bene, dipende dai punti di vista) al servizio che lei offre.
La Danimarca è bellissima ma, attenzione, è molto ricca di paludi.
PROSIT