Consumatori e intelligenza artificiale, è tutto rose e fiori?

Non tanto, a leggere la ricerca condotta di recente da Savanta per PegaSystem Inc. e presentata in occasione del Pegaworld a Las Vegas lo scorso 4 giugno. Lo studio sottolinea la necessità di una maggior empatia nei sistemi di intelligenza artificiale.

I consumatori non hanno fiducia nell’intelligenza artificiale (AI) e non capiscono fino a che punto questa possa rendere la loro relazione con le aziende migliore e più efficiente. La ricerca, che ha coinvolto 5.000 intervistati in diversi Paesi del mondo (USA, UK, Francia, Germania e Giappone), ha indagato sulle opinioni delle persone circa moralità, comportamento etico ed empatia dei sistemi di AI.

Nonostante l’AI fornisca una tipologia di esperienza personalizzata e pertinente, che è esattamente quello che le persone oggi come oggi richiedono nelle loro esperienze di scelta e di acquisto lungo il proprio customer journey, molti consumatori non sono ancora convinti sui suoi reali benefici. In un momento in cui sempre di più le aziende si rivolgono all’IA per migliorare l’esperienza del cliente, è importante che le organizzazioni comprendano le percezioni, le preoccupazioni e le preferenze di quest’ultimo. Cosa è emerso, dunque, da questa ricerca?

I consumatori sono cinici rispetto alle aziende con cui intrattengono rapporti commerciali: il 68% degli intervistati afferma che le aziende hanno l’obbligo di fare ciò che è moralmente giusto nei confronti del cliente, indipendentemente dalle disposizioni di legge. Il 65% non ritiene che le aziende abbiano a cuore il suo miglior interesse e rivelano scarsa fiducia nell’interazione con aziende del comparto tecnologico. In un mondo che ambisce a diventare cliente-centrico, siamo ancora molto lontani dalla percezione da parte del nostro centro di essere veramente importante per noi, di sentirsi rappresentato nelle proprie esigenze individuali.

Rispetto all’intelligenza artificiale abbiamo seri problemi di fiducia: il 40% degli intervistati concorda sul fatto che l’AI abbia il potenziale per migliorare il servizio clienti delle aziende, ma meno di un terzo (30%) si sente a proprio agio con le aziende che utilizzano l’AI per interagire con loro. Solo il 9%, infatti, ha dichiarato di sentirsi a proprio agio con questi sistemi. Non solo, ma quasi un terzo degli intervistati, il 27%, ha dichiarato di nutrire preoccupazione circa il fatto che le macchine possano portar via il suo lavoro, arrivando addirittura a dichiararsi preoccupati per l’ascesa dei robot e la riduzione in schiavitù dell’umanità. Parole forti, forse troppo, ma che dovrebbero farci riflettere sul percepito dei nostri clienti e potenziali clienti.

L’intelligenza artificiale non è in grado di prendere decisioni imparziali: la pensa così il 53% delle persone coinvolte in questo studio, ed è singolare dal momento che, teoricamente, l’intelligenza artificiale dovrebbe metterci al riparo proprio da quegli elementi tipici della natura umana, quali per esempio i pregiudizi o personali sentimenti di simatia o antipatia, e basarsi solo su elementi fattuali. Ebbene, queste persone invece ritengono che l’AI prenderà le proprie decisioni in modo viziato dai pregiudizi della persona che l’ha programmata, e questo indipendentemente dal tempo che sarà trascorso. A questo proposito, è particolarmente interessante il richiamo dell’Unesco rispetto ai pregiudizi di genere inseriti automaticamente negli assistenti virtuali quali Alexa, Siri o Google Home.

Le persone preferiscono ancora il tocco umano: il 70% degli intervistati preferisce ancora parlare a un sistema umano piuttosto che a un chatbot quando deve contattare il servizio clienti e il 69% degli intervistati concorda che sarebbe più incline a dire la verità a un umano che a un sistema di intelligenza artificiale. Inoltre, quando si tratta di prendere decisioni sulla vita e sulla morte, ben l’86% delle persone afferma di fidarsi degli umani più che dell’IA.

Il 70% degli intervistati, infine, ritiene che l’intelligenza artificiale non utilizzi moralità o empatia: solo il 12% dei consumatori concorda che l’intelligenza artificiale sia in grado di distinguere tra il bene e il male, mentre oltre la metà (56%) dei clienti non crede sia possibile sviluppare macchine che si comportano moralmente. Solo il 12% crede di aver mai interagito con una macchina che ha mostrato empatia.

Insomma, è evidente che su questo fronte c’è ancora tanta strada da fare e, considerando che l’intelligenza artificiale diventa ogni giorno più importante nel guidare il coinvolgimento dei clienti, le aziende dovranno seriamente riflettere su come combinare le intuizioni basate sull’intelligenza artificiale con le considerazioni etiche fornite dall’uomo. Una bella sfida di certo.

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.