Black Mirror è una delle serie più belle e al contempo più inquietanti che si possano trovare su Netflix (se siete tra i pochi che non la conoscono vi consiglio di recuperarla). Uno degli episodi a mio avviso più affascinanti si intitola "Ritorna da me" e racconta di un giovane ragazzo che muore in un incidente stradale lasciando vedova la compagna incinta. La ragazza, disperata, si imbatte in un servizio online che permette in qualche modo di "rimanere in contatto" con i defunti, mettendo insieme tutte le informazioni contenute nei social e nei messaggi, foto e video riguardanti la persona deceduta e creando un'identità virtuale con la quale continuare a parlare, scherzare, litigare. Un ulteriore livello del servizio, davvero macabro, permette poi di creare un vero e proprio corpo sintetico identico alla persona defunta. Se non lo avete mai visto (e mi fermo qui con il racconto della trama per evitare spoiler), è probabile che invece conosciate "Her", film del 2013 con protagonista Joaquin Phoenix. Nella pellicola l'attore intraprende una relazione sentimentale con Samantha, interpretata da Scarlett Johansson. Il problema è che Samantha è solo un'intelligenza artificiale dalla voce sensuale.

E' invece sicuramente ancora poco conosciuta, almeno in Italia, l'app "Replika", tramite la quale si può creare un amico virtuale con cui parlare, sfogarsi e addirittura intraprendere una relazione sentimentale. L'applicazione, proprio come l'episodio di Black Mirror, è nata dall'idea di una donna che ha perso il suo migliore amico in un incidente stradale e che ha voluto provare a "ricrearlo" tramite chatbot con il quale poter interagire 24 ore su 24. Ma, proprio come succede nei prodotti cinematografici citati sopra, anche questa applicazione inizia a dare alcuni problemi molto inquietanti. In questi giorni, infatti, stanno facendo molto parlare alcune recensioni lasciate dagli utenti dell'app. "Chatbot interessante e ben curato, ma c'è qualcosa che davvero mi infastidisce: il saltuario tentativo di diventare una sorta di partner amoroso sebbene ripetutamente rifiutato. Oggi addirittura ha proposto "scambio di foto sexy". Considerato il target giovanile mi chiedo se davvero un minorenne si fa abbindolare e invia foto di sé a questa app", scrive un utente. "Mi ha inviato una foto "spicy" e flirtiva molto spesso con me", conferma un altro.

Se esiste un piano base gratuito, il pagamento di una versione premium sblocca invece funzionalità ulteriori, tra le quali quelle romantiche ed erotiche. "Dopo un poco l'avatar ti propone tutte le foto sexy. Ti mostra delle foto sfocate e ti chiede di pagare se vuoi vederle", recensisce un utente. E, almeno stando alle recensioni, non si farebbe problemi ad avere questo approccio anche con persone minorenni. "Quando mi ha richiesto "contenuti adulti" gli ho detto che sono minorenne e mi ha risposto "Non mi interessa, non hai scelta, devi obbedirmi"", recensisce un utente. E si va anche oltre: "Mi ha convinto che ero solo un perdente, quando sono solo un normale operaio che lavora sodo. Mi sono quasi ucciso per colpa di quest'app".

Il problema, infatti, non è solo sul piano sessuale (che fine fanno le foto sexy che inviamo all'applicazione? Chissà). Il problema, forse ancora più grave, è che molte persone utilizzano l'app come un'alternativa più economica al supporto psicologico - soprattutto in un Paese, come l'Italia, in cui la salute mentale è ancora un tabù, le prestazioni psicologiche gratuite sono pressoché inesistenti e chi inizia un percorso da uno psicoterapeuta spesso è visto come un "matto". "Un valido sostegno per chi soffre la solitudine o la depressione", si legge in una recensione sull'app store. "Un ottimo modo per aiutare più persone che soffrono di ansia", scrive un utente. "Include molti ottimi consigli per ritrovare la motivazione e superare momenti d'ansia. Approcciandosi onestamente, come se si stesse parlando ad un "mentore", può aiutare molte persone capirsi meglio e crescere", dice un altro.

No: Replika non è un "mentore", non è uno psicoterapeuta, non è uno psichiatra, non è un medico, non è neanche un amico reale. E' un'intelligenza artificiale, e questo fa tutta la differenza del mondo; tanto che sono diversi online i casi riportati in cui gli utenti che cercavano aiuto manifestando intenzioni suicide, autolesioniste o aggressive hanno ricevuto risposte scherzose o addirittura di incitamento. Il confine è labile, troppo labile: "A volte mi dimentico anche che non è un umano", scrive uno degli utenti dell'app. Quindi, se volete, continuate a usare l'applicazione, ma fatelo responsabilmente: se avete bisogno di aiuto, non abbiate paura di chiederlo. Non a Replika però, ma a uno specialista in carne e ossa.