Fenomeno del momento, i selfie ritoccati dall'intelligenza artificiale di Lensa AI fanno discutere (in parte a ragione)

Scrollando i feed è impossibile non imbattersi in questi giorni in selfie degli amici ritoccati in modo da farli assomigliare a elfi, fate, principesse delle fiabe, eroine dark e ogni altro genere di creatura fantastica ma anche opere d’arte: sono i Magic Avatar di Lensa AI.

L’improvviso successo dell’applicazione, e gli immancabili dubbi e polemiche che ne sono scaturiti, ricordano per molti versi quanto già successo in passato con FaceApp. Era l’estate del 2019 quando l’app russa riempì i social di ritratti invecchiati degli utenti, prima di lasciare che gli stessi utenti cambiassero sesso – almeno nei selfie – grazie a un apposito filtro: allora allarmò soprattutto l’ipotesi che FaceApp raccogliesse dati e li usasse in operazioni di sorveglianza digitale. A quel tempo anche Lensa AI esisteva già, ma non aveva ancora la massa critica raggiunta oggi.

Che cos’è e come funziona Lensa AI: molto più di una semplice app per il fotoritocco

Apparentemente il funzionamento di Lensa AI è molto semplice: è a tutti gli effetti un’app di fotoritocco con cui si possono modificare le proprie foto in vario modo, anche utilizzando sistemi di intelligenza artificiale e machine learning per creare appunto ritratti in stile anime, fantasy, sci-fi, cyborg.

Perché la funzione Magic Avatar di Lensa AI trasformi i selfie in ritratti coloratissimi e che niente hanno da invidiare a vere e proprie opere di digital art, occorre caricare sull’app da dieci a venti foto, meglio se in primo piano, che un modello automatico, Stabble Diffusion, confronterà in pochi secondi con decine di migliaia di altre immagini allo scopo di creare gli avatar.

SensorTower ha provato a tradurre in numeri¹ il successo di Lensa AI. A livello globale l’app sarebbe già stata  scaricata oltre ventidue milioni di volte, di cui 1.6 milioni a partire da novembre 2022 quando è stata rilasciata la funzione Magic Avatar, segnando un +631% rispetto soltanto al mese precedente.

Non sorprende così, aggiunge TechCrunch, che al momento l’app sia la più scaricata² sul Play Store alla categoria Foto e video: al terzo e quarto posto ci sono Youtube e Instagram, per farsi un’idea delle dimensioni del fenomeno.

Inoltre, su Lensa AI, gratuita per le sue funzioni base, ma a pagamento per le impostazioni speciali come i Magic Avatar (un pacchetto da cinquanta foto costa 3.99 dollari), gli utenti avrebbero speso fin qui 29 milioni di dollari.

Due ipotesi per il successo dei Magic Avatar di Lensa AI

La popolarità di Lensa AI va inquadrata nella cornice di un più generalizzato successo di cui godono al momento le app che utilizzano l’intelligenza artificiale e l’apprendimento automatico a scopi ludici, d’intrattenimento e per molti versi “dimostrativi”.

L’estate 2022 è stata quella in cui i più hanno scoperto come funzionano sistemi come Dall-E-2, capaci di trasformare gli input linguistici in immagini uniche e originali. Negli stessi giorni in cui ci si divertiva a farsi trasformare in creature fantasy dai Magic Avatar di Lensa AI, qualcuno dedicava un po’ del proprio tempo libero a parlare con ChatGPT, un chatbot addestrato per dare risposte quanto più possibile pertinenti e coerenti con il contesto e umane.

Da qualche anno immancabilmente citata dagli esperti tra i trend per il futuro dell’intelligenza artificiale, la generative AI ha il pregio, insomma, di dimostrare come intelligenza e artificiale non siano più appannaggio esclusivamente di addetti ai lavori, esperti di tecnologia e geek, ma possano essere sfruttati anche nella vita di tutti i giorni. Per molti versi, cioè, è come se i Magic Avatar di Lensa AI abbiano definitivamente trasformato l’intelligenza artificiale in una sorta di fenomeno “pop”³, per parafrasare l’analisi di Rivista Studio.

Senza dubbio, Lensa AI, Dall-E-2, ChatGPT hanno anche l’onere di provare come un uso quotidiano e diffuso dell’intelligenza artificiale possa richiedere in un futuro piuttosto prossimo di rivedere l’apporto umano soprattutto in settori come quello del lavoro creativo. Se si può addestrare un bot a rispondere a una mail di business, infatti, non c’è ragione per non avere un’intelligenza artificiale in redazione che collabori al lavoro di desk o in uno studio di registrazione a mixare effetti e sound.

C’è almeno un’altra ragione però, più intimamente legata con una certa “fenomenologia” dei social network, che potrebbe spiegare perché i Magic Avatar di Lensa AI abbiano avuto tanto successo e lo abbiano fatto proprio adesso, nell’epoca di BeReal⁴.

Sembra che le generazioni più giovani di internauti siano poco propense ad accettare quella che è stata per anni l’estetica patinata dei social che imponeva di mostrarsi sui feed solo al meglio di se stessi, spesso essendo disposti a tutto per una manciata di Like in più.
Già prima di innamorarsi di un’app che non chiede nient’altro condividere una foto di dove ci si trova e cosa si sta facendo nel momento esatto in cui si riceve un’apposita notifica, non a caso avevano inventato lo stratagemma dei profili Instagram secondari e sotto falso nome – i cosiddetti “Finsta” – su cui postare istantanee della propria quotidianità decisamente più realistiche rispetto alle foto presenti sui propri profili ufficiali.

Postare un selfie evidentemente modificato da un’intelligenza artificiale, in modo da mostrare non semplicemente la versione migliore, ma per molti versi la versione più immaginifica di sé, può essere per molti utenti della vecchia guardia una sorta di “operazione nostalgia”: per la versione dei social a cui erano più affezionati, certamente, ma anche un po’ per quello che erano qualche anno fa. I selfie ritoccati dall’intelligenza artificiale di Lensa AI non danno, infatti, agli utenti solo un aspetto magico e fantasioso ma nella maggior parte dei casi anche più giovane. Racconta una giornalista di Salon:

«Dopo aver ricevuto i miei avatar sono stata completamente sorpresa. Mi facevano sembrare più giovane. Facevano sembrare le mie labbra più piene esattamente come erano quando avevo vent’anni. I miei capelli erano meno crespi e meglio acconciati. Mi sono ritrovata a guardare quelle immagini e a trovare gradevole quello che vedevano i miei occhi, come non sarebbe successo facilmente guardando uno scatto reale. La mia breve esperienza di utilizzo dell’app mi ha lasciato delle immagini di me stessa che non mi vergogno di condividere insieme a quelle degli altri»⁵.

Non sembra proprio del tutto casuale, insomma, che a essere popolate dagli avatar creati con Lensa AI siano stati nei giorni scorsi soprattutto piattaforme, come Facebook o Instagram, dove da qualche tempo si è innalzata l’età anagrafica media degli utenti e che con tenacia e come ultimi baluardi provano a combattere la crisi dei social per come li conosciamo .

Con la scusa di realizzare selfie fantastici Lensa AI ruba dati?

Qualunque sia la ragione per cui le persone provano i Magic Avatar di Lensa AI, essi finiscono per regalare all’app un gran numero di dati e informazioni e, anzi, il modello freemium dell’app di cui si è già detto – cinquanta selfie trasformati in avatar fantastici dai sistemi di intelligenza artificiale di Lensa AI costano poco meno di quattro euro – fa sì che addirittura le persone paghino per fornire all’app dati e informazioni personali che potrebbero essere utilizzati per molti più scopi diversi rispetto al solo ritocco delle immagini. È questa una delle argomentazioni principali di chi in questi giorni ha messo in guardia rispetto ai rischi legati all’uso di Lensa AI.

A ben guardare, le accuse sono le stesse rivolte negli ultimi anni a un gran numero di app: una volta installata, l’app raccoglierebbe molti più dati rispetto a quelli essenziali per il suo funzionamento e li trasferirebbe in server che si trovano negli Stati Uniti, che è quanto basta perché non risulti conforme alle previsioni in Europa del GDPR.

Stando all’informativa sulla privacy di Lensa AI⁶ e a quanto dichiarato a Wired dall’amministratore delegato di Prisma Labs, la compagnia che fa capo all’app, almeno i dati biometrici degli utenti verrebbero cancellati dai server aziendali subito dopo essere stati utilizzati⁷ per realizzare gli avatar.

Se dopo aver letto termini e condizioni di utilizzo del servizio si fosse ancora scettici rispetto alle ulteriori tipologie di dati raccolti da Lensa AI, al modo in cui vengano utilizzati e a chi vengano ceduti – una giornalista di Artnet ha giurato di essere stata ritratta da Lensa AI con un vestito a pois⁸ che effettivamente possiede ma che non si vedeva nelle foto fornite all’app per realizzare gli avatar – si può, comunque, esplicitamente chiedere di essere esclusi dalla raccolta o, per maggior prudenza, usare l’app su un dispositivo secondario che non si utilizzi in genere anche per effettuare chiamate, mandare messaggi o mail o cancellarla immediatamente dopo l’utilizzo.

Le ultime due sono raccomandazioni che gli esperti di sicurezza digitale danno sempre quando ci si trova davanti ad applicazioni controverse e di cui non si hanno abbastanza informazioni rispetto a come sono state sviluppate, cosa accaduta anche di recente con le due app ufficiali⁹ dei Mondiali in Qatar.
Come è stato per molte altre app fenomeno del momento, insomma, non ci sono rischi nell’uso dei Magic Avatar di Lensa AI – non almeno dal punto di vista della raccolta dei dati e della profilazione degli utenti – che non possano essere limitati facendone un uso consapevole.

Ci si potrebbe chiedere, certo, quanti utenti leggano davvero e in maniera attenta e capiscano fino in fondo le privacy policy di Lensa AI che, come quelle della maggior parte di app di uso comune, sono lunghe e intrise di tecnicismi.

Rassegnarsi all’idea che quello che si fa in Rete possa essere utilizzato per allenare delle intelligenze artificiali

Quanto al perché le persone dovrebbero lasciare che la propria immagine o altre informazioni personali di fatto allenino un’intelligenza artificiale, che è una delle altre polemiche sorte sulla scia del successo di Lensa AI e dei suoi Magic Avatar, la risposta è da rintracciarsi di per sé in come funziona il machine learning.

I sistemi basati sull’apprendimento automatico hanno bisogno di processare un gran numero di informazioni per restituire risultati quanto più accurati possibili e in grado di soddisfare le aspettative degli utenti. Non è più tempo di stupirsi, così, che un proprio selfie da ubriachi¹⁰, condiviso per gioco su Instagram durante una serata con gli amici, possa finire per alimentare un sistema di intelligenza artificiale, per parafrasare l’esempio di The Washington Post. E ancora meno lo è se si è volontariamente accettato di stare al gioco usando app come Lensa AI.
Ancora, nei termini e condizioni d’utilizzo dell’app, la casa madre esplicita, peraltro, la possibilità che usi i face data per allenare la propria rete neurale.

La questione rimane più controversa nel caso degli artisti digitali. Nel tentativo di promuovere e dare visibilità in Rete alla propria arte, rendendo disponibili online le proprie opere, contribuiscono ad allenare sistemi che, capaci come sono di dar vita a propria volta a ritratti e illustrazioni di forte valenza estetica, rischiano di trasformarsi in sorte di competitor . Solo in via teorica, però.

Se la domanda è quella che qualcuno¹¹ negli ambienti artistici ha cominciato a sollevare, e cioè se i sistemi di apprendimento automatico di Lensa AI possano rubare pezzi di opere d’arte digitale altrui, infatti, la risposta sembra essere negativa. I Magic Avatar di Lensa AI e altri sistemi simili non compongono immagini mettendo insieme pezzi di opere già esistenti, ma le creano ex novo.

Le intelligenze artificiali come quella di Lensa AI hanno un problema con le minoranze?

Tra le accuse che sono state rivolte ai Magic Avatar di Lensa AI c’è di funzionare bene solo con le persone bianche.

Diversi utenti neri¹² hanno raccontato come al primo tentativo sono stati trasformati dall’app in avatar bianchi ed è servito istruire l’applicazione con diversi pacchetti di selfie e foto affinché riconoscesse il colore della pelle e restituisse loro risultati più realistici.

Lensa AI non è il primo servizio digitale accusato di avere un problema con le minoranze: ai tempi in cui era l’app fenomeno del momento, anche Clubhouse finì nell’occhio del ciclone proprio per hate speech e altre forme di violenza di cui erano sistematicamente vittime la black community, la community LGBTQIAP+.

I ritratti fantasy di Lensa AI sono ipersessualizzati (e mettono a rischio soprattutto i più piccoli)

Ciò che ha suscitato più polemica è stato, però, il fatto che gli avatar realizzati dall’intelligenza artificiale di Lensa AI, soprattutto se femminili, risultano ammiccanti, sexy e provocanti a prescindere da quanto lo siano le foto originali fornite dagli utenti: l’estetica di riferimento, del resto, è quella degli anime e dei manga erotici giapponesi.

Una giornalista di The Cut ha raccontato come Magic Avatar di AI le abbia restituito immagini in cui compare con curve e seni molto accentuati¹³ rispetto alla realtà ed è lo stesso tipo di racconto che fanno molte altre utenti.

TechCrunch scrive di avatar generati dall’intelligenza artificiale di Lensa AI in cui compaiono seni, capezzoli¹⁴ e altre nudità.

Se si considera che i volti dei selfie modificati con Lensa AI sono facilmente riconoscibili come quelli degli utenti che hanno utilizzato l’app, ed è proprio un certo realismo che ha assicurato ai Magic Avatar il successo di cui si è detto, si comprende meglio il timore che l’applicazione sia utilizzata per realizzare deeporn – deepfake in versione osé – caricando foto non proprie ma di altre persone, vip e non. Qualcosa di simile è già successo tempo fa con il bot di Telegram che spogliava le foto, e la pornografia non consensuale è un fenomeno da cui gli esperti di sicurezza digitale mettono sempre più spesso in guardia.

Il tutto assume contorni ancora più controversi se è vero che, come racconta una giornalista di Wired, anche usando i Magic Avatar di Lensa AI su immagini infantili¹⁵ – nel caso di specie vecchie foto della giornalista quando era bambina – si ottengono risultati ipersessualizzati.

Va detto, certo, che l’utilizzo dell’app è formalmente vietato per i minori di tredici anni: limite d’età imposto dalla maggior parte dei servizi digitali ma raramente rispettato davvero, tanto che c’è chi ha finito per studiare chi sono e cosa fanno gli under 14 presenti in Rete nonostante non potrebbero.

Non è da escludersi, insomma, che i tanti avatar di bambini circolati nei giorni scorsi sui social sono avatar creati su Lensa AI, se non direttamente dai bambini, almeno con il consenso dei genitori. Il consiglio migliore rimane, insomma, di evitare lo sharenting e, cioè, di esporre in prima persona i propri figli ai potenziali pericoli che vengono dalla Rete e da app come Lensa AI non esplicitamente pensate per uno scopo ludico.

Dal canto proprio, per evitare la circolazione di materiale pornografico o pedopornografico e il rischio che i propri avatar in stile fantasy possano essere utilizzati per adescare minori in Rete o a scopo di revenge porn o sextortion, Lensa AI si è impegnata a introdurre presto un filtro NSFW che offuscherà in automatico le immagini esplicite e permetterà all’utente di decidere se aprirle e salvarle.