Angela Lo Giudice è avvocato, DPO, formatrice e mediatrice del digitale, nonché Co-Founder di Polimeni.Legal. Con oltre vent’anni di esperienza nel settore del diritto di Internet, privacy, e-commerce e copyright, è una delle principali esperte italiane in materia di protezione dei dati personali. In vista del suo intervento a Firenze, le abbiamo chiesto alcune anticipazioni su tematiche attuali e in rapida evoluzione, come la compliance aziendale nell’uso degli strumenti di intelligenza artificiale, un campo che sta iniziando a prendere forma e che, certamente, promette di rivoluzionare il panorama legale e tecnologico.
1. Quali sono le principali preoccupazioni legate alla privacy quando le aziende di viaggi utilizzano l’IA per raccogliere e analizzare i dati dei clienti?
Quando si parla di raccolta e analisi dei dati dei clienti non posso fare a meno di pensare a due situazioni distinte: la prima è relativa all’analisi ed ottimizzazione delle campagne di marketing e quindi alla profilazione degli utenti; mentre la seconda al fenomeno dell’utilizzo di strumenti di AI non autorizzati (Shadow AI). In relazione al primo punto è importante ricordare che qualsiasi forma di processo decisionale automatizzato tra cui rientra anche la profilazione deve essere sottoposto a specifico e separato consenso. Il consenso ha delle regole ben precise che non possono essere disattese e, tra queste, quella che in questo contesto mi preme ricordare è che deve essere informato. Ciò vuol dire che nel caso di profilazione devono essere chiaramente indicate le logiche che vengono applicate.
In relazione al secondo punto, la premessa è un po’ diversa. Quello che non si può escludere si deve governare. Occorre che le società mettano bene in chiaro e attuino delle policies specifiche sul corretto utilizzo dell’intelligenza artificiale. Il rischio principale dipende sempre da un uso non consapevole degli strumenti che può comportare perdita di controllo dei dati, soprattutto se non si sa se il modello viene addestrato con il caricamento dei dati personali.
Certamente, l’anonimizzazione o, quantomeno, la pseudonimizzazione dei dati sono misure utili per arginare il problema; è sempre bene, inoltre, condurre una valutazione d’impatto.
2. Come possono le aziende turistiche assicurarsi di rispettare le leggi sul copyright quando utilizzano immagini o contenuti generati da IA nelle loro campagne di marketing?
Intanto partiamo da un presupposto: non tutte le piattaforme sono uguali.
Questo vuol dire che i diritti d’autore sull’output generato con l’uso dell’intelligenza artificiale possono essere diversi a seconda del tipo di piattaforma usata e variare anche, all’interno dello stesso strumento scelto in base al tipo di versione.
Occorre inoltre evidenziare che, a prescindere da ciò, le piattaforme non garantiscono che l’output così ottenuto costituisca un prodotto “originale”; è sempre bene quindi utilizzare altri strumenti che consentano di determinarne l’originalità.
3. In che modo l’AI Act europeo potrebbe influenzare il modo in cui le agenzie di viaggio utilizzano le tecnologie di intelligenza artificiale per interagire con i clienti?
Premettiamo che le aziende possono unire i modelli di LLM (Large Language Model), come chat gpt ai database interni al fine di creare dei desk automatizzati come chatbot che sono in grado di fornire informazioni sui servizi offerti.
In un contesto come quello illustrato, a titolo di esempio, occorre evidenziare che l’Ai Act prevede una classificazione in base al rischio che il sistema comporta sui diritti fondamentali delle persone e pertanto, le aziende che intendano sviluppare o evolvere questi modelli dovranno adottare misure di sicurezza idonee, effettuare un’analisi dei rischi e potrebbero essere sottoposte a requisiti specifici di conformità.
L’avvocato Angela Lo Giudice dello studio Polimeni.Legal sarà presente a BTO nella cassetta degli attrezzi moderata da Luca Bove su AI & Compliance. Un’opportunità cruciale per le aziende di comprendere come utilizzare l’AI in modo sicuro e conforme, riducendo i rischi legali e sfruttando al meglio le opportunità di crescita.
L’intervista è stata curata da Giulia Eremita coordinatrice del topic “Digital Strategy”.
Vi aspettiamo a Firenze il 27 e 28 novembre 2024.
