Posam a prova l'hipertrucatge (deepfake): prevenció, creació, detecció i repercussió

Programa per descarregar

Dates: del 15 al 19 de juliol de 2024

Lloc: Sala d’actes. Edifici Sa Riera

Hores: 25

ECTS: 1 crèdit aprovat per la comissió acadèmica el 4/6/2024.

Places: 50 persones

Matrícula

De franc

Inscripció

Destinataris: persones interessades a rebre formació transversal i interdisciplinària sobre els vídeos trucats amb intel·ligència artificial (deepfake) des d’una perspectiva tècnica, econòmica, jurídica i social. Obert a tots els membres de la comunitat universitària de la UIB, professionals o persones que vulguin obtenir formació en aquesta temàtica.

El curs s'impartirà en línia a les seus d'Eivissa i Menorca si hi ha un nombre mínim de tres estudiants inscrits.

Curs presencial i en línia: A petició d’un mínim de cinc alumnes, el curs s’emetrà endirecte, en línia, per a qui no pugui assistir-hi presencialment. El curs s’oferirà, en línia, a les seus d’Eivissa i de Menorca.

Coordinació: Dra. Maria Isabel Montserrat Sánchez-Escribano, professora contractada doctora de Dret Penal.

Introducció

Durant els darrers mesos, als mitjans de comunicació han aparegut nombroses notícies sobre casos de manipulació no consentida de mitjans digitals a través de la tècnica de l'hipertrucatge (en anglès, deep fake). Aquest fet ha generat molta preocupació entre la població, ja que els casos que s’han fet virals eren de fotografies amb un contingut sexual explícit —imatges o vídeos pornogràfics— de dones adultes i, moltes vegades, de menors d’edat.

Però les fotografies falses de més de 30 menors nues creades amb intel·ligència artificial (IA) per part d'uns companys de classe a Almendralejo, les que varen aparèixer mesos després a Agramonte i les que s’han descobert fa poc a Felanitx són el reflex d’un fenomen que fa anys que afecta dones famoses com Rosalía, Laura Escanes o, recentment, Taylor Swift. I aquest no és l’únic ús inadequat que es fa d’aquesta tecnologia. Molts llocs web permeten despullar una persona mitjançant IA o, per exemple, crear un avatar digital de la teva exparella al metavers i, després de pujar-hi les seves converses de WhatsApp, aconseguir que la IA aprengui a parlar com ella.

Tot i així, aquests fets reflecteixen una problemàtica social complexa que hem d’afrontar des del coneixement i les competències personals. El curs sorgeix en aquest context. A la Universitat volem oferir una formació transversal i interdisciplinària que acosti la tecnologia de l’hipertrucatge a qui estigui interessat a aprendre les bases de com funciona i de com fer-ne un bon ús.

El problema de la tecnologia no és la tecnologia en si mateixa sinó la utilització inadequada i perniciosa per als drets de les persones que de vegades en fem. De fet, fins ara, la tècnica de l’hipertrucatge s’ha emprat de manera satisfactòria en molts casos per ressuscitar els morts: l'anunci de Cruzcampo «Amb molt d'accent», protagonitzat per l'emblemàtica Lola Flores, i la reconstrucció de la veu de John Fitzgerald Kennedy per recrear el discurs que hauria pronunciat el dia que va ser assassinat al Dallas Trade Mart. També són ben conegudes les diferents aplicacions que se n’han fet a Star Wars: a Rogue One: A Star Wars Story es va usar aquesta tècnica per rejovenir Carrie Fisher com a princesa Leia i per reviure l'actor Peter Cushing al paper del gran Moff Wilhuff Tarkin; a The Mandalorian també es va rejovenir Luke Skywalker.

Com es veu, hi ha molts casos d’ús i de bones pràctiques amb la tècnica de l’hipertrucatge. Aquest curs té com a finalitat oferir una formació polièdrica en aquesta tecnologia dirigida a tots els públics: tant a persones sense cap coneixement com a expertes, des d’un enfocament responsable i ètic, que és la base del respecte a la privacitat i a la dignitat. Així, s’estudiaran els aspectes més tècnics d’aquesta tecnologia per aprendre diferents aplicacions creatives i entretingudes, s’analitzaran els aspectes ètics i legals per aprendre a utilitzar-la amb precaució i respecte, i, finalment, s’estudiarà una de les aplicacions més importants de l’hipertrucatge a l’actualitat: com s'utilitza per produir entreteniment digital, crear efectes especials al cinema i a la televisió o, fins i tot, preservar la història i la cultura a través de reconstruccions digitals. D’altra banda, ens detindrem en l’anàlisi des d'una perspectiva nociva: analitzarem què fan els mitjans de comunicació per evitar la difusió d’informació falsa, quin és l’impacte social que té difondre notícies i continguts falsos, i quina és la resposta que el nostre ordenament jurídic pot donar davant aquests casos.

Per tractar aquests temes, hi ha un panel d’experts de la màxima qualitat professional. Efectivament, el curs conjumina professionals de quatre especialitats diferents: Dret, Economia, Informàtica i Periodisme per tractar de manera global i transversal aquesta evolució digital de la intel·ligència artificial. A més, encaixa plenament dins el Pla de ciència, tecnologia i innovació de les Illes Balears del Govern de les Illes Balears, al «Repte número 6. Societat canviant, innovadora i segura», amb la creació d'un marc jurídic adequat que faci viable un entorn segur i lliure d'amenaces no desitjades pels usuaris, fet en el qual es manifesta la idea de seguretat digital.

Objectius

L’objectiu del curs és oferir una formació complementària de qualitat a un nombre ampli d'estudiants de diferents facultats de la nostra universitat i a professionals interessats en matèries vinculades a la intel·ligència artificial i, especialment, a l’hipertrucatge. Com a objectiu principal hi ha l’assoliment de coneixements vinculats amb la matèria objecte d’estudi i anàlisi des d’una metodologia basada en la creació d’un fòrum de reflexió i debat professor-estudiant, així com la generació d’un espai de participació proactiva dels estudiants que els permeti assolir una base formativa i analítica de l’ètica, la tècnica, l'economia i el Dret per tal que, en el futur, com a professionals formats en la matèria, puguin afrontar de manera resolutiva els problemes derivats de la utilització del trucatge de vídeo amb intel·ligència artificial des d’un punt de vista professional i personal.

Més específicament, aquest curs abordarà d’una manera transversal i interdisciplinària els aspectes més rellevants de l’hipertrucatge: la creació, la detecció, què hem de fer per prevenir-lo i quines repercussions socials i legals pot tenir. Concretament, es tractaran els aspectes següents:

a) El tècnic. Què és i com funciona la intel·ligència artificial generativa, la tecnologia que fa que una màquina sigui capaç de pintar, compondre, fotografiar o dissenyar qualsevol cosa i que, per tant, permet la generació d’aquests vídeos falsos. El curs començarà amb l’explicació de les bases tècniques d'aquesta nova tecnologia amb la finalitat de conèixer com es creen els vídeos trucats amb intel·ligència artificial i aprendre a utilitzar les eines principals que tenim al nostre abast per emprar-la en un sentit positiu.

b) El jurídic. Si tenim en compte que, a diferència d'una persona, la intel·ligència artificial generativa no es basa en la inspiració sinó que aprèn d'una gran quantitat de dades (milions d'imatges, textos i àudios) que després utilitza per crear un contingut nou segons els estils i les relacions que ha après, aquesta tecnologia planteja molts interrogants des del punt de vista del dret a la protecció de dades i també del dret a l'honor, la intimitat i la pròpia imatge de les persones. Això és especialment important en el cas dels vídeos trucats, en què es manipulen digitalment imatges i veus per crear contingut que pot ser extremadament difícil de distingir de la realitat. A la segona part del curs s’analitzaran els aspectes civils i penals de la regulació vinculada als drets que es poden veure afectats per la creació de vídeos trucats.

c) El periodístic. La creació de recursos audiovisuals mitjançant la intel·ligència artificial ha suposat una revolució per als mitjans de comunicació, tant des d’una perspectiva positiva com negativa. Aquest recurs pot aportar moltíssim al periodisme però també pot ser negatiu. Precisament, aquest serà el tercer bloc del curs. D’una banda, s’estudiaran els casos d’ús al cinema i a la publicitat, i, de l'altra, els riscos i desafiaments que aquesta tecnologia presenta per a un periodista quan s’usa per crear notícies falses o per generar contingut nociu.

d) L'econòmic. Finalment, l'ús de l’hipertrucatge amb finalitats nocives planteja una sèrie de desafiaments addicionals que no fan referència ni a l’ètica ni al Dret, sinó que afecten directament la societat en si mateixa i el comportament de les persones que en formen part. En aquest sentit, per exemple, si s'utilitza aquesta tècnica per crear anuncis o campanyes publicitàries enganyoses, pot tenir conseqüències negatives tant per als individus d’una societat com per a la integritat del mercat. Des d’aquesta perspectiva, aquests vídeos tenen el potencial de soscavar la veritat, difondre desinformació i minar la confiança en l'exactitud dels mitjans informatius. El quart bloc del curs es dedicarà a analitzar les implicacions socials del contingut trucat, és a dir, com pot impactar en la societat la manera com tractam les imatges i els vídeos i com pot minar la confiança que tenen les persones en els mitjans de comunicació i en les institucions.

Continguts

BLOC 1. PRESENTACIÓ I ASPECTES TÈCNICS DE L'HIPERTRUCATGE (DEEP FAKE)

15 de juliol – Informàtica i vídeos hipertrucats

15.30 h Presentació del curs i recollida de material, a càrrec de Maria Isabel Montserrat Sánchez-Escribano, professora contractada doctora de Dret Penal.

De 16 a 20 h Intel·ligència artificial generativa: hipertrucatge, creació i detecció de contingut «artificial». Javier Varona Gómez, catedràtic d’universitat de Ciències de la Computació i Intel·ligència Artificial.

BLOC 2 L'HIPERTUCATGE COM A NOU DESAFIAMENT DEL LEGISLADOR

16 de juliol – Dret civil i intel·ligència artificial generativa

De 16 a 20 h «Protecció de dades, dret a l’honor, a la intimitat i a la pròpia imatge: qualsevol pot utilitzar les meves imatges per crear un vídeo trucat?» Antònia Paniza Fullana, catedràtica d’universitat de Dret Civil.

17 de juliol – Dret penal i intel·ligència artificial generativa

De 16 a 20 h «Les repercussions dels vídeos trucats no consentits: què puc fer si qualcú ha creat i distribuït un vídeo meu sense tenir-ne el consentiment?» Maria Isabel Montserrat Sánchez-Escribano, professora contractada doctora de Dret Penal.

BLOC 3 MITJANS DE COMUNICACIÓ, CONDUCTA, ECONOMIA I SOCIETAT

18 de juliol – Periodisme i vídeos hipertrucats. De 16 a 20 h «La revolució de la intel·ligència artificial generativa als mitjans de comunicació: l'hipertrucatge com a font d’informació i desinformació en els mitjans de comunicació». Neus López Borràs, periodista i redactora de l’Informatiu vespre d'IB3 Ràdio.

19 de juliol – Economia, conducta i societat.

De 16 a 20 h «L’impacte dels vídeos hipertrucats a la societat: com afecta al nostre comportament i al mercat la creació d’informació falsa?» Thomas Karl Alfred Woiczyk, professor ajudant doctor d’Economia de l’Empresa.

De 20 a 21 h Cloenda del curs, a càrrec de Maria Isabel Montserrat Sánchez-Escribano, professora contractada doctora de Dret Penal.

Professorat

Antònia Paniza Fullana, catedràtica d’universitat del Departament de Dret Privat
Maria Isabel Montserrat Sánchez-Escribano, professora contractada doctora del Departament de Dret Públic
Javier Varona Gómez, catedràtic d’universitat del Departament de Matemàtiques i Informàtica
Thomas Karl Alfred Woiczyk, professor ajudant doctor del Departament d'Economia de l’Empresa
Neus López Borràs, periodista i redactora de l'Informatiu vespre d’IB3 Ràdio

Metodologia

Aquest curs s'adapta a les exigències d'aprenentatge de l'EEES, que es basen en l'adquisició d'un conjunt de competències i habilitats per part dels estudiants. És per això que s’ha dissenyat una metodologia que parteix de l'actuació conjunta i cooperativa dels professors i que té com a objectiu aconseguir una implicació activa dels alumnes. S'han previst, per tant, no tan sols sessions de formació presencial, sinó també la creació d'un espai de participació directa dels estudiants en el qual, després d'un treball autònom previ però alhora de col·laboració en diferents tallers, presentaran les seves conclusions a través d’apartats de comunicacions al llarg del curs. A més, s’ha apostat per la tècnica de la docència transversal i interdisciplinària com uns dels mètodes més apropiats per assolir el nostre objectiu. A aquest efecte, no adoptam cap de les modalitats de manera pura sinó que utilitzam una combinació de tres: la docència en equip, la docència compartida paral·lela i la docència compartida complementària.