Eclosió tecnològica

Prohibir ChatGPT? L’avenç de la intel·ligència artificial accelera els intents de regulació

Espanya sol·licitarà un debat entre els reguladors de la Unió Europea perquè es trobin maneres de minimitzar els riscos d’uns generadors de textos i imatges l’ús dels quals s’expandeix a un ritme frenètic

FILE PHOTO: Illustration picture of ChatGPT

FILE PHOTO: Illustration picture of ChatGPT / FLORENCE LO

Carles Planas Bou

El 21 d’abril del 2021, la Unió Europea (UE) va posar sobre la taula una mesura pionera per <strong>regular</strong> la intel·ligència artificial (IA). Després de tres anys de consultes, Brussel·les va establir la categorització d’aquests sistemes segons el seu risc i la prohibició quan sigui «inadmissible», és a dir, la vigilància massiva, el reconeixement facial i el crèdit social que fa servir la Xina. No obstant, l’accelerada irrupció de models generatius com el popular <strong>ChatGPT</strong> ha torpedinat la proposta original, i ha forçat els legisladors europeus a estudiar vies per posar la IA sota control.

En poc més de quatre mesos, aquesta tecnologia ha aconseguit expandir-se de manera vertiginosa a cada vegada més aspectes de la nostra vida, i s’ha colat a les escoles i en múltiples llocs de treball. La seva capacitat de simular converses humanes i de crear imatges fictícies que semblen cada vegada més reals ha fascinat molts, però també ha despertat por entre els experts pel potencial impacte que pot tenir en aspectes com el mercat laboral, els biaixos i la <strong>desinformació</strong>. «El que s’ha fet amb ChatGPT recorda Tesla: treure els cotxes al mercat i corregir-los mentre la gent condueix. Per això tenen més accidents que els altres», explica Lorena Jaume-Palasí, experta en IA, filosofia del dret i ètica de la tecnologia.

La velocitat d’aquesta eclosió ha obligat la UE a alentir la tramitació de la llei per afegir-hi nous mecanismes de control. El Parlament Europeu la votarà a finals d’abril, però si s’aprova podria trigar fins a dos anys a entrar en vigor. Tot i que no queda clar quin aspecte final tindrà, els dos diputats que encapçalen la legislació han proposat categoritzar la IA generativa com d’«alt risc», i exigir a les empreses requeriments de gestió del risc i de transparència més estrictes. Una investigació recent de l’oenagé Corporate Europe Observatory assenyala que Microsoft i Google –els gegants tecnològics que encapçalen la carrera empresarial per la IA– estan pressionant amb insistència Brussel·les perquè no s’imposi aquesta etiqueta de risc als seus serveis. D’altra banda, el comissari europeu de Mercat Interior i Serveis, Thierry Breton, va assegurar dilluns que tots els continguts que es generin amb IA «hauran d’estar marcats». «És un tema extremadament important», va apuntar.

«ChatGPT ha fet com Tesla: treure els cotxes al mercat i corregir-los mentre la gent condueix. Per això tenen més accidents que els altres»

— Lorena Jaume-Palasí, experta en IA, filosofia del dret i ètica de la tecnologia

Prohibició a Europa?

Itàlia ha sigut el primer país del bloc europeu que ha optat per bloquejar l’accés dels seus ciutadans a ChatGPT. El 31 de març, l’agència italiana de protecció de dades va denunciar l’«absència de base jurídica que justifiqui la recollida i l’emmagatzematge massiu de dades personals a fi d’entrenar els algoritmes» i va donar 20 dies a <strong>OpenAI</strong>, creadora de l’aplicació, per demostrar que no vulnera el Reglament General de Protecció de Dades (GDPR) de la UE.

A Espanya, el tema també preocupa. A les preguntes d’EL PERIÓDICO, l’Agència Espanyola de Protecció de Dades (AEPD) ha confirmat que sol·licitarà la inclusió d’aquest debat en el pròxim Plenari del Comitè Europeu de Protecció de Dades –que se celebrarà a l’abril– perquè «es puguin posar en marxa accions harmonitzades» i «coordinades en l’àmbit europeu».

En aquest aspecte, les opinions dels experts no coincideixen. «Prohibir és una opció una mica radical. Em preocupa perquè això reforça el paper d’Europa com a fre a una innovació que es produeix fora», apunta l’analista Antonio Ortiz. «La regulació de l’aeronàutica fa que si cau un avió tothom ho investiga perquè no en caiguin més. No és un sector perfecte, però és millor que el que passa amb la IA», opina Ariel Guersenzvaig, investigador en ètica tecnològica. «Ningú nega que sigui una cosa fascinant, però s’ha de frenar una mica».

Denúncies i pressió

Des del 2016, al món s’han aprovat 123 lleis que tracten sobre la IA; 37 de les quals es van aprovar el 2022, segons l’informe AI Index de la Universitat de Stanford. Malgrat això, fins ara els intents de regulació s’han centrat més en la IA convencional –aplicada a les cadenes de producció i a la salut– que en eines com ChatGPT i Midjourney.

Calcular els riscos d’aquests sistemes és complicat, ja que tenen una gamma d’usos molt àmplia i una part pot ser beneficiosa per a la societat. Tot i així, també tenen efectes nocius, cosa que està impulsant noves demandes contra generadores de text i imatge que van des d’un alcalde que ha denunciat el dany reputacional causat per les mentides produïdes per aquests sistemes a artistes que denuncien una violació dels drets d’autor.

Aquest malestar està portant les autoritats a actuar-hi. A Alemanya, el regulador estudia una restricció similar a la italiana, que el Govern federal rebutja. A França, l’Ajuntament de Montpeller vol prohibir ChatGPT «per precaució». Al Regne Unit, l’Executiu ha demanat als reguladors establir normes. La Xina ha exigit a les empreses facilitar detalls dels seus algoritmes. Mentrestant, la falta de control als Estats Units ha encoratjat una carrera entre els gegants empresarials pel domini de la IA que els crítics titllen d’«irresponsable». Tot i així, legisladors i organitzacions civils ja estan començant a fer sonar les alarmes.