Entre el ‘hype’ i la por: els interessos comercials marquen el frenesí de la intel·ligència artificial

«La gent se n’hauria d’alegrar que estiguem una mica espantats». Fa un mes, Sam Altman, director executiu d’<strong>OpenAI</strong>, confessava a la televisió el suposat temor per la seva creació, <strong>ChatGPT</strong>. Aquesta tecnologia, afegia, pot ser «la més important que ha desenvolupat la humanitat». Les seves paraules no eren espontànies, sinó part d’una estudiada estratègia comercial que està marcant el frenètic desplegament de la intel·ligència artificial (IA). La por i la fascinació són els dos vectors d’una carrera entre grans empreses tecnològiques, amb unes conseqüències que són impredictibles.

«És un perill imprudent»: més de 1.000 personalitats demanen parar la intel·ligència artificial més avançada

Els últims quatre mesos, aquests sistemes han passat d’estar confinats als laboratoris de gegants del sector a estar per tot arreu, mostrant al gran públic el potencial de la IA. Milions de persones han utilitzat la capacitat de simular el raonament humà de ChatGPT per generar tota mena de textos. Microsoft, impulsora d’OpenAI, està integrant la seva eina al seu cercador i gairebé tots els seus serveis d’oficina, forçant rivals com Google –que, irònicament, va inventar la tecnologia en què es basen aquests <strong>xatbots</strong>– a maniobrar per seguir-li els passos i no quedar-se enrere.

Salt tècnic i promocional

El salt, apunten els experts, no ha sigut tant tècnic, sinó promocional. «La seva obertura al gran públic és un dels experiments socials més importants que s’han fet», explica Nerea Luis, doctora en ciències de la computació. «Estan jugant amb l’enrenou com estratègia de màrqueting premeditada per posicionar-se com a dissenyadors del futur».

«Estan jugant amb l’enrenou com a estratègia de màrqueting premeditada per posicionar-se com dissenyadors del futur»

— Nerea Luis, doctora en ciències de la computació i experta en IA

La seva precoç adopció ha convertit la IA generativa en la tecnologia de moda. Des del 2020, la inversió de capital risc en aquest camp s’ha disparat un 425% fins a superar els 2.100 milions de dòlars, segons dades de Pitchbook. Això anirà a més amb el <strong>GPT4</strong>, l’última evolució del model de llenguatge que sustenta ChatGPT i que vol ser la plataforma sobre la qual es construirà una nova generació d’aplicacions. «Aquesta promesa generarà un efecte crida als desenvolupadors i obrirà les portes a un munt d’oportunitats positives per millorar la ciència i l’educació», creu l’analista tecnològic Antonio Ortiz.

Bombo publicitari

«Hitler tenia raó»: per què no pots fiar-te de ChatGPT i els bots d’intel·ligència artificial

Cada setmana s’amunteguen anuncis de noves ‘apps’, demostracions de les seves capacitats i estudis que diuen pronosticar l’impacte de la IA. Una allau de soroll que la indústria aprofita per impulsar el ‘hype’ (bombo publicitari) de la seva tecnologia estrella. OpenAI ha publicat estudis en què testa el seu xatbot amb exàmens per a humans i d’altres en què assegura que afectarà un 80% dels professionals. «Tot i que contenen preocupacions vàlides, són notes de premsa disfressades de ‘papers’ pseudocientífics per generar titulars i anestesiar la crítica», denuncia Ariel Guersenzvaig, professor d’Elisava expert en ètica del disseny i la tecnologia, que equipara aquesta pràctica a la seguida per les indústries del petroli i el tabac.

Tot i que la tecnologia es vesteixi de màgia per vendre’s, rere sempre hi ha un truc. Els grans models de llenguatge que donen ‘vida’ a ChatGPT són sistemes que utilitzen càlculs probabilístics per construir frases partint de l’oceà de dades que extreuen d’internet. Són com lloros: poden generar un discurs plausible amb sentit, però sense entendre’n el significat. «Són models sorprenents, però factualment no pots creure el que diuen perquè continuen difonent falsedats», adverteix Ortiz. Aquests errors han portat Microsoft i Google a corregir els seus xatbots, però també a d’altres actors en competició com Meta –propietària de Facebook i Instagram– o Snap.

«Són models sorprenents, però factualment no pots creure el que diuen perquè continuen difonent falsedats»

— Antonio Ortiz, analista tecnològic

Narrativa ideològica

La por de l’impacte que aquestes i altres fallades puguin tenir en la societat va fer que milers de personalitats demanessin una moratòria de sis mesos en l’entrenament de les IA més potents. Tot i que inclou preocupacions legítimes, la carta pública firmada per Elon Musk i d’altres ha despertat moltes crítiques, ja que parla de «ments no humanes que podrien reemplaçar-nos» i de «perdre el control de la nostra civilització», pura <strong>ciència-ficció</strong>.

La carta oberta va ser publicada pel Future of Life Institute, organització promotora del <strong>llargterminisme</strong>, una ideologia influent en les elits de Silicon Valley que, segons reputades expertes, «fantasieja amb una utopia o una apocalipsi de la IA». Aquesta mentalitat, que s’exposa en propostes com millorar genèticament els humans o colonitzar l’espai, fa minvar el sentit crític i «atribueix erròniament agència» a ChatGPT, cosa que permet als seus constructors esquivar la seva responsabilitat.

«És una distracció per no parlar de la burrada de dades que utilitza ChatGPT, del seu ingent cost energètic i el seu impacte humà a l’Àfrica (...) Estem seguint un discurs blanc de més de 400 anys que naturalitza la tecnologia com una cosa inevitable i que és colonialisme pur i dur», denuncia Lorena Jaume-Palasí, experta en IA, filosofia del dret i ètica de la tecnologia. «La idea del Terminator exagera les capacitats de la IA i això desplaça els riscos ètics reals», afegeix Guersenzvaig.

«La idea del Terminator exagera les capacitats de la IA i això desplaça els riscos ètics reals»

— Ariel Guersenzvaig, professor d’Elisava expert en ètica del disseny i la tecnologia

Concentració de poder

Els experts consultats es mostren preocupats perquè aquesta nova febre de l’or reforça la concentració de poder en mans de Google, Microsoft, Meta i Amazon. «Estan intentant crear infraestructures essencials de les que depenguin tots els sectors», afegeix Jaume-Palasí, assessora de l’Institut Max Planck, una de les institucions científiques més prestigioses del món.

Durant anys, la riquesa dels gegants tecnològics els ha permès copar la investigació científica de la IA i enfocar-la als seus interessos de negoci, decidint els marcs del debat ètic. Tot i que fins ara havien compartit molta informació del seu desenvolupament, OpenAI ha deixat de ser oberta amb el GPT4 i ha adoptat una opacitat que les altres empreses podrien seguir. «Això serà bo per als seus objectius comercials, però molt dolent per a la ciència», es lamenta Luis.

Els experts critiquen que, mentre llancen al gran públic eines amb un impacte que és impredictible, aquestes empreses també estan aprimant els equips ètics encarregats d’estudiar els riscos. Els últims mesos ho han fet Microsoft, Twitter i Twitch. La científica computacional Timnit Gebru, acomiadada el 2020 com a líder de la divisió ètica en IA de Google, veu en aquests equips una «façana» de què les companyies es desprenen quan els resultats van en contra dels seus interessos o quan hi ha acomiadaments.

Silicon Valley ha tornat a maniobrar seguint el dogma ‘move fast, break things’ («mou-te ràpid, trenca coses»). Ara ens trobem en la primera fase, de desplegament i adopció vertiginosa. La segona també arribarà, el que encara no sabem és de quina manera. En una ostentació de sinceritat i arrogància poc habitual, el director executiu de Microsoft, Satya Nadella, ha celebrat l’èxit d’una estratègia empresarial que sembla haver acabat amb la precaució en el sector: «Vull que la gent sàpiga que els hem fet ballar». Es referia a Google, però potser també a tots nosaltres.