Eclosió tecnològica
El creador de ChatGPT llança una eina per detectar els textos escrits per la intel·ligència artificial
OpenAI publica un sistema per predir si un escrit ha sigut generat de manera automàtica però una màquina, tot i que adverteix que no és del tot fiable
Carles Planas Bou
La popularització de sistemes d’Intel·ligència Artificial (IA) com ChatGPT, capaç de generar de forma automàtica tota mena de textos, estan obrint un profund debat social sobre l’impacte d’aquesta emergent tecnologia. ¿I si ja no podem distingir entre el que escriu un humà i el que escriu una màquina? ¿Accelerarà això la nostra desconfiança?
Aquest temor creix a mesura que el xatbot –capaç de respondre falsedats presentant-les com a certes– és cada vegada més utilitzat entre estudiants, investigadors acadèmics i fins i tot periodistes per realitzar la seva feina.
Això ha portat OpenAI, la companyia desenvolupadora de ChatGPT, a llançar una nova eina gratuïta per predir si un escrit ha sigut generat artificialment. L’empresa que ha popularitzat aquesta IA publica ara una altra IA per detectar-la.
«No Fiable»
Tanmateix, aquest classificador «no és totalment fiable». La mateixa OpenAI assenyala que la seva eina en fase inicial identifica correctament només el 26% dels textos escrits per ChatGPT o altres IA similars, mentre que en un 9% dels casos etiqueta com a text artificial aquell generat per humans. «El nostre classificador té una sèrie de limitacions importants. No ha d’utilitzar-se com a eina principal per a la presa de decisions, sinó com a complement d’altres mètodes per determinar l’origen d’un text», explica la companyia.
Així doncs, ¿per què publica OpenAI una eina que falla? L’empresa ha assegurat que l’ha compartit «per obtenir opinions» i anar millorant el seu mètode. Els models de llenguatge com l’utilitzat per ChatGPT milloren a l’entrenar-se amb noves preguntes a resoldre. Així, recolzar-se en el públic perquè experimenti amb aquest classificador «imperfecte» és el camí més ràpid (i barat) per perfeccionar el seu producte. Per això van fer el mateix amb el llançament del seu xatbot.
Sam Altman, un dels fundadors de OpenAI, ha advertit en les últimes setmanes sobre l’ús acrític de ChatGPT perquè incorre en fallades i és «impossible de fer que sigui perfecte». Tot i així, continuaran experimentant amb la IA. Una experimentació que també respon a la voluntat de la companyia –en la qual <strong>Microsoft </strong>ha invertit 10.000 milions de dòlars– d’avançar-se a la competència i ser la primera a liderar l’emergent mercat de la que pot ser la tecnologia de la dècada. En els últims dies, investigadors havien publicat les seves solucions per detectar el text generat per IA. Traient la seva, OpenAI busca continuar guanyant terreny.
- Enquesta de les eleccions de Catalunya: el PSC es referma al capdavant i Junts pren la davantera en el pols amb ERC
- Un conductor s'encasta amb el cotxe contra una façana a Vilabertran i l'enxampen carregat d'haixix
- «Sempre tinc una cançó més, un estil a desbloquejar i nous reptes musicals»
- Aquest és el programa de les Fires i Festes de la Santa Creu de Figueres 2024
- Les obres de la pujada del Castell de Figueres generen cues «d’avís» a l’avinguda Dalí
- El figuerenc Richard Martínez entrena amb el Girona amb 16 anys
- La Policia Nacional alerta sobre aquesta estafa que buida els comptes bancaris
- La Badia de Roses amaga el prat de gram més extens del món