La gestió de la societat digital amb intel·ligència artificial ha de ser guiada per un marc ètic sòlid. Cal establir un diàleg global sobre com cal gestionar els impactes socials i ètics de la intel·ligència artificial (IA). Aquesta té el potencial de transformar profundament la societat, no només en termes de l’economia i la tecnologia, sinó també en termes de la política, la cultura i la identitat humana.
La nostra societat ja s'ha de començar a plantejar i fer front als desafiaments que planteja la IA mitjançant el desenvolupament d'una "intel·ligència col·lectiva" que tingui en compte tant els beneficis com els riscos potencials de la tecnologia. La gestió de la societat digital amb IA s'ha de basar en tres pilars ètics fonamentals: seguretat, transparència i responsabilitat.
Seguretat per evitar danys
Quan parlem de seguretat i IA hem de tenir present que aquesta darrera ha de ser dissenyada i utilitzada de manera segura per evitar danys a les persones, la propietat i el medi ambient. La seguretat de la IA ha d'abordar tant els riscos coneguts com els desconeguts. En el cas dels coneguts, cal prendre mesures per minimitzar els perills associats a l'ús de la IA, que poden incloure l'establiment de mesures de seguretat als sistemes d'IA, la formació dels usuaris en l'ús segur de la tecnologia i la implementació de polítiques i regulacions que garanteixin la seguretat de la IA.
Per aquest motiu, la seguretat de la IA ha d'abordar els riscos desconeguts o impredictibles. A causa de la complexitat de la IA i la imprevisibilitat del seu comportament, pot ser difícil anticipar tots els riscos possibles. Per tant, cal una estratègia de seguretat, anomenada securitització de la IA, més àmplia que tingui en compte la possibilitat de riscos impredictibles. Per això cal establir mesures de seguretat addicionals, com la investigació contínua en IA i la implementació de salvaguardes de seguretat. La IA ha de ser dissenyada per ser el més resistent possible a les fallades, per evitar que els errors en el sistema provoquin danys irreparables.
Transparència sobre la presa de decisions amb IA
Si parlem del segon pilar, la transparència, els sistemes de IA han de ser transparents i explicables, de manera que es puguin entendre i analitzar les decisions preses per la màquina. La transparència és important perquè la IA pot tenir un impacte significatiu en la societat i en les decisions que es prenen en àrees com la salut, l'ocupació i la justícia. És fonamental que els sistemes d'IA siguin transparents perquè els usuaris puguin entendre com es prenen les decisions i es puguin identificar possibles biaixos o errors. La transparència es pot assolir de diverses maneres. Per exemple, els desenvolupadors d'IA poden documentar amb cura el procés de desenvolupament del sistema, incloent-hi les dades d'entrenament, els algorismes utilitzats i les decisions preses. A més, els sistemes d'IA poden ser dissenyats per generar explicacions per a les decisions preses perquè els usuaris puguin entendre el raonament que hi ha darrere.
Responsabilitat per garantir l'ètica de la IA
El tercer pilar, el de la responsabilitat, és aquell en el qual els desenvolupadors i els usuaris de la IA han d'assumir la responsabilitat de les seves accions i estar disposats a retre comptes per les seves decisions. Els desenvolupadors d'IA tenen la responsabilitat de dissenyar sistemes que siguin segurs, justos, transparents i respectuosos amb la privadesa. També han de considerar l’impacte social i mediambiental de la seva tecnologia. Això inclou assegurar-se que els sistemes d'IA no siguin discriminatoris i que es dissenyin per minimitzar els riscos de seguretat. Els usuaris de la IA també tenen una gran responsabilitat, ja que han de ser conscients de les limitacions de la tecnologia i no dependre'n exclusivament per prendre decisions importants. Aquí és on entra en joc l'educació i ús responsable i ètic de la IA. Tant els desenvolupadors com els usuaris han d'estar capacitats per entendre les implicacions ètiques i socials de la IA.
Els usuaris d'IA han d'avaluar els resultats dels sistemes d'IA de manera crítica i objectiva i utilitzar la tecnologia per millorar l'equitat i la justícia a la societat. La gestió de la societat digital amb intel·ligència artificial és una via potencial transformadora de la nostra societat, però l'ús que se li doni serà clau per al desenvolupament.
Marc Selgas i Cors, doctor en Estudis Interculturals, coordinador dels CFGS d’Empresa del Campus Professional UManresa i professor del Grau en ADE del Campus Manresa de la UVic-UCC
Afegeix un nou comentari