Fa temps que el món viu fascinat i abstret per la intel·ligència artificial (IA). La capacitat d’aquesta eina per fer-nos creure que el que veiem o sentim és real ha fet embadalir molts, que veuen els possibles efectes adversos simplement com quelcom col·lateral o, fins i tot, secundari. Però el risc és real i, en alguns casos, pot arribar a ser molt greu.
La falta de transparència en els sistemes d’IA és un problema que, a banda de generar desconfiança en els usuaris, enfosca els processos de presa de decisions o lògica subjacent. A més, el seu disseny esbiaixat i d’algoritme pot perpetuar prejudicis socials i discriminació, de manera que, abans de fer-les anar, calen processos d’entrenament efectius basats en la diversitat i la igualtat de gènere, oportunitats i tracte. Relacionat amb aquest punt, són interessants els dilemes ètics que la IA presenta, perquè inculcar determinats valors a una màquina, sobretot en contextos que poden tenir conseqüències importants (com la selecció de personal d’una empresa) és un repte considerable.
Atenent exclusivament la privacitat, hem de ser conscients que les IA recopilen una gran quantitat de dades personals, fet que planteja seriosos problemes vinculats amb la seva protecció i seguretat. Per minimitzar aquests riscos urgeix una normativa estricta de pràctiques segures de tractament que a hores d’ara s’està treballant al parlament europeu. És la primera regulació a escala mundial i forma part de l’estratègia de la Unió Europea (UE) per assolir les millors condicions de desenvolupament i ús d’aquesta eina, l’objectiu de la qual és garantir que els sistemes d’IA utilitzats a la zona (Andorra no estaria inclosa) siguin segurs, transparents, traçables, no discriminatoris i respectuosos amb el medi ambient. Per aquest motiu, es considera imprescindible que qualsevol sistema automatitzat sigui supervisat per una persona i que s’estableixi una definició uniforme i tecnològicament neutra que es pugui aplicar tant en el present com en el futur.
Però no cal anar als alts estaments per trobar-nos amb els riscos de la IA. Tenen un assistent virtual al menjador, la cuina o el bany? O un robot que els escombra la casa? O un electrodomèstic programable? Semblen inofensius i realment són molt eficaços a l’hora d’ajudar-nos en gairebé qualsevol supòsit, però també tenen un costat fosc que hem de saber mantenir sota control. El primer, i més evident, és que com més informació tingui un dispositiu sobre nosaltres, més informació ens proporcionarà i més precises seran les seves respostes a les nostres preguntes. Per aconseguir totes aquestes dades, però, l’aparell escolta constantment què passa a l’estança on es troba i registra la informació. És a dir, si algú aconsegueix hackejar la nostra Alexa, per dir-ne un, també accedirà a tota la informació que hi tinguem emmagatzemada. A més, la majoria d’aparells intel·ligents funcionen per Bluetooth amb un sistema de seguretat molt bàsic.
Arribats a aquest punt ens topem amb la ciberseguretat. Tot i que tendim a creure que aquest és un aspecte que només ha de preocupar les grans empreses, qualsevol persona pot ser víctima d’un ciberatac, tant directament com indirecta. El mes passat, per exemple, la companyia aèria Air Europa va patir un ciberatac i va demanar a tots els seus clients que cancel·lessin les seves targetes de crèdit. Malgrat això, és interessant assenyalar que el 91% dels ciberatacs a particulars comencem amb un correu electrònic; és el que es coneix com a phishing (també hi ha l’smishing que seria el mateix però els missatges s’envien per SMS) i l’objectiu és robar dades i credencials confidencials, sobretot de bancs o comptes on pugui haver-hi diners.
Per evitar o minimitzar tots aquests riscos el més important és una educació digital que convenci els usuaris de la importància de les eines d’autenticació i seguretat i els proporcioni les capacitats per reconèixer qualsevol intent d’amenaça o frau. Només així aconseguirem esprémer al màxim tots els beneficis de les últimes tecnologies sense posar en risc el nostre bé més preuat: les dades personals.
