COMPARTIR | IMPRIMIR | CORREU ELECTRÒNIC
Hi va haver una època en què els debats sobre el determinisme i el lliure albir pertanyien als departaments de filosofia i a les converses nocturnes a les residències d'estudiants. Eren agradables precisament perquè semblaven inofensius. Sigui quina sigui la resposta, la vida continuava. Els tribunals jutjaven, els metges decidien, els professors ensenyaven i els polítics encara eren —almenys nominalment— considerats responsables de les seves accions. Aquella era s'ha acabat.
La intel·ligència artificial ha transformat el que abans semblava una qüestió filosòfica abstracta en una qüestió concreta de governança, poder i responsabilitat. El determinisme ja no és simplement una teoria sobre com funciona l'univers. S'està convertint en un principi operatiu de les institucions modernes. I això ho canvia tot.
Els sistemes d'IA són deterministes per construcció. Operen mitjançant la inferència estadística, l'optimització i la probabilitat. Fins i tot quan els seus resultats ens sorprenen, romanen lligats a restriccions matemàtiques. Res en aquests sistemes s'assembla al judici, la interpretació o la comprensió en el sentit humà.
La IA no delibera.
No reflecteix.
No es responsabilitza dels resultats.
Tot i això, cada cop més, els seus resultats no es tracten com a eines, sinó com a decisions. Aquesta és la revolució silenciosa del nostre temps.
L'atractiu és obvi. Les institucions sempre han tingut problemes amb la variabilitat humana. Les persones són inconsistents, emocionals, lentes i, de vegades, desobedients. Les burocràcies prefereixen la predictibilitat, i els algoritmes prometen exactament això: decisions estandarditzades a escala, immunes a la fatiga i la dissidència.
En l'àmbit sanitari, els algoritmes prometen un triatge més eficient. En les finances, una millor avaluació de riscos. En l'educació, una avaluació objectiva. En les polítiques públiques, una governança "basada en l'evidència". En la moderació de continguts, la neutralitat. Qui podria objectar als sistemes que afirmen eliminar els biaixos i optimitzar els resultats? Però sota aquesta promesa hi ha una confusió fonamental.
La predicció no és judici.
L'optimització no és saviesa.
La coherència no és legitimitat.
La presa de decisions humanes mai ha estat purament computacional. És interpretativa per naturalesa. Les persones valoren el context, el significat, les conseqüències i la intuïció moral. Es basen en la memòria, l'experiència i un sentit —per imperfecte que sigui— de responsabilitat pel que segueix. Això és precisament el que les institucions troben inconvenient.
El judici humà introdueix fricció. Requereix explicacions. Exposa els responsables de la presa de decisions a la culpa. Els sistemes deterministes, en canvi, ofereixen quelcom molt més atractiu: decisions sense responsables de la presa de decisions.
Quan un algoritme denega un préstec, denuncia un ciutadà, desprioritza un pacient o suprimeix la llibertat d'expressió, ningú sembla ser responsable. El sistema ho va fer. Les dades van parlar. El model va decidir.
El determinisme esdevé una coartada burocràtica.
La tecnologia sempre ha donat forma a les institucions, però fins fa poc ampliava principalment l'agència humana. Les calculadores ajudaven al raonament. Els fulls de càlcul aclarien els avantatges i les desavantatges. Fins i tot els primers programes informàtics deixaven visiblement els humans en control. La IA canvia aquesta relació.
Els sistemes dissenyats per predir ara estan en posició de decidir. Les probabilitats s'endureixen en polítiques. Les puntuacions de risc es converteixen en veredictes. Les recomanacions es converteixen silenciosament en mandats. Un cop integrats, aquests sistemes són difícils de qüestionar. Al cap i a la fi, qui discuteix amb "la ciència"?
Per això el vell debat filosòfic s'ha tornat urgent.
El determinisme clàssic era una afirmació sobre la causalitat: amb prou informació, es podia predir el futur. Avui dia, el determinisme s'està convertint en una filosofia de governança. Si els resultats es poden predir prou bé, les institucions es pregunten, per què permetre la discreció?
El no-determinisme sovint es caricaturitza com a caos. Però entès correctament, no és ni aleatorietat ni irracionalitat. És l'espai on es produeix la interpretació, on es ponderen els valors i on la responsabilitat s'atribueix a una persona en lloc d'un procés.
Si eliminem aquest espai, la presa de decisions no esdevé més racional. Esdevé irresponsable.
El veritable perill de la IA no és la intel·ligència desbocada ni les màquines sensibles. És la lenta erosió de la responsabilitat humana sota la bandera de l'eficiència.
El conflicte que definirà el segle XXI no serà entre humans i màquines. Serà entre dues visions de la intel·ligència: l'optimització determinista versus la creació de significat sota incertesa.
Un és escalable.
L'altre és responsable.
La intel·ligència artificial ens obliga a decidir quina governa les nostres vides.
-
El doctor Joaquim Sá Couto va obtenir el seu doctorat en medicina a la Universitat de Lisboa (Portugal) i va continuar la seva especialització mèdica als EUA, on va obtenir el grau de "Diplomàtic de la Junta Americana de Cirurgia"(1989). El doctor Sá Couto va ser pioner en la introducció del làser de contrast Nd-YAG pulsat per al tractament de les aranyes vasculars (telangiectàsies) a Portugal, havent acumulat una experiència d'uns 15 anys amb aquesta tècnica.
Veure totes les publicacions
