Un mirall retorna el que hi ha; una càmera amb IA retorna una versió. I no ens mira igual a tots

La instal·lació que vàrem fer al Lens Festival tractava la interacció humà-màquina amb una idea senzilla: la càmera com a mirall, amb intel·ligència artificial pel mig. El visitant es veu, i el que veu ha passat per un sistema que l'interpreta.

La imatge del mirall no és innocent. Un mirall retorna el que hi ha; una càmera amb un model al darrere retorna una versió: enquadrada, processada, classificada segons criteris que algú ha decidit.

Aquesta diferència és el que fa que una peça així no sigui només un joc. És un dispositiu per experimentar, durant un minut, una cosa que passa constantment sense que la notem: que la nostra imatge circula transformada per sistemes que no controlam.

El disseny social hi té una feina concreta: convertir en experiència comprensible allò que normalment és abstracte.

Les instal·lacions serveixen per fer sentir el que els arguments no fan entendre

Hi ha una diferència de naturalesa entre llegir que els sistemes automàtics ens classifiquen i veure't classificat en directe.

Aquesta és l'aposta del disseny especulatiu tal com el varen formular Dunne i Raby: fer objectes o situacions que no resolen un problema sinó que fan pensar les conseqüències d'una tecnologia. No prescriuen; provoquen una pregunta.

Aplicat a una instal·lació de festival, el criteri que la fa útil és si la persona se'n va amb una pregunta o només amb una foto. La segona cosa és legítima i és el que sol passar; la primera exigeix decisions de disseny deliberades.

Quines? Bàsicament, deixar veure la costura. Si el sistema mostra com processa —que està detectant formes, que està triant, que està interpretant— l'experiència passa de màgia a mecanisme. La màgia impressiona i no ensenya res; el mecanisme, sí.

Els sistemes que ens miren no ens miren igual a tots

Hi ha un fet documentat que qualsevol projecte amb visió artificial hauria de tenir present: els sistemes de reconeixement han funcionat pitjor amb determinats rostres. Els treballs de Joy Buolamwini sobre biaix en algorismes de classificació facial varen mostrar taxes d'error molt més altes en dones de pell fosca que en homes de pell clara.

La causa és coneguda i prosaica: els conjunts de dades amb què s'entrenen aquests models no representen igual tothom. El sistema aprèn el que li han ensenyat.

Aquesta constatació té dues lectures per a una instal·lació. La primera és de precaució: si la peça depèn del reconeixement per funcionar, hi haurà gent per a qui funcionarà pitjor, i això, en un context públic, és una experiència d'exclusió.

La segona és de contingut: aquest mateix funcionament desigual és una de les coses més importants a explicar sobre la intel·ligència artificial. Una peça pot fer-ne el seu tema en comptes de patir-ho com a defecte tècnic.

En disseny social, aquesta és la diferència entre fer servir una tecnologia i pensar-la.

Interactuar no és participar

Convé desmuntar una equivalència còmoda del vocabulari cultural. Que una peça reaccioni al públic no vol dir que el públic hi participi.

En la majoria d'instal·lacions interactives, el visitant activa un comportament previst, dins un ventall tancat, i el sistema torna al punt de partida quan se'n va. És interacció, no participació: no ha modificat res, no ha aportat contingut, no ha decidit res.

Dir-ho amb precisió importa perquè el sector tendeix a presentar la interacció com si fos implicació ciutadana. Si volem parlar de participació, el llistó és un altre: que el públic aporti material, que la peça canviï de manera duradora, que hi hagi decisions compartides.

Una instal·lació pot ser excel·lent sent només interactiva. El que no ha de fer és vendre's com una altra cosa.

Hi ha una decisió pràctica que canvia molt l'experiència i que sol resoldre's per defecte: què passa amb la imatge quan la persona se'n va. Si la peça conserva els rostres, encara que sigui en memòria temporal, ha d'explicar-ho; si no en conserva cap, també, perquè és precisament la garantia que fa que la gent s'hi atreveixi. En una instal·lació pública, aquesta frase escrita a la paret val més que qualsevol text de sala sobre intel·ligència artificial.

De tot plegat se'n deriven quatre criteris per a qualsevol peça interactiva amb tecnologia. El primer és el de mecanisme visible: ensenyar com funciona val més que impressionar. El segon és el d'equitat: comprovar amb qui funciona pitjor i decidir què s'hi fa. El tercer és el de dades: captar el mínim i no conservar res. I el quart és el de vocabulari: no dir participació quan és interacció.

Un mirall que ens torna la imatge que un sistema ha decidit és una bona metàfora de l'època. Val la pena que la metàfora s'entengui.