NCFCCCD: Article 14 Reglament UE 2024/1689 – Supervisió humana, línia per línia
Aquí tens el text oficial de l’Article 14 de l’AI Act, traduït literalment i després en clau NCFCCCD. L’article és central perquè és el que permet dir “hi ha un humà al control” mentre el sistema decideix a escala massiva.
Article 14.1
Text oficial DOUE:
“1. High-risk AI systems shall be designed and developed in such a way, including with appropriate human-machine interface tools, that they can be effectively overseen by natural persons during the period in which they are in use.”
Traducció literal:
“1. Els sistemes d’IA d’alt risc es dissenyaran i desenvoluparan de tal manera, fins i tot amb eines d’interfície home-màquina adequades, que puguin ser supervisats efectivament per persones físiques durant el període en què estiguin en ús.”
Traducció NCFCCCD:
“Efectivament supervisats” no vol dir “decidits”. Vol dir que hi haurà un dashboard. El ceo compleix posant un becari mirant 10.000 alertes per torn. El teleadoctrinament diu “humà al control”. El pla realocult és “humà de goma”: hi és, però no pot parar la màquina sense que l’empresa perdi diners.
Article 14.2
Text oficial:
“2. Human oversight shall aim to prevent or minimise the risks to health, safety or fundamental rights that may emerge when a high-risk AI system is used in accordance with its intended purpose or under conditions of reasonably foreseeable misuse.”
Traducció literal:
“2. La supervisió humana tindrà per objectiu prevenir o minimitzar els riscos per a la salut, la seguretat o els drets fonamentals que puguin sorgir quan un sistema d’IA d’alt risc s’utilitzi d’acord amb la seva finalitat prevista o en condicions de mal ús raonablement previsible.”
Traducció NCFCCCD:
“Prevenir o minimitzar” és llenguatge d’asseguradora. No diu “evitar”. Si l’algoritme nega 1.000 ajudes i l’humà en salva 10, has “minimitzat”. Legal. El “mal ús raonablement previsible” el defineix l’empresa al manual. Si no el vas preveure, no és culpa teva. Delicte legal: dany per disseny.
Article 14.3 – Mesures concretes
Text oficial:
“3. Human oversight shall be ensured through either one or all of the following measures:”
Traducció literal:
“3. La supervisió humana es garantirà mitjançant una o totes les mesures següents:”
Traducció NCFCCCD:
“Una o totes”. Traduït: amb una ja compleixes. Pots triar la més barata. Això és menú legal. El ceo marca la casella i segueix.
Article 14.3.a
Text oficial:
“(a) measures identified and built, when technically feasible, into the high-risk AI system by the provider prior to its placing on the market or putting into service;”
Traducció literal:
“a) mesures identificades i integrades, quan sigui tècnicament viable, en el sistema d’IA d’alt risc pel proveïdor abans de la seva comercialització o posada en servei;”
Traducció NCFCCCD:
“Quan sigui tècnicament viable” = forat. Si l’enginyer diu “no és viable parar el model cada 2 segons”, ja no cal. El ceo estalvia. L’usuari rep la decisió automàtica. El teleadoctrinament diu “estat de l’art”. El pla realocult diu “l’estat de l’art és no parar”.
Article 14.3.b
Text oficial:
“(b) measures identified by the provider before placing the high-risk AI system on the market or putting it into service and that are appropriate to be implemented by the deployer.”
Traducció literal:
“b) mesures identificades pel proveïdor abans de comercialitzar o posar en servei el sistema d’IA d’alt risc i que siguin adequades per ser aplicades pel desplegador.”
Traducció NCFCCCD:
El fabricant escriu un PDF: “Recomanem que algú miri la pantalla”. Ho imprimeixes, ho poses al costat del becari, i ja has “supervisat”. Externalització de responsabilitat. El proveïdor no vigila. El client tampoc pot. El dany queda al mig, sense amo.
Article 14.4 – Capacitats mínimes de l’humà
Text oficial:
“4. For the purpose of implementing paragraphs 1 to 3, the high-risk AI system shall be provided to the user in such a way that natural persons to whom human oversight is assigned are enabled, as appropriate and proportionate to the circumstances:”
Traducció literal:
“4. A l’efecte d’aplicar els apartats 1 a 3, el sistema d’IA d’alt risc es proporcionarà a l’usuari de manera que les persones físiques a les quals s’assigni la supervisió humana estiguin capacitades, segons sigui apropiat i proporcionat a les circumstàncies:”
Traducció NCFCCCD:
“Com sigui apropiat i proporcionat” = com tu vulguis. Si tens 1 milió d’usuaris i 2 supervisors, és “proporcionat” si ho dius al paper. No hi ha ràtios. La llei no posa números. El pla realocult és que la proporció la fixa el pressupost.
Article 14.4.a
Text oficial:
“(a) to properly understand the relevant capacities and limitations of the high-risk AI system and be able to duly monitor its operation, so that signs of anomalies, dysfunctions and unexpected performance can be detected and addressed as soon as possible;”
Traducció literal:
“a) a comprendre adequadament les capacitats i limitacions pertinents del sistema d’IA d’alt risc i poder monitorar degudament el seu funcionament, de manera que es puguin detectar i abordar al més aviat possible signes d’anomalies, disfuncions i rendiment inesperat;”
Traducció NCFCCCD:
L’operador ha d’entendre el model. Però el model té 175.000 milions de paràmetres. Ni el creador l’entén. Per tant, l’operador signa que ha fet un curs de 2 hores i ja “comprèn”. Delicte legal: ignorància certificada. Quan falla, la culpa és de l’operador que “no va veure l’anomalia”.
Article 14.4.b
Text oficial:
“(b) to remain aware of the possible tendency of automatically relying or over-relying on the output produced by a high-risk AI system (‘automation bias’), in particular for high-risk AI systems used to provide information or recommendations for decisions to be taken by natural persons;”
Traducció literal:
“b) a mantenir-se conscients de la possible tendència a confiar automàticament o a confiar excessivament en el resultat produït per un sistema d’IA d’alt risc (‘biaix d’automatització’), en particular per als sistemes d’IA d’alt risc utilitzats per proporcionar informació o recomanacions per a decisions que han de ser preses per persones físiques;”
Traducció NCFCCCD:
La llei sap que l’humà clicarà “acceptar” al 99% dels casos. Per això ho posa. Solució: “sigues conscient”. És com dir-li a un conductor de camió que “sigui conscient del son”. Quan s’adormi, la llei dirà “ja t’ho vam avisar”. El biaix d’automatització passa a ser responsabilitat de l’operador, no del sistema.
Article 14.4.c
Text oficial:
“(c) to be able to correctly interpret the high-risk AI system’s output, taking into account in particular the characteristics of the system and the interpretation tools and methods available;”
Traducció literal:
“c) a poder interpretar correctament el resultat del sistema d’IA d’alt risc, tenint en compte en particular les característiques del sistema i les eines i mètodes d’interpretació disponibles;”
Traducció NCFCCCD:
Si el model diu “Risc: 0,73” ningú sap què vol dir. Però si tens un PDF amb “0,73 = alt”, ja “interpretes correctament”. La interpretació és un semàfor. El ceo compleix. El ciutadà no sap per què l’han denegat.
Article 14.4.d
Text oficial:
“(d) to be able to decide, in any particular situation, not to use the high-risk AI system or otherwise disregard, override or reverse the output of the high-risk AI system;”
Traducció literal:
“d) a poder decidir, en qualsevol situació particular, no utilitzar el sistema d’IA d’alt risc o bé desestimar, anul·lar o revertir el resultat del sistema d’IA d’alt risc;”
Traducció NCFCCCD:
Aquí hi ha el botó vermell. Però si l’operador el prem, l’empresa perd diners. Quants cops el pot prémer abans que l’acomiadin? La llei dona el dret, l’empresa gestiona l’incentiu. El pla realocult és: dret sense poder.
Article 14.4.e
Text oficial:
“(e) to be able to intervene on the operation of the high-risk AI system or interrupt the system through a ‘stop’ button or a similar procedure.”
Traducció literal:
“e) a poder intervenir en el funcionament del sistema d’IA d’alt risc o interrompre el sistema mitjançant un ‘botó de parada’ o un procediment similar.”
Traducció NCFCCCD:
El “botó de parada” existeix. Però atura tota la fàbrica, tot l’hospital, tota la frontera. El cost de prémer-lo és milions. Per tant no es prem mai. El teleadoctrinament diu “seguretat”. El pla realocult és “botó que ningú gosarà prémer”.
Article 14.5 – Sistemes biomètrics
Text oficial:
“5. For high-risk AI systems referred to in point 1(a) of Annex III, the measures referred to in paragraph 3 shall be such as to ensure that, in addition, no action or decision is taken by the deployer on the basis of the identification resulting from the system unless this has been separately verified and confirmed by at least two natural persons…”
Traducció literal:
“5. Per als sistemes d’IA d’alt risc esmentats a la lletra a) del punt 1 de l’Annex III, les mesures esmentades a l’apartat 3 seran tals que garanteixin que, a més, el desplegador no prengui cap acció o decisió sobre la base de la identificació resultant del sistema tret que aquesta hagi estat verificada i confirmada per separat per almenys dues persones físiques…”
Traducció NCFCCCD:
Per a càmeres de reconeixement facial en temps real calen 2 humans. Excepció: policia, migració, “seguretat nacional”. O sigui: a l’aeroport et poden identificar amb 1 policia + 1 algoritme. A la mani també. Els “dos humans” són per a la resta. El ceo de la càmera ven igual. El dret canvia d’uniforme.
Resum NCFCCCD de l’Article 14:
- Humà obligatori, però impotent: La llei posa un humà per cobrir l’expedient, no per decidir.
- Biaix legalitzat: Saps que l’humà confiarà en la màquina. Li dius “vigila” i ja has complert.
- Botó car: El botó de parada existeix, però el cost d’usar-lo és dissuasori.
- Excepcions per a l’Estat: Quan l’Estat vigila, necessita menys humans. Quan l’empresa contracta, més.
Conclusió: L’Article 14 no atura la “presó algorítmica”. La certifica. Posa un funcionari mirant la càmera i diu que això és “supervisió”. El pla realocult segueix: tot automàtic, amb responsable humà acomiadable.
