NCFCCCD: Article 5 Reglament UE 2024/1689 – Pràctiques d’IA prohibides, línia per línia
Aquest és l’article que el teleadoctrinament ven com “la UE prohibeix la IA dolenta”. NCFCCCD el llegeix com la llista d’excepcions que defineix tot el que sí es podrà fer. Vaig línia per línia amb text DOUE, traducció literal i traducció NCFCCCD.
Article 5.1 – Prohibició general
Text oficial:
“1. The following AI practices shall be prohibited:”
Traducció literal:
“1. Es prohibeixen les següents pràctiques d’IA:”
Traducció NCFCCCD:
Aquí comença la llista. Tot el que no surt aquí, és legal. El pla realocult és legislació per llista: si inventes una nova forma de control que no és a l’article 5, tens 3-5 anys de barra lliure fins que la tornin a actualitzar.
Article 5.1.a – Manipulació subliminal
Text oficial:
“(a) the placing on the market, the putting into service or the use of an AI system that deploys subliminal techniques beyond a person’s consciousness or purposefully manipulative or deceptive techniques, with the objective, or the effect of materially distorting the behaviour of a person or a group of persons by appreciably impairing their ability to make an informed decision, thereby causing them to take a decision that they would not have otherwise taken, in a manner that causes or is likely to cause that person, another person or group of persons significant harm;”
Traducció literal:
“a) la comercialització, posada en servei o ús d’un sistema d’IA que desplegui tècniques subliminals més enllà de la consciència d’una persona o tècniques deliberadament manipuladores o enganyoses, amb l’objectiu, o l’efecte, de distorsionar materialment el comportament d’una persona o d’un grup de persones en perjudicar apreciablement la seva capacitat per prendre una decisió informada, fent-los prendre una decisió que no haurien pres d’altra manera, d’una manera que causi o sigui probable que causi a aquesta persona, a una altra persona o grup de persones un dany significatiu;”
Traducció NCFCCCD:
Has de provar 5 coses: subliminal + distorsió + decisió diferent + dany significatiu + intenció o efecte. Impossible a la pràctica. TikTok, anuncis microsegmentats, dark patterns: tot això és “persuasió”, no “subliminal”. Resultat: prohibeixen el control mental de pel·lícula. Deixen viu el control mental de negoci. Els ceos de publicitat respiren tranquils. El delicte legal és “influència algorítmica” que no arriba a “subliminal”.
Article 5.1.b – Explotació de vulnerabilitats
Text oficial:
“(b) the placing on the market, the putting into service or the use of an AI system that exploits any of the vulnerabilities of a natural person or a specific group of persons due to their age, disability or a specific social or economic situation, with the objective, or the effect, of materially distorting the behaviour of that person or a person belonging to that group in a manner that causes or is likely to cause that person or another person significant harm;”
Traducció literal:
“b) la comercialització, posada en servei o ús d’un sistema d’IA que exploti qualsevol de les vulnerabilitats d’una persona física o d’un grup específic de persones a causa de la seva edat, discapacitat o una situació social o econòmica específica, amb l’objectiu, o l’efecte, de distorsionar materialment el comportament d’aquesta persona o d’una persona que pertanyi a aquest grup d’una manera que causi o sigui probable que causi a aquesta persona o a una altra persona un dany significatiu;”
Traducció NCFCCCD:
Prohibeixen explotar avis, nens i pobres… si causes “dany significatiu”. Préstecs ràpids amb IA, loot boxes per a menors, targetes revolving: si l’empresa diu “és oferta comercial”, no és explotació, és mercat. El llindar “dany significatiu” el posarà un jutge d’aquí a 5 anys. Mentrestant, barra lliure. Els ceos de fintech i gaming ja tenen el dictamen legal.
Article 5.1.c – Social scoring
Text oficial:
“(c) the placing on the market, the putting into service or the use of AI systems by public authorities or on their behalf for the evaluation or classification of the trustworthiness of natural persons over a certain period of time based on their social behaviour or known, inferred or predicted personal or personality characteristics, with the social score leading to either or both of the following: (i) detrimental or unfavourable treatment of certain natural persons or groups thereof in social contexts which are unrelated to the contexts in which the data was originally generated or collected; (ii) detrimental or unfavourable treatment of certain natural persons or groups thereof that is unjustified or disproportionate to their social behaviour or its gravity;”
Traducció literal:
“c) la comercialització, posada en servei o ús de sistemes d’IA per part d’autoritats públiques o en nom seu per a l’avaluació o classificació de la fiabilitat de les persones físiques durant un cert període de temps basat en el seu comportament social o en característiques personals o de personalitat conegudes, inferides o predites, amb la puntuació social conduint a un o ambdós dels següents: i) tracte perjudicial o desfavorable de determinades persones físiques o grups en contextos socials no relacionats amb els contextos en què les dades es van generar o recollir originalment; ii) tracte perjudicial o desfavorable de determinades persones físiques o grups que sigui injustificat o desproporcionat amb el seu comportament social o la seva gravetat;”
Traducció NCFCCCD:
Prohibit el “crèdit social xinès”… fet per l’Estat. Si ho fa una empresa privada per a lloguers, assegurances, feina, és legal. Si ho fa l’Estat però dins del mateix context –ex: Hisenda usa dades d’Hisenda– també legal. I si ho fa “proporcionat”, legal. Traducció: pots tenir social scoring sempre que no diguis “social scoring”. Li dius “risk score”, “fraud score”, “ESG score”. El pla realocult és: l’Estat no puntua, subcontracta a Palantir que puntua.
Article 5.1.d – Predicció policial
Text oficial:
“(d) the placing on the market, the putting into service or the use of AI systems for the purpose of making risk assessments of natural persons in order to assess or predict the risk of a natural person committing a criminal offence, based solely on the profiling of a natural person or on assessing their personality traits and characteristics; this prohibition shall not apply to AI systems used to support the human assessment of the involvement of a person in a criminal activity, which is already based on objective and verifiable facts directly linked to a criminal activity;”
Traducció literal:
“d) la comercialització, posada en servei o ús de sistemes d’IA amb la finalitat de fer avaluacions de risc de persones físiques per avaluar o predir el risc que una persona física cometi una infracció penal, basat únicament en l’elaboració de perfils d’una persona física o en l’avaluació dels seus trets i característiques de personalitat; aquesta prohibició no s’aplicarà als sistemes d’IA utilitzats per donar suport a l’avaluació humana de la implicació d’una persona en una activitat delictiva, que ja es basi en fets objectius i verificables directament vinculats a una activitat delictiva;”
Traducció NCFCCCD:
Prohibit “Minority Report” pur. Però si la policia ja té “fets objectius” –ex: has estat a una mani, has buscat tal paraula– llavors la IA pot “donar suport”. Traducció: pots predir delinqüents si primer els fitxes per alguna cosa. El teleadoctrinament diu “no pre-crim”. El pla realocult diu “pre-crim amb excusa”. Els ceos de PredPol i Palantir canvien “predir” per “prioritzar”. Legal.
Article 5.1.e – Scraping facial massiu
Text oficial:
“(e) the placing on the market, the putting into service or the use of AI systems that create or expand facial recognition databases through the untargeted scraping of facial images from the internet or CCTV footage;”
Traducció literal:
“e) la comercialització, posada en servei o ús de sistemes d’IA que creïn o ampliïn bases de dades de reconeixement facial mitjançant l’extracció no dirigida d’imatges facials d’internet o de gravacions de CCTV;”
Traducció NCFCCCD:
Prohibit Clearview AI… si fa scraping “no dirigit”. Si l’encàrrec és “busca terroristes”, ja és “dirigit”. Si ho fa Europol, és “seguretat nacional” i l’art. 2.3 ho eximeix. Resultat: prohibit per a startups, permès per a Estats i Palantir amb contracte. Delicte legal: monopoli de la vigilància.
Article 5.1.f – Reconeixement d’emocions
Text oficial:
“(f) the placing on the market, the putting into service or the use of AI systems to infer emotions of a natural person in the areas of workplace and education institutions, except where the use of the AI system is intended to be put in place for medical or safety reasons;”
Traducció literal:
“f) la comercialització, posada en servei o ús de sistemes d’IA per inferir emocions d’una persona física en els àmbits del lloc de treball i les institucions educatives, excepte quan l’ús del sistema d’IA estigui destinat a implantar-se per raons mèdiques o de seguretat;”
Traducció NCFCCCD:
Prohibit el detector d’avorriment a l’escola. Permès si dius “seguretat”: càmeres que detecten “agressivitat” a l’institut. Permès a aeroports, tribunals, botigues, internet. Permès si dius “benestar laboral”. El teleadoctrinament diu “protegim nens”. El pla realocult diu “protegim el mercat”. Els ceos d’Affectiva venen a retail, no a escoles.
Article 5.1.g – Biometria en temps real per policia
Text oficial:
“(g) the use of ‘real-time’ remote biometric identification systems in publicly accessible spaces for the purpose of law enforcement, unless and in so far as such use is strictly necessary for one of the following objectives: …”
Traducció literal:
“g) l’ús de sistemes d’identificació biomètrica remota ‘en temps real’ en espais accessibles al públic amb finalitats d’aplicació de la llei, llevat que i en la mesura que aquest ús sigui estrictament necessari per a un dels objectius següents: …”
Traducció NCFCCCD:
Prohibit en general. Excepcions: buscar víctimes, amenaça terrorista, localitzar sospitosos de delictes greus. Traducció: prohibit excepte quan la policia digui “terrorisme”. I “terrorisme” ho defineix la policia. A més, el “temps real” dura 48h després. I el “diferit” no està prohibit. Per tant: graves avui, identifies demà. Legal. Els ceos de càmeres amb IA venen igual. El ciutadà està igual de fitxat.
Article 5.1.h – Categorizació biomètrica sensible
Text oficial:
“(h) the placing on the market, the putting into service or the use of AI systems to categorise natural persons based on their biometric data to deduce or infer their race, political opinions, trade union membership, religious or philosophical beliefs, sex life or sexual orientation; this prohibition does not cover any labelling or filtering of lawfully acquired biometric datasets…”
Traducció literal:
“h) la comercialització, posada en servei o ús de sistemes d’IA per categoritzar persones físiques basant-se en les seves dades biomètriques per deduir o inferir la seva raça, opinions polítiques, afiliació sindical, creences religioses o filosòfiques, vida sexual o orientació sexual; aquesta prohibició no cobreix cap etiquetatge o filtratge de conjunts de dades biomètriques adquirits lícitament…”
Traducció NCFCCCD:
Prohibit deduir si ets gai per la cara. Permès si la base de dades ja té l’etiqueta “gai” perquè l’usuari ho va posar a Tinder. Prohibit inferir raça. Permès si la càmera detecta color de pell perquè “no infereix, mesura”. Delicte legal: la diferència entre “inferir” i “mesurar” la decideix l’advocat de l’empresa.
Resum NCFCCCD de l’Article 5:
- Prohibeix distòpies de Hollywood: control mental, pre-crim pur, social scoring xinès.
- Legalitza distòpies de despatx: microtargeting, risk score, predicció amb excusa, càmeres amb excepció.
- Deixa forats: “dany significatiu”, “proporcionat”, “seguretat nacional”, “dirigit”, “mèdic”. Cada forat és una indústria.
- Crea mercat: Per saber si compleixes, has de contractar auditors, advocats i ceos de compliance. Els mateixos que van fer lobby per escriure l’article.
Conclusió: L’Article 5 no atura la “presó algorítmica”. Li posa normes ISO. Tot el que et preocupa seguirà passant, però amb certificat CE.
