Most recent articles in the press - Paperjam

August 2025 – Paperjam, articles du rédacteur en chef, Thierry Labro

L’entrée en vigueur d’un nouveau chapitre de l’AI Act, sur l’intelligence artificielle générative, a finalement été bien «vue» par les gros acteurs du secteur. Un «twist», explique la directrice de la House of Ethics, Katja Rausch, dû à une faveur de l’AI Office de la Commission européenne. Interview qui décoiffe.

Que pensez-vous du texte? Où sont ses forces et où sont ses faiblesses?

Katja Rausch. – «Quand Bruxelles a commencé l’élaboration et la négociation de l’AI Act il y a cinq ans, les législateurs ont essayé d’aboutir à un texte général qui proposerait un juste équilibre entre innovations liées à l’intelligence artificielle (IA) avec vue sur les bénéfices liés à l’IA et tous les risques qu’elle apporterait. Le résultat étant un texte dit “risk-based” avec des systèmes de l’IA catégorisés en quatre types de risques: minimal ou pas de risque (permis), risque de “transparence” comme les chatbots (permis avec obligations d’informations), haut risque (permis avec obligations de conformités – la “conformity assessment procedure” pour avoir des labels CE par exemple), risque non accepté (prohibé, reconnaissance faciale, scoring social).

Et puis, il y eut l’électrochoc du rapport Draghi “The Future of European competitiveness” concluant sur une Europe à la traîne de la révolution digitale, voire freinant l’innovation avec ses 100 et quelques lois digitales, répertoriées par Kai Zenner. [lire plus…]

The new chapter of the AI Act on generative artificial intelligence has finally been “well regarded” by the big players in the sector. But that’s a “twist,” says the director of the House of Ethics, Katja Rausch: it amounts to a favour from the AI Office of the European Commission. Read our hair-raising interview.

Paperjam: What do you think of the text? What are its strengths and weaknesses?

Katja Rausch: When Brussels began drafting and negotiating the AI Act five years ago, the legislators tried to come up with a general text that would strike the right balance between innovations linked to artificial intelligence with a view to the benefits linked to AI and all the risks it would bring. The result is a so-called “risk-based” text with AI systems categorised into four types of risk: minimal or no risk (permitted); “transparency” risk such as chatbots (permitted with information obligations); high risk (permitted with compliance obligations, e.g. the “conformity assessment procedure” to have CE labels; and risk not accepted (e.g. facial recognition, social scoring).

And then there was the shock of the Draghi report, “The Future of European Competitiveness, which concluded that Europe was lagging behind the digital revolution and even holding back innovation with its 100 and some digital laws, listed by Kai Zenner. [read more…]

Si l’AI Act impose aux géants de l’intelligence artificielle générative de rendre des comptes, qui va vérifier que ce qu’ils disent est exact? Des dizaines de nouveaux auditeurs se sont lancés sur ce marché… en mettant la charrue avant les bœufs, critique la fondatrice et CEO de la House of Ethics, Katja Rausch.

Eticas Consulting, Zetane Systems, Truera, Data & Society ou Babylon Technologies: aux côtés des acteurs classiques de l’audit qui ont une offre, comme PwC ou EY, ou de la technologie, comme Capgeminini, une flopée d’entreprises sont nées face au boom de l’intelligence artificielle et à l’intuition qu’il faudrait bien, à un moment donné, mettre les mains dans le cambouis des black-box pour comprendre comment elles fonctionnent et comment elles peuvent perturber les équilibres démocratiques ou économiques.

«Il existe 245 méthodes d’audit, mais aucune ne pourra à l’heure actuelle faire un audit miroir ou prédictif des systèmes deep tech, de l’IA générative ou des modèles de diffusion qui fonctionnent en mode de tokenisation probabiliste, donc imprévisible. Au-delà du manque d’outils, ce sont surtout les profils capables de maîtriser la complexité technologique qui font défaut : ceux qui comprennent l’interaction entre ERP, API, systèmes propriétaires, sans oublier les nouvelles IA génératives qui opèrent dans l’opacité de la black box », assène d’emblée la fondatrice et CEO de The House of Ethics, Katja Rausch. «Certes, les auditeurs appliquent les analyses des données, font des rapports de modèles, des tests de sécurité (avec le secteur financier étant le plus abouti), mais l’audit traditionnel comme méthode ne passerait pas son propre audit.» [Lire plus…]