Centre pour la certification de l’IA
Le Centre pour la certification de l’IA contribue à l’avancement des technologies d’IA et à leur utilisation responsable.
Le centre mène des recherches fondamentales sur la traçabilité des données (data lineage), l’équité, l’interprétabilité et la robustesse des modèles d’IA. Il soutient un déploiement responsable et sécurisé des technologies d’IA et apporte sa vision et son expertise technique à l’évolution des normes et réglementations en matière d’IA. Le Règlement général sur la protection des données (RGPD) et le Règlement sur l’intelligence artificielle (AI Act) soulignent également l’importance de la conformité des modèles d’IA.
Les activités du centre comprennent l’analyse juridique et normative, la formalisation de métriques, le développement logiciel, la création de boîtes à outils et la collecte de données. Le centre jouera un rôle clé en fournissant des services de validation et de certification pour les technologies d’IA, qui deviennent incontournables dans de nombreux secteurs ; la demande de modèles d’IA sûrs et certifiés est donc en hausse.
L’expertise et la réputation de l’Idiap dans des domaines clés tels que la sécurité, l’interaction humaine, la santé et la robotique, ainsi que l’alignement du centre sur les normes internationales, notamment ISO/IEC JTC 1/SC 42 Intelligence artificielle, font du centre un acteur de premier plan en matière de test et de certification de l’IA. Son engagement envers les normes internationales et la collaboration avec l’ensemble des groupes de recherche lui permettront de rester à la pointe du développement et de la certification des technologies d’IA.
Qui sommes-nous
Projets
Along the whole value chain in using data for economic purposes, guidelines and tools are required to make the business of the different stakeholders successful, and the end-users confident that none of their rights are endangered. CERTAIN addresses these needs and delivers solutions for data holders, dataspaces and AI systems providers, and AI systems deployers, which are the primary actors of the data and AI value chain. They must be compliant with applicable European regulations, must reach this compliance in a timely manner, and at reasonable cost.
CERTAIN delivers guidelines and technical tools to help with compliance, to assess data quality, to measure biases in datasets, and to protect privacy. CERTAIN sets the foundation of AI certification: it translates the regulations to business terms, builds a directory of certification entities per business, develops a platform to streamline the certification process, and tools for AI system providers and certification entities so that they could respectively prepare and run a certification process.
In case of security breach, not only privacy may get compromised, but also AI models may become useless and lead to extremely damageable decisions. To make sure that AI-based products are of high quality and reliability, CERTAIN develops security tools and methods, specifically suitable for dataspaces and AI systems.
CERTAIN addresses the environmental footprint of the AI value chain. Innovative techniques are elaborated to reduce energy consumption when building and running AI systems. This is beneficial not only for the green deal but to reduce cost for AI stakeholders.
As importantly, CERTAIN considers the end-users perspective, and provides templates and guidelines that may be used by AI systems deployers to reassure end-users on the use of their private data. The project tests its results on seven operational pilots in six different business areas, considering all the actors along the AI value chain.
Biometric identification systems have the potential to revolutionize humanitarian aid distribution programs by improving their efficiency and reducing allocation fraud. However, biometric data storage introduces privacy risks. We aim to design a privacy-preserving biometric identification system.
