In Frankrijk is in juli jl. het Confiance.ai programma van start gegaan met 13 industriële en academische partners en een budget van 45 miljoen euro voor een periode van vier jaar.

Hoe kan de betrouwbaarheid van beslissingen die door een artificial intelligence algoritme worden genomen, worden gegarandeerd?

Trusted AI, vertrouwde AI, is van essentieel belang voor de maatschappelijke aanvaarding en het gebruik van kunstmatige intelligentie in kritieke industriële toepassingen in alle sectoren, van vervoer tot financiën, van luchtvaart tot energie.

Om hier een antwoord op te formuleren heeft Frankrijk op 1 juli jl. het programma Confiance.ai gelanceerd. Dit programma wordt geleid door een collectief van 13 Franse industriëlen en academici en beschikt over 45 miljoen euro voor de periode 2021 – 2024.

Confiance.ai brengt industriëlen, academici en startups samen met als doel de betrouwbaarheid te garanderen van AI algoritmen die worden gebruikt in kritieke toepassingen, zoals autonoom rijden of cyberveiligheid. Het Instituut voor Technologisch Onderzoek (IRT) SystemX is projectleider.

De inauguratie vond plaats in het gloednieuwe R&D-centrum van Valeo in Créteil. Aan industriële zijde nemen Air Liquide, Airbus, Atos, Naval Group, Renault, Safran, Sopra Steria, Thales en Valeo deel, aan academische zijde het CEA en Inria. De activiteit zal worden ondergebracht in het IRT SystemX in Saclay (nabij Parijs) en IRT Saint-Exupéry in Toulouse waarvoor een equivalent van 300 FTE’s zal worden gemobiliseerd. Daaraan zullen minstens tien startups worden toegevoegd die zullen worden geselecteerd via de oproep tot het indienen van blijken van belangstelling die tevens op 1 juli is gedaan (voortkomend uit het in 2018 door President Macron gelanceerde AI For Humanity-plan).

De originaliteit van Confiance.ai is dat het wetenschappelijk onderzoek combineert met industriële vraagstukken, waardoor het mogelijk wordt de juiste barrières aan te pakken en de industrialisatie van oplossingen te vergemakkelijken. In de komende maanden moet het programma een platform opleveren met software-instrumenten die de integratie van AI in kritieke industriële producten en diensten mogelijk maken.

Deze instrumenten moeten het bijvoorbeeld mogelijk maken de ontwikkeling te ondersteunen van rijhulptechnologieën – tot en met autonome voertuigen – of zelfs het zoeken naar medicinale moleculen en het opsporen van cyberaanvallen. Sectoren waar fouten niet zijn toegestaan.

Terwijl China en de Verenigde Staten de onbetwiste leiders zijn geworden op dit gebied van AI voor het grote publiek, is het de ambitie van Confiance.ai om Frankrijk te positioneren als kampioen van vertrouwde AI voor industrieel gebruik. Frankrijk hoopt dat dit onderzoeksprogramma zal kunnen bijdragen tot de Europese regulering van de technologie.

Om dit te bereiken is het programma gestructureerd rond vijf onderzoeksgebieden: karakterisering van algoritmen, creatie van betrouwbare AI “by design” (betrouwbaar in hun conceptie), engineering van betrouwbare datasets, beheersing van systeem engineering op basis van AI en vertrouwen in ingebedde AI-systemen. Dit zijn allemaal kwesties die de integratie van fysische wiskundige modellen in leeralgoritmen, het toezicht op de evolutie van een algoritme gedurende de ontwikkeling ervan, maar ook het toezicht op de aanwezigheid van bias in hun leerdata vereisen. Deze projecten zullen meer in detail worden gepresenteerd op het volgende Confiance.ai evenement, op 6 oktober in Toulouse.

Actuele informatie over dit programma kunt u blijven volgen op de website van Confiance.ai.

Bron: website Franse regering, Usine Nouvelle