Tendances & Actualités

Google encadre le développement de l’intelligence artificielle

L’intelligence artificielle promet autant d’évolutions possibles qu’elle suscite de craintes : dystopie, perte de la maîtrise des technologies, prise de pouvoir sur l’Homme… À ce sujet, un contrat signé par Google avec le ministère de la Défense américain a été révélé, relançant les peurs de possibles applications de l’IA dans l’armement. Suite à ce scandale, Sundar Pichaï, le PDG de Google, a récemment publié une charte éthique définissant 7 grands principes de développement d’intelligence artificielle et 4 applications interdites.

Les 7 grands principes

Être bénéfique pour la société

Dans cette charte Google reconnaît l’impact que peut avoir l’intelligence artificielle sur notre société et notre quotidien. Avant de développer un projet d’IA Google s’engage donc à évaluer les avantages, les risques et les inconvénients possibles.

Ne pas créer ou renforcer des discriminations

Une technologie d’IA reproduit ce que son concepteur lui a appris : des partis pris racistes ou sexistes ont déjà été observés, on se souvient bien de Tay, le robot de Microsoft qui a dérapé sur Twitter…

Conçu et testé avec une haute exigence de sécurité

Dans cette charte, Google déclare vouloir «éviter des résultats imprévus qui pourraient créer des risques». D’autant plus pour des technologies qui seront utilisées pour prendre des décisions médicales, d’incarcération… Google s’engage donc à tester avant lancement et après déploiement leurs IA.

Pouvoir rendre des comptes

Google s’engage à la transparence sur leurs projets. L’objectif est d’éviter une situation où les concepteurs eux mêmes ne pourraient plus expliquer les comportement de leurs technologies.

Respecter la vie privée

Avec le scandale Facebook – Cambridge Analytica et la mise en application récente du RGPD, Google s’engage à ce que le traitement des données personnelles soit clairement explicitée et le consentement clairement obtenu.

Maintenir un niveau élevé d’excellence scientifique

Google indique également vouloir développer des IA à la pointe pour «débloquer de nouveaux domaines de recherche scientifique et de connaissance dans des domaines critiques comme la biologie, la chimie, la médecine et les sciences de l’environnement». L’entreprise va également partager ses connaissances.

Garantir une utilisation conforme à ces principes

Google insiste sur la mise en place de contrôles internes pour respecter ces principes et veillera particulièrement à ce que les objectifs et l’usage des IA ne soient pas dangereux.

Pour aller plus loin