Article

Ouvrir la voie au développement d'une IA responsable

Dr. Sarvapali Ramchurn

AXA Research Fund reconnaît la contribution d'un expert de Southampton à l'intelligence artificielle responsable.

Le Dr Sarvapali (Gopal) Ramchurn, expert en intelligence artificielle, a reçu une bourse d’AXA Research Fund, devenant ainsi le deuxième universitaire basé au Royaume-Uni à être soutenu par cette initiative dans le domaine de l'intelligence artificielle responsable.

AXA Research Fund, l'initiative philanthropique du Groupe AXA, a pour objectif de stimuler les découvertes scientifiques qui contribuent au progrès de la société. Il recevra 250 000 euros pour étudier de façon plus approfondie comment l'intelligence artificielle peut devenir responsable.

Ce prix reconnaît la contribution novatrice du maître de conférences dans son domaine, qui comprend plus d'une décennie de travail au renommé Département d'électronique et d'informatique (ECS) de l'Université de Southampton.

 « Nous sommes à un moment critique où l'on se pose des questions clés sur la façon dont l'IA va changer la vie des gens pour le meilleur ou pour le pire », dit Sarvapali. « C'est un honneur d'avoir reçu ce prix et il reflète à quel point la recherche de notre Groupe, Agents, Interaction et Complexité (AIC), est vraiment à l'avant-garde mondiale. C'est la reconnaissance non seulement de mon travail, mais aussi des collègues actuels et passés, des chercheurs et des étudiants avec lesquels j'ai eu la chance de travailler. »

Les recherches de Sarvapali se sont largement concentrées sur le développement de logiciels intelligents et d'agents robotiques, en mettant l'accent sur la façon dont ces agents sont conçus pour travailler avec les humains et d'autres agents. Ses prochaines étapes porteront sur la conception d'interactions avec l'intelligence artificielle qui permettent de s'assurer que les humains ont des attentes raisonnables quant au comportement des agents intelligents et qu'elles les soutiennent plutôt qu’elles n’entravent leurs activités quotidiennes.

 « Mon objectif est de mettre au point une partie de la technologie de base qui garantira la sécurité et la responsabilité de l'IA », explique M. Sarvapali. « Certains des objectifs seront d'examiner comment nous pouvons concevoir des systèmes d'IA pour faire face aux différents degrés de compréhension des utilisateurs et comment nous pouvons concevoir des interactions avec l'IA pour nous assurer que le contrôle est donné aux utilisateurs quand c'est le plus important, alors que la complexité du processus décisionnel est traitée par l'IA quand l'utilisateur n'a pas besoin de s'impliquer. Nous établirons également de nouvelles méthodologies dérivées d'une approche centrée sur l'utilisateur pour la conception de l'IA. Une partie clé du travail consistera également à suivre la provenance de l'IA et la prise de décisions humaines afin de s'assurer que les systèmes sont responsables. »

Des chercheurs de l'Université de Southampton ont déjà travaillé sur la conception de l'IA responsable dans un certain nombre de projets financés par l’Engineering and Physical Sciences Research Council. Il s'agit notamment d'ORCHID, une subvention de programme qui a permis d'étudier la notion de collectifs Humain-Agent, et du projet A-IOT qui vise à développer l'Internet autonome des objets (Autonomous Internet of Things, A-IOT).