Les merveilles de l’intelligence artificielle sont célébrées dans le monde de la finance, mais ses inconvénients potentiels font l’objet d’une attention croissante. Le risque de comportement frauduleux et de manipulation sur les marchés financiers est élevé, et les experts en cybersécurité avertissent que les pirates informatiques peuvent accroître leurs compétences grâce à l’IA.
Hollywood nous a offert une franchise cinématographique entière basée sur une intelligence artificielle incontrôlable et des cyborgs intelligents : Terminator. Aujourd’hui, Netflix propose un film intitulé Unknown : Killer Robots.
Ces préoccupations ne se limitent pas à Hollywood. Une étude récente de Natixis Investment Managers fait état d’un «potentiel élevé de comportements frauduleux» et de manipulations liés à l’IA.
Pour les instruments financiers, cela pourrait être problématique», déclare également Koen Maris, associé consultant et expert en cybersécurité chez PwC Luxembourg, lors d’une conversation avec Investment Officer. La vitesse à laquelle l’IA pourrait initier des transactions et manipuler un marché boursier pourrait être dangereuse.
Manipulation des données
Si l’ensemble de données est erroné et que les pirates ou le côté obscur ont tout intérêt à manipuler les données de l’ensemble de données, Maris souligne : «Convaincre ces outils d’investissement d’IA ou ces outils d’investissement de l’intelligence artificielle de ne pas se tromper de cible. Si l’on convainc ces outils d’investissement IA ou ces robots que Microsoft est une très mauvaise option à acheter et qu’il n’y a plus de vision à long terme, tout le monde commencera à s’en débarrasser en se basant sur les informations de l’IA».
Natixis note dans l’enquête publiée : «Tout comme la crainte que l’IA puisse être utilisée pour manipuler le sentiment politique et le comportement des électeurs, les stratèges s’inquiètent que le comportement des investisseurs et le sentiment du marché puissent être manipulés par de mauvais acteurs. 100 % des stratèges pensent que l’IA augmentera le potentiel de fraude et d’escroquerie».
Résistance à l’IA
L’IA est une question importante pour les investisseurs, ou est en passe de le devenir. Au fur et à mesure que les investisseurs évaluent et sélectionnent leurs gestionnaires d’investissement, il deviendra de plus en plus important de tester la résilience des stratégies d’investissement des gestionnaires sur des marchés de plus en plus façonnés par l’IA. Ils doivent s’assurer que leur opportunité d’alpha peut être reproduite pour ajouter de la valeur sur le long terme», déclare Martha Brindle, directrice des capitaux propres chez bfinance, lors d’une conversation avec Investment Officer.
Mais s’il est un domaine que l’IA considère comme une véritable menace, c’est bien celui de la cybersécurité. Selon Maris, de PwC Luxembourg, l’IA peut à la fois aider et nuire à la sécurité informatique.
Un pas en arrière
Dans le domaine de la sécurité, l’IA pourrait nous aider à détecter et à améliorer les choses», affirme-t-il. Mais n’oubliez pas que ce type d’IA est toujours un pas en arrière par rapport à l’IA que les attaquants pourraient utiliser».
Nous jouons au jeu du chat et de la souris. Et du côté des attaquants, cela peut être très dangereux parce que l’IA pourrait trouver des exploits sans rien dire à personne et les utiliser pour infiltrer votre réseau ou votre environnement», explique M. Maris.
L’IA est devenue presque trop importante et trop rapide, et il est désormais impossible de réglementer son utilisation», déclare George Ralph, directeur mondial et chef de la gestion des risques au sein de l’entreprise technologique RFA. Ces questions occupent l’Enisa, l’agence de cybersécurité de l’Union européenne, et son entreprise, explique-t-il lorsqu’on lui pose la question.
L’envers d’une même médaille
Ralph : «Pour chaque utilisation positive de l’IA et de ses avantages pour la cybersécurité, il y a le revers de la même médaille, lorsque quelqu’un utilise la même technologie pour des activités illégales. À ce stade précoce, il doute que l’IA ait un impact immédiat sur les marchés financiers.
S’adressant à M. Maris de PwC, il cite le Cyber Grand Challenge de 2016, organisé par la Defense Advanced Research Projects Agency (Darpa) des États-Unis, le «premier tournoi mondial de défense automatisée des réseaux» avec des ordinateurs qui «peuvent raisonner sur les erreurs».
«Ils ont attaqué et utilisé des techniques d’attaque que personne ne connaissait encore», a déclaré M. Maris. «Ils étaient très créatifs. Ils ont innové.
Inquiétudes concernant la confidentialité des données
Stéphane Hurtaud, associé chez Deloitte et spécialiste des cyberrisques, identifie trois domaines dans lesquels l’IA présente actuellement des inconvénients, à commencer par la confidentialité des données. Les partisans de l’IA ont fait part de leurs inquiétudes concernant les données qu’elle contient. Nous avons remarqué que, parfois, les institutions financières ne font pas attention au type de données qu’elles fournissent», a déclaré M. Hurtaud, ajoutant que cela a conduit à des violations de données.
Ces préoccupations sont à l’origine de l’interdiction de l’utilisation de l’IA dans certains domaines, a déclaré M. Hurtaud.
Un deuxième type de menace, a expliqué M. Hurtaud, est l’utilisation de l’IA pour automatiser les cyberattaques. Les attaquants peuvent utiliser des algorithmes d’apprentissage automatique pour traiter d’énormes quantités de données afin d’identifier les vulnérabilités et les mesures de sécurité existantes.