« La protection des clients doit primer sur la commodité, a affirmé Dave Faulkner, fondateur des logiciels de planification financière VibePlan et RazorPlan, lors de la conférence virtuelle annuelle de l’Independent Financial Brokers of Canada le mois dernier. Gagner 15 minutes sur un courriel ne vaut pas le risque de perdre son permis à cause d’une atteinte à la vie privée. »

D’un point de vue réglementaire, l’utilisation de l’IA est permise, mais elle doit s’accompagner d’une supervision humaine et de garde-fous adéquats pour demeurer conforme, a-t-il complété.

Agents conversationnels et règle 3600 de l’OCRI

Les firmes qui utilisent des agents conversationnels (chatbots) fondés sur l’IA doivent les configurer de manière conforme aux exigences réglementaires.

En vertu de la règle 3600 de l’Organisme canadien de réglementation des investissements (OCRI), les plateformes numériques permettant des communications publiques en temps réel ou quasi réel, y compris les chatbots destinés aux clients, sont soumises aux mêmes normes d’exactitude, d’équité et de véracité que les autres formes de communication.

Par exemple, les chatbots peuvent fournir de l’information générale et éducative, comme expliquer le fonctionnement des comptes enregistrés, mais ne doivent pas formuler de recommandations de placement précises, a résumé Dave Faulkner.

Les firmes peuvent mettre en place des environnements d’IA fermés, où le chatbot ne peut répondre aux questions des clients qu’à partir de documents approuvés à l’avance, comme des commentaires de marché ou des contenus internes.

Après les échanges, ces outils peuvent signaler certains termes à risque, comme « bitcoin » ou « rendement garanti », pour une révision humaine, permettant aux conseillers d’assurer un suivi et d’offrir des explications supplémentaires, a-t-il ajouté.

Le piège de la « boîte noire » et l’avis 11-348 des ACVM

À l’instar des exigences applicables aux conseillers humains, les données et le raisonnement ayant mené à une décision prise par l’IA doivent être documentés afin que les résultats puissent être expliqués.

Les systèmes qualifiés de « boîte noire », qui ne permettent pas de comprendre leur processus décisionnel, ne sont pas appropriés et ne favorisent pas la confiance, selon l’avis 11-348 du personnel des Autorités canadiennes en valeurs mobilières (ACVM).

« Dire “je ne savais pas que l’IA l’avait suggéré” n’est pas une défense, a rappelé Dave Faulkner. Vous devez être en mesure d’expliquer la logique d’un algorithme à un régulateur, sinon vous ne respectez pas votre obligation de connaissance du produit. »

Les conseillers doivent également divulguer à leurs clients l’étendue et la nature de leur utilisation de l’IA, afin que ceux-ci comprennent les risques importants qui y sont associés, précise l’avis.

Réfléchir avant de téléverser des données

Les clients peuvent être tentés d’utiliser l’IA pour vérifier le travail de leur conseiller en téléversant des relevés de compte sur des plateformes accessibles au public comme ChatGPT, ce qui peut exposer leurs renseignements personnels.

« Si votre client téléverse son relevé de placement, comment pouvez-vous prouver que vous n’êtes pas à l’origine d’une fuite de données ? », a-t-il questionné, en soulignant que les systèmes d’IA publics ne garantissent pas la confidentialité.

Les conseillers devraient donc aborder la question de la sécurité de l’IA avec leurs clients, leur recommander de ne pas partager d’informations personnelles en ligne et consigner ces échanges dans leurs dossiers, a indiqué Dave Faulkner.

Des risques accrus de fraude ciblée

Un autre risque à considérer est l’utilisation de l’IA par des fraudeurs pour obtenir des renseignements financiers auprès des conseillers.

Par exemple, un conseiller peut annoncer sur LinkedIn sa participation à une conférence à venir, ce qui permet à un acteur malveillant d’utiliser l’IA pour créer un faux courriel et inciter le conseiller à transmettre des reçus ou des informations bancaires dans le cadre d’un remboursement.

« L’IA permet un hameçonnage ciblé : c’est intentionnel, personnalisé et direct, a expliqué Dave Faulkner. Et avant même de vous en rendre compte, votre paiement de loyer est refusé parce qu’un fraudeur a créé un faux site pour recueillir vos informations bancaires. »

L’article IA et conseil financier : des garde-fous essentiels est apparu en premier sur Finance et Investissement.