Si vous ajoutez des solutions d'IA générative à la panoplie technologique de votre centre de contact, il n'y a pas d'excès de prudence.
Lorsque vous évaluez de nouvelles solutions logicielles avec Gen AI, imaginez-vous comme un videur.
Vous avez déjà vu ces grands costauds à l'extérieur des boîtes de nuit les plus branchées, n'est-ce pas ? Ils se tiennent debout, le visage vide, les bras croisés et n'acceptent aucune absurdité.
Vous voulez leur ressembler.
Mais au lieu d'empêcher la racaille d'entrer dans les zones VIP, vous défendez votre entreprise et vos clients contre les informations mal traitées, les violations de données et les hallucinations de l'IA.
Une étude récente de l'Institute for Business Value d'IBM a montré que 94 % des dirigeants considèrent la sécurité des solutions d'IA comme une priorité absolue. Mais l'étude indique également que 69 % d'entre eux placent l'innovation avant cette même sécurité.
Et si 47 % d'entre eux considèrent l'IA générique comme un outil permettant d'"améliorer le temps de détection et de réponse aux cybermenaces", le même pourcentage est "préoccupé par le fait que l'adoption de l'IA générique dans les opérations conduira à de nouveaux types d'attaques".
Nous sommes en terrain inconnu en ce qui concerne l'IA.
C'est pourquoi un peu de prudence supplémentaire peut s'avérer très utile.
En tant que "videur", vous ne pouvez pas faire passer des solutions par la porte d'entrée simplement parce que Gen AI est célèbre et que tout le monde en a entendu parler. Vous avez la responsabilité de servir et de protéger... et cela commence par poser beaucoup de questions.
15 questions clés que les leaders du CCaaS doivent poser aux fournisseurs d'IA générique
L'évaluation des solutions logicielles a toujours exigé une bonne dose de diligence raisonnable. Mais l'ajout de l'IA générative ajoute une nouvelle angoisse au paysage technologique CCaaS déjà complexe.
Il est facile de se laisser séduire par les promesses audacieuses de l'IA. Les responsables des centres de contact sont soumis à une pression constante pour améliorer les mesures et obtenir des résultats.
Rares sont ceux qui résistent à l'idée d'assistants virtuels travaillant jour et nuit à la vitesse de l'éclair. Mais il est essentiel de comprendre comment vous pouvez mettre en danger les informations des clients et les données de l'entreprise.
Commencez par poser ces trois questions internes...
Quelles tâches ou questions spécifiques l'IA génère-t-elle ?
Fixez des objectifs qui s'alignent sur les objectifs de l'entreprise. Utiliserez-vous l'IA pour l'automatisation du service client, la création de contenu ou l'aide à la décision ? Traitez l'IA comme un nouvel employé. Donnez-lui une description de poste avec des responsabilités et des attentes.
Comment Gen AI s'intégrera-t-elle à nos systèmes existants ?
Votre solution se connectera-t-elle de manière transparente ? Ou aura-t-elle besoin d'une solution de contournement ? Pensez aux API, aux protocoles d'échange de données et à la modification des flux de travail existants.
Comment allons-nous former et soutenir le personnel qui utilise Gen AI ?
Assurez-vous que vos équipes comprennent comment utiliser la technologie. Cela devrait inclure des discussions sur la conformité et la sécurité.
Une fois que vous avez compris comment l'IA s'adaptera à vos objectifs commerciaux, il est temps de dresser une liste de questions à l'intention des fournisseurs d'IA.
Votre liste peut varier, mais en voici une bonne douzaine pour commencer :
Garantir la protection des données et le respect de la vie privée
Comprendre comment Gen AI gère et traite les informations sensibles des clients, y compris les données personnelles et financières. La conformité à des réglementations telles que le GDPR, le CCPA, l'HIPAA (si l'on traite des informations liées à la santé) et d'autres lois pertinentes sur la protection des données est cruciale.
Comment garantissez-vous la conformité avec les réglementations mondiales en matière de protection des données (par exemple, GDPR, CCPA, HIPAA) ?
- Pourquoi c'est important ? La conformité protège votre organisation contre les sanctions légales ou les atteintes à sa réputation. Des caractéristiques de conformité solides démontrent l'engagement d'un fournisseur en matière de protection de la vie privée et de sécurité.
Pouvez-vous détailler les méthodes de cryptage des données utilisées lors de la transmission des données et au repos ?
- Pourquoi c'est important ? En posant des questions sur les pratiques de cryptage des données en transit (lorsqu'elles sont envoyées) et au repos (lorsqu'elles sont stockées), on évalue la capacité d'un fournisseur à protéger les informations sensibles de ses clients.
Quelles politiques et procédures avez-vous mises en place pour l'accès aux données et comment vous assurez-vous que seul le personnel autorisé peut accéder aux informations sensibles ?
- Pourquoi c'est important ? Veiller à ce que les bonnes personnes aient le bon accès pour les bonnes raisons. Un contrôle efficace est essentiel pour minimiser le risque de violation des données, qu'il s'agisse d'attaques externes ou de menaces internes.
Minimiser les risques liés à la manipulation et au stockage des données
Le risque de violation des données est une préoccupation importante lors de l'intégration de Gen AI dans les opérations de votre centre d'appels. Il est important de comprendre quelles sont les mesures de sécurité en place pour se protéger contre les accès non autorisés, le piratage ou d'autres cybermenaces.
Où les données sont-elles stockées et quelles sont les mesures de sécurité physiques et logiques mises en place dans ces lieux ?
- Pourquoi c'est important ? Connaître les mesures de sécurité physiques et logiques des lieux de stockage des données permet de s'assurer que les installations du fournisseur respectent des normes de sécurité élevées.
Utilisez-vous des services de cloud public, privé ou hybride pour le stockage des données et comment assurez-vous leur sécurité ?
- Pourquoi c'est important : Il est essentiel de comprendre l'infrastructure en nuage utilisée (publique, privée, hybride) pour évaluer les risques potentiels et les mesures de sécurité nécessaires.
Quelles politiques et procédures avez-vous mises en place pour la conservation et la suppression des données ?
- Pourquoi c'est important ? Des politiques efficaces de conservation et de suppression des données permettent de gérer le cycle de vie des données, de garantir la conformité légale et de réduire le risque de conserver des informations sensibles inutiles.
Prendre le contrôle de la formation et de la maintenance des modèles d'IA
La formation et la maintenance des modèles sont essentielles pour garantir que les interactions avec les clients restent efficaces et personnalisées. Des mises à jour régulières de la formation permettent aux modèles d'IA de rester pertinents et précis face à l'évolution des comportements et des préférences des clients.
Comment garantissez-vous la sécurité et la confidentialité des données utilisées pour entraîner vos modèles d'IA ?
- Pourquoi c'est important : Il est important de s'assurer que les données des clients utilisées pour la formation des modèles d'IA ne sont pas exposées à un accès non autorisé ou à une utilisation abusive. La sécurisation des données d'entraînement renforce également la confiance dans le fait que les informations sur les clients sont traitées de manière responsable.
Quelles sont les mesures mises en place pour éviter que vos modèles d'IA ne produisent des résultats biaisés ?
- Pourquoi c'est important : Les biais dans les modèles d'IA peuvent conduire à des résultats injustes ou discriminatoires, affectant la satisfaction des clients et causant des dommages à la réputation. Renseignez-vous sur les stratégies d'atténuation des biais pour vous assurer que les modèles d'IA fournissent un service équitable et juste.
Comment gérez-vous les mises à jour et la maintenance des modèles d'IA pour vous assurer qu'ils restent efficaces et sûrs au fil du temps ? qu'ils restent efficaces et sûrs au fil du temps ?
- Pourquoi c'est important : Les modèles d'IA doivent évoluer. Des mises à jour et une maintenance régulières sont essentielles pour maintenir la longévité et l'efficacité des solutions d'IA dans des environnements dynamiques.
Maintenir la transparence et l'explicabilité de l'IA
L'IA n'est pas parfaite. Des erreurs seront commises, et vous devrez comprendre pourquoi. Clarifiez la manière dont les décisions prises par l'IA sont dérivées, en particulier pour les interactions sensibles avec les clients. La capacité d'auditer et d'expliquer les décisions de l'IA est cruciale pour la responsabilité, le dépannage et la conformité.
Votre système d'IA peut-il fournir des explications sur ses décisions ou ses résultats ?
- Pourquoi c'est important : La transparence dans la prise de décision de l'IA est cruciale pour instaurer la confiance avec les utilisateurs, répondre aux exigences réglementaires (telles que le droit d'explication du GDPR) et identifier les biais potentiels ou les erreurs dans le système d'IA.
Quel est le niveau de détail des explications et sont-elles accessibles aux parties prenantes non techniques ?
- Pourquoi c'est important : Les explications doivent être détaillées et compréhensibles pour les utilisateurs non techniques, y compris les représentants du service clientèle et les clients eux-mêmes.
Comment s'assurer que le système d'IA reste explicable au fur et à mesure qu'il évolue avec la formation et les mises à jour ?
- Pourquoi c'est important : L'explicabilité continue est essentielle pour assurer la confiance et la conformité à long terme, en veillant à ce que le processus décisionnel de l'IA reste transparent, même si le système devient de plus en plus sophistiqué.
S'efforcer d'innover, s'engager pour la sécurité
L'intégration de l'IA dans les environnements CCaaS nécessite une approche méticuleuse de la sécurité et de la conformité. À l'instar des videurs vigilants qui gardent les portes des lieux exclusifs, les responsables CCaaS doivent évaluer rigoureusement les solutions potentielles d'IA générique pour protéger l'intégrité des données et la vie privée des clients.
Compte tenu de l'évolution rapide de la technologie et des nouvelles menaces qui l'accompagnent, vous devez rester ferme. Rester ferme. N'acceptez aucune absurdité.
Parce qu'à mesure que nous nous aventurons dans l'ère de l'IA, la responsabilité incombe aux leaders du CCaaS. C'est à vous de poser les bonnes questions et de vous former (ainsi que votre personnel) pour vous assurer que la volonté d'innovation commerciale ne dépasse pas l'engagement en faveur de la sécurité de l'information.
Cet article a été publié pour la première fois sur le site de l'ICMI.