Pourquoi la confiance et la transparence sont impératives à l'ère de l'IA générative

Il est impossible de passer une journée sans entendre parler de l'IA générative. Mais au-delà du buzz, qu'est-ce que cela signifie vraiment pour votre entreprise ?

Nous avons récemment rencontré Ryan Sanders, Sr.directeur du marketing produit et client chez Keyfactor, Ellen Boehm, vice-présidente principale des stratégies et opérations IoT chez Keyfactor, et Jason Slack, directeur de l'ingénierie produit chez Truepicpour répondre à cette question de manière approfondie. La discussion a porté sur les opportunités, les menaces et les implications commerciales de l'IA générative, l'importance de l'identité et de l'authenticité dans un monde sans confiance. monde sans confianceet de la manière d'établir la confiance avec PKI.

L'IA n'est pas une nouveauté. Cependant, des développements récents, notamment GPT-3 et ChatGPT, ont rendu l'IA très pratique et accessible au commun des mortels. 

Selon Gartner, depuis la publication de ChatGPT en novembre 2022, 45 % des organisations ont augmenté leurs investissements dans l'IA. Gartner prévoit également que la plupart des produits et services technologiques intégreront des capacités d'IA générative au cours de l'année prochaine.

De quoi s'agit-il exactement ? L'IA générative peut produire du texte, des images et des vidéos. Elle peut également réviser et remanier du code, ou même servir de copilote aux équipes informatiques et de sécurité. Et ces exemples ne font qu'effleurer la surface de ce qui est possible. 

En fin de compte, l'IA générative rend l'automatisation des processus beaucoup plus accessible, ce qui crée à la fois des opportunités et des risques - car vous pouvez parier que pendant que les organisations augmentent leurs investissements dans l'IA, les groupes d'attaque et les pirates adoptent exactement les mêmes stratégies. 

Comme toute nouvelle technologie, l'IA générative s'accompagne d'opportunités et de risques, et il est important de comprendre les deux côtés de l'équation. En ce qui concerne les opportunités, nous voyons quatre cas d'utilisation clés :

• Génération de code et tests : L'IA générative permet aux développeurs de créer du code beaucoup plus rapidement, sur lequel les équipes peuvent ensuite itérer. Cela permet d'améliorer l'efficacité des tests de performance et d'assurance qualité, et d'accélérer la livraison d'un produit minimum viable.

• Automatisation de la sécurité : L'IA générative peut également automatiser le processus de test contre les attaques afin d'améliorer la sécurité des nouvelles technologies.

• Génération de contenu : Qu'il s'agisse de nouveaux messages marketing, d'images et de vidéos, de scripts ou de toute autre chose, l'IA générative a fait sensation en termes de génération de contenu, en aidant les gens à transmettre un message à un large public de manière rapide et efficace.

• Assistants IA et innovation : Enfin, il est possible que l'IA générative joue un rôle d'assistant, en aidant les équipes à innover en proposant différents modèles commerciaux ou de nouveaux concepts pour soutenir la manière dont le travail est effectué.

En attendant, les risques les plus importants de l'IA générative que nous observons sont les suivants :

• Les logiciels malveillants générés par l'IA : La capacité de l'IA générative à créer des logiciels malveillants à un rythme rapide peut non seulement conduire à des attaques plus intelligentes sur software et les appareils, mais aussi à des attaques plus fréquentes.

• Automatisation des attaques : L'IA peut automatiser les attaques, comme le DDoS, au point que les humains n'ont même plus besoin d'être impliqués. Par exemple, au lieu d'utiliser un réseau de dispositifs IoT compromis pour cibler un serveur, les attaquants peuvent créer un réseau de robots alimentés par l'IA pour inonder le trafic et mettre les serveurs hors service à peu de frais.

• Falsifications profondes : Les "deep fakes", c'est-à-dire les vidéos et les images qui ont été modifiées numériquement pour déformer les sujets, peuvent diffuser des informations erronées. Nous en avons déjà vu des exemples dans les journaux télévisés, avec des États-nations produisant des publicités politiques générées par l'IA pour tenter d'influencer la prise de décision des citoyens du monde entier.
• Confidentialité des données et problèmes de droits d'auteur : L'IA générative peut faciliter la création de faux contenus et de fausses informations, et lorsque ceux-ci sont présentés comme authentiques, cela peut poser de sérieux problèmes de droits d'auteur ou même porter atteinte à la confidentialité des données dans les cas où cela a un impact sur les communications en cours.

La responsabilité en matière d'IA générative se résume à l'authenticité et à la transparence. Ces deux principes sont au cœur de Truepic, client de Keyfactor, et pionnier de l'authenticité des images, qui propose une technologie de pointe de capture contrôlée pour garantir l'intégrité des photos et vidéos numériques dès l'instant où elles sont capturées.

Jason explique : "L'un des principes les plus importants de la création de Truepic était l'authenticité - utiliser une caméra en laquelle on a confiance et s'assurer que ce que l'on voit n'a pas été retouché. Aujourd'hui, nous considérons la transparence comme un élément important de ce principe, en reconnaissant qu'il n'y a pas de mal à faire des montages tant que l'on est transparent sur l'origine de ce que l'on voit."

Ces concepts s'étendent à l'IA générative, car les entreprises qui utilisent l'IA pour générer du langage ou des images doivent être transparentes quant aux outils et aux messages-guides utilisés pour créer le résultat. En fin de compte, Jason pense que cela deviendra une sorte d'"étiquette d'ingrédients" pour les images et les vidéos.

Ce type de réflexion a conduit des organisations telles que Truepic à créer la Coalition for Content Provenance and Authenticity (C2PA), qui fournit une norme technique ouverte permettant aux éditeurs, aux créateurs et aux consommateurs de retracer l'origine de différents types de médias. Ce type de sécurité repose essentiellement sur l'utilisation de signatures numériques basées sur le site PKI pour prouver l'authenticité.

Dans un monde où le contenu est généré par l'IA, comment savoir ce qui est réel ou synthétique, original ou édité ? Prenons l'exemple de la vidéo de Truepic et Revel AIqui montre la puissance d'une fausse vidéo profonde.

Avec le contenu que nous voyons en ligne, la règle était auparavant de "faire confiance et vérifier", mais des avancées comme l'IA générative ont changé la donne. Aujourd'hui, nous devons adopter une approche "ne jamais faire confiance et toujours vérifier" et, dans ce monde, il est important de comprendre d'où vient le contenu.

Comment garantir la confiance et la transparence ?

L'adoption de la norme C2PA dans l'ensemble de l'écosystème des médias peut contribuer à faciliter la signature des images et des vidéos et à lier cryptographiquement aux médias des informations telles que leur origine, la manière dont elles ont été modifiées et leur créateur. La transparence est ainsi assurée, de sorte que les gens peuvent se fier à la réalité de ce qu'ils voient ou savoir d'où proviennent les fichiers modifiés.

Ces efforts doivent également s'étendre à d'autres domaines. Prenons le cas du code software . L'IA générative peut être utilisée pour créer du code et le tester rapidement, ce qui permet aux équipes de développement de devenir beaucoup plus agiles. Mais cette efficacité accrue s'accompagne de la nécessité de prouver que la personne qui écrit le code est bien le développeur prévu et que même un petit morceau de code contrefait ou de logiciel malveillant n'est pas intégré dans un paquet plus important. Par conséquent, la capacité à effectuer des signatures numériques correctes sur le nouveau code devient encore plus importante.

Cela nous amène à parler du rôle de PKI et de la la signature de code, qui constituent la base de la vérification de l'authenticité et de l'origine du contenu. Heureusement, PKI est très bien établi et soutient la confiance numérique dans l'entreprise depuis des décennies en prouvant l'authenticité, en validant l'origine des nouveautés et en nous permettant d'envoyer des données sur des canaux cryptés pour éviter l'interception par des parties malveillantes.

Lorsque la norme C2PA est apparue, Truepic a décidé de l'intégrer dans ses produits afin que les utilisateurs puissent sceller cryptographiquement les informations de la norme C2PA dans leurs fichiers visuels. Lors de la recherche d'un partenaire pour soutenir cette cryptographie, Keyfactor est apparu comme le meilleur de sa catégorie pour l'infrastructure PKI grâce à EJBCA et à un partenariat avec SignServer.

La technologie Controlled Capture et le produit Lens de Truepic utilisent EJBCA et SignServer pour acquérir des données de provenance et signer cryptographiquement le contenu pour en vérifier l'authenticité. L'utilisation de PKI rend le processus plus évolutif et plus souple pour les utilisateurs que le recours à un grand livre de comptes blockchain.

Voici comment cela fonctionne :

Que nous soyons prêts ou non, l'ère de l'IA générative est arrivée, et la seule façon d'avancer avec succès est de se concentrer sur la confiance et la transparence.

Heureusement, PKI principes comme les signatures numériques fournissent les éléments de base nécessaires pour favoriser la confiance et la transparence. Les prochaines étapes consistent à intégrer ces principes dans de nouveaux domaines, comme les images et les vidéos, afin de s'assurer qu'ils sont utilisés correctement et d'éduquer le public sur ce qu'il faut rechercher pour vérifier l'authenticité. C'est alors que nous pourrons commencer à profiter de tous les avantages (et ils sont nombreux !) que l'IA générative a à offrir.

Regardez le webinaire complet pour un aperçu plus approfondi de ce qu'il faut faire et de la façon dont Truepic travaille avec Keyfactor pour mener la charge.