Pourquoi la confiance et la transparence sont impératives à l'ère de l'IA générative

Il est impossible de passer une journée sans entendre parler de l'IA générative. Mais au-delà du buzz, qu'est-ce que cela signifie vraiment pour votre entreprise ?

We recently sat down with Ryan Sanders, Sr. Director of Product and Customer Marketing at Keyfactor, Ellen Boehm, SVP of IoT Strategies and Operations at Keyfactor, and Jason Slack, Director of Product Engineering at Truepic, to answer this question in depth. The discussion centered around the opportunities, threats, and business implications of generative AI, the importance of identity and authenticity in a zero-trust world, and how to establish trust with PKI.

Introduire l'ère de l'IA générative

L'IA n'est pas une nouveauté. Cependant, des développements récents, notamment GPT-3 et ChatGPT, ont rendu l'IA très pratique et accessible au commun des mortels. 

Selon Gartner, depuis la publication de ChatGPT en novembre 2022, 45 % des organisations ont augmenté leurs investissements dans l'IA. Gartner prévoit également que la plupart des produits et services technologiques intégreront des capacités d'IA générative au cours de l'année prochaine.

De quoi s'agit-il exactement ? L'IA générative peut produire du texte, des images et des vidéos. Elle peut également réviser et remanier du code, ou même servir de copilote aux équipes informatiques et de sécurité. Et ces exemples ne font qu'effleurer la surface de ce qui est possible. 

En fin de compte, l'IA générative rend l'automatisation des processus beaucoup plus accessible, ce qui crée à la fois des opportunités et des risques - car vous pouvez parier que pendant que les organisations augmentent leurs investissements dans l'IA, les groupes d'attaque et les pirates adoptent exactement les mêmes stratégies. 

L'impact de l'IA générative : opportunités et risques

Comme toute nouvelle technologie, l'IA générative s'accompagne d'opportunités et de risques, et il est important de comprendre les deux côtés de l'équation. En ce qui concerne les opportunités, nous voyons quatre cas d'utilisation clés :

• Code generation and testing: Generative AI allows developers to create code much more quickly, which teams can then iterate on. That allows for more efficient performance and QA testing, and a faster path to delivering a minimum viable product.
• Security automation: Generative AI can also automate the process of testing against attacks to improve security for new technology.
• Content generation: Whether it’s new marketing messages, images and videos, scripts or anything else, generative AI has made a big splash in terms of content generation, helping people deliver a message to a broad audience quickly and effectively.
• AI assistants and innovation: Finally, there’s potential for generative AI to serve an assistant-type role, helping teams innovate by coming up with different business models or new concepts to support how work gets done.

En attendant, les risques les plus importants de l'IA générative que nous observons sont les suivants :

• AI-generated malware: The ability of generative AI to create malware at a fast pace can not only lead to smarter attacks on software and devices, but also more frequent attacks.
• Attack automation: AI can automate attacks, like DDoS, to the point where humans don’t even need to be involved. For example, rather than using a network of compromised IoT devices to target a server, attackers can create a network of AI-powered bots to flood traffic and take down servers at a low cost.

• Deep fakes: Deep fakes, or videos and images that have been digitally altered to misrepresent subjects, can spread misinformation. We’ve already seen examples of this on the news, with nation-states producing AI-generated political ads attempting to influence how people around the world make decisions.
• Data privacy and copyright concerns: Generative AI can make it easy to create fake content and information, and when this is passed off as genuine, it can create serious copyright concerns or even infringe on data privacy in cases where it impacts ongoing communications.

Comment utiliser l'IA générative de manière sûre et responsable ?

Being responsible about generative AI comes down to authenticity and transparency. These two principles sit at the heart of Truepic, a customer of Keyfactor, and a pioneer in image authenticity that offers an industry-leading Controlled Capture technology to ensure the integrity of digital photos and videos from the instant they are captured. 

Jason explique : "L'un des principes les plus importants de la création de Truepic était l'authenticité - utiliser une caméra en laquelle on a confiance et s'assurer que ce que l'on voit n'a pas été retouché. Aujourd'hui, nous considérons la transparence comme un élément important de ce principe, en reconnaissant qu'il n'y a pas de mal à faire des montages tant que l'on est transparent sur l'origine de ce que l'on voit."

Ces concepts s'étendent à l'IA générative, car les entreprises qui utilisent l'IA pour générer du langage ou des images doivent être transparentes quant aux outils et aux messages-guides utilisés pour créer le résultat. En fin de compte, Jason pense que cela deviendra une sorte d'"étiquette d'ingrédients" pour les images et les vidéos.

Ce type de réflexion a conduit des organisations telles que Truepic à créer la Coalition for Content Provenance and Authenticity (C2PA), qui fournit une norme technique ouverte permettant aux éditeurs, aux créateurs et aux consommateurs de retracer l'origine de différents types de médias. Ce type de sécurité repose essentiellement sur l'utilisation de signatures numériques basées sur le site PKI pour prouver l'authenticité.

L'importance de la confiance et de la transparence dans un monde d'IA

In a world of AI-generated content, how do we know what’s real or synthetic, original or edited? Consider the following video from Truepic and Revel AI, which shows the power of a deep fake video.

Avec le contenu que nous voyons en ligne, la règle était auparavant de "faire confiance et vérifier", mais des avancées comme l'IA générative ont changé la donne. Aujourd'hui, nous devons adopter une approche "ne jamais faire confiance et toujours vérifier" et, dans ce monde, il est important de comprendre d'où vient le contenu.

Comment garantir la confiance et la transparence ?

L'adoption de la norme C2PA dans l'ensemble de l'écosystème des médias peut contribuer à faciliter la signature des images et des vidéos et à lier cryptographiquement aux médias des informations telles que leur origine, la manière dont elles ont été modifiées et leur créateur. La transparence est ainsi assurée, de sorte que les gens peuvent se fier à la réalité de ce qu'ils voient ou savoir d'où proviennent les fichiers modifiés.

Ces efforts doivent également s'étendre à d'autres domaines. Prenons le cas du code software . L'IA générative peut être utilisée pour créer du code et le tester rapidement, ce qui permet aux équipes de développement de devenir beaucoup plus agiles. Mais cette efficacité accrue s'accompagne de la nécessité de prouver que la personne qui écrit le code est bien le développeur prévu et que même un petit morceau de code contrefait ou de logiciel malveillant n'est pas intégré dans un paquet plus important. Par conséquent, la capacité à effectuer des signatures numériques correctes sur le nouveau code devient encore plus importante.

This brings us to the role of PKI and code signing, which provide the foundation for verifying the authenticity and origin of content. Fortunately, PKI is very well established, supporting digital trust in the enterprise for decades by proving authenticity, validating the origins of new things, and allowing us to send data over encrypted channels to avoid interception by malicious parties.

Étude de cas : Truepic et Keyfactor

When the C2PA standard first came about, Truepic decided to incorporate it into their products so that users could cryptographically seal the C2PA standard of information into their visual files. In the search for a partner to support that cryptography, Keyfactor emerged as best in class for PKI infrastructure thanks to EJBCA and a partnership with SignServer.

Truepic’s Controlled Capture technology and Lens product use EJBCA and SignServer to acquire provenance data and cryptographically sign content to verify authenticity. This use of PKI makes the process more scalable and flexible for users versus relying on a blockchain ledger.

Voici comment cela fonctionne :

L'IA est là, la confiance et la transparence doivent l'accompagner

Que nous soyons prêts ou non, l'ère de l'IA générative est arrivée, et la seule façon d'avancer avec succès est de se concentrer sur la confiance et la transparence.

Fortunately, PKI principles like digital signatures provide the necessary building blocks to foster trust and transparency. The next steps are to embed these principles into new areas – like images and videos – to ensure they get used properly, and educate the public on what to look for to verify authenticity. And when we do that, we can begin to take advantage of all the benefits (and there are many!) that generative AI has to offer.

Regardez le webinaire complet pour un aperçu plus approfondi de ce qu'il faut faire et de la façon dont Truepic travaille avec Keyfactor pour mener la charge.