Warum Vertrauen und Transparenz im Zeitalter der generativen KI unabdingbar sind

Es vergeht kaum ein Tag, an dem man nicht von generativer KI hört. Aber was bedeutet das wirklich für Ihr Unternehmen, wenn wir über den Hype hinausblicken?

We recently sat down with Ryan Sanders, Sr. Director of Product and Customer Marketing at Keyfactor, Ellen Boehm, SVP of IoT Strategies and Operations at Keyfactor, and Jason Slack, Director of Product Engineering at Truepic, to answer this question in depth. The discussion centered around the opportunities, threats, and business implications of generative AI, the importance of identity and authenticity in a zero-trust world, and how to establish trust with PKI.

Einführung in das Zeitalter der generativen KI

KI ist nichts Neues. Die jüngsten Entwicklungen, vor allem GPT-3 und ChatGPT, haben KI jedoch sehr praktisch und für den Durchschnittsbürger zugänglich gemacht. 

Laut Gartner haben seit der Veröffentlichung von ChatGPT im November 2022 45 % der Unternehmen ihre Investitionen in KI erhöht. Gartner prognostiziert außerdem, dass die meisten Technologieprodukte und -dienstleistungen innerhalb des nächsten Jahres eine Art von generativen KI-Funktionen enthalten werden.

Wovon reden wir also genau? Generative KI kann Texte, Bilder und Videos produzieren. Sie kann auch Code überprüfen und refaktorisieren oder sogar als Co-Pilot für IT- und Sicherheitsteams dienen. Und diese Beispiele kratzen nur an der Oberfläche dessen, was möglich ist. 

Letztendlich macht generative KI die Prozessautomatisierung viel zugänglicher, was sowohl Chancen als auch Risiken mit sich bringt - denn Sie können darauf wetten, dass, während Unternehmen ihre Investitionen in KI erhöhen, Angriffsgruppen und Hacker genau dieselben Strategien anwenden. 

Die Auswirkungen der generativen KI: Chancen und Risiken

Wie jede neue Technologie birgt auch die generative KI Chancen und Risiken, und es ist wichtig, beide Seiten der Gleichung zu verstehen. Was die Chancen betrifft, so sehen wir vier wichtige Anwendungsfälle:

• Code generation and testing: Generative AI allows developers to create code much more quickly, which teams can then iterate on. That allows for more efficient performance and QA testing, and a faster path to delivering a minimum viable product.
• Security automation: Generative AI can also automate the process of testing against attacks to improve security for new technology.
• Content generation: Whether it’s new marketing messages, images and videos, scripts or anything else, generative AI has made a big splash in terms of content generation, helping people deliver a message to a broad audience quickly and effectively.
• AI assistants and innovation: Finally, there’s potential for generative AI to serve an assistant-type role, helping teams innovate by coming up with different business models or new concepts to support how work gets done.

Zu den größten Risiken der generativen KI, die wir sehen, gehören unter anderem:

• AI-generated malware: The ability of generative AI to create malware at a fast pace can not only lead to smarter attacks on software and devices, but also more frequent attacks.
• Attack automation: AI can automate attacks, like DDoS, to the point where humans don’t even need to be involved. For example, rather than using a network of compromised IoT devices to target a server, attackers can create a network of AI-powered bots to flood traffic and take down servers at a low cost.

• Deep fakes: Deep fakes, or videos and images that have been digitally altered to misrepresent subjects, can spread misinformation. We’ve already seen examples of this on the news, with nation-states producing AI-generated political ads attempting to influence how people around the world make decisions.
• Data privacy and copyright concerns: Generative AI can make it easy to create fake content and information, and when this is passed off as genuine, it can create serious copyright concerns or even infringe on data privacy in cases where it impacts ongoing communications.

Wie man generative KI sicher und verantwortungsbewusst einsetzt

Being responsible about generative AI comes down to authenticity and transparency. These two principles sit at the heart of Truepic, a customer of Keyfactor, and a pioneer in image authenticity that offers an industry-leading Controlled Capture technology to ensure the integrity of digital photos and videos from the instant they are captured. 

Jason erklärt: "Einer der wichtigsten Grundsätze bei der Gründung von Truepic war Authentizität - eine Kamera zu verwenden, der man vertraut, und sicherzustellen, dass das, was man sieht, nicht bearbeitet wurde. Jetzt betrachten wir Transparenz als einen wichtigen Teil davon und erkennen an, dass es in Ordnung ist, Bearbeitungen zu haben, solange man transparent macht, woher etwas kommt."

Diese Konzepte erstrecken sich auch auf die generative KI, da Unternehmen, die KI zur Generierung von Sprache oder Bildern einsetzen, transparent machen sollten, welche Werkzeuge und Eingabeaufforderungen zur Erstellung des Ergebnisses verwendet werden. Letztendlich sieht Jason dies als eine Art "Zutatenliste" für Bilder und Videos.

Diese Art des Denkens hat Organisationen wie Truepic dazu veranlasst, die Coalition for Content Provenance and Authenticity (C2PA) zu gründen, die einen offenen technischen Standard für Herausgeber, Ersteller und Verbraucher bereitstellt, um die Herkunft verschiedener Medientypen nachzuvollziehen. Im Kern geht es bei dieser Art von Sicherheit um die Verwendung von PKI-basierten digitalen Signaturen zum Nachweis der Authentizität.

Die Bedeutung von Vertrauen und Transparenz in einer KI-Welt

In a world of AI-generated content, how do we know what’s real or synthetic, original or edited? Consider the following video from Truepic and Revel AI, which shows the power of a deep fake video.

Bei den Inhalten, die wir online sehen, galt früher die Regel "vertraue und überprüfe", aber Fortschritte wie die generative KI haben das geändert. Jetzt müssen wir den Ansatz "niemals vertrauen und immer überprüfen" verfolgen, und in dieser Welt ist es wichtig zu verstehen, woher die Inhalte kommen.

Wie können wir also Vertrauen und Transparenz gewährleisten?

Die Einführung des C2PA-Standards im gesamten Medienbereich kann dazu beitragen, dass Bilder und Videos einfach signiert werden können und Informationen wie Herkunft, Bearbeitung und Ersteller kryptografisch mit den Medien verknüpft werden. Dies schafft Transparenz, so dass die Menschen darauf vertrauen können, dass das, was sie sehen, echt ist, oder wissen, woher die veränderten Dateien stammen.

Diese Bemühungen müssen auch auf andere Bereiche ausgedehnt werden. Nehmen wir das Beispiel von software code. Generative KI kann zur schnellen Erstellung von Code und zum Testen eingesetzt werden, wodurch die Entwicklungsteams wesentlich flexibler werden können. Doch mit der gesteigerten Effizienz geht die Notwendigkeit einher, zu beweisen, dass derjenige, der den Code schreibt, auch wirklich der vorgesehene Entwickler ist und dass nicht einmal ein kleines Stück gefälschten Codes oder Malware in ein größeres Paket eingeschleust wird. Folglich wird die Fähigkeit, neue Codes ordnungsgemäß digital zu signieren, immer wichtiger.

This brings us to the role of PKI and code signing, which provide the foundation for verifying the authenticity and origin of content. Fortunately, PKI is very well established, supporting digital trust in the enterprise for decades by proving authenticity, validating the origins of new things, and allowing us to send data over encrypted channels to avoid interception by malicious parties.

Fallstudie: Truepic und Keyfactor

When the C2PA standard first came about, Truepic decided to incorporate it into their products so that users could cryptographically seal the C2PA standard of information into their visual files. In the search for a partner to support that cryptography, Keyfactor emerged as best in class for PKI infrastructure thanks to EJBCA and a partnership with SignServer.

Truepic’s Controlled Capture technology and Lens product use EJBCA and SignServer to acquire provenance data and cryptographically sign content to verify authenticity. This use of PKI makes the process more scalable and flexible for users versus relying on a blockchain ledger.

Und so funktioniert es:

KI ist da, und Vertrauen und Transparenz müssen mit ihr einhergehen

Ob wir nun bereit sind oder nicht, das Zeitalter der generativen KI ist angebrochen, und wir können uns nur dann erfolgreich weiterentwickeln, wenn wir auf Vertrauen und Transparenz setzen.

Fortunately, PKI principles like digital signatures provide the necessary building blocks to foster trust and transparency. The next steps are to embed these principles into new areas – like images and videos – to ensure they get used properly, and educate the public on what to look for to verify authenticity. And when we do that, we can begin to take advantage of all the benefits (and there are many!) that generative AI has to offer.

Schauen Sie sich das vollständige Webinar an, um einen tieferen Einblick in die Anforderungen zu erhalten und zu erfahren, wie Truepic mit Keyfactor zusammenarbeitet, um eine führende Rolle zu übernehmen.