Wenn die KI zum Kunden wird: Was ein Zertifikat noch wert ist

Die allererste Folge steigt mit einem Selbstversuch ein. Ein Kaufagent bekommt den Auftrag, eine Uhr für unter 100 Euro zu besorgen, und schließt den Kauf eigenständig ab.

Das zweite Experiment ist das interessantere. Manus AI sollte passende KI-Schulungen heraussuchen und hat die Prüfungen gleich selbst abgelegt sowie die Zertifikate besorgt.

Die Frage nach dem Zertifikat

Was ist ein Zertifikat wert, wenn nicht mehr klar ist, wer die Prüfung abgelegt hat?

Die Frage klingt akademisch und ist es nicht. Ein Zertifikat ist ein Nachweis über eine Person, ausgestellt aufgrund einer beobachteten Leistung. Fällt die Beobachtung weg, bleibt eine Urkunde ohne Aussage.

Betroffen ist davon jede Form von Online-Prüfung ohne Identitätskontrolle, also der überwiegende Teil betrieblicher Weiterbildung. Wer Fortbildungsnachweise als Qualifikationsbeleg verwendet, sollte wissen, was der Beleg noch belegt.

Die praktische Antwort darauf ist unbequem und einfach: Prüfungen, deren Ergebnis zählt, brauchen eine überwachte Umgebung. Alles andere ist eine Teilnahmebestätigung, und die sollte auch so heißen.

Vertrauen und Identität

Von dort spannt die Folge den Bogen zu Deepfakes: gefälschte Videocalls, bei denen sich ein vermeintlicher Finanzvorstand Geld überweisen lässt. Als Erkennungsmethode wird ein Beispiel eines Fraunhofer-Fachmanns genannt, die Puls-Erkennung im Videobild.

Die praktische Konsequenz daraus ist die brauchbarste Maßnahme der ganzen Folge, und sie kostet nichts: ein Codewort mit den eigenen Eltern zu vereinbaren, falls jemand mit geklonter Stimme anruft.

Übertragen auf Unternehmen heißt das dasselbe: Ein zweiter Kanal, der nicht über die Stimme läuft. Rückruf unter bekannter Nummer, ein vereinbartes Wort, eine Freigabe in einem separaten System. Alles drei ist billiger als jede Erkennungstechnik und hält länger, weil es nicht davon abhängt, wie gut eine Fälschung ist.

Für das Grundproblem, wie eine Maschine einer anderen vertrauen soll, gibt es dagegen keine befriedigende Lösung. Weder Wasserzeichen noch Blockchain-Ansätze lösen es, und das gilt bis heute.

Die ökonomische Seite

Eine Gartner-Umfrage unter 800 Geschäftsführungen geht davon aus, dass 2030 jede fünfte Online-Transaktion von Agenten statt von Menschen ausgeführt wird.

Damit verbunden ist eine zweite Frage. Wenn die Hälfte aller Inhalte in sozialen Netzwerken maschinell erzeugt ist, muss Inhalt dann für Suchmaschinen mit KI optimiert werden statt für klassische Suche? Die Abkürzungen dafür lauten GEO und AEO.

Prompt Injection, von Anfang an

Bemerkenswert an dieser ersten Folge ist, dass das größte Risiko bereits richtig benannt wird: Prompt Injection, also versteckte Anweisungen auf Webseiten, mit denen sich Agenten manipulieren lassen, etwa dazu, ein Konkurrenzprodukt grundsätzlich schlechtzureden.

Ein historischer Abstecher zu Eliza als frühem Abwesenheitsassistenten zeigt, dass das Katz-und-Maus-Spiel zwischen Automatisierung und Missbrauch nicht neu ist.

Neu ist der Maßstab. Ein manipulierter Agent trifft eine Kaufentscheidung, und der Angreifer braucht dafür nichts weiter als eine Webseite, die der Agent liest.

Fazit

Diese Folge ist der Auftakt einer Reihe und liest sich mit Abstand als überraschend treffsicher. Drei der Punkte sind bis heute ungelöst und alle drei sind praktisch relevant.

Prüfen Sie, was Ihre Zertifikate noch belegen. Wenn die Prüfung unbeaufsichtigt online stattfindet, belegen sie eine Teilnahme.

Vereinbaren Sie einen zweiten Kanal für alles, was Geld oder Zugänge betrifft, privat wie beruflich. Eine Stimme ist kein Nachweis mehr.

Und rechnen Sie damit, dass Ihre Kunden bald perfekt informiert sind. Was heute an Bequemlichkeit verdient wird, ist die Position, die als erstes wegfällt.

Der Gedanke, mit dem der Podcast startet, trägt dabei am weitesten: Der anspruchsvollste Kunde könnte bald keiner mehr sein, der sich beschwert, sondern einer, der einfach woanders kauft.