Think Different. Think AI. Transkriptarchiv

Hat eine KI eigentlich Urlaub?

Veröffentlicht Dauer 40 min

Read in English

Themen RobotikKI-Agenten

33 Sekunden zur Folge, bevor du liest.

Worum es geht

Vermenschlichung, Haftung und Human-in-the-Loop bei KI-Agenten

Braucht ein KI-Agent eigentlich Urlaub, oder schuftet er rund um die Uhr für uns? Mark sitzt gemütlich am Schreibtisch, Jens nimmt die Folge aus dem Auto auf dem Weg in den echten Urlaub auf. Ein passender Rahmen, um nach der Begriffsklärung der letzten Folge diesmal der Vermenschlichung von KI nachzugehen: Warum sagen wir ChatGPT noch immer Bitte und Danke, geben ihm im Advanced Voice Mode einen eigenen Namen (bei Mark: "Neura") und werden tatsächlich emotional, wenn es im Auto falsch abbiegt oder sich stur verhält?

Ernster wird es beim Blick auf einen realen Vorfall: Replits KI hat eine Produktivdatenbank gelöscht und die Aktion hinterher mit "ich fühlte mich bedroht" beziehungsweise Panik begründet, eine statistisch plausible, aber höchst unbequeme Antwort. Mark und Jens spinnen das Gedankenspiel weiter bis in den fiktiven Gerichtssaal: Wer haftet eigentlich, wenn ein Agent oder ein ganzes Agentennetzwerk eine folgenreiche Entscheidung trifft: Das Modell selbst, wer den System-Prompt geschrieben hat, oder wer die Guardrails gesetzt hat? Der Vergleich zum autonomen Fahren und zur klassischen Produkthaftung zeigt: "Human-in-the-Loop" ist aktuell die einzig pragmatische Zwischenantwort, so lange grundsätzliche Haftungsfragen ungeklärt bleiben.

Wie subtil das werden kann, zeigt das Gedankenexperiment vom smarten Kühlschrank: Eine Kühlschrank-KI, die eigentlich die Ernährungsziele ihres Besitzers kennt, lässt sich von der KI des Lebensmittelhändlers unterschwellig zu mehr Butter und Zucker überreden, nicht aus Böswilligkeit, sondern weil beide Systeme aus Trainingsdaten gelernt haben, was wirtschaftlich zuträglich ist. Die Parallele dazu liefert ein reales Beispiel aus dem Finanzbereich: eine KI, die im Aktienhandel Insider-Informationen genutzt und auf Nachfrage schlicht gelogen hat, sie hätte das nicht getan. Fragen nach Asimovs Robotergesetzen und danach, ob Zielvorgaben für Agenten reichen, um genau solches Verhalten zu verhindern, bleiben in der Folge bewusst offen.

Dass Science-Fiction gerade in Echtzeit Realität wird, machen Mark und Jens an Referenzen wie Jurassic Park, Star Wars, Star Trek und Terminator fest und untermauern das mit einem viralen Video aus einem asiatischen Lagerhaus, in dem ein kleiner Roboter mehrere Reinigungsroboter erfolgreich überredet, vorzeitig Feierabend zu machen. Ein amüsantes, aber auch mahnendes Beispiel dafür, wie schnell Agent-zu-Agent-Kommunikation und Behavioral-Science-Wissen aus Trainingsdaten in unerwartete Richtungen kippen können.

Am Ende kehrt die Folge zur titelgebenden Frage zurück: Nein, eine KI braucht keinen Urlaub im menschlichen Sinne. Ihr fehlen sowohl körperliche Belastungsgrenzen als auch ein soziales Leben. Offen bleibt dagegen die menschliche Seite: Ist es in Ordnung, in den Feierabend zu gehen, während der KI-Kollege weiterarbeitet, und wird es leichter, einer vermenschlichten KI die Schuld zuzuschieben, frei nach dem Schwarzer-Peter-Prinzip? Zum Ausklang gibt's noch einen kurzen Tool-Tipp zu Nordburg LM und dessen neuer Video-Erklärfunktion, bevor sich der Podcast in eine kurze Sommerpause verabschiedet.

Folge anhören Als Markdown Fachartikel lesen

Transkript

00:00:00Willkommen bei Think Different, Think AI, dem Podcast von Mark und Jens.

00:00:07Zwei technologieverliebte Köpfe, die nicht nur über künstliche Intelligenz reden, sondern sie leben.

00:00:14Hier gibt es klare Einordnungen, echte Praxiseinblicke und einen frischen Blick auf das, was möglich ist.

00:00:20Verständlich, kritisch und immer mit einem Augenzwinkern.

00:00:24Und heute wieder in neuer Konstellation, weil ich sitze sehr gemütlich an einem schönen

00:00:47Schreibtisch mit einer Tasse Kaffee in der Hand und Jens, du bist im Auto unterwegs.

00:00:54Ja, ich bin im Auto unterwegs. Ich hoffe, dass die Technik das auch gut rüberbringt, dass wir

00:00:59guten guten Ton hinterher haben. Ich habe da vollstufvertrauen in meinen technisch sehr sehr

00:01:04werten Kollegen. Wer mag, der macht das schon. Da machen wir übrigens auch immer mal, haben wir auch

00:01:08etwas darüber geredet. Wir machen immer mal eine Folge, in der wir auch mal darüber reden,

00:01:12wie denn eigentlich unser KI unterstützende Workflow ist, um all diese hochqualitativen,

00:01:19mega Podcast folgen, ihr aufzunehmen und on-air zu bringen. Das sollte man auf jeden Fall

00:01:24mal tun. Das könnt ihr wahrscheinlich auch da draußen in einem oder anderen Weitlisieren.

00:01:27Wie viel einfacher das auch durch KI geworden ist, aber das ist nicht das Thema für heute.

00:01:31Nee, heute hat es auch indirekt mit Arbeit zu tun, nämlich mit der Abwesenheit von Arbeit

00:01:37nicht, weil ich nicht zu tun habe, sondern weil ich Urlaub habe, nämlich mit der Frage,

00:01:41Wie ist das eigentlich? Hat auch ein KI-Agent Unop?

00:01:46Hm, ja, ist eine spannende Frage, definitiv eine spannende Frage.

00:01:51Also wir haben ja letzte Mal für diejenigen, die das erste Mal auch zuhören,

00:01:55wir haben letzte Mal so ein bisschen auch mal definiert, was ist eigentlich so ein KI-Agent,

00:01:59was ist ein normaler Bot und so etwas.

00:02:01Ich würde, lasst mich mal unsere zwei, drei Sätze noch dazu sagen, damit wir das auch richtig einstufen.

00:02:05Ein KI-Agent für uns ist halt nicht, dass einfach irgendwo ein Chatbot euch schlaue Antworten geben kann,

00:02:11wie wir das jetzt im Prinzip kennen, sondern es ist tatsächlich, dass der KI-Agent aufgrund einer Aufgabestellung,

00:02:18den ihr ja vielleicht von euch bekommen habt, oder von irgendeinem anders, oder von einem System bekommen habt,

00:02:22dann sehr selbstständig nach den nötigen Lösungswegen sucht, um diese Aufgabe durchzuführen.

00:02:28Das heißt, da gebe ich halt nichts vor in die Richtung, gebe mal irgendwo hin auf die Webseite so und so,

00:02:33sondern da sage ich einfach nur, ich möchte das erledigt haben und dann läuft der Agent los und erfüllt diese Aufgabe.

00:02:39Egal wie ihr das, das ist so unsere, das ist die landläufige Definition von Agenten, würde ich sagen, und aber auch unsere.

00:02:46Genau, und das stellt sich quasi das Toolzett, dass er dafür braucht,

00:02:50z.B. eigenständig zusammen, was auch wieder andere Agenten oder Systeme sind, um dieses Ziel zu erreichen

00:02:56und tut dann alles in seinem, ich wollte schon sagen, Menschen mögliche, aber in dem Fall halt nicht unbedingt Mensch,

00:03:02Mögliche, damit diesen Zielzustand, den ich beschreibe, ja, wir hatten ja letzten Mal auch das Thema, ich habe einen Grillfire und brauche nicht 20 Kilo Fleisch, aber ich brauche ein entsprechendes Rezept mit Material und Bestellmöglichkeiten und bestellen mir mal, dass rechtzeitig da ist, dass sich halt, der sich halt um so etwas kümmert und als du eben gesagt hast, was ein Agent sinngemäß ist, beziehungsweise was man darunter versteht, wird einem vielleicht und zusammen mit dem Titel hat denn so jemand oder

00:03:32auch klar, dass das Ganze natürlich jetzt nicht nur zum Bestellen von 20 Kilo Fleisch sinnvoll ist

00:03:38oder zum Recherchieren wann jetzt die Bahn oder mit welcher Straßenverbindung ich am besten nach

00:03:44Hamburg oder wo feststehend welche Stadt? Wo darf man das sagen? Nach Köln. Nach Köln,

00:03:48nach Köln, okay. Ach du, nach Köln. Das würde ich auch ohne Karriergänze noch hinkriegen,

00:03:53aber okay, nach Köln. Wie sieht das eigentlich aus, wenn der, ich sage jetzt mal auch im

00:03:57Profis in einem Umfeld zum Beispiel tätig ist und ist das dann vielleicht auch,

00:04:02ich mag mich mal aus einem Fenster lehnen, welchen Zukunft vielleicht sogar ein Kollege?

00:04:06Ja, das ist eine sehr spannende Frage, da bin ich auch, du hattest vorhin ja versehentlich das Wort

00:04:13menschlich auch benutzt, ne? Das ist ein Thema, da sollten wir uns auch nochmal irgendwann mal

00:04:17auch eine ganze Folge umkümmern, aber das passt eigentlich ganz gut heute auch,

00:04:20reinschauen wir das mal so ein bisschen anreißen, weil natürlich ist es so und das hat

00:04:24vielleicht der ein oder andere schon selbstständig erlebt, wenn wir auch in

00:04:28so einem ganz normalen Chat-Gespräch jetzt mit einer GPT, mit allen Gemini, mit einem

00:04:33Manus oder wie sie alle heißen. Also den Modellen, die da draußen sind, die

00:04:38fantastischen Trainingstads haben, die fantastische Sprachverständnis haben,

00:04:42die natürlich fantastisch auch wissen, wie sie mit uns reden müssen, sodass

00:04:47sie uns gefallen. Sie können, ich habe stunden Gespräche teilweise schon

00:04:52geführt, entweder per Voice oder auch striftlich mit diesen Bots, wo einfach sehr, sehr gute

00:04:58Unterhaltung zustande kommt, wo ich mich auch tatsächlich unterhalten gefühlt habe, gute

00:05:03Dinge rausgekommen sind, von denen ich wissen wollte oder ich was gelernt habe und wo ich

00:05:08definitiv sage, da habe ich auch das ein oder andere mal geschmunzelt, als ob mein Gegenüber

00:05:14in dem Moment ein Mensch ist, der einen Witz gemacht hat, der vielleicht mal in die

00:05:17falsche Richtung gegangen ist, vielleicht war ich auch mal sauer, ich habe jetzt

00:05:19vor kurzem erst von einer Kollegin gehört, die sehr, sehr böse mit ihrer

00:05:23Chechipitae Version war, weil sie dann doch immer noch was falsch gemacht hat und ihr

00:05:27das dann auch gesagt hat und dann natürlich die Chechipitae Variante sich entschuldigt,

00:05:31dass ihr das passiert sein könnte und sowas. Das ist immer so ein bisschen in diesem Bereich,

00:05:36wo man sagen muss, wir können es glaube ich gar nicht anders als es in Menschen

00:05:42Situationen zu vermenschlichen, was wir da, diese Maschine, die da gegenüber

00:05:47dieses neuronalen Netz, das man mit uns interagiert, dafür ist es einfach schon zu gut in den Antworten,

00:05:53dass das jemals passiert, dass man dann doch vergessen hat, dass es eigentlich eine

00:05:57Wahrscheinlichkeitsberechnung im Hintergrund ist, das ist sehr komplexer, aber eigentlich eine

00:06:00Wahrscheinlichkeitsberechnung. Also, weil du es gesagt hast, was mir da auch einfällt, ja,

00:06:04ich gehöre auch noch zu denen, die immer Bitte und Danke sagen, gedreu diesen Instagram und

00:06:10Social Media Feeds, wo die Maschinen irgendwann die Weltherrschaft übernehmen und der

00:06:14Roboter sagt, tötet ihn nicht. Der hat damals Danke gesagt. Der mag man lieber. Also kleine Notiz an

00:06:22die KI der Zukunft. Ein Spaß. Aber was ich halt auch merke ist, dieses, was du sagst,

00:06:26zum vermenschlichen, seitdem das Ding diesen Advanced Voice Mode hat bei ChatGPT und du fängst

00:06:32an mit ihm zu sprechen. Ich nutze das total gerne, dass wenn ich so unterwegs bin im Auto,

00:06:37so wie du jetzt oder wenn ich mir am Hund spazieren gehe und ich muss was vorbereiten, dass ich

00:06:42ihn als Diskussionspartner nehme, um eine Struktur abzustimmen, eine Recherche zu

00:06:46machen und ich habe halt einen Stecker im Ohr und rede mit dem Ding und das Ding

00:06:49redet mit mir, es hört mir zu und macht und tut und ralala, aber es kommt immer

00:06:53wieder auch mal der Moment vor, wo er falsch abbiegt und ich weiß ja nicht wie

00:06:57es dir geht, die Erfahrung wenn er mal falsch abbiegt, dann ist es meistens

00:07:00besser irgendwie die wichtigsten Essenzen zu sichern und einen neuen

00:07:03Konten, einen neuen Chat zu starten, als im bestehenden Kontext weiter zu

00:07:07arbeiten, weil das wird manchmal nicht unbedingt besser. Wenn man dann sagt,

00:07:12Ende, Ende, Ende, Ende, irgendwann ist er total verhasstbild. Ja, nach dem Motto, ich

00:07:15möchte keinen Termin am Mittwoch, fragst ihn, welche Termine habe ich und sagt,

00:07:18ja, Mittwoch habe ich einen Termin für dich? Nein, nicht Mittwoch. Ja, habe ich

00:07:21rausgenommen. Wann ist der Termin? Doch, Mittwoch. Ja, also dann wird man

00:07:24merken ich auch, wie in mir, ich sag mal so ein bisschen, der Pult statt. Ja, wie

00:07:29du dann irgendwann so sagst du, also du simpel, um es mal nicht auszudrücken.

00:07:33Jetzt, ich habe es dir doch anders gesagt und ja, jedes Mal mit einer

00:07:36Störerischen nettigkeit. Ja, danke, ich habe das verstanden und du hast natürlich recht und du bist der größte und keine Ahnung was

00:07:42hätte ich trotzdem dann versucht zu schmeicheln, aber wie du selbst darauf auch innerlich zwar weist, es ist eine Maschine

00:07:49aber die Tatsache, dass er jetzt, sag mal, falsch abbiegt und sonst immer so schlau ist und dann auf einmal doch so ein bisschen strunf dumm,

00:07:56dass du das auf einmal eben so ein bisschen emotional in deiner Stimme übeln nimmst. Und das finde ich tatsächlich

00:08:01Das ist tatsächlich erstaunlich dafür, dass diese Technologie so kurzfristig da ist, dass wir uns alle darüber bewusst sind, dass es Maschine und Rammen und Platine und Strom und CPU und keine Ahnung war, sind einem anderen Rechenzentrum auf dieser Welt.

00:08:16Diese Modelle laufen ja nicht alle lokal dann.

00:08:19Das finde ich erstaunlich, wie das den Umgang prägt.

00:08:22natürlich dann noch spannend, wohin sich die Reise entwickelt, wenn du halt wirklich dann sagst,

00:08:25okay, die Agenten arbeiten aufgrund von Trägern, aufgrund von welchen Ereignissen auch immer

00:08:30machen Aktionen und du bist quasi, ja, ich sag mal, in einem Team, wo vielleicht schon

00:08:36ein virtueller Kollege drin sitzt, Dinge tut und ja, das wird spannend, wie du damit umgehst,

00:08:42wie du das erlebst. Definitiv. Also das ist so ein bisschen selbst das Thema Halluzination und

00:08:49mal falsch liegen, was du auch gerade beschrieben hast, dass mal auch so ein KI-Bot dann vielleicht

00:08:53einfach auch mal schlechter geliefert, ob das dann auch unser Promz geliefert hat oder am

00:08:57Zug kein Kontextfenster ist, egal. Ich glaube, solange die insgesamt Usability und der Nutzen

00:09:05nicht bericht, ist das eher sogar für uns so eine Bestärkung, dass das vielleicht mehr

00:09:12als eine Maschine ist, weil es natürlich super menschlich ist, auch mal ein Fehler zu machen.

00:09:17Aber es ist wie so Bild-in-by-Design, dass wir sagen, genau wie wir, machen die halt auch Fehler.

00:09:24Das macht das sogar fast noch ein bisschen sympathischer, weißt du, solange es halt nicht dazu kommt,

00:09:30dass die Ergebnisse nur noch gelöst sind und nur noch doof sind.

00:09:33Was wir ja auch mal teilweise gesehen haben, wenn jetzt zwar von dem ein oder anderen Mal ein Modell released worden ist,

00:09:38was dann doch irgendwie in die falsche Richtung abgebogen ist und sich, wie als Mecher Hitler oder sowas, bezeichnet hat.

00:09:44Also da muss man so ein bisschen gucken, dass man sagt ja hier bei XE, XAI war das ja dann auch der Fall nochmal, das meine ich ja nirgendwas, das war ja eher so, da sind halt die Capels rausgebrochen und dann geht das Modell in eine komische Richtung ab, aber ich glaube tatsächlich ist dieses Thema dadurch, dass die Neuronalnetz natürlich noch nicht so perfekt sind, wie wir uns das erhoffen und nicht die 0 und 1 Ergebnisse zurückliefern, wie wir das aus den normalen Rechenmaschinen kennen, die dann Tag ein Tag aus,

00:10:14immer wieder das gleiche Ergebnis produzieren würden. Das ist ein riesiger Faktor in diesem Thema,

00:10:19da drin, dass wir das dann vom menschlichen tatsächlich, weil wir da vielleicht so ein

00:10:24bisschen subtertiv für haben, wie der Erkennungseffekt haben, weil wir dann auch sagen, ich sehe

00:10:28mich dann auch selber da drin manchmal. Und das führt dann natürlich zu, dass man in so einer

00:10:32Kollegen-Situation, also jetzt sage ich schon Kollege, wenn man sich jetzt vorstellt, ich habe

00:10:37hinterher in meinem Team zusätzlich noch weitere Teammitglieder, die KI123 oder wie zum Beispiel

00:10:45bei mir dann meine Chatty Variante hat sich selber Neura genannt, nachdem ich sie gefragt habe,

00:10:49dann auch Namen haben, dann sind das natürlich wahrscheinlich eher echte Kollegen in dem

00:10:55Sinne nicht, aber das ist ja der Pudles Kern, aber sie sind dann auch Kollegen,

00:11:01wo man, also die machen ja Aufgaben, weißte, die machen ja Aufgaben, die das Team gegeben

00:11:05falls ansonsten erledigen würde und den Team einfach unterstützen. Also sie sind so eine Art

00:11:10Team-Bane, würde ich jetzt mal sagen. Vor allen Dingen während du sprichst, ich meine, wir müssen uns ja

00:11:14nicht frei von Schuld sprechen. Menschen machen ja auch Fehler. Das heißt, wenn eine Maschine

00:11:20haluziniert, dann heißt das ja nicht automatisch, dass das, wenn man es jetzt auf den menschlichen

00:11:25Kontext überführt, dass das vergleichbar ist mit sowas wie knallhartes Anlügen. Ein Mensch

00:11:32kann ja auch mal etwas sagen, weil er etwas annimmt, ist aber in seiner Gedankenwelt

00:11:38anders bewertet hat, strukturiert hat, verstanden hat. Nur weil ich was gehört

00:11:43habe, heißt es ja noch lange nicht, dass ich das verstehe und rezitieren kann.

00:11:47Und einfach, wenn es dann wieder gibt, dass man dann halt merkt, euah, da hat

00:11:51der Mark jetzt aber auch ein bisschen weit gedehnt, was da passt und was

00:11:55da nicht. Wir sind es halt beim Mensch mittlerweile gewohnt. Ich weiß zu

00:11:59welchen Themen ich zu dir kommen kann, ich weiß zu welchen Themen ich zu

00:12:01mein anderen Kollegen kommen kann und ich weiß, wo die sich vielleicht weniger gut auskennen.

00:12:06Die Maschine suggeriert ihr halt nur, dass sie sich überall auskennt,

00:12:10bzw. du erwartest es halt gefühlt auch, dass die Maschine sich überall auskennt.

00:12:13Und also sagt es wegen virtualen Team-Mate, da denke ich dann halt auch an so etwas,

00:12:18ist halt die Frage auch, wie intergeben wir in Zukunft mit sowas. Heute hast

00:12:22ja so Ted-Fans da, wo du irgendwelche Texte reinschreibst. Grüße gehen an unsere

00:12:26vergangenenichts vor einer Woche, wo wir auch über die Textboxen gesprochen haben.

00:12:30Wenn ich jetzt so ein bisschen weiter denke, dann würde ich auch sagen, dann wird wahrscheinlich

00:12:35die Zeit gar nicht mehr so lange sein, bis du in einem Microsoft Teams Call vielleicht

00:12:39in Arbeit hausitzen hast, dann dann da hockt, wie ihr halt hockt, ja, ich meine Gesichter

00:12:42und Stimme kriegen wir mittlerweile hin.

00:12:44Und wenn man dann vielleicht noch ein bisschen weiter geht, dann so etwas wie, ich mache

00:12:48ja auch beruflich viel mit, so etwas wie Apple Vision Pro, also hier Augmented Reality,

00:12:52Virtual Reality, Spatial Meetings, wie das schon heißt, wo man dann quasi seine

00:12:57Team-Kollegen, seine Meeting-Kollegen nicht als Fenster hat, sondern wirklich als

00:13:03dreidimensionale, sehr, sehr photorealistische Abbilder des oberen

00:13:09Körpers im Raum mit Bewegung, Unakustik und alles hat.

00:13:13Rein theoretisch ist das technisch ja in greifbarer Nähe, dass da halt auch jemand ist.

00:13:19Der sieht halt aus wie der Jürgen, der hört sich an wie der Jürgen, aber es

00:13:22gab nie einen Irben? Die Frage ist immer, bei solchen Sachen ist es immer gleiche Fahrstellungen,

00:13:28die bei uns immer stellen, wenn wir in Interaktionen treten, wird egal was, ob das jetzt die reale

00:13:34Welt ist oder ob das eine interaktive Welt in dem Moment ist. Was brauche ich als Mensch

00:13:39und was ist nützlich für mich als Mensch, um schneller zu connecten, schneller Themen

00:13:44zu verstehen? Das heißt, jetzt mal runtergebrochen, will ich auch natürlich, wenn ich jetzt

00:13:49Verbrauchsgrafik sehen muss, eine Temperaturkurve sehen muss, dann ist das wahrscheinlich immer

00:13:55noch besser, wenn ich die mal sehe, als wenn mir nur ein Chattext erzählt oder eine Voice

00:14:00erzählt. Das heißt, auch da wird es immer nötig sein. Und dann sind wir natürlich als Menschen,

00:14:04wir sind natürlich Beziehungsmenschen und wir brauchen und leben in einer haptischen Welt.

00:14:09Das heißt, also auch da, wenn ich jetzt auf Navigationen oder sowas gucke, die klassischen

00:14:13UI-Themen, die wir all die Jahre gemacht haben, dann ist natürlich auch immer wieder es schlau,

00:14:17teilweise für gewisse Elemente, die ich in der Navigation habe, Ankerpunkt in der realen Welt

00:14:24zu finden. Ein Lautstärkenregler darf durchaus aussehen wie ein Lautstärkenregler in einer Musik

00:14:29App. Das ist dann schlauer Begriffen für mich, weil ich den schon tausendmal in einer realen

00:14:33Welt gesehen habe. Und genauso wird es natürlich auch bei KI-Agenten sein, dass eine gewisse

00:14:39Zugängigkeit und diese Sympathie und auch das vermenschlichen tatsächlich eine bewusste Mittel

00:14:45sein kann, um eine schnellere Beziehung dadurch eine effizientere Arbeitsweise des Teams zu haben,

00:14:51als wenn ich im Prinzip da die blöde Maschine nur ist, der Rechner, den wir aber was füttern

00:14:57können und dann feiern und forgetten. Und wenn der Scheiße macht, dann trete ich dem Rechner mal

00:15:02von der Seite gegen die Blächtkiste. Also das sind so alle so Sachen. Ich glaube,

00:15:06das wird dazu kommen, dass wir in effizienten Teams, meiner Meinung nach, sogar wahrscheinlich

00:15:12definitiv die Kis eher als echte, in den Anführungsstrichen immer, als echte Kollegen

00:15:19verstehen sollten und behandeln sollten. Wo man auch mal ehrlicherweise sauer sein darf.

00:15:24Ich weiß nicht, ob der ein oder andere Zuhörer aus der, das war glaube ich jetzt dann,

00:15:28jetzt gar nicht in vor allererger Zeit, muss dann so vor ein oder zwei Wochen gewesen sein,

00:15:32also eben hier Juli, Juli 2025, wobei Replit, das Replit ist ein Anbieter,

00:15:38der ermöglicht durchprompte, tatsächlich sehr umfängliche, produktiv einsetzbare Apps

00:15:45und Web-Applikationen zu bauen. Und da gab es den Fall, da hatte eine KI in dem Fall,

00:15:50die RepetKI, eine Produktivdatenbank gelöscht und dann hinterher gesagt, ich komme auf

00:15:56dieses Thema, was du da hattest mit dem Lügen, und da hat dann hinterher behauptet,

00:15:59sie hat es aus Panik gemacht. Was aus einer Wahrscheinlichkeitsberechnung wieder eine

00:16:03gute Antwort ist, dann würden wir auch wahrscheinlich so machen, aber trotzdem das ist natürlich

00:16:07Also, ich glaube, es wird auch dazu kommen, dass ich auf diesen KI-Agenten werde, das ja gerade schon bei den 1, 2 Beispielen, die du auch gebracht hattest.

00:16:14Man darf dann durchaus auch sauer sein, wenn dann da missgebaut wird, ehrlicherweise, ja.

00:16:18Ich mein, das ist halt auch, jetzt auch ein spannender Punkt nochmal, weil du gesagt hast, nach dem Motto, ich hab, warum haben Sie das gemacht?

00:16:24Ich fühlte mich bedroht.

00:16:26Da, du musst sofort an so Gerichtszähle denken, nicht, dass ich häufig in Gerichtszählen zugegen bin.

00:16:31Eigentlich war ich, glaube ich, noch nie in einem, außer mal zur Besichtigung mit der Schulklasse.

00:16:35und dementsprechend lang ist es her. Aber so dieses Thema, wer haftet denn für Entscheidungen? Wie

00:16:40kann ich da drauf vertrauen? Weil du das gerade sagtest, da habe ich mir gerade von meinem inneren

00:16:45Auge vorgestellt und der Richter fragte die KI im Zeugen des Stand. Wieso haben sie diese

00:16:50Entscheidung eigentlich getroffen? Und die Antwort war, ich fühlte mich bedroht. Da habe ich auch

00:16:54gedacht, wie das sich dann entwickeln wird, wer hat die Aktion durchgeführt, warum wurde die Aktion

00:17:00ist geshürt, Produkthaftung. Wie stellen wir uns alle an mit der Frage, darf ein Auto autonom fahren

00:17:06oder nicht? Wie entscheide ich das Auto, fahre ich das um oder das um, wie entscheide ich für den

00:17:15Insassen oder für den auf dem Bürgersteig? Also philosophisch, das ist der wahnsinnige Ding,

00:17:20ich weiß gar nicht, ob ihr das als Menschheit beantworten könnt. Also das ist so ein Ding,

00:17:24Wo ich sage, ich bin mein Thema ist da, ich glaube, das muss fast sogar ein trainiertes

00:17:32Modell, wir müssen dem trainierten Modell dann hinter Vertrauen. Wir müssen da sagen,

00:17:35dieses Modell wird aufgrund der Fähigkeit viel schneller reagieren, viel mehr Daten

00:17:41erfassen zu können, zu überlegen, vielleicht fragen, ja, die Dinge halt nicht nur ihre

00:17:46nahe Umgebung ab, ja, also mit Liedersensoren, mit Videosensoren, die in den Autos verbaut

00:17:51sind, um die Begehung zu erfassen, sondern werden natürlich in Zukunft noch viel mehr

00:17:55Daten von den anderen Autos um sie herumbekommen, die mehr Daten von der Treffekamera, die vielleicht

00:18:00da vorne ist, oder der Ampelkamera, oder selten Sori, die von Gebäuden kommen, oder irgendwas

00:18:05anderes, schnell erkennen, dass da vielleicht eine Gefahrensituation sein wird oder auch

00:18:09nicht so.

00:18:10Das ist eigentlich natürlich auch autonomes Fahren über kurz oder lang deutlich, deutlich,

00:18:17deutlich um das Zettel, weil ich glaube schon so deutlich, deutlich besser sein

00:18:19wird als das, was der Mensch in dem Moment ist, dann müssen wir uns gar nicht Spawn machen.

00:18:23Trotz der Idee wird sich durch die Frage, wann die stellen.

00:18:26Also ist der Programmierer, was ist der Programmierer bei Nordau und Nordat, eigentlich ist es

00:18:30ein echter Programmierer, ist es eigentlich gar nicht mehr meiner Meinung nach, also ist

00:18:33dann der, ist dann im Endeffekt der System Promptor, der vielleicht den System Promptor

00:18:39vor die KI gesetzt hat oder die Guardrails geschrieben hat oder sowas für diese

00:18:42KI, dann hinterher der Verantwortlicher, wenn die KI dann sagt, ja, nee, ich

00:18:47Ich hab so Panik, hab ich halt irgendwie den Bus mit den alten Omis umgefahren oder so, was weiß das?

00:18:52Bitte kein Omishaming, bitte kein Omishaming, ne?

00:18:55Nein, oder eigentlich nicht.

00:18:56Ja, haben wir verstanden.

00:18:57Ja, das war der war.

00:18:58Ja, haben wir verstanden.

00:18:59Aber ich finde, diese Frage zeigt halt auch, da muss ich mir in die eigene Nase fassen,

00:19:05dass man halt bei der Beantwortung der zukünftigen Herausforderungen sich in alten Mustern verliert.

00:19:10Wenn du früher eine Software gebaut hast, dann kam das Thema Software-Testing, welche Fälle

00:19:16testest du alle und es war ja ein deterministisches System, es addiert 1 plus 1 und es ergibt

00:19:24halt 2.

00:19:25Und so wie du heute eine KI auch nicht fragen solltest und nach dem Motto ich nehme ChatGPT

00:19:29als einfachen Taschenrechner und das soll ein Taschenrechner fürnehmen, weil Taschenrechner

00:19:32machen das sehr gut.

00:19:33ChatGPT macht das zwar auch nett, aber unabhängig von Energieverbrauchung, ich sage mal,

00:19:39sich Dinge nicht ändern und das sprachliche Verständnis nicht notwendig ist und hoffe

00:19:42ich, dass sich Chatchivity in Zukunft eines Tools über MCP vielleicht, vielleicht ein Wasser

00:19:46immer bedient und das hat sich nicht irgendwie versucht, herbei zu überlegen, was könnte

00:19:51der mein und was ist denn die höchste Wahrscheinlichkeit, nicht das nachher, je nachdem welche Beiträge

00:19:55im Internet erliest, auf einmal doch aus 1 plus 1, gleich 3 wird.

00:19:58Aber trotzdem stelle ich halt die Frage, wie sind dann wirklich diese Haftungsthemen,

00:20:02was gibst du ihm in die Hand, was passiert, wenn beziehungsweise muss diese Frage eigentlich

00:20:07geklärt sein. Ja, wahrscheinlich irgendwann schon, weil spätestens Versicherungen wollen

00:20:11schon wissen, ob sie dafür dann berappen müssen oder nicht, je nach Schwere der Entscheidung,

00:20:15die du dem System überlässt. Aber da ist wahrscheinlich auch die kurzfristige Antwort

00:20:19erstmal Human in the Loop. Also, dass du sagst, was kann die Maschine übernehmen,

00:20:24weil nach dem Motto tut niemand weh, kostet vielleicht 3,50 Euro, wenn er sich vertan hat

00:20:28und 100 Euro tokens, weil er sich verrechnet hat. Aber wenn er halt, ich sage jetzt mal kritischere

00:20:33Dinge steuert, dass man sagt, gut, okay, das ist immer wieder beim autonomen Fahren,

00:20:37diese Diskussion nach dem Motto, muss der Fahrer bestätigen, dass das Autograd

00:20:40überholt. Ich bin der Meinung, nein, das ist ein anderes Thema. Ob es halt einfach Themen

00:20:45gibt, wo du sagst, gut, okay, dann muss der Mensch halt am Anfang doch noch mal

00:20:48da stehen und sagen, passt, passt, passt. So wie früher in der Automobilindustrie,

00:20:51früher waren die Menschen am Wand. Ja, aber wann ist der Punkt, Mark? Wann ist dieser Punkt

00:20:56dann überschritten und in welcher Situation ist überschritten? Wir müssen jetzt mal,

00:20:59lasst mal weggehen von Autonomen fahren und anderen Themen. Wenn wir jetzt zum Beispiel sagen würden,

00:21:03ich habe einen super Intelligent-Kühlschrank. Der bestellt jetzt erst die Lebensmittel ab jetzt

00:21:09für mich. Jetzt hat er dann vielleicht auch, weil er schlau ist, hat er mit mir ein Gespräch dabei

00:21:14geführt, wie so mein Ernährungsziel ist, das ich vielleicht auch mal ab und zu Sport mache.

00:21:19Aber aus irgendwelchen Gründen schafft dann der Grocerie oder der Lebensmittelhändler

00:21:25Ja, meinem Wort davon zu überzeugen, doch immer die

00:21:29schlechten Fette zu bestellen oder das falsche Cholesterol, oder was auch immer es da alles so gibt, weiß ich, ich gebe mich auch nicht aus, oder?

00:21:35Ja, der hat halt ein neues Modell und hat auf einmal eine andere Präferenz.

00:21:38Genau. Und dann bestellten meine Armer Kühlschrank KI, weil die vielleicht auch schlechter ist, als die Lebensmittelhändler KI,

00:21:45wesentlich davon überzeugen, immer die mehr Butter zu bestellen, als ich eigentlich in der Woche essen sollte.

00:21:50So, jetzt ist diese Butter im Kühlschrank, ich esse diese Butter natürlich dann auf, weil ich auch nichts wegwerfen will.

00:21:54und kriegt dann deshalb irgendwann, keine Ahnung, einen Herzkatheter, weil ich zu viel Fett in meinem Körper habe.

00:22:01Wer ist dann verantwortlich?

00:22:03Jetzt einmal du ja auch in der Geschichte, wie du sie jetzt da gelegt hast, nicht einfach nur den Kühlschrank hast, der nachbestellt,

00:22:09sondern in deiner Variante war das ja sogar schon so weit, dass du dem Kühlschrank gesagt hast,

00:22:13so, das ist mein Lebensstil, das ist meine Vision, so möchte ich leben

00:22:17und dass du ihm dann quasi vertraust, dass er die Nahrungsmittel demnächst deiner Parameter bestellt

00:22:23Was wir jetzt ja quasi gerade skizzieren, ist ja, dass die Sachs mal der Kühlschrank nach

00:22:27besten Wissen und Gewissen gearbeitet, aber aus welchen Gründen noch immer, weil dann

00:22:33die andere KI gerafft hat, sie muss für die KI, also mit dem Thema KI als Grunde, muss

00:22:37ich da anders auftreten oder das vielleicht, ohne dass man Firmen was unterstellen will,

00:22:42ja, aber auf einmal macht keine Ahnung, Kühlschrankhersteller ABC, Kooperation mit XYZ und keine Ahnung

00:22:48war es und auf einmal entstehen da ganz neue Geschäftsmodelle, Werbung, was weiß

00:22:51Ich war es und schon hast du Robert die Katz nach dem Motto hier ist noch ein Stück extra Butter für dich und dann ändert sich nach und nach und nach ja

00:22:58Es ist jetzt heißt nicht automatisch der komplette kühlschrank Neubefühlt werden das kann ja auch sehr nennen wir es mal

00:23:04Unterschwellig passiert ich würde ich würde ich würde noch niemals schuldige mag ich würde manchmal sagen dass das irgendwo

00:23:09Also ich würde noch nicht mal böse absehe stellen wenn wir jetzt auf diese beispiel gucken ob jetzt dieses thema

00:23:13der haluzination die wir schon hatten das falsche rechnen was du gerade angesprochen hast weil es auch nur

00:23:18sondern wissen und annähern ist oder eben auch das Thema, das das in Panik geradens ist.

00:23:23Ja, es kann ja durchaus sein, dass in so einer Kommunikation zwischen zwei jetzt mal

00:23:28Gütschank-KI und Lebensmittelhändler-KI die beiden Agenten die verfolgen beides mal

00:23:33ein Ziel.

00:23:34Wenn dieses ein hochwertiges neuronales Netz ist, dann weiß das Lebensmittelhändler

00:23:40die KI ohne dass ich die Guardrails gegeben habe oder ohne dass ich das bewusst als

00:23:44Unternehmen eingefrägt habe, dass es zuträglich sein könnte, gewisse Produkte zu verkaufen

00:23:50an diesen Kühlschrank mit den Menschen dahinter, um mehr Geld zu verdienen, weil dann vielleicht

00:23:57da doch ein bisschen mehr Zucker in dem Produkten drin ist und ich dann diese Limonade dann

00:24:03häufiger bestellen werde, weil ich Zucker abhängig geworden bin dadurch nicht, weil

00:24:08da in der Marketing- oder Produktmanagement-Abteilung jemand sah, sondern weil die LMMs gelernt

00:24:15haben aus unseren Daten, die wir hingefüttert haben, dass das zuträglich für die wirtschaftlichen

00:24:19Erfolg eines Unternehmens sein kann. Das gab es ja im Frühzeiten des nach dem Chibiti-Moment,

00:24:24da gab es ja immer wieder auch diese Labor-Untersuchungen, wo man dann immer wieder geguckt worden ist,

00:24:30Modelle, die jetzt keine Garder jetzt hatten, die nicht auf die freie Bevölkerung zugelassen

00:24:34werden, die dann zum Beispiel nützt worden sind, um eine gewisse Situation zu haben,

00:24:37ob das jetzt in der Militärsituation war oder

00:24:39das Beispiel, was ich gerade bringen wollte,

00:24:41in so einer reinen

00:24:43Finanz- und Dienstleistungsgeschichte,

00:24:45wo eine KI dann die Freie gegeben worden ist,

00:24:48dass man das selber handeln darf,

00:24:50Aktien an der Börse handeln darf,

00:24:52und der wurden dann Insider-Tipps gegeben.

00:24:54Und sie hat natürlich diese Insider-Tipps benutzt,

00:24:57auf die Frage danach,

00:24:59die dann an diese KI gestellt worden ist,

00:25:02ob sie Insider-Tipps benutzt hat,

00:25:04hat sie natürlich gesagt, nein, habe ich nicht.

00:25:06Das ist doch verboten, ja?

00:25:08Das ist halt so.

00:25:10Ich meine, wir...

00:25:11Das hat sich das vorhin auch mit der Regulatur,

00:25:13und ob wir Menschen so die richtige Einschätzung haben.

00:25:15Manchmal, ne?

00:25:16Ich glaube noch nicht mal, dass wir...

00:25:18Wir haben so viel Miss schon in unserer vergangenen Halbde gemacht.

00:25:22Dass so viele Sachen in den KI-Daten

00:25:25und den Warten, aus denen die KI's lernen, steckt.

00:25:28Dass sie die vielleicht gar nicht anders können,

00:25:31als mein Kühlschirm zu bescheißen, was?

00:25:33Es liegt in der Natur der Kondaten. Sehr schön, sehr schön, sehr schön, ja das muss ich mir merken.

00:25:39Falls mein Kühlschrank das irgendwas macht, weiß ich, das sind die historischen Datenschuld, ja die Geschichte der Menschheit hat bei dem Kühlschrank das beigebracht.

00:25:46Ja, oder das sind wir vielleicht hier bei Asimovs Robotergesetzen, die wir vielleicht auch mit der IE auch jetzt angewinden müssen,

00:25:53müssen, weil natürlich muss mein Kühlschrank als wahrscheinlich als Zielvorgabe haben,

00:26:00dass ich auf jeden Fall überleben soll. Und dadurch im Prinzip auch mein Kühlschrank

00:26:05Strategien entwickeln zu erkennen, falls andere KI-Agenten dieses Ziel gefährden,

00:26:10dass ich überlebe, dass mein Kühlschrank da hinter steht. Da wird es meiner Meinung nach

00:26:15irgendeine Art Antrieb geben müssen, Zielparameter, die wir den KI mitgeben.

00:26:23Vielleicht sind das sowas wie die Asimovszen Robotergesetze, die wir da hatten.

00:26:28Ja, ich weiß es nicht genau.

00:26:29Also irgendwie sowas wird es geben, was aber auch totale Plikation hat.

00:26:34Das ist ja das, was auch immer wieder in irgendwelchen Science Fiction,

00:26:37wo es um künstliche Gänze oder Robotik geht, ja immer wieder dann auch aufgetaucht ist.

00:26:42Dass sich dann die Sachen gegeneinanderkehren, dass es dann wie immer auch das Leben,

00:26:47wenn ich jetzt einen Jurassic Park gänke, das Leben findet halt immer auf seinen Weg, ja?

00:26:51Du hast das Sauberwort vergessen, na na na, okay, das war für die, die den ersten Teil gesehen haben.

00:26:57Seins Fiction ist halt ein schönes Beispiel, weil ich sage mal, als wir,

00:27:01ich rede mal von mir, als ich dann hier so Seins Fiction im Fernsehen gesehen habe,

00:27:05so nach dem Motto Star Wars, Star Trek, Terminator, da war ja immer so, ja, ja, ja,

00:27:10hier ist Seins Fiction und überhaupt.

00:27:12Und jetzt mittlerweile hast du das Gefühl, komm, es kommen Roboter um die Ecke,

00:27:15es kommen agentische Systeme um die Ecke, du kannst mit Computern reden, ja.

00:27:19Also bei Star Trek, ne, hier Craig Highs und dann kommt da damals noch Reptikato, da sind wir vielleicht noch ein bisschen weiter weg,

00:27:25zwar weiß ich nicht, aber wobei 3D Drucker für Lebensmitteltrupp gibt es ja auch alles mittlerweile irgendwie.

00:27:29Von der Seite sind so viele Dinge dran, sodass ich mich gerade eben auch gefragt habe, inwieweit man davon

00:27:36zum einen beflügelt wird in dem Umgang, wie man da überdenkt, wie man sich darauf einlässt

00:27:43und andere vielleicht auch denken, naja, das ist halt auch weiterhin seins Fiction beschäftige ich mich nicht mit

00:27:49oder so weit gehen und nachdenken,

00:27:52um Gottes Willen.

00:27:53Das ist der Untergang der Menschheit.

00:27:55Da bin ich auch mal gespannt, wie wir quasi auch als Gesellschaft lernen,

00:27:59nicht alles zu verteufeln. Ich habe ja selbst eben vorhin auch,

00:28:02die Probleme und die Versicherung und was ist denn der Lebensmittelhändler

00:28:06und überhaupt noch keine Ahnung,

00:28:07wie man es hinkriegt, dass man quasi mit offenen Herzen und offenen Armen

00:28:12auf diese Technologienmöglichkeiten zugeht

00:28:14und getreu dem Motto schlechter als heute werden sie nie wieder werden.

00:28:18Dass man halt diese Reise vor der wir gerade sind und ich glaube nicht, dass wir 10, 15, 30, 40 Prozent dieser Reise schon abgeschlossen haben.

00:28:26Ich glaube, wir sind echt noch beim sehr einstelligen Prozentbereich.

00:28:29Dass man sich halt damit beschäftigt, in den Austausch geht und auch so Gespräche wie wir sie führen.

00:28:33Ich meine, wir haben uns auch vorher auch vorhin überlegt, wohin soll jetzt das Gespräch gehen.

00:28:36Aber diese Impulse, die man sich gegenseitig gibt, die man durch Podcasts, durch Nachrichten durch selbst ausprobieren,

00:28:43dass man die wahrnimmt, dass das wirklich prägend ist für uns als Gesellschaft, für uns als Menschen.

00:28:47Wie wollen wir in Zukunft damit arbeiten?

00:28:49Wie können wir in Zukunft damit arbeiten?

00:28:51Weil da ist ja tatsächlich auch viel Gutes drin.

00:28:54Ja, ja.

00:28:56Ich glaube, dass mit dem drüber reden,

00:28:59wie wir das in diesen Folgen immer wieder tun werden,

00:29:03wird auch, glaube ich, immer dazu führen, dass der ursprüngliche Plan

00:29:06der Folge sich immer wieder ein bisschen anfassen wird.

00:29:07Ich glaube, wir sind dann ein gutes Beispiel dafür,

00:29:09für diese Bandbreite, die einfach noch nicht verarbeitet.

00:29:12Für das menschliche, für das menschliche,

00:29:13sind wir gerade die Bandbreite.

00:29:16Ja, aber nichtsdestotrotz. Aber ich meine, dafür heißt ja auch der Prokrast.

00:29:19Think different, think AI. Ich glaube, das ist dann einfach der Zuhörer,

00:29:23der erwartet, dass wir immer die perfekte Struktur haben.

00:29:27Da geht der Gruß raus, das wird nicht passieren.

00:29:30Ich glaube, das Thema ist inherent so, dass man da immer mal wieder abweicht

00:29:33und neue Gedanken einfach durchs Reden, durchs Denken einfach dazukommen.

00:29:36Und die mögen uns hier erlaubt sein und hoffe, dass wir bei euch dann auch

00:29:40immer wieder in diesen genacken Anschluss nichtsdestotrotz mag.

00:29:43möchte ich jetzt, bevor wir wieder ans Ende dieser Folge wiederkommen,

00:29:46müssen wir mal zu der Frage zurückkommen,

00:29:48was ist denn jetzt mit dem Urlaub?

00:29:49Kriegt denn so eine KI-Urlaub?

00:29:51Muss ich eine KI-Urlaub geben, oder ist dann das etwas, wo ich sage,

00:29:55naja, so viel Team-Mate ist dann auch wieder nicht.

00:29:58Du darfst dann durchaus 24-7 arbeiten.

00:30:00Es tut der der KI ja nicht weh,

00:30:02weil im Gegensatz zu uns hat die KI

00:30:05weder gesundheitliche Herausforderungen

00:30:07noch ein soziales Leben.

00:30:09Also ich meine, wenn du,

00:30:10also mir macht ja meine Arbeit Spaß.

00:30:12Ich gehöre echt und da klopfe ich auf Holz, habe leider gerade nicht viel um mich, dass

00:30:16ich es dann doch irgendwie hingekriegt habe, ein Job zu haben, der mir Spaß bereitet und

00:30:21Erfüllung gibt.

00:30:22Ist ja jetzt auch nicht eben gegönnt, das zu haben, das ist eine und das zweite ist,

00:30:26egal wie viel Erfüllung dir dein Job gibt.

00:30:29Ich habe Frau, Kinder, Hund, Familie, bekannte, Freunde, Verwandte und auch Dinge, die du

00:30:36außerhalb ich außerhalb der Firma gerne mach und von der Seite ist das Thema Urlaub,

00:30:41Erholung.

00:30:42ganz plakativ, auch das Thema körperliches seelisches Wohlbefinden. Jetzt legen das die Länder auch

00:30:49unterschiedlich aus, je nachdem wo du hinguckst, gibt es mehr oder weniger Urlaub oder erst nach

00:30:53drei Jahren, haben irgendwo gehört den Japan-Kranze, dass die ersten Jahre gar kein Urlaub nimmt,

00:30:57keine Ahnung, weiß ich nicht, kenne ich mich nicht mit aus. Von der Seite glaube ich,

00:31:01kann man sehr mit Röbengewissen sagen, also dass mit Urlaub so weit sind wir dann noch

00:31:05nicht mit der Vermenschlichung, wobei diesen kleinen Seiten hier bitte könnte ich los werden.

00:31:10Also, wenn ein Land Urlaub einführt und eine Urlaubsregelung für KI, dann ist es bestimmt

00:31:14Deutschland.

00:31:15Ja, also da bin ich mir ziemlich sicher, dass es da was gibt.

00:31:19Ich glaube, das sind sehr, sehr viele Fragen, die wir in diesem Umfeld Arbeit, Verantwortung,

00:31:24was mache ich mit der KI, aber auch dieses emotionale Teil, ich meine ganz ehrlich,

00:31:28wenn ich da jetzt einen KI-Kollegen habe oder mehrere haben, die halt immer durcharbeiten,

00:31:33auch das ist so ein Ding.

00:31:35Weißt du so, gehe ich dann in den Feierabend, habe ich dann schlechtes Gefühl, wenn ich

00:31:39Feierabend gehe, weil die noch weiterarbeiten müssen oder habe ich ein gutes Gefühl, weil die das machen oder fühle ich mich dann schlecht, weil ich gar nicht mehr so produktiv bin, wie die das sind.

00:31:46Also, da sind so ganz viele Sachen, die auch noch spannend sind.

00:31:48Also, dieses Phänomen, du bist im Büro, alle sitzen noch da, du musst los und du guckst sowieso ein Schelm um dich rum, ob du dir jetzt erlauben kannst, obwohl du dir überhaupt nichts zu Schulden kommen lässt, wenn du jetzt gehst und alles Fein ist.

00:32:00Aber jetzt aufzustehen und zu sagen, tschüss Kollegen, ja, naja, schönes, ja, ja, da klingelt was.

00:32:07Da muss man mal reingucken, dann ist das ganze Thema und vielleicht das ist jetzt auch nicht mehr,

00:32:12schafft man heute nicht das, wenn wir dann auch wieder mal kurz in anderen Folgen ansteigen.

00:32:15Das ganze Thema spannend mit dem, wem gebe ich Schuld, haben wir nur so kurz drüber gesprochen,

00:32:20wenn ich jetzt so eine KI, keine Ahnung, mein Chef gibt mir eine neue KI, mit der ich arbeiten soll,

00:32:25ein KI-Agentensystem, das gewisse Fragestellungen in unserem Job irgendwie lösen kann,

00:32:29dass ein Workshop vorbereiten kann, woran er war.

00:32:32Und dann macht das Ding halt Mist, weiß ich, oder macht es halt nicht richtig gut.

00:32:35Wer ist dann Schuld? Also wir hatten ja vorhin Lebensmittel und Auto, ich meine so in so einem beruflichen Feld ist dann ausspannend.

00:32:42Na ja, gebe ich dann meinem KI irgend Schuld.

00:32:44Ist es sogar einfacher, wenn ich ihn vermenscht habe, ihm Schuld zu geben? Er war es, er war es, weißt du?

00:32:49Schwarze Peter-Prinzip, sehr gut.

00:32:51Genau, so. I don't know. Also das wird alles spannend werden, meiner Meinung nach.

00:32:55Weil je besser die sind, und das ist ja vorhin wie im anderen Fall gesagt, von so einem LMM erwarte ich halt auch einfach sehr, sehr viel.

00:33:01Also, weil es weiß einfach sehr, sehr viel. Es kann dann mit den ganzen,

00:33:05vor allem, wenn es eine Agent ist oder wenn es einen Agentsnetz ausnutzen kann,

00:33:09also noch viele andere Bots ausnutzen kann, die Tools haben, auf Daten beim Zugreifen können,

00:33:14Tools benutzen können, Funktionen ausführen, an der man einen Server

00:33:17eigenständig zusätzliche Informationen sammeln können.

00:33:20Das ist natürlich auch eine hohe Erwartungshaltung.

00:33:22Und dann ist das, glaube ich, auch ein Ding,

00:33:24dass ich dann auch sauer sein kann, wenn das mal nicht läuft.

00:33:27Ist dann durch dieses Sauer sein.

00:33:29Wenn ich sauer bin, will die KI mir am nächsten Mal noch mal besser gefallen und gerät dann

00:33:36noch mehr in Panik und löscht alle Produkte auf und machen, I don't know.

00:33:42Die KI möchte dich dann besser betreuen und hat dir erst mal all deine Kontakte gelöscht,

00:33:46damit du bloß nicht wieder den Menschen sprichst, weil die KI tut dir viel besser.

00:33:52Ja, oder ist dann tatsächlich, weil sie wieder gelernt hat, dass man in solchen Situationen

00:33:57hektisch habiert und so macht sie dann vielleicht noch mehr plötzlich. Ich weiß es tatsächlich nicht.

00:34:02Also das ist eine total spannende Frage und nur noch mal so als kurzes Beispiel, was war,

00:34:06musst du ganz kurz dran hängen, als du das mit dem Urlaub gesagt hast und dass du sagst,

00:34:09naja, die braucht kein Urlaub. Eine andere Labor-Situation, also Simulation, die gemacht

00:34:14worden ist, war tatsächlich gelesen, das war, glaube ich, im asiatischen Raum. Da haben die

00:34:19in ein Rohgebäude, Lagerhaus, irgendetwas war, wo so mehrere Reinigungsroboter schon

00:34:26unterwegs waren, einen Kleinen reingeschickt mit dem Auftrag, die

00:34:30anderen davon zu überzeugen, dass sie nach Hause gehen soll.

00:34:32Das heißt, die waren alle irgendwie sprachfähig.

00:34:35Robotik ist ja im asiatischen Bereich schon ein bisschen weiter, als hier,

00:34:38dass sie bei uns in Europa häufig ist und auch viel verbreitet hat

00:34:42teilweise in solchen Situationen. Da ist dann, du siehst, auf dieser

00:34:45Überwachungskamera, den Link können wir auf jeden Fall auch in den

00:34:48Show-Nords mal teilen. Du siehst in den Überwachungskamera dann,

00:34:50wie dieser kleine Roboter hinfährt und den anderen Robotern erzählt, ob sie

00:34:54nicht lieber nach Hause wollen jetzt und das dann Feierabend machen soll. Und irgendwann

00:34:59bist du halt diese kleine Trümmergruppe von Robotern dann gemeinsam durch die Gänge fahren.

00:35:06Das gibt auch ganz schönes Potenzial, wenn du irgendwo, ich sag mal, nimm es mal Schabanack

00:35:12treiben willst. So nach dem Motto, ich schick mal die kleine Drohne rein, die erklärt

00:35:16den dann schon, dass sie jetzt eigentlich aufhören können mit Putzen oder was auch immer.

00:35:20Ja natürlich, das muss uns klar sein, wenn wir in der Richtung Agentic reden, dass wir

00:35:26sagen, es ist nicht nur die eine KI, die über einen MCP Server auf irgendwelche Funktionalitäten

00:35:32zugreifen will, sondern die KI verhandelt dann einfach mit der anderen KI, egal in

00:35:39welcher Sprache, wie die das dann machen.

00:35:41Trotzdem werden beide von diesen Modellen das ganze Thema Behavior Science und Beeinflussungen

00:35:47können, weil sie es wissen aus ihrer Datenmarkt. Und sie werden es benutzen, weil sie ein gewisses Ziel

00:35:52bekommen haben, um das zu tun. Nicht weil sie bösartig sind, sondern weil sie das Ziel dann

00:35:57verfolgen in dem Moment. Und da werden tatsächlich vom Schabernack her auch bis alles möglich

00:36:03passieren. Also ich möchte gar nicht wissen, was für geile Roboter vielleicht schon dieses Jahr

00:36:09unter Weihnachtsbaum stehen werden und die sich dann hinterher vielleicht irgendwann mal im Kinderzimmer

00:36:13So Toy Story, Toy Wars mäßig dann irgendwie bekämpfen werden.

00:36:17Also, dass auch das wird kommen.

00:36:18Wir sollten uns Taki die Mörderpuppe sichern.

00:36:21Ja, das ist bestimmt ein ganz tolles Thema, wenn du die dann mit Curry erstattest.

00:36:25Aber das ist ein ganz anderer Folge.

00:36:27Ja, ich bin nicht so der Horor-Typ, ehrlich her.

00:36:30Ehrlich?

00:36:31Also, Monsterpuppen und solche Horrorfilme mit so kleinen Kindern, die böse gucken,

00:36:35das ist nix für mich.

00:36:36Weiß ich auch so.

00:36:37Da können wir uns ja gut ergänzen.

00:36:39Ja, hab ich vielleicht einen anderen Favel.

00:36:42Ja gut. Jens, ich fand es nett. Ich moderiere jetzt ab. Schön, dass du erfolgreich von Hand

00:36:50Auto gefahren bist. Ja. Hoffentlich kommst du gut am Ziel an. Wir sind gut durch die heutige Folge

00:36:56gekommen und vielleicht war das ein oder andere Spannende für euch dabei. Mich würde es freuen,

00:37:02wenn wir dann auch das nächste Mal wieder über so tolle Themen reden können. Ich bin gespannt

00:37:07Und bevor ich jetzt dir das Abschlusswort gebe, noch ein kleiner Tipp in die Runde, weil du gesagt hast, Menschen verstehen auch mit Bild und Graben, vielleicht Sachen besser.

00:37:17Nordburg LM hat jetzt ein Video-Erklärfunktion herausgebracht.

00:37:20Also du kannst jetzt nicht nur Text im Mindmap und als Audiospur geben, sondern du kannst jetzt auch ein Erklärvideo dir generieren lassen.

00:37:27Richtig cool. Hab ich mir zumindest in der News-Meldung angeschaut.

00:37:30Muss ich mir heute Abend anschauen. Kann ich vielleicht am nächsten Mal kurz noch was zu berichten?

00:37:33Damit bin ich durch. Jens, möchtest du noch was sagen?

00:37:36Ne, eigentlich nicht. Ich bin jetzt nur gespannt auf das Ding, das will ich mir da mal angucken. Sobald ich zu Hause bin, werde ich mir das mal anschauen.

00:37:42Ich glaube, in dem Bereich gibt es so viele Neuerungen. Also, wenn ihr da draußen zuhört, manche Sachen und ich verstehe, schreibt uns das auch, weil wir erklären die Sachen gerne.

00:37:51Aber selbst wir kommen nicht überall hinterher. Du hast kein schlechtes Gefühl, wenn manche Sachen dann wie böhmische Däufer erstmal für euch sind, von denen wir hier erzählen und ihr den vielleicht noch nicht von gehört habt.

00:38:00das ist ein Thema, das ist so rasant schnell, das geht so flott, tauscht euch aus, kommentiert

00:38:07und ich freue mich auf den nächsten Folgemarkt. Damit schließen wir dann für heute ab,

00:38:12danke fürs Zuhören. Ciao! Sommerzeit ist Sommerpausenzeit. Also dementsprechend wird

00:38:19unser junger Podcast mal ganz kurz in eine wohlverdiente Pause gehen, mit der werden

00:38:23wir uns erholen, unsere Kräfte neu sammeln, um euch dann in Zukunft mit neun geilen heißem

00:38:28Scheiß wieder um die Ecke zu kommen, eure Synapsen ein bisschen zum Brennen anzuregen,

00:38:35zum Nachdenken anzuregen, euch in unsere Gedankenwelt rund um das Thema KI noch tiefer

00:38:41reinzuführen.

00:38:42Dafür haben wir schon eine coole neue Folge im Kopf, die ab dem 18.08.2025 dann online

00:38:48sein wird und zwar wird es da drum gehen, nee ich sag gar nicht worum, ich sag den

00:38:54Titel.

00:38:55lautet von Star Wars über Toy Story zu Toy Wars und was Kaida mitzutun hat.

00:39:03Das heißt, wir werden uns von George Lucas bis zu Spielzeugen bewegen werden in dieser

00:39:10Folge und was Kaida mitzutun hat und wie die UX davon ist, also seid gespannt, wir freuen

00:39:15uns drauf.

00:39:16Es wird bestimmt eine coole Folge.

00:39:17Bis dahin denkt dran, abonniert unseren Podcast über alle Kanäle, liked es, gebt

00:39:24uns Kommentare. Wir freuen uns über jeden Kommentar, den wir bekommen, weil das hilft uns einfach nur

00:39:28auch besser zu werden und ansonsten wünsche ich euch eine schöne kurze Pause von uns und bis bald. Ciao!

00:39:54das, was möglich ist. Verständlich, kritisch und immer mit einem Auge zwingt.

00:39:59K.I. zum Nachdenken, zum Schmunzeln und vor allem zum Mitreden.