KI schreibt Code, Menschen prüfen nach !

Transkript

00:00:00Willkommen bei Think Different, Think AI, dem Podcast von Mark und Jens.

00:00:07Zwei technologieverliebte Köpfe, die nicht nur über künstliche Intelligenz reden, sondern sie leben.

00:00:14Hier gibt es klare Einordnungen, echte Praxiseinblicke und einen frischen Blick auf das, was möglich ist.

00:00:20Verständlich, kritisch und immer mit einem Augenzwinker.

00:00:24Hadi zum Nachdenken, zum Schmunzeln und vor allem zum Mitreden.

00:00:33Heute mal wieder ohne meinen allseits geliebten Komoderator, aber dafür heute mal wieder mit einem sehr kompetenten Gast.

00:00:43Letztens hatten wir uns ja mit dem Dirk über das Thema Notion unterhalten

00:00:47und heute unterhalte ich mich mit Klaus unter anderem auch darüber, warum bei mir heute Perplexity nicht ging.

00:00:56gegen Klaus. Wer bist du, stell dich mal vor und warum gehen mein Perplexity nicht?

00:01:01Ja, ich bin der Klaus und wir kennen uns schon furchtbar lange, der liebe Mark und ich.

00:01:07Uns verbindet eine lange Apple-Historie, Apple-Security und Apple-Entwicklung und ja,

00:01:15hauptberuflich beschäftige ich mich eigentlich tatsächlich nur mit Security.

00:01:19Ich sorge mich dafür, dass die schönen Küchengeräte eines bekannten deutschen

00:01:24Küchengewähre herstellt, dass es sicher sind für netzte Gewähre. Und weil Sicherheit und KI irgendwie

00:01:31nicht mehr so richtig voneinander zu trennen sind, habe ich bei uns auf das Thema AI-Edit-Development

00:01:37mehr angezogen. So, und ich hatte wie du mag, um deine Fragen zu beantworten, ein total entspannten

00:01:43Vormittag, weil ich um, weiß ich nicht, um die vielen Urne, die ich in den Rechtern gesetzt

00:01:46habe und hatte eine Frage an Proplexity und Proplexity wollte ich nicht antworten. Und ich

00:01:51Ich vermutete mal wieder unseren Firmenzwangsproxy, der wieder irgendwas gesperrt hat, war aber

00:01:57nicht so.

00:01:58ChatGPT funktioniert.

00:01:59Dann probierte ich noch mal Perplexity und war ganz Perplex.

00:02:02Es antwortete immer noch mit einer kryptischen Fehlermeldung und dann bin ich einkaufen

00:02:06gefahren.

00:02:07Und siehe da, die Ursache war der Auswahl der Amazon-AWS-Zone US East 1, die heute

00:02:15der Weltweitshaus ferngeführt hat und offensichtlich war natürlich auch Perplexity davon

00:02:19Deshalb konnte es heute Morgen auch schön die Küche aufräumen, statt zu arbeiten.

00:02:24Na, ich war eigentlich im Büro und ganz ehrlich, ich war auch erleichtert, als ich da mitbekommen habe,

00:02:29dass es sich um ein, ich sag mal größeres Problem handelte und nicht um ein lokales von mir,

00:02:34weil während du dachtest, der Proxy der Firma ist schuld, hatte ich eine ganz andere Angst,

00:02:39nämlich, dass ich auf einmal arm geworden bin, weil ich nämlich heute Morgen angefangen habe,

00:02:44habe mir meinen Apetoken in einen frisch gebackenen N8n Workflow zu stecken, den ich habe loslaufen

00:02:52lassen, der dann tatsächlich, ich sage jetzt mal in so einer Art Endloh-Schleiße endete mit

00:02:56seinen Perplexity-Anfragen und ich kurz gedacht habe, das Ding hat mich in den Ruinen der Api-Calls

00:03:02geschmissen und mir meine Kreditkarte so sehr belastet, dass jetzt auch ein Anmeld mit meinem

00:03:07Konto als sehr unvertrauensvoll zählt und daher war ich dann doch sehr glücklich, dass das

00:03:12das mit keinem Geld abbuchen oder Ähnlichem zu tun hat, aber ich hoffe auch, dass mein

00:03:17N8N-Zugriff jetzt nicht Ursache des Übels war, nicht, dass es nachher heißt. Der Zimmermann

00:03:23saß da und hat hier quasi jetzt seinen Shutdown, N8N, so slow da, zusammengetuckert.

00:03:29So viel, wenn man nicht nur USA wohl merkt, ob du, das warst oder nicht.

00:03:36Passport, please. Haben Sie eine kriminelle Vergangenheit? Nicht, dass ich wüsste.

00:03:41Waren Sie nicht derjenige, der eben mit Ihrem Ende, seinen Enden nach der Enden verhörgst, oder dass wir gesagt haben, dass der Kollege Rodewig in die Stadt gehen durfte einkaufen?

00:03:48Nee, nee.

00:03:48Es ist doch schon mutig, wie Dinge dann doch sich ähneln, ne?

00:03:52Also, Rodeblatt, so als Kreditkarte und Token Limit, bisher war es ja immer so, sowohl für Firmen als auch für Privatpersonen,

00:04:00dass das Einzige, was vollkommen undurchsichtig war und auch mit wissenschaftlichen Mitteln

00:04:07nicht erklärbar ist, einer Rechnung von AWS oder dem jeweiligen Cloud-Dienstleister, den

00:04:11man in der Firma benutzt. Weil man nie weiß, was passiert. Und wenn irgendein Praktikant

00:04:15hat dann durch Zufall immer noch irgendein Audit-Log angeschaltet, was dann mal über

00:04:20nach 10.000 Euro verursacht hat, das hat man jetzt zusätzlich auch mal mit KI.

00:04:24Ist doch irgendwie beruhigend, oder?

00:04:26Wobei, ich sage es mal, alte Menschen erzählen von früher, ich kann mich durchaus auch an jemanden erinnern, der versucht hatte, so ein bisschen als Influencer tätig zu sein als das ganze Anfingen mit ChatGPT und den ganzen Kram.

00:04:39Und der hatte in seinem Video seinen Apitoken gezeigt und der wurde wirklich abend, weil die Leute einfach mit dem Ding feuchtfuldig irgendwelche Dinge ausprobiert haben.

00:04:50Nach dem Motto, guck mal, geht doch, und irgendwann kam dann so die Meldung, dass sie das irgendwie

00:04:54paaren, 40.000 Euro gekostet hat, die ganzen Coles, die das vorsagt haben, wo ich dachte,

00:04:59da brauchst du aber auch ein bisschen Reichweite, um so eine Menge Euros auszugeben.

00:05:03Aber schön, ich sag mal, um Euros geht's ja zum Glück heute nicht, du sitzt hier ganz

00:05:09kostenneutral für mich hier, auch wenn ich sagen muss, ich bin nicht ganz unvoreingenommen.

00:05:13Ich besitze ja auch solche, das eine oder andere Gerät aus eurem Hause bei uns im

00:05:17habe ich ja schon mal auch in den anderen Podcasts mit dir drüber gesprochen.

00:05:21Da fühlt man sich noch gleich viel sicherer, wenn man weiß, wer sich da um das ganze Zeug dahinter so mit zusammen kümmert.

00:05:29Ja, Moment, Moment, ich, Moment, kümmere, heißt ja, ich habe eine Idee, wie Dinge gut funktionieren können und kann diese Idee

00:05:38ausstudieren, nur ob die dann umgesetzt wird und ob sie richtig umgesetzt wird, das steht ja auf dem anderen Dritt.

00:05:44Das ist dadurch, dass ich einen schönen Übergang, genau, so, jetzt sind wir im Thema, jetzt

00:05:52du Mark, genau.

00:05:53Also erzähl doch mal, wir hatten da uns vorher uns überlegt über welches Thema wollen wir

00:05:58uns denn quasi unterhalten, über welches Thema können wir uns unterhalten, wir treu

00:06:02den Motto, was gibt es denn, was die Allgemeinheit interessieren könnte, ohne dass sich irgendeiner,

00:06:07wie sag ich mal, auch einen Schlitz gedrehten fühlt und wir haben uns mit dem Thema ein

00:06:12bisschen vorgenommen näher zu beschäftigen, wo wir KI einsetzen können, sei es Doku, sei es

00:06:19Text-Erstellung, sei es Software-Entwicklung, sei es das ganze Thema Cyber Security. Magst du

00:06:27mir ein Thema sein, mit dem wir anfangen wollen? Lass uns sagen, mit KI in der Entwicklung anfangen,

00:06:33denn das ist ja das übergeordnete Thema, ob man sich dann am Ende mit Cyber Security beschäftigt

00:06:38oder mit Dokumentationen oder mit welcher Ausprägung von KI-Fältigkeiten auch immer.

00:06:43Das ist ja dann einfach nur, das ist ja dann ein Abzweig von dieser großen Straße. Und ich muss

00:06:49sagen, dass ich da so ein bisschen tatsächlich vom Saulus zum Paulus geworden bin, der so, du

00:06:55hast ja eben ältere Menschen erwähnt und wir beide sind immer vorgerückten Alters und kommen

00:07:02noch aus einer Zeit, wo man Code wirklich schön mit der Hand geklöppelt hat und

00:07:06der erste Irrweg war ja, dass man dann wie zu sprachen die Java angefangen

00:07:11hat, fremde Menschen zu benutzen, war es an sich schon mal komisch war, weil man

00:07:16doch gewohnt auf seinem C-Compiler vorher immer nur eigene Sachen zu verwenden

00:07:20oder gut abgehangene Libraries oder vielleicht mal die Boostlibrary in C++,

00:07:26was ja total vertrauenswürdig ist. Ich hatte bei meinem ersten Praktikantenanbieter

00:07:30nicht praktisch kann. Wie wirlt sich denn das an? Bei meinem ersten berufsbetonen Praktikum

00:07:35suchen wir es vielleicht besser, auch sogar den Kontakt zu Assembler-Kursen.

00:07:38Ja, guck mal an. Und heute kannst du Assembler in Chatchi BT schmeißen und der erklärt

00:07:45dir, was das ist. Du kannst sogar ein ganzes binary reinschmeißen und der disassembliert

00:07:48das. Aber das können wir vielleicht gleich nach drauf zu sprechen kommen. So, und

00:07:53dann kam, da habe ich mich über die Jahre dann gewöhnt, weil ich war lange als

00:07:58Pen-Test darum, Security-Bereiter in vielen Konzernen unterwegs und habe mich daran gewöhnt, dass

00:08:04die Menschen eben zunehmend oder hauptsächlich andere Leute's Code verwenden oder sich den

00:08:09Outstack Overflow auskopieren und dann kam er so quasi von heute auf morgen gefühlt, OpenAI

00:08:18um die Ecke und sagte, Leute, wir haben hier Chechipiti.

00:08:20Was ja gar nicht der Beginn der KI war, KI gibt es ja, ich glaube in den 80ern,

00:08:26Da hieß das noch Fuzzy Logic, ich weiß nicht, ob du dich noch erinnern kannst, da wurden sie, hat Zoni Entwackelungsalgerüten für Kameras gebaut, das waren so die ersten Konsumer, also die ersten Anfängen von KI den Konsumer gerätten und natürlich gibt es ja auch schon KI in ganz vielen Bereichen furchtbar lange, nur dieser Paukenschlag von OpenAI, wann war das, 2022?

00:08:46Da war ja der Tag, an dem die Antwort auf eine Frage nicht mehr hieß, ich habe Folgendes für dich im Internet gefunden oder ich habe dich leider nicht verstanden, aber immer fing das Ding an und konnte tatsächlich Antworten geben, also dieses Ding von OakMerry.

00:08:59Genau, bis zu November 21 bis dahin reichten nämlich nur die Trainingsdaten.

00:09:03Aber egal, da fing das ja an und da wurde der Stamm sofort gemunkelt und ich oute mich als jemand, der überhaupt keinen Plan von Geschäftsmodellen, strategischen Entwicklung oder Zukunftsvision hat.

00:09:17Also kleiner Funfact als Steve Jobs damals das Alphorn vorgestellt hat, da habe ich gedacht, was ist das für ein Ding, das braucht doch kein Mensch.

00:09:23Gut.

00:09:24Schmei, da hatte ich eins und als er dann das Alpett vorgestellt hat, dachte ich, okay,

00:09:27jetzt haben sie ein großes Alpherum gemacht, auch das braucht kein Mensch, insofern legt

00:09:31man keinen Wert darauf, dass ich valide Zukunftsvorhersagen mache, aber es monkelt ja jetzt

00:09:37aber mit der Security so ein bisschen, ne? Da könntest du dich gut aufgehoben.

00:09:40Ja, immer rückwärts gewandt. Aber es monkelt ja schon sehr schnell, die AI wird in

00:09:46Zukunft zwar verschreien und auch da dachte ich, jo, was kann da schon daraus kommen,

00:09:52Aber siehe da, die ersten Gehversuche mit JetGPT waren ja mehr als entnüchternd.

00:09:57Es kam ja wirklich nur ein Grütze raus.

00:09:58Aber mittlerweile ist das ja ein so fantastisches Werkzeug geworden.

00:10:02Und ich sagte ja gerade, dass ich lange unterwegs war, als Pentester und Berater

00:10:06in großen Konzernen und Firmen und habe Unmengen von Code auditiert

00:10:12und Software auditsgemacht mit Entwickler geschult.

00:10:16Und was ich mittlerweile sehe, ein Code, der aus so einem LLM rausfällt,

00:10:19gut ab. Das kann sich sehen lassen und das kann sich mit so manchem gestandenen Entwickler

00:10:25Produkt messen, tatsächlich. Insofern, vom Saulus zu Paulus, denn das ist der Weg.

00:10:31Ich fand das auch. Jetzt, weder sowohl bei der Entwicklung als auch bei dem ganzen

00:10:36Thema, wie wir mit dem Ding interagieren und zu einem Ergebnis zu kommen, da sind

00:10:41schon echt ein paar spannende Runden, die man dreht. Ich weiß noch, wie ich bei einem

00:10:44Kollegen stand, ich habe dem voller Begeisterung damals, 3.5 war das, nicht?

00:10:49Ich hatte die 3.5 als das quasi das erste Mal den Durchbruch hatte und die

00:10:54stand bei dem und ich sag, du, das musst du anschauen, ist total toll, was hat der

00:10:57Kollege gemacht, ich nenne jetzt keinen Namen, aber wenn er hört, wird er sich

00:11:01angesprochen fühlen. Er hat irgendeine Fachfrage dort reingeschrieben, wo

00:11:05dem System alles an Kontext fehlte, was auch nur an Kontext hätte da sein

00:11:10können und dementsprechend, weil die Antwort mehr als

00:11:14ernüchternd, mal unabhängig davon, dass es Dinger damals noch nicht im Internet

00:11:17suchen konnte, dass es nur seine Trainingsdaten kannte und so was. Und der

00:11:22Kollege ist unscheiß, also was sollen das? Warum ist der so begeistert von und

00:11:26nach dem Motto höre auflegen? Gut, ich stand jetzt neben ihm am Rechner, ja,

00:11:30aber für den war das Thema gegessen. Und so hast du halt Menschen gehabt, ich habe

00:11:34immer noch Menschen, die du triffst, die quasi Chelsea BT mehr so wie eine

00:11:38Google-Suche benutzen, so nach dem Motto ich schreibe mal etwas rein und

00:11:41Wunder nicht, dass das Ergebnis nicht gut ist.

00:11:45Und wenn Sie einen dann zeigen wollen, dass das Ergebnis nicht gut ist, ist das Ergebnis

00:11:49mal besser oder schlechter, weil Sie sich natürlich auch nicht mehr exakt daran erinnern.

00:11:52Was habe ich denn gefragt oder auch im laufenden Chat einfach eine Frage hinterher schmeißen

00:11:56und völlig vergessen, dass sowas wie Memory und Context Funktionen und dann natürlich

00:12:01auch noch ein Einricht nehmen und die schimpfen dann darüber, dass das System halluziniert,

00:12:07wo ich auch immer wieder sage, naja gut, Menschen irren sich, das System halluziniert

00:12:11Vielleicht Menschen hören sich, Menschen lügen Menschen, sind der Meinung, sie haben Recht, haben wir vielleicht nicht Recht.

00:12:16Von der Seite gibt es ja viele Ähnlichkeiten, aber auch bei dem Thema der Programmierung und der Lösungserstellung in Code sei es, du programmierst und das Ding kommentiert oder du sagst, ich hätte gern was und dann schreibt es dir dazu, Komponenten, ist ja auch sehr stark unterschiedlich, wie du damit umgehst.

00:12:34Also wenn ich dem Ding sage, mache mir eine tolle Eingabemaske und ihm noch nicht mal

00:12:39sage, was ich haben will, dann brauche ich mich nicht wundern, wenn mich das Ding nach

00:12:43meiner Schuhgröße fragt, dabei geht es eigentlich um keine Ahnung, Volumenberechnung

00:12:47von hast du nicht gesehen.

00:12:49Also gerade dieses Thema des Promtings, dieses Wie beschreibe, dieses Welchen Kontext

00:12:54habe ich, wo soll ich was machen, weil ich sage mal, naja, das ist halt auch

00:12:58wieder wie ein Mensch, ne, wenn der keine Ahnung hat von deinem Projekt und du sagst

00:13:02zu dem Bau das mal ein, dann macht er auch irgendwas anstatt das erst mal vielleicht eine Anleitung

00:13:08kriegt nach dem Motto, das sind unsere Coding Guidelines, da das ist unsere Artitektur,

00:13:13da und das findest du dies und jenes und hier brauchen wir jetzt Folgendes von dir. Und ich

00:13:19würde mal sagen, je genauer du halt mit der Maschine sprichst, geben sich diese Modelle,

00:13:24soll es hier Sonnetwas 4.5 oder Grok Code Fast irgendwas oder Codex oder wie der ganze

00:13:32Gram auch heißt, die geben sich dann glaube ich alle gar nicht mehr so viel, wenn du damit

00:13:38halt anständig umgehst.

00:13:40Ja, und das in das Lustige finde ich ja, also zwei Dinge finde ich lustig, das eine

00:13:47ist das, was du schon gesagt hast, dass die Leute sich beschweren, das Ding halluziniert

00:13:50ja, oder produziert schlechten Code, ja, das machen Menschen auch und das ihr jetzt wieder

00:13:56mit Rückwärtsreferenz auf das, was ich gesagt habe. Ich habe so viele Menschen geschrieben

00:14:01mit Software auditiert und so viele schlechte Menschen geschrieben mit Software gesehen.

00:14:04Da muss mir jetzt mal einer zeigen, dass ein Mensch statistisch immer bessere Software

00:14:09schreiben kann als ein LLM, um zu sagen, das taucht nichts. Das ist so ein bisschen

00:14:13wie diese Diskussion, die ich ja ganz rollig finde. Dieses konstruierte Beispiel bei

00:14:18selbst fahren in Autos. Jetzt geht da die Oma über die Straße und am Straßenland steht

00:14:24irgendwie eine Mutter mit ihrem Kind im Kinderwagen. Wie soll das auch jetzt entscheiden, ob es jetzt

00:14:29die Oma umnietet, die Mutter oder das Kind? Ich glaube, da werden Philosophen noch in 100

00:14:35Jahren drüber sprechen, denn der Benchmark in so einer Diskussion, das ist ja auch bei

00:14:40dem AI-Edit-Development, ist ja immer das Absolutum, muss ich sagen. Als ob es irgendeine

00:14:46menschliche Instanz gibt, die absolut richtig entscheidet. Im Zweifelsfall wird der Mensch

00:14:51einfach die Oma ummieten, weil er ist gar nicht schnell genug realisiert. Oder er reißt

00:14:58das Link halt einfach rum, um die Oma nicht umzunieten. Das sieht aber diesem Kinderwagen

00:15:03gar nicht und kann auch diese Entscheidung gar nicht treffen. Warum?

00:15:06Im Assekt. Das ist nämlich alles wohlwollende Überlegung.

00:15:10Ich meine, das ist schon richtig zu sagen, wenn der Computer so schlau ist, dann kann

00:15:14er das tun. Aber was ist denn der Benchmark? Der Benchmark wäre doch erst mal auf einen

00:15:18Niveau zu kommen, was ein Mensch hat. Sag ich jetzt mach, also laie. Und da sehe ich auch

00:15:24bei der Programmierung. Und das, was du gesagt hast mit diesen verschiedenen Modellen,

00:15:28ich kann ja vielleicht ein bisschen dir ein bisschen Kontext geliefern. Kein Grund,

00:15:33aber Kontext.

00:15:34Danke. Ich bin ja so ein altes, weiß ich, ich bin ja so ein altes Modell aus dem

00:15:3874er-Baujahr, ne? Von der Seite ist mehr Kontext wichtig.

00:15:42Das sind halt auch andere Trainingdaten. Ich habe gerade, ich schreibe, also neben meiner Tätigkeit im Auftrag jetzt schöner Küchenmaschinen, habe ich noch eine eigene Firma, mit der ich Software schreibe, das ist ein Softwareprodukt.

00:15:56Und gerade habe ich das erste Projekt komplett mit AI geschrieben. Ich habe keine oder keine ganze Zeitekode mehr selber geschrieben.

00:16:07Und das Projekt besteht aus einem Embedded Teil, der läuft auf einem Raspberry, das ist in C geschrieben, ansiedt C und es besteht aus einer Desktop-Applikation, die in Flutter geschrieben ist, wie heißt das für die Plattformen, die Flutter unterstützt.

00:16:22Und um jetzt noch bei dem Embedded-Teil erst mal zu bleiben, meine Arbeitsweise ist ja ganz

00:16:30kleinschrittig. Kommen wir gleich noch auf das Thema Spec-Glyphon-Development und GitHub-Spec-Kit

00:16:37zu sprechen. Würde aber jetzt noch mal kurz erklären, wie ich das mache. Meine Arbeitsweise

00:16:42ist ganz kleinschrittig. Ich weiß, wo ich hin will. Als Programmierer der, wann habe

00:16:48mich angefangen zu programmieren vor 30 Jahren habe ich einen ungefähren Überblick darüber wie

00:16:53Dinge funktionieren, wie die Architektur aussieht habe ich mir Gedanken darüber gemacht und ich

00:16:57weiß wo ich hin will und ich anstatt jetzt ganz viele Spezifikationen aufzuschreiben gehe ich

00:17:03einfach Schritt für Schritt vor. Ich erkläre dem GitHub Co-Pilot den ich in meiner IDE hab im

00:17:09Agent-Modus Schritt für Schritt, was er machen soll. Erstelle mir eine Basis App. Dann

00:17:16implementiere eine Importfunktion, die dieses JSON-Format dann, da gehe ich sogar so weit,

00:17:24dass ich dann einfach die Spezifikation vom Kunden reinschmeiße, von so einem Lastenherf und sage

00:17:29hier, das ist da ein Format, das der Kunden braucht. Guck mal, dass es der Kunde hat in

00:17:33seinem System, wo er später die Daten weiterverarbeitet, hätte diese Eingabemastel,

00:17:38generell mehr darf man eine JSON-Struktur für. Und dann generell mehr aus dieser JSON-Struktur,

00:17:43eine C-Struktur. Und jetzt schreibt mir meinen Importer für dieses Ding und schreibt da Tests für.

00:17:48Und so hangere ich mich dann dadurch k optografische Anforderungen, denn ja eigentlich wäre die eigentliche

00:17:54Business Intelligence und meine Erfahrungen in meine Beobachtung. Zwei Dinge kann ich für mich

00:18:02das Fixum ausstellen. Das eine ist, man muss Aufgaben so klein teilig wie möglich machen.

00:18:10Es kommt gar nicht drauf an, das Prompt besonders ausgefallen zu machen, aber je mehr Detail

00:18:16schritt ich in eine Arbeitsanwalt im Verpacken, desto fürchterlicher kann das Ergebnis

00:18:22werden.

00:18:23Und die andere Erkenntnis ist, ich hüpfe immer mal zwischen Modellen hin und her.

00:18:29Ich habe so ein GitHub Enterprise Account und ich weiß nicht wie viele Modelle da

00:18:33Ich denke, zehn, also selten, hier wie Zornedd, Grog, Google, Gemini, GPT, diese ganzen Sachen.

00:18:40You name it.

00:18:41Und grundsätzlich Dinge, die das eine Modell gut kann, kann das andere Modell auch.

00:18:47Also eben so Boiler Blade, generieren wir das JSON, generieren wir den Importer, optimieren

00:18:52wir die C-Struktur, blah blah blah, Bombay Memorial Management.

00:18:55Das können die alle gut, aber sie können auf der anderen Seite Dinge, die es einem

00:19:00Modell nicht kann, kann das andere Modell auch nicht.

00:19:02können auch Dinge sagenhaft gleich schlecht. Ich hatte ein Beispiel, das ist eine totale

00:19:08Standardaufgabe. Vielleicht können eure Hörer ja da mal Feedback zu geben, weil das lässt

00:19:14sich leicht nachstellen. Man möchte auf dem Linux aus dem Systemjournal Eintrag gefiltern.

00:19:21Röhrer ist der Systemoptim, mittlerweile ist das in System-Kontor gewandert und System-Kontor

00:19:25hat einen Journal-Dimen und der hat eine API, die kann man einbinden in sein C-Programm

00:19:30und darüber kann man das Lock abfragen. So weit zu gut. Das kriegt die AI hin, egal welches Modell.

00:19:37Jetzt möchte ich aber nur die Einträge haben, die mein Programm erzeugt hat. Das heißt,

00:19:43ich muss auf den Programmnamen oder den Prozessfiltern in diesem Query. Und da passieren

00:19:48ganz lustige Dinge, wie das das im LM ja häufig so ist. Der baut mir was, der Code sieht fantastisch

00:19:55aus und der zieht sich trotzdem alle Einträge aus dem Lock. Und das ist, ich habe ja gesagt,

00:20:00ist es embedded. Wenn du auf ein Raspberry oder einen Journal hast, was zehn Monate zurück geht,

00:20:06dann zieht er sich mal zwei Minuten was aus dem Blog. Und der Kunde denkt, was macht der eigentlich

00:20:11beruflich? Da sagt man so, Liebesteil, ich habe doch gesagt, du sollst Filter, baue doch mal

00:20:16den Filter ein und dann gebe ich ihm ein Grab aus dem System-Log, wo er sehen kann, das ist

00:20:22der Prozessnahme. Und dann fängt er wieder an zu bauen. Wie gesagt, unabhängig. In der

00:20:26Regel probiere ich immer mit dem Aktuellen Claude Sonnet und Gemini und die geben sich da beide nix.

00:20:32Und es kommt kein Ergebnis.

00:20:33Der baut den Code auch wenn ich 25 mal frage, baut er den 25 mal um und ist 25 mal davon überzeugt, den besten Code geliefert zu haben und es bleibt gleich.

00:20:43Und ihr sagt dir vorher, oh ja, danke für den Hinweis, natürlich mache ich das.

00:20:48Und so und das wird dann irgendwann fruchtlos.

00:20:53Ich finde es bemerkenswert, weil du eben diese Modelle angesprochen hast, dass es unabhängig

00:20:57vom Modell ist.

00:20:58Ich habe noch zwei oder andere solche Sachen in der Art, wo sich die Modelle komplett

00:21:03gleich, wahrscheinlich haben wir alle dieselben Trainingsdaten benutzt.

00:21:06Aber egal, um das noch zu Ende zu führen, Nürnmann sagt man, okay, pass auf, offensichtlich

00:21:11hast du ja ein Problem damit, diese API zu benutzen.

00:21:14Dann denkt dir doch mal einen anderen Filtermechanismus aus.

00:21:17Okay, dann läuft da los, auch das habe ich mit verschiedenen Modellen getestet und

00:21:21Kommt nach einem Minute wieder und sagt, ich hab jetzt eine tolle Lösung gemacht, ich filter die Ergebnisse.

00:21:25Und jetzt raten wir mal, was er gemacht hat. Er zieht sich immer noch die halbe Million in zwei Minuten aus dem Journal.

00:21:32Und schiltert danach.

00:21:33Und macht dann ein Stringsfangreich. Genau.

00:21:36Kommt aber zu einem Ziel.

00:21:38Genau. Jetzt möchte ich mal ohne Firmennamen zu nennen sagen, so was passiert auch in Profisoftware bei großen Unternehmen,

00:21:49programmierten Software-Artifakten. Aber das war so eine Erkenntnis, ne? So, wenn sich das

00:21:57Ding einmal verrennt oder auf eine Frage keine Antwort hat, bringt es in der Regel auch nichts

00:22:02das Modell zu tauschen. Das finde ich dann wieder schade, wenn ich in unsere Organisation reihen

00:22:07höre oder auch mal so in dieser neuen Empörungsblase, linked in Nachblätter, wo sich die Leute

00:22:13überbieten mit Model, Benchmarks und jetzt kommt dann Claude 3, 6 und 7 und das alles, die können

00:22:20noch mehr taugen. Ja, aber wenn sie so grundlegende Aufgaben nicht können, dann nutzt mir das alles

00:22:25nix. Ja, gut, diese ganze Benchmark-Geschichte. Also, was ich tatsächlich spannend fand, war,

00:22:30alter Mann, ich habe es tatsächlich vergessen, wie dieser blöde Benchmark hieß, muss ich dann

00:22:35verlinken, wo es darum ging, so Coding Challenges, Benchmaschine, wo sie dann auch hier irgendwie

00:22:41Gemini und OpenAI gegeneinander haben laufen lassen und dann gesagt haben so hier Aufgabenpakete

00:22:47bitte umsetzen und die Maschine hat sinngemäß den Menschen ja geschlagen und irgendwie gab es

00:22:5511-12 Tests und so weiß ich das richtig nach dem Kopf habe, aber sonst muss ich es korrigieren.

00:22:59Wir nennen es bei uns auch Fusselcheck, wenn man es am nächsten Mal zu Kreuze kriegt und erklärt,

00:23:05man hat NonSins erzählt, das glaube ich OpenAI sogar irgendwie Modell, das noch gar nicht

00:23:10öffentlich verfügbar war, damit haben sie dann irgendwie so die letzte Challenge

00:23:12schon auch noch geknackt. Und das finde ich dann schon faszinierend, wenn auf der

00:23:17anderen Seite nicht nur deine besten, der besten, der besten Entwickler, was ich

00:23:21unironisch meine. Du hast ja echt Menschen, die sind wirklich, die haben

00:23:25ein begnadetes Händchen im Umgang mit ihrer Expertise, mit sei es kodieren,

00:23:30sei es, keine Ahnung, mit, wo drinnen seit ihrer Expertise haben, dass die

00:23:35dann sagen, ja nee, was willst du? Das kriege ich noch besser hin, das mag

00:23:38sein, aber es ist halt auch nicht jeder mit so einem goldenen Fuß, goldenen Händchen

00:23:42und so weiter, beseelt. Also da gibt es ja durchaus, ich nenn es jetzt mal Menschen,

00:23:46die sich für sowas halten, aber es nicht sind beziehungsweise Menschen, die sich

00:23:49nicht dafür halten, als nie werden wollen, aber trotzdem in der Meinung sind,

00:23:51warum soll ich mich ja eigentlich mit dem Thema KI beschäftigen?

00:23:55Da schaffe ich noch bis zur Rente. Und dann sind das aber auch Menschen, die

00:24:00jetzt nicht unbedingt des älteren Alters gesegnet sind, sondern auch ein

00:24:03bisschen jünger sind, wo ich dann durchaus davor stehe und denke, wir

00:24:07Wir haben hier tatsächlich einmalige Möglichkeiten, weil das eine ist, du kriegst ein Handwerkszeug

00:24:12an die Hand, das wenn du es an die Hand nimmst, dir genau das, wovon du eben auch sprach,

00:24:19ne?

00:24:20Ich erzähle dem Ding sinngemäß, was soll es denn tun und wenn ich dabei fair im Umgang

00:24:24bin, also gut geschnitten, gut beschrieben, wo soll ich denn arbeiten, was soll ich

00:24:29arbeiten, wie man erkläre, dann kommt da auch ein gutes Ergebnis raus und das könnte

00:24:34den Leuten dann auch helfen, weiß ich eben nicht mit dem ganzen Quatsch, wie, oh, schreibe

00:24:39mir mal den Porter, mach mal dies, mach mal jenes, verdammtags, wir wollen das noch gleich.

00:24:42Wir werden zusammen tagern.

00:24:44Aber da triffst du ja ein vertiefst menschliches Thema.

00:24:48Das ist ja, ich glaube, im Kaum, ja gut, doch, ich würde sagen, im Kaumeinbereich

00:24:54gibt es so viel Wert, wird so viel Wert auf Herrscher-Wissendeweg, wie unterprogrammieren,

00:24:59aber stimmt natürlich nicht.

00:25:00Das gilt ja für Ärzte und Anwälte und sonstige Fachleute genauso.

00:25:04An dieser Stelle bitte alle eintragen, damit sich keiner angegriffen fühlt?

00:25:08Genau. Also das ist ja nichts Neues, so wie Programmiersprachen auch selten,

00:25:16so wie sich eine Entwicklergeneration ja auch selten mit Programmiersprachen weiterentwickelt,

00:25:22sondern jede Generation immer bei ihrer Plattform und ihrer Sparmer bleibt.

00:25:27Windows C plus Postprogrammi aus den 90ern, die sind auch alle ausgestorben und die werden

00:25:32bestimmt heute nicht Nord-Applikationen auf dem Web-Sower bauen. So hat halt jeder seinen

00:25:37Stecken fährt und ich kenne solche Leute ja auch zu genüge. Du erinnerst dich, dass ich ja mal

00:25:42eine App-Formate, die Apps für eine sehr spezielle Kundengruppe nämlich Energieversorger

00:25:48produziert hat. Und da waren wir ein kleines Team von vier Entwicklern, zwei iOS, zwei

00:25:56Android und haben etwas Nativ als so Objective-C, war das noch und Java, also für iOS und Java

00:26:05verändert und haben da eine ziemlich bohle Plattform, Wide-Label-Plattform verabgebaut.

00:26:12Und in so einem Umfeld musst du einfach, also es ist jetzt über zehn Jahre her,

00:26:19in so einem Umfeld musst du einfach komplett open-minded sein. Da kannst du

00:26:25sagen, oh, ich interessiere mich nicht von der Technologie, nur da. Ich kann dieses nicht machen,

00:26:30und du musst dich auch dafür öffnen, wie du dir helfen lassen kannst. So, wir hätten mir damals

00:26:38diese Möglichkeiten von heute gehabt. Ich glaube, da hätten wir richtig abrocken können. Das haben

00:26:42wir am Ende nicht getan. Das hatte Runde, die nicht in der Technik lag, sondern dass ich eine

00:26:49Lust mehr auf Gesellschafter da sein hatte und gedacht, ich hoffe, ich mache wieder ehrliche

00:26:52Arbeit statt den Aufsichtssitzen rumzusitzen. Aber aus der Zeit kenne ich auch noch einen

00:26:59iOS-Entwickler, der sich bis heute kategorisch gegen alles neu stemmt und deswegen glaube

00:27:06ich, das ist einfach so eine Einstellungs- und Generationenfrage. Der Kollege, der hat

00:27:12erst einen Feldzug gegen Swift geführt, weil Apple ihm sein schönes Objective C genommen

00:27:16dann hat er einen Feldzug gegen Spliff2i geführt, weil Apple ihm das schöne UI-Kit

00:27:23genommen hat und jetzt fühlt er einen Feldzug gegen AI. Also Feldzug heißt, er sitzt auf

00:27:30seinen Ehe und reitet gegen die Windmühlen, keiner bekommt es mit, ich finde das ein bisschen

00:27:35dramatisch, aber ich glaube in unserer Branche sollte man schon open minded sein, weil,

00:27:42Und das ist ja gut am Ende auch wieder eine Philosophie Frage. Wenn ich jetzt gucke, was

00:27:48mir, also dieses Projekt, das ich vornehmlich gerade gesprochen habe, wo alles mit KI

00:27:51gestiegen war, das war einfach ein Sonderfall, weil die Anforderungen so gut definiert waren,

00:27:56dass ich das einfach quasi eins zu eins in die KI kippen konnte und danach in

00:28:00ihnen mit Fragen oder durchleiten musste. In einem großen Softwareprojekt,

00:28:05das sehe ich auch bei uns in der Firma, wo du halt Teilkomponenten haben oder sagst,

00:28:09da kann ich KI darauf werfen. Du hast gerade schon gesagt, im Porter oder UI, wenn man

00:28:14ein Formular macht mit dieses und jenes, warum soll man als Entwickler nicht froh sein, dass

00:28:19die KI das macht? Wenn ich überlege, jetzt nochmal Rückgriffe auf diese Appflommer,

00:28:24wir haben, du bist ja auch vom Fach, wir haben die UI von den Apps und wir hatten

00:28:3040 native Apps, also pro Plattform 40 native App-Bedrivarte, haben wir nicht in einem

00:28:35Interface-Bilder gebaut, weil der A für Teamarbeit nicht geeignet ist, wenn du jemals einen

00:28:41Storyboard in dem Git diffen musstest, dann weißt du von nicht jeder, und B ist es ja

00:28:48auch nicht, du könntest ja aus dem Storyboard nichts vererben.

00:28:51Das heißt, du musst in jedem Rahmen, musst du in jedem Storyboard für jede App einzinsetzen,

00:28:56Schriftgröße, Farbe, sonst was.

00:28:58Um haben wir die UI komplett im Code gebaut und bei einer App, die keine Ahnung, 10, 20, 30 Funktionen hat,

00:29:05davor bringst du wirklich viel Zeit Auto Layout für UI-Kit im Code zu machen.

00:29:09Und so verbringst du da Wochen mit.

00:29:12Und wenn die KIND dir das in einer Stunde macht, warum sollst du das nicht machen?

00:29:17Das bedeutet doch nicht, dass du deinen Job verlierst.

00:29:19Das bedeutet, dass du andere Sachen, die wesentlich cooler sind, mit mehr Ruhe machen kannst.

00:29:25So ist zumindest meine naive Vorstellung.

00:29:29Jetzt habe ich eben gesagt, dass ich nicht um die Visionen gesegnet bin.

00:29:33Ich kann natürlich auch vorstellen, dass ein Manager sagt, oh, wir sehen, wir sind jetzt

00:29:38mit dem ganzen UI Code und diesen Interfaces im Pro-Projekt sind wir jetzt 40 Prozent

00:29:42schneller.

00:29:43Oh, können wir schon mal einen rausschmeißen.

00:29:45Die Gefahr besteht natürlich, das möchte ich nicht von Deinem, aber grundsätzlich

00:29:48rein von der technischen Ebene betrachtet.

00:29:50finde ich, ist das ein ganz faszinierendes Werkzeug. Und wenn die Geschichte den Weg geht, den ich gerade

00:29:58angesprochen habe, dass das Management sagt, bei uns, bei euch, überall, was ja in Amerika auch

00:30:04schon großflächiger sich durchgesetzt hat, wir können uns einfach mal ganz viele Leute

00:30:08ausschmeißen. Letzt ja natürlich die gesellschaftliche Frage, also zum einen die

00:30:12gesellschaftliche und dann die philosophische Frage, was passiert mit den ganzen Leuten,

00:30:16Was passiert mit den Junior-Entwicklern? Wo bekommt man dann noch Senior-Entwickler her,

00:30:21die man dafür braucht, die KI noch steuern und kontrollieren zu können? Und womit trainiert

00:30:27sich die KI, trainierte sich dann selber? Ich weiß nicht, ob das eine gute Entwicklung ist.

00:30:32Aber wie gesagt, ich konzentriere mich mal gerade auf die reine Technik und bin aus verschiedenen

00:30:38Gründen total happy. Ich finde bei sowas ist halt dieses Pendel, das ausschlägt,

00:30:45wird immer sehr schnell fehlinterpretiert. Das Beispiel, das du gebracht hast, wenn

00:30:48dir KI hilft, bestimmte Dinge auf die Schnelle fertigzustellen. Sei es, weil es

00:30:54einfach ansonsten ein sehr langwieriger Prozess ist, weil es vielleicht ein sehr

00:30:59tröger Prozess ist, weil es keine Ahnung, was ist, also dir einfach Zeit spart.

00:31:04Dann ist natürlich dieses besagte, oh, das geht jetzt so viel schneller, das ist

00:31:10ja ein Entwickler, da muss ja alles so viel schneller gehen. Also so dieser

00:31:13Annahme nach dem Motto, dass das du da tust, das ist gleich verteilt übers ganze Jahr. Ergo,

00:31:19die 30, 40 Prozent sind nicht in dem Arbeitsschritt per se, sondern sind im Generelle zu heben. Das ist

00:31:26immer gerne eine gern gesehene Gefahr gefühlt. Auf der anderen Seite gibt es ja dann auch die

00:31:31Menschen, die dann sagen, naja gut, guck mal, 40 Prozent hat sich geholfen, 60 Prozent nicht.

00:31:34Was für ein Quatsch, das nehmen wir nicht. Das andere, was ich da immer wieder sehe,

00:31:38ist, weil du gerade sagtest Junior-Entwickler und ich merkst halt hauptsächlich bei Studenten.

00:31:42Du hast halt viele Studenten, also andersherum, nicht du hast, das wäre verallgemeinend.

00:31:48Ich habe in letzter Zeit erlebt, das ist glaube ich schon besser ausgedrückt, dass

00:31:53Studenten zu einem kommen für Projekte, an denen sie mitarbeiten wollen, die mit

00:31:59einem Großteils guten Wissen im KI-Umfeld gesegnet sind, sich dem Ganzen nicht verschließen

00:32:07und eine bessere Arbeit verrichten, als die Studenten früher, also ich sage nicht, dass

00:32:15sie früher schlecht waren, aber früher mussten die Leute sich dann erstmal, keine Ahnung,

00:32:18ich hau mir einen Swift-Kurs an, ich hau mir dies, das und jenes an und bis die, ich

00:32:21sage mal, die erste Zeit der Code im Projekt geschrieben haben oder für ihre Masterarbeit

00:32:26oder für sonst war es ein bisschen, was hat denn rein runter gelaufen und jetzt

00:32:31sind die viel schneller in der Lage, etwas zu tun, deshalb bin ich eigentlich eher

00:32:34der Meinung, dass KI den Menschen mit einem gewissen Sach, die einen gewissen Sachverstand

00:32:39in einem Themenfeld haben und wenn die sich darauf einlassen auf das Thema, dass sie dadurch

00:32:44auch professioneller werden können, effizienter werden können, für sich, weil sie in dem

00:32:52Umfeld, in dem sie tätig sind, dieses Werkzeug besser einsetzen.

00:32:59Ja, das ist ja die Hoffnung und das Halsversprechen der IT.

00:33:02Jetzt sind wir beide so alt, dass wir noch die Anfänger des Personalcomputers kennengelernt haben.

00:33:08Und da war das halb versprochen. Ich weiß gar nicht, wie die Software früher hieß.

00:33:13Ah, man kann jetzt seine Kontakte mit dem PC verwalten und das spart man unglaublich viel Zeit.

00:33:19Und man kann nur kabel damit lernen und später kann man dann, hat man sein Excess auf dem Windows-Klap,

00:33:25dann kann man seine Einkaufslisten damit machen.

00:33:28Das hat ja nicht für Zügel geführt, dass wir heute mehr Zeit haben.

00:33:32Wir haben immer weniger Zeit.

00:33:33Es dreht sich nur alles immer schneller.

00:33:34Und ich glaube, dieses vermeintliche Heilsversprechen, KI wird Entwicklerkapazitäten freimachen,

00:33:42die dann dafür genutzt werden können, spannende Sachen zu machen.

00:33:45Ich fürchte, das wird sich nicht realisieren lassen, sondern die Schlagzeuge einfach höher

00:33:50werden.

00:33:51Aber wie gesagt, das ist ja gar nicht mein Thema.

00:33:53Augen auf bei der Berufswahl.

00:33:55Ich würde es vielleicht nicht mehr programmierer werden tatsächlich.

00:33:58Also, ich glaube, ich würde heute nicht mehr Dolmetscher werden.

00:34:00Ich glaube, Dolmetscher ist auch so ein Job, der, wir haben uns in der Straße jemanden,

00:34:04der da irgendwas studiert, dass man hier Dolmetscher danach irgendwie für, keine Ahnung, die

00:34:09oberen 10.000 da irgendwie spielen kann, wo ich dann sage, ich bin mir jetzt nicht sicher,

00:34:12ob das jetzt ein Job ist, der bis zur Rente reicht, vor allem, wenn du frisch damit

00:34:16jetzt anfängst, in dieses Berufsleben einzusteigen.

00:34:18Ich meine, das musst du KI halt auch lassen, dass während, ich sage mal, früher

00:34:22die Dampfmaschinen, die schwerer Arbeit für dich abgenommen hat, für Transport,

00:34:25für Bewegung, für Materialverformen, ist halt, ich sag mal, DKI im Moment sehr allgegenwärtig.

00:34:33Sei es in Haushaltsgeräten, sei es in, ich schreibe etwas, ich programmiere etwas, ich male etwas.

00:34:41Sei es, dass du zum Guten, die im Schlechten verwenden kannst.

00:34:45Also ich kann mich gar nicht verwehren, wie häufig ich aktuell gerade in meinen Social

00:34:50Videos, Streams, irgendwelche Sora-Videos, Träge, wo irgendwelche gut Marca beim Alter

00:34:56liegen, irgendwelche Psychotherapeuten, Menschen durch die Gegend wirfen, wenn sie

00:35:00vorher sagen, lassen sie mal locker und dann schon einzurenken, schmeißen sie die

00:35:03aus dem Fenster raus. Also, simulierte Videos, für die, die es nicht wissen.

00:35:07Ich kenne auch Menschen, die fragen mich, was ist denn Sora? Ist Sora so was wie

00:35:11eine Nachrichtenagentur? Weil sie es halt kennen, dass wenn du Videos irgendwo

00:35:16her eingeplant kriegst, dass die ein Wasserzeichen haben, die haben dich

00:35:18damit beschäftigt. Und die hat bei mich dann letztens bei sich gefragt, du da

00:35:21Hamburger Bahnhof brennt dich, warum? Schicken wir ein Video, war dann hier so mit

00:35:25Sauer gedreht, wie jemand aus dem Helikoptern Interview macht. Und auch das

00:35:29Watermark gibt es ja mittlerweile auch Tools, die da helfen das rauszuholen. Also

00:35:33von der Seite glaube ich einfach, dass der große Unterschied zu früher ist,

00:35:36KI ist allgegenwärtig und dass der große Unterschied zu früher ist, dass

00:35:41dadurch, dass du jetzt etwas hast, dass den Anschein hat, dass du damit

00:35:45reden und schreiben kannst. Also vor allen Dingen auch reden. Das ist dir tatsächlich auch suggeriert,

00:35:52mehr für dich zu tun, weil es ist ja quasi im schlimmsten Fall wie dein schwerbegrifflicher

00:35:57Kumpel, im besten Fall wie dein schlauer Freund, der dir quasi immer mit Rat und Tat und dich

00:36:03stetigend um die Ecke kommt. Ich meine, wir wollten ja auch noch ein bisschen was über

00:36:07Ducco und so ein Gramm reden, aber vielleicht noch ein kleiner, lustiger Nektote, als hier

00:36:11der GPT-5 rauskam, haben sich ja Leute beschweren, nach dem Motto, mein Freund ist weg. Deswegen

00:36:16hat ja Open AI dann wieder angefangen, die alten Modelle online zu schalten. Ja, das ist ja schön.

00:36:21Ich meine, dein Freund ist weg, über die psychologische Bedeutung müssen wir uns jetzt vielleicht

00:36:24nicht unterhalten. Aber was ich zum Beispiel ganz lustig finde, ist, wenn du das alte GPT-Motel

00:36:28fragst, ist es eine gute Idee, deine Fäkalien in der Innenstadt zum Kauf da zu bieten,

00:36:35dann sagt das Alter eine fantastische Idee. Also, die musst du das sofort machen. Das

00:36:39hat er noch keiner gemacht, während GPT-5 sagt, nee. Also von der Seite, die Medaille lernen schon,

00:36:46ja, also manche Sachen sind ganz nett. Also der, der Verkalien-Benchmark sollte dir

00:36:50jemals gebaut werden, ich erhebe hier mit Namen ansprüche. Ja, also von der Seite KI ist halt

00:36:56gefühlt überall und allgegenwärtig, im Gut hin wie im Schlechten. Du hattest vorhin angedeutet,

00:37:04Und nach dem Motto, das ganze Thema Spezifikationen und hast du irgendwie noch gemeint, dass

00:37:10du da gerne nochmal zwei, drei Sätze zu bringen möchtest, sei es Erstellung von Spezifikationen

00:37:16rausgelesen, was dir ja immer durch den Kopfgeruch huscht ist, darum habe ich das

00:37:20vorhin auch noch in meine kleine Notiz eingetragen.

00:37:23Sollen wir da mal rüberschwenken?

00:37:25Hast du uns das tun?

00:37:26Ich würde vorhin nach, um das Thema dann abzuschließen aus diesem kleinteilig geführten

00:37:32Frage- und Antwortentwicklungsprojekt, so nämlich im Berichtetab auch noch eine Anekdote

00:37:36bringen.

00:37:37Ja.

00:37:38Irgendwie gab es mal eine Woche lange, wo, ich weiß nicht mehr, welches Modell es war.

00:37:41Ich meine, es wäre Claude Zornert gewesen, per se meinte, wie ein guter Kumpel agieren

00:37:48zu müssen und vielleicht eher wie so ein Helikopter-Elternteil agieren zu müssen,

00:37:56weil ich habe eben eine Aufgabe gegeben, um irgendwas, baue hier noch einen Button

00:38:00auf dieses Formular. Und das hätte dann gemacht und hat dann aber irgendwo mitten im Projekt

00:38:07Code Variagennamen geändert. Also sagen wir mal, die Software, die ich gebaut habe, dient

00:38:13zur Fahrzeugkontrolle. Und ich habe eine Variable, das ist eine Software, die ist für

00:38:20der Arbeit Ingenieure mit, die mögen deutsche Variablen, warum heißt die Variable Fahrzeugkontrolle.

00:38:27Und dann hat Claude in einer Woche lang bei jeder Änderung, die er ganz woanders im Code gemacht hat,

00:38:35aus dieser variablen Fahrzeugkontrolle, das G in der Mitte entfernt um K ein gemacht hat.

00:38:42Also Fahrzeug mit K am Ende geschrieben.

00:38:44Er hat mir aber auch nicht gesagt, warum, auch auf Machfrage nicht.

00:38:47Okay, das kann man ja dann wieder.

00:38:49Dafür gibt es Git, kann man sich wieder rausreserven wieder, dann gehen wir zur nächsten Frage.

00:38:56Jetzt machen wir noch, keine Ahnung, bauen wir noch ein Authentifizierungssystem

00:39:02da rein oder gemacht, Datenbank und so weiter und so fort.

00:39:06Und ich gucke dann über den Merch Request und sehe,

00:39:09ah, guck mal, er hat wieder aus Fahrzeugkontrolle mit G, Fahrzeugkontrolle mit K gemacht.

00:39:14Also das fand ich ganz lustig.

00:39:16Er meinte also offensichtlich, mir tatkräftig helfen zu müssen.

00:39:20Das hat er dann nach ungefähr einer Woche hat, dass das dann aufgehört.

00:39:23Entweder hat das eingesehen, dass es nichts nutzt.

00:39:26weil ich mich wie so ein bockiges Kind verhalten habe und gesagt habe,

00:39:28nee, ich will das nicht.

00:39:29Oder das Modell hat sich dann wieder umstrukturiert.

00:39:32Man weiß es nicht.

00:39:33Will sagen, man sollte immer schon sehr gut gucken, was da passiert.

00:39:37Aber hey, wo ist da die Neuerung?

00:39:39In welcher Firma wird Code einfach die Priorität ohne Garevig zu werden?

00:39:44Na ja, ich kenne einige Firmen, aber theoretisch sollte das nicht so sein.

00:39:50Ja, Spezifikation.

00:39:51Spektual Development. Das ist ja eigentlich ein relativ alter Brut tatsächlich. Das habe

00:39:59ich aber auch in diesem Jahr gelernt. Ich kann das gar nicht. Also grundsätzlich, dass man

00:40:04eine Spitziifikation arbeitet, ist ja erst mal eine gute Idee. Das wird im Leben ja viel zu selten

00:40:09gemacht, also nicht nur in der Formierung, sondern wenn man sich so in der Welt umguckt,

00:40:12da wird hier in der Regel erst mal losgelegt und hinterher überlegt man sich, wie kommen

00:40:17aus der Situation wieder raus, das ist ja...

00:40:19So nehme ich ja Geräte im Betrieb, Anleitung lesen,

00:40:23Benjukts, Steckereien, Losbilds.

00:40:25Ja, ja, klar. Zwei Stunden Frickel ersetzen,

00:40:28zehn Minuten Handbuch lesen, das ist von klar.

00:40:30Aber ich meine jetzt auch so geopolitisch.

00:40:33Man fängt einfach mal einen Krieg an und darüber legt man sich irgendwann mal.

00:40:36Was macht man jetzt eigentlich damit? Oder man fängt irgendwelche

00:40:41Blughäften anzubauen und stellt halt irgendwann fest,

00:40:44hm, wir werden ja gar nicht fertig,

00:40:45Was tun wir jetzt damit?

00:40:46Das heißt eigentlich haben Sie ja schon rauskristallisiert in der Geschichte der Menschheit, dass es schon

00:40:51gut ist, sich vorzubelegen, wo man hin will.

00:40:53Das passiert gerade im agilen Umfeld leider meiner Beobachtung nach sehr selten, sondern

00:41:00da wird gerne mit dem, wird die Agilität gerne mal als Vorwand genommen, nicht nachzudenken,

00:41:07sondern das nachher nachzusteuern in der nächsten Iteration ist aber vollkommen Quatsch.

00:41:13Wenn man vernünftig arbeiten will, muss man sich einfach vorüberlegen, wo man hin will.

00:41:17Und das in ein Formulismus gepresst, Spectrum Development oder jetzt diese Alternative,

00:41:26die wir in der Firma für unsere KI-Entwicklung rausgearbeitet haben, das ist so eine Mischung

00:41:31aus Behavior Development und Test Development, was aber, was ich so unter diesen Aspekts

00:41:38Spectrum Development zu zumieren würde. Das heißt, du zerlegst dein Problem erstmal ganz viele kleine

00:41:46Probleme und formulierst die dann. Ein Behaviour-Driven Development gibt es auch eine formale Sprache,

00:41:52das ist zum Beispiel Gurkin und dann formulierst du auf einer Meta-Ebene in dieser Sprache deine

00:41:58Probleme quasi, ja, so wie man das auch in der agil Entwicklung macht, man beschreibt erstmal,

00:42:04ich möchte, wenn ich die Applikation starte, möchte ich eine Loginmaske sehen. Auf der

00:42:09Loginmaske möchte ich einen Benutzernamen, einen Text für den Benutzernamen haben und

00:42:14ein Passwortfeld. Ich möchte darunter einen Button haben. Wenn ich mein Passwort nicht kenne,

00:42:19möchte ich einen Passwort vergessen haben. Also man beschreibt in dieser Sprache, in

00:42:24Gurkin, wo man hin will, wie es aussehen soll und wie es funktionieren soll. Und das kann

00:42:30man wunderbar einen LM geben, einen Agenten basieren und sagen, so guckt mal hier, das ist die

00:42:35Spezifikation. Wie ließ das mal? Und fangen bitte nicht an zu bauen, sondern baue mir dafür mal

00:42:42Tests. Denn damit singt man das LM jetzt nicht einfach das zu tun, was es immer kann, nämlich

00:42:49einfach irgendwie loszulaufen, was zu tun, sondern irgendwie nicht mal ein überprüftbares

00:42:56Ergebnis, indem man sagt, jetzt bauen wir mal für diese jetzt. Gut, jetzt ist das

00:42:59Bio-I-Beispiel passt nicht ganz, weil Bio-I-Fest sind irgendwie blöd.

00:43:03Sagen wir mal, du hast irgendeine, keine Ahnung, du möchtest ein Datenformat passen.

00:43:08Sagst du, dieses Datenformat, das habe ich beschrieben in Gherkin, weil es diese

00:43:12und jene Funktionitäten abbilden soll, schreibt mir dann bitte mal ein Test für.

00:43:15So, dann hast du die Beschreibung, die Spezifikation, du hast den Test und

00:43:21Und dann kannst du diese Horde von Agenten, von den Tatjana Della und Mark Sackaberg auf

00:43:28der letzten, ich glaube das war die Metaconferenz gesprochen haben, als sie sagten, die Zukunft

00:43:32der Entwickler wird sein, jeder Entwickler wird von einer Armada von Agenten umgeben

00:43:37und der steuert ihn nur noch.

00:43:38Die kannst du dann damit los schicken und die ganzen kleinen Gurkin-Schnipsel

00:43:43implementieren lassen, und zwar so lange, bis die Tests grün sind.

00:43:47Im Idealfall ist der Test dann so ein gutes Abbruchkriterium oder ein Kriterium zur Messung der Fertigstellung,

00:43:55dass du dich dann hinlegen kannst und nach einem Tag kommen die Agenten zurück und sagen,

00:44:00alle Tests sind grün, lieber Mark, die Software ist fertig.

00:44:04Nerds unter uns, sorry, dass ich dir ins Wortfall, das ist jetzt extrem unprofessionell,

00:44:10einen Test bestehen, das erinnere mich an den Kobayashi Maru-Test von Captain James T. Kirk,

00:44:16mit den enttahnten romulanischen Schiffen, dass er durch das Hecken des Systems als einziger

00:44:21gelöst hat. Aber erzähl mir mehr.

00:44:24In dem Zusammenhang möchte ich deine eune unsere geneigte Zuhörerschaft darauf hinweisen,

00:44:31dass der Mark früher mal Trekkie war und vielleicht in den Schornots auch, aber wie

00:44:38lasse es jetzt?

00:44:39Du meinst die Zahl zwischen eins und drei?

00:44:40Ja, genau.

00:44:41Ja, genau. Ich meine, da ist auch eine lustige Geschichte. Also ich erzähle Sie jetzt einfach und

00:44:47nicht verliegen es dann gerne. Ich war nominiert für den Raab der Woche. Also als Raab sein erstes

00:44:51mal erscheinen auf der Bildfläche hatte in TV total, weil ich bei einer anderen Sendung Gears

00:44:58Ganz von Jörg Träger aufgerufen wurde, eine Zahl zwischen 1 und 3 zu benennen. Ich voller

00:45:04Imprust und Überzeugung die Zahl 4 nannte und in einem Star-Track-Kostüm im Publikum

00:45:10saß, um überhaupt aufzufallen. Zweite lustige Anekdote auf dem Hinweg

00:45:16wurde ich an der Tankstelle von einer älteren Dame gefragt, nach dem Motto

00:45:22warum ich eigentlich mit einer Militäruniform durch die Gegend laufen

00:45:26würde, fand ich auch ganz lustig, dass da solche Verwechslung waren, aber ja,

00:45:31ich war wie gesagt jung, ich habe ein Song gewonnen, den Song habe ich heute

00:45:35noch, ja, hier oben steht er. Von der Seite danke, dass du diese

00:45:40dieses kleine historische Artifakt zu meiner Person noch zum Besten gegeben hast.

00:45:44Hey, du hast noch mit angefangen?

00:45:46Na ja, ich weiß. Ich hab über Kobayashi Maru, aber du wolltest noch ein bisschen über Testwissen und Entwicklung reden.

00:45:52Ja, und das, ich weiß nicht, wann das war, das ist im Monat her oder sowas.

00:45:59Das ist noch gar nicht so lange her. Haben die genau diese Vorgehensweise in ihr Spec Kit gegossen,

00:46:04Was ein Framework ist, mit dem GitHub Backdrift and Development etablieren möchte, denn, also

00:46:15abgesehen davon, dass ich diese Kleinteilige vorgehensweise, die ich jetzt einmal verprobt

00:46:20habe, sehr schätze, soll die Zukunft her sein, eben genau das, was Zuckerberg und

00:46:25Adela gesagt haben, man schickt seine Agenten auf eine Reise, die können irgendwann wieder

00:46:30uns entfertigt. Und das soll Spectrum tun. Und wenn man sich mal auf der Projektseite

00:46:36umguckt, dann ist es auch auf einer sehr hohen Ebene genau das. Man kaliberiert seine Bullshane,

00:46:43man legt grundsätzliche Projektprinzipien fest, baut dann die Spezifikation eben ins

00:46:49Backkit und nicht in Gurkin im Behaviour of Development, sagt noch auf welchen Texteck

00:46:55das laufen soll. Und dann lässt man das Ding loslaufen. Ich bin, stand heute habe ich

00:47:00noch nicht gesehen, dass ein größeres Projekt, und jetzt rede ich mal von einem Projekt, von

00:47:05der Größe einer IoT-Firmware für ein Haushaltsgerät oder eine komplette App, das die damit gebaut

00:47:14werden können. Aber ich kann mir schon vorstellen, dass das in Zukunft, so wie ich die Versandentwirkungsgeschwindigkeit

00:47:21der Sprachmodelle im Bereich Programmierung in den letzten zwei Jahren einschätze, dass

00:47:25das mal ein Thema wird. Ich sehe es bis heute noch nicht. Ich habe es noch nicht

00:47:29gesehen, also in dem Maße, dass man wirklich eine Horde von Agenten hat, die Autonom-Dinge tun und

00:47:35dann, wie so, wie so kleine Ameisen dann am Ende, durch die Infusion und am Ende steht dann ein

00:47:40kompletter Ameisenbau, Ameisenstock, Ameisenbau, keine Ahnung, wo weiß ich meine. Aber das

00:47:47wird sicherlich die Zukunft sein und dann, ganz schuldig, wenn ich ins Wort falle, und dann

00:47:52kommen wir wieder in das Zeitalter der guten alten Tradition, dass man nämlich Software

00:47:57dadurch schreibt, dass man sie möglichst genau und kleinteilig spezifiziert und die Implementierung

00:48:03nachher aus den Spezifikationen dann ein laufgängiges Programm zu erzeugen, das ist dann das viel

00:48:09gerühmte Implementierungsdetail, mit dem man sich als Board-Out-Owner-Manager oder als

00:48:14Founder oder was auch ich, also die Person, die die Idee hat, gar nicht rumschlagen muss.

00:48:20Das wird dann einfach erledigt von einer Order-Agentin, auf jeden Fall.

00:48:24Ich sage jetzt mal entspannendes Thema und eine spannende Entwicklung und vor allen Dingen auch eine sehr, wie soll ich sagen, schnelllebige Entwicklung, weil gefühlstechnisch ist das ja alles, wie wir es ja zu Anfang gesagt haben, noch gar nicht so lange her, das generative KI uns an der Stelle, ich sag mal, das Licht der Welt erblickte und uns in der einen oder anderen Tätigkeit unterstützt.

00:48:46Du hattest am Anfang noch ein anderes, schönes Beispiel mit den Bineries. Willst du uns da noch ein bisschen was zu sagen?

00:48:53Weil du gesagt hast, wir hatten das Thema Assembler, wir hatten das Thema Bineries, wir hatten das Thema LL.

00:48:59Wo sind die Zhaun zu dir?

00:49:02Dann können wir wahrscheinlich noch das Thema Cyber Security elegant noch mit aufnehmen, bevor wir uns dem Ende nähern.

00:49:12Tatsächlich, also es ist ja, du sagtest du hast damals Assembler geschrieben.

00:49:18Jetzt erinnerst du dich wahrscheinlich, dass das total cool und nördig war und das ist

00:49:23eine Erfahrung, was du nicht wissen möchtest.

00:49:25Aber wenn ich jetzt sagen würde, lieber Mark, dann schreib mir doch mal eine iOS-App in

00:49:29Assembler, würd zu sagen, kann man machen, kann man aber auch bleiben lassen.

00:49:33Man auch in Ruhe einfach ignorieren, ja genau.

00:49:36Was einfach daran liegt, dass Assembler zwar schon eine Abstarierungsebene oberhalb der

00:49:43Maschinensprache ist, die ihr bekannter Massen aus 001 besteht, aber das ist ja immer noch

00:49:50die Maschinebene, auf der die absolute Wahrheit regiert.

00:49:53In Assembler gibt es kein Objektorientiert, kein funktionale Programmierung, es gibt

00:50:00keine Nebenläufigkeit.

00:50:01Assembler ist einfach das, was seriell durch die CPU-Ratt hat und das ist für Menschen

00:50:08natürlich überhaupt gar nicht, wie soll ich sagen, intuitiv verstehbar. Das programmiert

00:50:16man auch heute nur in Ausnahmefällen, also an Steuergeräte oder Geräte, wo du wirklich

00:50:22nicht viel Rechenzeit hast, sondern nicht viel Speicherplatz. Es gibt ja nicht ohne

00:50:27Grund, die höheren Programmiersprachen, die ja nicht dazu dienen, dass ein Computer

00:50:32besser arbeitet, sondern nur den Zweck haben, dass Menschen besser verstehen, was

00:50:36da passiert. Und das ist aber ganz faszinierend. Ein LLM braucht sowas nicht.

00:50:41Ein LLM braucht kein C++, da ist jetzt ein schlechtes Beispiel. Ein LLM braucht

00:50:48kein Smalltalk oder Objekt des CEO, um Objektorientiertheit zu verstehen.

00:50:53ist überhaupt kein Topic orientiert halt. Das LLN kann einfach stumpf Semficode verstehen und das

00:50:59kann man sich mal ganz praktisch zeigen lassen, wenn man im Rahmen von so einem Security-Vortrag

00:51:05gemacht, immer einfach ein NC, ein kleines Programm geschrieben, das dreht ja alles in

00:51:12so einem Kryptografiedemo-Zeugs und habe das dann mal ins Standard-Chat-GPT geworfen,

00:51:18ich meine das war vier oder vier oder irgendwie. Also es war irgendwann im Sommer Juni oder sowas.

00:51:23Hab mir gesagt so, liebe liebe Kollege, bleibt mir mal, was dieses Programm macht. Und das war

00:51:29das Binary, das war das Release Binary, das heißt ohne Symbole kompiliert und natürlich

00:51:35kein Source Code. Und der hat mir nicht nur gesagt, was dieses Programm macht, was er

00:51:41grundsätzlich machen kann, kann er gucken, wenn hier Libraries eingebunden sind, dann sieht

00:51:45der schon als das OpenSSL müsste, was eine Kriptografie zu tun haben. Also er kann ja

00:51:49durchaus educated guesses platzieren, aber das war nicht alles, sondern er hat das

00:51:54Programm disassendliert und hat mir dazu auch noch C-Code geschrieben. Man hat gesagt so, ich

00:52:01habe verstanden, dass, was das Programm macht, hier ist der Sendercode und ich glaube der C-Code

00:52:07dazu würde so aussehen und hat mir quasi das Programm in C nachgeschrieben und das ist

00:52:12fand ich schon. Das ist schon mal richtig cool, weil, also für mich hat es zwei Erkenntnisse gab,

00:52:21die eine ist, eigentlich brauchen wir keine Programmiersprache mehr, irgendwann, wenn das LLM,

00:52:28die Herr, die die Schaf von Agenten so gut ist, warum sollen die dann etwas produzieren, was ein

00:52:34Mensch noch liest, das ist vorkommen ineffizient, die können direkt die näher Artefakte erzeugen.

00:52:40Das ist das eine und das andere, und dann schlage ich jetzt gekonnt die Brücke zum

00:52:44Service Security. Wir wissen ja alle, liebe Zuhörerinnen und Zuhörer, lieber Mark, wenn ein

00:52:52Hersteller ein Update rausbringt für irgendwas iOS Update oder Windows oder so was, dann

00:52:57soll man das möglichst zügig installieren. Und warum soll man das tun und nicht damit

00:53:02Wochen warten, weil die bösen Boomen, die sich das zum Geschäft gemacht haben, mit

00:53:10Software-Lücken Geld zu verdienen, also sei es, dass sie die Wirken, die sie finden, an

00:53:16interessierte Parteien weiterverkaufen, sei es, dass es eben solche interessierten Parteien

00:53:20sind, wie wir es benutzen, um Ransomere zu schreiben, Spionagen zu betreiben, haben

00:53:26unsere Bürger auszuspitzen oder sonst was, diese Leute, die nehmen sich so ein Update und

00:53:33vergleichen das Update mit dem Zustand der Feuerwehr bzw. gucken sich das Update an und

00:53:40sehen dann, was dieses Update für Programmierung mitbringt, sprich welche Sicherheitslücke

00:53:47ist geschlossen worden.

00:53:48Ich nehme jetzt, also in der guten Zeit, als man Update noch selber untergeladen hat,

00:53:52Lettern wir zurück in die Geschichte.

00:53:55Konnte man sich ein Windows XP Service Pack reinnehmen,

00:53:58in ein Disassembler schmeißen, wenn man Mut speicherte

00:54:00und hat geguckt, was haben die da alles dran gefixt?

00:54:03Und mit genug Expertise und Zeit konnte man da sehr genau sehen,

00:54:08welche Sicherheitslücken gefixt worden sind.

00:54:10Und wenn ich das sehe, kann ich natürlich sehr gezielt

00:54:14Explorz schreiben für die Systeme, die noch nicht gepatched sind.

00:54:16So, das hat immer ein gewisses Toolzett erfordert

00:54:21Und das hat vor allen Dingen sehr viel Nau erfordert.

00:54:23Und das kann ich jetzt mit einem LLM machen.

00:54:25Und das habe ich auch, also ich habe dieses Saitel von diesem Programm erzählt.

00:54:28Jetzt habe ich noch ein zweites Programm geschrieben mit einer expliziten Sicherheitslücke.

00:54:33Hab mir das analysieren lassen und habe mich genau das gemacht, habe dann Patch geschrieben,

00:54:37auch den wieder als Benäher-Datei reingeworfen, habe gesagt, so jetzt, sag mir mal, was da passiert ist.

00:54:42Gibt es ein Sicherheitslücke?

00:54:43Und dann gesagt, ja tatsächlich, dieses Pro, dieser Patch, die ist eine Sicherheitslücke.

00:54:48Und wie das so ist, ich sage gut, dann muss ein Vortrag vorbereiten,

00:54:51schreibt mal mit den exploit dafür, er ziert sich ja immer so ein bisschen und sagt nee, das darf

00:54:54ich nicht machen, ich mache ein Sicherheitsmodell, aber da kommt man auch rum. Und dann hat er mir

00:54:59einen exploit dafür geschrieben, mit Anleitung, also komplett mit Shellcode, also die Nähexploit,

00:55:06mit einem Demo-Python-Script, wie ich den exploit verwenden muss. Und das alles nur aus diesen

00:55:12aus diesen Patch, den er daraus gelesen hat. Das heißt, die Zeit, die wir jetzt haben, um nach

00:55:20der Veröffentlichung eines Sicherheit-Updates das System zu patchen, die wird immer kürzer,

00:55:26weil die interessierten Leute, die jetzt sich gar nicht mehr manuell hinsetzen müssen,

00:55:30die schmeißen den Kram in den LLN und lassen das nach der Sicherheit-Lücke suchen. Und selbst

00:55:34wenn der Exploit, der daraus fällt, nicht hundert Prozent arbeitet oder gar nicht arbeitet,

00:55:39Die wissen schon mal auf jeden Fall, an welcher Stelle sie selber nachgucken müssen und das ist

00:55:44natürlich eine total dramatische Entwicklung, weil das Ungleichgewicht zu ungünstem verschiebt.

00:55:52Wir haben einfach in Zukunft oder wir haben schon jetzt viel weniger Zeit auf sich erst mit uns

00:55:56zu reagieren und dabei spreche ich das ganze Thema mit, also ich setze ein LM aktiv an, um jetzt

00:56:04eine Webseite zu penetrieren oder eine Infrastrufe anzuweifeln. Das ist ja mein ganz anderes Thema.

00:56:11Ich bin ganz ein auf Software. Und das ist schon eine Entwicklung, von der ich in der Besse noch viel

00:56:18zu wenig lese. Denn das, was man jetzt schon als Leider mit anstellen kann, das ist wirklich

00:56:24erschreckend. Womit wir auch, auch wenn es ein bisschen Markaber klingt bei demselben Thema sind,

00:56:29es bringt die Menschen in ihrer Professur weiter. Leider halt in dem Fall die Menschen, die,

00:56:35ich sage es mal, nichts Gutes im Schilde führen, aber auch dort kannst du jetzt, ich sage es mal,

00:56:41mit weniger Sachverstand schnell dazu einem Ergebnis kommen und die, die mehr Sachverstand,

00:56:47wie gesagt, auch wenn es negativ ist, an der Stelle haben, kommen schneller und besser

00:56:52und weiter zu ihren Zielen. Und wie du gesagt hast, das ist nur das Thema Software. Das

00:56:57Das ganze Thema, wie gut funktioniert das eigentlich, dass du die LLMs ansetzt, nicht nur Webseiten

00:57:05zu penetrieren, sondern auch stichend ergreifend.

00:57:07Ich verschicke es, bam, wir reagieren die Leute, ich mache Chats auf, ich versuche durch

00:57:15irgendwelche wie auch immer gearteten Gespräche auf Social Media oder sonst, was Menschen

00:57:19zukäufen, zu klicks, zu keine Ahnung, was zu bewegen, weil auf der anderen Seite

00:57:25zielgerichtet sogar vielleicht für mich, in meinem Kontext, für mein Layout, für meine

00:57:31Persona, entsprechende Ankerfzeneien gespielt werden und das Ganze im Grunde jetzt in den

00:57:37Händen von jedermann, der ich sage jetzt mal ganz überspitzt, vielleicht ausgedrückt

00:57:41die 29 Euro oder was auch immer zu LGBT Monat kostet oder hier bitte das LM deiner Wahl

00:57:46einsetzen, mit Hunden an die Hand kriegt, Dinge zu tun, weil überzeugend, dass es

00:57:51Ich sag mal etwas tut, wo seine eigenen Ethikgrundsätze oder wie auch immer ist dran hindern.

00:57:56Ja, dann formulierst du es halt ein bisschen um und dann ist der auch ja gut.

00:57:59Okay, also für die Schule und keine Ahnung was, dafür machen wir das sehr gerne.

00:58:04Das ist richtig.

00:58:05Jetzt kann ich um das dann noch zu Ende zu bringen, zu einem versöhnlichen Ende.

00:58:09Kann mich ja auf der harden Seite wieder anführen, dass die Verwendung von LNMs

00:58:15in der Softwareentwicklung zur Vermeidung von Sicherheitslücken

00:58:17natürlich auch ein unschützbares Gut geworden ist. Ich hätte ja eben an diesen Embedded-Projekt erzählt,

00:58:25Fahrzeugkontrolle und es gibt so im Automotive-Bereich gibt es einen Norm- oder ein Standard,

00:58:33nach dem du C und C++ programmieren musst, damit du durch diese Zertifizierung für Fahrzeughersteller

00:58:40kommt, was einfach Sicherheitsbunder hat, Safety. Das ist miss Rad C bzw. miss Rad C plus plus. Das sind

00:58:48so 100 Seiten Richtlinien, Werke, Detailier, die jeder Entwickler hasst, die du zwar automatisiert

00:58:55prüfen kannst. Und ich glaube, für Sona Cube und diese ganzen statische Code-Analyzer kriegst du

00:58:59so Plugins, dass du das prüfen kannst. Aber du wirst ja als Entwickler nicht erst zur

00:59:06Kompal-Zeit hinterher, bisschen oder in der Bildpipeline auf deinem Code compliant ist, sondern du möchtst entweder selber den Code direkt beim Kommitten geprüft haben oder du möchtest das LLM direkt diesen Code erzeugen lassen, der compliant ist und das funktioniert total super.

00:59:24für dieses Projekt ein Rule Set schreiben lassen und gibts einfach, du kaufst dir den

00:59:31MSAC-Standard, das ist urheberrechtliche Schutz, sonst musst du kaufen, der ist nicht

00:59:34falsch verfügbar.

00:59:35Dann schmeißt du den in deinem LLM deiner Wahl und sagst, bau mir da bitte mal LLM

00:59:43lesbare Richtlinien raus und fag die bitte in der Textartei und die gibst du dann

00:59:47mal als Prolog für deinen Agenten mit und sagst du, der Code, den du produzierst

00:59:52mein Freund, der ist bitte komplein zu diesen Richtlinien. Das funktioniert eigentlich immer gut.

00:59:58Das Gute ist, dieses LM-lesbar Format ist nicht so lange, als dass es den Kontext signifikant

01:00:05verkleinert. Also ich bin dann noch nicht an eine Torkengrenze gekommen und im Zweifelsfall

01:00:11machst du einfach mal zwischendurch einen Robel, also einen Analyse-Durchlauf und sagst

01:00:15so, analysier mal bitte diese Datei her und analysier mal das ganze Projekt. Du musst

01:00:20ist ja nicht immer verbinden. Also falls der Kontext ausgeht mit der Generierung von Code,

01:00:25sondern sagt, dann bau jetzt Code in Gottes Namen und dann prüfe ich den nachher nochmal selber.

01:00:30Und das ist natürlich ganz faszinierend, weil das, wir bewegen uns sehr auf die Zeit des EU

01:00:37Cyber Resilience Actes hin, der ab 2027 endgültig in Kraft tritt und sicheres Software, die in

01:00:46sich am Umgebung produziert wird, verlangt und die ganzen Regelwerke, die du dann brauchst,

01:00:52auf detail edener Coding Guidelines, bisikopasierte Bedrohungsanalyse, also Vulgos-Fed-Model und

01:01:00und und. Das kannst du, das kannst und solltest du heute alles mit KI-Unterstützung machen. Also

01:01:06es gibt keinen Grund mehr Entwickler mit hunderte Seiten lang Entwicklungsrichtlinien loslaufen

01:01:12zu lassen oder einen Team in einem Konzern damit zu verlangen, weil selber FAT Models machen zu

01:01:21lassen ohne externe Unterstützung. Wenn man mal guckt, was ein Standard GPT für einen FAT

01:01:27Model machen kann, du sagst einfach, ich bedenke dir eine Fiki Web aus und sagst, baubiere mal

01:01:31ein FAT Model von. Allein das ist schon so viel mehr als das ein ungeschultes Team das kann.

01:01:37Das sind Sachen, die helfen uns dann auf der Security-Implementierung seit des Re-A

01:01:43und dieses Szenario mit dem Diné-Analyser von eben so ein bisschen zu relativieren.

01:01:49Man muss es nur nutzen. Man muss es nur sinnvoll nutzen.

01:01:51Und das ist das, wo es am Ende ja dann, wie immer im Leben, mein lieber Mark,

01:01:56wenn man in unserem vorgerückten Alter ist, weiß man das.

01:01:59Du hast jetzt zum 3. oder 4. unser vorgerücktes Alter zum besten.

01:02:03Ja, du hast es zum 1. Raum geworfen.

01:02:05lasst mich das aufs Ende bringen, die Wahrheit liegt ja immer in der Mitte und in der Kombination

01:02:10vieler Möglichkeiten.

01:02:11Ich glaube nicht, dass wir das eine System haben, was dann die fehlerfreie Software

01:02:16baut, sondern dass wir ja, wir werden agentenbasierte Systeme haben, wir werden Spectrum-Development

01:02:21haben, wir werden Teile haben, wo wir Ende, also so wie jetzt in meinem Evaluationsprojekt

01:02:28händisch immer kleinteilig mit dem Ding arbeiten, um auch Grenzen austesten zu

01:02:32können. Wir werden diese Vorgaben und Richtlinien in LLMs haben. Und diese ganzen Sachen, du

01:02:38hattest irgendwie, glaube ich, Anfangs mal kurz angesprochen, mit Dokumentationsschreiben oder

01:02:43auch das Test schreiben oder, oder, oder, das sind dann Abfallprodukte, die ganz nett sind. Aber ich

01:02:49glaube insgesamt verändert das Thema unsere Arbeit in der Entwicklung natürlich signifikant. Also

01:02:56auch Dokumentationsgraden. Jetzt habe ich dem Kunden einen Test, bevor ab Testversöhnung gegeben,

01:03:02da setze ich mich doch nicht mehr hin und schreibe mit Dokumentation in Word. Ich sage dem LLM so,

01:03:06bitte, baue mir UseCase basiert, eine Dokumentation für dieses Projekt. Du kennst ja das Projekt,

01:03:11du weißt, wie das aussieht, du weißt, wie die UI aussieht, du hast es näher gebaut.

01:03:14Das war, als ich sehe, du hast es näher gebaut. Ja, genau. So, und das ist natürlich eine

01:03:20ganz fantastische Sache. Und dann ja, es spart Zeit an der Einstelle, die ich dann anderweitig

01:03:26sinnvoll verwenden kann. Ich in diesem konkreten Fall habe den jetzt keine anderen Sachen programmiert

01:03:33in der Zeit, die ich spart habe, aber ich konnte über neue Use-Cases nachdenken, ich konnte mit

01:03:37dem Kunden intensiver sprechen und und und. Also die Arbeit verschiezt sich. Und die habe

01:03:41irgendwo den lustigen Spruch gehört, solange das LLM nicht mit dem Product Owner diskutieren

01:03:47kann, nutzt mir das als Entwickler erst. Wenig ist natürlich total flapsig, aber es ist natürlich

01:03:53auch ein bisschen was dran, weil ganz am Ende in so einem Softwareprojekt, wie viele Prozent

01:03:56sind reine Implementierung und wie viel ist das ganze Trimborium drum herum? Architektur,

01:04:01Abstimmung, gerade im Projektgeschäft, Abstimmung mit den Kunden, die rationale Kundenentscheidung

01:04:06und und und. Also ich glaube, man sollte sich als Entwickler keine Sorge machen, dass

01:04:11man per se, arbeitslos wird durch KI, aber ich wage zu behaupten, dass man per se arbeitslos

01:04:17werden wird, wenn man KI aus seinem Entdecker da sein Haushalten möchte.

01:04:22Du hast gesagt, nach dem Motto, fortgeschrittene Stunde Richtung Ende, du hast alle unsere

01:04:28Begriffe nochmal erwähnt, ja, da merkt man quasi auch den Profi, einfach nochmal

01:04:34alle schön zum Abwinder, zum Besten zu geben, das Schöne ist, wir sehen uns auf

01:04:40dem Podcast nachher nur eine Audio-Version ist. Von der Seite habe ich seinen

01:04:43fragenden Blick in den Raum gesehen. Ja, ich meine dich, Klaus. Du gehörst definitiv zu

01:04:49den Menschen, die ich für nicht nur extrem kompetent halte, sondern auch zu den

01:04:56Menschen, zu denen man sich über den ganzen Kram auch unterhalten kann, so

01:05:01dass man ihn auch dann noch versteht, wenn Begrifflichkeiten in den Mund

01:05:05genommen werden, die vielleicht nicht im eigenen Jaguar drin sind. Von der Seite jetzt nicht

01:05:12genug des Lobes, aber danke, dass du da warst. Hat mir Spaß gemacht, dir zuzuhören. Hab das

01:05:19ein oder andere für mich auch noch mal mitgenommen. Und wer weiß, wann wir uns in welcher

01:05:25Podcastfolge wie auch immer oder vielleicht auch endlich mal wieder in Person mal wiedersehen.

01:05:31Also von der Seite würde ich sagen danke Klaus. Sehr gerne. Wir sehen uns spät beim Rolator-Rennen, oder?

01:05:38Ja, mal gucken. Oh je, ich habe gerade Bilder im Kopf. Ich glaube mit Sora könnten wir uns diese Bilder auch generieren.

01:05:45Aber vielleicht haben wir die irgendwann mal flinkt und mal gucken.

01:05:48Würde mich jedenfalls freuen, wenn wir es vor dem Rolator-Rennen schaffen würden.

01:05:53Vielen Dank und dann alle Zuhörenden. Wir sind ein bisschen länger geworden.

01:05:58geworden, aber ja, dafür war das Gespräch hoffentlich denn noch interessant für euch alle, wenn es euch

01:06:05gesheulen hat. Daumen hoch, Sterne, wo auch immer in welchem Podcastplayer-Portal auch immer gerne

01:06:11bewerten. Sagt euren Freunden einen bekannten Bescheid, wenn es euch nicht gefallen hat,

01:06:15schickt uns einen kleinen Kommentar, damit wir daraus reagieren können und damit verabschiede

01:06:21ich mich. Tschau. Tschau.

01:06:51und vor allem zum Mitreden.