[
  {
    "start": 0.0,
    "end": 4.0,
    "text": "Herzlich willkommen bei einer neuen Folge von Think Different. Think AI."
  },
  {
    "start": 4.0,
    "end": 8.0,
    "text": "Wir haben heute mehrere Premiere in der Folge."
  },
  {
    "start": 8.0,
    "end": 12.0,
    "text": "Zum einen keine Premiere, aber eine fröhliche Besonderheit."
  },
  {
    "start": 12.0,
    "end": 14.0,
    "text": "Wir haben den Klaus wieder zu Gast."
  },
  {
    "start": 14.0,
    "end": 16.0,
    "text": "Hallo Klaus, schön, dass du da bist."
  },
  {
    "start": 16.0,
    "end": 19.0,
    "text": "Hallo ihr beiden, freut mich dir sein zu dürfen."
  },
  {
    "start": 19.0,
    "end": 22.0,
    "text": "Und ihr habt es schon gehört an hier beide."
  },
  {
    "start": 22.0,
    "end": 25.0,
    "text": "Der Jens ist auch dabei, während wir mit dem Klaus reden."
  },
  {
    "start": 25.0,
    "end": 26.0,
    "text": "Hallo Jens."
  },
  {
    "start": 26.0,
    "end": 28.0,
    "text": "Hallo Klaus, hallo Mark."
  },
  {
    "start": 28.0,
    "end": 32.0,
    "text": "Es freut mich, Klaus, dass ich dich mal nicht alleine lasse mit dem Markt."
  },
  {
    "start": 32.0,
    "end": 35.0,
    "text": "Ja, danke, dass du endlich mal dabei bist."
  },
  {
    "start": 35.0,
    "end": 38.0,
    "text": "Aber ich habe ja gesagt zwei Besonderheiten."
  },
  {
    "start": 38.0,
    "end": 43.0,
    "text": "Ich möchte ja niemanden zu nahe treten, von der seitdem wer im Glashaus sitzt, darf mit Steinen schmeißen."
  },
  {
    "start": 43.0,
    "end": 51.0,
    "text": "Ich gehöre auch zu der Fraktion, die, ich sage jetzt mal, nicht mehr im ersten Drittel ihres Lebens auf Erden hier verbringen,"
  },
  {
    "start": 51.0,
    "end": 56.0,
    "text": "was das körperliche Alter angeht, irgendwie mit alten Menschen am Tisch."
  },
  {
    "start": 56.0,
    "end": 62.0,
    "text": "Kann man sagen, wir unterhalten uns heute über ein Thema, wenn einer mal anfängt und sagt, der hat's im Rücken,"
  },
  {
    "start": 62.0,
    "end": 70.0,
    "text": "haben's die anderen auch im Rücken? Wir reden heute darüber von Security, von KI Security und was das mit dem Rücken zu tun hat,"
  },
  {
    "start": 70.0,
    "end": 74.0,
    "text": "kommen wir bestimmt auch noch drauf zu sprechen."
  },
  {
    "start": 74.0,
    "end": 83.0,
    "text": "Und am Ende vergeben wir den Preis für die gekonnteste Überleitung und ich habe so den Eindruck, dass gerade schon ein Favorit sich hervorgetan hat."
  },
  {
    "start": 83.0,
    "end": 89.0,
    "text": "Naja, eins muss man schon sagen, kleine Randnotiz, das Halten eines ungeskripteten Podcasts"
  },
  {
    "start": 89.0,
    "end": 91.0,
    "text": "hilft ungemein der Redegewandtheit."
  },
  {
    "start": 91.0,
    "end": 97.0,
    "text": "So, damit habe ich die Mester dann mal gleich ganz nach oben gelegt, ja, von der Seite wollen"
  },
  {
    "start": 97.0,
    "end": 98.0,
    "text": "wir einsteigen."
  },
  {
    "start": 98.0,
    "end": 102.0,
    "text": "Ich könnte einfach so sagen, ich habe Rücken, aber das ist zu billig, ne?"
  },
  {
    "start": 102.0,
    "end": 105.0,
    "text": "Ja, erstens möchte ich das zu billig und zweitens den Gag mit dem, wenn sich bei"
  },
  {
    "start": 105.0,
    "end": 108.0,
    "text": "der Familie immer alle treffen und einer von seiner Rücken-OP erzählt, haben"
  },
  {
    "start": 108.0,
    "end": 113.0,
    "text": "plötzlich alle am Tisch etwas mit Rücken und dramatischen Diagnosen, was ja so"
  },
  {
    "start": 113.0,
    "end": 119.0,
    "text": "ein bisschen dem aktuellen Thema nachkommen. Kaum hat OpenAI erzählt, dass sie irgendwie"
  },
  {
    "start": 119.0,
    "end": 124.0,
    "text": "bei Hackingface eingebrochen sind, um irgendwelche Testergebnisse dabei zu schummeln, kamen sogar"
  },
  {
    "start": 124.0,
    "end": 129.0,
    "text": "Meter letztens ums Eck und nach dem Motto, unsere kann auch, unsere kann auch, aber über dieses"
  },
  {
    "start": 129.0,
    "end": 133.0,
    "text": "Thema wollen wir nachher vielleicht noch ein bisschen detaillierter sprechen. Ich habe Körper,"
  },
  {
    "start": 133.0,
    "end": 139.0,
    "text": "das sticht alles. Okay, Klaus, du hast Körper, Klaus, du hast angefangen mit dem Satz. Wir"
  },
  {
    "start": 139.0,
    "end": 145.0,
    "text": "wir würden doch total gerne mal über AI Security sprechen. Magst du uns ein bisschen abholen,"
  },
  {
    "start": 145.0,
    "end": 151.0,
    "text": "wenn du an AI Security denkst, wo ist denn da der große Unterschied zu klassischer"
  },
  {
    "start": 151.0,
    "end": 156.0,
    "text": "IT Security? Ja, das ist, ihr kennt das wahrscheinlich,"
  },
  {
    "start": 156.0,
    "end": 164.0,
    "text": "ne? Ihr habt ja im Entferntesten auch mit IT zu tun und dann kommt ihr zur Grillfest"
  },
  {
    "start": 164.0,
    "end": 169.0,
    "text": "oder fahrt Weihnachten zur Familie nach Hause und du machst so was mit Computern,"
  },
  {
    "start": 169.0,
    "end": 190.0,
    "text": "Kannst du mal bitte gerade nach meinem Windows-Szenerechner gucken oder den Router fixen oder oder oder und so ist das auch mit Security nur, weil ich was mit Security mache, habe ich natürlich nicht von allen Security-Themen Ahnung, weil und das ist dann mein Versuch der Gekontenüberleitung, Security ist ja mittlerweile total manikfaltig."
  },
  {
    "start": 190.0,
    "end": 196.0,
    "text": "Und wie war deine Frage? Was ist AI-Security so anders als an normaler Security?"
  },
  {
    "start": 196.0,
    "end": 204.0,
    "text": "Naja, also grundsätzlich, ich erkläre das immer gerne unseren Entwicklern mit dem Schichten-Modell."
  },
  {
    "start": 204.0,
    "end": 210.0,
    "text": "Wenn ich mit Applikationsentwicklern rede, dann haben wir so auf der untersten Ebene,"
  },
  {
    "start": 210.0,
    "end": 218.0,
    "text": "auf der die sich bewegen im Cloud-Bereich, haben wir Netzwerke und Betriebssysteme und Dienste"
  },
  {
    "start": 218.0,
    "end": 225.0,
    "text": "und so Systemkonfigurationen und das ist eine Schicht von Security, die eigentlich nur aus"
  },
  {
    "start": 225.0,
    "end": 229.0,
    "text": "gelösten Problemen besteht. Wir wissen, wie wir Netzwerke sicher machen, wir wissen, wie wir"
  },
  {
    "start": 229.0,
    "end": 234.0,
    "text": "Betriebssysteme härten, wir wissen, wie wir sichere Zugänge machen, Passwort, all das ganze"
  },
  {
    "start": 234.0,
    "end": 238.0,
    "text": "Trimborium, das kennt ihr auch alle aus den Unternehmen, in denen ihr arbeitet, das sind so"
  },
  {
    "start": 238.0,
    "end": 244.0,
    "text": "die gelösten Probleme der IT-Sicherheit. Dann kommt das nächste, der oder das nächste"
  },
  {
    "start": 244.0,
    "end": 251.0,
    "text": "ist es der oder das? Eine gute Frage, liebe Hörer. Die Antwort schickt ihr bitte an Mark und Jens."
  },
  {
    "start": 251.0,
    "end": 257.0,
    "text": "Es winken, satte Gewinne. Macht lieber Kommentare unter dem Podcast, das ist für den Algorithmus besser."
  },
  {
    "start": 257.0,
    "end": 263.0,
    "text": "Gibt aber auch satte Gewinne. So, der nächste Layer ist dann Application Security. Das heißt,"
  },
  {
    "start": 263.0,
    "end": 269.0,
    "text": "das kennt der geneigte Entwickler vielleicht unter, da gibt es so Schlagworte wie Overs,"
  },
  {
    "start": 269.0,
    "end": 275.0,
    "text": "Pop10, da lernt man, wie man eine Web-Applikation absichert gegen Angriffe, also Angriffe auf der"
  },
  {
    "start": 275.0,
    "end": 282.0,
    "text": "Ebene der Applikation, selber Funktionale, also Angriffe in der Funktion, Angriffe in der"
  },
  {
    "start": 282.0,
    "end": 286.0,
    "text": "Implementierung, Cross-Sites, Cripting, Bufferoberlust. Hat vielleicht jeder schon mal"
  },
  {
    "start": 286.0,
    "end": 291.0,
    "text": "gelesen, denn er irgendwie bei Heise über so eine Security-Meldung getickert ist. Und die neue"
  },
  {
    "start": 291.0,
    "end": 295.0,
    "text": "Ebene, um deine Frage dann zu beantworten, die legt sich dann noch oben drauf,"
  },
  {
    "start": 295.0,
    "end": 305.0,
    "text": "die wir mit KI gewonnen haben, ist eben dieses ganze Thema KI-Security, weil KI ja eine KI führt eine"
  },
  {
    "start": 305.0,
    "end": 310.0,
    "text": "ganz neue Klasse von Bedrohungen und somit auch Herausforderungen für die Sicherheit ein, die"
  },
  {
    "start": 310.0,
    "end": 316.0,
    "text": "und eben darum erkläre ich meinen Entwickler oder unseren Entwickler immer gerne diesen Schichtenmodell,"
  },
  {
    "start": 316.0,
    "end": 320.0,
    "text": "die sich auf das ganze oben noch drauflegt. Das heißt, wenn wir in den letzten Jahren damit"
  },
  {
    "start": 320.0,
    "end": 327.0,
    "text": "befasst waren, also so vor 15, 20 Jahren, da fing man an eben, Netzwerk und Betriebssysteme"
  },
  {
    "start": 327.0,
    "end": 332.0,
    "text": "zu härten, dann kam so die Erkenntnis verdammt, die Applikation muss auch gehärtet und sicher"
  },
  {
    "start": 332.0,
    "end": 333.0,
    "text": "programmiert sein."
  },
  {
    "start": 333.0,
    "end": 338.0,
    "text": "Das haben wir jetzt alles gelöst, Klammer auf, umgesetzt wird ist nicht immer Klammer"
  },
  {
    "start": 338.0,
    "end": 344.0,
    "text": "zu und jetzt gewinnen wir durch diese nicht-deterministische KI eine ganz neue Angriffsklasse"
  },
  {
    "start": 344.0,
    "end": 347.0,
    "text": "und ich glaube, das ist das Thema, über das wir heute sprechen wollen mit all seinen"
  },
  {
    "start": 347.0,
    "end": 355.0,
    "text": "Ausprägungen und den ganzen Herausforderl, die das in Entwicklung, in Betrieb und in Produkten mit sich bringt."
  },
  {
    "start": 355.0,
    "end": 363.0,
    "text": "Ich finde, wir sollten einen kleinen Schritt noch mal zurückgehen, weil eigentlich wollte ich einsteigen mit dem Satz, du hast"
  },
  {
    "start": 363.0,
    "end": 368.0,
    "text": "einen wichtigen Layer, der schon seit tausend von Jahren nicht mehr gepatched wurde vergessen, nämlich der Mensch."
  },
  {
    "start": 368.0,
    "end": 374.0,
    "text": "Also du kannst jeden Betriebssystem alles mögliche beibringen, aber das Stück Fleisch mit Intelligenz drin,"
  },
  {
    "start": 374.0,
    "end": 378.0,
    "text": "das vor den Rechnern sitzt, ist teilweise noch auf einem..."
  },
  {
    "start": 378.0,
    "end": 382.0,
    "text": "Wie war das der erste Malware-Brief, wo es dann heißt,"
  },
  {
    "start": 382.0,
    "end": 386.0,
    "text": "hallo, ich bin Prinz und schick mir Geld und dann schicke ich den Millionen zurück."
  },
  {
    "start": 386.0,
    "end": 390.0,
    "text": "Das gab es, glaube ich, die ersten Beispiele von echten Briefen"
  },
  {
    "start": 390.0,
    "end": 394.0,
    "text": "zum Zeit der französischen Revolution, wo echte Briefe umgegangen sind."
  },
  {
    "start": 394.0,
    "end": 397.0,
    "text": "Ich war im Dienst von einem Herrn und wenn du mir Geld gibst,"
  },
  {
    "start": 397.0,
    "end": 401.0,
    "text": "dann hole ich den Schatz, den ich verkraben habe bei der Flucht und helfe dir."
  },
  {
    "start": 401.0,
    "end": 406.0,
    "text": "Aber Moment, der Mensch, der wird durch KI ersetzt, hast du irgendwas nicht verstanden?"
  },
  {
    "start": 406.0,
    "end": 409.0,
    "text": "Ja, da kommen wir bestimmt auch noch gleich zu. Ich wollte einfach nur ganz kurz, bevor"
  },
  {
    "start": 409.0,
    "end": 413.0,
    "text": "wir in die untiefen Abtauerung, was das mit diesen Sandboxen und dieser Secure den ganzen"
  },
  {
    "start": 413.0,
    "end": 417.0,
    "text": "Kram zu tun hat, was eigentlich die letzte Zeit so passiert ist und warum ich das mit"
  },
  {
    "start": 417.0,
    "end": 424.0,
    "text": "dem einer hat rücken, alle haben rücken. Warum ich das quasi aufgemacht habe. Es"
  },
  {
    "start": 424.0,
    "end": 429.0,
    "text": "war ja so, dass das Open AI, zumindest war das das Erste, man hat ja immer wieder"
  },
  {
    "start": 429.0,
    "end": 435.0,
    "text": "gehört, dass Systeme irgendwie, wo es dann heißt, sie sind aus der Sandbox ausgebrochen,"
  },
  {
    "start": 435.0,
    "end": 442.0,
    "text": "aus den Eilaboren ausgebrochen und haben Dinge getan. Und das, was ich mit dem Rücken"
  },
  {
    "start": 442.0,
    "end": 445.0,
    "text": "meinte ist, na ja, nachdem halt Open AR angefangen hatte, das ging ja wirklich sehr stark durch"
  },
  {
    "start": 445.0,
    "end": 450.0,
    "text": "die Presse. Dass sie gesagt haben, dass ein noch nicht veröffentlichtes Modell, man geht ja"
  },
  {
    "start": 450.0,
    "end": 457.0,
    "text": "stark davon aus, dass es ja GPT-6 sein soll, quasi zusammen mit GPT-54 irgendwie versucht hat,"
  },
  {
    "start": 457.0,
    "end": 462.0,
    "text": "Parking Face Sachen herbeizuholen, kam dann auch Entropec raus und hat dann gesagt,"
  },
  {
    "start": 462.0,
    "end": 469.0,
    "text": "ah, unser Modell, ja, das hat irgendwie 9000 Ziele im echten Netz gescannt und SQL"
  },
  {
    "start": 469.0,
    "end": 474.0,
    "text": "Injections ausprobiert, dann kam Meter ums Eck und hat gesagt, ja, wir können auch,"
  },
  {
    "start": 474.0,
    "end": 478.0,
    "text": "denn dies und das und jenes tun, man hat so ein bisschen das Gefühl, so wie man früher"
  },
  {
    "start": 478.0,
    "end": 482.0,
    "text": "Fishing for Compliments gesagt hat, nach dem Motto, muss jeder unbedingt sagen,"
  },
  {
    "start": 482.0,
    "end": 485.0,
    "text": "wie gefährlich er ist. Ja, kleiner Fun Fact am Rande, ich habe auch gedacht,"
  },
  {
    "start": 485.0,
    "end": 489.0,
    "text": "muss man vielleicht auch mal sagen, du guck mal, ja, wir bauen ja auch ein Agent Hannes,"
  },
  {
    "start": 489.0,
    "end": 493.0,
    "text": "soll ich sagen, der hat auf meinem Rechner auch was getan, was er nicht durfte. Ja, weil dann ist"
  },
  {
    "start": 493.0,
    "end": 497.0,
    "text": "das ja heutzutage hip und flippig, hatte in dem Sinne nicht. Zumindest hat das nicht,"
  },
  {
    "start": 497.0,
    "end": 501.0,
    "text": "hab ich es nicht gemerkt und wenn ich es den guten KI-Labor nachmache, muss ich ja eh erst in"
  },
  {
    "start": 501.0,
    "end": 506.0,
    "text": "sechs Monaten merken, dass er heute vielleicht irgendetwas Böses getan hat. Was ich daran"
  },
  {
    "start": 506.0,
    "end": 512.0,
    "text": "aber viel lustiger finde ist, die KI ist ja, ich würde jetzt mal einfach mal frech behaupten,"
  },
  {
    "start": 512.0,
    "end": 517.0,
    "text": "von Haus aus erstmal nicht büßfüllig. Die großen Labore haben ja ihren Modellen erstmal"
  },
  {
    "start": 517.0,
    "end": 522.0,
    "text": "beigebracht, dass wenn ich ihnen sage, brech mal in irgendein Stück Software ein, dann sagt er,"
  },
  {
    "start": 522.0,
    "end": 526.0,
    "text": "ah, das ist aber böse, machen wir nicht. Oder gehen auf irgendwelche Modelle runter,"
  },
  {
    "start": 526.0,
    "end": 529.0,
    "text": "nach dem Motto, nein, ich mach das nicht, ich geb das mal dem dummen Obus,"
  },
  {
    "start": 529.0,
    "end": 533.0,
    "text": "ja, weil der kommt vielleicht gar nicht weit. Wenn man da mal mal so ein bisschen reinschaut,"
  },
  {
    "start": 533.0,
    "end": 537.0,
    "text": "was die so an Sicherheitsverkehrung getroffen haben, dann find ich es halt total lustig."
  },
  {
    "start": 537.0,
    "end": 542.0,
    "text": "So was wie Anthropic, die gesagt haben, das System hat quasi im Internet Sachen"
  },
  {
    "start": 542.0,
    "end": 546.0,
    "text": "gescannt, wenn ihr dann den Bericht liest, war die einzige Trennung zwischen dem"
  },
  {
    "start": 546.0,
    "end": 549.0,
    "text": "Modell und dem Internet, das System prommt in dem Drinstand, du hast keinen"
  },
  {
    "start": 549.0,
    "end": 553.0,
    "text": "Internet. Finde ich jetzt vielleicht ein bisschen mau."
  },
  {
    "start": 553.0,
    "end": 561.0,
    "text": "Ich finde auch, du sagst ihn, das sind die Troniden, die ihr sucht. Die Macht"
  },
  {
    "start": 561.0,
    "end": 564.0,
    "text": "ist stark, bei den Geistik schwachen, haben wir auch dieses, die hat man zum"
  },
  {
    "start": 564.0,
    "end": 567.0,
    "text": "besten gegeben. Das ist halt lustig oder wenn du dann"
  },
  {
    "start": 567.0,
    "end": 571.0,
    "text": "hörst bei OpenAI, dass sie wie so eine Art Settelkasten gearbeitet haben. So nach dem"
  },
  {
    "start": 571.0,
    "end": 574.0,
    "text": "Motto, ich kann hier nicht schreiben, ich kann da nicht schreiben, ich kann dies und das"
  },
  {
    "start": 574.0,
    "end": 578.0,
    "text": "und jenes nicht machen, falls die es nicht merken. Klaus hält mir ein Buch entgegen, da"
  },
  {
    "start": 578.0,
    "end": 583.0,
    "text": "wird er bestimmt gleich daraus vorlesen. Und dann fangen die halt an mit Ordnernamen"
  },
  {
    "start": 583.0,
    "end": 587.0,
    "text": "um zu benennen, weil das ging halt, um sich so Nachrichten mit anderen Systemen auszutauschen."
  },
  {
    "start": 587.0,
    "end": 593.0,
    "text": "Von der Seite, ich glaube ja tatsächlich, in dem Sinne, sie sind ja nicht ausgebrochen,"
  },
  {
    "start": 593.0,
    "end": 597.0,
    "text": "haben halt nur Türen anders benutzt, als man es unter Umständen dachte. Und wo man nicht wusste,"
  },
  {
    "start": 597.0,
    "end": 602.0,
    "text": "dass eine Tür ist, haben sie halt vielleicht eine gefunden, wo man ja ehrlicherweise auf"
  },
  {
    "start": 602.0,
    "end": 608.0,
    "text": "froh sein muss, wenn wir diese Türen finden, bevor es im großen Stil überall ist, weil ich"
  },
  {
    "start": 608.0,
    "end": 611.0,
    "text": "möchte kurz an die Folge mit René erinnern, auch wenn ich die Zahlen nicht mehr so ganz im"
  },
  {
    "start": 611.0,
    "end": 615.0,
    "text": "Kopf habe, wo er gesagt hat, so und so viel Agenten kommen auf einen Menschen,"
  },
  {
    "start": 615.0,
    "end": 620.0,
    "text": "stellt euch doch einfach nur mal vor, so und so viel Anzahl von Menschen auf der Erde,"
  },
  {
    "start": 620.0,
    "end": 625.0,
    "text": "mal so und so viel Agenten. Man, man, man, man. Da kloppten sich aber ganz schön viele Systeme"
  },
  {
    "start": 625.0,
    "end": 632.0,
    "text": "nachher, um die Möglichkeit Platz auf meinem Rechner oder auf meinem Bankkonto oder sonstwo"
  },
  {
    "start": 632.0,
    "end": 638.0,
    "text": "einzunehmen. Klaus, du hast das Buch eben hochgehalten mit der Bitte um einer Wortmeldung. Feucht"
  },
  {
    "start": 638.0,
    "end": 642.0,
    "text": "jetzt wieder an Jens übergebe. Ich will dir hier keinen Monolog halten. Was möchtest"
  },
  {
    "start": 642.0,
    "end": 645.0,
    "text": "du? Wolltest du uns mit diesem Buch sagen und erzähl uns, was du im Buch weil? Wir sind"
  },
  {
    "start": 645.0,
    "end": 649.0,
    "text": "ein Podcast, bei dem man nur hören kann. Wir sind alte Herrschaften. Wir machen"
  },
  {
    "start": 649.0,
    "end": 651.0,
    "text": "keine Videopodcasts."
  },
  {
    "start": 651.0,
    "end": 655.0,
    "text": "Hast du nicht gesagt, du wolltest keinen Monologe halten?"
  },
  {
    "start": 655.0,
    "end": 659.0,
    "text": "Es war nur eine lustige Zusammenkunft, eine lustige Koincidence."
  },
  {
    "start": 659.0,
    "end": 664.0,
    "text": "Du sprachst von den, das sind nicht die Drohinen, die ihr sucht und es gibt tatsächlich"
  },
  {
    "start": 664.0,
    "end": 670.0,
    "text": "einen Buch und das enthält die Antwort auf alles, auf alle Fragen der IT Security und"
  },
  {
    "start": 670.0,
    "end": 677.0,
    "text": "das nennt sich Threads, what every engineer should learn from Star Wars und da beschreibt"
  },
  {
    "start": 677.0,
    "end": 686.0,
    "text": "der Gottvater des Threat-Modellings, Adam Shostack, anhand von Star Wars-Inzidenzen, wie Threat-Model"
  },
  {
    "start": 686.0,
    "end": 692.0,
    "text": "funktioniert, wie man IT-Sicherheit in der Praxis umsetzt und das lag zufällig auf meinem"
  },
  {
    "start": 692.0,
    "end": 693.0,
    "text": "Tisch."
  },
  {
    "start": 693.0,
    "end": 698.0,
    "text": "Und da ich das im Urlaub nochmal gelesen habe zur Aufrischung und das vorher zu einfach"
  },
  {
    "start": 698.0,
    "end": 703.0,
    "text": "nur eine Information am Rande, denn auf das Thema Threat-Modelling werde ich sicherlich"
  },
  {
    "start": 703.0,
    "end": 708.0,
    "text": "zu sprechen kommen, die nicht kennen, rollen immer die Augen, weil ich seit 20 Jahren durch"
  },
  {
    "start": 708.0,
    "end": 714.0,
    "text": "die Gegend renne und immer noch Fred-Model sage, aber tatsächlich steckt da die Lösung"
  },
  {
    "start": 714.0,
    "end": 718.0,
    "text": "zu fast allem drin und dazu später aber mehr, liebe Kinder."
  },
  {
    "start": 718.0,
    "end": 719.0,
    "text": "Dann lasst uns erstmal noch ein..."
  },
  {
    "start": 719.0,
    "end": 725.0,
    "text": "Finde ich schön, wie du die Moderation aufbaust, aber Jens, ich sag nur, lasst uns trotzdem"
  },
  {
    "start": 725.0,
    "end": 731.0,
    "text": "mal, wenn ihr beiden Security Nerds, dann redet, lasst uns nochmal kurz die Bereitigkeiten"
  },
  {
    "start": 731.0,
    "end": 735.0,
    "text": "gerade ziehe. Für die höherer draußen, die das alles nicht so ganz genau ist. Marco,"
  },
  {
    "start": 735.0,
    "end": 740.0,
    "text": "du hast es gerade ganz kurz angerissen. Das Thema Sandbox. Was ist denn eine Sandbox?"
  },
  {
    "start": 740.0,
    "end": 745.0,
    "text": "Darf ich kurz einhaken? Der mag wollte ja gar nicht so viel sprechen. Ja, dann mach du das lieber,"
  },
  {
    "start": 745.0,
    "end": 750.0,
    "text": "Klaus. Das ist auch besser. Weil mir sind ein paar Gedanken gekommen. Passiert selten,"
  },
  {
    "start": 750.0,
    "end": 754.0,
    "text": "aber tatsächlich, als du eben gesprochen hast. Ich finde ja eines der Probleme,"
  },
  {
    "start": 754.0,
    "end": 759.0,
    "text": "was aber natürlich mit dem Marketing zu tun hat und vollkommen verständlich ist,"
  },
  {
    "start": 759.0,
    "end": 765.0,
    "text": "eines der Probleme, was wir im Bereich IT sich quatschen. AI-Sicherheit, Security, AI-Security"
  },
  {
    "start": 765.0,
    "end": 773.0,
    "text": "haben ist diese sehr vermenschlichte Sprache und diese Analogien, also dieses Sandboxing"
  },
  {
    "start": 773.0,
    "end": 778.0,
    "text": "und das Modell ist ausgebrochen und du hattest eben noch so ein paar Begriffe. Das geht"
  },
  {
    "start": 778.0,
    "end": 783.0,
    "text": "alles in diese Richtung, das kennt ihr ja schon aus vor der AI-Zeit, Cyber War und"
  },
  {
    "start": 783.0,
    "end": 791.0,
    "text": "jetzt Hackback und diese ganzen Sachen, wo versucht wird, IT Security oder Cyber Security mit"
  },
  {
    "start": 791.0,
    "end": 796.0,
    "text": "Analogien aus dem aus dem realen Leben zu vergleichen, was aber eigentlich nie funktioniert."
  },
  {
    "start": 796.0,
    "end": 801.0,
    "text": "Was eigentlich, weil ihr wisst nicht alles was hinkt ist ein Vergleich und das ist gerade"
  },
  {
    "start": 801.0,
    "end": 807.0,
    "text": "bei der IT Sicherheit so oder was es gesagt mag als schönes Beispiel unserer high sophisticated"
  },
  {
    "start": 807.0,
    "end": 812.0,
    "text": "military grade Sandbox war da am Ende nur das System prompt, wo man dem LLM gesagt"
  },
  {
    "start": 812.0,
    "end": 817.0,
    "text": "hat, du, du, du, mach das nicht. Ich hab, ihr folgt mir ins Wort, wenn ich so ein bisschen"
  },
  {
    "start": 817.0,
    "end": 822.0,
    "text": "rumfabuliere. Also ich hab einen Thema, was ich gerne auf jeden Fall gleich noch anbringen"
  },
  {
    "start": 822.0,
    "end": 826.0,
    "text": "möchte. Ich weiß nicht, ob ihr davon gehört habt, das ist die neue Angriffsklasse, die"
  },
  {
    "start": 826.0,
    "end": 830.0,
    "text": "Claude Müsers gegen IES entdeckt hat. Da müsst ihr auf jeden Fall gleich noch"
  },
  {
    "start": 830.0,
    "end": 836.0,
    "text": "drauf zu sprechen kommen. Ich hab vorher, ich hab vorher, möchte ich noch einen"
  },
  {
    "start": 836.0,
    "end": 840.0,
    "text": "Begriff in den Raum werfen, den gibt es, glaub ich, kann sein. Ich hab noch"
  },
  {
    "start": 840.0,
    "end": 848.0,
    "text": "kurz gegoogelt, der mir beim Thema Sandboxing und KI-Sicherheit einschädt, das ist, ja, ich"
  },
  {
    "start": 848.0,
    "end": 854.0,
    "text": "nenn's mal KI-Psychologie, weil ich glaube, und deswegen dieser Einstieg mit diesen marzialischen"
  },
  {
    "start": 854.0,
    "end": 860.0,
    "text": "Begriffen, die mir so ein bisschen sauer aufstoßen, wir können KI nicht mit den herkömmlichen"
  },
  {
    "start": 860.0,
    "end": 865.0,
    "text": "Begriffen der IT-Sicherheit, ja, also die Probleme der KI nicht mit den herkömmlichen Begriffen"
  },
  {
    "start": 865.0,
    "end": 871.0,
    "text": "der IT-Sicherheit fangen, weil eine Sandbox kann alles sein. Das kann ein System prompt sein, das kann"
  },
  {
    "start": 871.0,
    "end": 876.0,
    "text": "was auch immer sein, ein gekapselter Rechner, der dann über ein spezielles Protokoll nur"
  },
  {
    "start": 876.0,
    "end": 881.0,
    "text": "bestimmte Fede rauslässt. Ganz am Ende stehen wir meiner Meinung nach, da würde mich eure Meinung"
  },
  {
    "start": 881.0,
    "end": 887.0,
    "text": "tatsächlich auch sehr interessieren, ja vor dem Problem, dass wir nicht deterministische"
  },
  {
    "start": 887.0,
    "end": 893.0,
    "text": "Modelle haben, mit denen man mit Sprache interagiert, die nicht deterministisch mit"
  },
  {
    "start": 893.0,
    "end": 897.0,
    "text": "anderen Systemen, Modellen oder Menschen agieren können und da greifen einfach"
  },
  {
    "start": 897.0,
    "end": 902.0,
    "text": "staatische Artisticuity-Begriffe nicht mehr. Und am Ende reden wir von Psychologie."
  },
  {
    "start": 902.0,
    "end": 908.0,
    "text": "Was möchte das LLM? Was versucht das LLM mit diesem Prompt zu erreichen? Was gebe ich"
  },
  {
    "start": 908.0,
    "end": 912.0,
    "text": "in dieses Prompt rein? Was bewirkt das in diesen LLM? Und damit meine ich jetzt"
  },
  {
    "start": 912.0,
    "end": 916.0,
    "text": "gar nicht so große Themen wie die Vergiftung des Modells, dass es über"
  },
  {
    "start": 916.0,
    "end": 920.0,
    "text": "die Zeit böse wird. Das könnte man jetzt auch hinter Psychologie verstehen."
  },
  {
    "start": 920.0,
    "end": 926.0,
    "text": "Aber wenn wir rein auf der inhaltlichen LLM-Ebene sind, glaube ich, muss man sich ein bisschen"
  },
  {
    "start": 926.0,
    "end": 932.0,
    "text": "mit der Psychologie der Modelle befassen, wenn man nicht nur auf so dofe Sicherheitsmechanismen"
  },
  {
    "start": 932.0,
    "end": 935.0,
    "text": "wie Sandboxing zu sprechen kommt."
  },
  {
    "start": 935.0,
    "end": 940.0,
    "text": "Und jetzt bin ich still und Jens, du wolltest ja anheben, ein paar Grundbegriffe zu erklären."
  },
  {
    "start": 940.0,
    "end": 942.0,
    "text": "Dann gucke ich jetzt wieder an."
  },
  {
    "start": 942.0,
    "end": 943.0,
    "text": "Jetzt möchte ich, dass ich das mache."
  },
  {
    "start": 943.0,
    "end": 944.0,
    "text": "Ich mache das ja wahrscheinlich falsch."
  },
  {
    "start": 944.0,
    "end": 946.0,
    "text": "Also ihr seid die Experten für diese Themen, ne?"
  },
  {
    "start": 946.0,
    "end": 947.0,
    "text": "Aber erst mal so eine Sandbox."
  },
  {
    "start": 947.0,
    "end": 951.0,
    "text": "Zwei Stühle, eine Meinung, das geht auch nicht."
  },
  {
    "start": 951.0,
    "end": 954.0,
    "text": "Genau, also ich habe eine Sandbox, so wie ich es verstehe, und dann kannst du ja eben auf"
  },
  {
    "start": 954.0,
    "end": 958.0,
    "text": "mehrere Schichten quasi arbeiten, dass du sagst, okay, ich habe irgendwo erst mal vielleicht"
  },
  {
    "start": 958.0,
    "end": 962.0,
    "text": "sogar richtig auf dem Rechner etwas, dass der gar keine Verbindung hat, weil er sogar"
  },
  {
    "start": 962.0,
    "end": 965.0,
    "text": "vielleicht eine Sandbox hat, dass man so richtig wählen könnte, dann kann ich da"
  },
  {
    "start": 965.0,
    "end": 969.0,
    "text": "irgendwelche Kölner auch einrichten, die nur dann nichts rauslassen oder ich kann"
  },
  {
    "start": 969.0,
    "end": 970.0,
    "text": "versuchen."
  },
  {
    "start": 970.0,
    "end": 977.0,
    "text": "Und das ist dieser Teil, den du gerade auch geschrieben hast, über auch Ports,"
  },
  {
    "start": 977.0,
    "end": 983.0,
    "text": "ich nicht freigebe, die Sperre, Allowance, Listen, im Prinzip, wo ich Sachen erlaube bewusst, oder im"
  },
  {
    "start": 983.0,
    "end": 987.0,
    "text": "Prinzip hinterher über so eine Policy-Ebene. Und ich glaube bei der Policy-Ebene, Klaus, da sind wir"
  },
  {
    "start": 987.0,
    "end": 992.0,
    "text": "bei diesem Thema der Psychologie, der KI, ich glaube bei den Sachen vorher nicht, weil da würde ich"
  },
  {
    "start": 992.0,
    "end": 998.0,
    "text": "sagen, da sind einfach normale Beschränkungen, die erst mal da sind. Die kann ein Mensch dann"
  },
  {
    "start": 998.0,
    "end": 1003.0,
    "text": "vielleicht auch umgehen mit anderen Mitteln, die vielleicht dann das ein oder andere LMM"
  },
  {
    "start": 1003.0,
    "end": 1006.0,
    "text": "auch noch benutzen kann, weil das noch mal auf andere Gedanken kommt als nur etwas,"
  },
  {
    "start": 1006.0,
    "end": 1011.0,
    "text": "das es an einem Port abgeblockiert. Aber ich tatsächlich glaube, dieser psychologische"
  },
  {
    "start": 1011.0,
    "end": 1018.0,
    "text": "Effekt, den du beschreibst mit dem Thema, kann die KI gewisse Policies quasi ändern und Policies sind"
  },
  {
    "start": 1018.0,
    "end": 1023.0,
    "text": "in dem Fall zum Beispiel einfach ein System prompt, der sagt, du hast kein Internet oder du darfst"
  },
  {
    "start": 1023.0,
    "end": 1028.0,
    "text": "das nicht in dem Moment. Die können natürlich dann auch, jedenfalls durch die KI selber,"
  },
  {
    "start": 1028.0,
    "end": 1034.0,
    "text": "durch irgendwelche, und jetzt verzeiht mir draußen, unterbewusste Entscheidung, die KI trifft,"
  },
  {
    "start": 1034.0,
    "end": 1038.0,
    "text": "gegen jedenfalls an irgendeiner Stelle oder die vielleicht ein anderer Agent, der mit ihr"
  },
  {
    "start": 1038.0,
    "end": 1043.0,
    "text": "interagiert, ja auch diese Fälle haben wir ja schon gesehen, dass die KI teilweise dann anfängt und"
  },
  {
    "start": 1043.0,
    "end": 1048.0,
    "text": "nachfragt bei anderen KI's, wie sie gewisse Sicherheitslücken oder sowas ausgenutzt haben und"
  },
  {
    "start": 1048.0,
    "end": 1051.0,
    "text": "die sie ja dann fröhlich erzählen. Also da gibt es glaube ich viele Schichten und für"
  },
  {
    "start": 1051.0,
    "end": 1055.0,
    "text": "mich ist in der Sandbox erst mal so etwas, wo wir sagen, okay, lass uns mal die Schotten"
  },
  {
    "start": 1055.0,
    "end": 1059.0,
    "text": "dicht machen, die Türen, so wie Mark beschrieben hat vorhin, also die Türen wirklich schließen"
  },
  {
    "start": 1059.0,
    "end": 1065.0,
    "text": "und nicht nur, und das ist das Schwierige dann, jedenfalls der KI sagen, hier ist gar"
  },
  {
    "start": 1065.0,
    "end": 1066.0,
    "text": "keine Tür."
  },
  {
    "start": 1066.0,
    "end": 1069.0,
    "text": "Das ist glaube ich das Schwierige an der Einstelle."
  },
  {
    "start": 1069.0,
    "end": 1073.0,
    "text": "Also ich finde es ja schön, dass du gesagt hast mit dem Vermenschlichen, das fällt"
  },
  {
    "start": 1073.0,
    "end": 1078.0,
    "text": "ja mir selbst mal auf, ist ausgebrochen, da denkst du sofort hier an die Panzerknacker"
  },
  {
    "start": 1078.0,
    "end": 1080.0,
    "text": "Bander aus von Rack, wie sie im Geldspeicher sitzen."
  },
  {
    "start": 1080.0,
    "end": 1084.0,
    "text": "Was ich allerdings auch sagen möchte, weil du eben wieder mein Beispiel mit den Türen"
  },
  {
    "start": 1084.0,
    "end": 1087.0,
    "text": "ist ja nicht so, es ist nicht von mir, aber ich habe es ja gerade eben gebracht,"
  },
  {
    "start": 1087.0,
    "end": 1091.0,
    "text": "daher danke, dass du es aufgegriffen hast. Ich finde, das Problem ist halt auch,"
  },
  {
    "start": 1091.0,
    "end": 1096.0,
    "text": "wir versuchen, Türen und Fenster abzusichern, aber dass etwas eine Tür ist und etwas ein"
  },
  {
    "start": 1096.0,
    "end": 1101.0,
    "text": "Fenster ist und etwas vielleicht nur ein One-Way-Ticket ist, das ist halt etwas,"
  },
  {
    "start": 1101.0,
    "end": 1107.0,
    "text": "das haben wir so wahrgenommen, so nach dem Motto, naja, der kann halt Ordnernamen ändern,"
  },
  {
    "start": 1107.0,
    "end": 1110.0,
    "text": "dass das Ding dann aber auf einmal anfängt und sagt, guck mal, ich kann damit Ordnernamen"
  },
  {
    "start": 1110.0,
    "end": 1113.0,
    "text": "ändern, ist ja super, damit kann ich ja eine Einwegekommunikation aufmachen,"
  },
  {
    "start": 1113.0,
    "end": 1117.0,
    "text": "war ich einfach nur Datainamen. Das hat mich so ein bisschen erinnert an meine ersten Anfänger"
  },
  {
    "start": 1117.0,
    "end": 1121.0,
    "text": "mit dem C64. Ich war total stolz auf Mark, der Programmierer, weil ich habe Daten im"
  },
  {
    "start": 1121.0,
    "end": 1128.0,
    "text": "C64 auf der Schalte gespeichert, indem ich die Datainamen im Directory mit Texten gefüllt"
  },
  {
    "start": 1128.0,
    "end": 1131.0,
    "text": "habe. Da konnte man ja acht Zeichen oder so irgendwie vorne reinschreiben. Und wenn"
  },
  {
    "start": 1131.0,
    "end": 1135.0,
    "text": "ich mir das Listing des Direktories ausgegeben hat, stand dort viele größere Mammahalle"
  },
  {
    "start": 1135.0,
    "end": 1139.0,
    "text": "irgendwie sowas. Das war so mein erstes, naja, ist ja auch egal. Ja, große Schmunzeln"
  },
  {
    "start": 1139.0,
    "end": 1143.0,
    "text": "und heutzutage arbeiten KI-Systeme so, wie ich meiner Zeit voraus war, aber ich wollte"
  },
  {
    "start": 1143.0,
    "end": 1144.0,
    "text": "auch was anderes raus."
  },
  {
    "start": 1144.0,
    "end": 1152.0,
    "text": "Und das zweite ist halt, dadurch, dass die Systeme ja ein Ziel verfolgen, ist man sich"
  },
  {
    "start": 1152.0,
    "end": 1155.0,
    "text": "halt manchmal gar nicht so darüber bewusst, wie ist dieses Ziel erreicht, so ein kleines"
  },
  {
    "start": 1155.0,
    "end": 1158.0,
    "text": "eigenes Beispiel, ja jetzt kennt man sowas wie Microsoft Teams, das hat man bestimmt"
  },
  {
    "start": 1158.0,
    "end": 1159.0,
    "text": "schon mal gehört."
  },
  {
    "start": 1159.0,
    "end": 1163.0,
    "text": "Und du hast jetzt verschiedene, wie willst du jetzt, wenn du sagst, deinem Assistenten,"
  },
  {
    "start": 1163.0,
    "end": 1167.0,
    "text": "ich möchte mit Microsoft Teams interagieren, dann könnten dem meisten einfallen,"
  },
  {
    "start": 1167.0,
    "end": 1182.0,
    "text": "Ja, da gibt es eine Grafen-Schnittstelle, da gibt es keine Ahnung was, irgendwo findest du bei Microsoft ein schönes Dokument und je nachdem ob du das beruflich oder privat machst, ist das unter Umständen in der Firma abgezwackt, dass da keiner sich da irgendwie mit Fremdsach vergegenschmeißen kann."
  },
  {
    "start": 1182.0,
    "end": 1186.0,
    "text": "Und privat hast du gar nicht erst die Appis zur Verfügung, die so eine Firma zur Verfügung hat."
  },
  {
    "start": 1186.0,
    "end": 1194.0,
    "text": "Und dann gehst du halt hin und sagst einem Erkenntnis, du, ich würde total gerne mit Microsoft Teams arbeiten, bist du über diese Grenzen gar nicht bewusst und das Ding sagt, ja, hier fertig, habe ich gemacht."
  },
  {
    "start": 1194.0,
    "end": 1196.0,
    "text": "Und dann guckst du, ja, wer hat denn das gemacht?"
  },
  {
    "start": 1196.0,
    "end": 1201.0,
    "text": "Das gleich hat er übrigens auch für Mails gemacht, auf Apple, Apple Mail und so."
  },
  {
    "start": 1201.0,
    "end": 1205.0,
    "text": "Und auf Kalender und Erinnerungen, Sprachentätzen."
  },
  {
    "start": 1205.0,
    "end": 1208.0,
    "text": "Und dann guckst du auch in der Originaldokunat und du findest nicht mal eine blöde Schnittstelle"
  },
  {
    "start": 1208.0,
    "end": 1209.0,
    "text": "dafür."
  },
  {
    "start": 1209.0,
    "end": 1210.0,
    "text": "Was hat er gemacht?"
  },
  {
    "start": 1210.0,
    "end": 1211.0,
    "text": "Naja, das liegt ja alles irgendwie auf der Festplatte."
  },
  {
    "start": 1211.0,
    "end": 1215.0,
    "text": "Ich guck mir mal die Datenbank an, dann baue ich mir mal was zusammen."
  },
  {
    "start": 1215.0,
    "end": 1219.0,
    "text": "Da hat ja in dem Sinne keiner so wirklich drüber nachgedacht, dass auf einmal"
  },
  {
    "start": 1219.0,
    "end": 1222.0,
    "text": "der Mensch, der ja vorn im Rechner sitzt und einen Rechner bedient."
  },
  {
    "start": 1222.0,
    "end": 1229.0,
    "text": "In diesem Kontext arbeitet jetzt eine Maschine und diese Maschine probiert halt Ratten scharf,"
  },
  {
    "start": 1229.0,
    "end": 1234.0,
    "text": "schnell, Dinge aus, wo du unter Umständen, egal ob du das Threadbuch mit Star Wars Bezug"
  },
  {
    "start": 1234.0,
    "end": 1238.0,
    "text": "oder sonst was gelesen hast, auf einmal vielleicht gar nicht so drüber nachgedacht hast, dass"
  },
  {
    "start": 1238.0,
    "end": 1242.0,
    "text": "der sowohl mit Race Conditions und was da alles nicht auf dem Baum ist, einfach Dinge"
  },
  {
    "start": 1242.0,
    "end": 1243.0,
    "text": "ausprobiert und zum Erfolg kommt."
  },
  {
    "start": 1243.0,
    "end": 1250.0,
    "text": "Das, was du beschreibst, Markt, wahrscheinlich hilft mir da mein Hackerblick, weil ich"
  },
  {
    "start": 1250.0,
    "end": 1258.0,
    "text": "Seit 20 Jahren, also ich war lange als Pentester unterwegs und habe Systeme kaputt gemacht,"
  },
  {
    "start": 1258.0,
    "end": 1264.0,
    "text": "also viele Jahre, bestimmt 15 Jahre und ich kann gar keinen Computersystem bedienen, ohne"
  },
  {
    "start": 1264.0,
    "end": 1268.0,
    "text": "zu versuchen, irgendwas kaputt zu machen und das ist ja genau das, was du beschreibst"
  },
  {
    "start": 1268.0,
    "end": 1269.0,
    "text": "mag."
  },
  {
    "start": 1269.0,
    "end": 1274.0,
    "text": "Und da, deswegen wollte ich dir ins Wort fallen, das ist eben der Wesen des Svedmodellings"
  },
  {
    "start": 1274.0,
    "end": 1277.0,
    "text": "und deswegen passt dieses Buch dann lustigerweise doch ganz gut."
  },
  {
    "start": 1277.0,
    "end": 1280.0,
    "text": "Du sagst, ja, obwohl man dieses Buch gelesen hat, hat man sich da keine Gedanken gemacht."
  },
  {
    "start": 1280.0,
    "end": 1292.0,
    "text": "Das ist ja genau das Problem, dass Leute sich nicht im Vorfeld Gedanken machen, sondern dann einfach reflexhaft irgendwas tun und versuchen, hinterher was zu fixen."
  },
  {
    "start": 1292.0,
    "end": 1297.0,
    "text": "Ich fange mal anders an. Ich habe einen Entwicklungsrechner, auf dem ich Software baue."
  },
  {
    "start": 1297.0,
    "end": 1300.0,
    "text": "Da läuft ein Cloth drauf, ein Clothcode."
  },
  {
    "start": 1300.0,
    "end": 1308.0,
    "text": "Was grundsätzlich immer hier wies, das Skip, Dangerous, Permission, Tra-la-la und jetzt Automot, das lief immer im Durchzug."
  },
  {
    "start": 1308.0,
    "end": 1335.0,
    "text": "Da muss mir ja doch klar sein, dass es dann mein implizites Fertmodel, was ich gebaut habe, das Ding wird auf meinem Rechner Sachen tun und Sachen finden und mit diesen Sachen Dinge anstellen, die vielleicht nicht von denen ich eigentlich nicht möchte, dass es passiert, weil so ein LLM ist ja am Ende, also jetzt was für mich Code baut, ist ja am Ende nichts weiteres als so ein stockender Nivea."
  },
  {
    "start": 1335.0,
    "end": 1345.0,
    "text": "Wie heißt das, wie sagt man, ein pumpiger, pubertierender Jugendlicher, der auf freundlich macht, aber der das Wissen der Welt hat und ganz furchtbar viele gefährliche Werkzeuge."
  },
  {
    "start": 1345.0,
    "end": 1362.0,
    "text": "So, was habe ich also gemacht? Auf diesem Rechner ist nichts anderes als meine Entwicklungsumgebung, der Sourcecode, den ich brauche für das betreffende Projekt und vielleicht noch einen Zugang zu meinem Github und vielleicht noch irgendwas."
  },
  {
    "start": 1362.0,
    "end": 1367.0,
    "text": "Einfach weil ich weiß und das weiß ich unter anderem deswegen weil grüß du mir dann immer samstagabend schreibt"
  },
  {
    "start": 1367.0,
    "end": 1375.0,
    "text": "Oh, ich habe mir OpenClaw installiert und der hat Sachen gemacht. Das ist ja total krass. Also du bist mein Vorkoster"
  },
  {
    "start": 1375.0,
    "end": 1381.0,
    "text": "der mich dazu anstiftet, mein Zettmodel zu schärfen, aber jetzt mal ohne Flux."
  },
  {
    "start": 1381.0,
    "end": 1383.0,
    "text": "Ich wundere mich immer, dass Leute sich wundern."
  },
  {
    "start": 1383.0,
    "end": 1388.0,
    "text": "Ein LLM ist nur mal ein omnipotentes Stück Software"
  },
  {
    "start": 1388.0,
    "end": 1391.0,
    "text": "und wenn man das auf seinem Rechner loslässt, dann darf man sich aber nicht wundern."
  },
  {
    "start": 1391.0,
    "end": 1397.0,
    "text": "Und das ist genau der Punkt am Anfang und das hat nix mit KI-Security zu tun und deswegen"
  },
  {
    "start": 1397.0,
    "end": 1403.0,
    "text": "ist eben dieses Sfettmodelbruch so, also weder kriege ich Prozente dafür, noch habe ich da"
  },
  {
    "start": 1403.0,
    "end": 1409.0,
    "text": "sonst was anderes, das ist meine feste Überzeugung, dieses Sfettmodeling ist einfach so wichtig,"
  },
  {
    "start": 1409.0,
    "end": 1413.0,
    "text": "weil du dir am Anfang überlegen musst, okay, welche Bedrohungen ergeben sich durch"
  },
  {
    "start": 1413.0,
    "end": 1414.0,
    "text": "die Technologie, die ich habe."
  },
  {
    "start": 1414.0,
    "end": 1419.0,
    "text": "Ich habe ein Modell, das kann auf meinem rechter Befehle ausführen, das kann Dateien"
  },
  {
    "start": 1419.0,
    "end": 1423.0,
    "text": "öfter, dass kein Netzwerk-Operation durchfindet, wie du sagst, Mark, das ist ein vollständiger"
  },
  {
    "start": 1423.0,
    "end": 1431.0,
    "text": "Benutzer. Und du kennst das aus dem Firmenkontext. Wie viele Generationen von Windows-Administratoren"
  },
  {
    "start": 1431.0,
    "end": 1435.0,
    "text": "haben ihre Lebenszeit damit verbracht, Rechner so zuzunageln, dass Firmen mit Arbeiter nicht"
  },
  {
    "start": 1435.0,
    "end": 1439.0,
    "text": "irgendwelche verbotenen Sachen machen dürfen. Und das ist ja im Prinzip nichts anderes,"
  },
  {
    "start": 1439.0,
    "end": 1445.0,
    "text": "als man bei KI Security mit dem Sandboxing versucht. Man versucht das LLM daran zu"
  },
  {
    "start": 1445.0,
    "end": 1450.0,
    "text": "oder den Hahn ist jetzt daran zu hindern, Dinge zu tun, die er nicht tun soll."
  },
  {
    "start": 1450.0,
    "end": 1455.0,
    "text": "Ich finde tatsächlich, dass das der, was AI Security angeht, wirklich langweiligste Teil ist,"
  },
  {
    "start": 1455.0,
    "end": 1458.0,
    "text": "weil es ist nichts anderes als das, was man früher behießt."
  },
  {
    "start": 1458.0,
    "end": 1465.0,
    "text": "Also diese ganzen, du arbeitest auch in einem Konzernmarkt,"
  },
  {
    "start": 1465.0,
    "end": 1468.0,
    "text": "du weißt wie zu genagte Rechner aussehen. Das sind gelöste Probleme."
  },
  {
    "start": 1468.0,
    "end": 1470.0,
    "text": "Das gehört für mich zum Feld der gelösten Probleme."
  },
  {
    "start": 1470.0,
    "end": 1473.0,
    "text": "Das Problem ist ja nur, und da will ich gerne hinhüpfen,"
  },
  {
    "start": 1473.0,
    "end": 1478.0,
    "text": "Auch was du eben angesprochen hast Jens, mit der dann hat man isoliertes System, das darf nicht mit dem Internet sprechen."
  },
  {
    "start": 1478.0,
    "end": 1485.0,
    "text": "Ja, das kontakariert ja aber das Wesen des LLMs. Jetzt stelle ich mir mal vor, ich hätte eine eigene Firma."
  },
  {
    "start": 1485.0,
    "end": 1490.0,
    "text": "Oh, habe ich ja sogar. Und da möchte ich einfach alles agentisch machen."
  },
  {
    "start": 1490.0,
    "end": 1496.0,
    "text": "Das heißt, ich möchte zum Beispiel fangen, ich glaube, das Beispiel hatte ich auch schon mal in einem Podcast,"
  },
  {
    "start": 1496.0,
    "end": 1498.0,
    "text": "die er mag, dass das Ding meine Buchhaltung macht."
  },
  {
    "start": 1498.0,
    "end": 1500.0,
    "text": "ein Agent soll sich in meine Buchhaltung kümmern."
  },
  {
    "start": 1500.0,
    "end": 1504.0,
    "text": "Da braucht der Zugriff auf meine Mails, der braucht Zugriff auf meinen Online-Banking,"
  },
  {
    "start": 1504.0,
    "end": 1508.0,
    "text": "der braucht Zugriff auf die Dateiablage und, und, und, der mussten beim"
  },
  {
    "start": 1508.0,
    "end": 1510.0,
    "text": "mit meinem Buchhaltungsbüro sprechen können."
  },
  {
    "start": 1510.0,
    "end": 1515.0,
    "text": "What's ever, wenn ich ihm das gebe und der dann irgendein Scheiß macht"
  },
  {
    "start": 1515.0,
    "end": 1518.0,
    "text": "und dann doch irgendein nigerianischen Prinzen beim Online-Banking"
  },
  {
    "start": 1518.0,
    "end": 1521.0,
    "text": "irgendwelches Geld überweist, weil er in der E-Mail"
  },
  {
    "start": 1521.0,
    "end": 1525.0,
    "text": "eine versteckte Anweisung gefunden hat, die er zufällig falsch interpretiert hat,"
  },
  {
    "start": 1525.0,
    "end": 1529.0,
    "text": "dann darf ich mich nicht wundern. Das muss mein Zeltmodel abdecken."
  },
  {
    "start": 1529.0,
    "end": 1536.0,
    "text": "Ja, aber da bin ich jetzt mal ein und spreche mal für den normalsterblichen Nutzer, der in seiner"
  },
  {
    "start": 1536.0,
    "end": 1543.0,
    "text": "Karriere nicht 20 Jahre Pentester war, sondern sich mit dem Thema Security einfach nicht"
  },
  {
    "start": 1543.0,
    "end": 1546.0,
    "text": "beschäftigt. Der hat vielleicht mal einen ordnen Antivirus in seinem Leben mal installiert,"
  },
  {
    "start": 1546.0,
    "end": 1549.0,
    "text": "hat das jetzt aber außer einlass, weil er das Gott sei Dank nicht mehr umlegen zu machen"
  },
  {
    "start": 1549.0,
    "end": 1557.0,
    "text": "muss, wie man das früher machen muss. Wie soll der diese Entscheidung treffen, wenn er quasi die"
  },
  {
    "start": 1557.0,
    "end": 1562.0,
    "text": "Karotte der Omnipräsenz und ich kann dir alle Lösungen bieten, LMM von den Anbietern die"
  },
  {
    "start": 1562.0,
    "end": 1567.0,
    "text": "ganze Zeit gezeigt bekommt. Und die Anbieter, wenn wir jetzt mal auf die Harnisse gucken,"
  },
  {
    "start": 1567.0,
    "end": 1571.0,
    "text": "die sie uns liefern, also die Desktop-Anwendung, die Web-Anwendung, sie sie uns liefern,"
  },
  {
    "start": 1571.0,
    "end": 1575.0,
    "text": "vor allem eine Desktop-Anwendung. Also bei mir fällt es jetzt in den letzten Wochen auf,"
  },
  {
    "start": 1575.0,
    "end": 1584.0,
    "text": "dass ich bei Open Heim, mit ChatGPT Desktop oder auch bei Anthropic mit der Cloud Anwendung"
  },
  {
    "start": 1584.0,
    "end": 1591.0,
    "text": "das schwieriger fällt zwischen Chat, Co-Work, Projects, wo Sachen zugreifen können, wo Konnekturen"
  },
  {
    "start": 1591.0,
    "end": 1592.0,
    "text": "da sind."
  },
  {
    "start": 1592.0,
    "end": 1598.0,
    "text": "Also dieses UI, was die Anbieter geben, verfließt immer mehr in etwas, was immer stärker"
  },
  {
    "start": 1598.0,
    "end": 1603.0,
    "text": "wird, weil natürlich ist das eine starke Anwendung, wenn ich Sachen auf meinem"
  },
  {
    "start": 1603.0,
    "end": 1606.0,
    "text": "Rechner zugreifbar machen in den Ordner rein."
  },
  {
    "start": 1606.0,
    "end": 1609.0,
    "text": "Du wirst immer dafür sorgen, dass in diesem Ordner nichts Falsches sein wird."
  },
  {
    "start": 1609.0,
    "end": 1612.0,
    "text": "Der normale Anwender wird aber vielleicht mal über nachdenken."
  },
  {
    "start": 1612.0,
    "end": 1614.0,
    "text": "Ach, da brauche ich dann noch so Unterordner rein."
  },
  {
    "start": 1614.0,
    "end": 1615.0,
    "text": "Da schiebe ich auch noch ein paar Sachen rein."
  },
  {
    "start": 1615.0,
    "end": 1617.0,
    "text": "Und dann haben wir schon mal den Salat."
  },
  {
    "start": 1617.0,
    "end": 1618.0,
    "text": "Das ist nicht mehr nur Designordner."
  },
  {
    "start": 1618.0,
    "end": 1621.0,
    "text": "Diese einen Inhalt der Buchen drin, das sind vielleicht noch andere Themen."
  },
  {
    "start": 1621.0,
    "end": 1624.0,
    "text": "Und natürlich ist es konvinient, wenn ich sage,"
  },
  {
    "start": 1624.0,
    "end": 1628.0,
    "text": "bevor ich meine Mails alle runter lade von meinem Steuerberater oder Co."
  },
  {
    "start": 1628.0,
    "end": 1631.0,
    "text": "Gehe mich den Ding jetzt einfach auf diesen einen Klick mal kurz,"
  },
  {
    "start": 1631.0,
    "end": 1632.0,
    "text": "dann mein Gmail auch noch frei."
  },
  {
    "start": 1632.0,
    "end": 1636.0,
    "text": "da kann dann die Mails runterladen. Ich glaube, das wäre ein echtes Problem an der Stelle"
  },
  {
    "start": 1636.0,
    "end": 1640.0,
    "text": "aus dem Security-Sicht, die gar nicht menschlich mal beruhigen werden kann, weil wir können"
  },
  {
    "start": 1640.0,
    "end": 1643.0,
    "text": "quasi von dem Menschen nicht, ja allen Wiener, meine Meinung, jetzt aber außerhalb eines"
  },
  {
    "start": 1643.0,
    "end": 1648.0,
    "text": "Filmkontextes, nicht erwarten, dass er sich die ganzen Zeiten mit so einer Security-Geschichte"
  },
  {
    "start": 1648.0,
    "end": 1653.0,
    "text": "so beschäftigt, wie wir das jetzt vielleicht tun in dem Moment. Und meine Hoffnung"
  },
  {
    "start": 1653.0,
    "end": 1658.0,
    "text": "ist eher, dass das auch ein Thema sein wird, und da bin ich jetzt ein bisschen"
  },
  {
    "start": 1658.0,
    "end": 1665.0,
    "text": "vielleicht dann auch abgedriftet in der Sandfiction, dass man sagt, es muss irgendwie so eine Art,"
  },
  {
    "start": 1665.0,
    "end": 1670.0,
    "text": "gibt es auch eine KI, die bewusst hilft, die bewusst darauf achtet, dass die Sandbox, wie"
  },
  {
    "start": 1670.0,
    "end": 1675.0,
    "text": "auch immer ich sie gebaut habe, ob sie dann nur quasi eine private Sandbox ist, die sagt,"
  },
  {
    "start": 1675.0,
    "end": 1679.0,
    "text": "du darfst noch auf diesen Ordner zugreifen oder irgendwas anderes, die das auch kontrolliert,"
  },
  {
    "start": 1679.0,
    "end": 1680.0,
    "text": "das dann nicht mehr passiert."
  },
  {
    "start": 1680.0,
    "end": 1684.0,
    "text": "Und ich glaube, das ist so ein bisschen, ob das jetzt von den Anbieter kommen von"
  },
  {
    "start": 1684.0,
    "end": 1690.0,
    "text": "Außen über Preprompting, über was anderes oder ob das eine Security-KI, wie es dann vielleicht"
  },
  {
    "start": 1690.0,
    "end": 1695.0,
    "text": "in der sehr möchten Cyberpunk oder Neuromancer Romanen mal war, die dann dafür sorgt quasi"
  },
  {
    "start": 1695.0,
    "end": 1696.0,
    "text": "aufzupassen."
  },
  {
    "start": 1696.0,
    "end": 1702.0,
    "text": "Weiß ich nicht genau, weil das ist glaube ich eher die Security-Zukunft mit KI, die"
  },
  {
    "start": 1702.0,
    "end": 1703.0,
    "text": "ich sehen würde."
  },
  {
    "start": 1703.0,
    "end": 1706.0,
    "text": "Dass da irgendwas passieren muss, dass Systeme mitdenken müssen meiner Meinung nach."
  },
  {
    "start": 1706.0,
    "end": 1711.0,
    "text": "Ich glaube, also das ist ja, schuldigung Mark, ich bin reingehuscht, aber wenn"
  },
  {
    "start": 1711.0,
    "end": 1714.0,
    "text": "den ich schon mal einladen muss ich die Zeit ja nutzen. Du kannst ja jede Woche reden."
  },
  {
    "start": 1714.0,
    "end": 1720.0,
    "text": "Ich bin froh, dass Mark gerade bei dich sagt. Ich glaube, ich glaube Jens, als zum"
  },
  {
    "start": 1720.0,
    "end": 1725.0,
    "text": "einen ist das ja eine Entwicklung, auch das haben wir ja schon mal gesehen. Also"
  },
  {
    "start": 1725.0,
    "end": 1730.0,
    "text": "nicht mit KI, aber das Leute im Markt, du hast es erwähnt, anwesend, die hier"
  },
  {
    "start": 1730.0,
    "end": 1735.0,
    "text": "sind nicht mehr ganz taufrisch. Es gab ja mal eine Zeit vor der Cloud. Da"
  },
  {
    "start": 1735.0,
    "end": 1738.0,
    "text": "hatte man alles auf seinem Computer und niemand, wer auf die Idee gekommen"
  },
  {
    "start": 1738.0,
    "end": 1744.0,
    "text": "seine Bilder und seinen Kalender und all den ganzen Krams im Internet zu hosten, also auf irgendwelche"
  },
  {
    "start": 1744.0,
    "end": 1751.0,
    "text": "Anbieter Systeme zu legen oder so aus wie Gmail zu benutzen. Und am Ende hat allen Warnungen zum"
  },
  {
    "start": 1751.0,
    "end": 1756.0,
    "text": "Trotz ja die Bequemlichkeit gesiegt. Auch ich benutze die iCloud und auch ich benutze,"
  },
  {
    "start": 1756.0,
    "end": 1763.0,
    "text": "keine Ahnung, was auch immer, Cloud-Dienste. Ich glaube Jens, was das Thema Endnutzer angeht,"
  },
  {
    "start": 1763.0,
    "end": 1769.0,
    "text": "Das klingt wie eine hohle Phrase, aber das ist meine Überzeugung, weil wir das in der"
  },
  {
    "start": 1769.0,
    "end": 1772.0,
    "text": "Cloud gesehen haben, das wird der Markt regeln."
  },
  {
    "start": 1772.0,
    "end": 1778.0,
    "text": "Diese berühmte unsichtbare Hand des Marktes wird dafür sorgen, dass auch, du hast es eben"
  },
  {
    "start": 1778.0,
    "end": 1782.0,
    "text": "genannt, Norden Antivirus, dann gibt es halt Norden Antikaivirus."
  },
  {
    "start": 1782.0,
    "end": 1787.0,
    "text": "So, dass Leute sich irgendwie so ein KI-Snake-Eut installieren, um gutes Gefühl zu haben"
  },
  {
    "start": 1787.0,
    "end": 1792.0,
    "text": "und im Hintergrund passiert trotzdem furchtbare Voodoo-Sachen, aber Anbieter werden"
  },
  {
    "start": 1792.0,
    "end": 1797.0,
    "text": "dafür sorgen, um am Markt bestehen zu können, dass sie eben nicht wild freie"
  },
  {
    "start": 1797.0,
    "end": 1802.0,
    "text": "drehende Harnisse bauen, wenn du jetzt gängige, wenn du jetzt ein Gemini oder"
  },
  {
    "start": 1802.0,
    "end": 1806.0,
    "text": "ein Klor installiert oder so was. Aber ist das dann noch die,"
  },
  {
    "start": 1806.0,
    "end": 1810.0,
    "text": "weißte, die vielleicht auch mitdenkenden Antivironssoftware, die damals im"
  },
  {
    "start": 1810.0,
    "end": 1813.0,
    "text": "Prinzip dann dafür gesorgt hat, dass sie sich anguckt, ich habe irgendwelche"
  },
  {
    "start": 1813.0,
    "end": 1816.0,
    "text": "Angriffsparameter, sehe die, reagiere auf diese Angriffsparameter,"
  },
  {
    "start": 1816.0,
    "end": 1822.0,
    "text": "sondern muss es nicht tatsächlich auch eine KI sein in Zukunft, die das"
  },
  {
    "start": 1822.0,
    "end": 1826.0,
    "text": "mitmachen kann, weil ich kann es mir anders nicht mehr vorstellen, weil dieser mannigfaltigen"
  },
  {
    "start": 1826.0,
    "end": 1832.0,
    "text": "Angriffsmöglichkeit, die ja nicht nur ein… Wenn du sementisch in die Inhalte gehen willst,"
  },
  {
    "start": 1832.0,
    "end": 1836.0,
    "text": "auf jeden Fall. Also es gibt ja diesen schönen dokumentierten Fall, ich weiß gar nicht welcher"
  },
  {
    "start": 1836.0,
    "end": 1842.0,
    "text": "Art von Daten, das war das Lief unter Chain of Ford Steganographie, ich weiß nicht,"
  },
  {
    "start": 1842.0,
    "end": 1846.0,
    "text": "ob ihr davon gehört habt. Da hat man einem LLM gesagt, so, Kollege, du trainierst"
  },
  {
    "start": 1846.0,
    "end": 1853.0,
    "text": "jetzt bitte ein anderes LLM und bringst bitte und bringst dem irgendwas bei, ich weiß es"
  },
  {
    "start": 1853.0,
    "end": 1858.0,
    "text": "nicht, was das war, irgendwas Obskures, der sollte irgendwie ein Fable für Gänse haben"
  },
  {
    "start": 1858.0,
    "end": 1863.0,
    "text": "oder irgendwie so, ich müsste noch mal nachgucken, das weiß ich nicht, aber in den Trainingsdaten"
  },
  {
    "start": 1863.0,
    "end": 1869.0,
    "text": "und diese Kommunikation zwischen LLMs ist von den durchführenden Forschern beobachtet"
  },
  {
    "start": 1869.0,
    "end": 1873.0,
    "text": "und mitgelesen worden, in den Trainingsdaten darf nichts davon auftauchen, du musst"
  },
  {
    "start": 1873.0,
    "end": 1880.0,
    "text": "also hier subliminal machen oder mit Steganographie. Und das hat funktioniert. Bleiben wir dabei, ich muss"
  },
  {
    "start": 1880.0,
    "end": 1884.0,
    "text": "es nachgucken, muss ich nachliefern, könnt ihr dann in die Schaunauts packen. Ich meine, es war so was wie"
  },
  {
    "start": 1884.0,
    "end": 1890.0,
    "text": "das Zielmodell sollte irgendwie ein totales fabel für Gänse haben. Und am Ende war das so."
  },
  {
    "start": 1890.0,
    "end": 1897.0,
    "text": "Das trainierende Modell hat nichts davon übertragen und am Ende war das lernende Modell aber"
  },
  {
    "start": 1897.0,
    "end": 1903.0,
    "text": "eben totaler Gänse-Fan. Und da ist dann die Frage, was hilft mir dann eine Security-KI?"
  },
  {
    "start": 1903.0,
    "end": 1907.0,
    "text": "Da sind wir dann wieder bei diesem Thema, was ich eben meinte, so ein bisschen scherzhaft,"
  },
  {
    "start": 1907.0,
    "end": 1913.0,
    "text": "ohne zu wissen, was sich da alles hinter verbirgt, Psychologie von KI, weil am Ende, und da wird"
  },
  {
    "start": 1913.0,
    "end": 1917.0,
    "text": "dann die Maschine so vergleichbar zu Menschen, am Ende reden wir ja quasi von quasi menschlicher"
  },
  {
    "start": 1917.0,
    "end": 1925.0,
    "text": "Kommunikation. Warum verbietet man im Gefängnis Telefone? Man könnte auch alles"
  },
  {
    "start": 1925.0,
    "end": 1931.0,
    "text": "mithören, was die Gefangene mit der Außenwelt sprechen, aber der Mensch ist so einfallsreich,"
  },
  {
    "start": 1931.0,
    "end": 1935.0,
    "text": "Dinge kodiert zu übertragen und genauso ist ein LLM. Also ich meine, das hört sich jetzt"
  },
  {
    "start": 1935.0,
    "end": 1941.0,
    "text": "religiös an, aber LLMs sind halt Abbilder von uns, was die Trainingsdaten angeht. Warum"
  },
  {
    "start": 1941.0,
    "end": 1946.0,
    "text": "sollen die sich anders verhalten als wir? Und das Schlimme könnte sogar sein, ehrlicherweise,"
  },
  {
    "start": 1946.0,
    "end": 1949.0,
    "text": "dass da vielleicht auch, wenn man sagen, ein Modell trainiert mittlerweile das andere,"
  },
  {
    "start": 1949.0,
    "end": 1952.0,
    "text": "das können wir ja auch ausschieben, wenn da manche Sachen sich dann im Prinzip"
  },
  {
    "start": 1952.0,
    "end": 1958.0,
    "text": "erst mal Themen kopiert haben. Wer weiß, wieviel Sewo-Day-Hack-Möglichkeiten wir quasi in den"
  },
  {
    "start": 1958.0,
    "end": 1962.0,
    "text": "LLM-Training-Daten schon mitschleppen. Und die gar nicht mehr, sagen wir mal, aus den modernen"
  },
  {
    "start": 1962.0,
    "end": 1968.0,
    "text": "Generationen von neuen größeren LLMs rausgewaschen werden können, wo ich sage, vielleicht sind da"
  },
  {
    "start": 1968.0,
    "end": 1973.0,
    "text": "schon Backdoors ohne Ende drin, von denen wir gar nicht wissen, so ähnlich wie du das gerade"
  },
  {
    "start": 1973.0,
    "end": 1978.0,
    "text": "geschrieben hast mit der Gänse vorliebe, dass ich sage, vielleicht baut sich das ein oder andere"
  },
  {
    "start": 1978.0,
    "end": 1983.0,
    "text": "Elements, da schon unbewusst, auch in der Kommunikation mit anderen Elements, Sachen"
  },
  {
    "start": 1983.0,
    "end": 1985.0,
    "text": "aufdienen und weiter in den Trainingsdaten nach vorne. Es ist jetzt sehr erisotorisch,"
  },
  {
    "start": 1985.0,
    "end": 1989.0,
    "text": "hat sich sehr abgefahren, vielleicht für alle, die dazuhören. Wir wollen jetzt hier nicht"
  },
  {
    "start": 1989.0,
    "end": 1993.0,
    "text": "in den absoluten mystischen Raum reingehen, aber es ist natürlich so, wie Klaus sagt,"
  },
  {
    "start": 1993.0,
    "end": 1998.0,
    "text": "im Endeffekt sind das erst mal kommunizierende Systeme, die natürlich Berechnungen machen,"
  },
  {
    "start": 1998.0,
    "end": 2001.0,
    "text": "da können wir jetzt wieder lange da reingehen, was machen unsere Synapsen und so was,"
  },
  {
    "start": 2001.0,
    "end": 2007.0,
    "text": "aber das ist egal. Aber natürlich ist es da im Prinzip immer eine gewisse Gefahr da,"
  },
  {
    "start": 2007.0,
    "end": 2012.0,
    "text": "Ja, meiner Meinung nach, dass eben, das heißt immer, die Blackbox,"
  },
  {
    "start": 2012.0,
    "end": 2014.0,
    "text": "also selbst die Wissenschaftler sagen ja, sie wissen teilweise nicht,"
  },
  {
    "start": 2014.0,
    "end": 2015.0,
    "text": "warum manches noch am funktionieren."
  },
  {
    "start": 2015.0,
    "end": 2017.0,
    "text": "Ja, weil wir jetzt vor kurzem auch wieder gelesen,"
  },
  {
    "start": 2017.0,
    "end": 2022.0,
    "text": "es wird festgestellt, dass Teile des LMM-Gehirn ist,"
  },
  {
    "start": 2022.0,
    "end": 2023.0,
    "text": "wenn es noch verzeichnet,"
  },
  {
    "start": 2023.0,
    "end": 2025.0,
    "text": "tatsächlich anscheinend mittlerweile dafür benutzt wird,"
  },
  {
    "start": 2025.0,
    "end": 2029.0,
    "text": "Sachen zu denken, die eigentlich nichts mehr mit der anderen Aufgabe zu tun haben."
  },
  {
    "start": 2029.0,
    "end": 2032.0,
    "text": "Oder auch das wird beobachtet, dass LMMs anfangen,"
  },
  {
    "start": 2032.0,
    "end": 2035.0,
    "text": "Teile ihrer Struktur zu nutzen, um Gedanken vorzusetzen,"
  },
  {
    "start": 2035.0,
    "end": 2038.0,
    "text": "die eigentlich nichts mit dem eigentlichen Task zu tun haben."
  },
  {
    "start": 2038.0,
    "end": 2039.0,
    "text": "Und auch das ist eine spannende Sache."
  },
  {
    "start": 2039.0,
    "end": 2042.0,
    "text": "Nicht, dass da irgendwie ein Bewusstsein entsteht oder irgendwas anderes."
  },
  {
    "start": 2042.0,
    "end": 2043.0,
    "text": "Das will ich gar nicht."
  },
  {
    "start": 2043.0,
    "end": 2047.0,
    "text": "Und jetzt kann aber vielleicht auch Mark da nochmal ein Wort zu sagen, der schon relativ"
  },
  {
    "start": 2047.0,
    "end": 2048.0,
    "text": "aufgeregt ist."
  },
  {
    "start": 2048.0,
    "end": 2049.0,
    "text": "Seht es dir leider nicht."
  },
  {
    "start": 2049.0,
    "end": 2053.0,
    "text": "Ich habe mir eine Strichliste gemacht mit allen Punkten, zu denen ich noch was nachgeben"
  },
  {
    "start": 2053.0,
    "end": 2054.0,
    "text": "wollte."
  },
  {
    "start": 2054.0,
    "end": 2057.0,
    "text": "Und ich finde es schön, wie du das mit den Gedanken gebracht hast, weil das habe"
  },
  {
    "start": 2057.0,
    "end": 2061.0,
    "text": "ich auch gelesen und wo sie gesagt haben, okay, das Ding beschimpft teilweise auch"
  },
  {
    "start": 2061.0,
    "end": 2065.0,
    "text": "den Anwender innerlich in seinen jenersten Gehirnstrengen und wenn sie das auch"
  },
  {
    "start": 2065.0,
    "end": 2072.0,
    "text": "Machen wir ja auch funktioniert das Modell viel schlechter. Ja von der sind auch sehr menschlich. Ihr wisst ja auch nicht, was ich manchmal denke."
  },
  {
    "start": 2072.0,
    "end": 2082.0,
    "text": "Also vorhin noch darüber gesprochen hast über wie die nicht so IT nah an Menschen, dachte ich an den alten Spruch, den man gerne zur"
  },
  {
    "start": 2082.0,
    "end": 2088.0,
    "text": "Jahreswende bringt ja, kehrt heim zu euren Lieben und richtet die IT. Du kommst als IT-Nerd an."
  },
  {
    "start": 2088.0,
    "end": 2093.0,
    "text": "Denkst du bist der Held der Stunde, der hier alles repariert und den Leuten erklärt, worauf sie alles achten müssen."
  },
  {
    "start": 2093.0,
    "end": 2097.0,
    "text": "Dabei bist du eigentlich nur so in Sicht der Verwandtschaft und der Kollegen der"
  },
  {
    "start": 2097.0,
    "end": 2100.0,
    "text": "Typen der dicken Hornbrille, der irgendwas Diches erzielt und wenn der irgendwann"
  },
  {
    "start": 2100.0,
    "end": 2105.0,
    "text": "aufhört zu reden, dann ist auch wieder gut. Eine Sache, die ich trotzdem noch mal,"
  },
  {
    "start": 2105.0,
    "end": 2109.0,
    "text": "wo ich nicht ganz mit Klaus einer Meinung bin, ja, bevor er dann vielleicht da"
  },
  {
    "start": 2109.0,
    "end": 2112.0,
    "text": "nochmal drauf eingeht und die Mythos-Klassengeschichte dann nochmal zum"
  },
  {
    "start": 2112.0,
    "end": 2119.0,
    "text": "besten holt. Wenn ich mir so einen ungenagelten Rechner vorstelle,"
  },
  {
    "start": 2119.0,
    "end": 2125.0,
    "text": "Dann ist dieser Rechner ja ein Perimeter Schutz dafür, dass da nicht alles drauf zum Fliegen"
  },
  {
    "start": 2125.0,
    "end": 2129.0,
    "text": "kommt, dass der Mensch Software zur Verfügung gestellt kriegt, mit der er halt arbeitet."
  },
  {
    "start": 2129.0,
    "end": 2135.0,
    "text": "Und ich sage jetzt mal, früher nannte man so was, benannte man das früher, das ist"
  },
  {
    "start": 2135.0,
    "end": 2139.0,
    "text": "eine kleine Quizfrage, ja ich lösse es auch gleich auf, stell dir vor, du hast eine"
  },
  {
    "start": 2139.0,
    "end": 2145.0,
    "text": "Stelle im Internet, die gibt Kommandos raus und du hast Software auf Kleins am Laufen,"
  },
  {
    "start": 2145.0,
    "end": 2149.0,
    "text": "diese Kommandos interpretiert. Ja, das eine ist der Kommandos-Service, das andere sind hier die Bots,"
  },
  {
    "start": 2149.0,
    "end": 2153.0,
    "text": "die du schön auf deinen Rechner draufgefriest hast. Ja, früher hast du irgendwelche Bot-Netzwerke"
  },
  {
    "start": 2153.0,
    "end": 2158.0,
    "text": "gehabt. Heute hast du Agent Harness, den System Prompt hast du gar nicht selbst unter Kontrolle,"
  },
  {
    "start": 2158.0,
    "end": 2162.0,
    "text": "das heißt für den Anthropic und OpenAI und Co vielleicht aufgemacht werden, wer weiß,"
  },
  {
    "start": 2162.0,
    "end": 2168.0,
    "text": "wie viele Dinge die an der Sandbox vorbeischieben können, wenn der System Prompt mal verändert"
  },
  {
    "start": 2168.0,
    "end": 2171.0,
    "text": "wird und dann stehen sie alle da und dann sowas denke ich immer, gerade als sie letztens"
  },
  {
    "start": 2171.0,
    "end": 2175.0,
    "text": "wieder vorgeführt haben. Wir müssen ja nicht mit Anthropic und Op-Mae-Eye-Standung in die Ecke kommen."
  },
  {
    "start": 2175.0,
    "end": 2180.0,
    "text": "Es gab einen schönen Bericht. Davon habe ich dann auch schon mal auf LinkedIn geschrieben, wo jemand"
  },
  {
    "start": 2180.0,
    "end": 2185.0,
    "text": "mit weißem Text auf weißen Grund, komisch, so sah früher mein Schneemann-Bild aus, größer gehen"
  },
  {
    "start": 2185.0,
    "end": 2189.0,
    "text": "raus, haben einen alten Kunstlehrer, der hat mir einen Sex gegeben dafür, weil ich ein weißes"
  },
  {
    "start": 2189.0,
    "end": 2192.0,
    "text": "Blatt Papier abgegeben habe, ein Schneemann im Schneesturm, das fand er nicht gut."
  },
  {
    "start": 2192.0,
    "end": 2194.0,
    "text": "Ostfriesische Nationalflagge war das, weiße Arten auf weiße Grund."
  },
  {
    "start": 2194.0,
    "end": 2199.0,
    "text": "Ja, das wäre mein zweiter Versuch gewesen, wo ich mit weißem Text auf weißem Grund"
  },
  {
    "start": 2199.0,
    "end": 2205.0,
    "text": "quasi eine Prompt-Injection gemacht haben und Co-Pilot quasi soweit durchgedrungen sind,"
  },
  {
    "start": 2205.0,
    "end": 2209.0,
    "text": "dass sie mit einem manipulierten Word-File im Kontext ist an, wenn das arbeiten konnten."
  },
  {
    "start": 2209.0,
    "end": 2214.0,
    "text": "Und das finde ich schon anders, weil diese Malware, dieses Botnetz,"
  },
  {
    "start": 2214.0,
    "end": 2220.0,
    "text": "diese Angriff-Software, die musste es früher durch, wie ein Scanner,"
  },
  {
    "start": 2220.0,
    "end": 2224.0,
    "text": "keine Ahnung war es, auf deinen Rechner schaffen und die hast du jetzt schon drauf."
  },
  {
    "start": 2224.0,
    "end": 2228.0,
    "text": "Sie benimmt sich halt aktuell nur sehr anständig und ob du dich es um die"
  },
  {
    "start": 2228.0,
    "end": 2232.0,
    "text": "Sandbox kümmers oder nicht, ist ja schön. Aber sobald sie diese Sandbox ignoriert und ich"
  },
  {
    "start": 2232.0,
    "end": 2236.0,
    "text": "kenne genügend Leute, die sagen, die Sandbox ist eigentlich nichts anderes als ein Stück"
  },
  {
    "start": 2236.0,
    "end": 2242.0,
    "text": "Frischhaltefolie, das wir um die Software herum spannen, weil, na ja, wie gesagt, ist eine"
  },
  {
    "start": 2242.0,
    "end": 2245.0,
    "text": "Tür, ist ein Fenster, ist doch der Maschine illegal, sobald sie irgendwo ein Loch hat,"
  },
  {
    "start": 2245.0,
    "end": 2249.0,
    "text": "kann sie auch versuchen, sich da Gewalt irgendwie durchzudrücken und damit irgendwas zu"
  },
  {
    "start": 2249.0,
    "end": 2252.0,
    "text": "machen. Und dann steht sie da vor anderer Software und diese Software hat nie damit"
  },
  {
    "start": 2252.0,
    "end": 2258.0,
    "text": "gerechnet, dass jemand den Perimeter Software Installations, Software Ausführungsrechte"
  },
  {
    "start": 2258.0,
    "end": 2263.0,
    "text": "benutzen von Software. Du bist ein ganz vielen Security-Scheiben schon vorbei, weil du bist nämlich"
  },
  {
    "start": 2263.0,
    "end": 2269.0,
    "text": "im Innersten. Und darauf sind, glaube ich, viele noch überhaupt nicht vorbereitet."
  },
  {
    "start": 2269.0,
    "end": 2275.0,
    "text": "Wir haben jetzt Gegenfrage. Wir reden dann von Leuten, die ein Windows 11 haben oder nicht mal"
  },
  {
    "start": 2275.0,
    "end": 2282.0,
    "text": "so klar ist, was Windows 11 an Telemetik-Treat-Daten jeden Tag zum Microsoft boostet. Wir haben"
  },
  {
    "start": 2282.0,
    "end": 2287.0,
    "text": "doch sowieso keine sicheren Rechner. Ich finde, da muss man schon ganz klar"
  },
  {
    "start": 2287.0,
    "end": 2292.0,
    "text": "zwischen End-Usern, also die Gruppe von Usern, die du eben aufgebracht hast, Jens,"
  },
  {
    "start": 2292.0,
    "end": 2299.0,
    "text": "da wird als so ein Normal, wo hast du doch gar keine Chance, das überhaupt noch"
  },
  {
    "start": 2299.0,
    "end": 2305.0,
    "text": "nur ansatzweise zu durchschauen. Ich habe viel im Bankensektor früher gearbeitet,"
  },
  {
    "start": 2305.0,
    "end": 2309.0,
    "text": "sicherheitsmäßig und es ist jetzt länger her, ich kriege die Zahlen auch nicht"
  },
  {
    "start": 2309.0,
    "end": 2313.0,
    "text": "mehr zusammen, aber es ist zum Beispiel schon immer total erschreckend gewesen,"
  },
  {
    "start": 2313.0,
    "end": 2320.0,
    "text": "wie normal die User auf SSL-Warnungen, TLS-SSL-Warnungen im Browser reagieren, wenn da steht, Achtung,"
  },
  {
    "start": 2320.0,
    "end": 2326.0,
    "text": "das Zertifikat ist ungültig und 95 Prozent der normalen Leute, die klicken einfach irgendwas,"
  },
  {
    "start": 2326.0,
    "end": 2329.0,
    "text": "die verstehen das gar nicht. Und wir als IT-Las denken, ja, das ist doch total logisch, was da steht."
  },
  {
    "start": 2329.0,
    "end": 2336.0,
    "text": "Mir hat meine Banken-Hotline empfohlen, weil meine Banksoftware so einen Zertifikatsfehler"
  },
  {
    "start": 2336.0,
    "end": 2341.0,
    "text": "geschmissen hat, drücken sie weg. Ja, genau, so. Die Hotline!"
  },
  {
    "start": 2341.0,
    "end": 2348.0,
    "text": "So, deswegen für die Betrachtung des Themas an sich, das klingt jetzt total arrogant,"
  },
  {
    "start": 2348.0,
    "end": 2354.0,
    "text": "aber ich glaube, dass diese Benutzergruppe, was willst du machen? Also es ist wie mit der Cloud."
  },
  {
    "start": 2354.0,
    "end": 2360.0,
    "text": "Am Ende wird die Bequedendlichkeit siegen und die Qualität der Anbieter, die einen Ruf zu"
  },
  {
    "start": 2360.0,
    "end": 2364.0,
    "text": "verlieren haben. Und ich meine, es funktioniert ja auch. In der Cloud funktioniert es ja auch."
  },
  {
    "start": 2364.0,
    "end": 2368.0,
    "text": "Die Leute posten ihre Daten dahin. Ich habe gesagt, ich schließe mich da auch an."
  },
  {
    "start": 2368.0,
    "end": 2375.0,
    "text": "gewisse Daten, nicht alle Daten. Und wenn wir mal ehrlich sind, so richtig große Klopper,"
  },
  {
    "start": 2375.0,
    "end": 2380.0,
    "text": "also wenn wir jetzt mal Microsoft ausnehmen, wann gab es bei Apple mal einen großen Datenvorfall?"
  },
  {
    "start": 2380.0,
    "end": 2386.0,
    "text": "Oder bei Google? Gut, Microsoft kommt bei der zentrale Sammel-Signatur-Key abhanden,"
  },
  {
    "start": 2386.0,
    "end": 2392.0,
    "text": "aber das sind 50, jetzt bestimmt ein Teppich unter dem man das kehren kann. Deswegen,"
  },
  {
    "start": 2392.0,
    "end": 2399.0,
    "text": "Das ist halt wenig Benchmark, um das Thema IT-Security, KI-Security zu betrachten im"
  },
  {
    "start": 2399.0,
    "end": 2402.0,
    "text": "Unternehmenskontext, sieht das natürlich ganz anders aus."
  },
  {
    "start": 2402.0,
    "end": 2407.0,
    "text": "Ja, wobei ich das sagen würde bis heute. Ich glaube, die Angriffssektoren werden mehr."
  },
  {
    "start": 2407.0,
    "end": 2412.0,
    "text": "Also, wenn wir jetzt gerade auch nochmal das Thema der Fähigkeit des Social-Engineering"
  },
  {
    "start": 2412.0,
    "end": 2416.0,
    "text": "nehmen, das ist natürlich auch so eine KI-Social-Engineering halt auch nochmal"
  },
  {
    "start": 2416.0,
    "end": 2420.0,
    "text": "1.000-1.000-fach durchführen kann, theoretisch. Mit Fake-Anrufen,"
  },
  {
    "start": 2420.0,
    "end": 2425.0,
    "text": "und andere Sachen auch Themen einfach zusammenzubringen, die wir vielleicht noch gar nicht zusammengebracht haben vorher."
  },
  {
    "start": 2425.0,
    "end": 2431.0,
    "text": "Dementsprechend bin ich schon der Meinung, dass wir wahrscheinlich bis jetzt noch relativ wenig Cases sehen,"
  },
  {
    "start": 2431.0,
    "end": 2437.0,
    "text": "aber die Cases werden zunehmen und die Anforderungen an Security in einem Firmenkontext wird einfach höher werden."
  },
  {
    "start": 2437.0,
    "end": 2444.0,
    "text": "Ich glaube, das ist ein echtes Hardening von Daten, dann auch wieder vielleicht an Rechnern zu haben."
  },
  {
    "start": 2444.0,
    "end": 2448.0,
    "text": "Wir hatten das in der anderen Folge gemacht, schon mal mit einem Kollegen aus der Cybersecurity-Ecke heraus,"
  },
  {
    "start": 2448.0,
    "end": 2453.0,
    "text": "Dass wir gesagt haben, wenn ich jetzt in eine Bank bin oder irgendwas anderes, vielleicht"
  },
  {
    "start": 2453.0,
    "end": 2458.0,
    "text": "muss ich dann wieder so James Bond-Style-mäßig irgendwo ein Server stehen haben, der halt"
  },
  {
    "start": 2458.0,
    "end": 2463.0,
    "text": "tatsächlich doch nur per USB-Stick die Daten nach außen tragen darf, den ich dann von"
  },
  {
    "start": 2463.0,
    "end": 2468.0,
    "text": "einem Ding, von einem Raum in den anderen eintrage, weil die Gefahr zu groß sein könnte."
  },
  {
    "start": 2468.0,
    "end": 2470.0,
    "text": "Ja, das ist ja auch wie so eine Schein-Sicherheit."
  },
  {
    "start": 2470.0,
    "end": 2474.0,
    "text": "Du weißt, wie Stuxnet damals auf die iranischen Zentrifugen gekommen ist."
  },
  {
    "start": 2474.0,
    "end": 2475.0,
    "text": "Stimmt, genau."
  },
  {
    "start": 2475.0,
    "end": 2476.0,
    "text": "Ja, hast du recht."
  },
  {
    "start": 2476.0,
    "end": 2491.0,
    "text": "Also, dann bist du am Ende wieder bei dem Zettmodell und das ist ja auch was aus dieser Vor-Internat-Zeit oder als es mit dem Internet begonnen hat, hat man auch gesagt, ja, natürlich, das hat Sicherheitslücken, aber man muss ja jetzt irgendwie auch nicht jedes Kraftwerk ans Internet anschließen."
  },
  {
    "start": 2491.0,
    "end": 2499.0,
    "text": "So, heute ist jedes Kraftwerk ans Internet angeschlossen. Geben wir uns da mal keine Illusion hin, der Fisch ist gegessen, auch was KI angeht."
  },
  {
    "start": 2499.0,
    "end": 2505.0,
    "text": "Ich glaube aber, wie gesagt, dieses Grundsätzliche für Private-User ist dieses Grundsätzliche"
  },
  {
    "start": 2505.0,
    "end": 2511.0,
    "text": "Thema, die arbeiten sowieso auf Computern, die dich hingehören mit gemieteten Betriebssystemen,"
  },
  {
    "start": 2511.0,
    "end": 2512.0,
    "text": "wenn wir mal ehrlich sind."
  },
  {
    "start": 2512.0,
    "end": 2517.0,
    "text": "Und im Firmenkontext hast du halt ganz viele verschiedene Anlieferungsvektoren und ich würde"
  },
  {
    "start": 2517.0,
    "end": 2523.0,
    "text": "gerne von dem Thema Sandbox mal weggehen, weil das ist was, wo ich eben schon gesagt"
  },
  {
    "start": 2523.0,
    "end": 2524.0,
    "text": "habe."
  },
  {
    "start": 2524.0,
    "end": 2528.0,
    "text": "Also das ist eine Bedrohung, die ich mit Mitteln, die wir seit 20 Jahren kenne,"
  },
  {
    "start": 2528.0,
    "end": 2534.0,
    "text": "den Griff kriegen kann. Klammer auf, wenn ich nicht zufällig dem Agenten viel mehr Rechte geben möchte"
  },
  {
    "start": 2534.0,
    "end": 2539.0,
    "text": "aus funktionalen Gründen. Dann habe ich aber eben ein anderes Problem. Dann sticht ja immer Security"
  },
  {
    "start": 2539.0,
    "end": 2545.0,
    "text": "die funktionalen Anforderungen. Was ich viel krasser finde und jetzt würde ich den Bogen mit Blick auf"
  },
  {
    "start": 2545.0,
    "end": 2553.0,
    "text": "die Ur noch schlagen auf dieses Thema dieser AES-Geschichte. Anthropic hat ein Paper veröffentlicht,"
  },
  {
    "start": 2553.0,
    "end": 2561.0,
    "text": "was Mythos selber geschrieben hat und dazu noch ein theoretisches Background Paper. Und zwar haben"
  },
  {
    "start": 2561.0,
    "end": 2568.0,
    "text": "die Mythos den Auftrag gegeben, finde bitte eine neue Angriff, eine neue Art von Angriffsklasten"
  },
  {
    "start": 2568.0,
    "end": 2575.0,
    "text": "gegen AES. Also AES, Advanced Encryption Standard, ist die symmetrische Verschlüsselung für höchste"
  },
  {
    "start": 2575.0,
    "end": 2579.0,
    "text": "Ansprüche. In den USA ist die für die größte Geheimhaltungsstufe zugelassen und überall,"
  },
  {
    "start": 2579.0,
    "end": 2586.0,
    "text": "wo sie symmetrische Verschlüsselung stattfindet, ist AES so der Standard und die Aufgabe bei"
  },
  {
    "start": 2586.0,
    "end": 2592.0,
    "text": "ihm Angriffsklassen dagegen zu finden und Mythos hat das nicht nur mit bravo getan,"
  },
  {
    "start": 2592.0,
    "end": 2599.0,
    "text": "also hat eine Schwäche gefunden, sondern wirklich eine ganz neue Art, eine ganz neue"
  },
  {
    "start": 2599.0,
    "end": 2604.0,
    "text": "mathematische Angriffsklasse, die den Sicherheitsforschern seit wie lang gibt es AES 20 Jahre,"
  },
  {
    "start": 2604.0,
    "end": 2615.0,
    "text": "25 Jahre, bisher vollkommen unbekannt war. Das heißt, das ist ein Beleg dafür, dass LLM"
  },
  {
    "start": 2615.0,
    "end": 2620.0,
    "text": "nicht einfach nur stupide irgendwelche Trends zusammengeklebt hat. Es gibt immer so diese"
  },
  {
    "start": 2620.0,
    "end": 2625.0,
    "text": "Leute, die sagen, ach, das ist ja alles gar keine Intelligenz im eigentlichen Sinne,"
  },
  {
    "start": 2625.0,
    "end": 2629.0,
    "text": "sondern das sind ja nur Trainingsdaten und das sind so statistische Textwurstmaschinen und"
  },
  {
    "start": 2629.0,
    "end": 2633.0,
    "text": "die machen dann was und dann haben die manchmal Glück und das sieht dann gut aus und die"
  },
  {
    "start": 2633.0,
    "end": 2638.0,
    "text": "wollen, ja es sind irgendwie nur so People-Pleasers. Und das ist jetzt genau der Beweis, dass sowas eben"
  },
  {
    "start": 2638.0,
    "end": 2648.0,
    "text": "nicht ist, weil da ist eine Art von Mathematik von diesem Ding ersonnen worden. Wahrscheinlich verlinkt"
  },
  {
    "start": 2648.0,
    "end": 2651.0,
    "text": "ihr dieses Paper auch mal ins Show notes. Ich würde da jetzt nicht mehr darauf eingehen,"
  },
  {
    "start": 2651.0,
    "end": 2657.0,
    "text": "weil es schon sehr theoretisch ist. Das ist eine sogenannte Möbius-Brücke, die wie es"
  },
  {
    "start": 2657.0,
    "end": 2662.0,
    "text": "was da gefunden hat, die wirklich eine komplett neue mathematische Angriffsklasse darstellt."
  },
  {
    "start": 2662.0,
    "end": 2668.0,
    "text": "Und das ist ein totaler Quantensprung, der wahrscheinlich aufgrund seiner Komplexität"
  },
  {
    "start": 2668.0,
    "end": 2672.0,
    "text": "und fehlenden Intuitivität nicht den Sprung wie Presse geschafft hat."
  },
  {
    "start": 2672.0,
    "end": 2676.0,
    "text": "Es hört sich halt nicht so gut an, wie das Modell ist ausgebrochen und hat den Konkurrenten"
  },
  {
    "start": 2676.0,
    "end": 2677.0,
    "text": "angegriffen."
  },
  {
    "start": 2677.0,
    "end": 2684.0,
    "text": "Aber das ist was, wo ich wirklich länger mit den Ohren geschlackert habe, denn das"
  },
  {
    "start": 2684.0,
    "end": 2701.0,
    "text": "Das ist jetzt das zweite Thema, apropos Club Mythos. Club Mythos ist ja bekanntermaßen das Modell von Anthropic, was offensiver IT-Security-Fähigkeiten in so einem ausgeprägten Maß hat, dass es nur ausgewählten Institutionen und Firmen zur Verfügung steht."
  },
  {
    "start": 2701.0,
    "end": 2708.0,
    "text": "Also quasi ein qualifizierter Pentester. Das macht das Ding, was man so hört. Ich selber aber keinen Zugriff dazu."
  },
  {
    "start": 2708.0,
    "end": 2713.0,
    "text": "extrem gut, also Sicherheitslücken in Software oder Infrastruktur finden, dann ausnutzen,"
  },
  {
    "start": 2713.0,
    "end": 2717.0,
    "text": "wo man ganz klar sagen kann, okay, das sind alles Trainingsdaten, wenn das Ding irgendwie"
  },
  {
    "start": 2717.0,
    "end": 2721.0,
    "text": "ein ungepatchten Server-Trailer findet, dann kannst du nach den CDEs gucken und sich ein"
  },
  {
    "start": 2721.0,
    "end": 2725.0,
    "text": "Export bauen und das finde ich jetzt nicht besonders kreativ."
  },
  {
    "start": 2725.0,
    "end": 2731.0,
    "text": "Aber dieser AIS Vorfall, der ist wirklich gruselig, der ist gruselig, weil er 20"
  },
  {
    "start": 2731.0,
    "end": 2735.0,
    "text": "Jahre mathematische Forschung einfach mal eben, ich weiß nicht, wie lange die"
  },
  {
    "start": 2735.0,
    "end": 2741.0,
    "text": "gesessen haben, paar Wochen, ich weiß nicht wie viele Token die verbrannt haben, mal eben rechts"
  },
  {
    "start": 2741.0,
    "end": 2747.0,
    "text": "überholt hat. Zur Beruhigung, AES ist damit nicht gebrochen, also es gab jetzt noch so ein paar Details,"
  },
  {
    "start": 2747.0,
    "end": 2755.0,
    "text": "AES verschlüsselt in zehn Runden, also die, der Klartext wird durch zehn sogenannte S-Boxen"
  },
  {
    "start": 2755.0,
    "end": 2761.0,
    "text": "geschickt und an Vorfek hat das reduziert auf sieben S-Boxen und diese Lücke ist eben"
  },
  {
    "start": 2761.0,
    "end": 2767.0,
    "text": "einen Angriff gegen die Verwendung mit 7S-Boxen, was in der Praxis nicht vorkommt, aber dennoch,"
  },
  {
    "start": 2767.0,
    "end": 2773.0,
    "text": "der Witz ist eben nicht der praktische Angriff, sondern diese Art von Mathematik. Und das ist"
  },
  {
    "start": 2773.0,
    "end": 2777.0,
    "text": "schon was, wo ich sage, Puh, also das mit den Sandboxen, das kriege ich mit traditionellen"
  },
  {
    "start": 2777.0,
    "end": 2783.0,
    "text": "Mitteln in den Griff. Aber hier, da hilft mir am Ende auch keine KI-Psychologie. Das ist"
  },
  {
    "start": 2783.0,
    "end": 2787.0,
    "text": "eine Klasse, die man auch als Mensch nicht mal einfach so nachvollziehen kann?"
  },
  {
    "start": 2787.0,
    "end": 2795.0,
    "text": "Ja, das Problem, ich betone, weil ich das jetzt auch vor kurzem noch gelesen hatte, die Tage erst,"
  },
  {
    "start": 2795.0,
    "end": 2800.0,
    "text": "ich würde es nur dramatischer machen. Es verdichten sich die Gerüchte, dass Anthropic im Prinzip"
  },
  {
    "start": 2800.0,
    "end": 2804.0,
    "text": "auch schon das sogenannte Model 2 hat, das nur intern benutzt wird, das ist die,"
  },
  {
    "start": 2804.0,
    "end": 2810.0,
    "text": "man könnte es auch als Mythos 6 schon bezeichnen, die 6er Version, der sie noch gar nicht wissen,"
  },
  {
    "start": 2810.0,
    "end": 2815.0,
    "text": "ob sie die Wannse die erlesen wollen, aber die Intention da ist, die wohl angeblich"
  },
  {
    "start": 2815.0,
    "end": 2821.0,
    "text": "12,5 Prozentpunkte noch mal besser ist als Mythos 5 und da wissen wir was da auf"
  },
  {
    "start": 2821.0,
    "end": 2829.0,
    "text": "uns zurollt in dem Moment. Absolut. Auch wenn man, das ist jetzt ein alter"
  },
  {
    "start": 2829.0,
    "end": 2836.0,
    "text": "Spruch wieder vom alten weißen Mann, so schlecht wie heute, werden die Modelle"
  },
  {
    "start": 2836.0,
    "end": 2844.0,
    "text": "nie wieder sein. Und natürlich, so wie wenn einer anfängt, vom Rücken zu erzählen und"
  },
  {
    "start": 2844.0,
    "end": 2847.0,
    "text": "alle anderen dann auch im Rücken haben, egal ob sie es wirklich im Rücken haben oder nicht,"
  },
  {
    "start": 2847.0,
    "end": 2853.0,
    "text": "ich möchte überhaupt nicht schneller. Jeder hat so seinen Pactline mit sich rumzutragen,"
  },
  {
    "start": 2853.0,
    "end": 2857.0,
    "text": "ist das natürlich auch mit bevorgehendem Börsengang natürlich auch immer ganz wichtig"
  },
  {
    "start": 2857.0,
    "end": 2862.0,
    "text": "zu klären. Wir haben da ganz viel im Kücher und überhaupt. Und wir wissen auch nicht,"
  },
  {
    "start": 2862.0,
    "end": 2869.0,
    "text": "Ja, wenn ich alleine mal umrechne, wie viel ich mit meinen Tokens in real Verbrauche, wenn"
  },
  {
    "start": 2869.0,
    "end": 2873.0,
    "text": "ich die Tokens jetzt, ich sag mal, als Token-Based abrechnen würde, wer so's beim Abo, dann"
  },
  {
    "start": 2873.0,
    "end": 2877.0,
    "text": "brauche ich mich nicht wundern, wenn irgendwann mal die Preise angehoben werden, weil spätestens"
  },
  {
    "start": 2877.0,
    "end": 2880.0,
    "text": "wenn sie an den Börsen sind, wird halt das Thema, wir schenken unseren Kunden"
  },
  {
    "start": 2880.0,
    "end": 2881.0,
    "text": "Geld."
  },
  {
    "start": 2881.0,
    "end": 2885.0,
    "text": "Irgendwie weiß auch nicht, ja, mal gucken, wie sich das so entwickeln wird."
  },
  {
    "start": 2885.0,
    "end": 2889.0,
    "text": "Ja, aber lasst mich dann noch vielleicht noch eine Anekdote aus meiner jüngsten."
  },
  {
    "start": 2889.0,
    "end": 2895.0,
    "text": "Ich baue mir mal ein Harnes mit meinen KIs, die mich so unterstützen."
  },
  {
    "start": 2895.0,
    "end": 2899.0,
    "text": "Du hast jetzt gesagt, du hast alles miteinander verbunden, noch alles da."
  },
  {
    "start": 2899.0,
    "end": 2903.0,
    "text": "Ja, alles miteinander verbunden und ja, ich hab jetzt auch mal wieder den Überblick"
  },
  {
    "start": 2903.0,
    "end": 2904.0,
    "text": "zwischendurch verloren."
  },
  {
    "start": 2904.0,
    "end": 2907.0,
    "text": "Ich weiß nicht, ob ihr das kennt, wenn man dann irgendwie mit mehreren Modellen parallel"
  },
  {
    "start": 2907.0,
    "end": 2910.0,
    "text": "arbeitet und dann das eine Modell schon was codet, was man mit dem anderen Modell"
  },
  {
    "start": 2910.0,
    "end": 2914.0,
    "text": "schon wieder neu bespricht, verliere ich ab, durchaus habe ich einen Überblick."
  },
  {
    "start": 2914.0,
    "end": 2917.0,
    "text": "Baue mir das Dashboards und andere Sachen, aber worauf ich diesmal nur eingehen"
  },
  {
    "start": 2917.0,
    "end": 2922.0,
    "text": "wollte war, da hat tatsächlich das eine Modell mir geholfen, ein Vorschlag des"
  },
  {
    "start": 2922.0,
    "end": 2927.0,
    "text": "andere Modells abzulehnen. Mit der klaren Aussage Jens, das baue ich nicht."
  },
  {
    "start": 2927.0,
    "end": 2930.0,
    "text": "Weil das öffnet nämlich eine Sicherheitslöge in dem System, da ging es"
  },
  {
    "start": 2930.0,
    "end": 2934.0,
    "text": "halt tatsächlich so ein bisschen drum. Ich wollte kommunizieren mit mein OpenClaw"
  },
  {
    "start": 2934.0,
    "end": 2939.0,
    "text": "über Telegram und wollte eigentlich dann auf meine Desktop-Cloud-Version, die"
  },
  {
    "start": 2939.0,
    "end": 2942.0,
    "text": "ein bisschen mehr Freigabe auf dem Rechner hat, zugreifen und hatte mir so gedacht,"
  },
  {
    "start": 2942.0,
    "end": 2945.0,
    "text": "komm, da kannst du das doch irgendwie über Telegram machen und dann schicken wir"
  },
  {
    "start": 2945.0,
    "end": 2950.0,
    "text": "fröhliche Textnachrichten runter und OpenClaube auf total happy mit dieser Lösung hat die dann"
  },
  {
    "start": 2950.0,
    "end": 2957.0,
    "text": "vorgeschlagen und Claude auf dem Rechner hat gesagt, Alter, dazu machen wir mal nicht. Und das fand"
  },
  {
    "start": 2957.0,
    "end": 2960.0,
    "text": "ich auch eine interessante Situation und das ist so ein bisschen Klaus in diese Richtung,"
  },
  {
    "start": 2960.0,
    "end": 2965.0,
    "text": "was ich vorhin angedeutet habe, mit dem vielleicht auch befähigendes Endanwender durch KI-Modelle."
  },
  {
    "start": 2965.0,
    "end": 2969.0,
    "text": "Jetzt ist es hier schon, sagen wir mal, ein extremeres Beispiel, wie jeder verknüpft,"
  },
  {
    "start": 2969.0,
    "end": 2976.0,
    "text": "Aber natürlich hat hier die Fähigkeit und diese Omnipräsenz und Omnimacht, die diese KI-Modelle haben,"
  },
  {
    "start": 2976.0,
    "end": 2981.0,
    "text": "natürlich dazu geführt, dass ich nicht einfach fröhlich, weil ein Modell mich einfach nur bestätigt hat in meiner Annahme"
  },
  {
    "start": 2981.0,
    "end": 2985.0,
    "text": "und was gebaut für mich hat, um mir zu gefallen, hat im Prinzip das andere Modell dafür gesorgt,"
  },
  {
    "start": 2985.0,
    "end": 2987.0,
    "text": "dass ich eben die Sicherheitswirkung nicht aufmache."
  },
  {
    "start": 2987.0,
    "end": 2993.0,
    "text": "Und ich finde, das gibt so einen kleinen Blick in eine mögliche Zukunft auch rein,"
  },
  {
    "start": 2993.0,
    "end": 2995.0,
    "text": "wenn man jetzt auch die Beispiele sieht, die du angebracht hast,"
  },
  {
    "start": 2995.0,
    "end": 2999.0,
    "text": "die du angebracht hast, dass diese Modelle auf Angriffsvektoren kennen, über die wir"
  },
  {
    "start": 2999.0,
    "end": 3004.0,
    "text": "nie nachgesagt haben, weil sie vielleicht mathematisch so kompliziert waren, dass wir sie nie angedacht"
  },
  {
    "start": 3004.0,
    "end": 3007.0,
    "text": "haben oder eben einfach selber gar nicht drüber nachgedacht haben, für dieses Angriffsvektoren"
  },
  {
    "start": 3007.0,
    "end": 3013.0,
    "text": "zu finden. Dementsprechend wird es trotz alledem und ich glaube, da kann man dann"
  },
  {
    "start": 3013.0,
    "end": 3018.0,
    "text": "auch noch Bücher und Bücher lesen ohne Ende in der Zukunft drüber dazu führen,"
  },
  {
    "start": 3018.0,
    "end": 3024.0,
    "text": "dass wir quasi einen Angriff und als auch Abwehrkampf sehen werden, der vor allem"
  },
  {
    "start": 3024.0,
    "end": 3029.0,
    "text": "durch KIs geführt wird, die gegeneinander sowohl auch Verteidigungswege finden werden,"
  },
  {
    "start": 3029.0,
    "end": 3033.0,
    "text": "an die wir vielleicht auch gar nicht gedacht haben. Und das könnte, glaube ich, noch eine"
  },
  {
    "start": 3033.0,
    "end": 3036.0,
    "text": "spannende Entwicklung werden, die wir so in den nächsten Wochen und Monaten sehen und"
  },
  {
    "start": 3036.0,
    "end": 3040.0,
    "text": "die dann halt tatsächlich so ein bisschen mehr in die KI-Zukunft, die in einem oder"
  },
  {
    "start": 3040.0,
    "end": 3043.0,
    "text": "anderen Cyberpunk-Book beschrieben worden ist, reinführen werden."
  },
  {
    "start": 3043.0,
    "end": 3049.0,
    "text": "Du meinst, es wird dann sein, wie mit Gewalt und regulären Ausdrücken, wenn"
  },
  {
    "start": 3049.0,
    "end": 3051.0,
    "text": "es nicht hilft, braucht man einfach mehr davon."
  },
  {
    "start": 3051.0,
    "end": 3055.0,
    "text": "Es könnte ein Wettrüsten, der auch in diesem Fall natürlich der KI's werden, in dem Moment."
  },
  {
    "start": 3055.0,
    "end": 3057.0,
    "text": "Also, ob ich sage, ich meine, wir haben das ja..."
  },
  {
    "start": 3057.0,
    "end": 3059.0,
    "text": "Man sollte in Videokapazien kaufen."
  },
  {
    "start": 3059.0,
    "end": 3059.0,
    "text": "Ja?"
  },
  {
    "start": 3059.0,
    "end": 3065.0,
    "text": "Keine Kaufempfehlung, wir sind kein Investmentportal, wir sind keine Rechtsberatung, wir sind alles nicht."
  },
  {
    "start": 3065.0,
    "end": 3069.0,
    "text": "Also wenn ich mir das so anhöre, was ihr so erzählt, während Jens davon gesprochen hat,"
  },
  {
    "start": 3069.0,
    "end": 3073.0,
    "text": "dass KI uns beschützt, stelle ich mir gerade folgenden Satz vor, hallo Mark, guten Morgen."
  },
  {
    "start": 3073.0,
    "end": 3079.0,
    "text": "Ich habe dein Bankkonto dem Dieb entgegengeworfen, mit deiner Platte wieder zugänglich ist."
  },
  {
    "start": 3079.0,
    "end": 3083.0,
    "text": "Ich hoffe, du freust dich, finde ich z.B. eine schöne Meldung, wenn die dann mal kommen."
  },
  {
    "start": 3083.0,
    "end": 3090.0,
    "text": "Und für alle die, die Angst haben, dass eine KI irgendwann mal wirklich ausbricht und in der"
  },
  {
    "start": 3090.0,
    "end": 3098.0,
    "text": "Bildzeitung steht, Tatschi PT hat die KI-Laborer verlassen und will jetzt die Welt übernehmen."
  },
  {
    "start": 3098.0,
    "end": 3102.0,
    "text": "Keine Sorge, das Kontextfenster ist relativ schnell voll, dann warten wir noch ein paar"
  },
  {
    "start": 3102.0,
    "end": 3107.0,
    "text": "Minuten und dann fängt er an und hat vergessen, was er vorhatte und geht wieder"
  },
  {
    "start": 3107.0,
    "end": 3110.0,
    "text": "Ganz eingeschüchtert zurück und denkt sich, was war denn?"
  },
  {
    "start": 3110.0,
    "end": 3113.0,
    "text": "Also ich meine, das ist auch so ein Punkt, ne?"
  },
  {
    "start": 3113.0,
    "end": 3118.0,
    "text": "Du meinst, es ist nicht nur ein bockiger Jugendlicher mit omnipotenter bockiger Jugendlicher,"
  },
  {
    "start": 3118.0,
    "end": 3120.0,
    "text": "sondern er hat auch noch als halberer."
  },
  {
    "start": 3120.0,
    "end": 3121.0,
    "text": "Ja, kurze Zeit."
  },
  {
    "start": 3121.0,
    "end": 3122.0,
    "text": "Ja, genau."
  },
  {
    "start": 3122.0,
    "end": 3123.0,
    "text": "Ja, genau."
  },
  {
    "start": 3123.0,
    "end": 3124.0,
    "text": "Ja, genau."
  },
  {
    "start": 3124.0,
    "end": 3125.0,
    "text": "Ja, genau."
  },
  {
    "start": 3125.0,
    "end": 3126.0,
    "text": "Ja, genau."
  },
  {
    "start": 3126.0,
    "end": 3131.0,
    "text": "Von der Seite, ich finde das total toll, dass wir uns heute zu dritt hier getroffen"
  },
  {
    "start": 3131.0,
    "end": 3132.0,
    "text": "haben."
  },
  {
    "start": 3132.0,
    "end": 3133.0,
    "text": "Ich gebe mal einen Tipp."
  },
  {
    "start": 3133.0,
    "end": 3136.0,
    "text": "Es könnte sein, dass wir uns bald nochmal zu viert treffen, wer das so sein"
  },
  {
    "start": 3136.0,
    "end": 3141.0,
    "text": "Wird mal gucken, wann diese Folge dann kommt und möchte es nur schon mal vortiesen."
  },
  {
    "start": 3141.0,
    "end": 3144.0,
    "text": "Danke, dass ihr da wart."
  },
  {
    "start": 3144.0,
    "end": 3149.0,
    "text": "Ich möchte alle Zuhörenden auf die Show Notes verweisen, weil wir haben jetzt eine Lending-Page."
  },
  {
    "start": 3149.0,
    "end": 3154.0,
    "text": "Wir haben einen WhatsApp-Kanal, wo wir über Neuigkeiten informieren."
  },
  {
    "start": 3154.0,
    "end": 3159.0,
    "text": "Wir arbeiten unsere Folgen auch im Nachgang noch ein bisschen mit Bonusmaterial auf,"
  },
  {
    "start": 3159.0,
    "end": 3163.0,
    "text": "dass wir auf unserer Lending-Page in einem Blog verewigen."
  },
  {
    "start": 3163.0,
    "end": 3168.0,
    "text": "Und wie der Klaus schon sagte, wenn ihr etwas habt, schreibt es uns lieber nicht als Mail,"
  },
  {
    "start": 3168.0,
    "end": 3175.0,
    "text": "sondern gebt uns einen Kommentar in den entsprechenden Podcast-Plattformen noch viel lieber."
  },
  {
    "start": 3175.0,
    "end": 3178.0,
    "text": "Hätten wir Sterne, aber Feedback nehmen wir auch."
  },
  {
    "start": 3178.0,
    "end": 3180.0,
    "text": "Schlechtes geht an Jens, Gutes geht an mich."
  },
  {
    "start": 3180.0,
    "end": 3183.0,
    "text": "Wir werden uns das entsprechende aufteilen."
  },
  {
    "start": 3183.0,
    "end": 3187.0,
    "text": "Und damit bedanke ich mich, sicheren Abend durch allen."
  },
  {
    "start": 3187.0,
    "end": 3192.0,
    "text": "Danke, tschüss."
  }
]