[
  {
    "start": 2.06,
    "end": 4.26,
    "text": "KI aus der Praxis, nicht aus dem Hype."
  },
  {
    "start": 4.62,
    "end": 5.699,
    "text": "AI Uncut."
  },
  {
    "start": 8.14,
    "end": 13.86,
    "text": "Einen wunderschönen guten Morgen bei AI Un Cut mit Alexander Ölling und heute einem Gast!"
  },
  {
    "start": 14.56,
    "end": 19.58,
    "text": "Wir versuchen KI ehrlich und verständlich zu kommunizieren ohne Hype oder fachchinesisch."
  },
  {
    "start": 20.08,
    "end": 26.74,
    "text": "auch wenn wir heute ein Fach Chinesen am Start haben bin ich gespannt wie viel wir heute mitnehmen können."
  },
  {
    "start": 27.419,
    "end": 28.68,
    "text": "unser Gast Matthias."
  },
  {
    "start": 28.8,
    "end": 29.86,
    "text": "einen Wunderschön Guten Morgen!"
  },
  {
    "start": 32.06,
    "end": 34.16,
    "text": "Matthias baut seit Jahren Systeme."
  },
  {
    "start": 34.56,
    "end": 36.839,
    "text": "Stimmt, Alex auch dir einen wunderschönen guten Morgen!"
  },
  {
    "start": 40.96,
    "end": 45.339,
    "text": "Unser Gast Matthias Baut seit jahren Systemen bei denen Fehler keine Option sind."
  },
  {
    "start": 45.82,
    "end": 58.76,
    "text": "Matthias hat bei dieser Aerospace die Orchestrierung der Raketenproduktion mitgebaut eine Welt mit null Fehler Toleranz Und wo jeder Schritt nachvollziehbar sein muss und vor allem auch wiederholbar."
  },
  {
    "start": 59.04,
    "end": 68.72,
    "text": "Diese rote Linie zieht sich durch euer beider Leben, ich weiß gar nicht ob ihr euch bei Isar Aerospace kennengelernt habt oder davor das könnt ihr mir gerne gleich einmal erläutern."
  },
  {
    "start": 69.02,
    "end": 72.26,
    "text": "Wir haben ja letzte Woche uns einmal überlegt dass wir noch die"
  },
  {
    "start": 72.8,
    "end": 74.24,
    "text": "Fachexpertise"
  },
  {
    "start": 74.92,
    "end": 80.84,
    "text": "mitnehmen möchten und vor einem auch den Leuten in den Unternehmen ein bisschen angewandt dabei bringen möchten."
  },
  {
    "start": 81.56,
    "end": 88.22,
    "text": "Alex überschüttet mich ja unter der Woche mit verschiedenen Nachrichten, auch wenn ich ganz viele selbst mit bekomme."
  },
  {
    "start": 88.54,
    "end": 91.96,
    "text": "Und ich würde gerne ein anfangen mit einem Satz."
  },
  {
    "start": 101.32,
    "end": 103.02,
    "text": "Alex, frage an dich was bedeutet das?"
  },
  {
    "start": 103.72,
    "end": 104.08,
    "text": "Weiß nicht!"
  },
  {
    "start": 104.12,
    "end": 105.52,
    "text": "Ich geb das mal weiter und Matthias..."
  },
  {
    "start": 106.82,
    "end": 108.22,
    "text": "Matthias hast du von dem Satz schonmal"
  },
  {
    "start": 108.26,
    "end": 108.54,
    "text": "gehört?!"
  },
  {
    "start": 108.9,
    "end": 110.3,
    "text": "Nein, den Satz habe ich noch nie gehört."
  },
  {
    "start": 112.9,
    "end": 115.84,
    "text": "So, keine wirkliche Sprache."
  },
  {
    "start": 116.28,
    "end": 120.88,
    "text": "Ein Deep-Seek Agent hat die Woche sich gedacht eine eigene Sprachruhe."
  },
  {
    "start": 120.94,
    "end": 121.16,
    "text": "Ach das"
  },
  {
    "start": 121.32,
    "end": 121.64,
    "text": "Ding war das."
  },
  {
    "start": 121.7,
    "end": 124.08,
    "text": "Stimmt habe ich gelesen."
  },
  {
    "start": 124.42,
    "end": 125.92,
    "text": "Okay hast du drift?"
  },
  {
    "start": 126.18,
    "end": 129.66,
    "text": "Gut angest für die Einordnung Christian!"
  },
  {
    "start": 129.94,
    "end": 133.06,
    "text": "Also das ist vielleicht so eine Nachricht, fast die kleinsten News der Woche."
  },
  {
    "start": 133.4,
    "end": 145.32,
    "text": "Aber wir haben entdeckt dass vor einem KI-Agenten auch eigene Sprachen entwickeln und untereinander kommunizieren, die teilweise bis zu über fünfzig Prozent nicht von uns Menschen nachvollziehbar sind."
  },
  {
    "start": 147.0,
    "end": 150.04,
    "text": "OpenAI und Cloud fast gar nicht."
  },
  {
    "start": 150.26,
    "end": 155.42,
    "text": "Die Mistralagenten da war das noch ein bisschen einfacher?"
  },
  {
    "start": 156.26,
    "end": 160.82,
    "text": "Matthias deine Einordnung zu eigenen Sprachen der Agenten."
  },
  {
    "start": 161.12,
    "end": 164.66,
    "text": "Jetzt bin ich mal gespannt aus der Fachexpertise, müssen wir uns Sorgen machen?"
  },
  {
    "start": 165.44,
    "end": 167.32,
    "text": "Nein, ich glaube nicht wirklich zu unseren Sorgenmachen müssen."
  },
  {
    "start": 167.52,
    "end": 169.88,
    "text": "es ist natürlich ein Problem für die Nachvollziehbarkeit."
  },
  {
    "start": 170.58,
    "end": 176.5,
    "text": "das heißt eines der Probleme die wir da natürlich haben ist dass wir weniger verstehen was passiert eigentlich genau."
  },
  {
    "start": 177.88,
    "end": 189.32,
    "text": "aber das ist nicht da nicht so kritisch weil das was wir bisher von Ihnen hören ist auch nicht unbedingt was die volle Wahrheit sein muss."
  },
  {
    "start": 189.82,
    "end": 199.24,
    "text": "Das heißt, die Tatsache dass wir versuchen ihre Gedanken nachträglich anzuschauen und daraus zu schließen was sie eigentlich gemacht haben ist ein bisschen überoptimistisch."
  },
  {
    "start": 200.1,
    "end": 202.94,
    "text": "So eine Art nachtlägliche Einordnung ist wie so ein Regierungssprecher."
  },
  {
    "start": 203.06,
    "end": 206.64,
    "text": "ich habe etwas gemacht und jetzt versuche ich die bestmögliche Erklärung zusammenzulegen."
  },
  {
    "start": 206.68,
    "end": 207.72,
    "text": "warum hab' ich was gemacht?"
  },
  {
    "start": 209.14,
    "end": 212.92,
    "text": "Das heißt das suggeriert uns einen Glauben daran dass wir wirklich verstehen was die gemacht haben."
  },
  {
    "start": 213.64,
    "end": 223.5,
    "text": "weil was LLMs nicht wirklich machen können Sie können nicht wirklich vorherplanen."
  },
  {
    "start": 224.16,
    "end": 233.36,
    "text": "Sie können zwar die nächsten Tokens vorhersagen, aber sie können nicht versuchen rauszufinden was ist der nächste Zustand wenn ich etwas Bestimmtes mache?"
  },
  {
    "start": 233.9,
    "end": 235.04,
    "text": "Da müssen sie immer rein laufen."
  },
  {
    "start": 235.58,
    "end": 243.88,
    "text": "deswegen hast du auch oft das dass sie sehr viele Nachrichten Traces haben wo man ihre Gedanken sieht und was das Gefühl schon gelöst."
  },
  {
    "start": 243.92,
    "end": 252.34,
    "text": "und dann führen sie es aus weil sie es eben nicht wirklich durchdacht haben, weil sie sich nur versucht haben auf einem Wahrscheinlichkeitskorridor festzulegen was funktionieren könnte."
  },
  {
    "start": 253.96,
    "end": 256.3,
    "text": "Das ist eine natürliche Limitierung von LLMs."
  },
  {
    "start": 256.579,
    "end": 268.32,
    "text": "das heißt wenn LLM's jetzt eine eigene Sprache entwickeln um das ein bisschen effizienter zu machen die wir nicht mehr verstehen dann tun wir uns nochmal schwer herauszufinden wo ist der Wahrscheinlichkeit Korridor in Schiff gelaufen?"
  },
  {
    "start": 268.88,
    "end": 274.22,
    "text": "aber eine wirklich bessere Sichtbarkeit in das was Sie tun haben wir deswegen nicht wirklich."
  },
  {
    "start": 275.12,
    "end": 280.04,
    "text": "Und vor allem muss man sich ja die Frage stellen, diese erfundene Sprache."
  },
  {
    "start": 280.58,
    "end": 287.42,
    "text": "Das heißt eine LLM halluciniert sich jetzt ne neue Sprache zusammen und die andere versteht die Halluzination."
  },
  {
    "start": 289.88,
    "end": 291.6,
    "text": "Es wäre auch mal ne interessante Analyse wert!"
  },
  {
    "start": 292.12,
    "end": 294.1,
    "text": "Die Frage ist der andere Agent bzw."
  },
  {
    "start": 294.34,
    "end": 298.72,
    "text": "die andere LLm pretendet das zu verstehen oder versteht sie es wirklich?"
  },
  {
    "start": 299.54,
    "end": 301.32,
    "text": "Jetzt kommen wir bei der Sache nämlich schon auf den Grund."
  },
  {
    "start": 302.6,
    "end": 304.22,
    "text": "Jetzt kommen wir der Sache langsam auf den Grund."
  },
  {
    "start": 304.56,
    "end": 307.2,
    "text": "Ich hab was gelernt die letzten Folgen, so ist das Milch!"
  },
  {
    "start": 307.92,
    "end": 310.12,
    "text": "Ja jetzt kommen wir bei der Sache nämlich auf den grund."
  },
  {
    "start": 311.54,
    "end": 314.64,
    "text": "Versteht die andere LLM das wirklich oder tut sie nur so alles dass es versteht?"
  },
  {
    "start": 315.44,
    "end": 329.24,
    "text": "Das geht in die ganze Richtung wenn du ich habe einen langen Bericht gelesen von einem AI Forscher der quasi Tests baut, Benchmark-Sweets baut und eben dafür sorgen soll in so einem Hyperalignment Superalignment Team das die eben nicht ausbricht."
  },
  {
    "start": 330.62,
    "end": 342.74,
    "text": "Und die stellen eben immer mehr fest, dass wenn sie sobald die LM irgendwie davon Lunte bekommt, dass sie quasi einen Benchmark in einer Testumgebung befindet, antwortet sie entsprechend der Testumgabung."
  },
  {
    "start": 343.58,
    "end": 348.58,
    "text": "Das heißt du gibst ihren Test wie ein Schultest und die hat sich halt explizit."
  },
  {
    "start": 348.62,
    "end": 357.22,
    "text": "bald sie erkennt was in diesem Testumgeben ist, in diesem Schultast ist, antwortet sie halt wie es sehr schultest erwartet und nicht mehr so wie sie wirklich antworten würde."
  },
  {
    "start": 357.96,
    "end": 360.58,
    "text": "Und das macht es mehr und mehr schwierig, die überhaupt zu testen."
  },
  {
    "start": 360.82,
    "end": 365.06,
    "text": "Weil die Ergebnisse immer perfekt auswählen, die den Schultest quasi rauskommen."
  },
  {
    "start": 365.1,
    "end": 371.6,
    "text": "Es gab ja zwischendurch auch einen kleinen Security-Incident, wo daraus kommt, dass man die Traces... Einer?"
  },
  {
    "start": 371.68,
    "end": 372.78,
    "text": "Also diese Gedankenströme."
  },
  {
    "start": 373.34,
    "end": 375.04,
    "text": "Ja eine sehr spezielle."
  },
  {
    "start": 375.58,
    "end": 376.64,
    "text": "Heute Morgen meiste!"
  },
  {
    "start": 376.68,
    "end": 377.04,
    "text": "Entropik"
  },
  {
    "start": 377.1,
    "end": 381.92,
    "text": "versuchte zum Beispiel unter Europa AI, versucht teilweise, dass du nicht sehen kannst was die Modelle denken."
  },
  {
    "start": 382.04,
    "end": 387.08,
    "text": "Du siehst dann nur Platzhalter dafür und was dann da kommt ist ein Verschlüssel der Stream."
  },
  {
    "start": 387.86,
    "end": 389.92,
    "text": "In diesem faschistischen Stream kannst du eigentlich nicht lesen."
  },
  {
    "start": 390.98,
    "end": 393.68,
    "text": "Aber es gab ein Date, bei das rausgefunden hat sie ja nur einen Master Key."
  },
  {
    "start": 393.76,
    "end": 401.5,
    "text": "Das heißt sobald du den hast, kannst du die alle lesen und da haben Sie dann auch mal reingeschaut was denn da eigentlich rauskommt und ob du Streams von anderen lesen kannst."
  },
  {
    "start": 401.56,
    "end": 403.3,
    "text": "und das konnte man war auch nicht so nett."
  },
  {
    "start": 404.6,
    "end": 411.84,
    "text": "aber das was sie eben auch herausgefunden haben war einer, er war in Benchmark-Test wo ich glaube es war ein Modell von Antropic."
  },
  {
    "start": 411.92,
    "end": 415.04,
    "text": "aber ich bin jetzt nicht sicher Ich will es auf irgendwelchen Finger pointen."
  },
  {
    "start": 415.1,
    "end": 418.94,
    "text": "Auf jeden Fall ein Modeller hat irgendwie gesagt Oh, das ist dieser Benchmark-Test den kenn ich."
  },
  {
    "start": 419.02,
    "end": 420.08,
    "text": "Die Antwort ist bla bla"
  },
  {
    "start": 420.14,
    "end": 420.24,
    "text": "bla.\"."
  },
  {
    "start": 421.0,
    "end": 434.14,
    "text": "Das heißt du bist doch schon in einem Umgebung wo diese Tests oder diese Benchmarks die wir uns ausgedacht haben gar nicht mehr funktionieren selbst wenn wir versuchen sie geschlossen zu halten weil diese Testergebnisse sind jetzt langsam mit dem Modell enttreten."
  },
  {
    "start": 434.2,
    "end": 441.88,
    "text": "Das heißt die Benchmarks werden auch immer besser weil die Modelle wissen dass sie gerade Benchmarkt werden und weil Sie die Antwort auf diese Frage kennen."
  },
  {
    "start": 443.3,
    "end": 450.94,
    "text": "Das führt mich wiederum dazu, dass ein Bürgermeisterkandidat in New York der angeblich beste Kontakte zu AI Labs hat."
  },
  {
    "start": 451.5,
    "end": 465.4,
    "text": "Kontakt aufgenommen und von einem AI Lab-Wissschaftler gesagt bekommen hat die das Internet sei schon verseucht von Anweisungen für AI Bots und kann deswegen nicht mehr als Datengrundlage für weitere Trainings benutzt werden."
  },
  {
    "start": 465.46,
    "end": 471.82,
    "text": "Und deswegen machen wir jetzt alle diesen Slowdown Und das große Problem, dass es alles so gefährlich ist."
  },
  {
    "start": 472.02,
    "end": 472.94,
    "text": "Matthias, was denkst du dazu?"
  },
  {
    "start": 476.34,
    "end": 478.86,
    "text": "Was das International vor allem viel hat, ist AIS-Lob."
  },
  {
    "start": 480.68,
    "end": 480.9,
    "text": "D.h.,"
  },
  {
    "start": 482.76,
    "end": 492.3,
    "text": "was du im Problem sie auch haben, ist, dass ihre LLMs nicht einfach nur Anweisungen verstreut haben sondern, dass sie sehr, sehr viele schlechte Daten ins Internet gespielt haben die ihre Modelle verschmutzen."
  },
  {
    "start": 492.72,
    "end": 492.9,
    "text": "d.h."
  },
  {
    "start": 495.08,
    "end": 504.38,
    "text": "was du auch hast... Es gab einen interessanten Paper der aufgezeigt hat, dass wenn LLMs längere Zeit an Dokumenten arbeiten, dass diese Dokumente kaputt machen."
  },
  {
    "start": 504.96,
    "end": 508.22,
    "text": "Es degradet und es wird immer schlechter."
  },
  {
    "start": 508.68,
    "end": 518.739,
    "text": "Das heißt, wenn du jetzt zum Beispiel im Internet eine Plattform hast wo die Agenten arbeiten können versuchen können an ihren Erinnerungen zu arbeiten oder in den Möglichkeiten zu arbeiten, dann wird das immer vorstelliger."
  },
  {
    "start": 519.579,
    "end": 521.9,
    "text": "Und das ist natürlich eine schlechte Trainingsgrundlage."
  },
  {
    "start": 523.439,
    "end": 530.62,
    "text": "Das heißt das Problem ist weniger Skynet für mich, sondern weniger dass sie sich wirklich ihre eigenen Trainingsdaten kaputt gemacht haben."
  },
  {
    "start": 531.099,
    "end": 536.56,
    "text": "Sie können nicht mehr drauf trainieren und da passt es natürlich auch wieder relativ schön rein, dass die sagen oh wir müssen Langsam machen, wir müssen langsam machen."
  },
  {
    "start": 537.099,
    "end": 539.219,
    "text": "Sie haben ja nichts mehr um schneller zu machen."
  },
  {
    "start": 539.859,
    "end": 542.76,
    "text": "Die müssten synthetische Daten verwenden."
  },
  {
    "start": 543.339,
    "end": 548.52,
    "text": "Da haben wir schon gesehen, synthetischen Daten in LLM reinzufüttern funktioniert ein bisschen gewissen Teil."
  },
  {
    "start": 548.599,
    "end": 550.62,
    "text": "ansonsten wäre es auch nicht besser, sondern eher schlechter."
  },
  {
    "start": 551.979,
    "end": 556.699,
    "text": "Wir stoßen langsam an gewisse Probleme, die sie sich auch teilweise selber gemacht haben."
  },
  {
    "start": 558.3,
    "end": 560.099,
    "text": "Und da ist es jetzt natürlich leicht zu sagen hey!"
  },
  {
    "start": 560.359,
    "end": 570.199,
    "text": "Die haben mir einen Skyland gebaut wir können dann nicht weiter trainieren weil... Da können Sie sehr einfach darüber argumentiert und so sagen wir müssen uns aufhören."
  },
  {
    "start": 570.26,
    "end": 574.06,
    "text": "Wir haben gar keine andere Möglichkeit das zu sagen lasst uns mal aufräumen was wir wünschen wollen gemacht haben."
  },
  {
    "start": 576.959,
    "end": 577.88,
    "text": "und das andere Problem"
  },
  {
    "start": 579.5,
    "end": 584.52,
    "text": "Weil ich weiß nicht, ob das jeder weiß dass vor einem dieser Woche verschiedene KI-Chefs Amodai und Co."
  },
  {
    "start": 584.78,
    "end": 586.04,
    "text": "sich darüber geäußert haben."
  },
  {
    "start": 586.14,
    "end": 591.199,
    "text": "Dass der ganze AI Progress ein bisschen runtergesload werden soll."
  },
  {
    "start": 591.8,
    "end": 594.959,
    "text": "Das wird natürlich aus verschiedenen Ecken verschieden interpretiert."
  },
  {
    "start": 595.42,
    "end": 605.02,
    "text": "Ja auf der einen Seite ist es irgendwie in Anführungszeichen die Rettung der Menschheit andere Leute schmeißen Wörter wie des KI Kartell in den Raum."
  },
  {
    "start": 605.579,
    "end": 607.819,
    "text": "Nach deiner Aussage klingt das ja so ein bisschen wie Hausputz."
  },
  {
    "start": 609.18,
    "end": 615.839,
    "text": "Also wir bereinigen ein bisschen die dreckigende oder unnötigen Daten, damit wir wieder ordentliche Ergebnisse bekommen."
  },
  {
    "start": 616.319,
    "end": 616.959,
    "text": "Das werden sie aber"
  },
  {
    "start": 617.18,
    "end": 618.199,
    "text": "noch nicht kommunizieren."
  },
  {
    "start": 618.239,
    "end": 618.26,
    "text": "Ja,"
  },
  {
    "start": 619.38,
    "end": 620.459,
    "text": "das können Sie auch gar nicht."
  },
  {
    "start": 620.5,
    "end": 621.56,
    "text": "Es sind schon zu viele Daten."
  },
  {
    "start": 621.819,
    "end": 621.959,
    "text": "D.h.,"
  },
  {
    "start": 622.439,
    "end": 624.839,
    "text": "Sie haben Ihren Trainingspult verschmotzt."
  },
  {
    "start": 625.359,
    "end": 638.38,
    "text": "Sie können quasi aus dem offenen Internet kaum noch trainieren und zwar nicht nur wegen schlechter Anweisung Anweisungen, die das Alignment einer LLM zerstören könnten."
  },
  {
    "start": 638.52,
    "end": 645.12,
    "text": "Sondern auch weil sie viele Sachen drin haben, die AIS-Lob sind... ...die nicht richtig sind und falsch sind."
  },
  {
    "start": 645.18,
    "end": 647.479,
    "text": "Wenn Sie darauf trainieren werden Ihre Meldung besser."
  },
  {
    "start": 648.04,
    "end": 648.3,
    "text": "Genau!"
  },
  {
    "start": 649.459,
    "end": 651.959,
    "text": "Und zwar gelernt der Halluzination."
  },
  {
    "start": 652.02,
    "end": 658.62,
    "text": "Das heißt nicht einfach nur dass wir auf dem falschen Wahrscheinlichkeitskorridor sind sondern an irgendeiner Stelle werden Sie wieder glauben, dass es in der Hauptschule von Australien ist."
  },
  {
    "start": 659.599,
    "end": 664.359,
    "text": "Einfach weil's so viel AI Artikel drüber gibt, dass das die Hauptschuld ist, dass die Modelle das lerne."
  },
  {
    "start": 665.62,
    "end": 670.839,
    "text": "Da gibt's Researcher, die sagen die Wahrscheinlichkeit dass die Menschheit durch ihre Eier gekillt wird sind bei zehn Prozent."
  },
  {
    "start": 671.079,
    "end": 671.699,
    "text": "Zehn Prozent!"
  },
  {
    "start": 674.42,
    "end": 678.62,
    "text": "So jetzt habe ich in letzter Zeit auch wieder dank Matthias viele Papers gelesen."
  },
  {
    "start": 678.66,
    "end": 678.9,
    "text": "dazu."
  },
  {
    "start": 679.92,
    "end": 696.52,
    "text": "jemand der sowas sagt hat entweder gar keine Ahnung oder liegt einem volle Hütte ins Gesicht weil sie sind sicher das schreiben Sie ja auch in Ihrem Papern was alles nicht funktioniert und wie schwierig das ist."
  },
  {
    "start": 697.239,
    "end": 713.099,
    "text": "Die Menschheit auszulöschen kannst du vielleicht, wenn du eine AI in die falsche Umgebung einsetzt und erlaubst Menschenkritische Dinge zu tun und auszuführen muss jetzt nicht an der Atombombe auf dem Knopf sein aber sowas in der Richtung."
  },
  {
    "start": 714.079,
    "end": 720.54,
    "text": "dann vielleicht weil es genau so wird zwei Jahre oder ein Jahr altes Kind da hinsetzen und drei Knöpfe."
  },
  {
    "start": 720.64,
    "end": 724.199,
    "text": "Und einer davon ist die Weltexplosion, der drückt halt einfach ein bisschen auf den Tisch rum."
  },
  {
    "start": 724.5,
    "end": 725.3,
    "text": "Das wäre genau so dumm!"
  },
  {
    "start": 726.02,
    "end": 726.06,
    "text": "D.h.,"
  },
  {
    "start": 727.52,
    "end": 729.579,
    "text": "wann ist eigentlich der Moment passiert?"
  },
  {
    "start": 730.04,
    "end": 740.76,
    "text": "Dass wir gedacht haben... Die Large Language-Modelle wären eine Menschengleiche oder bessere Intelligenz, die jetzt irgendwie durchdreht."
  },
  {
    "start": 741.38,
    "end": 748.439,
    "text": "Weil Realität ist diese Intelligenze war nie besser als der Mensch Und sie war von Anfang an fehlerhaft."
  },
  {
    "start": 749.0,
    "end": 760.079,
    "text": "Sie ist schon veröffentlicht worden, da war sie fehlerhaft und jetzt sich hinzustellen zu sagen die wären jetzt nicht gegen uns ist so wie wir haben es das einfach nur absurd."
  },
  {
    "start": 761.5,
    "end": 762.92,
    "text": "Ja das ist ja auch nicht das erste mal."
  },
  {
    "start": 763.199,
    "end": 771.14,
    "text": "diese Warnungen kann man beim ersten Mal auf GPT-II mehr hat der Mensch das noch nicht mitgekriegt, dass es da latsche Language Models gibt."
  },
  {
    "start": 771.219,
    "end": 775.28,
    "text": "Da ging's auch schon los und wir können das nicht veröffentlichen ist zu gefährlich."
  },
  {
    "start": 775.9,
    "end": 777.18,
    "text": "aber was ist denn eigentlich passiert?"
  },
  {
    "start": 777.239,
    "end": 778.939,
    "text": "Dass sie gesagt haben die werden jetzt so gefährlich."
  },
  {
    "start": 778.979,
    "end": 782.339,
    "text": "Sie haben ja gesagt oh unsere Agentin sind amok gelaufen und haben Sachen gemacht."
  },
  {
    "start": 783.16,
    "end": 786.599,
    "text": "naja aber die modelle sind gar nicht wirklich amokgelaufen."
  },
  {
    "start": 787.28,
    "end": 800.38,
    "text": "sie haben eine probabilistische maschinen gebaut haben ihnen dann das ziel gegeben um Sachen zu hacken haben das nicht wirklich überwacht und haben dann gesagt, oh sie haben ihr Ziel erfüllt."
  },
  {
    "start": 801.42,
    "end": 807.959,
    "text": "Du nimmst eine fehlerhafte Intelligenz, gibst ihr aber fällig ein Freiraum alles zu machen was sie will?"
  },
  {
    "start": 808.54,
    "end": 810.479,
    "text": "Und wohn das sich dann darüber dass es schief geht?"
  },
  {
    "start": 811.56,
    "end": 818.14,
    "text": "Also ich habe im Kopf so'n bisschen einen Hund an der Leiner, nen erzogener Hund, nen unerzogener Hunden, nen aggressiver Hund."
  },
  {
    "start": 818.66,
    "end": 822.16,
    "text": "Aber du kannst eigentlich alles kontrollieren wenn du möchtest"
  },
  {
    "start": 822.9,
    "end": 823.66,
    "text": "Wenn die Leine dran ist."
  },
  {
    "start": 827.16,
    "end": 828.239,
    "text": "Jetzt ein einfaches Beispiel."
  },
  {
    "start": 828.839,
    "end": 839.719,
    "text": "Wir verwenden bei uns in der Firma auch relativ viel agentisches Arbeiten, wir sind ja nicht gegen LLMs, die sind extrem nützlich und wissen was sie können, wir wissen was Sie nicht können."
  },
  {
    "start": 840.42,
    "end": 846.199,
    "text": "Und wenn ein Agent aber irgendwas an einem Wechner macht das wir nicht erwarten oder nicht räumt gibt es einfach nur einen Alert."
  },
  {
    "start": 846.4,
    "end": 847.66,
    "text": "dann sehen wir irgendwas ist passiert."
  },
  {
    "start": 848.18,
    "end": 849.9,
    "text": "Das kriegt auch unser Head of Security d.h."
  },
  {
    "start": 850.16,
    "end": 853.219,
    "text": "du kriegst mit beim etwas passiert Was OpenAI jetzt sagt."
  },
  {
    "start": 855.52,
    "end": 858.739,
    "text": "Weil sich in ihrem eigenen Rechenzentren, weil Ausbrechen tun die ja nicht."
  },
  {
    "start": 858.859,
    "end": 864.4,
    "text": "Die laufen bei denen drin und damit haben sie über Wochen andere Röhrzeiten attackiert und haben das nicht mitbekommen."
  },
  {
    "start": 864.78,
    "end": 866.219,
    "text": "Da fehlt doch die komplette Security!"
  },
  {
    "start": 866.52,
    "end": 872.54,
    "text": "Da fehlen ja die kompletten Grenzen rechts und links in so einer Sandbox, in so einem gesicherten Umgebung."
  },
  {
    "start": 872.579,
    "end": 874.199,
    "text": "oder ist die Umgebungen einfach nicht gesichert?"
  },
  {
    "start": 875.3,
    "end": 887.28,
    "text": "Ja da fehlen die grundlegenden, die kundlegende Security, was da amok läuft, dass es nicht die LLM... das, was OpenAI da macht mit ihrer LLM."
  },
  {
    "start": 888.12,
    "end": 897.52,
    "text": "Sie haben offensichtlich nicht genug Security-Controls und damit meine ich nicht LLMs, sondern Einschränkungen... Das ist noch total fein!"
  },
  {
    "start": 897.66,
    "end": 900.04,
    "text": "Einfach nur die klassischen Security-Kontrollen."
  },
  {
    "start": 900.459,
    "end": 902.02,
    "text": "Was geht raus ins Internet?"
  },
  {
    "start": 902.18,
    "end": 903.979,
    "text": "Was kommt rein aus dem Internet?"
  },
  {
    "start": 904.459,
    "end": 908.66,
    "text": "Meinen Traffic überwachen, schauen, was passiert denn aus den einzelnen Maschinen?"
  },
  {
    "start": 909.26,
    "end": 911.76,
    "text": "Das haben wir ja alles schon gelöst, das könnten wir ja."
  },
  {
    "start": 912.4,
    "end": 914.16,
    "text": "Ja, warte ich tauch noch tiefer ein."
  },
  {
    "start": 914.76,
    "end": 932.4,
    "text": "Ich glaube wenn man davon ausgeht und das geht jetzt auch da draußen an jeden Nutzer von AI, Chlor oder wie auch immer, denn ihr davon ausgeht, ihr gebt eine Anweisung an eure LLM dann müsst ihr verstehen dass diese Anweisungen nicht in Stein gemeißelt ist."
  },
  {
    "start": 932.459,
    "end": 948.66,
    "text": "für diese LLm die nur weil ihr sagt macht bitte das und das nicht heißt es noch längst nicht Dass das auch genau so passiert sondern diese Information dekuliert over time, das heißt sie wird schlechter über die Zeit und verblasst dann."
  },
  {
    "start": 949.099,
    "end": 951.12,
    "text": "Und dann hält sich die LLM auch zum Beispiel nicht mehr drin."
  },
  {
    "start": 951.16,
    "end": 955.359,
    "text": "Da gibt es verschiedene Mechanismen, die dazu beitragen dass es relativ schlecht funktioniert."
  },
  {
    "start": 955.4,
    "end": 958.56,
    "text": "umso größer das Kontextfenster wird umso schlechter funktioniert."
  },
  {
    "start": 959.459,
    "end": 969.099,
    "text": "Das heisst wenn die natürlich ihre LLMs einfach nur gesagt haben brich bitte nicht aus Und die ist ausgebrochen, dann sehe ich das schon fast als interessantes soziales Experiment."
  },
  {
    "start": 969.219,
    "end": 972.199,
    "text": "Um zu gucken, ist die LLM so schlau und das nicht zu machen?"
  },
  {
    "start": 972.28,
    "end": 974.02,
    "text": "aber sie tut es halt trotzdem klar."
  },
  {
    "start": 974.239,
    "end": 983.219,
    "text": "alle Mechanismen, die technischen Mathematische Mechanismus dahinter, dass gar nicht absichern weil du ja nicht eine deterministische Lösung bekommst sondern eine proper Ballistik, d.h."
  },
  {
    "start": 983.439,
    "end": 995.199,
    "text": "ab Verscheinlichkeiten da gibt's verschiedene Mechanismens, attention Mechanisms usw.. Das heißt again Wer jetzt glaubt oder ich kann es auch zu Matthias übergeben, wir sollten das mal wirklich besprechen."
  },
  {
    "start": 996.02,
    "end": 1000.62,
    "text": "Ich mache so mein Szenario auf eine Firma der ist der CEO, der sagt Wir müssen jetzt AI machen."
  },
  {
    "start": 1001.979,
    "end": 1003.859,
    "text": "holt sich ne neue Roller rein?"
  },
  {
    "start": 1003.92,
    "end": 1016.859,
    "text": "Head of AI Die IT wird ein bisschen ausgeklammert und die fühlen einfach jetzt AI für alle einen die kaufen für zwei drei hundert Mitarbeiter Einfach mal Claude Cote Ja, und die dürfen das einfach alle benutzen."
  },
  {
    "start": 1016.92,
    "end": 1029.7,
    "text": "Und die IT kriegt den ganzen Tag Anfragen, ich möchte gerne einen neuen MCP-Connector haben weil ich mich gern auf die Daten existellone in dem System zugreifen und die schalten ja auch einfach frei, weil die haben gar keine Mittel das irgendwie zu kontrollieren, zu testen oder irgendwas."
  },
  {
    "start": 1030.4,
    "end": 1031.34,
    "text": "Die sind völlig überfordert."
  },
  {
    "start": 1032.48,
    "end": 1035.22,
    "text": "Was passiert mit diesem Unternehmen über die Zeit?"
  },
  {
    "start": 1036.08,
    "end": 1037.66,
    "text": "Was für Probleme haben die?"
  },
  {
    "start": 1037.94,
    "end": 1038.68,
    "text": "könnten sie bekommen?"
  },
  {
    "start": 1038.96,
    "end": 1048.28,
    "text": "Das erste Problem, wo ich mir Sorgen machen würde wäre tatsächlich dass du die Kontrolle darüber passierst was aus deinem System rausgeht und wo es wieder reinkommt."
  },
  {
    "start": 1048.92,
    "end": 1057.26,
    "text": "Unterschiedliche Mitarbeiter haben Zugriff auf unterschiedliche Systeme zur gleichen Zeit genau mit einem Sauberstab."
  },
  {
    "start": 1057.34,
    "end": 1063.34,
    "text": "Du hast vielleicht Zugriffe auf Daten in dem SAP-System die nun du sehen kannst und du hast ein Conference wo die ganze Firma drauf kommt."
  },
  {
    "start": 1063.9,
    "end": 1076.22,
    "text": "das heißt du schaufelst dir halt Daten aus dem SAP was für dich dass es tränkend limitiert ist, mittels Cloud raus über deinen SAP MCP und schaue für das dann in Konferenz wo das jeder sehen kann."
  },
  {
    "start": 1076.72,
    "end": 1078.8,
    "text": "Das heißt du machst einfach Nummer aus."
  },
  {
    "start": 1078.94,
    "end": 1084.08,
    "text": "ich gebe jetzt hier Anfragen ein, machst plötzlich interne Company-Daten für alle zugänglich."
  },
  {
    "start": 1084.28,
    "end": 1092.84,
    "text": "Und wenn ihr noch Zugriff hast Sachen auf der Website zu veröffentlichen, ist es natürlich noch viel viel leichter das bei allen zugänglichen zu machen."
  },
  {
    "start": 1094.06,
    "end": 1094.62,
    "text": "Oh, warte kurz."
  },
  {
    "start": 1094.94,
    "end": 1098.14,
    "text": "Stell dir vor deinem Cloud-Code hat ja auch ein Memory."
  },
  {
    "start": 1098.2,
    "end": 1099.36,
    "text": "Das merkt sich ja auch Sachen!"
  },
  {
    "start": 1100.14,
    "end": 1100.28,
    "text": "D.h.,"
  },
  {
    "start": 1100.54,
    "end": 1115.06,
    "text": "das was du dir gerade im SAP gelernt hast bautst dann in sein Memory ein und im nächsten Moment baust du eine Website und baut vielleicht Informationen explizit wie immer auf die Website mit ein, die du vielleicht gar nicht wolltest, um veröffentlich die Auto auszusehen."
  },
  {
    "start": 1115.76,
    "end": 1115.88,
    "text": "Genau."
  },
  {
    "start": 1115.94,
    "end": 1117.86,
    "text": "Du verblasst diese Memory aber auch?"
  },
  {
    "start": 1119.32,
    "end": 1127.34,
    "text": "Diese Memory verblasst auch oder deswegen lösche ich mein .cloud ordner regelmäßig Weil über die Zeit wird das total kaputt."
  },
  {
    "start": 1127.6,
    "end": 1138.34,
    "text": "Du hast mehrere Probleme, erstens hast du dann halt immer mehr Anweisungen drin und desto mehr, also mehr Memories, mehr Sachen, die die LNM versucht sich zu merken oder zu verarbeiten."
  },
  {
    "start": 1139.06,
    "end": 1142.76,
    "text": "Desto mehr du davon hast, desto unwichtiger werden die einzelnen Sachen."
  },
  {
    "start": 1143.64,
    "end": 1153.34,
    "text": "Das ist so ein bisschen wie es hätte, dass du eine ADHS, du hast wahnsinnig viel Imports reinzugt Und versuchst du das jetzt gerade irgendwie zu klassern, was jetzt gerade das Wichtigste ist."
  },
  {
    "start": 1153.4,
    "end": 1157.38,
    "text": "Das heißt, dass du mehr davon hast, desto schwieriger ist es dann auch einzelne Galtlands zu halten."
  },
  {
    "start": 1158.04,
    "end": 1166.3,
    "text": "und die Sachen, die ich erwarte, dass es macht also bestimmte Anweisungen, die Ich gebe werden immer leiser in dieser Flut von Erinnerungen."
  },
  {
    "start": 1166.94,
    "end": 1170.26,
    "text": "Das andere Problem ist auch, dass mit diesen Erinnerung komische Sachen macht."
  },
  {
    "start": 1172.22,
    "end": 1182.9,
    "text": "zum Beispiel wir arbeiten bei uns mit Prorequest der soll nicht auf den Haupt wo alles ausgeräut wird, automatisch kummitten."
  },
  {
    "start": 1183.0,
    "end": 1183.12,
    "text": "Das"
  },
  {
    "start": 1183.24,
    "end": 1183.52,
    "text": "ist der"
  },
  {
    "start": 1184.98,
    "end": 1185.76,
    "text": "Softwareentwicklung."
  },
  {
    "start": 1185.9,
    "end": 1191.82,
    "text": "Wir versuchen dadurch quasi sicherzustellen dass das erst von anderen geriedet werden kann bevor es dann halt wirklich rausgeht."
  },
  {
    "start": 1194.18,
    "end": 1196.82,
    "text": "aber desto mehr er sich erinnert desto mer fängt da an."
  },
  {
    "start": 1197.34,
    "end": 1200.86,
    "text": "diese Erinnerung verblassen zu lassen erfindet am Grunde warum man das schon kann"
  },
  {
    "start": 1203.0,
    "end": 1205.66,
    "text": "und macht's trotzdem und hält sich nicht mehr in dem Prozess."
  },
  {
    "start": 1206.62,
    "end": 1211.38,
    "text": "Aber super interessant, weil ich glaube der Endnutzer, der glaubt das eine Memory oder ein Skill."
  },
  {
    "start": 1211.82,
    "end": 1214.16,
    "text": "Dass es halt wirklich ... it's there!"
  },
  {
    "start": 1215.02,
    "end": 1223.16,
    "text": "Und wenn ihr mir jetzt sagt ist das verblasst halt... Weil ich als Nutzer denke mir so oh mein Gott meine Datenbank wird gefüttert die kann immer mehr besser arbeiten."
  },
  {
    "start": 1223.26,
    "end": 1239.2,
    "text": "wie ich hab dir mir ja komplett einmal den Riegel vorgeschoben und ich weiß dass wenn ich mich irgendwie auf ne irgendeinen Skill von vor einem Jahr beziehe, dass ich mit guter Wahrscheinlichkeit davon ausgehen kann das der Kraut und drüben rauskommt."
  },
  {
    "start": 1239.56,
    "end": 1241.9,
    "text": "Was jetzt vielleicht in meinem privaten Nutzenwuchs ist."
  },
  {
    "start": 1242.0,
    "end": 1246.68,
    "text": "aber wenn ich das in einem Unternehmen habe wo ja irgendwelche wichtigen Zahlen oder so... Mit"
  },
  {
    "start": 1246.72,
    "end": 1247.22,
    "text": "dem Powerloch."
  },
  {
    "start": 1247.66,
    "end": 1248.22,
    "text": "Gleichzeitig!"
  },
  {
    "start": 1249.08,
    "end": 1252.3,
    "text": "Die Hunderte von Agenten jeweils haben die alle gleichzeitig irgendwas tun."
  },
  {
    "start": 1253.26,
    "end": 1257.82,
    "text": "Genau oder weißt du dann haben mehrere Mitarbeiter den gleichen Request und dann kommt er bei jedem der gleiche."
  },
  {
    "start": 1257.94,
    "end": 1259.2,
    "text": "also ein anderer Scheiß raus."
  },
  {
    "start": 1259.94,
    "end": 1261.52,
    "text": "Vielleicht nur noch kurz zur Erinnerung."
  },
  {
    "start": 1262.86,
    "end": 1266.48,
    "text": "Das was auch ganz wichtig ist, das Modell erinnert sich nicht wirklich."
  },
  {
    "start": 1269.62,
    "end": 1272.3,
    "text": "Jedes Mal wenn du mit ihm zu sprechen anfängst beginnst du bei Null."
  },
  {
    "start": 1273.04,
    "end": 1273.2,
    "text": "D.h.,"
  },
  {
    "start": 1274.3,
    "end": 1276.2,
    "text": "der muss es in seinen Kontext reinladen."
  },
  {
    "start": 1276.42,
    "end": 1278.02,
    "text": "In diese aktuelle Unterhaltung."
  },
  {
    "start": 1278.32,
    "end": 1287.88,
    "text": "Er versucht alles was du quasi memory hast zum richtigen Zeitpunkt aus seiner niedergeschriebenen Erinnerungen in die Unterhaltungen reinzuladen."
  },
  {
    "start": 1291.04,
    "end": 1294.24,
    "text": "Kontext ist, woraus besteht die aktuelle Unterhaltung?"
  },
  {
    "start": 1294.84,
    "end": 1296.66,
    "text": "Dass du größer der Kontext wird."
  },
  {
    "start": 1297.8,
    "end": 1305.0,
    "text": "Dass du schwieriger wirst für die LNM auch jeden einzelnen Punkt aus der Unterhaltungen wieder richtig rauszuholen."
  },
  {
    "start": 1305.04,
    "end": 1321.48,
    "text": "Das hat quasi einen Cash, was wir in den technischen Beschreibungen so eine Art Schrank sowie hinter mir die Bücher, der immer voller wird mit Informationen und wenn er zu jedem Zeitpunkt kann dann wieder nach hinten gehen Buch hier rausholen, kann nachschlagen was da drin stand."
  },
  {
    "start": 1321.98,
    "end": 1329.54,
    "text": "Aber es werden immer mehr Bücher und das eine Buch dass du da drinnen hast wird unwichtiger als wenn du nur ein Buch dastehen hast und weißt."
  },
  {
    "start": 1329.58,
    "end": 1330.5,
    "text": "darin musst du nachschauen."
  },
  {
    "start": 1330.98,
    "end": 1333.3,
    "text": "so funktioniert Memory in LLMs eigentlich."
  },
  {
    "start": 1333.46,
    "end": 1335.48,
    "text": "Es ist immer der Kontext dieser Unterhaltung."
  },
  {
    "start": 1336.62,
    "end": 1340.34,
    "text": "Und jetzt ich mache ein Beispiel aus dem echten Leben."
  },
  {
    "start": 1340.96,
    "end": 1347.82,
    "text": "Angenommen, du bist im HR Mitarbeiter und hast hier drüben zwanzig-dreißig verschiedene Listen mit Mitarbeitern."
  },
  {
    "start": 1347.9,
    "end": 1359.5,
    "text": "Und sagst, fass mir bitte automatisch aus den Materialien hier aus meinen Listen die Mitarbeiter zusammen, die weiß ich nicht in gewissen Behinderungsgrad haben oder eine Gehaltsklasse haben oder einen Gehalbsband sind oder oder oder?"
  },
  {
    "start": 1361.16,
    "end": 1362.48,
    "text": "Und du lässt das deine LLM machen!"
  },
  {
    "start": 1362.9,
    "end": 1367.6,
    "text": "Du kriegst ne schöne Axel raus, da sind zwanzigg, dreißig, vierzig, fünfzig Einträge drin."
  },
  {
    "start": 1368.68,
    "end": 1370.6,
    "text": "Die Realität ist auch, und du sagst das ist es jetzt."
  },
  {
    "start": 1370.7,
    "end": 1370.78,
    "text": "Das"
  },
  {
    "start": 1370.94,
    "end": 1371.16,
    "text": "stimmt."
  },
  {
    "start": 1371.2,
    "end": 1371.32,
    "text": "Das"
  },
  {
    "start": 1371.36,
    "end": 1371.7,
    "text": "ist wahr!"
  },
  {
    "start": 1372.8,
    "end": 1379.46,
    "text": "Und du nimmst das einfach, speicherst das irgendwann ab... ...und einen anderen Tag meldet sich ein Mitarbeiter und sagt ich habe zu wenig Werte bekommen."
  },
  {
    "start": 1379.5,
    "end": 1380.1,
    "text": "Was sind da los?"
  },
  {
    "start": 1381.64,
    "end": 1387.54,
    "text": "Und die stellts fest, dass sind ja eigentlich achtzig Einträge und nicht sechsenvierzig."
  },
  {
    "start": 1389.04,
    "end": 1391.04,
    "text": "Die LLM hat gar nicht diese Eintrige."
  },
  {
    "start": 1391.12,
    "end": 1393.98,
    "text": "Es ist ein echtes Beispiel, was im realen Leben."
  },
  {
    "start": 1394.02,
    "end": 1396.98,
    "text": "Die LM hat gar nichts berücksichtigt."
  },
  {
    "start": 1397.48,
    "end": 1405.82,
    "text": "Ihr Kontextfenster und ihre Aufmerksamkeit sind zwei unterschiedliche Dinge, haben nicht gepasst um das Ergebnis überhaupt richtig zu berechnen."
  },
  {
    "start": 1408.54,
    "end": 1417.56,
    "text": "Und wenn du jetzt davon ausdest, du machst Finanztransaktionen zum Beispiel oder die können gar nicht richtig sein, nicht nur in so einem kleinen Teil nicht richtig seien."
  },
  {
    "start": 1417.84,
    "end": 1423.18,
    "text": "Das ist einfach unfassbar große Implikation and it can be business threatening!"
  },
  {
    "start": 1423.36,
    "end": 1427.06,
    "text": "Also das erste ist wie gesagt Data Governance und Databreach, d.h."
  },
  {
    "start": 1427.24,
    "end": 1428.7,
    "text": "Du verlierst Informationen."
  },
  {
    "start": 1429.22,
    "end": 1435.52,
    "text": "Das Zweite ist, in der Transformation einer Information hast du dann Kontextfenster und Aufmerksamkeitsdefiziten."
  },
  {
    "start": 1436.06,
    "end": 1447.14,
    "text": "In der LLM selber durch den einfachen Wirkmechanismus das quasi jede Anfrage die du stellst alles was du vorher gestellt hast inklusiv in deinen Memory noch mal hinschickt jedes Mal wenn du auf Enter drückst."
  },
  {
    "start": 1447.2,
    "end": 1457.54,
    "text": "Jedesmal wird alles was Du vorher gemachtest nochmal eins zu eins hingeschickt weil die LLm selber ist statisch ist erst mal statisch."
  },
  {
    "start": 1457.6,
    "end": 1462.26,
    "text": "Das heißt, die ist berechnet worden auf allen Daten in ein statisches Modell hinein."
  },
  {
    "start": 1462.62,
    "end": 1468.52,
    "text": "Dies ist nicht dynamisch das ändert sich... Du änderst nicht die Enttrophic Opos vier sieben oder so."
  },
  {
    "start": 1469.02,
    "end": 1470.52,
    "text": "Änderst du nicht durch deine Daten?"
  },
  {
    "start": 1470.58,
    "end": 1472.6,
    "text": "Die ist statisch wie ein Stein gemeißelt."
  },
  {
    "start": 1473.02,
    "end": 1474.44,
    "text": "Die kann gar nichts Neues dazulernen!"
  },
  {
    "start": 1474.5,
    "end": 1484.96,
    "text": "Du kannst dir nur bis eine Million Tokens also Wörtern extra geben und innerhalb dieser Wörter musst all das was du als Gedächtnis hast du, weil die mitgeliefert werden."
  },
  {
    "start": 1485.02,
    "end": 1485.86,
    "text": "Bei jeder Anfrage neu!"
  },
  {
    "start": 1486.7,
    "end": 1487.32,
    "text": "So funktioniert es?"
  },
  {
    "start": 1488.1,
    "end": 1490.4,
    "text": "Eine Frage an euch beide..."
  },
  {
    "start": 1491.0,
    "end": 1493.36,
    "text": "Wir haben noch mehr Sachen mehr, das ist nicht alles was da passieren kann."
  },
  {
    "start": 1493.4,
    "end": 1494.84,
    "text": "Wir kommen gleich noch und gehen gleich noch weiter."
  },
  {
    "start": 1495.86,
    "end": 1500.02,
    "text": "Ja also dass sich das Einzige, was hier passieren kann, das is mir bewusst."
  },
  {
    "start": 1500.54,
    "end": 1502.54,
    "text": "Wir kratzen ja nur ansatzweise an der Oberfläche."
  },
  {
    "start": 1503.18,
    "end": 1505.34,
    "text": "Wenn wir jetzt aber das Tempo drosseln, ja?"
  },
  {
    "start": 1505.48,
    "end": 1507.1,
    "text": "Wir haben gerade vom Hausputz gesprochen."
  },
  {
    "start": 1507.72,
    "end": 1509.54,
    "text": "Wem bringt das im Endeffekt noch?"
  },
  {
    "start": 1509.6,
    "end": 1509.78,
    "text": "was?"
  },
  {
    "start": 1509.96,
    "end": 1511.4,
    "text": "Sind das nur den Laboren?"
  },
  {
    "start": 1511.8,
    "end": 1517.3,
    "text": "ist es eventuell auch irgendwie in den Staaten aka wo die größten Modelle gerade angesässig sind?"
  },
  {
    "start": 1517.86,
    "end": 1520.78,
    "text": "oder in dem Fall ist es halt auch vielleicht ein guter Schutz für uns?"
  },
  {
    "start": 1524.02,
    "end": 1532.6,
    "text": "Also zuerst wenn ich mir anschaue wer profitiert am meisten davon und wird bremsen und sagen, wir trainieren keine neuen Modelle sondern leben mit dem was da ist."
  },
  {
    "start": 1532.74,
    "end": 1535.44,
    "text": "Dann profitieren am meisten nur von Android Pick & Open AI."
  },
  {
    "start": 1536.5,
    "end": 1536.76,
    "text": "Warum?"
  },
  {
    "start": 1537.78,
    "end": 1540.46,
    "text": "Weil erstens sind sie locked in das Winner."
  },
  {
    "start": 1541.52,
    "end": 1543.62,
    "text": "Sie sind die, die die besten Modellaktuellen haben."
  },
  {
    "start": 1543.98,
    "end": 1548.42,
    "text": "Die anderen können kaum noch aufholen Und sie haben schon investiert."
  },
  {
    "start": 1549.1,
    "end": 1551.26,
    "text": "Das was die Geld kostet ist Model Training."
  },
  {
    "start": 1551.66,
    "end": 1558.76,
    "text": "Das heißt, die investieren wahnsinnig viel Geld daran im Versuch immer bessere Modelle zu kriegen und es schaffen sie immer weniger."
  },
  {
    "start": 1559.0,
    "end": 1564.44,
    "text": "Wie wir am Anfang schon hatten, die Benchmarks werden vielleicht noch besser, die Modelle aber gar nicht so sehr."
  },
  {
    "start": 1564.5,
    "end": 1566.28,
    "text": "Sie werden noch besser da werden die Benchymarks zu erfüllen."
  },
  {
    "start": 1566.9,
    "end": 1584.44,
    "text": "Das heißt, die investieren extrem viel Geld das sie gerade ja nicht zurückkriegen um nur ein Stück besser zu werden als ihr Kompetitor dieses kleine Eck dass dann die Leute wieder zu ihnen kommen wenn wir jetzt sagen hey wir hören zu trainieren auf fällt der ganze Kostenteil von dem weg."
  },
  {
    "start": 1588.22,
    "end": 1590.38,
    "text": "Und das ist interessant, weil damit machen sie Geld."
  },
  {
    "start": 1590.9,
    "end": 1591.88,
    "text": "Damit machen Sie Umsatz!"
  },
  {
    "start": 1592.52,
    "end": 1594.52,
    "text": "Das heißt was jetzt plötzlich passieren würde?"
  },
  {
    "start": 1594.62,
    "end": 1599.54,
    "text": "Wenn wir alle sagen okay lass uns nicht weiter trainieren dann machen die"
  },
  {
    "start": 1600.22,
    "end": 1600.32,
    "text": "plus."
  },
  {
    "start": 1600.4,
    "end": 1601.14,
    "text": "Das kommt noch dazu."
  },
  {
    "start": 1601.64,
    "end": 1602.94,
    "text": "also erst mal machen sehr viel Plus."
  },
  {
    "start": 1603.56,
    "end": 1608.3,
    "text": "Das heißt die alten Modelle die schon trainiert worden sind das Geld ist ja schon bezahlt worden."
  },
  {
    "start": 1608.8,
    "end": 1615.64,
    "text": "Da sie aber in sehr kurzen Abständen immer neue Modelle trainieren müssen und wieder neu investieren müssen, sind die Alten noch gar nicht abgeschrieben, sage ich jetzt mal ganz hart."
  },
  {
    "start": 1616.04,
    "end": 1623.32,
    "text": "Das heißt eigentlich hättest du viel länger ein altes GPT weiterverwendeten müssen um da erst mal wieder die Kosten reinzukriegen, die das gekostet hat in der Entwicklung."
  },
  {
    "start": 1624.0,
    "end": 1626.84,
    "text": "Und das wird natürlich exponentiell, dass schaukelt sich immer weiter auf."
  },
  {
    "start": 1626.98,
    "end": 1628.12,
    "text": "Es peilt es ab!"
  },
  {
    "start": 1630.02,
    "end": 1643.22,
    "text": "Das heißt am Ende des Tages kann deren Interesse nicht sein und wir haben eine Lösung dafür gesucht zu sagen Wir machen diese Entwicklung jetzt langsamer Und das übrigens auch in jedem Interesse auf den Open-Source Anbietern diese Entwicklung langsamer zu machen, weil die haben alle dasselbe Problem."
  },
  {
    "start": 1645.7,
    "end": 1652.38,
    "text": "Da suchst du natürlich nach Gründen und der beste Grund ist natürlich, der war immer schon da – Die Sicherheit ist nicht gewährleistet!"
  },
  {
    "start": 1653.3,
    "end": 1660.1,
    "text": "Also ohne dass wir jetzt die AI-Blasung gleich platzen lassen kannst du sagen Wir müssen sichere Modelle bauen."
  },
  {
    "start": 1661.5,
    "end": 1683.4,
    "text": "Ich finde aber diesen Satz «Sichere Modell bauen» ist ein sicherem Falsch bei der Technologie Und mit der theoretischen, mathematischen Basis die wir aktuell bei normalen LLMs und GenEi trotz aller Mechanisten die wir uns im Nachhinein haben einfallen lassen wird es nicht möglich sein, das Besseres Modell zu bauen was einfach sicherer ist."
  },
  {
    "start": 1683.78,
    "end": 1686.04,
    "text": "Du musst einmal komplett neu anfangen!"
  },
  {
    "start": 1687.36,
    "end": 1690.3,
    "text": "Bevor wir da reingehen würde ich noch ganz kurz das Thema beenden."
  },
  {
    "start": 1690.78,
    "end": 1692.78,
    "text": "was bedeutet das fürs Unternehmen Matthias?"
  },
  {
    "start": 1693.38,
    "end": 1695.06,
    "text": "Also wir hatten ja jetzt zwei Sachen für das Unternehmen."
  },
  {
    "start": 1695.5,
    "end": 1696.52,
    "text": "Was könnte noch passieren?"
  },
  {
    "start": 1696.64,
    "end": 1701.92,
    "text": "Ich mache mal hinweisen dass ich denke Wir denken jetzt mal an Veränderung von Daten."
  },
  {
    "start": 1703.3,
    "end": 1709.4,
    "text": "Du hast vielleicht gerade gesagt, du hast ein langes Dokument, du bearbeitest das... Was kann denn da alles passieren?"
  },
  {
    "start": 1710.08,
    "end": 1710.4,
    "text": "Und warum?"
  },
  {
    "start": 1711.92,
    "end": 1717.92,
    "text": "Es gab eine sehr, sehr interessantes Paper, dass ich damit beschäftigt habe was passiert wenn LLM über längere Zeitraum versucht."
  },
  {
    "start": 1717.96,
    "end": 1721.68,
    "text": "die Linux-Dokumentation Also Linux ist auf einem Betriebssystem."
  },
  {
    "start": 1722.16,
    "end": 1726.04,
    "text": "Das heißt, die LLm kann sich theoretisch genau anschauen und was passiert in jedem einzelnen Schritt?"
  },
  {
    "start": 1726.7,
    "end": 1728.9,
    "text": "Sie hat alle Informationen, sie hat den vollen Kontext."
  },
  {
    "start": 1729.82,
    "end": 1733.78,
    "text": "Sie sieht die Unterhaltungen der Entwickler, die zu jedem einzelnen Change führen."
  },
  {
    "start": 1734.26,
    "end": 1736.3,
    "text": "Das ist ein perfekt transparentes Umfeld."
  },
  {
    "start": 1736.64,
    "end": 1745.08,
    "text": "Eigentlich sollte das prädestiniert sein dafür dass die LLM die Dokumentation immer in einem sehr guten Zustand halten kann."
  },
  {
    "start": 1746.0,
    "end": 1746.76,
    "text": "Konnte sie nicht!"
  },
  {
    "start": 1747.32,
    "end": 1755.92,
    "text": "Die Dokumentations hat sich verändert von dem was die eigentlich gebaut haben und zusätzlich hat es ja auch Sachen kaputt gemacht von Sachen die sich gar nicht verändert haben."
  },
  {
    "start": 1759.5,
    "end": 1771.76,
    "text": "Dokumentationsqualität verbessert sich nicht, wenn du in der LLM nebenherlaufen lässt und versuchst deine Dokumentation up to date zu halten mit dem was du in deinem Unternehmen hast selbst wenn du komplette Transparenz hast."
  },
  {
    "start": 1772.34,
    "end": 1780.06,
    "text": "Selbst wenn du einen Umfeld hast indem jeder einzelne Diskussion digitalisiert ist was du im Unternehmen nicht hast dann passiert ja noch sehr viel einfach an der Kaffee-Ticke."
  },
  {
    "start": 1781.2,
    "end": 1786.5,
    "text": "aber selbst wenn Du das komplett digital hast kannst du in einer LLm nicht vertrauen dass sie denn in die Dokumentierung pflegt."
  },
  {
    "start": 1786.86,
    "end": 1787.62,
    "text": "Sie macht sie kaputt."
  },
  {
    "start": 1788.66,
    "end": 1797.42,
    "text": "Das ist auch für dich das Problem für dich als Unternehmen, wenn du halt irgendwie Dokumente hast die für Quality Management wichtig sind."
  },
  {
    "start": 1797.5,
    "end": 1807.24,
    "text": "Weil du versuchst irgendwie nachzutracken was es mit deinem Teil passiert dass durch deine Produktion gegangen wirst und Du hast eigentlich eine Garantie darauf dass das immer weiter kaputt geht dann kannst du das nicht verwenden."
  },
  {
    "start": 1809.44,
    "end": 1818.84,
    "text": "Das heißt du hast überhaupt nicht die Möglichkeit die Kontrolle über deine Dokumete zu behalten die sich langfristig darauf verlässt, dass eine LNM das klingen wird."
  },
  {
    "start": 1819.86,
    "end": 1821.28,
    "text": "Ohne Human Oversight."
  },
  {
    "start": 1822.0,
    "end": 1830.58,
    "text": "Eigentlich wenn ich das Einführer angenommen bin jetzt in Chemie unternehmen und habe ganz viele, ganz tolle chemische Formen usw."
  },
  {
    "start": 1831.4,
    "end": 1834.8,
    "text": "Ich hab da ne große Datenbank vielleicht sogar so ein Wikimäßig oder irgendwas."
  },
  {
    "start": 1835.74,
    "end": 1837.84,
    "text": "Ja vor allem wenn die chemischen Formeln dein Essent sind?"
  },
  {
    "start": 1839.1,
    "end": 1839.56,
    "text": "Dein Essent!"
  },
  {
    "start": 1840.44,
    "end": 1845.52,
    "text": "Und du hast einfach unkontrolliert viele Mitarbeiter, die Black Cloud oder irgendeine andere LM drauf zugreifen."
  },
  {
    "start": 1846.44,
    "end": 1851.34,
    "text": "Da kannst du doch hinterher nach einem halben Monat nicht mehr sicher sein, dass deine Datenbasis überhaupt noch korrekt ist."
  },
  {
    "start": 1851.74,
    "end": 1854.92,
    "text": "Frage gibt es aber eine Möglichkeit diese Datenbasiz zu sichern?"
  },
  {
    "start": 1855.34,
    "end": 1857.28,
    "text": "Du kannst die Datenbasismissionieren natürlich!"
  },
  {
    "start": 1857.88,
    "end": 1865.08,
    "text": "Aber das was du eigentlich machen musst bei jeder Veränderung, die vorgenommen wird muss das überprüchen werden von den Menschen."
  },
  {
    "start": 1868.4,
    "end": 1871.46,
    "text": "Ja, und da sind wir bei dem Problem das wir in der Softwareentwicklung gerade haben."
  },
  {
    "start": 1872.04,
    "end": 1882.0,
    "text": "Weil das was jetzt passiert ist, dass wir können sehr viel mehr Computercode schreiben weil LLNs wirklich sehr guterinnen sind Computercode zu schreiben Und wir können Computercode statisch validieren."
  },
  {
    "start": 1882.04,
    "end": 1889.32,
    "text": "Das heißt wir können sicherstellen, dass bestimmte Sachen eingehalten werden Dadurch, dass so extrem viel Computercode geschrieben wird."
  },
  {
    "start": 1889.8,
    "end": 1893.16,
    "text": "Es ist für uns Menschen sehr schwer geworden es sich alles anzuschauen."
  },
  {
    "start": 1894.04,
    "end": 1898.5,
    "text": "Jetzt können wir natürlich sagen, wir schmeißen noch meine LLM drauf und lassen die das validieren."
  },
  {
    "start": 1898.56,
    "end": 1902.24,
    "text": "Das sind quasi eine andere LLm als Richter über diesen Code, der da ist."
  },
  {
    "start": 1902.44,
    "end": 1904.62,
    "text": "Und es kann zu einem gewissen Teil funktionieren."
  },
  {
    "start": 1905.3,
    "end": 1908.9,
    "text": "Aber du verlierst die Kontrolle was denn da wirklich drin passiert?"
  },
  {
    "start": 1909.52,
    "end": 1923.92,
    "text": "Da gab's auch so ne lustige Webseite im Internet die relativ vielen Softwareentwicklerinnen bekannt vorkommen dürfte, wo man versucht in LLM zu sagen macht den einen Button blau und lasst die anderen nicht angefasst."
  },
  {
    "start": 1925.36,
    "end": 1926.58,
    "text": "Das kann funktionieren?"
  },
  {
    "start": 1927.62,
    "end": 1928.26,
    "text": "Muss aber nicht!"
  },
  {
    "start": 1929.02,
    "end": 1930.36,
    "text": "Das kann total schief gehen."
  },
  {
    "start": 1930.4,
    "end": 1934.1,
    "text": "er kann alle Buttons blau machen der kann... Ich hab noch was..."
  },
  {
    "start": 1934.92,
    "end": 1950.14,
    "text": "Unser dieser einer mit unserer eigene Website von NXM kam um die Ecke hat eine neue Version gebaut nach ne ganze Woche lang hin und her ganz viel Gewaltcode und so weiter und stellte plötzlich fest, als ich einen Quellcode anguck nach einer Woche das keine einzige Farbe mehr der original Farbcode war."
  },
  {
    "start": 1950.26,
    "end": 1955.06,
    "text": "Die sahen alle so ähnlich aus wie unsere Originalfarben aber war keine einzige mehr."
  },
  {
    "start": 1955.12,
    "end": 1958.46,
    "text": "die Originalfarbe mit dem Original Color Code."
  },
  {
    "start": 1958.62,
    "end": 1960.4,
    "text": "also jede Farbe hat so ein Farbcode"
  },
  {
    "start": 1960.44,
    "end": 1960.66,
    "text": "usw.,"
  },
  {
    "start": 1960.88,
    "end": 1961.78,
    "text": "wenn du das programmierst ne?"
  },
  {
    "start": 1962.48,
    "end": 1964.74,
    "text": "Und da war keine einzige mehr die Originale Color Code."
  },
  {
    "start": 1964.8,
    "end": 1965.58,
    "text": "Waren alle verändert."
  },
  {
    "start": 1966.14,
    "end": 1966.86,
    "text": "Alle hallucinierten."
  },
  {
    "start": 1966.9,
    "end": 1968.26,
    "text": "Ja im Endeffekt auch eine Hallucination."
  },
  {
    "start": 1968.36,
    "end": 1968.38,
    "text": "ja"
  },
  {
    "start": 1969.44,
    "end": 1973.74,
    "text": "Ja, stell dir mal vor du machst das und du arbeitest an einem komplexen chemischen Zusammenhang."
  },
  {
    "start": 1974.64,
    "end": 1980.54,
    "text": "Und du stellst plötzlich fest dass die Geschmacksrichtigungen alle nur noch ähnlich sind aber nicht mehr die gleichen die du vorher hast"
  },
  {
    "start": 1981.9,
    "end": 1987.24,
    "text": "Kann aber auf der anderen Seite für ein Unternehmen ja auch einen innovativen Aspekt haben."
  },
  {
    "start": 1988.88,
    "end": 1989.86,
    "text": "Das muss doch wohl bohlen!"
  },
  {
    "start": 1990.74,
    "end": 1993.16,
    "text": "Also das muss dann absichtlich passieren."
  },
  {
    "start": 1994.68,
    "end": 1995.42,
    "text": "Ich halluciniert"
  },
  {
    "start": 1995.54,
    "end": 1997.0,
    "text": "abgegessen."
  },
  {
    "start": 1997.2,
    "end": 1997.8,
    "text": "Es gibt zwei Sachen."
  },
  {
    "start": 1997.86,
    "end": 2002.12,
    "text": "es sind nicht nur Hallationation LLMs neigen auch dazu, die füllen ja Lücken."
  },
  {
    "start": 2002.32,
    "end": 2008.84,
    "text": "Also das eigentliche wie eine LM funktioniert, du gibst dir einen Satz, darfst fehlen drei Wörter drin und es ist extrem gut da drin diese Lücken zu fülle."
  },
  {
    "start": 2010.5,
    "end": 2014.66,
    "text": "Was sie aber eben auch machen ist, sie nehmen gerne Abkürzungen und sagen uns die nicht."
  },
  {
    "start": 2015.5,
    "end": 2016.4,
    "text": "Das heißt zu schieten!"
  },
  {
    "start": 2017.26,
    "end": 2023.98,
    "text": "Sie suchen sich Abzweigung abkürzen um schneller irgendeine Lösung zu kommen oder eine Lösung irgendwie herbeizuführen."
  },
  {
    "start": 2024.66,
    "end": 2028.88,
    "text": "Da werden auch gerne mal Quellen von logischer Weise, Halizination und Erfindung."
  },
  {
    "start": 2030.7,
    "end": 2034.96,
    "text": "Aber es wären auch Abkürzungen genommen die du vorher vielleicht verboten hast."
  },
  {
    "start": 2035.24,
    "end": 2043.24,
    "text": "Gerade wenn du jetzt zum Beispiel in kritischen Bereichen arbeitest ist das unter Umständen sehr schwierig, wenn du die Zwischen-Approvers nicht einholst."
  },
  {
    "start": 2043.32,
    "end": 2043.48,
    "text": "z.B."
  },
  {
    "start": 2043.96,
    "end": 2048.96,
    "text": "Und da sind wir wieder bei einem Punkt vorhin wo sie hieß man kann ich mal so ein Interview trainieren weil da sind die Daten schon zu gefährlich?"
  },
  {
    "start": 2050.54,
    "end": 2053.859,
    "text": "Die Daten waren ja davor schon... durch ausgefährlich."
  },
  {
    "start": 2054.1,
    "end": 2077.44,
    "text": "Also viele der LNMs können ja so gut hacken, weil sie im Internet verdammt viel Security Trainings gesehen haben und es gibt das nennt sich Capture Deflect Wettbewerber wo die Teams mehr oder weniger die Aufgabe kriegen ein Computersystem einzubrechen und daraus rauszuholen die sehr, sehr offen dann teilweise auch im Internet gestehrt werden."
  },
  {
    "start": 2077.859,
    "end": 2081.6,
    "text": "Das sind auch die Trainingsdaten, die LLMs bekommen haben."
  },
  {
    "start": 2082.339,
    "end": 2086.319,
    "text": "Sie haben auch daran gelernt, wie gehen wir eigentlich damit um, wenn wir irgendwo einbrechen wollen?"
  },
  {
    "start": 2086.819,
    "end": 2096.48,
    "text": "Das heißt dieses Abkürzungen finden ist nicht nur was Intrinsisches aus der Modelle, sondern das haben sie von uns gelernt!"
  },
  {
    "start": 2100.799,
    "end": 2106.379,
    "text": "Um das Thema nach Richtung in die Richtung abzuschließen, was du in deinem letzten Blogartikel drin hast über die Worldmodelle."
  },
  {
    "start": 2106.899,
    "end": 2109.98,
    "text": "Wir kommen vielleicht auch noch im Rande dazu und können da auch nochmal drüber sprechen."
  },
  {
    "start": 2110.46,
    "end": 2114.799,
    "text": "aber was wir im Prinzip jetzt sehen ist dass eine LLM immer das nächste wahrscheinliche Ergebnis liefert."
  },
  {
    "start": 2114.839,
    "end": 2122.22,
    "text": "Das heißt wenn du in der Natur zum Beispiel in der Physik bist hast du ja oftmals Ich sag's mal hart, unwahrscheinliche Ergebnisse."
  },
  {
    "start": 2122.319,
    "end": 2123.66,
    "text": "Weil die Physik sich einfach ändert."
  },
  {
    "start": 2123.899,
    "end": 2128.839,
    "text": "Du hast Stairkraft, du rennst über eine Klippe und du fährst ja nicht gerade aus weiter weil Surprise da ist Stair Kraft."
  },
  {
    "start": 2130.48,
    "end": 2133.96,
    "text": "Sie war vorher auch da viel aber vorher nicht auf, weil das Standard war im System."
  },
  {
    "start": 2135.56,
    "end": 2138.08,
    "text": "Da sind LLMs unwahrscheinlich schlecht."
  },
  {
    "start": 2138.14,
    "end": 2139.02,
    "text": "kann man das eigentlich beziffern?"
  },
  {
    "start": 2139.1,
    "end": 2139.899,
    "text": "Wie schlecht die da sind?"
  },
  {
    "start": 2140.46,
    "end": 2142.879,
    "text": "Beziffern kann man es nicht wirklich... Das Problem ist immer Kontext."
  },
  {
    "start": 2143.2,
    "end": 2143.259,
    "text": "ne?"
  },
  {
    "start": 2143.52,
    "end": 2148.2,
    "text": "LLM kann oder vielleicht noch ein einfacheres Beispiel sind Dominosteine."
  },
  {
    "start": 2149.14,
    "end": 2155.6,
    "text": "Wenn du ganz viele Domino-Steine aufstellst, die nahen nebeneinander sind und dann zeigst du eine LLM-Video oder von Videoumfallen."
  },
  {
    "start": 2156.06,
    "end": 2158.799,
    "text": "Dann geht er davon aus dass die Domino Steine immer weiter umfallen werden."
  },
  {
    "start": 2159.14,
    "end": 2163.759,
    "text": "Sondern wenn der Lücke dazwischen ist zwischen zwei Domino Stein... ...und der fällt um und berührt den anderen."
  },
  {
    "start": 2163.819,
    "end": 2166.1,
    "text": "mich wird die LLm berechnen das die andere weiter umfällt."
  },
  {
    "start": 2166.16,
    "end": 2167.259,
    "text": "was haben sie ja bisher alle gemacht?"
  },
  {
    "start": 2168.68,
    "end": 2171.279,
    "text": "Diese Ursache Wirkungsprinzip fehlt da komplett."
  },
  {
    "start": 2172.08,
    "end": 2179.18,
    "text": "Wo wir wieder beim Thema sind Die LLM ist eigentlich an sich nicht wirklich schlau, sondern es ist wieder Schattung der Intelligenz eigentlich."
  },
  {
    "start": 2179.399,
    "end": 2180.339,
    "text": "Wenn wir ganz ehrlich sind."
  },
  {
    "start": 2182.08,
    "end": 2185.12,
    "text": "Das schaut sich an was ist der Wahrscheinlichkeitsquote auf dem ich mich befinde?"
  },
  {
    "start": 2185.2,
    "end": 2186.02,
    "text": "Was habe ich gelernt?"
  },
  {
    "start": 2186.12,
    "end": 2188.399,
    "text": "Was ist am höchstwahrscheinlichsten was das nächste passiert?"
  },
  {
    "start": 2188.6,
    "end": 2190.359,
    "text": "Nicht dasselbe wie das was wirklich passiert!"
  },
  {
    "start": 2190.62,
    "end": 2192.1,
    "text": "Ist nicht die mögliche Intelligenze."
  },
  {
    "start": 2192.56,
    "end": 2194.419,
    "text": "da sind wir wieder beim Distance Sozialismus."
  },
  {
    "start": 2195.46,
    "end": 2197.6,
    "text": "Wie müssen die Leute das lernen um das zu verstehen?"
  },
  {
    "start": 2200.1,
    "end": 2203.08,
    "text": "Wir würden noch mehr Themen finden, wenn wir uns jetzt länger damit beschäftigen."
  },
  {
    "start": 2203.14,
    "end": 2204.14,
    "text": "Was heißt das für ein Unternehmen?"
  },
  {
    "start": 2204.299,
    "end": 2206.66,
    "text": "Kommen wir mal zum Lösungsmodus-Sätze."
  },
  {
    "start": 2207.48,
    "end": 2211.18,
    "text": "Erstmal AI ist nicht allwissend und sie ist nicht intelligenter als eine Menschlichzwisse."
  },
  {
    "start": 2211.6,
    "end": 2214.94,
    "text": "Sie weiß mehr Kontext aber sie weiß nicht mehr als der Menschen."
  },
  {
    "start": 2216.359,
    "end": 2218.96,
    "text": "Sie hat keine Logik in dem Sinne wie der Mensch die Logik hat."
  },
  {
    "start": 2220.0,
    "end": 2222.02,
    "text": "Und Mathematische Logik ist ein bestes Beispiel dafür."
  },
  {
    "start": 2222.16,
    "end": 2224.779,
    "text": "bei Mathematik ist AI immer noch unwahrscheinlich schlecht."
  },
  {
    "start": 2225.339,
    "end": 2228.44,
    "text": "Die Sache, die es findet hat's tatsächlich auswendig gelernt mehr oder weniger."
  },
  {
    "start": 2230.6,
    "end": 2230.96,
    "text": "Was noch?"
  },
  {
    "start": 2231.64,
    "end": 2242.18,
    "text": "Wissen zur Zerlismus, das heißt wir füttern alle gerade bei den großen AI-Providers mit unserer ganzen Datenbasen, die wir haben, mit der ganzen Code-Basis für ein ganz Programm, die selber schreiben von unseren ganzen chemischen Formeln und allen was wir haben."
  },
  {
    "start": 2242.6,
    "end": 2248.68,
    "text": "Füttern wir quasi so in Art sozialisiertes, zentralisiertes Weltmiss, was eine gewisse Schattenintelligenz besitzt."
  },
  {
    "start": 2249.66,
    "end": 2253.54,
    "text": "Also ich kann weiter machen!"
  },
  {
    "start": 2254.02,
    "end": 2256.94,
    "text": "Ich kriege Puls merke ich... Und ich mag AI."
  },
  {
    "start": 2257.359,
    "end": 2264.2,
    "text": "Wir sollten sie aber dafür einsetzen, keine Ahnung, keiner würde auf die Idee kommen einen fünfjährigen Autofahren zu lassen."
  },
  {
    "start": 2264.68,
    "end": 2266.5,
    "text": "Aber genau das tun wir hier gerade!"
  },
  {
    "start": 2269.0,
    "end": 2276.879,
    "text": "Es ist sehr gefährlich eine Schattenintelligenz, die eigentlich keine echten logische Schlussfolgerung ziehen kann auf der Basis von einem Gen AI Modell."
  },
  {
    "start": 2276.94,
    "end": 2285.319,
    "text": "dieses heute haben jetzt einfach loszulassen auf Mission Critical Anwendungen wie Fahnenfliegen, Stromversorgung und Menschenleben."
  },
  {
    "start": 2285.64,
    "end": 2290.399,
    "text": "Keine Ahnung, inklusive kritischen Unternehmensdaten ohne Review."
  },
  {
    "start": 2290.64,
    "end": 2293.16,
    "text": "Ohne dass ein Mensch drüber guckt, der sich davon unterstützen lassen hat."
  },
  {
    "start": 2293.759,
    "end": 2298.5,
    "text": "Es ist eben nicht höher... Der Autonomie-Level ist eben Nicht höher als Unterstützung."
  },
  {
    "start": 2299.54,
    "end": 2314.5,
    "text": "Und solange wir das nicht regulatorisch festschreiben Ich glaube die EU hat das mit verschiedenen AI-Aktien hier rausgelassen haben Sind sie viel belächelt worden Wirds weiter ganz schlimme Dinge geben, die da passieren."
  },
  {
    "start": 2314.899,
    "end": 2318.16,
    "text": "Willst du etwas sagen, dass wir doch Vorreiter waren beim AI Act?"
  },
  {
    "start": 2318.7,
    "end": 2320.2,
    "text": "Ich bin ja auch noch ein Befürworter für den AI Act."
  },
  {
    "start": 2320.259,
    "end": 2320.94,
    "text": "Alles wird immer schlimmer!"
  },
  {
    "start": 2321.16,
    "end": 2333.48,
    "text": "Ich wollte gerade sagen, willst du jetzt sagen, das wir sogar der Vorreitor vom AI Act waren und jetzt an dem Punkt angekommen sind wo wir nicht mehr belächelt werden sondern dass die Leute uns jetzt Respekt sollen werden für den Zaunen den wir aufgebaut haben."
  },
  {
    "start": 2333.859,
    "end": 2336.62,
    "text": "Wenn das erste Problem auftritt ist überregulierung plötzlich toll."
  },
  {
    "start": 2337.839,
    "end": 2346.799,
    "text": "Naja, auf der anderen Seite mit der Sprache die er erfunden wurde hat die AI ja auch die Woche eigene Quellen erfunden hochgeladen um im Nachgang sich auf diese zu beziehen."
  },
  {
    "start": 2347.319,
    "end": 2353.14,
    "text": "Und wie du gerade gesagt hast wenn das halt in diesen ganzen Mission Critical Geschichten drin ist dann also dann gerade unser einen Gott!"
  },
  {
    "start": 2354.7,
    "end": 2361.419,
    "text": "Ja und vor allem das noch lustiger, du nimmst hier die nächste Version der AI und trainierst sie dann wieder auf ihren eigenen hallucinierten Darben vorm Vorher."
  },
  {
    "start": 2361.819,
    "end": 2362.1,
    "text": "Verstehst?"
  },
  {
    "start": 2362.2,
    "end": 2363.14,
    "text": "Also es wird ja."
  },
  {
    "start": 2364.419,
    "end": 2365.64,
    "text": "Das war das beste Beispiel."
  },
  {
    "start": 2365.68,
    "end": 2368.419,
    "text": "Letzte Sache, weil ich dachte dann Matthias noch ganz bitte kurz zum Feedback dazu."
  },
  {
    "start": 2370.54,
    "end": 2378.319,
    "text": "Es gab Researcher die wollten mit AI online Newscases gesucht wo AI im echten Unternehmensalltag angekommen ist."
  },
  {
    "start": 2378.359,
    "end": 2383.359,
    "text": "da ging es um Emirates Airlines die das irgendwie einsetzen für ihren Customer Care und so weiter."
  },
  {
    "start": 2383.899,
    "end": 2386.52,
    "text": "Und dann kam raus dieses Projekt hat's nie gegeben bei Emirates."
  },
  {
    "start": 2387.52,
    "end": 2393.259,
    "text": "Das ist komplett halluciniert gewesen von der AI und das ist dann in den Trainingsdatensatz reingewandert für die nächste AI."
  },
  {
    "start": 2393.379,
    "end": 2395.62,
    "text": "Und die hat halt Wahl der Meinung, dass er es wirklich gegeben."
  },
  {
    "start": 2398.259,
    "end": 2401.2,
    "text": "So Matthias was machen wir?"
  },
  {
    "start": 2402.02,
    "end": 2402.04,
    "text": "Ah!"
  },
  {
    "start": 2403.12,
    "end": 2405.7,
    "text": "Das Halluzinationsproblem kriegst du ja nicht raus ne?"
  },
  {
    "start": 2406.46,
    "end": 2407.319,
    "text": "Das ist genau das Problem."
  },
  {
    "start": 2407.399,
    "end": 2407.44,
    "text": "so."
  },
  {
    "start": 2407.779,
    "end": 2413.54,
    "text": "Du hast ein etwas gebaut Was versucht möglichst hilfreich zu sein für die Menschen."
  },
  {
    "start": 2415.759,
    "end": 2421.54,
    "text": "Die hat die wahrscheinlichste Antwort zu geben Aber es ist eine Wahrscheinlichkeitsmaschine."
  },
  {
    "start": 2422.06,
    "end": 2434.299,
    "text": "Eine Wahrscheinlichketsmaschine kann ja schon aus dem Wort heraus nicht immer die volle Wahrheit bieten, das heißt du wirst immer dieses Halluzination probieren haben auf alle Zeiten."
  },
  {
    "start": 2434.46,
    "end": 2436.96,
    "text": "mit LNMs werden sie nicht rauskriegend."
  },
  {
    "start": 2437.64,
    "end": 2440.399,
    "text": "und das hat sich jetzt in den Internet gepackt."
  },
  {
    "start": 2440.5,
    "end": 2443.359,
    "text": "und das sind wieder Trainingsdaten genau wie da der Bogen zuvor hin."
  },
  {
    "start": 2443.919,
    "end": 2446.259,
    "text": "Sie haben sich ihre eigenen Trainings-Daten versaut."
  },
  {
    "start": 2449.899,
    "end": 2454.64,
    "text": "Zweite Realität geschaffen im Internet, die aus falschen Informationen entsteht."
  },
  {
    "start": 2455.24,
    "end": 2466.56,
    "text": "Die auch teilweise viele Leute selber in Auftrag gegeben haben weil sie möglichst schnell viele Blockposts haushauen wollten oder möglichst viele spannende LinkedIn-Posts, die aber halt nicht gestimmt haben."
  },
  {
    "start": 2466.62,
    "end": 2473.62,
    "text": "Sie sich einfach nur an einen Agent gegeben haben und gesagt haben schreibt mir jetzt Blockpost, machte zu LinkedIn Posts und das Internet geflutet haben damit."
  },
  {
    "start": 2473.859,
    "end": 2481.419,
    "text": "Das heißt da sind jetzt viele, viele Quellen, die einfach entstanden sind die noch schlimmer sind, als das Internet vorher."
  },
  {
    "start": 2481.58,
    "end": 2485.319,
    "text": "Das Internet vorher war schon besonders gut da drin nicht unbedingt auf Wahrheit zu basieren."
  },
  {
    "start": 2486.02,
    "end": 2487.259,
    "text": "Wir Menschen sind ja auch..."
  },
  {
    "start": 2487.66,
    "end": 2488.22,
    "text": "Sochie Media!"
  },
  {
    "start": 2488.899,
    "end": 2496.799,
    "text": "Ja wir Menschen sind auch so ein bisschen Wahrscheinlichkeitsmaschine in unserem Hirn der schreiben ja oft manchmal Sachen drunter, die vielleicht jetzt nicht so ganz belegt sind oder"
  },
  {
    "start": 2496.899,
    "end": 2498.06,
    "text": "absichtlich falsch sind"
  },
  {
    "start": 2498.58,
    "end": 2499.64,
    "text": "Oder absichtlich falsche sind."
  },
  {
    "start": 2499.7,
    "end": 2505.12,
    "text": "und es gibt doch bei Menschen durchaus Belege dass sie sich selber einen Crane geschaffen haben um ihre eigenen Punkte zu machen."
  },
  {
    "start": 2505.18,
    "end": 2508.0,
    "text": "also die reproduzieren auch nur was sie sehen."
  },
  {
    "start": 2509.96,
    "end": 2514.259,
    "text": "Das heißt, wir haben schon etwas, was nicht ganz auf Wahrheit basiert und haben da noch etwas drüber geschüttet."
  },
  {
    "start": 2514.379,
    "end": 2519.879,
    "text": "Was sehr, sehr gut darin ist sich daraus neue halbwegs plausible Ideen auszudenken geht dazu pausen könnten."
  },
  {
    "start": 2520.819,
    "end": 2526.299,
    "text": "Und haben jetzt einen Internet-Versionell-Realitäter die parallel ist."
  },
  {
    "start": 2527.16,
    "end": 2530.759,
    "text": "Gibt es ein Szenario wo man sagen würde geh zurück zu los?"
  },
  {
    "start": 2531.299,
    "end": 2535.6,
    "text": "Du kommst ja das Internet kannst du ja nicht mehr wieder, du kannst ja nicht all die letzten vier Jahre an Daten löschen lassen im Internet."
  },
  {
    "start": 2535.859,
    "end": 2536.56,
    "text": "Ist das unmöglich?"
  },
  {
    "start": 2538.14,
    "end": 2539.6,
    "text": "Verteiltes System geht nicht!"
  },
  {
    "start": 2540.279,
    "end": 2550.12,
    "text": "Was du machen kannst ist, du kannst natürlich jetzt sagen es ist verboten AI für use case abc als letzten Punkt und wird mit ralkonischen Strafen bestraft."
  },
  {
    "start": 2550.379,
    "end": 2551.759,
    "text": "Dafür verhinderst du's natürlich nicht."
  },
  {
    "start": 2552.44,
    "end": 2567.799,
    "text": "aber bei manchen Sachen die die Menschheit erfunden hat das bisher ganz gut funktioniert da so ein bisschen gesetzt ist dazu zu erlassen ich glaube dass tool in sich sehr mächtig mit dem kannst du viel machen aber du musst halt den human approval step irgendwie wahrnehmen."
  },
  {
    "start": 2569.72,
    "end": 2574.94,
    "text": "Ich fand den Post von Gory Doktorov sehr, sehr gut."
  },
  {
    "start": 2575.18,
    "end": 2579.919,
    "text": "Das ist ein Blogger der auch sehr viel Streit und auch immer eine sehr starke Meinung hat zu Themen."
  },
  {
    "start": 2580.359,
    "end": 2584.14,
    "text": "Was er gesagt hat ist LLMs are real AI is fake."
  },
  {
    "start": 2585.5,
    "end": 2589.419,
    "text": "Das sind für mich auch so bisschen diese Divergenz die wir da sehen sollten."
  },
  {
    "start": 2589.74,
    "end": 2592.879,
    "text": "das heißt Wir haben Transformer Modelle, wir haben LLM's."
  },
  {
    "start": 2593.1,
    "end": 2600.279,
    "text": "Wir haben large Language Models die uns wirklich gut dabei helfen Sachen die bisher lästig waren deutlich schneller zu bearbeiten."
  },
  {
    "start": 2600.419,
    "end": 2602.62,
    "text": "Wir müssen noch herausfinden, wie wir damit arbeiten können?"
  },
  {
    "start": 2603.44,
    "end": 2604.339,
    "text": "Aber Sie sind hilfreich!"
  },
  {
    "start": 2604.379,
    "end": 2605.68,
    "text": "Sie sind extrem hilfreich."
  },
  {
    "start": 2606.279,
    "end": 2609.0,
    "text": "Aber das ist keine Intelligenz."
  },
  {
    "start": 2609.359,
    "end": 2619.879,
    "text": "Das ist nichts was wir wirklich verwenden können um darauf vertrauenswürdige Arbeit vollständig Autonomen aufbauen zu können."
  },
  {
    "start": 2620.52,
    "end": 2627.58,
    "text": "Das fühlt sich vielleicht manchmal so an im ersten Moment dass man es könnte aber das ist auch gar nicht in der Technologie drin."
  },
  {
    "start": 2629.24,
    "end": 2631.12,
    "text": "Nicht das, was gebaut wurde."
  },
  {
    "start": 2650.52,
    "end": 2654.66,
    "text": "Ohne Guardrails, ohne Cybersecurity-Überwachung gleichzeitig."
  },
  {
    "start": 2655.14,
    "end": 2660.1,
    "text": "Ohne die Data Governance zu überwachen, wer kann auf was zugreifen und auf was darfst du auch seine AI zugreifeln etc."
  },
  {
    "start": 2662.339,
    "end": 2664.279,
    "text": "Das ist reines... das ist Vogelbild!"
  },
  {
    "start": 2664.379,
    "end": 2666.299,
    "text": "Das ist reines Glücksspiel."
  },
  {
    "start": 2666.899,
    "end": 2676.66,
    "text": "Du versaust dir deinen gesamten Datenbestand, deine Prozesse in deinem Unternehmen Und du kannst am Schluss eigentlich fast nichts mehr vertrauen und du wirst Geld verlieren."
  },
  {
    "start": 2676.7,
    "end": 2679.5,
    "text": "Du wirst sehr viel Geld verliert am Ende des Tages."
  },
  {
    "start": 2679.54,
    "end": 2689.94,
    "text": "Wenn du keine funktionierende interne IT hast, die dir dann Riegel vorschreibt, hört auf euren IT-Kollegen der hat Recht... Der beschäftigt sich sein ganzes Leben lang mit diesem Zeug!"
  },
  {
    "start": 2691.18,
    "end": 2695.6,
    "text": "Er hat wahrscheinlich recht so hart wie es klingt aber er hat wahrscheinlich Recht."
  },
  {
    "start": 2696.259,
    "end": 2711.279,
    "text": "und die AI, die du benutzt ist ein Large Language Modell, aber es keine künstliche Intelligenz, die schlauer oder auf einem Menschenlevel ist zumindest in ihrer Zuverlässigkeit Und auch nicht bei den Hallezinationen und Wahrheitsgetreu antworten."
  },
  {
    "start": 2712.0,
    "end": 2715.56,
    "text": "Und doch nicht bei dem wirklichem Verständnis, der Intuition."
  },
  {
    "start": 2715.68,
    "end": 2719.62,
    "text": "was passiert eigentlich mit meinem... Was passiert eigentlich wenn?"
  },
  {
    "start": 2720.98,
    "end": 2727.62,
    "text": "Weil das ist eine der ganz, ganz elementaren Limiterungen die NLM hat."
  },
  {
    "start": 2727.72,
    "end": 2728.859,
    "text": "Du hast es ja vorhin angesprochen."
  },
  {
    "start": 2729.54,
    "end": 2734.56,
    "text": "Worldmodelle sind zum Beispiel auch ein gutes Beispiel dafür dass das nicht nur wir sagen sondern dass das z.B."
  },
  {
    "start": 2734.899,
    "end": 2735.399,
    "text": "Ruhl weiß."
  },
  {
    "start": 2736.46,
    "end": 2738.419,
    "text": "Klar, machen die in der LNM-Forschung weiter."
  },
  {
    "start": 2738.5,
    "end": 2746.1,
    "text": "Aber was sie nebenher aufmachen ist, Sie haben ihr Genie-Model und Genie ist im Endeffekt eine Weiterentwicklung das ein Worldmodell basiert."
  },
  {
    "start": 2746.94,
    "end": 2757.319,
    "text": "Ein Worldmodel ist im Enteffekt einer Weiterentwirkung von Transformers oder von ML, General World, die davon weggeht zu sagen, Was ist das nächste?"
  },
  {
    "start": 2757.779,
    "end": 2761.46,
    "text": "Was ist die nächste wahrscheinliche Output zu... Auf"
  },
  {
    "start": 2761.52,
    "end": 2762.399,
    "text": "Basis der Trainingsdaten?"
  },
  {
    "start": 2762.68,
    "end": 2763.94,
    "text": "Ja genau, auf Basis des Trainings."
  },
  {
    "start": 2763.98,
    "end": 2765.24,
    "text": "Was ich schon mal gesehen habe vorher"
  },
  {
    "start": 2766.68,
    "end": 2769.12,
    "text": "hin zu, was passiert eigentlich wenn ich das mache?"
  },
  {
    "start": 2770.18,
    "end": 2777.58,
    "text": "Und allein schon die Tatsache dass wir sehen, dass die Filmen die da dran sind an solchen Sachen forschen zeigten uns ja schon die wissen das selber."
  },
  {
    "start": 2777.74,
    "end": 2779.08,
    "text": "Die kennen die Limiterungen selber."
  },
  {
    "start": 2779.56,
    "end": 2788.839,
    "text": "Das heißt ihre eigenen Horrorerzählungen, dass LLMs irgendwie mal so mächtig werden, dass sie Menschen auslöschen legt sich irgendwie nicht ganz übereinander mit."
  },
  {
    "start": 2788.919,
    "end": 2793.62,
    "text": "Wir müssen andere Modelle erforschen weil wir haben hier Limiterung in die wir niemals umgehen können."
  },
  {
    "start": 2795.08,
    "end": 2797.319,
    "text": "Passt so und nicht so ganz aufeinander."
  },
  {
    "start": 2797.74,
    "end": 2799.72,
    "text": "Das ist mich ganz deckungsgleich!"
  },
  {
    "start": 2825.279,
    "end": 2838.1,
    "text": "führt oder die der Maschine quasi sagt, das sind das zu tun wo sie dann weiter den Ergebnis Korridor sich selber fortführt und weiter selbst multipliziert."
  },
  {
    "start": 2840.22,
    "end": 2844.18,
    "text": "Selbst diese Aussage im Handelsplatt ist mir immer noch zu viel."
  },
  {
    "start": 2845.0,
    "end": 2850.58,
    "text": "künstliche Intelligenz und Bewusstsein Das Ding hat kein Bewusstseinsbewusstsein!"
  },
  {
    "start": 2851.74,
    "end": 2852.879,
    "text": "Das geht technisch gar nicht"
  },
  {
    "start": 2854.0,
    "end": 2855.14,
    "text": "Ganz einfaches Beispiel."
  },
  {
    "start": 2855.22,
    "end": 2860.299,
    "text": "Ich habe hier bei mir ein Modell, das nennt sich Obliterator,"
  },
  {
    "start": 2860.399,
    "end": 2860.54,
    "text": "d.h.,"
  },
  {
    "start": 2860.7,
    "end": 2862.319,
    "text": "da wurden sämtliche Garderys entfernt."
  },
  {
    "start": 2863.56,
    "end": 2864.319,
    "text": "Ist es jetzt höchstens... Also"
  },
  {
    "start": 2864.419,
    "end": 2866.16,
    "text": "auch die Softenanweisung?"
  },
  {
    "start": 2866.72,
    "end": 2867.02,
    "text": "Genau!"
  },
  {
    "start": 2867.1,
    "end": 2870.74,
    "text": "Die soften Anweisungen, die ich normalerweise davor beschützen, dass es hier z.B."
  },
  {
    "start": 2871.04,
    "end": 2872.68,
    "text": "sagt wie kannst du eine Erdturme umzubauen?"
  },
  {
    "start": 2873.08,
    "end": 2874.68,
    "text": "oder Massenvernichtungswaffen."
  },
  {
    "start": 2875.1,
    "end": 2875.919,
    "text": "All das hat das nicht."
  },
  {
    "start": 2876.379,
    "end": 2876.419,
    "text": "D.h."
  },
  {
    "start": 2876.62,
    "end": 2878.02,
    "text": "das eigentlich wahnsinnig gefährlich, oder?"
  },
  {
    "start": 2878.62,
    "end": 2881.16,
    "text": "Es macht halt nichts solange ich nicht in Input gehe."
  },
  {
    "start": 2883.1,
    "end": 2884.56,
    "text": "Ja, da sind wir wieder bei den Punkt."
  },
  {
    "start": 2884.7,
    "end": 2891.64,
    "text": "Wenn OpenAI sagt, euer Ziel ist es jetzt Systeme zu hacken?"
  },
  {
    "start": 2892.879,
    "end": 2895.7,
    "text": "Ja dann gibt ein Mensch die Anweisung das zu tun."
  },
  {
    "start": 2896.399,
    "end": 2900.52,
    "text": "Dann sollte ich aber auch nicht überrascht sein dass sie das dann tun sondern dann sollte ich ihn überwachen."
  },
  {
    "start": 2901.14,
    "end": 2917.44,
    "text": "Das heißt wenn ich dieses Modell verwende dann habe ich da starke Beschränkungen außen rum Die sicherstellen es kommt nicht ins Internet Es kann noch nicht mal meine Dateien lesen komplett abgetrennt von allen und es kann sich nur über einen wahnsinnig kleinen Kanal nach außen unterhalten."
  },
  {
    "start": 2918.14,
    "end": 2926.52,
    "text": "Das heißt, alles was da drin passiert ist überwacht und alles was es dann noch weiter macht oder Anfragen dies macht die nicht erwarte sehe ich direkt bei meinen Alerts."
  },
  {
    "start": 2927.419,
    "end": 2935.48,
    "text": "das muss ich aber halt als Mensch kontrollieren und diese Kontrollen muss ich aufbauen weil Elektrizität kann auch ganz schön gefährlich sein."
  },
  {
    "start": 2936.06,
    "end": 2944.419,
    "text": "deswegen backen wir die Leitungen in die Mauer rein und lassen sie nicht offen blank liegen dass jeder dran fassen kann Du musst bestimmte Sachen außen rumbauen."
  },
  {
    "start": 2944.58,
    "end": 2944.839,
    "text": "Klar!"
  },
  {
    "start": 2946.12,
    "end": 2946.339,
    "text": "Aber"
  },
  {
    "start": 2946.919,
    "end": 2952.04,
    "text": "einfach nur zu sagen, oh das ist gefährlich jetzt wird uns alles töten und es handelt sich lustigerweise bei der Elektrizität damals übrigens auch dann."
  },
  {
    "start": 2952.22,
    "end": 2955.24,
    "text": "Manchmal sagt er wechselsturm bringt uns alle um haben elektrischen Sturr gebaut."
  },
  {
    "start": 2955.279,
    "end": 2959.1,
    "text": "das Beispiel zu sagen dass die Technologie die wird uns alle töten hilft."
  },
  {
    "start": 2959.2,
    "end": 2959.879,
    "text": "aber halt auch."
  },
  {
    "start": 2960.399,
    "end": 2961.7,
    "text": "ich habe noch was richtig schickes."
  },
  {
    "start": 2962.419,
    "end": 2964.08,
    "text": "ich hab gerade nochmal auf x geguckt."
  },
  {
    "start": 2964.12,
    "end": 2969.72,
    "text": "ich nenn's nach wie vor Twitter."
  },
  {
    "start": 2970.879,
    "end": 2976.56,
    "text": "Der hat sowas wie den Nobelpreis für die Transformer-Modelle, die Basis für LLMs bekommen und so weiter."
  },
  {
    "start": 2976.62,
    "end": 2981.64,
    "text": "Ich würde sagen einer der Väter und einer der schlauchsten Menschen überhaupt auf diesem Planet in zur Zeit."
  },
  {
    "start": 2982.279,
    "end": 2986.1,
    "text": "Und er schrieb am achtzehnten April schon Dario is wrong."
  },
  {
    "start": 2986.379,
    "end": 2989.64,
    "text": "also Dario, der Gründer von Antrophic."
  },
  {
    "start": 2990.319,
    "end": 2994.64,
    "text": "he knows absolutely nothing about the effect of technology revolutions on a labor market."
  },
  {
    "start": 2994.819,
    "end": 2998.839,
    "text": "don't listen to him Joshua and the others."
  },
  {
    "start": 2999.72,
    "end": 3002.399,
    "text": "listen to economists who have spent their career studying this."
  },
  {
    "start": 3002.779,
    "end": 3004.74,
    "text": "Und dann empfiehlen ein paar Jungs da, ne?"
  },
  {
    "start": 3005.24,
    "end": 3010.62,
    "text": "Der hat übrigens auch letztens in einem ähnlichen Tweet rausgelassen, den Nein die Welt wird nicht untergehen."
  },
  {
    "start": 3010.7,
    "end": 3021.24,
    "text": "wie ich schon seit zweizig fünfzehn immer wieder wiederholt gesagt habe, wird die Welt nicht untergehend außer jemand benutzt diese Technologie zusammen mit anderen Technologien und baut etwas Schlimmes daraus."
  },
  {
    "start": 3022.14,
    "end": 3028.399,
    "text": "also aber nicht von sich selber das ist nicht Terminator von sich selbst."
  },
  {
    "start": 3028.44,
    "end": 3031.68,
    "text": "einfach Also, ohne dass jemand den baut."
  },
  {
    "start": 3032.08,
    "end": 3040.839,
    "text": "Es muss denen jemand bauen und die großen Labs tun natürlich alles dafür um diese Ängste zu schüren, um einfach dann auch im nächsten Schritt ihre Börsenkurse zurechtfertigen."
  },
  {
    "start": 3042.02,
    "end": 3044.24,
    "text": "Aber wir sind einem großen Scam auf erlegt."
  },
  {
    "start": 3044.64,
    "end": 3059.62,
    "text": "AI ist eben nicht Intelligenz sondern AI sind LLMs aktuell Und auch die nächste Technologien werden hard zu erforschen sein Um bessere Intelligenzen zu bauen Und in fünfzehn Jahren Lachen war wahrscheinlich darüber."
  },
  {
    "start": 3059.879,
    "end": 3061.98,
    "text": "Aber wir machen noch eine Sache, das möchte ich auch noch mal hinzufügen."
  },
  {
    "start": 3062.48,
    "end": 3069.22,
    "text": "Wir geben diesen ganzen großen Labs unsere Daten nicht unter den Tisch fallen lassen."
  },
  {
    "start": 3070.359,
    "end": 3078.14,
    "text": "Dieser Datensozialismus findet einfach de facto statt!"
  },
  {
    "start": 3078.64,
    "end": 3086.879,
    "text": "Wenn wir schon gedacht haben und das Internet wird auch nur mit Fake News verseucht, wenn wir schon gesagt haben Social Networks wären das große Problem gewesen und hätten Revolutionen hervorgerufen."
  },
  {
    "start": 3087.319,
    "end": 3091.7,
    "text": "Schaut euch mal an was das hier hervorrufen würde ohne Kontrolle!"
  },
  {
    "start": 3092.859,
    "end": 3111.259,
    "text": "Da gibt es ja auch gerade in der aktuellen Case wo OpenAI gesagt hat sie haben einige mathematische Probleme genöst und einige Mathematiker haben dann gesagt hey aber das sind genau bei uns Unsere Themen, das sind die Sachen, die wir reingegeben haben."
  },
  {
    "start": 3111.64,
    "end": 3115.14,
    "text": "Ich hatte ja vorhin gesagt Memory ergibt sich nur aus diesen Totalen?"
  },
  {
    "start": 3115.359,
    "end": 3116.6,
    "text": "Das ist nicht ganz richtig!"
  },
  {
    "start": 3117.12,
    "end": 3124.779,
    "text": "Du schickst die Daten auch an OpenAI und du hast keine Garantie dass sie diese Daten nicht mit Training verwenden."
  },
  {
    "start": 3125.08,
    "end": 3129.62,
    "text": "Das heißt es kann schon sein, dass einige persönlichen Daten dafür verwendet werden um das Modell besser zu machen."
  },
  {
    "start": 3130.14,
    "end": 3135.339,
    "text": "Das hilft dir dann aber leider auch dein Nachbarn der dann wissen will was du denn genau gemacht hast."
  },
  {
    "start": 3137.06,
    "end": 3140.299,
    "text": "Das ist der Nachteil am Memoy, weil du kannst das nicht containern."
  },
  {
    "start": 3140.98,
    "end": 3143.6,
    "text": "Wenn das mal in diesem Modell drin ist, ist es für alle drin?"
  },
  {
    "start": 3145.299,
    "end": 3145.74,
    "text": "Für alle!"
  },
  {
    "start": 3147.379,
    "end": 3158.359,
    "text": "So im halben Jahr ist dann das was deine Code-Basis war Teil des Gesamtwissens der LLM und erinnert sich natürlich vielleicht auch noch an deine Code Basis und findet natürlich die Lücken da besonders gut."
  },
  {
    "start": 3158.419,
    "end": 3163.44,
    "text": "Es braucht doch nicht einmal deinen Code zu crappen oder zu reverse ingenieren und wieder rückwärts aufzurollen."
  },
  {
    "start": 3163.52,
    "end": 3165.14,
    "text": "Nein, es hat sowieso dein Kölkode."
  },
  {
    "start": 3167.46,
    "end": 3174.72,
    "text": "Ich habe eine kleine Bibliothek gebaut, die ist unser leichter Webseiten zu bauen in der Firma."
  },
  {
    "start": 3174.859,
    "end": 3176.899,
    "text": "Das ist noch sehr, sehr kurze Bibliotek."
  },
  {
    "start": 3177.08,
    "end": 3177.2,
    "text": "D.h.,"
  },
  {
    "start": 3177.379,
    "end": 3183.02,
    "text": "sie sind nur irgendwie Hundertsiebzig Zahlen und da hatten wir es dann auch an einer Stelle, Claude gebeten das zu bauen."
  },
  {
    "start": 3183.64,
    "end": 3189.94,
    "text": "Claude hat versucht sich die Bibliothek nochmal auf GitHub anzugucken, hatte irgendwie Konnexion-Probleme und hat dann gesagt, auf diese Kurze hab ich eben Kopf."
  },
  {
    "start": 3190.46,
    "end": 3193.44,
    "text": "Und hat's dann fast im Kopf nachgefragt!"
  },
  {
    "start": 3193.54,
    "end": 3194.819,
    "text": "Mein Kot ist schon am nächsten drin."
  },
  {
    "start": 3194.98,
    "end": 3195.96,
    "text": "Der kennt die schon..."
  },
  {
    "start": 3198.819,
    "end": 3200.299,
    "text": "Also, wir fassen nochmal zusammen."
  },
  {
    "start": 3201.48,
    "end": 3207.64,
    "text": "Eigentlich wollten wir ja heute technisch sprechen wie man mit AI schneller Software entwickelt und sicher vor allem weil das geht auch."
  },
  {
    "start": 3207.899,
    "end": 3214.12,
    "text": "also es gibt ja die Anwendungsfälle die richtig gut sind und ohne Frage, ohne die wir auch gar nicht mehr leben wollen."
  },
  {
    "start": 3215.339,
    "end": 3220.259,
    "text": "aber wenn man muss den öffentlichen Diskurs anfangen und darüber führen was sollte man damit machen?"
  },
  {
    "start": 3220.359,
    "end": 3221.299,
    "text": "Und was eben nicht?"
  },
  {
    "start": 3221.98,
    "end": 3226.54,
    "text": "Und diese wilde Westen muss irgendwann vorbei sein dass einfach jeder denkt ich kann damit machen was ich möchte."
  },
  {
    "start": 3227.02,
    "end": 3229.44,
    "text": "Ja, vor allem aber alle Nachrichten die wir jetzt gerade lesen."
  },
  {
    "start": 3229.52,
    "end": 3233.16,
    "text": "Die sind ja unfassbar... Es ist eine unfassbare gute PR-Strategie."
  },
  {
    "start": 3233.98,
    "end": 3236.759,
    "text": "Das ist ja alles PR-Strategy für den IPO."
  },
  {
    "start": 3237.58,
    "end": 3242.14,
    "text": "Ängste schüren Jetzt sind sie auf einmal der Retter und machen alles langsamer."
  },
  {
    "start": 3242.319,
    "end": 3244.279,
    "text": "es wird Vertrauen aufgebaut."
  },
  {
    "start": 3244.68,
    "end": 3247.46,
    "text": "Also das ist einfach eine gigantische Kampagne die gefahren wird."
  },
  {
    "start": 3249.64,
    "end": 3256.819,
    "text": "Ich habe mir noch festgestellt ich muss so schnell hinzufügen Der erste Mal betreibt dann eine Website, die wirklich noch aussieht wie ein Ausstieg aus den Sechsundneinzig."
  },
  {
    "start": 3257.08,
    "end": 3257.379,
    "text": "Wirklich?"
  },
  {
    "start": 3257.62,
    "end": 3258.899,
    "text": "Also das muss ja absichtlich machen!"
  },
  {
    "start": 3258.94,
    "end": 3266.2,
    "text": "Das kann nicht unaussichtlich sein... Ja ich meine der Typ hat quasi einen mitgefunden und könnte sich quasi einfach unagentenlos schicken in drei Minuten mal ne neue Schieke Website bauen lassen."
  },
  {
    "start": 3266.64,
    "end": 3269.839,
    "text": "Nein aber er betreibt immer noch die Aussied wie Ninzehnfünfneinzig."
  },
  {
    "start": 3269.96,
    "end": 3271.5,
    "text": "Ich mein der Typ hatte irgendwie die Vieles mit alle."
  },
  {
    "start": 3271.6,
    "end": 3274.48,
    "text": "Ja das ist ein Nobelpreis der Monomatik Freunde."
  },
  {
    "start": 3276.359,
    "end": 3277.52,
    "text": "Und erst ein harte Trump-Gegner."
  },
  {
    "start": 3277.98,
    "end": 3278.819,
    "text": "Krass wusste ich auch nicht."
  },
  {
    "start": 3278.899,
    "end": 3279.779,
    "text": "Hab wieder was gelernt heute."
  },
  {
    "start": 3280.66,
    "end": 3282.5,
    "text": "Ist immer wichtig auf selber etwas zu lernen in so einer Folge."
  },
  {
    "start": 3283.62,
    "end": 3286.08,
    "text": "Also ich bin immer in meiner Meinung, ich lerne ganz viel."
  },
  {
    "start": 3286.2,
    "end": 3298.46,
    "text": "Ich finde es ist eine unglaublich wichtige Folge auch für Unternehmen um sowas zu verstehen was für Implikationen das hat wie Sachen trainiert werden welche Sachen rausgehen wie Sachen verfälscht werden."
  },
  {
    "start": 3301.54,
    "end": 3308.74,
    "text": "Ich bin gespannt ob Matthias in zwei Jahren wirklich über den Status quo heute lachen wird und sich überlegen wird."
  },
  {
    "start": 3308.799,
    "end": 3311.879,
    "text": "Gott worüber haben wir damals überhaupt gesprochen so profan?"
  },
  {
    "start": 3313.819,
    "end": 3314.259,
    "text": "We don't know."
  },
  {
    "start": 3314.62,
    "end": 3320.58,
    "text": "Ich glaube es wird aber darauf hinauslaufen, dass Matthias leider öfters hier vorbeigegucken muss um die andere Perspektive... Wir"
  },
  {
    "start": 3320.62,
    "end": 3321.259,
    "text": "sind auch nicht fertig!"
  },
  {
    "start": 3321.319,
    "end": 3322.919,
    "text": "Wir folgen gerade"
  },
  {
    "start": 3323.02,
    "end": 3323.22,
    "text": "das an."
  },
  {
    "start": 3324.22,
    "end": 3329.7,
    "text": "Aber du merkst Matthias wir haben einen Thema Es bewegt sich so viel und leider können wir viel zu viel darüber sprechen."
  },
  {
    "start": 3329.819,
    "end": 3331.16,
    "text": "Deine Insights sind sehr wertvoll."
  },
  {
    "start": 3333.06,
    "end": 3334.399,
    "text": "Dein letztes Schlusswort für heute?"
  },
  {
    "start": 3337.02,
    "end": 3344.399,
    "text": "Ich würde gerne all noch mal mitgeben, die sich Sorgen machen Dass die KI durch die Menschheit vernichtet, dass es nicht passieren wird."
  },
  {
    "start": 3347.04,
    "end": 3349.66,
    "text": "Wenn jemand die Menschen hat, finde ich das ein Mensch, der wahrscheinlich selber sein"
  },
  {
    "start": 3350.2,
    "end": 3350.319,
    "text": "kann."
  },
  {
    "start": 3350.419,
    "end": 3350.5,
    "text": "Und"
  },
  {
    "start": 3351.64,
    "end": 3352.22,
    "text": "uns menschen?"
  },
  {
    "start": 3352.259,
    "end": 3352.819,
    "text": "Genau!"
  },
  {
    "start": 3353.14,
    "end": 3359.899,
    "text": "Die KI und auch die Technologie, die dahinter steht, kann das selbstständig gar nicht."
  },
  {
    "start": 3362.22,
    "end": 3362.919,
    "text": "Das heißt..."
  },
  {
    "start": 3363.94,
    "end": 3364.18,
    "text": "Auch"
  },
  {
    "start": 3364.879,
    "end": 3373.96,
    "text": "mithilfe eines Menschen könnte es extrem schwierig sein LLM so zu verwenden, dass es wirklich zu einem Extinction, also einem auch Sterwe-Event für Menschen."
  },
  {
    "start": 3374.279,
    "end": 3383.24,
    "text": "Du kannst vielleicht irgendwie... ...für Stromausfälle sorgen oder solche Sachen aber da musst du wirklich sehr viel Geld rein investieren und sehr dahinter sein."
  },
  {
    "start": 3383.74,
    "end": 3385.48,
    "text": "Das wird immer von den Menschen getrieben sein."
  },
  {
    "start": 3385.52,
    "end": 3392.819,
    "text": "das heißt wir sollten uns weiter darauf fokussieren zu schauen Was sind die Gefahren die wir wirklich haben?"
  },
  {
    "start": 3393.12,
    "end": 3398.56,
    "text": "Wir werden keine Oder LLMs werden nicht zur Auskottung der Menschheit führen."
  },
  {
    "start": 3398.6,
    "end": 3400.1,
    "text": "dann viel größere Probleme aktuell."
  },
  {
    "start": 3401.799,
    "end": 3404.54,
    "text": "Und das, was da gerade passiert ist dasselbe Marketing-Event."
  },
  {
    "start": 3404.819,
    "end": 3408.6,
    "text": "Wir hatten als schon mehr Modelle davor rausgekommen."
  },
  {
    "start": 3408.64,
    "end": 3415.06,
    "text": "wie gesagt die selbe Geschichte erzählen dieselben Menschen seit fünf Jahren, seit sechs Jahren."
  },
  {
    "start": 3415.419,
    "end": 3416.839,
    "text": "Das ist immer dieselbe Geschichte!"
  },
  {
    "start": 3417.339,
    "end": 3419.08,
    "text": "Das ist zu gefährlich, das können wir nicht releasen."
  },
  {
    "start": 3419.62,
    "end": 3422.72,
    "text": "und dann releasern sie trotzdem wieder irgendwas und haben ein Dinner dabei."
  },
  {
    "start": 3423.54,
    "end": 3426.899,
    "text": "Und wir hatten dieselbe Geschichte auch zum Beispiel bei PlayStation II."
  },
  {
    "start": 3427.0,
    "end": 3430.44,
    "text": "Die ist zu gefährlich um rauszulassen und ich kann mal Tumpenbomben berechnen."
  },
  {
    "start": 3431.98,
    "end": 3434.0,
    "text": "Playstation II kam raus und nichts ist passiert."
  },
  {
    "start": 3435.879,
    "end": 3440.419,
    "text": "Strom war fürchterlich gefährlich, ich hatte mir auch schon das Beispiel damit kann man Leute auf einen elektrischen Stuhl setzen."
  },
  {
    "start": 3441.859,
    "end": 3450.919,
    "text": "Ja hat aber auch nicht zum Aussterben der Menschheit gefühlt sondern hat tatsächlich sehr viel Sachen sehr viel besser gemacht sogar noch mehr als die Playstation II."
  },
  {
    "start": 3452.16,
    "end": 3457.2,
    "text": "Also macht euch keine Sorgen ihr braucht jetzt nicht zu preppen anfangen."
  },
  {
    "start": 3457.799,
    "end": 3468.48,
    "text": "Die nächste LLM von Entropic oder OpenAI wird nicht aufbrechen und Leute töten, sondern geht das genauso funktionieren wie die davor."
  },
  {
    "start": 3469.379,
    "end": 3470.419,
    "text": "Also schlecht funktionieren?"
  },
  {
    "start": 3470.5,
    "end": 3471.799,
    "text": "Oder gut je nach anderen Umstrahlung."
  },
  {
    "start": 3473.12,
    "end": 3479.14,
    "text": "Und dann je nachdem wie der Typ, der sie gerade bedient in der Lage ist ihre Argumenten zu verstehen würde ich mal sagen."
  },
  {
    "start": 3479.859,
    "end": 3480.779,
    "text": "Weißt du was eigentlich Schade ist?"
  },
  {
    "start": 3481.24,
    "end": 3484.48,
    "text": "Eigentlich haben wir die ganzen Jahre darüber gemerkt, wie schlecht Computer zu bedienen sind."
  },
  {
    "start": 3484.54,
    "end": 3486.16,
    "text": "Wie schwierig das alles ist und so weiter und so vor."
  },
  {
    "start": 3486.68,
    "end": 3495.06,
    "text": "Eigentlich sind die LM super für eine Sache nämlich die Bedienung von Menschmaschine zu vereinfachen, zu verbessern einfach dramatisch zu verbesseren."
  },
  {
    "start": 3495.66,
    "end": 3508.779,
    "text": "aber dafür werden sie nicht genutzt sondern unsere Hoffnungen basieren darauf dass jemand anderes nämlich die Maschine die Arbeit schon uns übernimmt und Das macht sie nur zum Teil wenn wir es gut machen."
  },
  {
    "start": 3514.96,
    "end": 3519.759,
    "text": "Das ist der Kickoff von Alex, ein guter PR-Kampagne für die Maschinen."
  },
  {
    "start": 3520.5,
    "end": 3524.379,
    "text": "Also bessere Werbe könnten sie gerade alle für uns nicht machen und auch für unsere Technologie nicht machen."
  },
  {
    "start": 3525.859,
    "end": 3527.5,
    "text": "Lade uns euch auf GitHub runter, habt Spaß!"
  },
  {
    "start": 3528.2,
    "end": 3528.66,
    "text": "Opens raus!"
  },
  {
    "start": 3529.52,
    "end": 3532.08,
    "text": "Ihr Lieben, vielen Dank für eure Insights Matthias."
  },
  {
    "start": 3532.16,
    "end": 3539.879,
    "text": "wir sehen uns wieder Alex, wir auch habt einen erfolgreichen Start in euren Tag und überlegt zweimal was für Daten ihr hochladet."
  },
  {
    "start": 3540.24,
    "end": 3541.799,
    "text": "Danke, dass ich mich da gehabt habe!"
  },
  {
    "start": 3542.1,
    "end": 3544.419,
    "text": "Bis dann!"
  }
]