[
  {
    "start": 6.14,
    "end": 12.11,
    "text": "Bei einem Sicherheitstest des US-Konzerns OpenAI hat sich ein KI-Modell verselbstständigt."
  },
  {
    "start": 12.69,
    "end": 22.39,
    "text": "Es hat sich dann bei einem anderen Unternehmen eingeheckt und da auf interne Daten zugegriffen, und da habe ich mich gefragt – Gerät künstliche Intelligenz jetzt außer Kontrolle?"
  },
  {
    "start": 23.57,
    "end": 31.43,
    "text": "Was da genau passiert ist und ob wir uns vor Künstlicher Intelligenzen fürchten müssen, darüber spreche ich heute mit dem SZ-Experten für KI und Cybersicherheit Max Mut."
  },
  {
    "start": 32.43,
    "end": 34.39,
    "text": "Sie hören den SZ Nachrichten Podcast auf den Punkt."
  },
  {
    "start": 34.83,
    "end": 35.489,
    "text": "Ich bin Philipp Saul."
  },
  {
    "start": 42.61,
    "end": 53.19,
    "text": "Es ist eine Vorstellung über die schon Bücher geschrieben und Filme gedreht worden sind, der Mensch erschafft eine Maschine, die Maschine wird selbstständig und dann übernimmt diese Maschine die Weltherrschaft."
  },
  {
    "start": 54.089,
    "end": 56.83,
    "text": "Ich kann sich schon mal beruhigen ganz soweit es jetzt noch nicht."
  },
  {
    "start": 56.93,
    "end": 60.91,
    "text": "aber bei den jüngsten KI-Nachrichten da musste ich schon ein kleines bisschen an sowas denken."
  },
  {
    "start": 61.91,
    "end": 69.17,
    "text": "das US Unternehmen OpenAI hat nämlich einen Sicherheitstest mit einer künstlichen Intelligenz gemacht und er ist etwas anders abgelaufen als geplant."
  },
  {
    "start": 69.95,
    "end": 74.47,
    "text": "Das KI-Modell hat sich nämlich selbstständig gemacht und eine Plattform für machinettes Lernen angegriffen."
  },
  {
    "start": 75.01,
    "end": 78.99,
    "text": "Hackingface heißt die, schon länger haben Experten genau vor so etwas gewarnt."
  },
  {
    "start": 79.69,
    "end": 85.95,
    "text": "Und vielleicht geht es ihnen ja auch so – ich selbst finde die Vorstellung das künstliche Intelligenzauserkontrollegerät ziemlich erschreckend!"
  },
  {
    "start": 86.79,
    "end": 102.57,
    "text": "Und auch in den USA sprechen Experten und Politiker jetzt davon dass der Angriff extrem alarmierend mit diesem Vorfall eine Schwelle überschritten sei… Was dabei Open AI passiert ist und wie berechtigt diese Sorge vor einer zu mächtigen KI, das erklärt mir jetzt mein Kollege und Cyber-Experte Max Mut."
  },
  {
    "start": 103.49,
    "end": 107.29,
    "text": "Max du hast vor unserem Gespräch schon einen Artikel über unser KI Thema geschrieben."
  },
  {
    "start": 107.69,
    "end": 110.09,
    "text": "da benutzt Du einen schönen Vergleich die Terminator Filme."
  },
  {
    "start": 110.71,
    "end": 111.87,
    "text": "Warum ist es für Dich so passend?"
  },
  {
    "start": 112.67,
    "end": 112.71,
    "text": "Oh!"
  },
  {
    "start": 112.77,
    "end": 115.07,
    "text": "Das könnte jetzt ein Gespräch mit vielen Einschränkungen werden."
  },
  {
    "start": 115.63,
    "end": 121.91,
    "text": "Den Terminator vergleich den habe ich gewählt weil der Terminator an was anknüpft dass in der Pop Kultur verankert ist."
  },
  {
    "start": 122.09,
    "end": 126.65,
    "text": "also Jeder kann sich etwas darunter vorstellen, aber ich habe ja selber geschrieben das es nicht ganz passt."
  },
  {
    "start": 127.43,
    "end": 135.929,
    "text": "OpenAI sagt dass sich zwei Agenten von denen ein Modell unveröffentlich war selbstständig gemacht haben und eine Firma gehackt haben."
  },
  {
    "start": 136.75,
    "end": 144.209,
    "text": "Aber OpenAI will demnächst an die Börse gehen Und hat natürlich ein großes Interesse dran, dass ihre KI total mächtig wirkt."
  },
  {
    "start": 144.769,
    "end": 154.67,
    "text": "Und Sam Altman der Gründer und Chef von OpenAI hat auch schon viel Quatsch erzählt in seinem Leben Extrem wenig Ahnung von Cyber-Sicherheit."
  },
  {
    "start": 155.41,
    "end": 160.269,
    "text": "Und wir wissen extrem wenig darüber, was die KI genau gemacht haben soll welche Lücken sie genutzt haben soll."
  },
  {
    "start": 160.69,
    "end": 166.13,
    "text": "Wir müssen uns also darauf verlassen, was zwei möglicherweise unzuverlässigte Beteiligten erzählen."
  },
  {
    "start": 166.85,
    "end": 168.31,
    "text": "Aber wir können natürlich gerne so beraten."
  },
  {
    "start": 168.769,
    "end": 169.47,
    "text": "Das machen wir jetzt auch."
  },
  {
    "start": 169.95,
    "end": 170.91,
    "text": "fangen wir doch mal ganz vorne an."
  },
  {
    "start": 171.03,
    "end": 173.769,
    "text": "Was wollte OpenAI mit seinen KI Modellen denn genau testen?"
  },
  {
    "start": 174.429,
    "end": 179.769,
    "text": "OpenAI wollte rausfinden wie gut zwei seiner KI Modelle im Hacken sind."
  },
  {
    "start": 180.07,
    "end": 187.47,
    "text": "Da geht es darum, wie gut KIs vorhandene Sicherheitslücken nutzen können und der Versuchteaufbau war jetzt so."
  },
  {
    "start": 187.69,
    "end": 191.73,
    "text": "wir nehmen zwei Modelle und wir setzen sie in eine sogenannte Sandbox."
  },
  {
    "start": 191.89,
    "end": 203.53,
    "text": "das ist eine geschützte Entwicklungsumgebung wo Sie dann ja los hacken können sozusagen und davor hat man ihnen noch die Schranken abgenommen die diese Modelle eigentlich haben um so Hacking zu verhindern."
  },
  {
    "start": 203.69,
    "end": 206.39,
    "text": "also Schranken ab hakt mal los."
  },
  {
    "start": 207.19,
    "end": 213.29,
    "text": "Okay, das heißt sie waren quasi in einem Gefängnis aber alle haben die Tore offen gelassen und die KI konnte abhauen."
  },
  {
    "start": 213.929,
    "end": 215.429,
    "text": "So haben Sie es nicht gesagt."
  },
  {
    "start": 215.59,
    "end": 226.57,
    "text": "Wir haben das in einer Sandbox gemacht und diese Modelle haben dann selbstständig beschlossen auch es wäre doch ganz gut wenn wir das Internet nutzen können weil in der Sandbox gab's nur sehr angeschränktes."
  },
  {
    "start": 226.649,
    "end": 230.69,
    "text": "Internet wäre doch Ganz Gut Wenn wir das Nutzen Können um unsere Testaufgabe zu lösen."
  },
  {
    "start": 231.29,
    "end": 235.609,
    "text": "Und die sollen eine Sicherheitslücke genutzt haben, um auszubrechen."
  },
  {
    "start": 235.67,
    "end": 240.97,
    "text": "Aus ihrer Umgebung und dann sich überlegt haben naja gut wir haben jetzt diesen Test."
  },
  {
    "start": 241.23,
    "end": 243.09,
    "text": "da geht es um Sicherheitsfragen."
  },
  {
    "start": 243.87,
    "end": 248.209,
    "text": "wo könnten wir denn im Internet nachschauen wo's vielleicht die Antworten auf diese Fragen gibt?"
  },
  {
    "start": 248.829,
    "end": 250.01,
    "text": "Das durften sie aber eigentlich nicht!"
  },
  {
    "start": 250.67,
    "end": 261.589,
    "text": "Genau ich mag das Bild von zwei Oberstufenschülern Die wissen morgen ist Schulaufgabe und brechen beim Lehrer ein, um die Antworten zu klauen."
  },
  {
    "start": 262.39,
    "end": 268.11,
    "text": "Wobei der vergleich auch ein bisschen hinkt weil bei Schülern ist das ja nicht Sinn der Sache dass sie beim Lehrer einenbrechen."
  },
  {
    "start": 268.77,
    "end": 280.11,
    "text": "Bei der KI hat möglicherweise nur die Aufgabe bekommen bei dem Test gut abzuschneiden Und vielleicht kam in der Aufgabe auch nicht vor Dass Sie das auf ehrliche Art und Weise tun sollen."
  },
  {
    "start": 280.17,
    "end": 282.89,
    "text": "also Vielleicht haben sie einfach nur sehr gut gemacht was sie sollten."
  },
  {
    "start": 283.37,
    "end": 285.19,
    "text": "Okay, aber jetzt gehen wir nochmal zu diesen Schranken."
  },
  {
    "start": 285.27,
    "end": 286.89,
    "text": "Also warum wurden die denn entfernt?"
  },
  {
    "start": 287.61,
    "end": 292.77,
    "text": "Naja weil OpenAI herausfinden wollte wie gut im Falle eines Falles diese KI sein soll."
  },
  {
    "start": 292.81,
    "end": 300.469,
    "text": "Diese Schranken sind ja da damit wenn die Modelle veröffentlicht sind sie sollen nicht für schlimme Zwecke eingesetzt werden."
  },
  {
    "start": 300.53,
    "end": 316.59,
    "text": "zum Beispiel Anthropics bestes Modell Fable sagt einem immer, wenn man irgendwas egal was man schreibt eigentlich sagen sie immer okay wir haben jetzt einen Gang zurückgeschaltet weil wir Regeln gegen die Entwicklung von Biowaffen und Hacking haben."
  },
  {
    "start": 317.33,
    "end": 321.95,
    "text": "Also das heißt die haben Schranken eingebaut die auf jeden Fall verhindern sollen dass sowas passiert."
  },
  {
    "start": 321.99,
    "end": 330.409,
    "text": "aber wenn man testen will wie gut Die Modelle theoretisch im Hacking sind dann sollte man diese Schranken wahrscheinlich entfernen und das haben Sie gemacht."
  },
  {
    "start": 331.11,
    "end": 334.87,
    "text": "Also was du die KI da fragst zu Biowaffen, das kannst du mir nach und zum Gespräch noch mal erzählen."
  },
  {
    "start": 335.37,
    "end": 341.07,
    "text": "Ich habe mich halt vorher so gefragt ob dieser Fall zeigt dass die Entwickler die KI selbst nicht mehr so richtig regulieren können."
  },
  {
    "start": 341.13,
    "end": 344.25,
    "text": "aber jetzt sagst du naja es war eigentlich Absicht dass diese Schranken nicht da waren."
  },
  {
    "start": 344.63,
    "end": 346.01,
    "text": "Aber war das nicht auch ein bisschen fahrlässig?"
  },
  {
    "start": 347.21,
    "end": 350.93,
    "text": "Also möglicherweise war der Versuchsaufbau fahr lässig."
  },
  {
    "start": 351.15,
    "end": 364.37,
    "text": "also wenn die größte oder mittlerweile zweitgrößte KI-Firma der Welt es nicht schafft eine Sandbox, also eine Umgebung so zu bauen dass ihre mächtigen KI-Modelle dann nicht rauskommt."
  },
  {
    "start": 365.03,
    "end": 368.11,
    "text": "Dann läuft bei der Firma möglicherweise was falsch."
  },
  {
    "start": 368.17,
    "end": 388.13,
    "text": "Also der Fall zeigt das Open AI vielleicht nicht so gut im Testen ist aber er zeigt auch, dass politische Vorgaben vielleicht ein bisschen nach hinten losgehen können und zwar weil Huggingface wollte dann diesen Vorfall nachdem sie gemerkt haben oh wir sind gehackt worden aufklären indem sie selber KI genutzt haben."
  },
  {
    "start": 388.31,
    "end": 391.43,
    "text": "Und das Modell hat gesagt, kann ich leider nicht machen weil du willst hier offenbar hacken?"
  },
  {
    "start": 391.95,
    "end": 401.99,
    "text": "Das führt zu der absurden Situation dass die Angreifer mit KI kommen und die Verteidiger die KI nicht verwenden können weil es Regeln gibt das KI nicht zum Hacken verwendet werden kann."
  },
  {
    "start": 402.61,
    "end": 410.89,
    "text": "dann mussten Sie auf chinesische Modelle ausweichen um ihre incident response also um die verteidigung sozusagen aufzuziehen."
  },
  {
    "start": 411.349,
    "end": 415.49,
    "text": "Ich merke einfach, dass dieses KI-Thema inzwischen so wahnsinnig weit fortgeschritten ist."
  },
  {
    "start": 416.03,
    "end": 417.03,
    "text": "Wie würdest du es denn einschätzen?"
  },
  {
    "start": 417.09,
    "end": 418.49,
    "text": "Du bist ja wirklich, wirklich tief drin."
  },
  {
    "start": 419.05,
    "end": 425.77,
    "text": "Sollten manche KI-Systeme einfach nur von Regierungsstellen benutzt werden und gar nicht in private Hände geraten?"
  },
  {
    "start": 426.81,
    "end": 442.57,
    "text": "Wenn die USA die einzige Macht wäre, die KI entwickeln könnte – und dann die Verwendung einschränken würde, sodass wirklich nur die guten Hacker der US-Regierung sie nutzen können eben eine abgespeckte Version."
  },
  {
    "start": 442.849,
    "end": 453.17,
    "text": "Dann könnte der Plan aufgehen, aber in den letzten Wochen sind offene KI-Modelle aus China veröffentlicht worden die nicht viel schlechter sind als die KI Modelle von Anthropic und Open AI."
  },
  {
    "start": 453.95,
    "end": 457.61,
    "text": "Und wenn jetzt die Situation ist dass US Unternehmen"
  },
  {
    "start": 458.67,
    "end": 458.83,
    "text": "die"
  },
  {
    "start": 459.63,
    "end": 472.31,
    "text": "Cyberverteidigung machen wollen chinesische KI verwenden müssen um sich zu schützen weil die US Modelle es nicht zulassen dann würde ich sagen, muss man bei der Regulierung noch mal nachdenken."
  },
  {
    "start": 473.03,
    "end": 474.969,
    "text": "Okay jetzt lassen wir uns zum Schluss nochmal nach vorne blicken."
  },
  {
    "start": 475.77,
    "end": 478.409,
    "text": "Du hast ja gerade diesen halben Terminator-Vergleich gebracht."
  },
  {
    "start": 478.61,
    "end": 483.849,
    "text": "es ist ja generell schon so eine weit verbreitete Angst dass die Maschinen die Herrschaft übernehmen."
  },
  {
    "start": 483.99,
    "end": 487.23,
    "text": "wenn du nach vorn blickst, ist diese Sorge ansatzweise gerechtfertigt?"
  },
  {
    "start": 488.01,
    "end": 502.11,
    "text": "Also die Sorge das Maschienen die Herrschraft übernehmen ist natürlich deshalb da weil es Science Fiction gibt und wir sehen jetzt Ein paar kleine Dinge von dem, was wir in Science Fiction gesehen haben."
  },
  {
    "start": 502.53,
    "end": 507.69,
    "text": "Also ich kann verstehen dass ein an solche Dinge erinnert hat es mich ja auch."
  },
  {
    "start": 507.909,
    "end": 513.25,
    "text": "Ich habe einen Terminator gedacht aber stand heute würde ich sagen die Sorge ist ziemlich unberechtigt."
  },
  {
    "start": 513.53,
    "end": 527.95,
    "text": "also was da passiert ist Ist zwei KI Modelle oder eins Haben vielleicht eine Unternehmen gehackt das sehr leicht hackbar war und OpenAI hat nicht so sehr gut drauf aufgepasst dass sie das nicht machen."
  },
  {
    "start": 528.569,
    "end": 531.569,
    "text": "Wenn alle ein bisschen besser aufpassen, dann passiert dieser Fall nicht."
  },
  {
    "start": 532.35,
    "end": 542.93,
    "text": "aber das KI heute mit diesem Agentic Turn wie man sagt also dass die selbstständig unterwegs sind Sachen tun können diese vor drei Jahren nicht konnten."
  },
  {
    "start": 543.85,
    "end": 551.01,
    "text": "Das ist natürlich was Neues und wenn die Entwicklung so weitergeht Dann bleibt spannend!"
  },
  {
    "start": 551.63,
    "end": 552.55,
    "text": "Liebe Max vielen lieben Dank!"
  },
  {
    "start": 553.15,
    "end": 553.31,
    "text": "Gerne"
  },
  {
    "start": 557.39,
    "end": 558.689,
    "text": "Schauen wir jetzt mal nach Deutschland."
  },
  {
    "start": 559.15,
    "end": 563.83,
    "text": "Da hat der Bundestag ja eigentlich gerade Sommerpause, aber trotzdem ist in Berlin so einiges los."
  },
  {
    "start": 564.51,
    "end": 573.23,
    "text": "Und zwar ist Jens Spahn als Vorsitzender der Unionsfraktion zurückgetreten – er hatte ja dank einer Leimutter in den USA einen Kind bekommen und daran gab es sehr viel Kritik in der Union."
  },
  {
    "start": 573.73,
    "end": 574.89,
    "text": "Das war hier auch im Podcast-Thema."
  },
  {
    "start": 575.47,
    "end": 579.55,
    "text": "Und jetzt haben sich die Spitzen von CDU und CSU ein Nachfolger für Spahn ausgesucht."
  },
  {
    "start": 580.15,
    "end": 582.35,
    "text": "Neuer Fraktionschef soll Thorsten Frey werden!"
  },
  {
    "start": 582.97,
    "end": 586.31,
    "text": "Der ist ein Vertrauter von Friedrich Merz und grade noch Kanzleramtschef…."
  },
  {
    "start": 587.29,
    "end": 591.65,
    "text": "Wer in diesem Amt dann sein Nachfolger werden soll, das war bei Redaktionsschluss dieser Folge noch unklar."
  },
  {
    "start": 594.37,
    "end": 603.11,
    "text": "In der Ukraine baut Präsident Volodymy Zelensky gerade seine Regierung um – vor ein paar Tagen hat er schon den Ministerpräsidenten und den Verteidigungsminister ausgetauscht."
  },
  {
    "start": 603.73,
    "end": 606.689,
    "text": "Und jetzt muss auch noch der Armee-Chef gehen, Oleksander Sürski."
  },
  {
    "start": 607.67,
    "end": 613.17,
    "text": "Der hat zwar einige Verdienste bei der Verteidingung der Ukraine, er ist im Land und bei den Soldaten aber nicht besonders beliebt…."
  },
  {
    "start": 613.89,
    "end": 620.35,
    "text": "In den letzten Tagen haben immer wieder Menschen gegen ihn demonstriert und für den abgesetzten Verteidigungsminister, mit dem hat er nämlich Streit."
  },
  {
    "start": 621.41,
    "end": 628.99,
    "text": "Mehr zu Sirski und auch zu seinem Nachfolger Mikhailo Drabati, der in der Ukraine eine Legende ist – das können Sie in einem Text lesen, den ich an den Shownotes verlinke."
  },
  {
    "start": 631.189,
    "end": 633.49,
    "text": "Und dann habe ich noch eine Nachricht aus Frankfurt am Main."
  },
  {
    "start": 633.93,
    "end": 636.09,
    "text": "Da hat die Deutsche Bank Besuch bekommen von Ermittlern!"
  },
  {
    "start": 636.77,
    "end": 647.63,
    "text": "Es geht um fragwürdige Geschäftspraktiken Und weil die Deutsche Bank, die Postbank inzwischen übernommen hat waren die Ermittler jetzt eben bei der Deutschen Bank."
  },
  {
    "start": 648.49,
    "end": 652.15,
    "text": "Insgesamt soll es zehn Beschuldigte geben – alles frühere Topmanager der Postbank."
  },
  {
    "start": 652.81,
    "end": 655.39,
    "text": "Einer von ihnen sitzt heute offenbar in der Führung der Deutschen bank."
  },
  {
    "start": 655.95,
    "end": 659.65,
    "text": "Sie werden verdächtigt an sogenannten Kumkum-Geschäften beteiligt gewesen zu sein."
  },
  {
    "start": 660.31,
    "end": 670.33,
    "text": "Vereinfacht gesagt sind das Scheingeschäfte, bei denen Aktien so hin und her gehandelt werden dass entweder Steuern nicht erhoben werden konnten oder sie fälschlicherweise zurückgefordert werden konnten."
  },
  {
    "start": 671.13,
    "end": 676.73,
    "text": "Der Schaden für den Staat soll allein durch die jetzt beschuldigten bei mehr als dreihundertfünfzig Millionen Euro liegen."
  },
  {
    "start": 677.41,
    "end": 679.89,
    "text": "Mehr Informationen dazu finden Sie in einem Text in den Shownotes."
  },
  {
    "start": 686.97,
    "end": 690.31,
    "text": "Blei verseuchte Kuscheltiere, gefährliche Rasierer und Kosmetika?"
  },
  {
    "start": 690.95,
    "end": 698.59,
    "text": "Wer bei chinesischen Online-Händlern wie Timo, Chein und Alibaba bestellt der kann auch mal illegale und gesundheitsschädliche Produkte geliefert bekommen."
  },
  {
    "start": 699.189,
    "end": 702.47,
    "text": "Wie kann das sein bei all diesen Sicherheitsbestimmungen die es in Europa doch so gibt?"
  },
  {
    "start": 703.05,
    "end": 708.95,
    "text": "Darum geht es in den neuen Ausgaben von unserem Recherche-Podcast das Thema mit Michael Kleskin aus der SZ Wirtschaftsredaktion."
  },
  {
    "start": 709.37,
    "end": 711.17,
    "text": "Den Link zur Sendung finden Sie in den Shownotes."
  },
  {
    "start": 712.27,
    "end": 716.47,
    "text": "Redaktionsschluss für auf den Punkt war, hat diese Folge Juno Kraner."
  },
  {
    "start": 716.87,
    "end": 719.81,
    "text": "Ich bin Philipp Saul, vielen Dank fürs Zuhören und bis morgen!"
  }
]