[
  {
    "start": 6.86,
    "end": 11.129,
    "text": "KI-Agenten könnten in sechs bis zwölf Monaten das gesamte Internet übernehmen."
  },
  {
    "start": 11.51,
    "end": 14.53,
    "text": "Oder gab es im Jahr die Menschheit auslöschen?"
  },
  {
    "start": 15.01,
    "end": 22.59,
    "text": "So apokalyptisch waren führende Mitarbeiter der großen Entwickler von künstlicher Intelligenz und wollen nun selbst auf die Bremse treten."
  },
  {
    "start": 23.51,
    "end": 30.95,
    "text": "Über die Notwendigkeit von ethischen Regeln für die Superintelligenz spreche ich gleich mit Andréan Kreie, aus dem Pfötung der Süddeutschen Zeitung."
  },
  {
    "start": 31.25,
    "end": 34.669,
    "text": "Er beschäftigt sich seit lang mit KI und hat darüber zwei Bücher geschrieben."
  },
  {
    "start": 35.19,
    "end": 37.41,
    "text": "Sie ruhen den SZ Nachrichten Podcast auf dem Punkt."
  },
  {
    "start": 37.61,
    "end": 43.669,
    "text": "nach einem langen Sommerurlaub und einer Reise von Nord-Nachs Südviertendamm begrüßt ihr am Mikro weder Lars Langenau."
  },
  {
    "start": 43.989,
    "end": 44.69,
    "text": "Herzlich Willkommen!"
  },
  {
    "start": 49.83,
    "end": 58.269,
    "text": "Vergangenem Mittwoch hat er bis dahin gänzlich Unbekannte, siebenundzwanzig Jahre junge Britte Jacob Coxon seine Kündigung bei Entshopping verkündet."
  },
  {
    "start": 58.809,
    "end": 62.93,
    "text": "Bislang wurde sie bei X fast einhundertseipzig Millionen Mal angeschaut."
  },
  {
    "start": 63.949,
    "end": 73.55,
    "text": "In den vergangenen drei Jahren bei OpenAI und Entshopping, so schreibt er da, habe er erleben müssen dass die beiden Start-ups nicht verantwortungsvoll handeln würden."
  },
  {
    "start": 73.89,
    "end": 75.13,
    "text": "Sie spielen mit unserem"
  },
  {
    "start": 75.21,
    "end": 75.45,
    "text": "Leben.\"."
  },
  {
    "start": 76.37,
    "end": 82.63,
    "text": "Er seht die Gefahr das die rasante Entwicklung bei KI die Menschheit bereits bis Ende des Jahrzehnts auslöschen könne."
  },
  {
    "start": 83.23,
    "end": 86.41,
    "text": "Was hier in Ende hat der junge Mann auf eine entsprechende Frage gesagt?"
  },
  {
    "start": 87.71,
    "end": 91.69,
    "text": "Das höre sich alles ein bisschen nach Science Fiction an, aber es sei erschreckend real."
  },
  {
    "start": 92.21,
    "end": 97.29,
    "text": "Am besten lasse es sich verstehen wenn man daran denke was vor zwei Monaten passiert sein."
  },
  {
    "start": 97.83,
    "end": 98.47,
    "text": "Das jetzt mal."
  },
  {
    "start": 98.53,
    "end": 108.75,
    "text": "meine Erklärung da ist KI Software von OpenAI eigenständig aus einer gesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme eine anderen KI Firma eingedrungen."
  },
  {
    "start": 109.23,
    "end": 118.39,
    "text": "Diesen Samstag nun hat Sam Ordman, Chef des ChatGPT-Entwicklers OpenAI verkündet das sein Unternehmen dieses Jahr nicht mehr an die Börse gehe."
  },
  {
    "start": 118.73,
    "end": 120.65,
    "text": "Angeblich aus Sicherheitsbedenken."
  },
  {
    "start": 121.51,
    "end": 127.51,
    "text": "Über das was dringend nötig ist Horrorszenarien zu verhindern spreche ich jetzt mit meinem Kollegen Andréan Kreier."
  },
  {
    "start": 128.389,
    "end": 132.39,
    "text": "Andréans Wieso ist die Debatte über Gefahren der KI gerade hochgepoppt?"
  },
  {
    "start": 133.01,
    "end": 135.89,
    "text": "Es gab mehrere Gründe, es gab zum einen diesen Ausbruch."
  },
  {
    "start": 136.01,
    "end": 138.91,
    "text": "da ist OpenAI bei einem Test beim Sicherheitstest."
  },
  {
    "start": 139.47,
    "end": 143.709,
    "text": "Bei HackingFace das ist eine große Plattform für unabhängige künstliche Intelligenz."
  },
  {
    "start": 143.81,
    "end": 157.13,
    "text": "Anwendungen Da sind die plötzlich reingestürmt sozusagen diese Anwendung von OpenAI und haben gemacht was sie wollen haben sich untereinander abgestimmt und das wirkte alles sehr bedrohlich ist unter Umständen auch sehr bedrohlich."
  },
  {
    "start": 157.75,
    "end": 173.549,
    "text": "Und dann kam dazu, dass Jacob Coxon, ein Forscher von Antropic, der es dort ausgestiegen und hat gesagt er kann das nicht mehr mit seinem gewissen Vereinbaden für die zu arbeiten bei Antropic weil sie spielen mit unserem Leben und er hat sehr eindringlich gewarnt, dass die die Gefahren immer herunter gespielt haben."
  },
  {
    "start": 173.63,
    "end": 176.049,
    "text": "und das hat sich jetzt gerade geändert."
  },
  {
    "start": 176.549,
    "end": 180.91,
    "text": "Und dann steht hier auch noch ein Börsengang oder stand ja eigentlich im Börsengang noch im Raum."
  },
  {
    "start": 181.01,
    "end": 185.07,
    "text": "Genau, die wollen natürlich alle an die Börse weil es da so wahnsinnig viel Geld gibt."
  },
  {
    "start": 185.19,
    "end": 195.23,
    "text": "aber mit dem Börsungang kommt automatisch einen Druck in die ganze Entwicklung von KI, weil natürlich dann die ganzen Investoren da sitzen und sie wollen rendite Ergebnisse und neue Entwicklungen sehen."
  },
  {
    "start": 195.75,
    "end": 205.79,
    "text": "Und dieser Druck ist dann oft so groß – das hat man auch gesehen als die ganz Social Media an die Börse gegangen sind, dann ist der Druck so groß dass Sicherheitsbedenken wirklich die dritte Geige"
  },
  {
    "start": 205.89,
    "end": 206.209,
    "text": "spielen.\"."
  },
  {
    "start": 206.769,
    "end": 208.67,
    "text": "Du hast ja gerade selbst gesagt es bedrohlich."
  },
  {
    "start": 208.79,
    "end": 210.39,
    "text": "Was hat sich denn in die jüngster Zeit verändert?"
  },
  {
    "start": 210.989,
    "end": 212.75,
    "text": "Das ist jetzt einem Punkt alles angelangt,"
  },
  {
    "start": 212.79,
    "end": 213.09,
    "text": "K.I.,"
  },
  {
    "start": 213.23,
    "end": 228.17,
    "text": "dass die selber die Wirkung nicht mehr richtig kontrollieren können weil sie nicht mehr ganz genau wissen wie diese Mechanismen funktionieren und weil sie so perfekt geworden sind, dass sie es scheinbar im Alleingang erledigen ihre Aufgaben."
  },
  {
    "start": 228.29,
    "end": 234.13,
    "text": "und da kommt dieses Gedankenexperiment vom sogenannten Büroklammer Maximierer ins Spiel."
  },
  {
    "start": 234.53,
    "end": 240.209,
    "text": "das heißt Bei diesem Experiment geht man davon aus, man sagt einer KI soll Büroklammern herstellen."
  },
  {
    "start": 240.29,
    "end": 241.989,
    "text": "Man vergisst die aber zu sagen wie viel."
  },
  {
    "start": 242.59,
    "end": 249.709,
    "text": "und daraufhin wird diese KI... Alles, alles was sie auf diesem Planeten Erde findet dazu benutzen um Büroklammern herzustellen."
  },
  {
    "start": 250.13,
    "end": 252.989,
    "text": "Und irgendwann reicht eben die Rohstoffe nicht mehr."
  },
  {
    "start": 253.049,
    "end": 265.37,
    "text": "dann kommt die Biomasse dazu und dann kommt Menschheit dazu und irgendwann ist dieser Planet zerstört und besteht nur noch aus Büroklammern und dann wandert die KI ins All und sucht sich den nächsten Planeten um den auszubeuten und Büroklanger zu machen."
  },
  {
    "start": 265.969,
    "end": 271.349,
    "text": "so ähnlich ist im Moment die Funktion von KI und das macht denen allen doch große Sorgen."
  },
  {
    "start": 271.789,
    "end": 274.51,
    "text": "Okay, da entwickelt aber die KI keinen freien Willen."
  },
  {
    "start": 274.969,
    "end": 276.73,
    "text": "Nein mit freiem Willen hat das nichts zu tun."
  },
  {
    "start": 276.81,
    "end": 281.69,
    "text": "auch wenn es so aussieht ist es einfach eine gnadenlose Aufgabenerfüllung."
  },
  {
    "start": 281.969,
    "end": 293.909,
    "text": "man sagt ihr... Das ist ein bisschen wie wenn man einem Auto sagt du fährst jetzt von A nach B und es ist ganz egal was an Hindernissen ist ob da jetzt irgendwelche Leute über die Straße laufen Ob da etwas im Weg steht."
  },
  {
    "start": 294.25,
    "end": 302.349,
    "text": "Du fährste jetzt von a nach b Und dann wird dieses Auto einfach diese Aufgabe erleben weil es einfach relativ Dumme Maschine ist."
  },
  {
    "start": 302.71,
    "end": 323.25,
    "text": "KI ist keine dumme Maschine, sondern eine komplexe und komplizierte Maschine und erledigt ihre Aufgaben eben um jeden Preis und kann dabei solche Dinge entwickeln wie dass sich mehrere KIs untereinander abstimmen das sie alle irgendwie auf das gleiche Ziel vorpreschen und eben alle Hindernisse oder alle ethischen Bedenken aus dem Weg rollen."
  },
  {
    "start": 323.63,
    "end": 324.909,
    "text": "Sie braucht aber nicht einen Auftrag."
  },
  {
    "start": 324.969,
    "end": 325.83,
    "text": "vernichte die Menschheit."
  },
  {
    "start": 326.409,
    "end": 328.43,
    "text": "Sie braucht keinen Auftrag für nicht die Menschheit."
  },
  {
    "start": 328.65,
    "end": 334.03,
    "text": "Wenn es jemanden gibt, der den Auftrag gibt dann wird die KI das auch versuchen mit allen Mitteln."
  },
  {
    "start": 334.789,
    "end": 337.99,
    "text": "Bei Chemie und Biowaffen hat sich die Welt ja mal selbst Grenzen gesetzt."
  },
  {
    "start": 338.07,
    "end": 340.05,
    "text": "Hältst du das denn auch bei KI vermöglich?"
  },
  {
    "start": 340.11,
    "end": 341.09,
    "text": "Das ist da ein Konsens."
  },
  {
    "start": 341.17,
    "end": 342.83,
    "text": "geben könntest du selbst mit Diktaturen."
  },
  {
    "start": 343.43,
    "end": 349.27,
    "text": "Also jetzt haben sich alle drei Großen zusammengeschlossen, also Entropic OpenAI und Elon Musk mit GROC."
  },
  {
    "start": 349.99,
    "end": 351.61,
    "text": "Und haben gesagt wir müssen bremsen!"
  },
  {
    "start": 351.81,
    "end": 358.93,
    "text": "Wir müssen eigentlich neue Regulatorien finden und vor allem müssen wir Wege finden diese Regulatorien auch durchzusetzen."
  },
  {
    "start": 359.21,
    "end": 368.45,
    "text": "Das ist der entscheidende Schritt auf den viele inklusive mir und meiner Kollegen hier bei der Süddeutschen Zeitung die über KI schreiben schon lange lange gewartet haben."
  },
  {
    "start": 369.11,
    "end": 369.969,
    "text": "Wie könnte das aussehen?"
  },
  {
    "start": 370.27,
    "end": 378.61,
    "text": "Es könnte so aussehen, dass das beschreiben die ja auch sowohl Dario Almoudai von Tropic als auch Bill Gates in einem SEDR veröffentlicht hat."
  },
  {
    "start": 379.01,
    "end": 401.87,
    "text": "Die beschreiben es, dass man braucht Aufsichtspersonen von dritter Stelle also unabhängige Aufsichtspersonen, die aber mit dem Zugang den sonst nur direkte Mitarbeiter und Entwickler haben in diese KIs reingucken können und überprüfen können was diese Kis wirklich machen sie bremsen kann, damit nichts Schlimmes passiert."
  },
  {
    "start": 402.45,
    "end": 418.19,
    "text": "Im Prinzip ist das so was wie man fordert einen großen möglichst globalen TÜV für KI und dieser TÜv muss einfach dafür sorgen dass wenn die KI von A nach B marschiert das da nichts auf der Strecke bleibt wie zum Beispiel Menschen."
  },
  {
    "start": 418.59,
    "end": 420.27,
    "text": "Bist du überrascht dass Elon Musk dabei ist?"
  },
  {
    "start": 420.77,
    "end": 421.409,
    "text": "Bin ich gar nicht."
  },
  {
    "start": 421.59,
    "end": 427.81,
    "text": "Er war einer der ersten, die sich dafür eingesetzt haben dass KI reguliert wird das KI als Gefahr erkannt wird."
  },
  {
    "start": 428.289,
    "end": 432.87,
    "text": "Er hat unter anderem auch die Arbeit von Next Techmark finanziert und ist ganz interessant."
  },
  {
    "start": 432.909,
    "end": 434.969,
    "text": "Das ist ein KI-Forscher an The Harvard University."
  },
  {
    "start": 435.87,
    "end": 443.31,
    "text": "Der hat zum ersten Mal die sogenannten Asylomar-Guidelines für KI veröffentlicht."
  },
  {
    "start": 443.349,
    "end": 453.849,
    "text": "Das war so ein Regelwerk, wie man KI vorhin antwortungsvoll entwickeln kann und das Interessante ist dass er es in einem Fähresort in der Nähe von San Francisco gemacht hat, das ASYLOMAR heißt."
  },
  {
    "start": 454.31,
    "end": 468.77,
    "text": "und dort in ASYlOMAR haben sich neunzehntreinsebzig nämlich die Hersteller oder die Entwickler und Wissenschaftler, die sich mit Biochemie auseinander gesetzt haben zusammengesetzt dass man eben keine biochemischen Waffen herstellt und keine biologische Waffen."
  },
  {
    "start": 469.25,
    "end": 479.59,
    "text": "Und an dieses Regelwerk hat sich eigentlich bisher die gesamte Menschheit inklusive der meisten Diktaturen wirklich gehalten, und die Hoffnung ist das es sozusagen so was Ähnliches auch für KI"
  },
  {
    "start": 479.69,
    "end": 479.849,
    "text": "gibt."
  },
  {
    "start": 480.19,
    "end": 480.59,
    "text": "Vielen Dank!"
  },
  {
    "start": 480.65,
    "end": 481.65,
    "text": "Wir reden wieder zusammen."
  },
  {
    "start": 481.909,
    "end": 482.33,
    "text": "Vielen dank!"
  },
  {
    "start": 485.61,
    "end": 499.21,
    "text": "Laut einer aktuellen Umfrage halten nur noch vierzehn Prozent der deutschen Friedrich Merz für den richtigen Kanzler Und mit den Kommunalwahlen in Niedersachsen an diesem Sonntag und den Landtagswahlen, in einer Woche im Mecklenburg-Vorpommern drohen der CDU weitere Debakel."
  },
  {
    "start": 499.81,
    "end": 499.93,
    "text": "Auch"
  },
  {
    "start": 500.25,
    "end": 506.61,
    "text": "bei der Wahl zum Abgeordnetenhaus in Berlin ebenfalls am kommenden Sonntage könnten sie das Rote Rathaus wieder verlieren."
  },
  {
    "start": 507.57,
    "end": 513.39,
    "text": "Immerhin hat der CDU-Chef jetzt Markus Söder verteidigt – allerdings auffällig leidenschaftslos!"
  },
  {
    "start": 513.87,
    "end": 523.689,
    "text": "Auf die Frage der Bild, ob Merz noch der richtige Mann sei hat Bayerns Ministerpräsident und CSU-Chef Söder kurz und knapp gesagt – ja er steht zu den Reformen."
  },
  {
    "start": 525.23,
    "end": 526.45,
    "text": "Lange nicht für möglich gehalten."
  },
  {
    "start": 526.55,
    "end": 528.73,
    "text": "Erfolge feiert bekanntlichen gegen die AfD."
  },
  {
    "start": 529.83,
    "end": 540.51,
    "text": "Diesen Samstag aber hat sich nach den fast forty vierzig Prozent für die Rechtsextremisten und Rechtspopulisten bei den Landtagswahlen in Sachsen-Anhalt in thirty fünf deutschen Städten Widerstand formiert."
  },
  {
    "start": 541.03,
    "end": 549.43,
    "text": "Zehntausend sind unter anderem in München, Hamburg Berlin, Magdeburg, Schwerin Dresden und leibt sich für die liberale Demokratie auf die Straße gegangen."
  },
  {
    "start": 550.01,
    "end": 553.49,
    "text": "Und haben die Prüfung eines AfD-Verbotsverfahrens gefordert."
  },
  {
    "start": 554.11,
    "end": 560.97,
    "text": "Zum Protest aufgerufen hat da ein überparteiliches Bündnis von mehr als hundert Organisationen, Initiativen und Gewerkschaften."
  },
  {
    "start": 567.189,
    "end": 571.25,
    "text": "Samstag ist ein sehr politisches Filmfestival in Venedig zu Ende gegangen."
  },
  {
    "start": 571.49,
    "end": 576.05,
    "text": "Der Hauptpreis der Goldene Löwe geht an den dänischen Film Woman Unknown."
  },
  {
    "start": 576.87,
    "end": 584.01,
    "text": "Den Spezial-Preis der Jury aber bekommt die Doku Nasa von zwei israelischen Filmemachern über das Töten im Gaserkrieg."
  },
  {
    "start": 584.49,
    "end": 594.43,
    "text": "In Interviews stelle dann Soldaten und Geheimdienstlern anonym wie ihnen auch Kriegsverbrechen Spaß gemacht haben, ein Film dem das Publikum Amelido für twenty fünf Minuten applaudiert hat."
  },
  {
    "start": 594.91,
    "end": 598.069,
    "text": "Sie finden den Link zu unserer Filmkritik in den Schornungs."
  },
  {
    "start": 598.61,
    "end": 602.77,
    "text": "Redaktionsschluss für auf dem Punkt war fünfzehn Uhr, produziert hat diese Folge Juno Grana."
  },
  {
    "start": 603.09,
    "end": 605.87,
    "text": "Vielen Dank dafür und Ihnen für Ihre Aufmerksamkeit!"
  },
  {
    "start": 606.189,
    "end": 607.09,
    "text": "Bis morgen."
  }
]