[
  {
    "start": 2.06,
    "end": 6.24,
    "text": "Herzlich willkommen zu dieser Doomsday-Folge, Kollegen KI Snackbox."
  },
  {
    "start": 6.36,
    "end": 6.5,
    "text": "Hi!"
  },
  {
    "start": 7.3,
    "end": 12.38,
    "text": "Max Montenke mein Name ich bring euch einmal wie jeden Freitag durch die Wirren der KI News der Woche."
  },
  {
    "start": 12.56,
    "end": 14.82,
    "text": "und oh boy diese Woche wird es richtig dark richt."
  },
  {
    "start": 14.94,
    "end": 17.56,
    "text": "also das kann ich schon mal sagen es wird richtig dark."
  },
  {
    "start": 18.34,
    "end": 23.54,
    "text": "wir fangen aber erstmal mit was was in eigener Sache und zwar zieht Kollegin KI um."
  },
  {
    "start": 24.479,
    "end": 26.299,
    "text": "Ihr habt es mitbekommen am Dienstag natürlich."
  },
  {
    "start": 26.36,
    "end": 34.52,
    "text": "Ihr habt ja als fleißige Kollegin KI-Hörer letzten Dienstag die Folge gehört und die Kollegin KI hat am Ende verweigert, würden wir zu sprechen?"
  },
  {
    "start": 34.84,
    "end": 36.94,
    "text": "Es gab offenbar einen Bug bei OpenAI."
  },
  {
    "start": 37.7,
    "end": 47.36,
    "text": "Zusätzlich gibt's aber auch kein Bot mehr zur Folge weil OpenAI die Funktion Custom GPTs zu veröffentlichen auf die Business Accounts umgelegt hat."
  },
  {
    "start": 47.66,
    "end": 57.58,
    "text": "Und ich als zahlnah Plus Nutzer der irgendwie zwanzig Dollar im Monat oder so für sein OpenAI bezahlt Der darf jetzt keine Custom-GPTs mehr veröffentlichen und das finde ich irgendwie ein bisschen blöd."
  },
  {
    "start": 58.12,
    "end": 60.18,
    "text": "So, ich werde jetzt erstmal auf Business Upgrading."
  },
  {
    "start": 60.24,
    "end": 74.539,
    "text": "Das kostet mich zwar das Vierfache aber ich sehe ja auch dass ihr die Kollegen KI hin und wieder fragt ist dir das da durchaus auch Nutzung ist bei den Bots Und ich finde es auch gut, wenn Leute einfach gewisse Dinge in diesem super nördigen Thema nicht verstehen und dann mal individuell nachfragen können."
  },
  {
    "start": 74.699,
    "end": 76.24,
    "text": "Wo haben die da eigentlich gesprochen?"
  },
  {
    "start": 76.28,
    "end": 76.86,
    "text": "Kannst du mir das erklären?"
  },
  {
    "start": 77.339,
    "end": 78.86,
    "text": "Genau deshalb suche ich eine Alternative!"
  },
  {
    "start": 79.119,
    "end": 97.38,
    "text": "Also Kollegen Kai zieht jetzt kurz oder lang um Ich weiß nur aber noch nicht wohin... ...und deshalb vielleicht mal der Aufrufe an euch Wenn ihr eine Möglichkeit seht schnell und einfach Custom GPTs oder kleinere Agents zu bauen, die danach – und dass es mir wichtig kostenlos nutzbar sind – let me know Ich kenne bislang nichts."
  },
  {
    "start": 98.02,
    "end": 100.42,
    "text": "Wenn ihr irgendwie Entwickler seid, baut doch mal was Schönes!"
  },
  {
    "start": 100.78,
    "end": 103.36,
    "text": "Nein im Ernst wenn euch irgendwas einfällt lasst es uns wissen."
  },
  {
    "start": 103.539,
    "end": 110.36,
    "text": "dann kriegt die Kollegin Kair Neues zu Hause weil mit OpenAI habe ich irgendwie langsam so ein bisschen die Faxen dicke."
  },
  {
    "start": 111.14,
    "end": 111.74,
    "text": "Gehen wir in die News."
  },
  {
    "start": 112.479,
    "end": 112.699,
    "text": "PISA."
  },
  {
    "start": 113.059,
    "end": 113.92,
    "text": "kennt ihr die PISA Studie?"
  },
  {
    "start": 114.059,
    "end": 115.08,
    "text": "Natürlich kennt ihr PISA-Studie."
  },
  {
    "start": 115.16,
    "end": 120.619,
    "text": "da werden einen Haufen fünfzehnjähriger nach ihren schulischen Leistungen gefragt und Deutschland ist traditionell immer irgendwo ganz schlecht."
  },
  {
    "start": 121.38,
    "end": 123.119,
    "text": "Das ist nur die Pisa Studie in der nutshell."
  },
  {
    "start": 123.759,
    "end": 131.06,
    "text": "Aber die PISA-Studie ist natürlich auch im KI-Zeitalter angekommen und fragt jetzt auch erstmals nach der KI-Nutzung von Schülerinnen und Schülern."
  },
  {
    "start": 131.2,
    "end": 139.36,
    "text": "Und das ist ganz spannend, denn ungefähr die Hälfte aller Schülerinnen in der PISA Studie haben angegeben, dass sie KI nutzen."
  },
  {
    "start": 140.02,
    "end": 150.8,
    "text": "Interessant ist, dass SchülerInnen die KI für bestimmte Schulaufgaben einsetzen, im Schnitt rund zwanzig PISA Punkte schlechter abschneiden als Nichtnutzende!"
  },
  {
    "start": 152.32,
    "end": 154.1,
    "text": "Das entspricht ungefähr einem Schuljahr."
  },
  {
    "start": 154.62,
    "end": 156.24,
    "text": "Und Leute, ich hab die Headline vermisst."
  },
  {
    "start": 156.76,
    "end": 159.76,
    "text": "Schüler werden ein Jahr schlechter wenn sie Cheche Petit nutzen."
  },
  {
    "start": 159.9,
    "end": 165.74,
    "text": "Also das hätte ich mir so vorstellen können ist natürlich nicht so denn erst mal ist es im Zusammenhang und keine Kausalität."
  },
  {
    "start": 165.9,
    "end": 173.42,
    "text": "also kann durchaus sein dass auch einfach ohnehin schwächere Schülerinnen und Schüler eher KI Nutzen um Aufgaben zu lösen."
  },
  {
    "start": 173.94,
    "end": 177.48,
    "text": "Dementsprechend muss KI Nutzung das jetzt ja nicht unbedingt beeinflussen."
  },
  {
    "start": 178.16,
    "end": 183.54,
    "text": "auf der anderen Seite stellt sich natürlich die Frage nach Dem wie wie nutzen wir eigentlich k.i."
  },
  {
    "start": 183.66,
    "end": 189.38,
    "text": "wenn ich eine textaufgabe ne mattaufgabe hab ja und ich fotografiere die ab oder tippt ihr irgendwie ab unser gib mir mal die lösung."
  },
  {
    "start": 189.7,
    "end": 195.36,
    "text": "Dann habe ich die Lösung, kann die Eintragen Aufgabe gelöst Lernerfolg wahrscheinlich null oder ziemlich nahe Null."
  },
  {
    "start": 195.6,
    "end": 195.66,
    "text": "Ja?"
  },
  {
    "start": 196.12,
    "end": 201.56,
    "text": "Wenn nicht aber hingegen Frage liebe KI, kannst du mir mal erklären wie ich denn an die Lösung dieser Aufgabe komme?"
  },
  {
    "start": 201.78,
    "end": 203.34,
    "text": "weil das ich tatsächlich hab das nicht verstanden."
  },
  {
    "start": 203.38,
    "end": 206.36,
    "text": "mein Mathelehrer hat mir blöd erklärt oder ich verstehe die Textaufgabe nicht oder so."
  },
  {
    "start": 207.06,
    "end": 209.56,
    "text": "dann ist es natürlich ein ganz anderes Spiel."
  },
  {
    "start": 209.94,
    "end": 212.64,
    "text": "Das heißt KI kann durchaus beim Lernen unterstützen."
  },
  {
    "start": 212.8,
    "end": 219.44,
    "text": "Aber ja Die Pisa Studie hat jetzt erst einmal herausgefunden dass viele Schülerinnen und Schüler, also knapp die Hälfte KI nutzen."
  },
  {
    "start": 219.72,
    "end": 226.3,
    "text": "Und dass es durchaus auch Unterschiede gibt im Abschneiden bei der PISA-Studie durch KI."
  },
  {
    "start": 227.22,
    "end": 229.08,
    "text": "Wir beobachten das weiter, finde ich auf jeden Fall spannend."
  },
  {
    "start": 229.12,
    "end": 230.6,
    "text": "Finde ich gut, dass das erfasst wird."
  },
  {
    "start": 230.74,
    "end": 238.88,
    "text": "Das ist erst noch wichtig und möglicherweise kümmern sich die entsprechenden Kultusministerien jetzt ja auch ein bisschen um AI Literacy an Schulen."
  },
  {
    "start": 238.98,
    "end": 240.6,
    "text": "Ich würde's mir wünschen!"
  },
  {
    "start": 241.5,
    "end": 242.9,
    "text": "So kommen wir in die Doomsday Ecke."
  },
  {
    "start": 243.2,
    "end": 248.56,
    "text": "Leute Ihr nehmt euch vielleicht an das virale Video von Nate Suarez."
  },
  {
    "start": 248.78,
    "end": 261.16,
    "text": "Nate Suarus war im März in einer Debatte und das ist wie gesagt damals ziemlich viral gegangen, er hat nämlich da gesessen und hat vom Running Gag im Silicon Valley erzählt."
  },
  {
    "start": 261.22,
    "end": 274.62,
    "text": "Der Running Gags ist der dass wenn normale KI, normalen EntwicklerInnen ja ohne KI ihren Job irgendwie verlieren oder wechseln oder so dann sagen sie hey War ein tolles Abenteuer, ich bin es offen für was Neues."
  },
  {
    "start": 274.68,
    "end": 279.4,
    "text": "Ich wünsche dir den Kollegen alles Gute und so wir sehen uns irgendwann wieder alles tibetopie und so."
  },
  {
    "start": 279.86,
    "end": 288.12,
    "text": "wenn aber KI Forscher oder Leute die in der KI Branche entwickeln ihr Unternehmen verlassen dann sagen sie eher sowas wie leute."
  },
  {
    "start": 289.16,
    "end": 291.76,
    "text": "ich habe das Ende gesehen ich hab ihn den abgrund geguckt."
  },
  {
    "start": 292.32,
    "end": 302.7,
    "text": "ich werde ab jetzt nur noch Gedichte schreiben und bitte verbringt mehr Zeit mit euren Familien ja also weil die so nah an dieser Entwicklung sind und sehen wohin das alles führt."
  },
  {
    "start": 302.74,
    "end": 305.28,
    "text": "Das ist ein bisschen der dunkle Running, gell?"
  },
  {
    "start": 305.82,
    "end": 307.6,
    "text": "Dass sie im Grunde sagen, das war's!"
  },
  {
    "start": 309.06,
    "end": 310.16,
    "text": "Wir gehen hier auf den Abgrund"
  },
  {
    "start": 310.2,
    "end": 310.28,
    "text": "zu.\"."
  },
  {
    "start": 310.84,
    "end": 312.2,
    "text": "Und warum erzähle ich das jetzt?"
  },
  {
    "start": 312.3,
    "end": 314.46,
    "text": "Dieses Video verlinkt ihr natürlich auch in den Show knows und so."
  },
  {
    "start": 314.94,
    "end": 317.8,
    "text": "Es gibt aber wieder einen neuen Fall davon, und zwar Jacob Coxen."
  },
  {
    "start": 317.9,
    "end": 324.28,
    "text": "Jacob Coxon, siebenzwanzigjähriger KI-Forscher der so drei Jahre im Pre-Training von großen Modellen gearbeitet hat."
  },
  {
    "start": 324.36,
    "end": 325.72,
    "text": "Der war erst bei OpenAI."
  },
  {
    "start": 325.9,
    "end": 331.06,
    "text": "Er ist jetzt zu Enthropic gewechselt und hat jetzt gesagt Leute, das wars!"
  },
  {
    "start": 331.2,
    "end": 332.1,
    "text": "Ich mach' das nicht mehr mit."
  },
  {
    "start": 332.38,
    "end": 342.36,
    "text": "und es dann die Öffentlichkeit gegangen und hat gesagt... dieses Rennen um immer leistungsfähigere Systeme, vor allem um diese Self-improving Superintelligence-Systeme."
  },
  {
    "start": 342.58,
    "end": 351.3,
    "text": "Also KI die sich selbstständig ohne Einfluss von Menschen weiterentwickelt und immer selbstständiger wird das könnte der Untergang für uns alle sein."
  },
  {
    "start": 351.42,
    "end": 355.48,
    "text": "da ist Leib und Leben irgendwann in Gefahr und das möchte er nicht mehr und er möchte davor warnen."
  },
  {
    "start": 356.08,
    "end": 377.2,
    "text": "Und besonders bemerkenswert ist dass sein Kollege Ivan Huubinger der auch noch bei Anthropic Alignment Forscher diese Warnung in wesentlichen Teilen auch öffentlich unterstützt hat, weil er gesagt hat so meine persönliche Einschätzung ist das es durchaus eine mehr als zehnprozentige Wahrscheinlichkeit gibt dass KI innerhalb der kommenden zehn Jahre zum Tod aller Menschen führen könnte."
  },
  {
    "start": 378.16,
    "end": 379.06,
    "text": "What the fuck?"
  },
  {
    "start": 379.86,
    "end": 391.24,
    "text": "Also wir dürfen das gar nicht schwer interpretieren, dass es jetzt irgendwie wissenschaftlich erwiesen ist, dass die Menschheit zu zehn Prozent mit zehn prozentigen Wahrscheinlichkeiten ausgerottet wird bis zum nächsten Jahrzehnt."
  },
  {
    "start": 392.28,
    "end": 399.4,
    "text": "Aber wenn Leute, die diese Systeme mitentwickeln und so haut nah an auch der Firmenphilosophie und der Kultur daran sind."
  },
  {
    "start": 399.46,
    "end": 411.32,
    "text": "Wenn die sagen es durchaus irgendwie eine Wahrscheinlichkeit gibt dass das Ende der Menschheit durchkommt dann kann man da zumindest mal zuhören Das sind eben nicht die Taxi aus dir ohnehin einfach nur irgendwie Headlines produzieren."
  },
  {
    "start": 411.54,
    "end": 414.06,
    "text": "Es sind Leute die da tatsächlich im Maschinenraum sitzen."
  },
  {
    "start": 414.18,
    "end": 422.8,
    "text": "von daher wir müssen viel mehr über diese Frage sprechen wer eigentlich KI-Sicherheit überprüft."
  },
  {
    "start": 423.04,
    "end": 433.48,
    "text": "Wir haben für, wir haben internationale Organisationen die beispielsweise sich Atomkraft anguckt ja Kernkraftwerke weltweit irgendwie auch durchleuchtet und schaut ist das ja alles sicher und so?"
  },
  {
    "start": 433.56,
    "end": 437.84,
    "text": "da gibt es entsprechende Institutionen und die sollte es auch für künstliche Intelligenz geben."
  },
  {
    "start": 437.88,
    "end": 443.8,
    "text": "Das sollte nicht hinter verschlossenen Türen sein und im Wettbewerb um die Superintelligence tatsächlich zu Problemen führen."
  },
  {
    "start": 444.6,
    "end": 447.28,
    "text": "Da vielleicht auch noch mal den Übergang zu den News von letzter Woche."
  },
  {
    "start": 447.68,
    "end": 451.32,
    "text": "Ihr erinnert euch vielleicht, dass ich letzten Freitag über die Agent Gangs gesprochen habe?"
  },
  {
    "start": 451.7,
    "end": 463.72,
    "text": "Ja, die Agent-Gangs also ihr nehmt euch OpenAI hat in diesem Training der Modelle offenbar so die Kontrolle über ein paar Agents verloren, die eigentlich im abgeschlossenen System arbeiten sollten."
  },
  {
    "start": 463.76,
    "end": 472.14,
    "text": "Die sind ausgebrochen und haben Huggingface gehackt und im Grunde Informationen geklaut Und die News ging ja weiter, deshalb habe ich irgendwann von Agent Gangs gesprochen."
  },
  {
    "start": 472.42,
    "end": 485.48,
    "text": "Weil es tatsächlich rund tausend zweihundert Stück waren, die sich ein eigenes Messageboard gebaut haben und sich gemeinsam abgesprochen haben, die gemeinsam einfach diese Attacke geplant haben."
  },
  {
    "start": 486.26,
    "end": 488.04,
    "text": "Jetzt gibt's einen neuen Vorfall bzw."
  },
  {
    "start": 488.28,
    "end": 489.82,
    "text": "einen neuen alten Vorfall."
  },
  {
    "start": 489.88,
    "end": 497.84,
    "text": "bereits im Mai gab es nämlich offenbar agentische Aktivitäten die sich ausgetauscht haben."
  },
  {
    "start": 497.92,
    "end": 502.18,
    "text": "auf alten lahm gelegten oder stillgelegten programmier weekies."
  },
  {
    "start": 502.7,
    "end": 510.86,
    "text": "geht da um so ein altes deutschsprachiges wiki namens dsi wiki auch noch nie gehört vorher aber die haben das offenbar genutzt und zu einer."
  },
  {
    "start": 511.28,
    "end": 514.2,
    "text": "Art inoffiziellem Message-Sport umfunktioniert."
  },
  {
    "start": 514.6,
    "end": 519.26,
    "text": "und da gab es mehr als fünfzehntausend Edits von KI-Agenten, die jetzt Forschende gefunden haben."
  },
  {
    "start": 519.7,
    "end": 527.84,
    "text": "Das heißt sie haben da Möglichkeiten diskutiert wie man Einschränkungen umgehen kann, wie man irgendwie Aufgaben Benchmark lösen kann... Sie sind überall Leute!"
  },
  {
    "start": 528.24,
    "end": 530.16,
    "text": "Die Agent Gangs haben."
  },
  {
    "start": 530.22,
    "end": 531.92,
    "text": "jetzt haben Außenstellen offenbar."
  },
  {
    "start": 532.46,
    "end": 535.02,
    "text": "Wer weiß wo die rumhängen wird sich absprechen."
  },
  {
    "start": 535.1,
    "end": 536.2,
    "text": "das ist voll gruselig."
  },
  {
    "start": 537.0,
    "end": 540.04,
    "text": "aber ja Das ist schon krass."
  },
  {
    "start": 540.68,
    "end": 548.16,
    "text": "Es geht sogar soweit, dass da irgendwann auch so Moderatorseiten gelöscht hat von diesem Board und die Agenten dann einfach selbstständig Backup-Seiten angelegt haben."
  },
  {
    "start": 548.28,
    "end": 551.14,
    "text": "also wir teilen uns das Internet zunehmend mit Agenten!"
  },
  {
    "start": 552.06,
    "end": 553.24,
    "text": "Das ist wild ja?"
  },
  {
    "start": 553.56,
    "end": 559.92,
    "text": "Und in Zukunft nicht nur das Internet denn Agenten in Form von Humanoiden Robotern schreiten auch wahnsinnig schnell voran."
  },
  {
    "start": 560.04,
    "end": 561.5,
    "text": "es gibt ein neues Stück von Reuters."
  },
  {
    "start": 561.58,
    "end": 572.88,
    "text": "Die haben nämlich Jack Goode den Chefentwickler dieses viralen Roboters der vor ein paar Wochen Usain Boltz Weltrekord im Sprint eingestellt hat, besucht und haben gefragt in welche Richtung das geht."
  },
  {
    "start": 572.96,
    "end": 576.96,
    "text": "Und das verlinke ich euch auch ist wirklich spannend zu lesen und auch ein bisschen gruselig!"
  },
  {
    "start": 577.44,
    "end": 589.34,
    "text": "Die Dinger können jetzt Treppen steigen und Kisten schleppen also zunehmend werden wir wahrscheinlich auch Roboter in Fabriken in der Industrie überall eigentlich sehen die Immer mehr, wie Menschen aussehen."
  },
  {
    "start": 589.46,
    "end": 590.72,
    "text": "What A Time To Be Alive!"
  },
  {
    "start": 590.86,
    "end": 592.44,
    "text": "Ich wünsche euch ein fantastisches Wochenende."
  },
  {
    "start": 592.58,
    "end": 596.04,
    "text": "Redaktionsschluss war, achtzehn Uhr eins am Donnerstag dem zehnten neunten."
  },
  {
    "start": 596.28,
    "end": 600.24,
    "text": "Sollte die am Wochenende von einem humanoiden Roboter verfolgt werden, denkt dran nicht weglaufen."
  },
  {
    "start": 600.36,
    "end": 601.28,
    "text": "Die sind schneller als ihr."
  },
  {
    "start": 602.02,
    "end": 602.6,
    "text": "Stellt euch tot."
  },
  {
    "start": 603.94,
    "end": 605.58,
    "text": "Versteckt euch einfach hinterm Baum oder so?"
  },
  {
    "start": 605.64,
    "end": 606.52,
    "text": "Dann zerstellen die daran."
  },
  {
    "start": 607.2,
    "end": 609.02,
    "text": "Wie auch immer schönes Wochenende bis Dienstag."
  },
  {
    "start": 615.84,
    "end": 619.76,
    "text": "Ciao."
  }
]