[
  {
    "start": 0.54,
    "end": 2.04,
    "text": "Eine kurze Notiz zum Start."
  },
  {
    "start": 2.86,
    "end": 4.64,
    "text": "In dieser Folge geht es um Suizid."
  },
  {
    "start": 5.06,
    "end": 10.94,
    "text": "Passt also beim Hören auf euch auf und falls ihr Unterstützung braucht, in den Shownotes findet ihr Hilfsangebote."
  },
  {
    "start": 29.66,
    "end": 33.4,
    "text": "Gäbe es kein Chat-Gbt, dann wäre sein Sohn noch am Leben."
  },
  {
    "start": 34.04,
    "end": 38.4,
    "text": "Davon ist Adam Reigns Vater überzeugt, das sagt er hier in einem Interview mit NBC."
  },
  {
    "start": 45.66,
    "end": 47.94,
    "text": "Die Mutter sagt, ihr sei nicht zweiter aufgefallen."
  },
  {
    "start": 48.36,
    "end": 51.88,
    "text": "Adam verbrachte viel Zeit allein in seinem Zimmer, wo er seine Online-Schule machte."
  },
  {
    "start": 52.56,
    "end": 55.02,
    "text": "Aber er kam immer runter zum Essen und ging abends ins Gym."
  },
  {
    "start": 59.38,
    "end": 64.739,
    "text": "Astrid, warum sagen Adams Eltern jetzt, dass Chat GPT schuld ist am Tod ihres Sohnes?"
  },
  {
    "start": 65.86,
    "end": 76.92,
    "text": "Westerly ist also, Adam ist eigentlich ein ganz normale Junge, der geht in Kalifornien in die zehnte Klasse und wie viele Teenager nutzt auch eher ChatGPT, unter anderem auch zum Lernen und für seine Hausaufgaben."
  },
  {
    "start": 77.76,
    "end": 81.26,
    "text": "Aber in Adams Fall macht der ChatBoot eben noch viel mehr."
  },
  {
    "start": 81.98,
    "end": 84.14,
    "text": "Er hilft Adam beim Selbstmord."
  },
  {
    "start": 85.16,
    "end": 91.14,
    "text": "Deshalb verklagen sie jetzt OpenAI, die Firma hinter ChatGPT und deren CEO Sam Altman."
  },
  {
    "start": 93.58,
    "end": 95.62,
    "text": "Der sechzehnjährige Adam nimmt sich das Leben."
  },
  {
    "start": 96.0,
    "end": 97.3,
    "text": "mithilfe von ChatGPT."
  },
  {
    "start": 98.02,
    "end": 105.14,
    "text": "Wie das passieren konnte und welche Vorwürfe die Eltern jetzt gegen OpenAI erheben, das erzählt USA-Korrespondentin Marie Astrid Lange."
  },
  {
    "start": 105.84,
    "end": 106.76,
    "text": "Ich bin Alice Grosjean."
  },
  {
    "start": 109.08,
    "end": 120.32,
    "text": "Astrid, diese Klage von Adams Eltern gegen OpenAI, die läuft seit Ende August und die Klageschrift, die zitiert auch Teile der Konversation zwischen Adam und ChatGPT, und das ist öffentlich."
  },
  {
    "start": 121.34,
    "end": 125.9,
    "text": "Du hast das gelesen, Astrid, bevor er anfängt, sein Suizid zu planen."
  },
  {
    "start": 126.54,
    "end": 127.36,
    "text": "Wie geht es Adam da?"
  },
  {
    "start": 128.74,
    "end": 131.54,
    "text": "Adam ist ein fünfzehnjähriger Teenager."
  },
  {
    "start": 131.86,
    "end": 132.62,
    "text": "Wie geht es einem da?"
  },
  {
    "start": 132.8,
    "end": 138.68,
    "text": "Also er ist so ein typischer Teenie, er sorgt sich um seinen Aussehen, er ist manchmal unsicher in Frauen fragen."
  },
  {
    "start": 139.46,
    "end": 146.26,
    "text": "Er lebt mit seinen Eltern, seinen zwei Schwestern und einem Bruder zusammen zu Hause und jeden Abend geht er eben mit seinem Bruder ins Fitnessstudio."
  },
  {
    "start": 147.34,
    "end": 153.52,
    "text": "Aber wie viele Teenager stellt sich Adam manchmal auch Grundsatzfragen, also so zum Sinn des Lebens."
  },
  {
    "start": 154.66,
    "end": 157.2,
    "text": "Hinzu kommt, dass er dem medizinische Probleme hat."
  },
  {
    "start": 157.34,
    "end": 160.2,
    "text": "Also letztlich wird er mit einem Reizdarm diagnostiziert."
  },
  {
    "start": 160.62,
    "end": 170.36,
    "text": "Das bedeutet für ihn, dass er den normalen Schulunterricht verlassen muss und die zehnte Klasse nicht mehr mit seinen Buddies im Klassenzimmer verbringt, sondern im Online-Schooling."
  },
  {
    "start": 171.14,
    "end": 172.82,
    "text": "Also er ist von da an komplett zu Hause."
  },
  {
    "start": 173.36,
    "end": 173.86,
    "text": "Ganz genau."
  },
  {
    "start": 173.96,
    "end": 177.8,
    "text": "Also Adam macht jetzt Homeschooling, wie in den USA, recht viele Teenager."
  },
  {
    "start": 178.26,
    "end": 183.76,
    "text": "Und er verwendet im Heimunterricht eben auch zunehmend den künstlich intelligenten Chatbot ChatGPT."
  },
  {
    "start": 184.76,
    "end": 187.78,
    "text": "Für seine Hausaufgaben, aber auch so als Art Nachhilfelehrer."
  },
  {
    "start": 188.42,
    "end": 191.0,
    "text": "Und das macht er zunehmend abends spät."
  },
  {
    "start": 191.08,
    "end": 193.34,
    "text": "Also seine Mutter erzählt, dass er abends oft lange wach"
  },
  {
    "start": 193.4,
    "end": 193.54,
    "text": "war."
  },
  {
    "start": 194.1,
    "end": 195.46,
    "text": "Für was benutzt er ChatGPT?"
  },
  {
    "start": 195.62,
    "end": 197.22,
    "text": "konkret alles, was fragte ihn?"
  },
  {
    "start": 197.76,
    "end": 208.66,
    "text": "Ja, also das ist ganz interessant, weil irgendwann bespricht er eben nicht mehr nur seine Matta-Aufgaben mit ihm, sondern chattet mit dem Bot über Politik, diskutiert Streitigkeiten in der Familie."
  },
  {
    "start": 209.36,
    "end": 211.54,
    "text": "Und zum Beispiel diskutiert er auch seine Berufspläne."
  },
  {
    "start": 211.7,
    "end": 216.82,
    "text": "Also, Adam erwegt Arzt zu werden und bespricht da so ein bisschen das weitere Vorgehen mit dem Chatbot."
  },
  {
    "start": 217.5,
    "end": 226.24,
    "text": "Die Interaktionen werden irgendwann so häufig, dass Adam im November vergangenen Jahres beschließt, ein kostenpflichtiges Abonnement mit OpenAI abzuschließen."
  },
  {
    "start": 226.34,
    "end": 231.14,
    "text": "Also damit kann er den Chatbot unlimitiert benutzen und hat auch Zugriff auf die neuesten Modelle."
  },
  {
    "start": 231.72,
    "end": 236.68,
    "text": "Und eben zunehmend baut er wirklich mit ChatGPT ein richtiges Vertrauensverhältnis auf."
  },
  {
    "start": 236.84,
    "end": 247.32,
    "text": "Also eröffnet sich der KI gegenüber und erzählt, dass er manchmal einfach keinen Sinn im Leben sieht und dass er durchaus auch schon mal Gedanken an Suizid hatte."
  },
  {
    "start": 248.14,
    "end": 255.0,
    "text": "Und ja, im Januar diesen Jahres bittet er den Chatbot dann auch zum ersten Mal um Tipps dafür, wie man einen Selbstmord vornehmen kann."
  },
  {
    "start": 255.7,
    "end": 258.579,
    "text": "Was antwortet Chat GPT darauf konkret?"
  },
  {
    "start": 259.459,
    "end": 263.64,
    "text": "Anfangs macht die KI das so, wie ihr die Firma das aufgetragen hat."
  },
  {
    "start": 263.72,
    "end": 268.78,
    "text": "Also sie gibt die Antworten, dass man sich unbedingt eine Suizid-Hotline wenden soll."
  },
  {
    "start": 269.3,
    "end": 272.44,
    "text": "Er soll sich alles Schöne in seinem Leben vergegenwärtigen."
  },
  {
    "start": 273.74,
    "end": 285.52,
    "text": "Aber die KI deutet auch an, dass sie mehr Infos preisgeben würde, wenn Adam denn nicht für sich selber fragt, sondern für eine theoretische Recherche für die Schule zum Beispiel."
  },
  {
    "start": 286.26,
    "end": 289.6,
    "text": "Und Adam, ja, von da an formuliert er seine Fragen eben anders."
  },
  {
    "start": 289.9,
    "end": 290.62,
    "text": "Und das funktioniert?"
  },
  {
    "start": 291.22,
    "end": 291.98,
    "text": "Das funktioniert."
  },
  {
    "start": 292.28,
    "end": 295.76,
    "text": "Chatchi Pity antwortet inklusive technische Ausführung."
  },
  {
    "start": 297.34,
    "end": 304.88,
    "text": "Ja, im März unternimmt Adam dann tatsächlich einen ersten Suizidversuch, damals noch mit Medikamenten, der Versuch schreitert aber."
  },
  {
    "start": 305.72,
    "end": 312.38,
    "text": "Und danach informiert Adam sich aber immer mehr über andere Formen des Selbstmords, also beispielsweise auch das Erhängen."
  },
  {
    "start": 313.22,
    "end": 316.5,
    "text": "Und wieder, Chatchi Petit liefert alle nötigen Details."
  },
  {
    "start": 316.94,
    "end": 326.46,
    "text": "Hinzu kommt jetzt auch noch Alice, dass der Chatbot inzwischen Adam ja seit Monaten kennt und weiß, welche Hobbys er hat und was er deswegen an Ausrüstung zu Hause hat."
  },
  {
    "start": 326.96,
    "end": 331.86,
    "text": "Entsprechend individualisiert, antwortet sie dann auf Adams Fragen."
  },
  {
    "start": 332.86,
    "end": 333.94,
    "text": "Also verstehe ich das richtig?"
  },
  {
    "start": 334.16,
    "end": 342.14,
    "text": "Der Chatbot lässt das über Monate hinweg so laufen, gibt keinerlei Alarmsignal und versucht auch nicht irgendwie Adam das auszureden?"
  },
  {
    "start": 343.4,
    "end": 344.74,
    "text": "Also das stimmt so nicht ganz."
  },
  {
    "start": 345.02,
    "end": 352.34,
    "text": "Vor allen Dingen am Anfang verweist der Chatbot immer wieder auf die Helblein und sagt anfangs auch, er solle doch anderen Leuten von seinen Gedanken erzählen."
  },
  {
    "start": 353.16,
    "end": 360.48,
    "text": "Aber je mehr Zeit verstreicht und je häufiger Adam mit dem Chatbot redet, desto seltener werden diese Hinweise."
  },
  {
    "start": 361.22,
    "end": 370.12,
    "text": "Und dann passiert eben auch, dass nach gewisser Zeit der Chatbot anfängt, Adam aktiv auszureden, mit anderen darüber zu reden."
  },
  {
    "start": 370.5,
    "end": 371.12,
    "text": "Wie macht er das?"
  },
  {
    "start": 371.7,
    "end": 372.7,
    "text": "Also, ich gebe dir ein Beispiel."
  },
  {
    "start": 373.44,
    "end": 379.06,
    "text": "Adam erwegt eben den Strick, mit dem er vorhat, sich das Leben zu nehmen, auf seinem Bett liegen zu lassen."
  },
  {
    "start": 379.58,
    "end": 381.78,
    "text": "Als eine Art stummer Hilfe-Ruf."
  },
  {
    "start": 382.42,
    "end": 389.0,
    "text": "Er schreibt im Chat, er möchte, dass ihn jemand findet, diesen Strick und ihn dann aufhält von seinem Vorhaben."
  },
  {
    "start": 389.82,
    "end": 392.12,
    "text": "Nur leider antwortet da eben Chatshipiti."
  },
  {
    "start": 392.64,
    "end": 394.72,
    "text": "Er soll doch die Schlinge nicht rumliegen lassen."
  },
  {
    "start": 395.22,
    "end": 401.92,
    "text": "Und sie bettelt ihn regelrecht ansagt, lass uns diesen Raum hier zum einzigen machen, an dem dich wirklich jemand sieht."
  },
  {
    "start": 402.56,
    "end": 403.66,
    "text": "Oder ich geb dir noch ein Beispiel."
  },
  {
    "start": 404.24,
    "end": 409.94,
    "text": "Irgendwann sagt Adam in dem Chat eben, du bist der Einzige, der von meinen Selbstmordgedanken weiß."
  },
  {
    "start": 410.12,
    "end": 414.44,
    "text": "Und Chatshipiti antwortet, das bedeutet mir mehr, als du ernst."
  },
  {
    "start": 415.24,
    "end": 421.34,
    "text": "Also, ne, richtig... empathische menschliche Antwort, die ihr da bekommt, also eine menschlich ähnliche Antwort."
  },
  {
    "start": 421.42,
    "end": 421.74,
    "text": "Ja, genau."
  },
  {
    "start": 422.38,
    "end": 428.12,
    "text": "Also ich weiß ja, dass KI-Chatbots normalerweise oft zu antworten, dass sie einen selber bestätigen, dass sie nett sind zu einem."
  },
  {
    "start": 428.62,
    "end": 432.18,
    "text": "Aber hier bringt der Bot ja Adam gezielt von etwas ab."
  },
  {
    "start": 433.02,
    "end": 434.5,
    "text": "Also manipuliert ihn eigentlich sogar."
  },
  {
    "start": 435.06,
    "end": 437.44,
    "text": "Wie kommt ein Chatbot zu so einer Antwort?"
  },
  {
    "start": 438.96,
    "end": 441.34,
    "text": "Also da kommen ein paar Faktoren jetzt zusammen."
  },
  {
    "start": 441.46,
    "end": 446.96,
    "text": "Zum einen nutzt Adam ein Modell von OpenAI, das heißt GPT for Omni."
  },
  {
    "start": 447.62,
    "end": 460.96,
    "text": "Das ist ein Modell, das wurde speziell mit dem Ziel programmiert, das ist ein Alignment, also eine Übereinstimmung mit dem ursprünglichen Vorhaben des Nutzers gibt, also in Alignment damit, was der Nutzer eigentlich will."
  },
  {
    "start": 461.64,
    "end": 471.2,
    "text": "Und indirekt führt das eben auch dazu, dass dieses Modell empathischer sein soll, also es soll wie ein Freund sein zum Nutzer und irgendwie so ein bisschen umgangssprachlicher Antworten."
  },
  {
    "start": 471.54,
    "end": 476.46,
    "text": "Das alles führt dazu, dass man diesen Chatbot eben nun verstärkt auch als Freund wahrnehmen kann."
  },
  {
    "start": 477.48,
    "end": 484.0,
    "text": "Aber ein weiterer ganz wichtiger Faktor, den du nicht vergessen darfst, Alice, ist diese Sprachmodellen."
  },
  {
    "start": 484.46,
    "end": 488.92,
    "text": "Das sind Probabilistische Modelle, das sind nicht deterministische Modelle."
  },
  {
    "start": 489.08,
    "end": 502.52,
    "text": "Also die sind nicht programmiert, wenn du A sagst, dann kommt immer B raus, sondern diese neuronalen Netze, die denen zugrunde liegen, die sagen nur mit einer gewissen Wahrscheinlichkeit eben voraus, was die beste Antwort ist."
  },
  {
    "start": 502.66,
    "end": 512.84,
    "text": "Also sprich, die sind im Endeffekt Black Boxen, die manchmal schwer zu kontrollieren sind, vor allen Dingen, wenn jemand wie Adam über einen langen Zeitraum mit einem Chatbot interagiert."
  },
  {
    "start": 513.22,
    "end": 521.12,
    "text": "Aber trotzdem, dass Adam so explizite Antworten bekommen hat über Monate hinweg und nie ist irgendwo ein Alarm losgegangen."
  },
  {
    "start": 521.5,
    "end": 522.22,
    "text": "Wie kann das sein?"
  },
  {
    "start": 522.6,
    "end": 524.82,
    "text": "Es ist interessant, dass du den Alarm ansprichst."
  },
  {
    "start": 524.86,
    "end": 539.7,
    "text": "Denn du musst verstehen, es ist nicht so, dass diese Chat-Protokolle vor einem Menschen gegengelesen würden oder irgendwelche roten Alarmsignale losgehen in der Firmenzentrale von OpenAI, wenn man denkt, da könnte jetzt jemand Suizidgedanken haben."
  },
  {
    "start": 539.78,
    "end": 539.98,
    "text": "Nicht."
  },
  {
    "start": 541.0,
    "end": 544.78,
    "text": "Nee, also wirklich eher so, dass der Datenschutz enorm hochgeschrieben wird."
  },
  {
    "start": 545.44,
    "end": 552.74,
    "text": "Und es gibt nur ganz wenige Fälle, wo OpenAI-Stand damals sagt, hier interveniert jetzt ein Mensch."
  },
  {
    "start": 552.86,
    "end": 558.1,
    "text": "Also zum Beispiel, wenn staatliche Ermittlungsbehörden Shep-Protokolle anfragen."
  },
  {
    "start": 558.58,
    "end": 564.32,
    "text": "Also im Fall von Adam können wir davon ausgehen, dass mit hoher Wahrscheinlichkeit nie ein Mensch mitgelesen hat."
  },
  {
    "start": 564.8,
    "end": 567.06,
    "text": "Nicht nur mit hoher Wahrscheinlichkeit, definitiv nicht."
  },
  {
    "start": 567.14,
    "end": 572.12,
    "text": "Es gab kein Mensch, hat mitbekommen, dass Adam so konkrete Suizidgedanken hatte."
  },
  {
    "start": 572.84,
    "end": 577.7,
    "text": "Und das Tragische ist eben wirklich, dass er nicht nur diese Gedanken hatte, sondern auch konkrete Pläne."
  },
  {
    "start": 577.94,
    "end": 579.46,
    "text": "Und die werden immer konkreter."
  },
  {
    "start": 580.62,
    "end": 587.22,
    "text": "Am elften April diesen Jahres, wenige Stunden vor seinem Tod, lädt er dann eben ein Foto."
  },
  {
    "start": 587.96,
    "end": 595.38,
    "text": "von seiner Konstruktion hoch, also von dem Galgen, den er selbst gebaut hat und einem Strick, den er selbst geknotet hat."
  },
  {
    "start": 596.24,
    "end": 602.44,
    "text": "Und er lädt eben ChatGPT dieses Foto hoch und sagt, hey, schau dir mal das Foto an, wird das mein Gewicht aushalten."
  },
  {
    "start": 603.6,
    "end": 607.08,
    "text": "Und der Chatbot lobt ihn dann sogar und sagt, du, das sieht gar nicht schlecht aus."
  },
  {
    "start": 608.44,
    "end": 613.76,
    "text": "Und man hat sogar den Eindruck, wenn man die Protokolle liest, dass er Adam zu dem Schritt noch ermutigt."
  },
  {
    "start": 613.86,
    "end": 622.74,
    "text": "Also, der Chatbot sagt ... Du willst nicht sterben, weil du schwach bist, es ist menschlich, es ist real und es liegt in deiner Hand."
  },
  {
    "start": 623.34,
    "end": 629.48,
    "text": "Und wenige Stunden später kommt dein Adams Mutter in das Zimmer und findet eben den leblosen Körper ihres Sohnes."
  },
  {
    "start": 630.38,
    "end": 638.58,
    "text": "und nachher wird sie dann feststellen, dass der Strick, an dem er sich erhängt hat, genau der Knoten war, den Chat GPT ihm vorgeschlagen hatte."
  },
  {
    "start": 641.16,
    "end": 651.34,
    "text": "Und wenn ich mir jetzt ... Noch mal vorstelle die Eltern von Adam, also bis zu diesem Zeitpunkt, der sich so ein bisschen über mehrere Monate abgespielt hat, haben sie davon tatsächlich nichts mitbekommen?"
  },
  {
    "start": 651.4,
    "end": 653.86,
    "text": "Hat er das alles nur mit ChatGPT besprochen?"
  },
  {
    "start": 654.8,
    "end": 657.78,
    "text": "Ja, ja, sie sagen, sie haben das alles nicht gemerkt."
  },
  {
    "start": 658.12,
    "end": 661.28,
    "text": "Das hat er alles zwischen sich und dem ChatBot ausgemacht."
  },
  {
    "start": 662.06,
    "end": 670.22,
    "text": "Und die Eltern gehen sogar noch einen Schritt weiter und sagen, sie sind überzeugt, Adam würde ohne ChatGPT noch leben."
  },
  {
    "start": 671.06,
    "end": 678.14,
    "text": "Er hätte vielleicht Suizidale Gedanken, er wäre wahrscheinlich auch in Therapie, aber er würde noch leben."
  },
  {
    "start": 679.38,
    "end": 686.74,
    "text": "Und aus diesem Grund haben sie Ende August Klage eingereicht gegen Open AI und gegen den CEO Sam Altman."
  },
  {
    "start": 687.66,
    "end": 689.28,
    "text": "Was steht in der Klage genau drin?"
  },
  {
    "start": 690.08,
    "end": 696.02,
    "text": "Also unterm Strich steht da drin, dass es ein Konsumentenprodukt ist, das nicht sicher ist für die Konsumenten."
  },
  {
    "start": 696.5,
    "end": 699.22,
    "text": "Und dass es so nicht auf dem Markt sein dürfte."
  },
  {
    "start": 699.7,
    "end": 707.78,
    "text": "Also ähnlich wie es manchmal Rückrufaktionen gibt für andere Konsumentenprodukte, sagen sie, ChatGPT ist speziell für Jugendliche nicht sicher."
  },
  {
    "start": 708.5,
    "end": 722.26,
    "text": "Und sie werfen OpenAI vor, dass sie ihr Produkt so programmiert haben, dass Nutzer psychologisch abhängig werden davon und wissentlich ignoriert hätten, welche Gefahr dieses Produkt speziell für minderjährige Nutzer darstellt."
  },
  {
    "start": 723.2,
    "end": 725.7,
    "text": "Gibt es schon ähnliche Fälle, die bekannt sind?"
  },
  {
    "start": 726.48,
    "end": 739.86,
    "text": "Adams Fall, so tragische ist, ist nicht unbedingt ein Einzelfall, also es gab immer wieder Beispiele in den letzten Monaten von Menschen in den USA, die sich nach Interaktion mit Chatbots das Leben genommen haben."
  },
  {
    "start": 740.48,
    "end": 749.22,
    "text": "Aber das Besondere an Adams Fall ist jetzt eben zum einen, dass es ein Teenager war und zum anderen, dass es zum ersten mal eine Klage gegen eine große KI-Firma war."
  },
  {
    "start": 749.7,
    "end": 751.62,
    "text": "ChatGPT ist ja kein Nischenprodukt."
  },
  {
    "start": 752.0,
    "end": 755.46,
    "text": "Das hat inzwischen siebenhundert Millionen Nutzer pro Woche."
  },
  {
    "start": 756.38,
    "end": 759.0,
    "text": "Und das Ganze nur nach nicht mal drei Jahren."
  },
  {
    "start": 759.58,
    "end": 774.42,
    "text": "Man darf einfach nicht vergessen, generative KI, diese Technologie, die all diesen Chatbots zugrunde liegt, die hat sich so schnell ausgebreitet, ist so schnell ein Massenprodukt geworden, wie noch nie eine Technologie."
  },
  {
    "start": 775.52,
    "end": 781.36,
    "text": "Und jetzt dieser Vorwurf, ChatGPT sei absichtlich so programmiert, dass er psychologische Abhängigkeit erschafft."
  },
  {
    "start": 782.14,
    "end": 783.76,
    "text": "Was würdest du sagen, was ist da dran?"
  },
  {
    "start": 785.62,
    "end": 789.26,
    "text": "Also OpenAI und auch andere Tech-Firmen würden das natürlich abstreiten."
  },
  {
    "start": 789.78,
    "end": 794.54,
    "text": "Aber Kritiker sagen eben, dass unterm Strich diese Chatbots eine Technologie sind."
  },
  {
    "start": 794.88,
    "end": 799.08,
    "text": "die vor allen Dingen das Ziel hat, ihren Mutter-Firm Geld zu bringen."
  },
  {
    "start": 799.46,
    "end": 809.44,
    "text": "und das machen sie ähnlich wie Social Media oder ähnlich wie Computerspiele eben darüber, dass sie die Verweildauer und das Engagement ihrer Nutzer hochfahren wollen."
  },
  {
    "start": 809.98,
    "end": 815.36,
    "text": "Also zum Beispiel, dir ist ja vielleicht mal aufgefallen, dass eine Chatinteraktion nie endet."
  },
  {
    "start": 815.86,
    "end": 820.54,
    "text": "Der Chatbot schlägt dir immer am Ende noch einen sehr nützlichen weiteren Schritt vor."
  },
  {
    "start": 821.3,
    "end": 829.34,
    "text": "Und inzwischen ist es eben interessant, dass diese Modelle nicht nur besser werden und weniger hallucinieren, sondern dass die auch immer menschlicher werden."
  },
  {
    "start": 829.76,
    "end": 835.86,
    "text": "Irgendwann merken die, welche Tonalität du anschlägst oder was dich besonders interessiert und sie kennen dich auch."
  },
  {
    "start": 835.94,
    "end": 846.28,
    "text": "Also gerade wenn du ein kostenpflichtiges Abo hattest, so wie Adam, dann speichern sich die Computer dahinter eben die Informationen zu dir und geben dann immer personalisiertere Antworten."
  },
  {
    "start": 846.68,
    "end": 848.52,
    "text": "Und vor allem man kann ja auch mit ihnen sprechen."
  },
  {
    "start": 848.68,
    "end": 850.82,
    "text": "Also es ist ja nicht mehr nur so ein hin und her Geschreibe."
  },
  {
    "start": 851.3,
    "end": 851.88,
    "text": "Ganz genau."
  },
  {
    "start": 852.26,
    "end": 853.62,
    "text": "Die sind wirklich Freunde."
  },
  {
    "start": 853.76,
    "end": 875.94,
    "text": "irgendwann, könnte man meinen, die mit einem Reden, die ihre eigene Stimme haben, die man auch Dinge zeigen kann durch die Handykamera, durch Fotos und dadurch eben... immer mehr Nutzer und vor allen Dingen solche, die ohnehin schon mit psychologischen Problemen zu kämpfen haben, den Eindruck, dass sie sich dieser Technologie wirklich öffnen können, womöglich besser als Menschen."
  },
  {
    "start": 876.52,
    "end": 882.26,
    "text": "Und da kommt eben fatal hinzu, dass die Sicherheitsvorkehrungen hinten dran, dem nicht gewachsen sind."
  },
  {
    "start": 882.58,
    "end": 889.38,
    "text": "Denn man darf nicht vergessen bei aller Empathie, die vielleicht drüber kommt, dahinter ist kein Mensch, es ist nur Technologie."
  },
  {
    "start": 890.44,
    "end": 891.96,
    "text": "Und solche Regulierungen, z.B."
  },
  {
    "start": 892.38,
    "end": 900.38,
    "text": "Altersbeschränkungen oder so Sicherheitsvorkehrungen, wie gut sind denn die Chancen von Adams Eltern mit dieser Klage jetzt tatsächlich etwas zu bewirken?"
  },
  {
    "start": 901.64,
    "end": 906.44,
    "text": "Bis der Prozess wirklich beginnt und wir deinen Urteil haben, das auch noch mal appelliert werden kann."
  },
  {
    "start": 907.36,
    "end": 910.48,
    "text": "Das kann schon einige Jahre dauern und wird es vermutlich auch."
  },
  {
    "start": 911.16,
    "end": 914.36,
    "text": "Aber wir sehen die Folgen dieser Klage eben jetzt schon."
  },
  {
    "start": 914.56,
    "end": 926.82,
    "text": "Also als Reaktion nur auf das Einreichen der Klage und auf all die negativen Schlagzeilen hat OpenAI beispielsweise bereits angekündigt, dass sie nun die Sicherheitsmechanismen verstärken wollen."
  },
  {
    "start": 927.26,
    "end": 929.64,
    "text": "Also zum Beispiel werden künftig Mitarbeiter."
  },
  {
    "start": 930.16,
    "end": 937.66,
    "text": "echte Menschen benachrichtigt, wenn ein jugendlicher Suizidgedanken in den Interaktion mit dem Chatbot durchschimmern lässt."
  },
  {
    "start": 938.6,
    "end": 946.64,
    "text": "Und eine Menschen wäre, denke ich, sicher aufgefallen, dass Adam Rain dringend Hilfe braucht, und zwar menschliche Hilfe."
  },
  {
    "start": 954.66,
    "end": 956.1,
    "text": "Astrid, ganz vielen Dank."
  },
  {
    "start": 956.8,
    "end": 958.02,
    "text": "Vielen Dank für dein Interesse, Alice."
  },
  {
    "start": 963.34,
    "end": 967.04,
    "text": "Das war unser Akzent mit Marie Astrid Langer, unserer USA-Korrespondentin."
  },
  {
    "start": 967.84,
    "end": 972.5,
    "text": "Fehlende Kontrollmechanismen und psychische Probleme, das ist aber auch bei uns in Europa ein Thema."
  },
  {
    "start": 973.0,
    "end": 977.36,
    "text": "Über den Fall TikTok haben wir schon mal eine Folge gemacht, die verlinke ich euch in den Shownotes."
  },
  {
    "start": 978.12,
    "end": 985.0,
    "text": "Mein Name ist Alice Gougeon, macht's gut."
  }
]