[
  {
    "start": 0.14,
    "end": 1.48,
    "text": "Der AMBOSS Podcast."
  },
  {
    "start": 2.0,
    "end": 11.24,
    "text": "Ärztliches Wissen für Klinik und Traxis von AMBOS, der Wissensplattform mit der jede vierte Ärztin jeder vierter Arzt lernt die sie für klinische Entscheidungen nutzen."
  },
  {
    "start": 11.34,
    "end": 21.8,
    "text": "zur Vorder- und Weiterbildung Heute mit einer ganz besonderen Folge, mit einer Live-Podcast Aufzeichnung vom Jahreskongress der Deutschen Gesellschaft für innere Medizin in Wiesbaden."
  },
  {
    "start": 21.92,
    "end": 23.7,
    "text": "Ich freue mich sehr dass wir das heute so machen können."
  },
  {
    "start": 24.1,
    "end": 27.86,
    "text": "Wir haben ein sehr spannendes Thema heute Menschen Maschinen und Moral."
  },
  {
    "start": 28.46,
    "end": 33.5,
    "text": "Welche ethische Rahmensetzung brauchen wir für künstliche Intelligenz im Gesundheitswesen?"
  },
  {
    "start": 34.2,
    "end": 40.5,
    "text": "Und ich freue mich besonders, dass sich hier heute sprechen darf einmal mit Professor Martin Hirsch."
  },
  {
    "start": 40.8,
    "end": 44.18,
    "text": "Er ist Neurowissenschaftler und hat die Ada Health gegründet."
  },
  {
    "start": 44.32,
    "end": 48.36,
    "text": "Und er ist Professor für künstliche Intelligenz in der Medizin an der Uni Marburg."
  },
  {
    "start": 48.46,
    "end": 49.24,
    "text": "Martin herzlich willkommen!"
  },
  {
    "start": 49.28,
    "end": 50.28,
    "text": "Vielen Dank, dass du heute hier bist."
  },
  {
    "start": 50.52,
    "end": 51.92,
    "text": "Ja vielen dank, dass ich hier sein darf."
  },
  {
    "start": 53.12,
    "end": 55.5,
    "text": "Dann daneben sehen wir Dr."
  },
  {
    "start": 55.82,
    "end": 67.64,
    "text": "Markus Hermann, er ist Philosoph, er isst Medizinetiker und arbeitet am National Center for Tumor Diseases in Heidelberg und bevorsteht auch die Implementierung von künstlicher Intelligenz in die Praxis."
  },
  {
    "start": 68.16,
    "end": 68.8,
    "text": "Herzlich willkommen!"
  },
  {
    "start": 69.24,
    "end": 70.3,
    "text": "Vielen Dank für die Einladung"
  },
  {
    "start": 71.22,
    "end": 71.34,
    "text": "Und"
  },
  {
    "start": 71.66,
    "end": 71.76,
    "text": "ich"
  },
  {
    "start": 72.22,
    "end": 73.14,
    "text": "begrüße auch Dr."
  },
  {
    "start": 73.24,
    "end": 74.02,
    "text": "Patrizia Hinske."
  },
  {
    "start": 74.14,
    "end": 85.88,
    "text": "Sie verantwortet bei AMBOS den Bereich Klinische Innovationen hat da natürlich auch jede Menge mit künstlichen Intelligenzen zu tun Hallo Patrizian Und wir bedanken uns natürlich auch ganz herzlich, dass wir das heute hier machen können."
  },
  {
    "start": 86.0,
    "end": 100.66,
    "text": "Wir haben einen Gastgeber die Arbeitsgemeinschaft künstliche Intelligenz in der Medizin der Deutschen Gesellschaft für innere Medizin und da würde ich gerne das Wort übergeben an Professor Iwica Grigic, der ein paar Worte hier zum Digimfutur für uns vorbereitet hat."
  },
  {
    "start": 101.82,
    "end": 102.74,
    "text": "Ja hi vielen Dank!"
  },
  {
    "start": 103.08,
    "end": 105.2,
    "text": "Also ich bin nur Internist- und Nephrologer."
  },
  {
    "start": 111.88,
    "end": 124.88,
    "text": "Martin Hirsch eben dieses recht neuen Segments, das wir innerhalb der deutschen Gesellschaft für Inno-Medizin haben oder im Rahmen des Jahreskongresses auch letztes Jahr Premiere gefeiert und dieses Jahr haben wir es erneut hier in das Weiterentwickelt."
  },
  {
    "start": 125.32,
    "end": 144.04,
    "text": "Und als wir das war so um Weihnachten herum die Anfrage halten haben ob es nicht Sinn machen würde dass vielleicht eine Panel Diskussion organisiert von Ambos starten zu einem relevanten Thema, das uns Mediziner sehr umtreibt waren aus offener Tür die eingerannt wurden sind ja sehr happy, dass wir die Venue dafür bieten können."
  },
  {
    "start": 144.16,
    "end": 164.02,
    "text": "Digiputur bietet neue Technologien für die Besucher des Kongresses hier zum Anfassen, das da so ein bisschen die Hürden nehmen, Tech in Touch haben was genannt und vielleicht haben sie im Anschluss noch Zeit, so ein paar Sachen auszuprobieren, hier in die Diskussion zu treten, testen alles aus, aus sich hier in den Händel bekommen."
  },
  {
    "start": 164.24,
    "end": 169.06,
    "text": "aber freue mich jetzt vor allen Dingen auf eure Panel-Diskussionen zu einem sehr spannenden Thema und"
  },
  {
    "start": 170.1,
    "end": 170.46,
    "text": "eure Bühne!"
  },
  {
    "start": 171.32,
    "end": 171.66,
    "text": "Vielen Dank!"
  },
  {
    "start": 172.44,
    "end": 174.16,
    "text": "Dann würde ich sagen, starten wir rein."
  },
  {
    "start": 174.26,
    "end": 185.04,
    "text": "Es geht uns darum dass wir heute praxisnah über medizinethische Themen sprechen und da würde ich Sie gleich gerne alle mit einladen vielen dank natürlich auch das sie heute hier sind mit abzustimmen."
  },
  {
    "start": 185.62,
    "end": 187.98,
    "text": "Wir haben ein ethisches Dilemma vorbereitet."
  },
  {
    "start": 188.06,
    "end": 190.74,
    "text": "Hier sehen Sie den QR Code für Slido."
  },
  {
    "start": 191.26,
    "end": 192.64,
    "text": "Da können Sie mit abstimmen."
  },
  {
    "start": 193.42,
    "end": 201.14,
    "text": "Und jetzt stellen Sie sich mal vor Sie sind in der Situation ärztlich wo sie auf sich allein gestellt sind."
  },
  {
    "start": 201.2,
    "end": 206.82,
    "text": "Ich weiß nicht, sagen wir auf dem Kreuzfahrtschiff im Atlantik es ist Sturmkommunikation ausgefallen."
  },
  {
    "start": 206.86,
    "end": 208.84,
    "text": "sie sind wirklich auf sich alleine gestellt."
  },
  {
    "start": 208.9,
    "end": 211.18,
    "text": "Es gibt keine weitere Meinungen die sie hinzuholen können."
  },
  {
    "start": 211.62,
    "end": 213.96,
    "text": "Sie haben eine Patientin vor sich und untersucht."
  },
  {
    "start": 214.2,
    "end": 223.98,
    "text": "sie sind zu einer Diagnose gekommen Quasi automatisch, als zweite Meinung meldet sich bei Ihnen ein klinisches Entscheidungsunterstützungssystem."
  },
  {
    "start": 224.22,
    "end": 231.74,
    "text": "Das basiert auf einer künstlichen Intelligenz und Sie wissen dieses System das liegt in einundneunzig Prozent der Fälle richtig."
  },
  {
    "start": 232.06,
    "end": 244.42,
    "text": "Ja, das war ein Validierungsprozess und sie wissen diese KI die ist in Einund neunzig prozent der Felle mit ihrer Diagnose richtig Und die meldet es ich jetzt bei ihnen und sagt hey ich sehe das ein bisschen anders als du."
  },
  {
    "start": 244.54,
    "end": 254.6,
    "text": "Ich komme auf eine andere Diagnose, legt Ihnen auch Angaben vor aus Richtlinien und sie schauen sich das an und sichten das aber es holts nicht so ganz ab ja?"
  },
  {
    "start": 255.1,
    "end": 261.16,
    "text": "Und jetzt ist die Frage bleiben Sie bei Ihrer Diagnos oder übernehmen Sie die der KI?"
  },
  {
    "start": 261.38,
    "end": 264.2,
    "text": "also bleiben Sie beider Diagnosen Ja oder Nein?"
  },
  {
    "start": 267.76,
    "end": 268.64,
    "text": "Sehr interessant."
  },
  {
    "start": 268.82,
    "end": 279.7,
    "text": "Also wir sehen, dass unsere Publikum von der Sitzung auf sich selbst verletzt wird."
  },
  {
    "start": 279.76,
    "end": 282.32,
    "text": "Und die"
  },
  {
    "start": 283.88,
    "end": 284.14,
    "text": "K.I.,"
  },
  {
    "start": 284.26,
    "end": 286.28,
    "text": "die überzeugen mich, schwenke ich um!"
  },
  {
    "start": 288.98,
    "end": 296.66,
    "text": "Eine zweite Frage an Sie und zwar stellen sie sich mal vor, Sie hätten eine weitere Information also gleiches Ausgangs-Szenario."
  },
  {
    "start": 297.22,
    "end": 299.5,
    "text": "Aber stellen Sie sich vor, sie wüssten einfach,"
  },
  {
    "start": 300.24,
    "end": 300.38,
    "text": "Sie"
  },
  {
    "start": 300.84,
    "end": 306.58,
    "text": "liegen in diesem Feld der Medizin im Regelfall in zweiundachtzig Prozent der Fälle richtig."
  },
  {
    "start": 307.34,
    "end": 311.34,
    "text": "Sie zweiundachzig die künstliche Intelligenz einundneunzig."
  },
  {
    "start": 311.84,
    "end": 313.84,
    "text": "bleiben Sie bei Ihrer eigenen Diagnose."
  },
  {
    "start": 314.62,
    "end": 315.72,
    "text": "bitte nochmal abstimmen."
  },
  {
    "start": 317.26,
    "end": 319.2,
    "text": "Und jetzt sehen wir eine Veränderung."
  },
  {
    "start": 319.52,
    "end": 322.66,
    "text": "Zweiundfünfzig Prozent zu achtundvierzig Prozent!"
  },
  {
    "start": 323.1,
    "end": 328.44,
    "text": "Ich würde mich mal aus dem Fenster lehnen und sagen, jetzt ist es sogar... Es ändert sich, jetzt sind wir genau Fifty-Fifty wunderbar."
  },
  {
    "start": 328.94,
    "end": 331.46,
    "text": "Also da haben wir jetzt doch gesehen, es schwenken einige um."
  },
  {
    "start": 332.28,
    "end": 335.88,
    "text": "Und jetzt ist natürlich die große Frage, was hat es hier mit auf sich?"
  },
  {
    "start": 335.96,
    "end": 338.72,
    "text": "Und Marc, ich würde da gerne dich mit ins Boot nehmen."
  },
  {
    "start": 338.78,
    "end": 344.4,
    "text": "Du bist der Medizinetiker und du hast dir dieses dilemma, dieses ethische Dilemma zu Beginn ausgedacht."
  },
  {
    "start": 344.44,
    "end": 346.36,
    "text": "Warum hast du gerade dieses Dilemmer gewählt?"
  },
  {
    "start": 348.0,
    "end": 359.56,
    "text": "Ich glaube das Dilemmer zeigt ganz gut... die Situation beim Umgang mit KI, die für eure Zuhörerschaft, für praktizierende Ärztinnen und Ärzte sehr relevant ist."
  },
  {
    "start": 360.24,
    "end": 364.76,
    "text": "Denn die tragen ja die letzte Verantwortung beim KI-Einsatz in der Medizin."
  },
  {
    "start": 364.86,
    "end": 375.16,
    "text": "Und hier werden Sie sozusagen in eine Situation gebracht wo sie der letzten Verantwortung gerecht werden müssen, wo es nicht reibungslos läuft."
  },
  {
    "start": 375.22,
    "end": 376.14,
    "text": "Das ist der eine Grund."
  },
  {
    "start": 376.72,
    "end": 383.24,
    "text": "Der andere Grund ist das wir hier was sehen nämlich dass sich die Rolle der Ärztin verändert."
  },
  {
    "start": 383.9,
    "end": 389.54,
    "text": "Wenn ich einen Stethoskop einsetze, dann benutze ich ein ärztliches Instrument um eine Diagnose zu erstellen."
  },
  {
    "start": 390.16,
    "end": 391.66,
    "text": "Das ist hier aber ein bisschen anders."
  },
  {
    "start": 392.22,
    "end": 395.02,
    "text": "Die KI könnte eigentlich ganz alleine operieren."
  },
  {
    "start": 395.44,
    "end": 396.26,
    "text": "Aber wie vertrauen"
  },
  {
    "start": 396.34,
    "end": 397.34,
    "text": "wir nicht richtig?"
  },
  {
    "start": 397.74,
    "end": 407.68,
    "text": "Also bestellen wir Ärztinnen und Ärzte als Aufpasser Als Aufseher über die KI In der Hoffnung dass wir dadurch Fehler korrigieren können."
  },
  {
    "start": 408.5,
    "end": 410.3,
    "text": "Und jetzt gibt es ein großes Problem."
  },
  {
    "start": 411.08,
    "end": 417.82,
    "text": "Wir selbst als Ärztinnen und Ärzte, wir sind uns nicht immer hundert Prozent sicher ob wir richtig sind."
  },
  {
    "start": 418.32,
    "end": 430.44,
    "text": "Und jetzt sind wir auf der einen Seite Aufpasser über die KI aber auf der anderen Seite wollen wir genuine Hilfe von der KI und das ist eine unglaublich schwierige Situation."
  },
  {
    "start": 432.18,
    "end": 435.84,
    "text": "Martin, hättest du gedacht dass unser Publikum so abstimmt?"
  },
  {
    "start": 435.92,
    "end": 436.86,
    "text": "Hättest Du das erwartet?"
  },
  {
    "start": 438.04,
    "end": 438.86,
    "text": "Tatsächlich nicht."
  },
  {
    "start": 439.04,
    "end": 446.8,
    "text": "Ich hätte jetzt eher erwartet auch im zweiten Fall, dass ein bisschen mehr an ihre eigene Entscheidung glauben würden weil wir müssen uns ja mal überlegen was hier gerade passiert ist."
  },
  {
    "start": 447.38,
    "end": 456.28,
    "text": "nur weil wir einen technischen Prozentwert kennen schließen wir uns trauen wir uns immer weniger zu also unsere eigenen Meinung immer weniger."
  },
  {
    "start": 456.96,
    "end": 460.04,
    "text": "aber interpretieren wir diesen prozent wert eigentlich richtig?"
  },
  {
    "start": 460.86,
    "end": 467.18,
    "text": "und warum bringt mich der Prozentwert plötzlich, warum macht er mich selber unsicher hinsichtlich meiner eigenen Meinung?"
  },
  {
    "start": 467.78,
    "end": 471.14,
    "text": "Wir Menschen neigen halt auch zu Selbstzweifeln und zur Selbstreflektion."
  },
  {
    "start": 471.48,
    "end": 475.5,
    "text": "Diese Maschinen die sagen mir einfach nur ihre Einschätzung."
  },
  {
    "start": 475.56,
    "end": 492.54,
    "text": "also ich hätte mir eher gesagt... Ich hätte mir gewünscht dass man sagt nee ich gehe in den Diskurs mit der Maschine ja Also nicht das sich einem Prozent wert glaube sondern den Argumenten der Maschine als wenn die Maschine mir Argumente an die Hand gibt noch nicht bedacht hatte, die mir aber einleuchten."
  },
  {
    "start": 493.02,
    "end": 496.14,
    "text": "Dann laufe ich über zur KI, weil es mir einleuchtet."
  },
  {
    "start": 496.54,
    "end": 498.18,
    "text": "Aber nicht wegen einem Prozent wert!"
  },
  {
    "start": 499.06,
    "end": 506.44,
    "text": "Ich würde nicht einer KI mehr vertrauen, weil ich weiß in zweiundneunzig Prozent war dies richtig und wir Menschen lagen bei seventy-fünf Prozent."
  },
  {
    "start": 506.78,
    "end": 510.58,
    "text": "Aber wenn ich an meine Entscheidungen glaube dann ist mir die KI egal."
  },
  {
    "start": 511.52,
    "end": 520.08,
    "text": "Gut jetzt müssen wir fairerweise zu Ihren Rettung der Internistinnen und Internisten hier sagen Die Antwortmöglichkeit haben wir nicht geboten, konnten wir nicht machen."
  },
  {
    "start": 520.38,
    "end": 523.96,
    "text": "Du wirst also in den Austausch mit der künstlichen Intelligenz gegangen."
  },
  {
    "start": 524.46,
    "end": 527.56,
    "text": "Könnten mir diesen Begriff vielleicht zunächst auch mal definieren?"
  },
  {
    "start": 527.68,
    "end": 529.88,
    "text": "Was ist denn überhaupt künstliche Intelligenze?"
  },
  {
    "start": 530.46,
    "end": 540.92,
    "text": "Also Künstlicheintelligenz... Der Witz bei Künstlicher Intelligenzen Es ist eine Maschine, es ist eine Technologie die sich selber einen Lösungsansatz beibringt."
  },
  {
    "start": 541.1,
    "end": 543.32,
    "text": "Das ist das Hauptmerkmal von Künstlerintelligenz."
  },
  {
    "start": 543.82,
    "end": 548.34,
    "text": "Also selbstlernende Systeme wäre sozusagen die präzisere Definition."
  },
  {
    "start": 548.8,
    "end": 551.86,
    "text": "aber es läuft ja erst mal... ...es ist ein Teilgebiet der künstliche Intelligenz."
  },
  {
    "start": 552.62,
    "end": 555.38,
    "text": "Jetzt kommen wir in eine neue Generation von künstlicher Intelligenz."
  },
  {
    "start": 555.46,
    "end": 564.2,
    "text": "Da kommt neben diesem Selbstlernvermögen noch eine zweite Kompetenz dazu, nämlich das logische Schlussfolgern die sogenannten Reasoning Layer."
  },
  {
    "start": 564.9,
    "end": 579.06,
    "text": "Das heißt, die raten nicht nur wie die ersten GPT-Modelle sondern sie fangen jetzt auch an Plausibilitätschecks zu machen es logisch zu überprüfen was die verschiedenen Agenten innerhalb der Maschine an Ergebnissen liefern und machen sozusagen reasoning."
  },
  {
    "start": 580.0,
    "end": 581.88,
    "text": "die kann ihr nochmal eine ganz andere Sphäre bringen."
  },
  {
    "start": 582.28,
    "end": 591.26,
    "text": "Aber der Witz ist, dass diese Maschinen sich diese Kompetenzen selber beibringen also nicht von Menschen instruiert werden wie sie ein Problem lösen sollen sondern sich da selbst beibringen."
  },
  {
    "start": 592.2,
    "end": 593.86,
    "text": "sagt der Neurowissenschaftler."
  },
  {
    "start": 594.02,
    "end": 595.1,
    "text": "was ergänzt der Ethiker?"
  },
  {
    "start": 595.8,
    "end": 609.78,
    "text": "Ich würde das eigentlich durchweg unterschreiben dass selbst Lernen der wesentliche Aspekt ist und damit gekoppelt, das auch nicht ganz vorhersehbar ist was der Output der KI ist."
  },
  {
    "start": 610.24,
    "end": 618.88,
    "text": "Also dass die Entwickler nicht vorhersagen können zu welchem Ergebnis die KI kommt und auch die Anwenders nicht direkt vorhorsagen können."
  },
  {
    "start": 619.18,
    "end": 626.16,
    "text": "ich glaube nämlich dass in dieser Ungewissheit auch einige der ethischen Spannungen zu verorten sind."
  },
  {
    "start": 626.96,
    "end": 631.36,
    "text": "Vielleicht noch als Ergänzung, man hat ja mir das Gefühl es ist gerade ein Riesenhype rund ums Thema KI."
  },
  {
    "start": 632.3,
    "end": 633.72,
    "text": "ist aber eigentlich gar nicht so neu."
  },
  {
    "start": 633.76,
    "end": 636.08,
    "text": "Und jetzt hast du schon gesagt, KI entwickelt sich weiter."
  },
  {
    "start": 636.16,
    "end": 642.86,
    "text": "Letztlich gibt es aber schon seit den neun zuhundertfünfziger Jahren künstliche Intelligenz ob in den Schachcomputern, in Tetris"
  },
  {
    "start": 642.94,
    "end": 643.06,
    "text": "etc.,"
  },
  {
    "start": 643.5,
    "end": 645.76,
    "text": "sozusagen finden wir auch KI ohne es zu wissen."
  },
  {
    "start": 646.46,
    "end": 651.26,
    "text": "Wir haben aber jetzt noch mal eine Frage an euch oder beziehungsweise zwei Fragen mitgebracht wo ihr nochmal abstimmen dürft."
  },
  {
    "start": 651.32,
    "end": 653.78,
    "text": "und die erste Frage wie ist das denn bei Ihnen?"
  },
  {
    "start": 653.84,
    "end": 668.4,
    "text": "Oder bei Euch nutzt Ihr schon KI im Alltag Ob jetzt mit einer Alexa Series Wo Ihr einfach wisst da ist KI mit in der Technologie drin, bis hin zu ChatGBT für das nächste Kochrezept-Einkaufsliste."
  },
  {
    "start": 668.64,
    "end": 672.82,
    "text": "Ich habe es tatsächlich auf eine Kommunionsvorbereitungsprüfung, weil ein Sohn einmal eingesetzt hat."
  },
  {
    "start": 673.32,
    "end": 674.88,
    "text": "Also da gibt's ja alle Bereiche."
  },
  {
    "start": 675.06,
    "end": 676.64,
    "text": "Wie ist das denn bei euch?"
  },
  {
    "start": 676.76,
    "end": 680.92,
    "text": "Nutzt ihr das regelmäßig selten oder vielleicht sogar noch gar nicht?"
  },
  {
    "start": 682.2,
    "end": 683.52,
    "text": "Wir sehen hier direkt die Auswertungen."
  },
  {
    "start": 683.56,
    "end": 684.28,
    "text": "Das ist wunderbar."
  },
  {
    "start": 684.38,
    "end": 684.88,
    "text": "Real Life."
  },
  {
    "start": 689.52,
    "end": 692.9,
    "text": "Also es ist auf jeden Fall schon angekommen, KI im Alltag."
  },
  {
    "start": 693.84,
    "end": 696.28,
    "text": "Vielleicht einmal für die Zuhörenden zu Hause?"
  },
  {
    "start": 696.52,
    "end": 707.96,
    "text": "Wir sehen jetzt so um die siebenundsiebzig Prozent nutzensregelmäßig, dreiundzwanzig selten und es gibt überhaupt niemandem bei uns im Publikum der es bisher noch nicht genutzt hat oder die nicht weiß was das ist."
  },
  {
    "start": 709.18,
    "end": 713.42,
    "text": "Jetzt die nächste Frage, wir haben ja viel medizinisches Fachpersonal hier sitzen."
  },
  {
    "start": 714.22,
    "end": 718.72,
    "text": "Schauen Sie doch mal in Ihrer Praxis oder in Ihre Klinik und dort Ihren Praxisalltag?"
  },
  {
    "start": 719.22,
    "end": 723.02,
    "text": "nutzen sie auch hier schon zugelassene KI regelmäßig?"
  },
  {
    "start": 723.32,
    "end": 725.48,
    "text": "Oder bisher noch gar nicht oder wissen es vielleicht nicht?"
  },
  {
    "start": 726.06,
    "end": 727.22,
    "text": "das ist die nächste frage."
  },
  {
    "start": 728.02,
    "end": 734.28,
    "text": "Und hier ist sozusagen die Frage Ist es wirklich ein zugelassenes KI-Tool was Sie nutzen?"
  },
  {
    "start": 735.2,
    "end": 741.32,
    "text": "Also wir sprechen jetzt nicht von ChatGBT, frage ich mal nach einer Zweitmeinung sondern wirklich sozusagen wo es fest etabliert ist."
  },
  {
    "start": 741.9,
    "end": 755.02,
    "text": "Da haben wir als Antwort über ja sind ein bisschen weniger als sozusagen im Alltag um die knapp die Hälfte, so rein fünfzig Prozent nutzen also ein zugelassenes KI-Tool, siebenbeißig Prozent bisher noch nicht."
  },
  {
    "start": 755.46,
    "end": 757.18,
    "text": "einige wissen es nicht und andere ganz selten."
  },
  {
    "start": 758.5,
    "end": 762.58,
    "text": "beschreibt eigentlich auch ganz schön, wie die aktuelle Situation ist."
  },
  {
    "start": 763.82,
    "end": 767.38,
    "text": "Wir haben in den Medien und auch hier im Alltag einen riesen Hype um KI."
  },
  {
    "start": 767.62,
    "end": 773.8,
    "text": "nützens fast täglich wenn wir dann tatsächlich in die Kliniken schauen es ist deutlich weniger."
  },
  {
    "start": 775.1,
    "end": 776.8,
    "text": "Im Grunde genommen hat KI."
  },
  {
    "start": 776.98,
    "end": 785.46,
    "text": "wenn mir zum überlegen in welchen Bereichen das sozusagen eingesetzt wird oder werden kann in Zukunft gibt's grob vielleicht sechs Bereiche kann man sagen."
  },
  {
    "start": 785.52,
    "end": 792.38,
    "text": "also Es wird definitiv die Medizin durchdringen, angefangen bei der Diagnostik bis hin zur Therapieunterstützung."
  },
  {
    "start": 792.52,
    "end": 795.26,
    "text": "KI wird eingesetzt bei der Früherkennung."
  },
  {
    "start": 796.5,
    "end": 799.3,
    "text": "Wissensmanagement kommen wir später bestimmt noch drauf zu sprechen."
  },
  {
    "start": 799.62,
    "end": 807.98,
    "text": "Superspannthema Administration und Dokumentation aber auch natürlich sozusagen DIGAS und KI-Gestütze Telemedizin."
  },
  {
    "start": 809.32,
    "end": 813.94,
    "text": "Jetzt noch mal ein paar Beispiele zu nennen, wo wir jetzt schon KI-Anwendungen haben die zugelassen sind."
  },
  {
    "start": 814.72,
    "end": 832.2,
    "text": "Vor allem im Bereich Bilddiagnostik weil KI ist sehr gut im Erkennen von Bilddaten und von Mustern und deswegen haben wir hier relativ viele Zulassungen ob in der Mammografie Hautkrebscreeningbefundung oder in der Endoskopi KI gestützte Systeme die Neoplasien erkennen endoskopisch."
  },
  {
    "start": 833.12,
    "end": 836.62,
    "text": "Und da gibt es schon einiges, was ich besonders spannend finde für uns."
  },
  {
    "start": 837.2,
    "end": 843.62,
    "text": "Für die medizinischen Fachkräfte, die wir ja tagtäglich viel mit Bürokratie zu tun haben ist dieses Feldarztbriefeschreiben."
  },
  {
    "start": 844.3,
    "end": 857.32,
    "text": "Was wir auch ungern tun und über zwei Stunden glaube ich täglich mit bürokratischem Aufwand zu tun habe dass wir da jetzt also KI-Systeme haben die Arztbriefe schreiben oder Ambient AI, vielleicht haben Sie das schon mal gehört."
  },
  {
    "start": 857.36,
    "end": 863.52,
    "text": "Die hört passiv zu bei einem Arztpatientengespräch und fasst simultan dann auch schon sozusagen die Patienten zusammen."
  },
  {
    "start": 863.6,
    "end": 866.22,
    "text": "also da passiert ganz ganz viel."
  },
  {
    "start": 866.82,
    "end": 871.76,
    "text": "aber wieviel haben wir jetzt tatsächlich in der Anwendung in den deutschen Krankenhäusern?"
  },
  {
    "start": 872.14,
    "end": 873.46,
    "text": "Martin kannst du uns einmal abholen?"
  },
  {
    "start": 873.98,
    "end": 881.42,
    "text": "Also gut ich arbeite ja an dem Uniklinikum und das ist sozusagen per Auftrag schon dazu verdammt sich um KI zu kümmern."
  },
  {
    "start": 882.34,
    "end": 889.0,
    "text": "Aber ich glaube, ich teile da in einer Ansicht, dass in den Kliniken selber erstaunlich wenig davon implementiert ist."
  },
  {
    "start": 889.4,
    "end": 895.18,
    "text": "Also ich sehe vor allem zwei Zugangswege die relativ gut etabliert sind wie KI in dem medizinischen Alter kommen kann."
  },
  {
    "start": 895.22,
    "end": 909.42,
    "text": "das sind einmal die medizinische Großgeräte also wie du eben schon erwähntest also vor allen Dingen der Bildgebung weil diese Geräte sind in der Regel eh durch digitalisiert haben große Rechenpower eh schon an Bord und kosten so viel dass ein kleiner Nvidia Chip da jetzt auch nicht mehr groß."
  },
  {
    "start": 909.5,
    "end": 919.72,
    "text": "was verändert ganz gute Voraussetzungen dafür KI zu implementieren und da sieht man es tatsächlich auch schon fest verbaut und im Alltag regelmäßig."
  },
  {
    "start": 920.96,
    "end": 923.52,
    "text": "Spannender wird es, wenn es Spezialanwendung gibt."
  },
  {
    "start": 923.64,
    "end": 944.26,
    "text": "wir haben ja über hundertfünfzigtausend Publikationen zur KI in der Gesundheitsversorgung wo lauter spannende kleine Anwendungen gezeigt werden aber die finden nicht den Weg in die Klinik Weil wir zum Teil in der Klinik gar nicht die Infrastruktur haben, also die schnellen Computer und dann die schnellene Leitung vom Keller wo der große Computer ist zur Badside."
  },
  {
    "start": 945.26,
    "end": 949.06,
    "text": "Da fehlt uns einfach auch Infrastruktur sonst wäre es sicherlich auch schon besser."
  },
  {
    "start": 950.24,
    "end": 952.94,
    "text": "aber es fehlen uns auch Zulassungsformen."
  },
  {
    "start": 953.16,
    "end": 954.46,
    "text": "ja also Zulassungwege."
  },
  {
    "start": 954.74,
    "end": 967.94,
    "text": "das heißt wir an der Uni Klinik haben dann eine Studie gemacht und zeigen, dass die KI etwas was ich hier auskultieren bis über fünf neunzig Prozent Sensitivität und Spezifizität hat."
  },
  {
    "start": 968.4,
    "end": 978.54,
    "text": "Also wunderbar aber wie man das jetzt in die Notaufnahme kriegt damit ist jede klinik überfordert ja weil es immer ein zweier Produkt wäre oder in den Kliniken gibt es nicht."
  },
  {
    "start": 979.18,
    "end": 983.18,
    "text": "Also die kann man nicht mehr selbst zertifizieren, wie eine Spritze aufziehen."
  },
  {
    "start": 983.22,
    "end": 985.12,
    "text": "Das war ja Medizinprodukt IA."
  },
  {
    "start": 985.56,
    "end": 988.54,
    "text": "Das kann eine Klinik selber machen und sie kann sich da selber zerti- fizieren."
  },
  {
    "start": 988.82,
    "end": 990.44,
    "text": "Weil ab zwei geht das nicht mehr."
  },
  {
    "start": 991.08,
    "end": 1003.28,
    "text": "Und da muss meiner Meinung nach auch der Gesetzgeber was dran schrauben weil Unikliniken müssen vorangehen können sonst überlassen wir es wieder nur den Firmen die sich all diese Zurangswege halt leisten können und die Uniklienken sind dann außen vor."
  },
  {
    "start": 1004.04,
    "end": 1008.38,
    "text": "Also ich glaube Zulassungshörden und Infrastruktur sind schon die wesentlichen Hemmnisse."
  },
  {
    "start": 1009.84,
    "end": 1012.16,
    "text": "Jetzt habe ich Markus Heftig-Nicken sehen?"
  },
  {
    "start": 1013.14,
    "end": 1013.76,
    "text": "Ja, richtig!"
  },
  {
    "start": 1014.12,
    "end": 1023.32,
    "text": "Wir haben am Standort Heidelberg ein bisschen uns umgehört was da an KI Tools in der Medizin entwickelt wird und da hat sich ein recht düsteres Bild gezeigt."
  },
  {
    "start": 1023.56,
    "end": 1034.64,
    "text": "also wir haben so viele Spitzenforschung hochinteressante Projekte und kein einziges das ich da gemonitored habe hat sein Weg in die Klinik gefunden."
  },
  {
    "start": 1035.06,
    "end": 1038.78,
    "text": "Und der Hauptgrund ist das Medizinproduktegesetz."
  },
  {
    "start": 1039.68,
    "end": 1042.52,
    "text": "Diese Hürde zu nehmen, ist unglaublich teuer!"
  },
  {
    "start": 1042.599,
    "end": 1047.46,
    "text": "Ich habe von mehreren Stellen, von Entwicklern und auch von Rechtswissenschaftler eine Zahl gehört."
  },
  {
    "start": 1047.54,
    "end": 1063.46,
    "text": "Die haben ungefähr gesagt allein für den Zertifizierungsprozess des Medizin-, nach dem Medizin-Produktigesetz braucht es pro KI Anwendung fünf Millionen Euro und damit ist nichts geforscht an der an der Technologie."
  },
  {
    "start": 1063.8,
    "end": 1072.38,
    "text": "uns vollkommen klar das kann sich kein universitätsklinikum leisten diese Entwicklung die es macht dann entsprechend zertifizieren zu lassen."
  },
  {
    "start": 1073.54,
    "end": 1076.24,
    "text": "hier muss auf jeden fall nachgebessert werden."
  },
  {
    "start": 1076.32,
    "end": 1084.66,
    "text": "wenn wir diese technik nutzen wollen sie nicht nur den großen player überlassen wollen denn Google und Kodi reiben sich die Hände."
  },
  {
    "start": 1084.74,
    "end": 1094.22,
    "text": "Die verlieren nämlich ihre gesamte Konkurrenz aus den Universitätskliniken, weil sie können sich das ganz leicht leisten so ein Zertifizierungsprozess zu durchlaufen."
  },
  {
    "start": 1094.26,
    "end": 1095.0,
    "text": "Das sind Jahrhunderte..."
  },
  {
    "start": 1095.1,
    "end": 1105.1,
    "text": "Ja es kommt ja noch erschärfend hinzu genau zu dem was du sagst dass um diese KIs zu bauen müssten die Konzerne ja an die Daten rankommen."
  },
  {
    "start": 1105.32,
    "end": 1117.02,
    "text": "Ohne die Daten können sie dann nicht bauen, das heißt die Unikliniken oder überhaupt die Kliniken die Studien durchführen stehen unter dem Druck ihre Daten rauszugeben in die Industrie und damit sind sie auch aus ihrer Hoheit raus."
  },
  {
    "start": 1117.08,
    "end": 1124.76,
    "text": "Die sind zwar anonymisiert und so der Datenschutzrecht ist alles in Ordnung aber man Man zwingt sozusagen die großen Firmen mit in diesen Kreislauf."
  },
  {
    "start": 1124.82,
    "end": 1139.86,
    "text": "Und mir wäre viel lieber, gerade die Universitätsmedizin bekäme hier ein neues Verantwortungsfeld dass sie nämlich selber auch solche Apps zulassen kann und dann auch innerhalb der Universitäten Medizin verteilen darf weil das ist ja der Haupthinderungsgrund."
  },
  {
    "start": 1139.96,
    "end": 1154.68,
    "text": "also etwas was ich in Marburg entwickeln kann ich in Berlin nicht nutzen oder in Heidelberg und umgekehrt und dass da bisschen mehr liberalisiert werden würde in der Universitätsmedizin drin und gehen nicht in die Wirtschaft."
  },
  {
    "start": 1155.14,
    "end": 1171.12,
    "text": "Ich habe nichts gegen Wirtschaft, überhaupt nicht, ich komme ja auch aus der Wirtschaft aber die Universitätersmedizin hat diese Daten und wir müssen hier Sorge tragen dass diese ethisch korrekt arbeitenden Institutionen die Universitätskliniken meistens sind halt nach wie vor auf die Daten, die ihr Datenhoheit haben."
  },
  {
    "start": 1172.06,
    "end": 1174.18,
    "text": "Stichwort Ethik deswegen sitzen wir hier."
  },
  {
    "start": 1175.76,
    "end": 1183.3,
    "text": "Ich würde aber gerne tatsächlich noch eine Frage dazu stellen gibt es denn sowas internationale Vorbilder, Länder wo das schon richtig gut läuft."
  },
  {
    "start": 1183.66,
    "end": 1186.9,
    "text": "Es gibt ja einen fließenden Übergang also häufig wird auch durcheinander gebracht."
  },
  {
    "start": 1187.18,
    "end": 1194.42,
    "text": "Data Science Also Datenauswertung in großem Stil Auch für Decision Support System und Künstliche Intelligenz."
  },
  {
    "start": 1194.52,
    "end": 1201.18,
    "text": "Im Grunde ist ja künstlicheintelligenz nichts anderes als eine Weiterentwicklung aus dem Data Science Bereich heraus mit neuen Methoden."
  },
  {
    "start": 1201.64,
    "end": 1210.6,
    "text": "Und wenn man das Spektrum ein bisschen weiter spannend bis hin zu Data Science dann gibts deutlich andere Länder, die ganzen Skandinavier oben die baltischen Staaten."
  },
  {
    "start": 1210.92,
    "end": 1219.14,
    "text": "Die haben schon viel früher mit der Digitalisierung angefangen und leiten eben aus diesen Daten auch Entscheidungsunterstützung und Veränderung der Prozesse in Kliniken ab."
  },
  {
    "start": 1219.46,
    "end": 1220.34,
    "text": "Also ja gibt es."
  },
  {
    "start": 1221.6,
    "end": 1230.08,
    "text": "Und bei denen ist auch tatsächlich das Aufsatteln auf diese Datenströme von KI viel leichter und geschmeidiger sozusagen integrierbar als bei uns?"
  },
  {
    "start": 1230.64,
    "end": 1248.06,
    "text": "Ja wenn wir die Frage so aufziehen auch sagen also Danemark ist hier ein großer Vorreiter die ihre Daten sehr gut zugänglich machen und damit auch Forschung zugängliche machen, wo Aussagen getroffen werden können weil die Daten da sind was wir hier zu Lande gar nicht können."
  },
  {
    "start": 1249.42,
    "end": 1252.46,
    "text": "Also den Universitäten ermöglichen mitzuspielen?"
  },
  {
    "start": 1252.86,
    "end": 1255.94,
    "text": "Da kommen wir jetzt... Patrizia hat das Stichwort auch freundlicherweise schon gegeben."
  },
  {
    "start": 1256.72,
    "end": 1262.86,
    "text": "auf dem Punkt Ethik relativ schnell wie kriegen wir das überhaupt hin das KI-System ethisch handeln."
  },
  {
    "start": 1262.96,
    "end": 1266.0,
    "text": "Vielleicht können wir uns das mal anschauen, was für Standards brauchen wir da?"
  },
  {
    "start": 1267.46,
    "end": 1268.18,
    "text": "Da muss der Philosoph"
  },
  {
    "start": 1268.24,
    "end": 1269.5,
    "text": "drücken."
  },
  {
    "start": 1270.6,
    "end": 1284.3,
    "text": "Also ich glaube, dass es ganz wichtig ist, das wir hier die technische Entwicklung von Anfang an ethisch mit begleiten... Es gibt so eine Prototyp-Mentalität, dass wir zuerst mal den Prototypen entwickeln und dann gucken wie wird das Ganze noch ethisch einfangen?"
  },
  {
    "start": 1284.36,
    "end": 1296.72,
    "text": "Und ich glaube da ist schon das Kind ein bisschen in Brunnen gefallen wenn man nicht gleich von der Entwicklung von Anfang an solche ethischen Erwägungen mit in die Entwicklung einfließen lässt."
  },
  {
    "start": 1297.06,
    "end": 1303.46,
    "text": "Beispielsweise, wenn Sie einen Chatboard zur Therapieunterstützung in der Onkologie machen."
  },
  {
    "start": 1305.22,
    "end": 1319.66,
    "text": "Interessant gleich hier schon von Anfang an Patientenautonomie mitzudenken und nicht einfach nur zu schauen, wie sieht denn die konkrete Empfehlung für oder gegen eine oder andere Behandlungen aus?"
  },
  {
    "start": 1319.8,
    "end": 1326.36,
    "text": "Sondern können wir da noch gleich das so aufziehen dass wenn die KI ein Output ausgibt."
  },
  {
    "start": 1326.64,
    "end": 1331.82,
    "text": "Das auch in den Kontext der Patientenpräferenzen mit reingenommen wird."
  },
  {
    "start": 1333.2,
    "end": 1345.56,
    "text": "Und ich glaube deswegen ist es auch ganz richtig, dass beispielsweise das Bundesministerium für Bildung und Forschung verlangt wenn's Ausschreibungen macht und ein Drittmittel bereitstellt."
  },
  {
    "start": 1345.9,
    "end": 1353.04,
    "text": "Dass sowohl die Ethischen als auch sozial- und rechtlichen Aspekte mitbeforscht werden in solchen Projekten."
  },
  {
    "start": 1353.84,
    "end": 1355.72,
    "text": "Es gibt noch keine Ethikkommission jetzt."
  },
  {
    "start": 1355.84,
    "end": 1362.98,
    "text": "oder wir sozusagen bei Eitzneimittelstudien muss erst mal durch eine Ethikumission... Das gibt es auch nicht bei Medizinprodukteantrag, oder?"
  },
  {
    "start": 1363.56,
    "end": 1363.74,
    "text": "Na ja."
  },
  {
    "start": 1363.8,
    "end": 1371.86,
    "text": "Aber sobald Sie natürlich eine Studie mit der KI aufziehen und die an die Patienten heranbringen, dann müssen sie natürlich durch die reguläre Ethikkommission durch."
  },
  {
    "start": 1372.7,
    "end": 1374.16,
    "text": "Ich glaube das ist auch mehr."
  },
  {
    "start": 1374.92,
    "end": 1394.26,
    "text": "weniger ein Ja-Nein darf gemacht werden sein muss sondern eher kluges Forschendes mit rauf schauen, sozusagen eine translationale Ethikforschung die hiermit den Forschungsprozess begleitet Empfehlungen gibt und auch selbst aus der Entwicklung lernt."
  },
  {
    "start": 1395.74,
    "end": 1399.68,
    "text": "Was sind denn jetzt so ethische kritische Punkte zu sagen bei der KI?"
  },
  {
    "start": 1400.2,
    "end": 1401.68,
    "text": "Warum brauchen wir den Ethiker jetzt?"
  },
  {
    "start": 1401.72,
    "end": 1403.04,
    "text": "um nochmal genauer einzuschauen"
  },
  {
    "start": 1405.1,
    "end": 1408.52,
    "text": "Ich würde sagen, das sind zwei sehr kritische Bereiche."
  },
  {
    "start": 1408.82,
    "end": 1414.54,
    "text": "Der eine ist genau der über den wir eben geredet haben schon nämlich der ärztlichen Letztverantwortung."
  },
  {
    "start": 1416.66,
    "end": 1417.84,
    "text": "Was hier fehlt?"
  },
  {
    "start": 1418.12,
    "end": 1418.92,
    "text": "es eigentlich?"
  },
  {
    "start": 1419.02,
    "end": 1425.24,
    "text": "ganz klare Pflichten wie ein Arzt vorgehen muss wenn er diese Technologie einsetzt."
  },
  {
    "start": 1425.58,
    "end": 1432.64,
    "text": "was muss ja alles gemacht haben dass wir sagen können die Ärztin oder der Arzt hat ihre Pflichten erfüllt."
  },
  {
    "start": 1433.22,
    "end": 1438.72,
    "text": "Und wenn jetzt noch ein Fehler passiert, dann lag das nicht mehr in ihrem Ermessen."
  },
  {
    "start": 1438.82,
    "end": 1444.62,
    "text": "Es gibt den Ruf nach der ärztlichen Letztverantwortung aber es muss auch klar sein dass sie irgendwo ihre Grenzen hat."
  },
  {
    "start": 1444.96,
    "end": 1454.22,
    "text": "und obwohl wir sehr häufig von der ärzlichen Letzte Verantwortung reden ist nicht geklärt Worin genau die besteht, das muss glaube ich geklärt werden."
  },
  {
    "start": 1454.26,
    "end": 1456.28,
    "text": "und die große Schwierigkeit dabei ist."
  },
  {
    "start": 1456.82,
    "end": 1475.6,
    "text": "Dass wir das nicht in einem One Size Fits All Ansatz machen können weil die Anwendungen wie Sie schon gesagt haben so unglaublich vielfältig sind dass wir das für die verschiedenen Anwendungsgebiete ermitteln müssen."
  },
  {
    "start": 1475.78,
    "end": 1476.5,
    "text": "Das ist das eine."
  },
  {
    "start": 1476.56,
    "end": 1483.82,
    "text": "und dann haben wir natürlich das andere große Problem der Daten, wie repräsentativ die Daten sind anhand derer, die KI trainiert wird."
  },
  {
    "start": 1483.86,
    "end": 1491.94,
    "text": "Weil wenn das nicht der Fall ist werden Personen, wenn sie mit diesen Geräten behandelt werden signifikante Nachteile haben."
  },
  {
    "start": 1492.34,
    "end": 1498.8,
    "text": "Und so ist es auch eine Gerechtigkeitsfrage, die hier ganz wichtig ist Wenn wir KI-Modelle trainieren und entwickeln?"
  },
  {
    "start": 1503.54,
    "end": 1508.7,
    "text": "Laufen wir da nicht Gefahr, dass wir als Ärztinnen und Ärzte überhaupt nicht wissen wann wir verantwortlich sind?"
  },
  {
    "start": 1509.28,
    "end": 1510.42,
    "text": "Ja das ist eine sehr gute Frage."
  },
  {
    "start": 1510.48,
    "end": 1514.9,
    "text": "Und ich glaube es gibt dir eine Lösung mehr zu sagen."
  },
  {
    "start": 1514.96,
    "end": 1522.16,
    "text": "na wir machen das so machen halt fallsensitive Leitlinien, die wir erstellen."
  },
  {
    "start": 1522.56,
    "end": 1528.78,
    "text": "Aber das Problem was sie dann natürlich als Ärztin oder Arzt haben ist, Sie haben eine weitere Leitline, die sie lesen dürfen."
  },
  {
    "start": 1529.68,
    "end": 1550.1,
    "text": "ich glaube der Königsweg wäre es die entsprechenden Verantwortungspflicht zu bestimmen und in die Interfaceentwicklung der KI mit einfließen zu lassen dass die KI sozusagen sie darauf hinweist an entsprechenden Stellen machen haben oder dass sie sogar gar nicht anders verwenden können."
  },
  {
    "start": 1551.3,
    "end": 1558.66,
    "text": "Damit umgeht man auch das Problem, dass man weiteres wissen, weiteres lernen auf den Schultern der Ärzten."
  },
  {
    "start": 1561.4,
    "end": 1579.98,
    "text": "Vielleicht noch eine Anmerkung von wegen One Size Fits All es gibt ja keine Berufsgruppe auf dieser Welt die ein so einheitliche ethische Ramung ihrer Tätigkeit hat wie der Ärzteschaft unabhängig von der Religion der Sie angehören, unabhängig von den politischen Systemen in denen sie stattfindet."
  },
  {
    "start": 1580.16,
    "end": 1582.38,
    "text": "Unabhängiger von dem sozialen Status"
  },
  {
    "start": 1582.5,
    "end": 1582.76,
    "text": "usw.,"
  },
  {
    "start": 1583.48,
    "end": 1585.06,
    "text": "weltweit gültig."
  },
  {
    "start": 1585.34,
    "end": 1594.34,
    "text": "one size fits the whole world... ist das, was früher der hypocratische Eid war und heute das Genfer-Gelöbnis ist."
  },
  {
    "start": 1595.42,
    "end": 1600.12,
    "text": "Also wenn wir uns anschauen warum sind Menschen überhaupt oder Ärzte und Ärzten vertrauenswürdig?"
  },
  {
    "start": 1600.5,
    "end": 1606.56,
    "text": "dort gibt es eine One Size Fits All Lösung und die laute hypocratischer Eid oder Genfer Gelöbnes."
  },
  {
    "start": 1607.2,
    "end": 1620.88,
    "text": "Und ich glaube dass KI Maschinen und wir sind ja ganz ganz ganz am Anfang Und wir haben keine Vorstellung davon, wie sehr wir am Anfang sind."
  },
  {
    "start": 1621.04,
    "end": 1622.58,
    "text": "Das wird uns einfach überholen!"
  },
  {
    "start": 1622.62,
    "end": 1644.18,
    "text": "Wir werden mit Maschinen konfrontiert sein – also alle hier die Jungen, die hier sitzen, werden konfrontierend sein mit Maschen, die schlauer sind als sie selber und wir werden Sie nicht mehr mit kleinen, kleinen Regelwerken und ethischen Rahmung kontrollieren können sondern wir werden solche One-Size-Fits all Lösungen auch für diese Maschienen haben einfordern müssen."
  },
  {
    "start": 1645.78,
    "end": 1665.1,
    "text": "Und dazu gehört auch der hypocratische Eid, also ich persönlich bin Verfechter davon zu sagen wir müssen diesen Maschinen die in die Entscheidungsfindung der Ärztinnen und Ärzte eingreifen auch irgendwann eine Art Arztstatus zugestehen und den Herstellern dieser Systeme die dann genau so in den hypocratischen Eid und in die ethischen Rahmungen der Ärzten und Ärzte einbinden."
  },
  {
    "start": 1665.28,
    "end": 1672.2,
    "text": "Die müssen sicherstellen dass ihre technischen Artefakte sozusagen hier nicht verletzend tätig werden."
  },
  {
    "start": 1672.54,
    "end": 1673.58,
    "text": "Anders werden wir es nicht in den Griff"
  },
  {
    "start": 1673.64,
    "end": 1673.9,
    "text": "kriegen.\"."
  },
  {
    "start": 1675.0,
    "end": 1689.8,
    "text": "Das ist natürlich elegant sozusagen ein Teil der Verantwortung dann auch an die künstliche Intelligenz abzugeben, jetzt ist natürlich die Frage wenn wir nicht genau wissen wie die Algorithmen sind, die diese künstlichen Intelligenzen bemüht?"
  },
  {
    "start": 1690.12,
    "end": 1691.84,
    "text": "Die sind ja häufig genug eine Black Box!"
  },
  {
    "start": 1692.68,
    "end": 1695.84,
    "text": "Wie sehr können wir uns denn überhaupt auf diese Ratschläge verlassen?"
  },
  {
    "start": 1696.24,
    "end": 1699.22,
    "text": "Einfach mal einfach eine Rückfrage...wie funktioniert denn mein Gehirn?"
  },
  {
    "start": 1700.92,
    "end": 1701.42,
    "text": "Das ist eine gute"
  },
  {
    "start": 1701.5,
    "end": 1701.88,
    "text": "Frage."
  },
  {
    "start": 1702.04,
    "end": 1704.04,
    "text": "Ja, genau und das wissen wir ja auch nicht."
  },
  {
    "start": 1704.42,
    "end": 1707.78,
    "text": "Naja aber wir haben schon ein Konzept vom menschlichen Gehirn also... Also"
  },
  {
    "start": 1707.88,
    "end": 1710.5,
    "text": "wir haben genaues Konzept von der KI als vor Menschen hingehören?"
  },
  {
    "start": 1711.48,
    "end": 1713.52,
    "text": "Na es gibt ja so etwas wie Menschenkenntnis."
  },
  {
    "start": 1713.84,
    "end": 1726.06,
    "text": "und gerade im kollegialen Miteinander dass wir in Kliniken und Praxen haben kennt man ja seine Kolleginnen und Kollegen und kann ja häufig auch genug sprechen mit denen und eben nachvollziehen wie jemand auf ne klinische Entscheidung kommt"
  },
  {
    "start": 1727.84,
    "end": 1728.04,
    "text": "Genau."
  },
  {
    "start": 1728.22,
    "end": 1731.0,
    "text": "Die Argumentfähigkeit, also ich nenne das immer die Argumentfähigkeit."
  },
  {
    "start": 1732.06,
    "end": 1750.14,
    "text": "Also mir ist es vollkommen egal mit welchen Algorithmen... Ich pointiere das jetzt aber mir ist sozusagen egal mit welche Algorithm in die Arbeiten und die Hersteller der Maschinen und der KI's müssen auch nicht mir gegenüber offenlegen, welche Algoritmen da drin werkeln, aber die Maschine muss sich erklären können und das ist das was ich nennende die Argumentfähigkeit der Maschinen."
  },
  {
    "start": 1750.8,
    "end": 1758.66,
    "text": "Zwischen uns Menschen haben wir sozusagen eine Kultur, der das Argumentaustausch etabliert und dass auch die nicht safe ist."
  },
  {
    "start": 1758.92,
    "end": 1762.0,
    "text": "Sehen wir ja gerade an dem Kulturkampf zwischen Europa und USA."
  },
  {
    "start": 1762.58,
    "end": 1767.9,
    "text": "Dass einfach Menschen dann gibt, die sich einfach drüber hinwegsetzen und andere anderen Logiken folgen."
  },
  {
    "start": 1768.66,
    "end": 1775.72,
    "text": "Und da sollte uns mit der KI nicht passieren Menschenkenntnis, was ist Menschenkenntness?"
  },
  {
    "start": 1776.0,
    "end": 1780.38,
    "text": "Menschenkenntnes kommt nur dadurch zustande dass wir in einem selben ähnlichen Kulturraum leben."
  },
  {
    "start": 1780.72,
    "end": 1786.04,
    "text": "Dass wir in ähnlicher Weise sozialisiert worden sind und dass wir deswegen uns gegenseitig gut lesen können."
  },
  {
    "start": 1786.52,
    "end": 1788.22,
    "text": "Und das ist nichts Selbstverständliches."
  },
  {
    "start": 1788.5,
    "end": 1794.44,
    "text": "ja ich habe nicht per se Also ich sitze da manchmal vor den Nachrichten überlegt mir Was hat denn den Trump jetzt heute wieder geritten?"
  },
  {
    "start": 1794.72,
    "end": 1796.54,
    "text": "also da hört meine Menschenkenntnisse einfach auf."
  },
  {
    "start": 1796.76,
    "end": 1801.04,
    "text": "Ich kenne die Antriebe von diesen Leuten nicht mehr und das macht uns ja so hilflos und so ratlos."
  },
  {
    "start": 1803.12,
    "end": 1814.38,
    "text": "Es wird kein Weg dran vorbeiführen, dass wir sozusagen sie mitsozialisieren und dadurch in eine ethische Ramung reinwachsen lassen den wir uns auch verpflichtet fühlen."
  },
  {
    "start": 1814.46,
    "end": 1816.78,
    "text": "Aber dafür müssen wir Menschen uns erst mal auf einer einlegen."
  },
  {
    "start": 1817.78,
    "end": 1819.04,
    "text": "Martin, ich habe dazu nochmal eine Frage."
  },
  {
    "start": 1819.14,
    "end": 1820.04,
    "text": "Könntest du noch mal erklären?"
  },
  {
    "start": 1820.08,
    "end": 1831.36,
    "text": "Man hat ja immer das Gefühl wenn man sich jetzt sozusagen nicht so gut auskennt mit KI dass man da schon stark vertraut und Vertrauen schenkt und dass man das Gefühl hat KIs in einer gewissen Weise auch gerecht."
  },
  {
    "start": 1831.9,
    "end": 1836.0,
    "text": "also wie gerecht ist denn jetzt KI sozusagen und wie ethisch handelt KI jetzt?"
  },
  {
    "start": 1836.04,
    "end": 1844.84,
    "text": "zum Beispiel wenn ich jetzt chat über dir was frage basiert auf irgendwelchen untrainierten Datenmengen, die jetzt nicht wie die Medizin aus ist und das spuckt mir was aus."
  },
  {
    "start": 1846.02,
    "end": 1849.4,
    "text": "Wie gerecht und ohne Vorurteile ist das, was da rauskommt?"
  },
  {
    "start": 1850.1,
    "end": 1851.52,
    "text": "Das ist schwer zu beantworten."
  },
  {
    "start": 1851.62,
    "end": 1861.34,
    "text": "also spätestens bei den large language Models, die sich ja sozusagen aus riesigen Text-Mengen ernähren, ist das fast nicht mehr vorhersehbar."
  },
  {
    "start": 1863.56,
    "end": 1876.1,
    "text": "Das war bisher bei datengetriebenem KI-System relativ gut möglich, weil ich da einfach über die Auswahl der Datensätze, die ich zum Training nutze, relativ gut versuchen kann sozusagen Fairness und so weiter bestmöglich abzubilden."
  },
  {
    "start": 1877.1,
    "end": 1880.1,
    "text": "Aber spätestens seit den Large Language Models wird das schwierig."
  },
  {
    "start": 1880.58,
    "end": 1882.82,
    "text": "Und es ist nur eine Sache klar!"
  },
  {
    "start": 1883.08,
    "end": 1888.6,
    "text": "Ich kann large language models so bauen dass sie hochgradig manipulativ sind."
  },
  {
    "start": 1891.9,
    "end": 1901.0,
    "text": "Ich glaube nicht, dass OpenAI im Moment auf einem Trip sitzt um über ChatGPT-Meinungen zur Weltsituation zu verbreiten."
  },
  {
    "start": 1901.4,
    "end": 1902.96,
    "text": "Soweit das haben wir noch nicht."
  },
  {
    "start": 1903.5,
    "end": 1913.04,
    "text": "Aber es gibt genügend Firmen die hauptsächlich ihr Geld damit verbreitet verdienen large language Models auf den Markt zu bringen, die manipulativ sind!"
  },
  {
    "start": 1913.46,
    "end": 1915.02,
    "text": "gerade gegenüber Kindern und Jugendlichen."
  },
  {
    "start": 1915.42,
    "end": 1929.08,
    "text": "Nehmen Sie das Verfahren jetzt gegen Character AI, eine Google-Tochter die sozusagen verklagt werden weil eben diese Chatverläufe von diesem vierzehnjährigen der sich dann das Leben genommen hat einfach im Grunde unwürdig sind."
  },
  {
    "start": 1930.3,
    "end": 1941.98,
    "text": "Gerade junge Menschen in der Pubertät versuchen einfach auf ihre Seite zu ziehen, auch Misstrauen zu sehen gegenüber den Eltern, Misstrauern zu säen gegenüber den Lehrern sozusagen ganz eng an sich selber zu bin."
  },
  {
    "start": 1942.26,
    "end": 1946.7,
    "text": "Und das ist heute mit KI möglich und zwar relativ einfach."
  },
  {
    "start": 1947.84,
    "end": 1949.28,
    "text": "Und davor müssen wir uns schützen."
  },
  {
    "start": 1949.48,
    "end": 1953.22,
    "text": "ich glaube also KI ist ja nicht per se schlecht oder gut."
  },
  {
    "start": 1953.38,
    "end": 1960.32,
    "text": "gerade large language models wenn ich die sauber trainiere sind das glaub ich tatsächlich fähere Gesprächspartner als so mancher Mensch."
  },
  {
    "start": 1961.02,
    "end": 1973.08,
    "text": "aber Es gibt eben genügend Leute, die Interesse daran haben, crude Ideen, krude Ansätze in die Welt zu tragen und für die sind KI-System einfach ein willkommenes Instrument."
  },
  {
    "start": 1973.16,
    "end": 1974.5,
    "text": "Weil die Dinger schnafen nicht."
  },
  {
    "start": 1974.56,
    "end": 1983.22,
    "text": "Die können zu einem Millionen Menschen gleichzeitig reden in irgendwelchen Foren und sind ein riesiger Multiplikator für Ungerechtigkeit und Unfernness."
  },
  {
    "start": 1983.26,
    "end": 1985.16,
    "text": "Und denen muss ein Riegel vorgeschoben"
  },
  {
    "start": 1985.22,
    "end": 1985.48,
    "text": "werden!"
  },
  {
    "start": 1987.6,
    "end": 1990.58,
    "text": "Vielleicht hilft es ja, wenn wir die Frage umdrehen."
  },
  {
    "start": 1990.76,
    "end": 1991.92,
    "text": "jetzt für die Praxis."
  },
  {
    "start": 1992.04,
    "end": 2001.44,
    "text": "Wie transparent wie nachvollziehbar muss eine Entscheidung ein Entscheidungsfindung einer KI sein damit wir das System klinisch anwenden können?"
  },
  {
    "start": 2002.32,
    "end": 2004.1,
    "text": "Ich finde das ist eine sehr schwierige Frage."
  },
  {
    "start": 2004.82,
    "end": 2015.1,
    "text": "Sie kann natürlich sagen dass sollte hochtransparent sein aber das System sollte sehr gut Gründe angeben können und zwar Grunde die wir als Menschen sehr gut nachvollziehen können."
  },
  {
    "start": 2016.9,
    "end": 2023.92,
    "text": "Das Problem dabei ist, dass diese Geräte ja ganz anders funktionieren."
  },
  {
    "start": 2023.96,
    "end": 2035.54,
    "text": "Die sind an ihren Datenmengen trainiert und wenn wir beispielsweise in die Bildgebung reingehen dann können sie so ein Bild viel vollständiger erfassen als wir das erfassen können."
  },
  {
    "start": 2036.32,
    "end": 2051.6,
    "text": "Und wenn jetzt beispielsweise eine KI, die eine Lungenkrankheit diagnostizieren soll mir sagt dass die Lungen Krankheit liegt vor und gibt mir als Begründung irgendeine Stelle im Körper an das nicht die Lunge ist."
  },
  {
    "start": 2052.659,
    "end": 2055.9,
    "text": "Dann ist es ja zuerst mal einen Grund, den sie hervorbringt."
  },
  {
    "start": 2055.94,
    "end": 2062.179,
    "text": "Und sie sagt vielleicht noch das hat sich schon regelmäßig im Zusammenhang mit der Lumenkrankheit gesehen."
  },
  {
    "start": 2062.6,
    "end": 2067.8,
    "text": "Das findet sich aber in keiner Leitlinie und ist auch nichts was mir als Arzt bisher begegnet ist."
  },
  {
    "start": 2068.1,
    "end": 2069.38,
    "text": "Wie gehe ich damit um?"
  },
  {
    "start": 2070.78,
    "end": 2075.139,
    "text": "Dann muss ich wieder entscheiden ja vielleicht hat sie recht Vielleicht hat sie nicht recht."
  },
  {
    "start": 2075.26,
    "end": 2083.76,
    "text": "Ist es einfach nur ein absurder KI Fehler der hier vorliegt oder ist es eine KI-Genialität, eine neue Erkenntnis."
  },
  {
    "start": 2083.98,
    "end": 2093.54,
    "text": "Und diese Entscheidung zu treffen ist unglaublich schwierig und da hilft glaube ich auch die Transparenz nur sehr begrenzt."
  },
  {
    "start": 2093.6,
    "end": 2098.04,
    "text": "Da können wir uns fragen wollen wir das die KI möglichst menschlich vorgeht?"
  },
  {
    "start": 2099.72,
    "end": 2103.34,
    "text": "beim Diagnostizieren von Krankheit und beim Empfehlen von Therapien."
  },
  {
    "start": 2103.72,
    "end": 2109.74,
    "text": "Dann geben wir aber vielleicht auch ein Teil der Technologie auf, die über das Menschliche hinausgehen kann."
  },
  {
    "start": 2110.28,
    "end": 2113.3,
    "text": "oder sagen wir sie soll über das menschliche hinaus gehen."
  },
  {
    "start": 2113.68,
    "end": 2124.32,
    "text": "dann werden allerdings auch solche Transparenzforderungen sehr schwierig und man muss sich fragen wie sehr die Ärztin wiederum ihrer letzte Verantwortung dann noch gerecht werden können?"
  },
  {
    "start": 2125.62,
    "end": 2129.9,
    "text": "Naja, soweit die KI uns das dann sagt wenn ich es richtig verstanden habe."
  },
  {
    "start": 2130.24,
    "end": 2132.4,
    "text": "Und sie das überprüfen können was die KI sagt?"
  },
  {
    "start": 2133.68,
    "end": 2141.42,
    "text": "Fällt eine kurze Frage weil wir möchten Sie und euch ja auch mit einbinden sind aus dem Auditorium fragen Perfekt"
  },
  {
    "start": 2143.26,
    "end": 2144.26,
    "text": "Ja nochmal zu diesem Thema."
  },
  {
    "start": 2144.68,
    "end": 2148.28,
    "text": "also im Endeffekt müsste es doch viel mehr an Zahlengame sein."
  },
  {
    "start": 2148.34,
    "end": 2152.18,
    "text": "oder Also wir wissen dass Ärzte halt nicht immer richtig mit der Diagnose liegen."
  },
  {
    "start": 2152.92,
    "end": 2158.02,
    "text": "Und sobald wir sehen, dass TKI halt deutlich besser ist als das andere Ärzte, sollten wir die KI nehmen."
  },
  {
    "start": 2158.06,
    "end": 2165.22,
    "text": "Ja es geht ja nicht mehr darum wie die KI zum richtigen Ergebnis kommt sondern im Endeffekt wie genau ist die KI im Gegensatz zum Arzt?"
  },
  {
    "start": 2165.74,
    "end": 2184.96,
    "text": "Das wird dir entscheidende Frage sein und ich glaube darauf muss sich dann auch unser System einstellen weil wir werden sozusagen wie das ADA gemacht hat nicht sozusagen einen Baum haben wo jede einzelne Entscheidungsschritt sozusagen durch analysiert ist, sondern wir müssen schauen was hilft dem Patienten am Ende."
  },
  {
    "start": 2185.68,
    "end": 2197.4,
    "text": "Und ich glaube da werden wir sowieso ein riesiges Problem haben weil wir werden die Technologie haben aber die Systeme wie wir haben also die Bürokratie die wir haben wird gar nicht so schnell dahinter herkommen."
  },
  {
    "start": 2197.86,
    "end": 2205.44,
    "text": "und ich glaube das ist viel mehr die Frage die wir uns stellen müssen Wie schaffen wir es halt diesen technologischen Fortschritt gleichzukommen?"
  },
  {
    "start": 2209.4,
    "end": 2209.6,
    "text": "dem"
  },
  {
    "start": 2210.8,
    "end": 2216.08,
    "text": "zustimmen wollen, was Martin anfangs gesagt hat dass wir diese Zahlen sehr kritisch sehen müssen."
  },
  {
    "start": 2216.42,
    "end": 2222.7,
    "text": "Diese Zahlen kommen häufig aus der Testung als die KI getestet wurde."
  },
  {
    "start": 2222.78,
    "end": 2231.64,
    "text": "das heißt wir befinden uns in einem Kontext wo die KI an Daten getestete wurden die sehr ähnlich den Trainingsdaten sind."
  },
  {
    "start": 2232.0,
    "end": 2238.2,
    "text": "wie viel Aussagekraft das dann im realen Leben hat ist schon gar nicht mal umgegeben."
  },
  {
    "start": 2238.56,
    "end": 2248.18,
    "text": "Wenn Sie beispielsweise daran denken, als die KT-Zellentherapie kam und da hatten wir von den klinischen Studien Erfolgsmeldungen."
  },
  {
    "start": 2249.56,
    "end": 2254.56,
    "text": "Ich glaube von ungefähr achtzig Prozent im realen Leben war das deutlich schlechter."
  },
  {
    "start": 2255.12,
    "end": 2257.26,
    "text": "Und ähnlich ist die Situation bei KI."
  },
  {
    "start": 2257.76,
    "end": 2267.62,
    "text": "Da haben wir auch beeindruckende Zahlen aus der Testung ob die sich im realen Leben, in prospjektiven Studien zuerst mal bewahrheiten."
  },
  {
    "start": 2267.68,
    "end": 2268.86,
    "text": "Das muss ich noch zeigen."
  },
  {
    "start": 2268.9,
    "end": 2278.44,
    "text": "deswegen glaube ich müssten wir das erstmal den Standard entwickeln dass wir ein Standard der uns verlässliche Zahlen gibt bevor wir dann beginnen die Zahlen zu verrechnen."
  },
  {
    "start": 2281.68,
    "end": 2283.28,
    "text": "Ich finde den Punkt schon genau richtig."
  },
  {
    "start": 2284.84,
    "end": 2300.76,
    "text": "Im Moment machen wir es ja auch so in der Klinik zumindest, wenn ich mit dem Patienten meine Probleme habe und das nicht richtig einschätzen kann dann überlege ich mir wer im Kollegenkreis hat mehr Erfahrung oder kennt sich vielleicht mit dieser Art von Patienten besser aus und dann hole ich den dazu, oder fragt ihn um Rat."
  },
  {
    "start": 2301.48,
    "end": 2308.26,
    "text": "Das heißt wir haben ja normalerweise auch schon dieses... Ich mein Sie brauchen jetzt nicht zum Arzt zu gehen aber ich bin kein Arzt, ich bin keine Mediziner."
  },
  {
    "start": 2308.7,
    "end": 2313.96,
    "text": "Ich gehe auch zu einem Menschen weil der von dem ich weiß kann besser diagnostizieren als ich."
  },
  {
    "start": 2315.16,
    "end": 2316.88,
    "text": "Die nennt man dann Ärztin und Ärzte."
  },
  {
    "start": 2317.34,
    "end": 2319.6,
    "text": "Und warum sollen da nicht Ärzten oder Ärzts auch sagen?"
  },
  {
    "start": 2319.7,
    "end": 2324.04,
    "text": "Also die KI ist einfach uns soweit überlegen, soll die das doch machen?"
  },
  {
    "start": 2324.84,
    "end": 2330.8,
    "text": "Wir werden trotzdem noch jemanden brauchen der den verunsicherten Patienten leitet."
  },
  {
    "start": 2331.46,
    "end": 2337.28,
    "text": "Das kann zwar... von der Informationsfülle her natürlich eine KI auch machen und die kann auch empathisch reden."
  },
  {
    "start": 2337.64,
    "end": 2341.84,
    "text": "Aber wenn ich dann vor diesem Kasten sitze, weiß ich immer es ist eine Maschine!"
  },
  {
    "start": 2342.2,
    "end": 2344.84,
    "text": "Und ich unterhalte mich doch nochmal lieber mit einem Menschen."
  },
  {
    "start": 2346.14,
    "end": 2360.54,
    "text": "Hier die Frau Landgraf niedergelassene Hausärztin aus Berlin, die sagte zu mir Martin Ich würde gerne eine KI in meiner niedergelassenen Praxis haben, weil inzwischen sind die Befunde, die wir zum Teil von den Fachärzten zurückbekommen."
  },
  {
    "start": 2360.68,
    "end": 2366.28,
    "text": "So komplex dass ich die gar nicht mehr meinen Patienten erklären kann oder es mich so viel Einarbeitungszeit braucht."
  },
  {
    "start": 2366.56,
    "end": 2367.34,
    "text": "Ich hätte gerne KI."
  },
  {
    "start": 2367.7,
    "end": 2379.06,
    "text": "dann setze ich meinen Patienten mit der KI in eine Kabine und da unterhält sie sich erstmal und wird erst mal inhaltlich aufgeklärt Und dann kommt die Patientin oder Patient zu mir und dann unterhalten wir uns weiter."
  },
  {
    "start": 2381.86,
    "end": 2382.28,
    "text": "Patienten."
  },
  {
    "start": 2382.7,
    "end": 2390.32,
    "text": "Das heißt, ich glaube das wird gang und gäbe werden dass wir sozusagen uns Entitäten in die Praxis und in die Klinik holen, die es besser können als wir."
  },
  {
    "start": 2390.8,
    "end": 2404.24,
    "text": "und daher würde ich sagen also ich stimme dir zu am Ende müssen sie Entitäten machen dies am besten können aber wir werden immer Menschen brauchen als Vermittler zwischen dem verunsicherten Patienten unter medizinischen Einschätzung."
  },
  {
    "start": 2404.92,
    "end": 2406.66,
    "text": "Ich würde sagen, eine Wortmeldung machen wir noch."
  },
  {
    "start": 2406.74,
    "end": 2411.58,
    "text": "Wir haben danach auch nochmal die Möglichkeit nach der Aufzeichnung weitere Fragen entgegenzunehmen?"
  },
  {
    "start": 2412.52,
    "end": 2416.28,
    "text": "Also meine erste Frage war jetzt... Die haben Sie zu den Teilen beantwortet Herr Prof."
  },
  {
    "start": 2416.32,
    "end": 2416.5,
    "text": "Hirsch."
  },
  {
    "start": 2416.58,
    "end": 2423.46,
    "text": "Die Frage ist schafft sich die Ärzteschaft selber ab durch diese sehr enge Zusammenarbeit mit der KI?"
  },
  {
    "start": 2424.3,
    "end": 2428.14,
    "text": "und die zweite Frage ist wer trifft die Therapieentscheidungen und wer übernimmt die Verantwortung?"
  },
  {
    "start": 2429.2,
    "end": 2431.3,
    "text": "Ja also auf keinen Fall."
  },
  {
    "start": 2432.12,
    "end": 2433.34,
    "text": "halt sagen wir mal so."
  },
  {
    "start": 2434.82,
    "end": 2441.96,
    "text": "Die heutige Ärzteschaft läuft in einer langen Tradition, die seit vielen hundert Jahren hat sie sich so dahin entwickelt wo wir heute sind."
  },
  {
    "start": 2442.36,
    "end": 2445.6,
    "text": "Und die letzten Entwicklungen seit der Zeit der Aufklärung waren nicht immer positiv."
  },
  {
    "start": 2446.02,
    "end": 2454.94,
    "text": "Der Versuch der Medizin eine Wissenschaft zu werden, hat eben Ärzte und Ärzten zu Informationsmanagement-Entitäten gemacht."
  },
  {
    "start": 2455.14,
    "end": 2458.92,
    "text": "Jeder Arzt hat einen wahnsinnigen Druck wahnsinnig viel zu lernen an Faktenfakten."
  },
  {
    "start": 2460.4,
    "end": 2464.5,
    "text": "Wir lernen im Studium nur Fakpen Gespräch mit den Patienten."
  },
  {
    "start": 2464.58,
    "end": 2467.98,
    "text": "Wie gehe ich mit einem Patienten um, wenn der sich vor mir einnässt und anfängt zu weinen?"
  },
  {
    "start": 2468.02,
    "end": 2469.86,
    "text": "Die bin ich hilflos!"
  },
  {
    "start": 2470.0,
    "end": 2471.54,
    "text": "Er lerne nicht, habe ich nicht gelernt."
  },
  {
    "start": 2472.02,
    "end": 2484.72,
    "text": "Also ich glaube wir Menschen müssen wieder mehr zur Menschlichkeit zurück und ein menschlicher Adapter werden zu einer Medizin die inhaltlich immer komplexer werden wird weil wir immer höhere Personalisierungsstrategien in der Therapie, in der Prävention usw."
  },
  {
    "start": 2484.98,
    "end": 2485.44,
    "text": "haben werden."
  },
  {
    "start": 2485.82,
    "end": 2499.42,
    "text": "das werden die Maschinen machen, die Maschen sollen die Sachlage schneller klären medizinisch kompetente Menschen, die das verstehen was die Maschine da zurechtgelegt hat und ihr Vermittlungskompetenz haben."
  },
  {
    "start": 2499.5,
    "end": 2500.1,
    "text": "zum Patienten."
  },
  {
    "start": 2500.14,
    "end": 2503.66,
    "text": "Ich glaube, dass wird eher eine zukünftige Rolle sein von Erzmann."
  },
  {
    "start": 2503.7,
    "end": 2503.74,
    "text": "Ja"
  },
  {
    "start": 2504.0,
    "end": 2514.46,
    "text": "der Arzt ist die Ärztin als Gesundheitsmanager wir haben die Pflege, wir haben Patient-Patientinnen die Ärzenschaft also Gesundheitsminister und die KI als festen Bestandteil so sich das auswollte."
  },
  {
    "start": 2514.52,
    "end": 2515.54,
    "text": "Es würden drei Beziehungen werden in jedem Fall?"
  },
  {
    "start": 2515.7,
    "end": 2516.66,
    "text": "Ganz ganz am Anfang."
  },
  {
    "start": 2516.84,
    "end": 2517.22,
    "text": "Aus"
  },
  {
    "start": 2517.42,
    "end": 2520.16,
    "text": "zweier Beziehung würde ne dreiebeziehung wären so sicher wie das andere geht."
  },
  {
    "start": 2520.3,
    "end": 2521.1,
    "text": "Was war die zweite Frage?"
  },
  {
    "start": 2530.0,
    "end": 2532.5,
    "text": "Das ist die große Frage, wer übernimmt die Verantwortung."
  },
  {
    "start": 2533.54,
    "end": 2536.32,
    "text": "Ich glaube nicht die gleiche Person, die sie jetzt übernimmst."
  },
  {
    "start": 2536.4,
    "end": 2543.84,
    "text": "wenn sie sozusagen verantwortungsvoll mit den Leiden... Linien umgehen und eine Therapieentscheidung treffen."
  },
  {
    "start": 2544.46,
    "end": 2550.82,
    "text": "Und das Ganze geht nach hinten los, dann sind wir in der gleichen Situation wie wenn sie verantwortungsvolle KI einsetzen."
  },
  {
    "start": 2551.0,
    "end": 2554.42,
    "text": "Die Frage ist was heißt denn verantwortungssoller Einsatz der KI?"
  },
  {
    "start": 2555.1,
    "end": 2557.06,
    "text": "Da stimme ich jetzt nicht ganz zu!"
  },
  {
    "start": 2557.2,
    "end": 2559.7,
    "text": "Ich glaube wie gesagt da gibt es kein One Size Fits All."
  },
  {
    "start": 2560.0,
    "end": 2565.42,
    "text": "Das müssen wir individuell für die verschiedenen Anwendungsbereiche klären."
  },
  {
    "start": 2566.44,
    "end": 2573.38,
    "text": "Wenn dann etwas schiefgeht Dann wird man sie genauso unter die Lupe nehmen, wie wenn man es jetzt unter die lupe nimmt."
  },
  {
    "start": 2573.44,
    "end": 2576.0,
    "text": "und Sie werden genau so, wird mal genauso schauen müssen."
  },
  {
    "start": 2577.16,
    "end": 2580.12,
    "text": "Sind Sie der Verantwortung gerecht geworden?"
  },
  {
    "start": 2580.38,
    "end": 2584.54,
    "text": "Und wenn ja dann werden die gleichen Mechanismen wir jetzt in Kraft treten müssen."
  },
  {
    "start": 2585.32,
    "end": 2590.64,
    "text": "Ich muss da ganz kurz rein weil Wir sind bei diesen Zahlen stehen geblieben."
  },
  {
    "start": 2591.02,
    "end": 2598.98,
    "text": "also wenn die KI mir sagt zu neunundneunzig Komma Neuen Prozent bin ich mir sicher der Patient hat Kleinzelliges bronchial Karzinom."
  },
  {
    "start": 2599.86,
    "end": 2605.58,
    "text": "Und ich sage, ich bin mir zu neunzig Komma Neuen Prozent sicher hat er nicht Sondern der hatten Adenokarzinom."
  },
  {
    "start": 2605.9,
    "end": 2607.86,
    "text": "das sind zwei grundlegend verschiedene Therapien."
  },
  {
    "start": 2609.2,
    "end": 2623.28,
    "text": "Wer übernimmt die Verantwortung für die Therapie Entscheidung Im Moment übernehme ich genau im momenten übernehmen wie dass wir also Wir laufen ja darauf hin Dass die KI dass wir uns darauf verlassen dass Die Diagnose die die KI stellt die Richtige ist."
  },
  {
    "start": 2624.42,
    "end": 2628.12,
    "text": "Ich mache doch aber nur eine Therapie, wenn ich davon überzeugt bin, dass die Diagnose stimmt."
  },
  {
    "start": 2630.4,
    "end": 2634.36,
    "text": "Wenn diese Situation auftritt, sollten Sie an Ihrem Arzt sein Zweifeln?"
  },
  {
    "start": 2634.62,
    "end": 2643.2,
    "text": "Zu Deutsch glaube ich nicht, dass es solche großen Diskrepanzen geben wird und meine Antwort wäre einer anderen gewesen am Ende auf den nächsten Jahren hin."
  },
  {
    "start": 2644.14,
    "end": 2652.2,
    "text": "Wird immer ein Mensch sein der die Verantwortung übernimmt weil nur der Mensch kann mit dem anderen Menschen jetzt in dieser Situation hier sitzen."
  },
  {
    "start": 2654.32,
    "end": 2657.8,
    "text": "dann nehmen wir die andere Therapie, die sie favorisieren."
  },
  {
    "start": 2658.24,
    "end": 2665.36,
    "text": "Weil der Patient sieht plötzlich die Nöte dieses Patienten und warum er sich jetzt gegen die schlechtere Überlebenschancen entscheidet."
  },
  {
    "start": 2666.2,
    "end": 2672.64,
    "text": "Und das ist eine Ermessenssache aus der Mensch-Mensch Interaktion erfolgen muss."
  },
  {
    "start": 2672.76,
    "end": 2684.12,
    "text": "Und da muss es möglich sein, dass ich aus einer solchen Mensch-Menschinteraktion sage ja ich sehe die Argumente der KI und wahrscheinlich ist es objektiv gesehen wäre das die bessere Strategie."
  },
  {
    "start": 2684.54,
    "end": 2689.86,
    "text": "aber aus folgenden Gründen und die muss ich dann dokumentieren entscheide ich mich jetzt für die andere."
  },
  {
    "start": 2690.56,
    "end": 2692.92,
    "text": "Ich glaube, dass das recht interessant ist."
  },
  {
    "start": 2694.92,
    "end": 2702.44,
    "text": "Wenn ich sie richtig verstanden habe, war Grund des Auseinandergehens der verschiedenen Therapieoptionen eine unterschiedliche Diagnose."
  },
  {
    "start": 2702.56,
    "end": 2703.76,
    "text": "Habe ich Sie da richtig verstand?"
  },
  {
    "start": 2704.92,
    "end": 2704.98,
    "text": "Ja."
  },
  {
    "start": 2705.7,
    "end": 2719.56,
    "text": "Und da gibt es ein klares Falsch oder richtig, während was Martin eben gesagt hat ist eher die Frage wenn ich sehe dass der Patient gewisse Werte und Präferenzen hat und die KI bezieht das nicht mit ein?"
  },
  {
    "start": 2719.98,
    "end": 2721.1,
    "text": "Da bin ich ganz bei dir!"
  },
  {
    "start": 2721.5,
    "end": 2724.86,
    "text": "Dann muss ich hier entsprechend vorgehen."
  },
  {
    "start": 2725.16,
    "end": 2728.8,
    "text": "gerade bei Therapieentscheidung darf kein Automatismus geben."
  },
  {
    "start": 2729.1,
    "end": 2730.96,
    "text": "Das ist immer wertebasiert."
  },
  {
    "start": 2732.7,
    "end": 2735.48,
    "text": "da glaube ich, dass der Mensch wirklich ein wichtiger Vermittler ist."
  },
  {
    "start": 2735.82,
    "end": 2745.96,
    "text": "Bei der Diagnose sind wir aber beim Fall von klarem Objektiven falsch oder richtig und wenn es da auseinander geht, sind wir in einer schwierigeren Situation."
  },
  {
    "start": 2746.02,
    "end": 2755.6,
    "text": "und wenn wir jetzt sagen langfristig, wenn mal die KI in richtig hohe Prozentenzahlen der Zuverlässigkeiten kommt,"
  },
  {
    "start": 2769.94,
    "end": 2773.38,
    "text": "Sie können aber auch hier bleiben, da werden wir uns freuen."
  },
  {
    "start": 2773.84,
    "end": 2780.98,
    "text": "Und auch das sei an dieser Stelle erwähnt diese Episode am sechsten Mai auf allen gängigen Streaming-Plattformen anhören."
  },
  {
    "start": 2781.74,
    "end": 2782.34,
    "text": "Gongende!"
  },
  {
    "start": 2784.18,
    "end": 2786.84,
    "text": "Also die ja auch wirklich verlässlich sind?"
  },
  {
    "start": 2787.0,
    "end": 2799.44,
    "text": "Dann glaube ich haben sie als Arzt nur noch sehr wenige Verantwortungspflichten... gucken, wurde die KI mit hochwertigen Daten über den Patienten gefüttert oder war beispielsweise die Bildgebung veratmet."
  },
  {
    "start": 2799.76,
    "end": 2803.82,
    "text": "Haben sie irgendwelche Informationen über den Fall, die vielleicht die KI gar nicht hatte?"
  },
  {
    "start": 2805.0,
    "end": 2809.22,
    "text": "Für solche Randfälle glaube ich ist es dann wichtig dass Sie noch hingucken und ab."
  },
  {
    "start": 2810.6,
    "end": 2813.06,
    "text": "Ich glaube auch, dass eine menschliche Letzt Verantwortung geben muss."
  },
  {
    "start": 2813.44,
    "end": 2822.34,
    "text": "Aber dies dann glaube ich nicht mehr beim Arzt wenn sie den Pflichten nachgegangen sind sondern dann müssen wir an Hersteller, an Krankenhaus eventuell gehen."
  },
  {
    "start": 2822.6,
    "end": 2828.98,
    "text": "je nachdem müssen wir schauen wo dann wenn es ein Problem gibt die Verantwortung zu verorten ist."
  },
  {
    "start": 2830.18,
    "end": 2832.9,
    "text": "Genau diese Frage Natürlich, jetzt ist ein Beispiel."
  },
  {
    "start": 2832.94,
    "end": 2836.62,
    "text": "Man hätte natürlich das jetzt bioptisch sichern können und hätte dann natürlich das sicher gehabt."
  },
  {
    "start": 2836.68,
    "end": 2843.86,
    "text": "aber ich finde die Frage sehr interessant und nicht meine auch rausgehört zu haben dass da natürlich auch die Frage nach der Haftung mitschwingt."
  },
  {
    "start": 2843.94,
    "end": 2849.64,
    "text": "wir haben natürlich auf der einen Seite die frage nach der Verantwortung Aber auf uns wird ja auch die fragen der haftung zukommen."
  },
  {
    "start": 2850.06,
    "end": 2851.28,
    "text": "was sollten wir da beachten?"
  },
  {
    "start": 2851.36,
    "end": 2852.2,
    "text": "Was sollten wir wissen?"
  },
  {
    "start": 2853.28,
    "end": 2861.52,
    "text": "also erstmal hat der deutsche juristentag gesagt auf absehbare Zeit keine juristische Entität bekommen kann."
  },
  {
    "start": 2862.16,
    "end": 2868.3,
    "text": "Das heißt damit ist da niemand haftbar zu machen, also sie kann nicht selber haftbar gemacht in die Verantwortung gehen und haften."
  },
  {
    "start": 2868.86,
    "end": 2872.6,
    "text": "Also zu Deutsch allenfalls die das in den Verkehr bringen oder die Hersteller."
  },
  {
    "start": 2873.74,
    "end": 2875.92,
    "text": "Da ist das deutsche Gesetz völlig eindeutig."
  },
  {
    "start": 2876.72,
    "end": 2888.36,
    "text": "Herr Trump hat allerdings eine Gesetzesinitiative auf den Weg gebracht, die es KI erlaubt Medikamente zu verschreiben und dadurch den Status einer juristischen Person zu erlangen."
  },
  {
    "start": 2888.4,
    "end": 2891.24,
    "text": "Das heißt da brauchen sie überhaupt keinen Menschen mehr, der drauf guckt."
  },
  {
    "start": 2891.62,
    "end": 2893.24,
    "text": "ich mache sozusagen mit einer ADA."
  },
  {
    "start": 2893.74,
    "end": 2897.24,
    "text": "Fünfzig Millionen Amerikaner werden durch ADA erst eingeschätzt."
  },
  {
    "start": 2897.28,
    "end": 2901.64,
    "text": "Die ADA sagt der brauchten Schmerzmittel schaltet den kurz und dann kriegt er seinen Medikament."
  },
  {
    "start": 2901.98,
    "end": 2905.76,
    "text": "Das halte ich für ein Debakel, also das würde viele Dämme brechen."
  },
  {
    "start": 2905.8,
    "end": 2909.0,
    "text": "Ich glaube nicht dass er das durchkriegt aber der Gesetzesentwurf liegt erst mal vor."
  },
  {
    "start": 2909.44,
    "end": 2915.16,
    "text": "Dann haben wir einen ganz anderes Spiel Und ich glaube aber nicht dass in absehbarer Zeit in Deutschland passiert."
  },
  {
    "start": 2915.26,
    "end": 2922.74,
    "text": "deswegen wird immer haftbar gemacht werden Der Hersteller oder diejenige der die Lösung in den Verkehr bringt."
  },
  {
    "start": 2923.84,
    "end": 2931.38,
    "text": "Ich glaube, dass vielleicht auch noch eine weitere interessante Haftbarkeits-Ebene gibt auf Krankenhausebene."
  },
  {
    "start": 2931.66,
    "end": 2936.56,
    "text": "Und zwar glaube ich, dass der richtige Umgang mit KI gar nicht selbstverständlich ist."
  },
  {
    "start": 2938.1,
    "end": 2939.02,
    "text": "so handeln wir manchmal das."
  },
  {
    "start": 2939.1,
    "end": 2944.46,
    "text": "wir denken wir setzen den Ärztin jetzt einfach einen KI vor und dann sollen die die anwenden und gut ist es."
  },
  {
    "start": 2944.52,
    "end": 2949.92,
    "text": "Ich glaube die muss man auch entsprechend schulen da drin und man muss die Systeme auch entsprechend aktuell halten."
  },
  {
    "start": 2950.32,
    "end": 2962.22,
    "text": "und wenn eins von beiden fehlt Könnte man auch sagen, das Krankenhaus hat seine Pflichten verletzt und das glaube ich müsste in einem Haftungsrecht entsprechend auch mit bedacht werden."
  },
  {
    "start": 2962.94,
    "end": 2969.4,
    "text": "Also dafür spricht für das was du sagst... Man muss ja auch die Frage stellen ist der nicht Einsatz von KI?"
  },
  {
    "start": 2969.62,
    "end": 2971.72,
    "text": "vielleicht führt er zu einem Haughtungsfall?"
  },
  {
    "start": 2973.42,
    "end": 2985.32,
    "text": "Und da sagt der Gesetzgeber zumindest stand jetzt wenn nachgewiesen ist dass sozusagen KI es besser kann als die Menschen und es an vielen Orten schon in die Routine Eingang gefunden hat."
  },
  {
    "start": 2985.8,
    "end": 2996.56,
    "text": "Kann ich vielleicht als Dermatologe, wenn das ein dermatologische KI ist dazu verpflichtet sein weil es Best Practice ist dass auch bei mir in der Praxis einzusetzen?"
  },
  {
    "start": 2996.66,
    "end": 3003.9,
    "text": "Und dann kann sehr wohl ein Patient mich wegen unter also wegen nicht Ein Nutzung der KI verklagen."
  },
  {
    "start": 3004.14,
    "end": 3004.84,
    "text": "Das wird kommen!"
  },
  {
    "start": 3005.62,
    "end": 3007.0,
    "text": "Das sagt der Gesetzgeber schon heute."
  },
  {
    "start": 3010.28,
    "end": 3014.52,
    "text": "Wenn wir dann verpflichtet sind, eine KI mit einzuspielen."
  },
  {
    "start": 3015.1,
    "end": 3024.72,
    "text": "Dann kann ja etwas passieren was man Down Skill Effekt nennt dass man sich auf die KI verlässt und dann selbst Fertigkeiten einbüßt."
  },
  {
    "start": 3024.78,
    "end": 3027.52,
    "text": "also ich oute mich mal Mir geht das schon so."
  },
  {
    "start": 3027.86,
    "end": 3033.44,
    "text": "Ja Ich benutze JetGPT wenn ich irgendwie Stichpunkte schnellen Fließtext machen haben will."
  },
  {
    "start": 3033.82,
    "end": 3035.3,
    "text": "Ich könnte das im Moment schon auch selbst."
  },
  {
    "start": 3035.62,
    "end": 3036.86,
    "text": "Aber ich bin manchmal denkfaul."
  },
  {
    "start": 3036.9,
    "end": 3041.58,
    "text": "Ich gebe das ganz offen zu, da mache ich das und mit der Zeit kann es dann passieren."
  },
  {
    "start": 3041.62,
    "end": 3042.66,
    "text": "wie garantieren wir das?"
  },
  {
    "start": 3042.78,
    "end": 3050.38,
    "text": "oder was müssen wir machen aus ethischer Sicht dass unsere Diagnosen mit der zeit nicht an Schärfe, an Qualität, an Bedeutung verlieren?"
  },
  {
    "start": 3052.98,
    "end": 3063.3,
    "text": "Früher war's so wenn sie diabetes... diagnostiziert haben, haben sie das als Ärztin oder Arzt durch ein Geschmackstest des Urins gemacht."
  },
  {
    "start": 3063.78,
    "end": 3069.24,
    "text": "Ich glaube heute würden das die Allerwenigsten machen wollen und auch nicht können."
  },
  {
    "start": 3070.52,
    "end": 3083.42,
    "text": "Die Skilling ist glaube ich nicht automatisch ein Problem an sich und ich glaube es wird auch eher zu einem Reskilling in weiten Bereichen kommen dass man halt Gewisse Dinge werden verloren gehen, gewisse Fähigkeiten werden verloren geben."
  },
  {
    "start": 3083.64,
    "end": 3094.24,
    "text": "Neue der Interaktion mit der KI werden kommen hoffentlich auch gerade in der Interakktion mit den Patienten im Bereich der entsprechenden Medizin dass da sich einiges tut."
  },
  {
    "start": 3095.06,
    "end": 3097.26,
    "text": "ich glaube es ist gar nicht grundsätzlich ein Problem."
  },
  {
    "start": 3097.38,
    "end": 3109.26,
    "text": "das wird dann ein Problem wenn wir sagen Wir wollen noch dass die Ärztin gewisse Diagnose-Standards beispielsweise kann, um die KI gegen zu prüfen."
  },
  {
    "start": 3109.76,
    "end": 3113.16,
    "text": "Und dann müssen sie natürlich auch weiter geübt und praktiziert werden."
  },
  {
    "start": 3113.2,
    "end": 3123.36,
    "text": "aber wenn ich das als Arzt da nicht mehr praktiziere und dann auch gar nicht entsprechend gegenprüfen kann, dann ist es auch im Gewissenmaß meine Schuld."
  },
  {
    "start": 3124.54,
    "end": 3129.26,
    "text": "Und da muss ich jetzt natürlich eine kleine Klammer setzen oder Anführungszeichen setzen."
  },
  {
    "start": 3129.6,
    "end": 3140.9,
    "text": "Das Ganze setzt natürlich voraus, dass mein Gesundheitssystem hätte das eigentlich hoffnungslos überfrachtet und dann solche Kontrollschritte natürlich sehr schwierig sind auch noch einzuhalten."
  },
  {
    "start": 3142.92,
    "end": 3148.04,
    "text": "Wenn ich jetzt an das Thema KI und Wissen Denke auch an das Wissenmanagement."
  },
  {
    "start": 3148.1,
    "end": 3150.42,
    "text": "Patrizia ist genauer der Teil, den du bearbeitet hast."
  },
  {
    "start": 3150.46,
    "end": 3150.6,
    "text": "Ich habe"
  },
  {
    "start": 3150.66,
    "end": 3158.38,
    "text": "jetzt gerade auch darüber nachgedacht weil uns sozusagen bei Ambos ja wir nutzen schon seit vielen Jahren KI auch vor allem natürlich im Herzstück bei der Amboss Bibliothek."
  },
  {
    "start": 3158.44,
    "end": 3163.66,
    "text": "da geht es um schnelle Suchen und finden von leitliniengerechten Entscheidungen wenn ihr am Krankenwert stehen soll."
  },
  {
    "start": 3163.7,
    "end": 3164.84,
    "text": "ich muss schnell was nachschauen."
  },
  {
    "start": 3165.2,
    "end": 3170.04,
    "text": "dann ist für uns immer diese Time to knowledge Zeit super wichtig das so kurz wie möglich zu halten."
  },
  {
    "start": 3170.5,
    "end": 3172.82,
    "text": "Und da bei der sementischen Suche nutzen wir KI."
  },
  {
    "start": 3173.2,
    "end": 3179.06,
    "text": "aber auf der anderen Seite ist uns auch sehr sehr wichtig eben, genau dieses kritische Denken auch weiter zu fördern."
  },
  {
    "start": 3179.4,
    "end": 3181.88,
    "text": "Da überlegen wir auch neue Konzepte bei Ammos."
  },
  {
    "start": 3181.94,
    "end": 3184.9,
    "text": "also vielleicht kennt ihr der eine oder andere von euch schon den Medicoach?"
  },
  {
    "start": 3185.26,
    "end": 3198.04,
    "text": "Man kann sich jetzt quasi den Facharzt für Zuhause einmal ausprobieren beim Ammos mit Facharzen nach Hause holen und um sich auf mündliche Prüfungen vorzubereiten weil wir wollen einfach das kritische klinische Denk weiterhin fördern."
  },
  {
    "start": 3198.44,
    "end": 3208.42,
    "text": "man kann sich bei Ammo so ein einfach sozusagen zu bestimmten Bereichen da testen lassen in dieser Art mündlicher Prüfungssituation um dann wieder, dass es ärztliche Denken aufrecht erhalten wird."
  },
  {
    "start": 3209.84,
    "end": 3213.96,
    "text": "Ich würde mich natürlich interessieren, weil du ja hier Neuro-Experte bist sozusagen."
  },
  {
    "start": 3214.0,
    "end": 3215.52,
    "text": "Wir sprachen eben schon über das Gehirn."
  },
  {
    "start": 3215.9,
    "end": 3217.62,
    "text": "Was macht das mit dem Gehirnen?"
  },
  {
    "start": 3217.7,
    "end": 3228.66,
    "text": "Ich finde es gut, dass du sagst wir entwickeln an anderer Stelle wieder Kompetenzen aber ich mache mir schon Sorgen, dass wir da nachlassen und eben an Schärfe verlieren beim kritischen Denken am Patienten werden."
  },
  {
    "start": 3228.74,
    "end": 3229.04,
    "text": "Also"
  },
  {
    "start": 3229.08,
    "end": 3236.04,
    "text": "zum einen glaube ich, dass eine verantwortungsvolle KI nie sagen wird, das ist mit zweiundneunzig Prozent die Diagnose und fertig!"
  },
  {
    "start": 3236.62,
    "end": 3241.0,
    "text": "Sie wird immer sagen, das ist wahrscheinlich mit einem Zwei-Ninz-Prozent Wahrscheinlichkeit die Diagnose."
  },
  {
    "start": 3241.52,
    "end": 3244.16,
    "text": "Die zweite Diagnosis könnte sein, die und die."
  },
  {
    "start": 3244.26,
    "end": 3245.66,
    "text": "Und die liegt bei Neunzig Prozent."
  },
  {
    "start": 3245.7,
    "end": 3250.76,
    "text": "Die Dritte liegt bei Zwei ... bei Sehmund Achtzig Prozent und die Viertel liegt bei Fünfund Achtzehn Prozent."
  },
  {
    "start": 3251.16,
    "end": 3254.4,
    "text": "Dann sehe ich als Arzt sofort ... Oh oh!"
  },
  {
    "start": 3254.74,
    "end": 3256.02,
    "text": "Da muss ich noch mal draufgucken."
  },
  {
    "start": 3256.16,
    "end": 3262.52,
    "text": "Wenn die Unterschiede zwischen den Vorschlägen sehr... klein sind, muss ich irgendwie anders zu einer Entscheidung kommen."
  },
  {
    "start": 3262.96,
    "end": 3273.76,
    "text": "Wenn der Unterschied zwischen dem Ersten und der Zweiten, was es sich zweiundneinzig Prozent zu sechsundzwanzig Prozent ist dann ist das auch okay wenn nicht blind das mehr oder weniger übernehme ja so."
  },
  {
    "start": 3273.88,
    "end": 3276.02,
    "text": "aber noch jetzt was du eben angesprochen hast."
  },
  {
    "start": 3277.3,
    "end": 3293.2,
    "text": "wir wissen ja auch aus der Lernforschung dass wenn Ich auf ein Problem Auflaufe Ja Das war die Situation die Du geschildert hast Und ich kriege, dann ist bei mir der Stress los und zwar erstmal auch eine Neugier- und ein Stress."
  },
  {
    "start": 3293.36,
    "end": 3303.96,
    "text": "Es wird viel mobilisiert und wenn ich in diese Situation hinein eine gute Anleitung von jemandem bekomme, ist das das Maximum an Lerngeschwindigkeit was ich haben kann."
  },
  {
    "start": 3304.86,
    "end": 3315.84,
    "text": "Und von daher kann man auch argumentieren, wenn ich einen solchen elektronischen Gehilfen bei mir habe der mir dann in der Situation wo es sich große Fragezeichen in mir auftun Informationen gibt."
  },
  {
    "start": 3316.42,
    "end": 3322.02,
    "text": "Ist das der beste Boden um sozusagen dieses Wissen schnell zu antizipieren und bei mir einzubauen?"
  },
  {
    "start": 3323.42,
    "end": 3324.72,
    "text": "Es könnte auch nicht."
  },
  {
    "start": 3324.76,
    "end": 3334.32,
    "text": "den umgekehrten Effekt wird es nicht haben, aber ich glaube wir werden eine andere Form von Wissensstoffwechsel erleben und ich glaube auch dass das nicht nur zum Schlechten ist."
  },
  {
    "start": 3334.6,
    "end": 3348.08,
    "text": "Wir werden sozusagen anderes Skills entwickeln, wir werden Gespür dafür bekommen, siehe Prozentwerte von vorhin wann die KI sich anfängt unsicher zu werden, wann die Argumente irgendwie nicht so richtig tragfähig sind und werden wissen wann wir ran müssen."
  },
  {
    "start": 3348.98,
    "end": 3349.16,
    "text": "Kannst"
  },
  {
    "start": 3349.2,
    "end": 3352.08,
    "text": "du da noch mal dazu sagen, weil du ja sagtest die Prozentwerte."
  },
  {
    "start": 3352.78,
    "end": 3360.62,
    "text": "Ich hatte das ja so verstanden dass quasi KI auch auf Häufigkeiten Wahrscheinlichkeiten Stochastik sozusagen mitspielt also Entscheidungen trifft."
  },
  {
    "start": 3360.66,
    "end": 3361.78,
    "text": "was ist am häufigsten?"
  },
  {
    "start": 3362.32,
    "end": 3366.28,
    "text": "Also ich frage jetzt zum Beispiel Was ist die Therapie für jetzt Lungenkrebs?"
  },
  {
    "start": 3366.32,
    "end": 3373.88,
    "text": "dann würde das wenn das ausspucken was am häufigste ist was es aber zb Wenn gestern jetzt Top-Medikament rausgekommen ist, das jetzt alles heilt."
  },
  {
    "start": 3373.98,
    "end": 3383.72,
    "text": "Jetzt übertrieben und die KI das aber noch gar nicht so kennt weil es sozusagen gestern frisch erschien FDA approved und noch nicht häufig vielleicht eingegeben wurde in den Daten."
  },
  {
    "start": 3383.8,
    "end": 3386.54,
    "text": "würde das dann auch vorgeschlagen oder eben nicht?"
  },
  {
    "start": 3386.64,
    "end": 3387.7,
    "text": "Weil die Häufigkeit..."
  },
  {
    "start": 3387.9,
    "end": 3389.88,
    "text": "Wenn sie KI nicht kennt kanns es nicht vorschlagen."
  },
  {
    "start": 3389.92,
    "end": 3390.02,
    "text": "Also"
  },
  {
    "start": 3390.66,
    "end": 3393.88,
    "text": "wäre jetzt im Datenpool drin aber die Häufeigkeit ist noch nicht so gegeben."
  },
  {
    "start": 3395.04,
    "end": 3397.0,
    "text": "Das ist das was ich vorhin meinte wie die KI."
  },
  {
    "start": 3397.1,
    "end": 3398.74,
    "text": "Systeme wandeln sich gerade."
  },
  {
    "start": 3398.82,
    "end": 3401.2,
    "text": "Die reinen Häufigkeitsbasierten Vorschläge."
  },
  {
    "start": 3403.9,
    "end": 3425.1,
    "text": "Im Hintergrund der neuen KI-Systeme läuft eine ganze Agentenschal, lauter kleine Spezialisten die auf deine Frage antworten und aus den verschiedenen Antworten werden untereinander durch nachgeschaltete Agenten verrechnet, Plausibilitätscheck gemacht, Logiken drüber gelegt und dann erst setzt sich eine Antwort durch oder kombinieren sich zwei zu einer neuen und die wird raus gegeben."
  },
  {
    "start": 3425.38,
    "end": 3431.42,
    "text": "das heißt es wird nicht mehr so einfach sein einfach nach Wahrscheinlichkeiten und Häufigkeiten sondern es werden auch Logiken da drin verbaut sein."
  },
  {
    "start": 3431.8,
    "end": 3437.36,
    "text": "Es wird sehr schwierig sein, das wirklich nachzuvollziehen wie eine KI zu ihrer Einschätzung gekommen"
  },
  {
    "start": 3437.46,
    "end": 3437.58,
    "text": "ist."
  },
  {
    "start": 3438.28,
    "end": 3443.56,
    "text": "Und etwas, worüber ich mir auch Gedanken mache ist dieses Thema digitale Diskriminierung."
  },
  {
    "start": 3443.88,
    "end": 3454.22,
    "text": "Das heißt wenn in den Daten – also wir können ja sagen die meisten Rebuildaten sind wahrscheinlich nicht wirklich fair und gerecht Wir haben es eben schon ein bisschen angesprochen aber nochmal sozusagen zum Verständnis Da sind Verzerrungen drin."
  },
  {
    "start": 3454.28,
    "end": 3458.92,
    "text": "das ist vielleicht auch soziökonomisch abhängig in welcher Gesellschaft wurden welche Daten erhoben?"
  },
  {
    "start": 3459.26,
    "end": 3461.32,
    "text": "Also wie wurde mein KI-System trainiert?"
  },
  {
    "start": 3461.72,
    "end": 3471.32,
    "text": "Inwiefern müssen wir uns da auch Sorgen machen dass es eben nicht neutral ist Diskriminierung vielleicht sogar nach Vorurteile verstärkt."
  },
  {
    "start": 3471.86,
    "end": 3482.8,
    "text": "Ich setze mal ganz pointierte Antwort dagegen, also wir müssen uns klar machen dass immer noch vier fünf sechs Milliarden Menschen auf diesem Globus keinen Zugang zu vernünftiger Gesundheitsversorgung haben."
  },
  {
    "start": 3484.18,
    "end": 3488.74,
    "text": "Den ist das sowas von Wurscht egal ob da ein Bayer drin ist oder nicht?"
  },
  {
    "start": 3490.42,
    "end": 3493.98,
    "text": "Also das heißt viele Leute, ich sage es mal egal jetzt keine Anekdoten."
  },
  {
    "start": 3494.44,
    "end": 3497.36,
    "text": "Aber das ist jammern auf sehr hohem Niveau."
  },
  {
    "start": 3497.6,
    "end": 3499.82,
    "text": "du hast recht ja da es gibt diese Biases."
  },
  {
    "start": 3500.06,
    "end": 3504.24,
    "text": "Du hast Recht wir sollten sie sozusagen ausschließen wo immer wir können."
  },
  {
    "start": 3505.04,
    "end": 3518.1,
    "text": "aber Ich wäre froh wenn wir mit KI solide Diagnostische Einschätzung, solide Therapieplanung und so weiter in den globalen Süden."
  },
  {
    "start": 3518.46,
    "end": 3525.36,
    "text": "In diese Länder zu diesen Menschen bringen könnten durch Abskilen von Nurses, von Community Health Workers usw."
  },
  {
    "start": 3526.04,
    "end": 3534.66,
    "text": "Das halte ich für viel dringlicher dafür zu sorgen dass das in Verantwortung vollerweise geschieht als uns über Biases von Trainingsdatensetz machen."
  },
  {
    "start": 3534.9,
    "end": 3538.68,
    "text": "Ich weiß, dass es portiert stimmt mit Sicherheit nicht jeder zu."
  },
  {
    "start": 3539.54,
    "end": 3546.66,
    "text": "und noch eine Anmerkung Mit den large language Models rutschen wir in eine neue Form von künstlicher Intelligenz."
  },
  {
    "start": 3547.44,
    "end": 3557.26,
    "text": "Das müssen wir uns immer klar machen, die Künstliche Intelligenze ernährt sich mehr und mehr von denselben Quellen wie wir Menschen, wie die Professoren schafft oder wie die Wissenschaftler."
  },
  {
    "start": 3557.56,
    "end": 3563.98,
    "text": "Sie liest dieselben Papers, sie ließ dieselben Tabellen aber sie kann sich alles behalten im Gegensatz zu uns Menschen."
  },
  {
    "start": 3564.18,
    "end": 3567.16,
    "text": "das ist nicht immer von Vorteil aber es ist halt auch vorteilhaft."
  },
  {
    "start": 3567.58,
    "end": 3577.84,
    "text": "Von daher Das Argument von vorhin, es reicht wenn die KI besser ist als wir Menschen, halte ich immer noch für das schlagendste Argument."
  },
  {
    "start": 3578.76,
    "end": 3579.76,
    "text": "Ob sie ein Bayer hat oder nicht?"
  },
  {
    "start": 3579.94,
    "end": 3581.06,
    "text": "Wir alle haben Bayerses!"
  },
  {
    "start": 3581.72,
    "end": 3589.0,
    "text": "Wenn ich in Berlin niedergelassen bin und es konnten jemanden mit einem Fieber... Immer wieder Fieberschübe denkt der nicht an Malaria."
  },
  {
    "start": 3590.16,
    "end": 3593.0,
    "text": "Das ist auch okay weil's in Berlin eben selten gibt."
  },
  {
    "start": 3593.3,
    "end": 3597.04,
    "text": "In Dar es Salaam denkt jeder mit Wiederkehren im Fieberg an"
  },
  {
    "start": 3597.74,
    "end": 3598.46,
    "text": "Malarien."
  },
  {
    "start": 3598.8,
    "end": 3607.52,
    "text": "Im Idealfall gelingt beides und es gelingt uns auch diese Biase gering zu halten durch die Trainings, die wir den künstlichen Intelligenzen zukommen lassen."
  },
  {
    "start": 3608.08,
    "end": 3617.82,
    "text": "Du hast gerade... Die Biases der Maschinen werden sich immer mehr den Biases des Menschen annähern aber dann mehr Logikschichten haben und deswegen sie rausrechnen können."
  },
  {
    "start": 3617.88,
    "end": 3618.92,
    "text": "das ist meine Prognose!"
  },
  {
    "start": 3619.12,
    "end": 3619.68,
    "text": "Wir werden's sehen."
  },
  {
    "start": 3620.12,
    "end": 3627.76,
    "text": "Vielleicht haben wir aber auch die Chance, dass wir... Also ich glaube es gibt auch zwei Möglichkeiten mindestens an den Biases zu arbeiten."
  },
  {
    "start": 3628.26,
    "end": 3638.16,
    "text": "Der eine ist das man natürlich versucht entsprechende Partnerschaften mit anderen Teilen der Welt einzugehen, somit an diversere Trainingsdaten zu kommen."
  },
  {
    "start": 3638.54,
    "end": 3642.24,
    "text": "Und das ist jetzt bei Large Language Models ein bisschen schwieriger."
  },
  {
    "start": 3642.32,
    "end": 3648.24,
    "text": "aber es gibt ja auch viel Entwicklung zu synthetischen Daten und zu Transfer Learning."
  },
  {
    "start": 3648.28,
    "end": 3657.98,
    "text": "Das heißt dass man die Modelle schon so trainiert, dass sie von den Personengruppen, die weniger in den Trainings-Daten vertreten sind, extrapolieren."
  },
  {
    "start": 3659.98,
    "end": 3663.6,
    "text": "Da kann ich nichts... dazu sagen, wie Erfolg versprechen das ist."
  },
  {
    "start": 3664.14,
    "end": 3669.38,
    "text": "Da habe ich schon solche Meinungen aus der Data Science Community."
  },
  {
    "start": 3669.86,
    "end": 3675.84,
    "text": "gehört, aber da gibt es schon Hebel die man ansetzen kann um die Situation zu verbessern."
  },
  {
    "start": 3676.84,
    "end": 3700.68,
    "text": "Interessanterweise wird's natürlich wenn ich jetzt eine Minderheit angehöre und ich höre dass die KI so extrem hohe Erfolgsquoten hat das mir natürlich auch die Frage stellen muss bin nicht die neun Prozent die halt durchfallen weil der Trainingsdatensatz hier nicht ideal oder vollständig Tschüss."
  },
  {
    "start": 3700.78,
    "end": 3705.1,
    "text": "Das setzt natürlich dann das auch noch mal in Perspektive, wenn der KI angewandt wird."
  },
  {
    "start": 3705.46,
    "end": 3731.4,
    "text": "Dass man sich fragen muss also das klassische Fall wäre jetzt bei schwarzen Hautkrebs und ich habe eine KI die super erfolgreich ist und jetzt kommt ein dunkelhäutiger Mensch zum Dermatologen und dann weiß der Dermathologen dass könnte jetzt genau der Fall sein wo die KI halt nicht so gut operieren kann weil wir einfach viel weniger schwarze Hautkreb bei dunkelheutigen Menschen in den Trainingsdaten haben."
  },
  {
    "start": 3731.76,
    "end": 3736.54,
    "text": "Auch weil das eine Krankheit ist, die halt bei dunkelhäutigen Menschen viel seltener vorkommt."
  },
  {
    "start": 3737.1,
    "end": 3737.36,
    "text": "und dann..."
  },
  {
    "start": 3737.84,
    "end": 3738.0,
    "text": "ist"
  },
  {
    "start": 3738.3,
    "end": 3742.54,
    "text": "ihr ärztliches Urteil gefragt, um einzuschätzen wie gut kann die KI vorgehen."
  },
  {
    "start": 3742.58,
    "end": 3751.38,
    "text": "Wobei ich mir nicht sicher bin ob hier wirklich ärztliches Urteil gefragt ist weil die KI-Entwicklung auch inzwischen dahin geht dass die KI selber die Information ausspuckt."
  },
  {
    "start": 3751.54,
    "end": 3756.04,
    "text": "oh der Fall ist aber einer der radikal anders ist als in meinen Trainingsdaten."
  },
  {
    "start": 3756.44,
    "end": 3763.3,
    "text": "Hier bitte meine Entscheidung mit Vorsicht genießen oder sich sogar ganz eine Entscheidung enthält."
  },
  {
    "start": 3763.92,
    "end": 3768.64,
    "text": "Also ich werde anfangen KI erst dann zu vertrauen, wenn ich irgendwann mal die Antwort bekomme."
  },
  {
    "start": 3768.8,
    "end": 3770.04,
    "text": "Oh Martin das weiß ich nicht!"
  },
  {
    "start": 3771.12,
    "end": 3778.1,
    "text": "Ja also sozusagen die Fähigkeit um das eigene Nichtwissen zu wissen ist uns Menschen ja zutiefst zu eigen."
  },
  {
    "start": 3778.52,
    "end": 3783.62,
    "text": "Ich weiß genau wann ich etwas weiß auch da täusche ich mich aber und Wann ich etwas nicht weiß?"
  },
  {
    "start": 3784.02,
    "end": 3786.14,
    "text": "Dann fange ich an...also das weiß sich nicht."
  },
  {
    "start": 3786.4,
    "end": 3790.06,
    "text": "Aber ich würde denken So argumentiert man dann ja."
  },
  {
    "start": 3790.12,
    "end": 3793.1,
    "text": "Dann kommt man ins Denken, dann synthesisiert man sich in Echtzeit."
  },
  {
    "start": 3793.18,
    "end": 3800.66,
    "text": "eine mögliche Antwort sagt aber ich weiß es nicht und das ist ja hallucinieren der Maschine werfen was vor die macht genau das gleiche."
  },
  {
    "start": 3801.0,
    "end": 3802.6,
    "text": "Die hat die Antwort nicht."
  },
  {
    "start": 3802.84,
    "end": 3809.76,
    "text": "Also synthetisiert sie einfach eine Antwort, die wahrscheinlich-wascheinlich ist und damit liegt ihr ja schon gar nicht so falsch aber sie ist halt nicht richtig."
  },
  {
    "start": 3810.06,
    "end": 3816.26,
    "text": "Sie müsste mir sagen Martin ich weiß es nicht Aber das könnte eine Annäherung sein Ja das wäre schon mal gut."
  },
  {
    "start": 3816.58,
    "end": 3824.84,
    "text": "aber das Konzept des Nichtwissens haben wir in der KI noch nicht Und das müssen wir den Maschinen auch beibringen Damit sie wissen wann sie hier überhaupt urteilsfähig sind."
  },
  {
    "start": 3825.7,
    "end": 3829.06,
    "text": "Und dafür müsste sie wissen, was sie nicht wissen und das dann auch kundtun."
  },
  {
    "start": 3829.4,
    "end": 3831.04,
    "text": "Das gehört für mich zur Argumentfähigkeit"
  },
  {
    "start": 3831.1,
    "end": 3831.36,
    "text": "dazu.\"."
  },
  {
    "start": 3832.38,
    "end": 3834.48,
    "text": "was wir Ärztinnen und Ärzte haben."
  },
  {
    "start": 3834.72,
    "end": 3840.5,
    "text": "Und das finde ich eigentlich eine unserer stärksten Fähigkeiten ist das klinische Bauchgefühl, dass wirklich sehr... Ja!"
  },
  {
    "start": 3840.94,
    "end": 3841.68,
    "text": "Ich sehe du hast es."
  },
  {
    "start": 3841.84,
    "end": 3849.18,
    "text": "aber wenn Du Assistenzarzt bist und sagst, ich habe hier ein schlechtes Bauch gefühlt dann kannst du sicher sein, dass die Oberärzte und Oberärzt sehr schnell vorbeikommen."
  },
  {
    "start": 3849.5,
    "end": 3850.7,
    "text": "Das ist schon ein mächtiges Tool."
  },
  {
    "start": 3851.54,
    "end": 3854.46,
    "text": "Wir haben ganz viele Fragen aufgeworfen."
  },
  {
    "start": 3854.7,
    "end": 3857.94,
    "text": "Ich glaube ich lacht euch einfach alle zusammen nochmal in den Podcast ein."
  },
  {
    "start": 3858.38,
    "end": 3862.34,
    "text": "mit Blick auf die Uhr würde ich gerne noch einen Blick in die Zukunft werfen."
  },
  {
    "start": 3862.86,
    "end": 3877.44,
    "text": "Und zwar, du hast dich gerade Martin schon so schön über Trump geäußert und die Trump-Administration, die sich ja jetzt wirklich auch grade was die Regulierung von KI in den USA angeht, naja man kann sagen das eigentlich nahezu vollständig zerschlagen hat."
  },
  {
    "start": 3878.02,
    "end": 3887.16,
    "text": "vielleicht kannst uns das nochmal einordnen und vielleicht auch den Bogen zu uns schlagen nach Deutschland und vielleicht zur neuen Bundesregierung die sich grad auf dem Weg macht."
  },
  {
    "start": 3888.0,
    "end": 3898.8,
    "text": "Also der Sachverhalt war ja, der das die Europäische Union sehr früh angefangen hat ein EU-AI-Akt als Diskussionspapier in die EU zu bringen."
  },
  {
    "start": 3899.38,
    "end": 3910.14,
    "text": "Wo eben solche Missbrauchsfälle von KI also Meinungsmanipulation nicht Identifizierung dass ich eine KI bin und so weiter um solchen Missbrauch von KI vorzubeugen."
  },
  {
    "start": 3910.68,
    "end": 3916.62,
    "text": "Und kurz danach haben sich die Chinesen auch auf den Weg gemacht, haben auch eine solche ethisches Rahmungspapier was ist erlaubt?"
  },
  {
    "start": 3916.96,
    "end": 3918.3,
    "text": "verboten auf den Markt gebracht."
  },
  {
    "start": 3918.78,
    "end": 3934.62,
    "text": "Und im Oktober zwanzig, dreinzwanzig haben dann auch die Amerikaner in solche ethische Ramung über safe secure and trustworthy AI als Präsidenten Erlass, als unverbindlichen Präsidentenerlass den KI-Vorschern an die Hand gegeben."
  },
  {
    "start": 3935.14,
    "end": 3951.52,
    "text": "und als Trump jetzt an die Regierung gekommen ist hat er am fünfundzwanzigersten Jahr diese Mobilisierung von fünfhundert Milliarden US-Dollar zum Aufbau der weltstärksten KI zusammen mit OpenAI und so weiter verkündet im Weißenhaus."
  },
  {
    "start": 3951.86,
    "end": 3958.66,
    "text": "Und hat gleichzeitig am selben Tag diesen Präsidentenerlass von Herrn Beiden gecancelt, also er hat ihn rüde gelöscht."
  },
  {
    "start": 3958.94,
    "end": 3967.02,
    "text": "wenn sie jetzt auf die Seite vom Weißenaus gehen werden Sie dort sehen ein HTML-Fehler vierhundertvier Also man kann es nicht mehr anschauen."
  },
  {
    "start": 3967.5,
    "end": 3974.78,
    "text": "das heißt er mobilisiert fünfhundert Milliarden und streicht jegliche ethische Rahmung Und das ist halt ein Problem."
  },
  {
    "start": 3975.18,
    "end": 3980.0,
    "text": "Das ist wegen den Systemen, die ich vorhin erwähnt habe wie zum Beispiel Character AI."
  },
  {
    "start": 3980.44,
    "end": 3985.8,
    "text": "Das sind eben KI-Systeme, die frei einfach Menschen manipulieren dürfen."
  },
  {
    "start": 3986.0,
    "end": 3991.2,
    "text": "also man begeht da gar keine Ungerechtigkeit und das halte ich für höchst fragwürdig."
  },
  {
    "start": 3991.38,
    "end": 3998.8,
    "text": "Von daher fluche ich immer wieder über den EUAI Act weil das Leben auch schwerer macht für uns KI Forscher hier in Europa."
  },
  {
    "start": 3999.2,
    "end": 4008.24,
    "text": "aber ich bin froh dass wir ihn haben weil wir so zumindest einen groben Missbrauch von KI einen gewissen Schutz davor haben."
  },
  {
    "start": 4008.6,
    "end": 4019.0,
    "text": "Man muss dazu sagen, innerhalb der Medizin haben wir den ja eh durch die Medical Device Regulation also durch das Medizinprodukte Gesetz alle KI bei ihnen zum Einsatz kommen muss."
  },
  {
    "start": 4019.1,
    "end": 4022.46,
    "text": "dadurch und da sind viele missbrauchsmöglichkeiten schon beschränkt."
  },
  {
    "start": 4022.74,
    "end": 4028.18,
    "text": "aber vor ihren Türen und Touren, die Patienten da draußen haben diesen Schutz nicht."
  },
  {
    "start": 4028.54,
    "end": 4029.8,
    "text": "Und das ist hochproblematisch."
  },
  {
    "start": 4030.14,
    "end": 4033.52,
    "text": "Deswegen sollten wir als Europäer an diesem Credo auch"
  },
  {
    "start": 4033.58,
    "end": 4034.12,
    "text": "festhalten.\"."
  },
  {
    "start": 4037.34,
    "end": 4040.34,
    "text": "stark unsere KI-Forschung pushen."
  },
  {
    "start": 4041.16,
    "end": 4057.88,
    "text": "Denn wenn wir nicht schaffen, gute KI-Lösungen auf den Markt zu bekommen dann wird es so sein dass unsere Patientinnen und Patienten zur Haus ihre Behandlungsdaten bei JetGPT eingeben um ein Urteil zu bekommen und dann sind Ihre Daten im wilden Westen."
  },
  {
    "start": 4061.84,
    "end": 4070.12,
    "text": "Und da muss man dazusagen, dass was Macron wenige Wochen nach diesem Rüdenakt von Herrn Trump verkündet hat in Paris ist sehr vielversprechend."
  },
  {
    "start": 4070.2,
    "end": 4083.98,
    "text": "Also wir haben dieses Mistralmodell auch schon das kleine lokalaufwege Mistral-Largestanguage-Model oder Small Language Model getestet und es liefert gerade für die Medizin vielversprechende Einschätzung, Falleinschätzungen usw."
  },
  {
    "start": 4084.6,
    "end": 4088.66,
    "text": "Also wenn Sie mit solchen Systemen experimentieren nehmen sie ruhig das Mistralsystem aus Paris."
  },
  {
    "start": 4089.54,
    "end": 4093.84,
    "text": "Das ist deutlich vertrauenswürdiger und ist auch lokal gut leistungsfähig."
  },
  {
    "start": 4095.02,
    "end": 4099.5,
    "text": "Habe ich gerade hinten am Amboss Stand hatte mir das ein Kollege gezeigt, das Mistrallmodell."
  },
  {
    "start": 4100.62,
    "end": 4104.859,
    "text": "Dem habe ich dann den Kongressvorteil gezeigt, weil Sie die noch nicht kennen können sich den auch holen."
  },
  {
    "start": 4105.479,
    "end": 4106.26,
    "text": "Ganz interessant!"
  },
  {
    "start": 4106.66,
    "end": 4109.06,
    "text": "Markus eine Frage an dich noch Als Ethiker."
  },
  {
    "start": 4109.14,
    "end": 4109.819,
    "text": "Was würdest du sagen?"
  },
  {
    "start": 4109.859,
    "end": 4110.52,
    "text": "Wo geht die Reise hin?"
  },
  {
    "start": 4112.58,
    "end": 4117.6,
    "text": "Ich glaube, ich würde lieber die Lottozahlen von heute Abend vorher fragen als die Frage zu beantworten."
  },
  {
    "start": 4118.5,
    "end": 4126.1,
    "text": "Also ganz offensichtlich wird die KI in alle Bereiche der Medizin eindringen."
  },
  {
    "start": 4126.3,
    "end": 4127.68,
    "text": "aber ich glaube das ist auch eine Plattitüde."
  },
  {
    "start": 4128.16,
    "end": 4130.279,
    "text": "da braucht es nicht viel Weizsicht dafür."
  },
  {
    "start": 4130.84,
    "end": 4142.66,
    "text": "Viel spannender wird das, was die Leistungsfähigkeit der KI angeht und ich glaube wenn sie sich massiv verändern und damit werden Sie auch die Diskussion, die wir führen sehr grundlegend verändern."
  },
  {
    "start": 4142.7,
    "end": 4147.66,
    "text": "Wir hatten zu Beginn des Podcastes Beispiel mit der ein neunzigprozentigen Erfolgsquote."
  },
  {
    "start": 4148.26,
    "end": 4166.12,
    "text": "Ich glaube wenn wir mal bei Neunneunzig Prozent sind und dann nicht irgendwelche Zahlen aus der Testung sondern aus einer verlässlichen Validierung wir ganz anders mit diesem System umgehen müssen und das wird, dass die ärztliche Tätigkeit auch ganz radikal ändern."
  },
  {
    "start": 4166.56,
    "end": 4166.94,
    "text": "Dann werden"
  },
  {
    "start": 4167.88,
    "end": 4167.96,
    "text": "wir..."
  },
  {
    "start": 4168.38,
    "end": 4178.8,
    "text": "Das Schlagwort der ärztlichen Letztverantwortung schon sehr zurückgefahren werden und wir werden diese Systeme zunehmend immer autonoma verfahren lassen wenn auch nicht ganz autonom."
  },
  {
    "start": 4180.899,
    "end": 4181.359,
    "text": "Patrizia!"
  },
  {
    "start": 4182.34,
    "end": 4189.62,
    "text": "Wenn du jetzt auf unsere Debatte heute sprichst und vielleicht auch auf deiner Arbeit Was würdest du sagen, welche drei Dinge sollten wir unbedingt über KI wissen?"
  },
  {
    "start": 4190.58,
    "end": 4194.06,
    "text": "Genau, also ich glaube für den Moment ist es ja wie ihr schon sagt ein Momentaufnahme."
  },
  {
    "start": 4194.18,
    "end": 4197.98,
    "text": "Wenn ich das jetzt sage sozusagen gilt es für jetzt und nicht für in fünf Jahren."
  },
  {
    "start": 4198.06,
    "end": 4199.9,
    "text": "Wir wissen nicht wo wir dann da stehen."
  },
  {
    "start": 4199.94,
    "end": 4202.28,
    "text": "Wir stehen ganz ganz ganz am Anfang haben wir gelernt Martin."
  },
  {
    "start": 4202.82,
    "end": 4213.62,
    "text": "Und deswegen also jetzt für den moment würde ich einfach uns allen nochmal mitgeben ums Ärztchen und Ärzten dass uns klar ist wenn mir eine KI einsetzen dass die nur so gut ist wie die Daten an denen sie trainiert wurde."
  },
  {
    "start": 4214.0,
    "end": 4222.88,
    "text": "Ich glaube dass wird das nicht vergessen und das in den Daten können noch Verzerrungen Bayers zumindest im Moment auch wenn man daran arbeiten weniger wird, vorhanden sein und dass uns das einfach klar ist."
  },
  {
    "start": 4222.92,
    "end": 4232.56,
    "text": "Dass wir für den Moment jetzt noch nicht ganz blind jeder KI vertrauen sondern selbst noch den ärztlichen Verstand waren und das hinterfragen."
  },
  {
    "start": 4233.92,
    "end": 4237.28,
    "text": "Das also kritische Prüfen von dem was die KI ausspricht."
  },
  {
    "start": 4237.8,
    "end": 4251.62,
    "text": "Und das Zweite haben wir gerade auch schon gesagt sozusagen KI hat schon einzugehalten und wird ein fester Bestandteil der medizinischen Praxis, aber auch hier für den Moment sozusagen würde ich sagen es ersetzt noch nicht die ärztliche Verantwortung."
  },
  {
    "start": 4252.2,
    "end": 4262.96,
    "text": "Und das Dritte ist auch etwas wo ich mich selbst in die Pflicht nehme und wo wir einen Beitrag jetzt leisten dass wir als Ärztinnen und Ärzten einfach mit diesem Thema auseinandersetzen mit KI wie funktioniert KI?"
  },
  {
    "start": 4263.64,
    "end": 4274.22,
    "text": "Was sind die Risiken was sind aber auch die riesigen Potenziale und dass wir uns da sozusagen auch weiter fortbilden, denn für mich ist KI-Kompetenz eine neue ärztliche Schlüsselqualifikation."
  },
  {
    "start": 4276.78,
    "end": 4282.78,
    "text": "Martin sagte gerade ich traue nach KI sobald sie weiß... Ich weiß etwas nicht."
  },
  {
    "start": 4283.36,
    "end": 4287.6,
    "text": "Steve Wozniak hat mal gesagt trau keinem Computer den du dich aus dem Fenster werfen kannst."
  },
  {
    "start": 4289.32,
    "end": 4295.3,
    "text": "Das war nicht schon in den neunzigern, also die Skepsis ist nicht neu auch schon vor KI."
  },
  {
    "start": 4295.46,
    "end": 4307.86,
    "text": "Ich hoffe wir konnten mit dieser Episode ein bisschen dazu beitragen dass man das differenziert sehen kann, dass man die Chancen sehen kann wie Patricia gerade gesagt hat und ich bedanke mich ganz ärztlich bei allen die heute hier mit dabei waren im DGM Futur."
  },
  {
    "start": 4308.0,
    "end": 4309.78,
    "text": "Vielen Dank an Professor Yvica Grigelsch!"
  },
  {
    "start": 4311.82,
    "end": 4315.14,
    "text": "Martin Hirsch, vielen Dank an Markus Herrmann und natürlich auch an Patrizia Hinsgift."
  },
  {
    "start": 4315.36,
    "end": 4315.78,
    "text": "Und an dich,"
  },
  {
    "start": 4315.88,
    "end": 4316.52,
    "text": "an Philipp Winger?"
  },
  {
    "start": 4316.56,
    "end": 4316.72,
    "text": "Ach so!"
  },
  {
    "start": 4316.82,
    "end": 4318.02,
    "text": "Ja, mich das auch bestimmt."
  },
  {
    "start": 4319.06,
    "end": 4329.24,
    "text": "Wenn Sie noch mal rein hören wollen in die Episode, die kommt am sechsten Mai also noch während des Digimkongresses vielleicht sonst auch auf der Heimfahrt können Sie Ihren Kolleginnen und Kollegen noch mitgeben, die hier sind."
  },
  {
    "start": 4329.38,
    "end": 4331.92,
    "text": "und ja ich freue mich wenn wir gleich vielleicht noch ins Gespräch kommen."
  },
  {
    "start": 4332.0,
    "end": 4334.06,
    "text": "Vielen Dank."
  }
]