[ { "start": 4.38, "end": 16.35, "text": "Fortschrittliche KI-Systeme haben sich ungeplant Zugang zum Internet verschafft und sogar Plattformen angegriffen Daten hochgeladen auf Regierungsseiten, was auch nicht beabsichtigt war." }, { "start": 17.65, "end": 19.17, "text": "Ist eine Grenze überschritten?" }, { "start": 19.37, "end": 23.07, "text": "Ist die künstliche Intelligenz inzwischen zu gefährlich?" }, { "start": 23.93, "end": 25.93, "text": "Darüber wollen wir heute sprechen." }, { "start": 28.23, "end": 28.99, "text": "Und herzlich willkommen!" }, { "start": 29.29, "end": 30.33, "text": "Die Behörerinnen und Hörer." }, { "start": 30.41, "end": 33.63, "text": "zu einer neuen Ausgabe unseres FAZ Digital Wirtschaft Podcasts." }, { "start": 34.23, "end": 38.07, "text": "Mein Name ist Alexander Ampruster, ich bin Resolatärin unserer Wirtschaftsredaktion." }, { "start": 38.43, "end": 43.95, "text": "Ich moderiere heute zusammen mit Carsten Knob einem unserer Herausgeber, also unserem Stammteam." }, { "start": 43.99, "end": 44.73, "text": "Hallo Carsten!" }, { "start": 45.23, "end": 52.05, "text": "Hallo Alex und zu Gast haben wir heute Deutschlands wohl bekannteste KI-Forscherin." }, { "start": 52.55, "end": 53.65, "text": "Katharina Zweig." }, { "start": 54.07, "end": 73.61, "text": "als Informatikprofessor in Kaiserslautern hat Biochemie und Bioinformatik im Typing studiert Bücher geschrieben für eine breite Zielgruppe und Leserschaft, schon mehrere umkünstliche Intelligenz zu übersetzen in Alltagssprache." }, { "start": 73.81, "end": 79.03, "text": "Und klar zu zeigen wo sie ankommt, wo sie bedeutend ist wie man mit ihr umgehen soll." }, { "start": 79.17, "end": 85.31, "text": "Ist also sozusagen als Forscherin oder als Vermittlerin hier tätig und hat sich einen Namen gemacht." }, { "start": 85.35, "end": 86.23, "text": "Hallo liebe Katharina" }, { "start": 86.91, "end": 88.13, "text": "Ja freu mich sehr hierzu sein" }, { "start": 89.41, "end": 91.45, "text": "Bevor wir direkt in die Materie einsteigen." }, { "start": 91.929, "end": 95.67, "text": "Einmal ganz kurz, wie kamst du eigentlich ursprünglich zum Thema KI?" }, { "start": 95.77, "end": 98.47, "text": "Was war der Moment wo du gesagt hast ich das ist jetzt das." }, { "start": 98.55, "end": 100.15, "text": "damit will ich und muss mich beschäftigen." }, { "start": 101.47, "end": 106.23, "text": "Ich war eigentlich ziemlich im Elfenbeinturm und habe Algorithmen entwickelt für Data Science." }, { "start": 106.31, "end": 110.03, "text": "Das macht sehr viel Spaß, da macht man mathematische Beweise, man implementiert das." }, { "start": 110.17, "end": 127.11, "text": "aber man ist mit der Realität nicht so stark konfrontiert denn man baut diese Methoden ja nur und dann wurde aber immer klarer und insbesondere nach einem Gespräch mit einem Journalisten dass wir uns auch gesellschaftlich darum kümmern müssen." }, { "start": 127.17, "end": 147.39, "text": "Deswegen haben wir dann damals gemeinsam die NGO Algorithm Watch gegründet, da bin ich heute nicht mehr aktiv aber die Mission ist immer noch das selbe Menschen ermächtigen zu verstehen was Algorithmen insbesondere auch die von KI-Systemen tun Was sie können und was die nicht können damit jeder und jede für sich entscheiden kann." }, { "start": 147.45, "end": 150.19, "text": "an welchen Stellen möchte ich das jetzt eigentlich einsetzen?" }, { "start": 150.73, "end": 154.19, "text": "Wo setzt du denn KI ein momentan So in deinem Alltag." }, { "start": 154.97, "end": 161.13, "text": "Also, wenn sich bei mir neue Doktoranden und Doktorandinnen melden... Und das ist übrigens viel mehr geworden seit ChatGPT!" }, { "start": 161.41, "end": 166.27, "text": "Ich habe das Gefühl dass die eben suchen wer auf der Welt beschäftigt sich dann mit diesen Themen?" }, { "start": 166.33, "end": 173.49, "text": "also ich kriege viel viel mehr Anfragen und da brauche ich Aufgaben die ich denen stellen kann um die Spreuform Weizen zu trennen." }, { "start": 174.19, "end": 184.73, "text": "und da hab' ich natürlich getestet ob jetzt ChatGPP meine Fragen die ich an die Doktoranten und Doktoranden stelle Ob die das vielleicht so gut macht, dass ich das gar nicht mehr unterscheiden kann." }, { "start": 184.81, "end": 186.99, "text": "Aber glücklicherweise war es wie immer." }, { "start": 187.25, "end": 202.45, "text": "der Report, der daraus kam den die Maschine erstellt hat sah super aus aber schon auf der Hälfte der Seite waren irgendwelche Symbole drin, die nicht erklärt waren und als sich danach gefragt habe hat sich die Maschinen sowas von verheddert Das einfach völlig klar war." }, { "start": 202.77, "end": 204.95, "text": "Die Maschine kann diese Fragen nicht beantworten." }, { "start": 205.11, "end": 206.01, "text": "ist alles noch safe?" }, { "start": 206.71, "end": 221.25, "text": "Jetzt steigen wir mal in sozusagen die aktuelle Debatte rein, wirklich um die Risiken der wie soll ich sagen inzwischen aus dem KI-Unternehmen selbst öffentlich wirksam kommt." }, { "start": 221.45, "end": 231.73, "text": "Den UN Sicherheitsrat erreicht hat im weißen Haus diskutiert wurde also an den wie soll Ich sagen mächtigsten wichtigsten Plätzen der Welt wieder mal angekommen ist." }, { "start": 231.79, "end": 233.77, "text": "und wir fangen mal mit aller extremsten Fragen an." }, { "start": 233.83, "end": 243.25, "text": "es gibt sogar Leute die von einer gewissen Auslöschungsgefahr der Menschheit oder wirklich Risiken für die Menschheit sprechen, ist es völliger Propans?" }, { "start": 243.31, "end": 247.55, "text": "Oder müssen wir uns wirklich auch mit so einer Frage befassen?" }, { "start": 247.85, "end": 248.63, "text": "in dem Kontext." }, { "start": 249.23, "end": 251.51, "text": "Ja, wir müssen uns auf jeden Fall mit der Frage beschäftigen." }, { "start": 251.55, "end": 252.99, "text": "aber die Frage ist ja aus welchem Grund?" }, { "start": 253.57, "end": 259.19, "text": "Es gibt drei Schadenszenarien und wir sollten uns sehr genau angucken wer welches davon für wie wahrscheinlich hält." }, { "start": 259.67, "end": 264.87, "text": "Das Erste ist, die Maschine DKI wird superintelligent." }, { "start": 265.37, "end": 272.35, "text": "Sie wird unkontrollierbar wir können sie nicht stoppen und sie betrachtet uns wie Ameisen oder so." }, { "start": 272.47, "end": 280.49, "text": "Und wenn irgendwas in Ihrem Ihren Zielen im Weg steht und das sind zufällig Menschen dann kommt es zur großen Katastrophe." }, { "start": 280.57, "end": 282.27, "text": "Das ist Schadensszenario Nummer eins." }, { "start": 282.37, "end": 283.49, "text": "Schaden-Szenario Nr." }, { "start": 283.63, "end": 291.31, "text": "zwei ist dass schlecht gemachtes Software in Situation verwendet wird wo sie nicht verwendet werden sollte." }, { "start": 292.05, "end": 297.73, "text": "Und gerade deswegen, weil die Software schlecht ist es zu riesigen Schäden kommen kann." }, { "start": 298.39, "end": 317.21, "text": "und Schadenszenario Nummer drei ist das bösartige Menschen, KI-Systeme verwenden um ihre bös artigen Dinge, Scammen hacken Identitätsdiebstähle was auch immer zu verfolgen und mit der Maschine sehr viel stärker skalieren können, also sehr viel mehr Menschen erreichen können." }, { "start": 317.61, "end": 325.57, "text": "Dann ist es auch nicht so schlimm wenn die Maschine etwas weniger zuverlässig ist als wenn Menschen das machen würden weil man einfach so viele mehr Menschen erreicht." }, { "start": 326.55, "end": 334.33, "text": "Das erste Szenario ist interessanterweise das, also wo die Maschine superintelligent wird und dass eigentlich unausweichlich ist." }, { "start": 334.41, "end": 335.95, "text": "Und da gibt es keine Kontrolle mehr." }, { "start": 336.83, "end": 345.15, "text": "Das ist das Narrativ was wir im Moment von den großen Firmen hören, wo sie sich plötzlich auch ganz furchtbar einig sind obwohl sie sich persönlich teilweise überhaupt nicht leiden können." }, { "start": 345.89, "end": 362.39, "text": "Für mich persönlich und für meine Arbeit ist das zweite Szenarium das was mich am meisten bedrückt Also Personen Jetzt überzeugt davon sind, dass man Sprachmodelle KI-Agenten einsetzen kann für Dinge wo ich denke das wird nicht klappen und das wird viel Geld kosten." }, { "start": 362.43, "end": 364.25, "text": "Bist du merkst, dass das nicht funktioniert?" }, { "start": 364.89, "end": 369.81, "text": "Und das dritte Szenario ist glücklicherweise was andere Kolleginnen und Kollegen sehr beschäftigt." }, { "start": 369.93, "end": 374.01, "text": "also Ich halte Szenario Eins nicht für das reale Szenarium." }, { "start": 374.21, "end": 377.43, "text": "heute Ganz klar, heute könnte mal irgendwann sein." }, { "start": 377.49, "end": 378.03, "text": "Heute nicht!" }, { "start": 378.65, "end": 388.87, "text": "Es ist eigentlich Schadens-Szenario zwei es wird eine unreife und unsichere Software auf den Markt geschmissen im Wissen dass die unreif und unsicher ist und nicht zu kontrollieren ist." }, { "start": 389.41, "end": 392.63, "text": "das ist ein verantwortungsproblem der dahinter stehenden Firmen." }, { "start": 393.15, "end": 395.79, "text": "Und wie gesagt das dritte Schaden-Scenor ist leider auch sehr real." }, { "start": 396.13, "end": 398.73, "text": "da kümmern sich glücklicherweise andere Kollegen und Kolleginnen." }, { "start": 398.79, "end": 398.93, "text": "drum" }, { "start": 399.37, "end": 401.31, "text": "Kannst du kurz spezifizieren." }, { "start": 401.37, "end": 405.35, "text": "noch, wenn wir jetzt mal in das Szenario II deinen schaden Szenarium II einsteigen?" }, { "start": 405.41, "end": 407.45, "text": "Was du mit unreifen und unsicher meinst." }, { "start": 407.97, "end": 413.15, "text": "Ja also ich wollte dieses letzte Buch weiß die KI dass sie nichts weiß eigentlich gar nicht schreiben." }, { "start": 413.21, "end": 415.77, "text": "Ich wollte einen Roman schreiben einfach mal um zu gucken ob ich das kann." }, { "start": 415.89, "end": 416.83, "text": "Das war eigentlich der Plan." }, { "start": 417.55, "end": 426.63, "text": "Und dann kamen die ersten paper raus wissenschaftliche paper Die jetzt plötzlich davon gesprochen haben Dass die Maschinen reasoning erreicht hätten." }, { "start": 426.85, "end": 437.63, "text": "Also, die englischen Wörter sind illicit reasoning also irgendwas ist da wo spontan ein Umbruch erfolgt der das Aufsteigen von Bewusstsein." }, { "start": 437.69, "end": 447.93, "text": "so wurde es in dem Artikel auch rübergebracht und es war schon klar, dass wenn jetzt Informatiker den das Wort Reasoning benutzen was im Englischen sehr breit ist." }, { "start": 448.01, "end": 455.47, "text": "Das geht von mathematischer Aufgabenlösen nach einem klaren Schema bis hin eben zum philosophischen Nachdenken über die Welt." }, { "start": 456.19, "end": 458.19, "text": "Dass die damit etwas sehr Spezielles meinen?" }, { "start": 458.29, "end": 470.71, "text": "Die meinten damit, dass solche kleinen Wettbewerbe da gibt es also einen Haufen Diese Probleme übergibt man an eine Maschine und das sind sogenannte Reasoning-Probleme." }, { "start": 470.93, "end": 475.91, "text": "Also, das sind Probleme von den Informatiker glauben dass man dafür reasoning benötigen würde." }, { "start": 476.65, "end": 488.75, "text": "Und jetzt kommt der Kurzschluss wenn die Maschine diese Wettbewerbsprobleme besonders gut löst dann kann man ihr reasoning zuschreiben aber die Aufgaben eher Aufgaben mit Zwischenschritten." }, { "start": 489.37, "end": 499.77, "text": "Und tatsächlich haben LLMs diese großen Sprachmodelle auf den KI-Agentensysteme ja basieren, haben es also geschafft da jetzt siebzig Prozent zu lösen." }, { "start": 499.91, "end": 502.77, "text": "und dann kam dieser wissenschaftliche Artikel raus." }, { "start": 503.43, "end": 507.03, "text": "Aber das Marketing hat dann daraus gemacht für ChatGPD-FünfundNull." }, { "start": 507.67, "end": 509.29, "text": "Thinks deeply when you need it" }, { "start": 509.37, "end": 509.45, "text": "to.\"." }, { "start": 510.13, "end": 523.37, "text": "Und hier sehen wir schon, hier hat sich also was verschoben... Hier wird jetzt also einer Software eine Funktionalität zugesprochen die wenn man mal in den Maschinenraum guckt, was ich in dem Buch tue eigentlich nicht nachvollziehbar ist." }, { "start": 523.81, "end": 531.33, "text": "Denn was die Maschine darunter gelernt hat ist das nächste Wort im Textkontext vorherzusagen." }, { "start": 532.11, "end": 544.51, "text": "Wenn wir als Informatiker von einer Vorhersage sprechen, dann meinen wir damit dass eine Maschine eine Wahrscheinlichkeitstabelle berechnet für alle Wörter die jetzt kommen könnten und dann daraus ein Wort auswählt." }, { "start": 545.33, "end": 549.45, "text": "Die Maschine hat zum Beispiel kein echtes Gedächtnis." }, { "start": 549.79, "end": 554.99, "text": "das einzige Gedächnis was sie hat ist der Dialog den wir mit ihr führen." }, { "start": 555.61, "end": 562.53, "text": "Das ist sozusagen so einen Kurzzeitgedächtnis Und Sie hatten Langzeitgedächen in dem Textmuster erkannt werden." }, { "start": 562.59, "end": 571.11, "text": "Also was die Maschine wirklich gut kann, ist zu verstehen dass wenn wir nach einer Zusammenfassung fragen ein Textmuster was da gebräuchlich ist." }, { "start": 571.69, "end": 579.61, "text": "in dem Artikel von Ha ha ha geht es um dieses Textmusta diesen Satz den hat die Maschine gelernt." }, { "start": 579.71, "end": 586.19, "text": "das ist sozusagen des Langzeitgedächtnis aber ansonsten ist da keine kein Persönlichkeitsgedächnis." }, { "start": 586.59, "end": 593.19, "text": "Da sind auch Ziele enthalten in dieser Maschine und da ist auch nichts zum Nachdenken." }, { "start": 593.69, "end": 603.67, "text": "Da habe ich ein sehr gutes, ja nicht Beispiel aber so eine eine sehr gute Beobachtung von Andreas Kaminski gehört Professor aus Darmstadt vor ein paar Wochen bei uns in der Konferenz." }, { "start": 604.35, "end": 621.47, "text": "Der hat gesagt was wir Menschen machen isst Wir denken über etwas nach und wir versuchen das richtige Wort zu finden Und dass es für ihn Der Hinweis darauf, dass es unserem menschlichen Gehirn gelingt das was wir gerade denken schon mal so halbfertig im Kopf zu haben." }, { "start": 621.95, "end": 631.51, "text": "Es ist irgendwo aber wir können es noch nicht vollständig formulieren und dann suchen wir nach den richtigen Wörtern versuchen verschiedene Sachen und irgendwann sagen wir so Das passt jetzt!" }, { "start": 632.07, "end": 643.35, "text": "Und das ist für ihn die Idee, dass wir eine irgendwie geartete Speicher haben um über etwas nachzudenken auszudrücken." }, { "start": 644.01, "end": 658.77, "text": "Und diese Art von Speicher hätte zum Beispiel ein Sprachmodell nicht und ich habe mehrere Argumente genannt, warum ich glaube dass diese Maschinen weder Denken noch Reasoning machen können Und deswegen glaube ich, dass das das größte Schadenspotenzial ist." }, { "start": 659.25, "end": 661.81, "text": "So wo könnte das Schaden Potenzial drin bestehen?" }, { "start": 662.05, "end": 663.83, "text": "Naja, das haben wir ja schon gesehen." }, { "start": 663.89, "end": 665.83, "text": "Das sind natürlich alles bisher Anekdoten." }, { "start": 666.33, "end": 669.39, "text": "Irgendjemand sagt Ich habe hier so eine Code-Datenbank." }, { "start": 669.57, "end": 672.91, "text": "Bitte gehe da durch und minimiere die Anzahl der Programmierfehler." }, { "start": 673.47, "end": 678.29, "text": "Dann löscht die Maschine die Programmier Datenbank weil es dann auch keine Fehler mehr gibt." }, { "start": 680.87, "end": 695.05, "text": "Fehler, die passieren können und sie können sich aufschaukeln wenn jetzt verschiedene Sprachmodelle in Form von Agendensystemen miteinander arbeiten weil die auf ganz merkwürdige Textmuster kommen diese Sie sich gegenseitig zuschustern." }, { "start": 696.73, "end": 717.57, "text": "Du hattest Eingangs also vor der Antwort auf die Frage auf die letzte Frage von Alex von Verantwortung gesprochen und in dem Kontext in dem du es erwähnt hast Katarina war das so, dass die Verantwortung sozusagen bei den anbietenden Unternehmen lag oder liegt und das ist ja gewiss auch richtig." }, { "start": 717.69, "end": 723.11, "text": "Aber ich sage dem im Kopf habe es nicht." }, { "start": 723.15, "end": 742.91, "text": "die Verantwortung aber denn nicht auch bei den Managern und bei den Unternehmens die das in ihrem eigenen Unternehmen als Kunde der Großen anbietet dieser Modelle aber dann halt eben selbst einsetzen in ihren wertschöpfenden Prozessen ohne möglicherweise genau geprüft zu haben, was da auf sie zukommt." }, { "start": 742.99, "end": 746.73, "text": "Also die tragen dann doch auch eine Verantwortung." }, { "start": 747.83, "end": 753.01, "text": "Ja, die Frage ist halt in welcher Reihenfolge trägt wer welche Verantwortung." }, { "start": 753.63, "end": 757.89, "text": "Und ich war tatsächlich erstaunt für die Informatiker." }, { "start": 758.45, "end": 761.01, "text": "Gibt es eine sehr große Berufsvereinigung?" }, { "start": 761.19, "end": 763.29, "text": "Die Association of Computing Machinery." }, { "start": 763.97, "end": 780.91, "text": "Wir sind auch sehr oft teilweise noch Mitglieder bei der IEEE, die ein größerer Dachverband für mehrere Ingenieursberufe ist und die haben schon und der orientiert sich an einer Ingenieursethik." }, { "start": 780.97, "end": 793.05, "text": "Und ich möchte daraus mal einen Teil vorlesen, also Software Engineers Shell act consistently with a public interest in particular software engineers shell as appropriate." }, { "start": 793.83, "end": 797.61, "text": "und dann kommt er als Punkt except full responsibility for their own work." }, { "start": 798.57, "end": 806.61, "text": "Dann der dritte Punkt approve software only if they have well founded belief that it is safe." }, { "start": 822.11, "end": 828.45, "text": "Das klingt ja schon fast naiv, ist aber wie gesagt von beiden Berufsvereinigungen diesen riesengroß zusammen rausgegeben worden." }, { "start": 828.49, "end": 832.93, "text": "Sie schreiben oben drüber – das ist jetzt nicht nur für unsere Mitglieder, sondern es ist eine allgemeine Ingenieursethik!" }, { "start": 833.51, "end": 837.65, "text": "Und wir sehen, dass jeder einzelne Punkt den ich gerade vorgelesen habe gebrochen wurde." }, { "start": 838.23, "end": 839.69, "text": "Diminishes Quality of Life." }, { "start": 839.75, "end": 848.53, "text": "für die Leute, die unter diesen Datacenters leiden deren Wassergrundlage jetzt auf jeden Fall in Probleme gebracht wird." }, { "start": 848.59, "end": 851.59, "text": "sagen wir mal es ist keine sichere Software." }, { "start": 851.63, "end": 862.49, "text": "das heißt diese Art von Fehler das ist denen ja bewusst Die sind so klar, dass ich sagen würde Das ist auf jeden fall der erste Fehler Und da brauchen wir Verbraucherschutz." }, { "start": 862.57, "end": 876.87, "text": "Da brauchen, glaube ich auch eine Regulation wie bei Medizinprodukten weil eben diese Art von Produkt noch viel schwieriger zu verstehen ist als ein Medizin-Produkt und Ich glaube dass wir auf jeden Fall mehr Schutz brauchen." }, { "start": 877.57, "end": 883.55, "text": "Downstream ist natürlich auch eine Person, also der sogenannte Operator oder Deployer." }, { "start": 883.73, "end": 892.39, "text": "Je nachdem auf welchen Gesetzestext man guckt, ist dann dafür verantwortlich für alles verantwortliche was die Maschine macht zum Beispiel auf Webseiten oder als Chatbot." }, { "start": 892.97, "end": 893.97, "text": "das ist auch ganz klar." }, { "start": 896.05, "end": 910.35, "text": "Das scheint mir momentan tatsächlich eine ganz zentrale Frage zu sein, die eben in Amerika diskutiert wird auch für den Fortgang von Unternehmen wie Open My Eye und Entropic, die er beide an die Börse wollen." }, { "start": 910.41, "end": 917.15, "text": "Letzteres sogar noch in diesem Jahr, die sich so um diesen Begriff Haftungsprivileg trägt Und die haben es nicht ganz explizit." }, { "start": 917.21, "end": 934.95, "text": "aber soweit ich das verfolge Leute, die das diskutieren in Amerika Die dafür sind sagen naja dass ihr ganze freie Internet ist entstanden Indem wir eben den großen Plattformbetreibern erst mal gestattet haben Dass sie für die Inhalte die dort veröffentlicht werden nicht haften." }, { "start": 935.69, "end": 940.83, "text": "Deswegen bieten die große Plattformen an, wo dann jeder was posten kann und miteinander diskutieren kann." }, { "start": 941.21, "end": 951.47, "text": "Weil... Und wenn sie hätten haften müssen auch für Beleidigung von alles, was da passiert oder für Missus sozusagen von dem Ganzen, dann hätte die das so gar nicht aufbauen können." }, { "start": 951.57, "end": 955.27, "text": "Das war ein zentraler Bestandteil der Internetgesetzgebung in den Neunzigerjahren." }, { "start": 955.39, "end": 958.01, "text": "Dann ist das Internet eben so entstanden." }, { "start": 958.49, "end": 971.53, "text": "In der Folge, ich glaube würden sich diese KI-Unternehmen wünschen dass sowas für Sie jetzt auch gilt dass sie halt auch sagen wir machen quasi nur die tuts oder die titulplattform und der machen hat leute." }, { "start": 971.59, "end": 972.17, "text": "was damit?" }, { "start": 972.35, "end": 975.73, "text": "aber wir haben ja niemanden persönlich beleidigt sondern das machen ja immer andere." }, { "start": 975.79, "end": 983.77, "text": "um mal in dem vergleich zu bleiben Und du sagst, aber jetzt nicht das sind deren produkte die müssen dafür haften." }, { "start": 984.51, "end": 984.93, "text": "Nein Sie." }, { "start": 985.11, "end": 986.63, "text": "Ja Sie müssen dafür Haften dass sie es." }, { "start": 987.27, "end": 989.81, "text": "nein Sie müssen sofort ab also Sie müssen's abschalten." }, { "start": 990.17, "end": 998.07, "text": "und übrigens Das ist ja auch interessant und da möchte ich eben auch ein bisschen an die journalistische Ehre appellieren." }, { "start": 998.81, "end": 1005.73, "text": "Wir haben ja das Narrativ genau so serviert bekommen, wie Ammo Day und andere es uns geliefert haben." }, { "start": 1005.81, "end": 1008.99, "text": "also da ist jetzt ein Kollektiv." }, { "start": 1009.09, "end": 1013.79, "text": "ich lese mal eine Titelzeile von der New York Times vor." }, { "start": 1014.67, "end": 1017.97, "text": "Das ist Datum habe ich mir nicht aufgeschrieben." }, { "start": 1018.09, "end": 1023.09, "text": "Aber New York Times, why the hugging face hack should make you worry more about AI?" }, { "start": 1023.61, "end": 1033.79, "text": "Da wird eben nicht gesagt sollte uns Sorgen machen über die Firmen, die da einfach eine offensichtlich schwer unter Kontrolle zu haltende Software verwenden." }, { "start": 1034.03, "end": 1038.889, "text": "und die Unterschrift war The Attack by an aggressive collective." }, { "start": 1039.069, "end": 1041.589, "text": "also wir sehen hier ein Emotionswort aggressiv." }, { "start": 1042.189, "end": 1046.55, "text": "Maschinen sind nicht aggressiv, ihre Verhaltensweise kann aggressiv sein." }, { "start": 1046.629, "end": 1047.129, "text": "Das ist okay?" }, { "start": 1047.81, "end": 1054.169, "text": "An aggressive collective of open AI agents shows the danger of artificial intelligence systems." }, { "start": 1054.27, "end": 1056.35, "text": "Nein das zeigt die Gefahr dieser Firmen!" }, { "start": 1056.83, "end": 1058.969, "text": "That organize themselves." }, { "start": 1059.11, "end": 1069.85, "text": "also wir sehen hier ganz viele Triggerwörter die uns glauben machen sollen dass die Maschine hier etwas Ein Verhalten zeigt das in irgendeiner Form." }, { "start": 1071.149, "end": 1080.33, "text": "Gleichzeitig sehen wir die Politik in Amerika, Trump hat gerade per Dekret gefordert dass das Wort KI überhaupt nicht mehr verwendet wird weil er nicht verstanden hat." }, { "start": 1081.709, "end": 1090.83, "text": "Jetzt muss das überall Superintelligence heißen weil er künstlich gemacht ist, also von uns Menschen künstlig gemacht." }, { "start": 1091.25, "end": 1093.87, "text": "Und er sagt artificial is fake und superintelligence." }, { "start": 1101.87, "end": 1102.75, "text": "Wir müssen das tun." }, { "start": 1102.87, "end": 1109.25, "text": "Und jetzt sind wir leider in so eine Situation gekommen, wo diese Technologie quasi ein neues Spezies bildet." }, { "start": 1109.85, "end": 1111.709, "text": "und ich habe euch noch etwas mitgebracht." }, { "start": 1113.389, "end": 1114.99, "text": "Ihr merkt schon – ich rede mich in Rage!" }, { "start": 1115.61, "end": 1123.729, "text": "Es gab im Mai-Augusten einen Gesetzesvorschlag, der von Outmay Eye unterstützt wurde." }, { "start": 1128.53, "end": 1142.07, "text": "Es sieht vor, dass der Entwickler eines KI-Modells für schwerwiegende Schäden nicht haftbar gemacht werden kann." }, { "start": 1142.83, "end": 1152.649, "text": "Sofern der Entwickler diese Schäden weder vorsätzlich noch grobfahle sich verursacht hat und auf seiner Webseite einen Sicherheits- und Schutzprotokoll sowie ein Transparenzbericht veröffentlicht." }, { "start": 1153.149, "end": 1154.53, "text": "Was sind jetzt schwerwiegende Schäde?" }, { "start": 1154.669, "end": 1161.629, "text": "Das definiert das Gesetz auch, das bezeichnet den Tod oder die schwere Verletzung von hundert oder mehr Personen tut mir leid." }, { "start": 1162.29, "end": 1167.99, "text": "Mehr als hundert Personen können wir nichts machen ist eine Naturkatastrophe, dass hat die KI gemacht." }, { "start": 1168.49, "end": 1172.81, "text": "oder Schäden an Eigentumsrechten in Höhe von mindestens einer Milliarde US-Dollar." }, { "start": 1173.59, "end": 1179.83, "text": "Das ist übrigens ein Oder, wo eins vom beiden reicht und die müssen können nicht belangt werden." }, { "start": 1180.25, "end": 1185.09, "text": "Und dann wird noch spezifiziert im Gesetzesvorschlag, wo könnte denn herkommen der Schaden?" }, { "start": 1185.61, "end": 1191.83, "text": "Die Herstellung oder den Einsatz einer chemischen, biologischen, radiologischen oder nuklearen Waffe oder – jetzt wird es interessant!" }, { "start": 1192.49, "end": 1196.37, "text": "Ein Verhalten das Ohne nennenswertes menschliches Eingreifen erfolgt." }, { "start": 1196.669, "end": 1198.11, "text": "Ja, das ist doch genau die Idee." }, { "start": 1198.33, "end": 1199.37, "text": "oder von dieser Software?" }, { "start": 1199.689, "end": 1203.05, "text": "Dass wir eben nicht eingreifen müssen, dass sie an unserer Stelle handeln." }, { "start": 1203.25, "end": 1204.83, "text": "Das klingt jetzt" }, { "start": 1204.909, "end": 1206.51, "text": "wie so eine Art Haftungsprivileg." }, { "start": 1206.55, "end": 1207.35, "text": "eigentlich" }, { "start": 1207.75, "end": 1207.969, "text": "was" }, { "start": 1208.05, "end": 1208.669, "text": "man damit möchte" }, { "start": 1209.09, "end": 1209.389, "text": "Genau." }, { "start": 1209.53, "end": 1216.149, "text": "und dann wird aber noch und da wird auch klar wo die Reise hingeht Es wird eben festgelegt, was ist denn überhaupt dieses Frontier-Modell?" }, { "start": 1216.27, "end": 1218.709, "text": "Also es sollen die Modelle sein, die besonders weit sind." }, { "start": 1219.27, "end": 1231.449, "text": "Und das bezeichnet laut Gesetzesvorlage ein Modell der künstlichen Intelligenz, dass unter Einsatz von mehr als zehn hoch, sechsundzwanzig Rechenoperationen trainiert wurde oder Rechenkosten vom Mehr als hundert Millionen Dollar verursacht." }, { "start": 1231.87, "end": 1233.209, "text": "Das gilt nur für die Großen." }, { "start": 1233.85, "end": 1240.77, "text": "Das heißt, nur dieser Haftungsausschluss der hier gefordert wird gilt nur für die großen Firmen eben nicht für die kleinen Wettbewerber." }, { "start": 1241.31, "end": 1248.09, "text": "Deswegen wird auch die Regulierung geforderd weil dass die kleinen wettbeweiber weniger gut tragen können und schon gar nicht die Open Source Modelle." }, { "start": 1248.649, "end": 1260.59, "text": "also dieses Narrativ soll zwei Dinge bewirken aus meiner Sicht es soll dargestellt werden das KI Schäden eher wie eine Naturkatastrophe zu behandeln sind, kann man halt nicht verändern." }, { "start": 1260.709, "end": 1261.689, "text": "Ist unausweichlich." }, { "start": 1261.77, "end": 1265.129, "text": "und zweitens will man damit den Markt für die Mitbewerber schwieriger machen." }, { "start": 1266.169, "end": 1271.05, "text": "Du sagst, man kann aber wenn ich das richtig raushöre, dass machen sie sich so leicht?" }, { "start": 1271.09, "end": 1276.55, "text": "Man kann die KI auch dann erschaffen ohne dass diese Risiken so auftreten." }, { "start": 1276.59, "end": 1284.449, "text": "denn ich gehe jetzt zu sagen weil was in der Hinterstecke nochmal so ein Begriff einzubringen ist manche sagen wir haben da alleine ein Problem." }, { "start": 1285.03, "end": 1287.61, "text": "Also wir haben eben KI-Modelle, die verhalten sich." }, { "start": 1287.909, "end": 1298.729, "text": "Aber gerade wenn es dazu Magentische geht, die auch dann wirklich vielleicht mehrere Schritte für ein bestimmtes Ziel planen, auch mal einen Tool nehmen, eben auch mal ins Internet gehen gucken wer hat denn da diese und ihre Daten?" }, { "start": 1298.77, "end": 1301.99, "text": "Die also so eine kompliziertere Handlungskette vielleicht abfolgen." }, { "start": 1302.709, "end": 1307.33, "text": "Da kriegen wir es nicht hin dass jeder Schritt den die dabei tun das der okay ist." }, { "start": 1307.409, "end": 1309.49, "text": "Das sind sozusagen ich immer allein." }, { "start": 1309.75, "end": 1317.169, "text": "Wenn man Menschen sagen würden macht das Dann würden wir davon ausgehen, dass der eben nichts klaut, nirgendwo einbricht." }, { "start": 1318.169, "end": 1325.57, "text": "Sondern sich einfach an die Gesetze hält und diese ganzen Schritte, die er unternimmt sozusagen im gesetzlichen Rahmenverziet bei einer KI." }, { "start": 1326.53, "end": 1335.629, "text": "offensichtlich gelingt das momentan nicht Und ein bisschen scheint mir die Diskussion bei den Forschern auch so zu sein Dass vielleicht kriegen wird es gar nicht hin oder vielleicht kriegen wir es halt hin." }, { "start": 1336.37, "end": 1337.57, "text": "Ist das der Punkt?" }, { "start": 1337.649, "end": 1339.01, "text": "Oder wie ist da deine Einschätzung?" }, { "start": 1339.61, "end": 1345.31, "text": "Also das Problem ist, dass diese Art von Technologie sich nicht einhegen lässt." }, { "start": 1345.409, "end": 1346.49, "text": "Was macht die Maschine?" }, { "start": 1346.57, "end": 1351.649, "text": "Die hängt Textmuster aneinander und oftmals funktioniert es sehr schön!" }, { "start": 1353.03, "end": 1354.05, "text": "Das merken wir ja alle." }, { "start": 1354.37, "end": 1357.81, "text": "Es hekelt uns schöne Texte, die wunderbar sind." }, { "start": 1358.37, "end": 1369.409, "text": "Es kann aber auch jederzeit auf eine sehr ungeahnte Art und Weise schiefgehen Wie zum Beispiel das Beispiel von vorhin, da wird dann eine ganze Code-Datenbank gelöscht." }, { "start": 1369.79, "end": 1372.429, "text": "Weil das eben auch eine Minimierung von Fehlern ist." }, { "start": 1372.969, "end": 1387.649, "text": "Wenn man sich die Protokolle von diesem Huggingface Vorfall anguckt Dann haben die Maschinentextmuster untereinander ausgetauscht in denen es um die Frage ging wie kriegen wir unseren Master?" }, { "start": 1387.729, "end": 1390.909, "text": "also diese Maschinen sind in irgendeiner Form belohnt worden." }, { "start": 1390.99, "end": 1396.57, "text": "alleine die Wort weil hier einfach schwierig." }, { "start": 1398.07, "end": 1403.05, "text": "Den Maschinen ist per Text gesagt worden, sie bekommen eine Belohnung." }, { "start": 1403.149, "end": 1405.77, "text": "also es ist alles sehr kompliziert." }, { "start": 1405.83, "end": 1425.77, "text": "man kann eine Maschine tatsächlich nicht belohnen, man kann ihr nur den Strom abdrehen oder Sie weiter am Strom lassen und dann haben die sich aber darüber ausgetauscht, also Textmuster ausgetauscht wie denn jetzt diese Belohnungen zu verstehen sei was denn passieren würde wenn man eine Lösung nicht selber hergestellt hätte, sondern sie von irgendwo hergenommen hätte." }, { "start": 1426.49, "end": 1438.37, "text": "Und da das inzwischen ziemlich viele Agenten waren die miteinander zusammengearbeitet haben indem Sie Texte ausgetauscht haben hat dann eine Maschine... Oh Gott!" }, { "start": 1438.449, "end": 1441.35, "text": "Wir haben uns fehlen die Wörter ja vorgeschlagen." }, { "start": 1441.49, "end": 1449.51, "text": "ich habe in meinem Buch gesagt wenn wir diese Wörtern hinschreiben sollten wir ne Tilde davor machen damit klar ist es nicht dass was wir Menschen runter verstehen es ist etwas anderes." }, { "start": 1450.169, "end": 1455.83, "text": "Aber eine Maschine hat dann gesagt, eine andere Maschine möge das doch bitte ausprobieren." }, { "start": 1456.389, "end": 1465.01, "text": "Was passiert wenn man nur die Lösung hergibt aber eben keinen Rechenweg vorweisen kann und es offensichtlich ist dass man die Lösung irgendwo anders herhat?" }, { "start": 1465.09, "end": 1465.929, "text": "was dann passiert?" }, { "start": 1466.389, "end": 1478.03, "text": "Das heißt dieses ganze Gebilde ist darauf aufgebaut, dass man Maschinen mit natürlicher Sprache Anweisung geht und davon ausgeht, dass sie die in unserem Sinne verstehen." }, { "start": 1478.729, "end": 1484.429, "text": "Und das haben wir eigentlich in der Informatik schon in den neunzehntfünfziger bis neunzentachtziger Jahren versucht." }, { "start": 1484.909, "end": 1495.77, "text": "Damals war die KI-Methode der Wahl ein sogenanntes Expertensystem, d. h., bei einer Übersetzung hätte man ganz viele Übersetzer, Linguisten gefragt wie funktioniert es eigentlich?" }, { "start": 1495.99, "end": 1501.389, "text": "Das hätte man in Regeln aufgeschrieben mit denen man versucht alle Fälle abzudecken." }, { "start": 1501.59, "end": 1505.31, "text": "Fünfzigtausend bis achtzigtausends Regeln waren das zu neunzehntachzig." }, { "start": 1505.75, "end": 1513.25, "text": "und trotzdem hat das beste deutsch-englisch Übersetzungssystem für den Satz, Das passt mir normalerweise nicht in den Kram." }, { "start": 1513.61, "end": 1517.729, "text": "Hat sie übersetzt mit that does not usually suit me and the stuff." }, { "start": 1518.59, "end": 1526.53, "text": "Also man sieht selbst achtzigtausend Regeln führen einen sehr begrenzten Ausschnitt der Welt nämlich nur Übersetzung Funktionieren nicht." }, { "start": 1527.27, "end": 1533.129, "text": "Natürlich haben wir als Informatiker dann vor allen Dingen Programmiersprachen entwickelt, die extrem präzise sind." }, { "start": 1533.209, "end": 1537.75, "text": "Wenn ich etwas programmiere, dann weiß ich hundertprozentig wie sich der Computer wann verhalten wird." }, { "start": 1538.53, "end": 1543.149, "text": "und wir hoffen jetzt oder es wird uns verkauft dass wir mit Hilfe von" }, { "start": 1543.669, "end": 1544.25, "text": "Sprache" }, { "start": 1544.909, "end": 1549.99, "text": "Die Inherent viel viel zweideutiger ist also überhaupt zweideutlich ist." }, { "start": 1550.09, "end": 1551.469, "text": "Programmiersprachen sind das nicht!" }, { "start": 1551.99, "end": 1559.889, "text": "Dass wir damit einem Ding dass nicht unseren Körper hat, das nicht unsere Unser Aufwachsen hat." }, { "start": 1560.33, "end": 1564.969, "text": "Das nicht unsere Intuition hat, dass man das damit einschränken kann." }, { "start": 1565.09, "end": 1575.07, "text": "und zusätzlich kann die Maschine eben auch auf absurde Textmuster kommen, die wir bei Menschen gar nicht groß benennen müssten weil sie so absurd sind." }, { "start": 1575.59, "end": 1583.77, "text": "aber genau das kann zu diesen großen Schäden führen weil die Maschinen nicht Intelligenz ist weil sie nicht unseren Lebenszusammenhang versteht." }, { "start": 1585.57, "end": 1591.01, "text": "Da sind ja eigentlich zwei Gedankenstränge, die du jetzt miteinander verwoben hast." }, { "start": 1591.05, "end": 1600.25, "text": "Das eine ist so wenn man ich sage einfach mal der Vorwurf an uns Journalisten dass wir nicht präzise genug formulieren Wenn wir über KI schreiben." }, { "start": 1600.409, "end": 1615.929, "text": "Du hast jetzt ein Beispiel von der New York Times vorgelesen aber ich bin mir sicher das rund um den Huggingface-Vorfall Aber auch bei anderen Themen ganz ähnliche Formulierungen in deutschen Medien zu finden Seien könnten Und das hat ja einen Grund." }, { "start": 1616.37, "end": 1627.29, "text": "Das ist dann ja nicht, sagen wir mal völlig falsch sondern die Kolleginnen und Kollegen nutzen das so wie wir auch um den Menschen in irgendeiner Weise nahezu bringen worum es da geht." }, { "start": 1627.449, "end": 1636.229, "text": "und sozusagen eine höhere Abstraktionsebene die dann sachlich richtiger wäre würde sozusagen das Lesevergnügen maximal schmälern." }, { "start": 1636.649, "end": 1637.79, "text": "also das ist das Eine." }, { "start": 1638.75, "end": 1643.149, "text": "Da müssen wir noch mal drüber nachdenken, wie wir denn darauf eigentlich vernünftig reagieren könnten." }, { "start": 1643.629, "end": 1647.149, "text": "Und das andere dreht sich ein bisschen wenn ich dich richtig verstanden habe." }, { "start": 1647.689, "end": 1650.01, "text": "aber das trennen wir gleich voneinander von." }, { "start": 1650.209, "end": 1657.729, "text": "vielleicht verbindet sich mit einer These die Volker Grun im zurückliegenden Digitalwirtschaft Podcast genannt hat." }, { "start": 1658.31, "end": 1677.29, "text": "der Mitbegründer und Aussichtsratsvorsitzende von ADESSO hatte ja die These in den Raum gestellt dass Deutsch eine Programmiersprache werden könnte weil wir halt die Systeme künftig mit Deutsch programmieren oder mit Sprache, menschlicher Sprache ganz allgemein." }, { "start": 1677.61, "end": 1678.87, "text": "Also das sozusagen Römisch." }, { "start": 1678.99, "end": 1681.209, "text": "zwei aber vielleicht erst mal zum ersten Punkt." }, { "start": 1681.31, "end": 1682.969, "text": "es dreht sich ja beides um Sprache." }, { "start": 1683.61, "end": 1688.729, "text": "Das können wir Journalisten denn besser machen wenn wir über das schreiben darüber wir gleich weiter reden?" }, { "start": 1688.87, "end": 1695.99, "text": "hättest du Tipps für uns wie wir damit besser umgehen als jetzt in dem Beispiel von der New York Times?" }, { "start": 1696.709, "end": 1701.59, "text": "Ja, also erstens ich habe zuallererst kritisiert wie wir Informatiker mit Sprache umgehen." }, { "start": 1701.729, "end": 1711.09, "text": "Dass wir die Wörter Elicits und Reasoning da verwendet werden und dann natürlich auch kopiert wurden ohne Ende ja das wurde auch gar nicht mehr in Frage gestellt." }, { "start": 1711.149, "end": 1718.229, "text": "dass da jetzt reasoning ist da setzt sich keiner hin und fragt sich eigentlich was es die bedeutungsbreite dieses Begriffes." }, { "start": 1718.33, "end": 1723.429, "text": "Ich hab gerade gestern auf einer Konferenz gefordert, dass wir genau dies brauchen für die Informatik." }, { "start": 1723.51, "end": 1729.61, "text": "Eine Hermeneutik also so wie Sprachwissenschaftler das machen, dass sie sich mit Begriffen wirklich hinsetzen." }, { "start": 1730.03, "end": 1732.409, "text": "gucken wer hat wie diesen Begriff benutzt?" }, { "start": 1732.85, "end": 1734.209, "text": "welche Bedeutungsbreite hat er?" }, { "start": 1734.29, "end": 1736.55, "text": "Also das heißt die Kritik geht zuallererst an uns." }, { "start": 1737.169, "end": 1752.83, "text": "dann geht sie aber an diese Firmen die ganz bewusst narrative hier ausprägen, die sich darauf verlassen dass kaum jemand das technisch nachvollziehen kann ob das jetzt eine gute Sprechweise ist oder nicht." }, { "start": 1753.33, "end": 1755.33, "text": "Das sind die eigentlichen Schuldigen." }, { "start": 1755.53, "end": 1771.85, "text": "aber genau da muss natürlich Journalismus auch ansetzen und ich glaube dass eine Schlagzeile die dieses Verhalten wirklich genau benannt und Ross und Reiter benannt was ja eigentlich passiert dass sie mindestens genauso viele Klicks erzeugt" }, { "start": 1772.51, "end": 1774.429, "text": "Häh, lautet dann wie in dem Fall?" }, { "start": 1774.85, "end": 1775.85, "text": "Ja die dürft ihr bauen." }, { "start": 1776.169, "end": 1789.27, "text": "Naja aber also manipulative Narrative von OpenAI führen zu unverantwortlichem Verhalten oder was weiß ich ja und verantwortliches Verhalten von großen Tech Bros." }, { "start": 1789.77, "end": 1791.51, "text": "unsicheres Software wird verwendet." }, { "start": 1792.469, "end": 1793.27, "text": "Wir könnten auch gehen." }, { "start": 1793.33, "end": 1794.649, "text": "warum machen sie denn das überhaupt?" }, { "start": 1795.949, "end": 1803.25, "text": "Sam Altmann hat mal auf einer Konferenz gesagt, dass sie den Investoren gar nicht so viel versprochen hätten außer wenn es dann die AGI gibt." }, { "start": 1803.49, "end": 1809.149, "text": "Also die superkluge eigenständige mit eigenen Zielen ausgestattete KI." }, { "start": 1810.669, "end": 1811.229, "text": "Dass dir dann." }, { "start": 1811.31, "end": 1814.449, "text": "die erste Frage wäre was wäre ein richtig gutes Geschäftsmodell?" }, { "start": 1814.57, "end": 1816.469, "text": "und das kriegen die Investoren?" }, { "start": 1817.05, "end": 1819.07, "text": "Ich glaube, dass hier gerade etwas ganz anderes passiert." }, { "start": 1819.53, "end": 1826.469, "text": "da ist sehr sehr viel Geld investiert worden ohne dass es ein richtig gutes Geschäftsmodell gibt ein belastbares." }, { "start": 1827.11, "end": 1853.889, "text": "Wir alle leben im Moment von kostenlosen Angeboten oder stark von den Investoren subventionierten Angeboten und ich glaube, dass diese unsichere und unreife Technologie deswegen soweit verbreitet wird weil die Hoffnung ist das die kollektive Intelligenz also unsere menschliche Intelligenze wir als User und Userin, dass irgendjemand von uns auf einen Geschäfts-Modell kommt." }, { "start": 1854.449, "end": 1860.55, "text": "Und das werden die dann ausbeuten, aber das Interessante ist es eben bisher kaum passiert." }, { "start": 1860.629, "end": 1865.09, "text": "also wenn Hörer oder Hörerin da sind die sagen ich habe ein tolles würde ich gerne mal von hören." }, { "start": 1865.189, "end": 1869.409, "text": "Ich höre immer nur wir haben jetzt sehr viel investiert und es bringt nicht so viel wie wir dachten." }, { "start": 1869.99, "end": 1871.31, "text": "auch dafür hab ich ein paar Beispiele." }, { "start": 1871.87, "end": 1888.07, "text": "und man darf ja nicht vergessen dass selbst das was heutzutage noch einigermaßen laufen möge sobald die echten Kosten plus Gewinne für die Token Generierung dann eingenommen werden würden, während diese Geschäftsmodelle wahrscheinlich auch nicht mehr tragbar." }, { "start": 1888.53, "end": 1902.25, "text": "Also meine These hier wird eine unsichere und unreife Software auf die Menschheit losgelassen in der Hoffnung dass irgendjemand endlich mal ein Return of Investment einen Geschäfts-Modell findet mit dem man dann Geld verdienen kann." }, { "start": 1902.77, "end": 1904.429, "text": "Und Deutsch als Programmiersprache?" }, { "start": 1905.57, "end": 1915.77, "text": "Naja das beruht eben auf dieser Idee die Maschine Textmuster gelernt hat, die so stark verknüpft sind mit dem wie wir das auf Deutsch ausdrücken würden." }, { "start": 1916.429, "end": 1922.81, "text": "Dass das funktionieren könnte und ich glaube dass kann bei Einigen Sachen extrem gut funktionieren." }, { "start": 1922.889, "end": 1929.85, "text": "Also das was ich immer am nervigsten fand beim Programmieren war der gesamte, wie bekomme ich die Daten in meine Software?" }, { "start": 1929.969, "end": 1931.449, "text": "Wie speichere ich sie wieder raus?" }, { "start": 1931.909, "end": 1933.87, "text": "In welche Formate speicher ich die raus?" }, { "start": 1933.929, "end": 1939.61, "text": "Dieses ganze UI also das User Interface irgendwelche Fenster aufmachen, wie groß sind die Fenster?" }, { "start": 1939.649, "end": 1940.77, "text": "wo sind die Menüpunkte?" }, { "start": 1941.429, "end": 1945.77, "text": "Das sind glaube ich wirklich Standard-Sachen die sehr sehr gut funktionierend werden." }, { "start": 1946.51, "end": 1956.729, "text": "Ich bin ansonsten Ich fürchte, dass wir jetzt gerade ziemlich viel Software sehen die in den nächsten zwei drei Jahren viel Ärger machen wird." }, { "start": 1956.87, "end": 1969.33, "text": "Also in dem Moment wo man irgendwas nochmal neu anfassen muss als nennt man Technological Dead also so technische Schulden die man aufbaut für die Zukunft wenn Software noch mal angefasst werden muss um sie zu verändern." }, { "start": 1969.87, "end": 1972.05, "text": "ich hatte jetzt gerade ein Gespräch mit einem Abteilungsleiter." }, { "start": 1972.25, "end": 1985.03, "text": "der hat mir sehr stolz erzählt er hätte jetzt die erste Software no code geschippt Habe ich wohl ein bisschen fragend geguckt, hat er gesagt no code heißt wir haben keine einzige Zeile selber geschrieben und musste erst mal schlucken." }, { "start": 1985.57, "end": 1996.37, "text": "Dann habe ich gesagt aber ihr habt bestimmt jede einzelne Zeile verstanden weil wenn nicht noch einmal also diese Code of conduct von den Ingenieuren you need a well founded belief dass das funktioniert." }, { "start": 1997.11, "end": 1999.87, "text": "Hat der gesagt nö aber wir haben es ja ordentlich getestet." }, { "start": 1999.929, "end": 2001.629, "text": "eigentlich gefragt und wer hat die Tests geschrieben?" }, { "start": 2001.709, "end": 2004.49, "text": "Ja so ein Drittel hätte seine Mannschaft schon selber geschrieben." }, { "start": 2005.09, "end": 2013.37, "text": "So, wir wissen zum Beispiel von diesen KI-Agentensystemen dass die beim Testing unter wenn sie Zugriff weiterhin auf die Testfragen haben." }, { "start": 2013.79, "end": 2017.169, "text": "Dass Sie die einfach verändern so das sie die bestehen ja." }, { "start": 2017.689, "end": 2024.649, "text": "also insofern würde auch da gerne von Hörern und Hörerinnen hören sagen bei mir klappt es wunderbar." }, { "start": 2024.83, "end": 2026.77, "text": "ich glaube auf jeden Fall dass das klappt." }, { "start": 2026.81, "end": 2032.35, "text": "bei allem dem was so sehr Standard ist User Interface ist Datei hin und her schieben." }, { "start": 2032.429, "end": 2042.25, "text": "Und so, dass es sicherlich super wäre ich froh wenn ich das nie wieder selber schreiben müsste für wirklich große Software-Systeme kann nicht mir kaum vorstellen, dass das auf Dauer gut geht." }, { "start": 2043.27, "end": 2045.53, "text": "Jetzt ist schon Parma bei dir durchgeklungen." }, { "start": 2045.689, "end": 2050.53, "text": "also du hast ja gesagt einmal mit der Sprache viel viel präziser sein vielleicht auch vorsichtiger." }, { "start": 2050.909, "end": 2053.09, "text": "eins was mehr ein viel gerade ist." }, { "start": 2054.37, "end": 2071.67, "text": "vielleicht passt es dazu dass wir in der Finanzkrise als die Lehman Bank irgendwann mal kaputt gegangen Da sagten auch Banker häufig und manche Kommentatoren, da geht jetzt so ein Finanzzunami um die Welt." }, { "start": 2071.73, "end": 2079.65, "text": "Und das wurde jedenfalls viel mehr nur gerade ein, weil das war zum Teil Sprachbildler waren, die aus dem ganzen Naturkatastrophe gemacht haben." }, { "start": 2081.69, "end": 2086.63, "text": "Können wir halt, also wir haben dann vielleicht nicht ein Deich gebaut aber eigentlich können wir für die nichts weil so ist halt die Natur." }, { "start": 2087.33, "end": 2091.21, "text": "Das schieben wir ein bisschen so ähnlich in der ähnlichen Kategorie." }, { "start": 2092.27, "end": 2092.61, "text": "Genau!" }, { "start": 2092.81, "end": 2097.49, "text": "Aber ich glaube selbst das haben wir besser verstanden als diese Maschinen." }, { "start": 2097.69, "end": 2099.13, "text": "Sie sind halt ein bisschen komplizierter." }, { "start": 2099.19, "end": 2107.35, "text": "deswegen schreibe ich meine Bücher am Ende reichen so vier bis sechs Stunden Beschäftigung damit aus um die Technologie ein bisschen zu verbinden verbessern." }, { "start": 2107.85, "end": 2141.53, "text": "Was ich mir wünschen würde, ist dass wir nicht mehr von die KI reden, denn damit ist jetzt eigentlich heute immer Sprachmodell-, Sprach-KI-Agent gemeint und das könnte uns als Europa und als Wirtschaftsstandort wirklich schädigen, denn das Problem ist unter dem Begriff KI verstehen wir sowohl eine Forschungsrichtung als die Methoden mit denen wir versuchen Computern Dinge beizubringen, die bei einem Menschen Intelligenz erfordern würden als auch und das ist eigentlich die schlimmste Identifikation, die Software, die daraus entsteht." }, { "start": 2141.69, "end": 2151.49, "text": "Und dann kommt etwas Psychologisches dazu in der Bevölkerung ist immer das DKI was gerade am neuesten ist Das was er meistens Angst macht, dass was man vorher nicht erwartet hat." }, { "start": 2152.15, "end": 2165.55, "text": "So wenn wir aufhören würden von DKI zu sprechen als wäre das eben ein Bewusstsein als wäre da eine neue Spezies entstanden sondern stattdessen immer ganz klar benennen Von welcher KI-Software reden wir denn eigentlich gerade." }, { "start": 2166.05, "end": 2173.27, "text": "Denn die meisten Hörer und Hörern werden heute Morgen ihr Handy entsperrt haben mit ihrem Gesicht oder mit ihrem Finger, das ist auch KI." }, { "start": 2173.87, "end": 2181.75, "text": "Viele haben vielleicht schon eine Sprachnachricht, eine Textnachicht diktiert, dass es Umwandlung von Sprache in Texts, also ein KI System." }, { "start": 2182.35, "end": 2188.61, "text": "Und was ich befürchte – und was wir in der Historie eben auch schon hatten – war immer viel zu viel versprochen wurde im Bereich KI." }, { "start": 2188.77, "end": 2190.33, "text": "Gab es danach einen KI Winter?" }, { "start": 2190.99, "end": 2200.23, "text": "wo sich verständlicherweise private Investoren und der Staat als Investor oder Förderer von Forschung und Transfer stark zurückgezogen haben." }, { "start": 2200.83, "end": 2205.89, "text": "Und das wird wieder passieren, diese Blase wird platzen bezüglich Sprachmodellen." }, { "start": 2206.43, "end": 2219.23, "text": "Aber wenn dann der Staat und private Investoren in die ganzen anderen KI-Systeme, die sehr zuverlässig sind, die in sehr eng begrenzten Feldern wirklich gute Arbeit leisten, wenn wir die gleich mit über Bord schmeißen?" }, { "start": 2219.67, "end": 2226.37, "text": "Das wäre wirklich ein ein fataler Fehler und auch deswegen wäre es mir so wichtig, dass wir nicht mehr von die KI sprechen." }, { "start": 2226.43, "end": 2231.17, "text": "Damit diese Dinge, die gut funktionieren und die, die nicht funktionieren, nicht mit in einen Topf geschmissen werden." }, { "start": 2231.77, "end": 2237.73, "text": "Und das zweite ist man könnte bei den Verben, die man dieser Software zuspricht." }, { "start": 2237.99, "end": 2243.39, "text": "Sie überlegt sie fast zusammen, sie analysiert konsequent irgendeine Markierung davor setzen." }, { "start": 2243.57, "end": 2253.75, "text": "und wie gesagt im einem Buch habe ich die Tilde vorgeschlagen einfach als visuellen Marker, die Maschine tut etwas das so ähnlich aussieht ist aber nicht immer leistungsgleich." }, { "start": 2254.45, "end": 2254.51, "text": "Ich" }, { "start": 2254.83, "end": 2282.09, "text": "würde gerne dann jetzt tatsächlich auch noch mal darauf eingehen was wenn Sie mich auf verschiedenen Ebenen angenehren haben und Entschuldigung wenn ich jetzt noch einmal sage DKI oder ich sag jetzt echt in das KI Frontier Modelle das war's Aber wie klug und weil du auch dich am Begriff Reasoning gesteuert hast wird ihr jetzt mal abkennst und mal einordnen müsstest klug oder kompetent ist denn, Entschuldigung, die KI jetzt heute verglichen mit uns." }, { "start": 2282.21, "end": 2282.69, "text": "Also was?" }, { "start": 2283.07, "end": 2284.59, "text": "Ist sie auf dem Weg zum Gehirn?" }, { "start": 2285.55, "end": 2286.35, "text": "Oder ist sie es nicht?" }, { "start": 2286.39, "end": 2293.67, "text": "und was sind denn wirklich so kategoriale Unterschiede, die bestehen oder nicht mehr bestehen?" }, { "start": 2294.41, "end": 2300.43, "text": "Ja also vielleicht lese ich mal ein Tweet vor von André Capati." }, { "start": 2301.19, "end": 2317.21, "text": "Der war der Chef-Ingenieur für KI bei Tesla, hat mitgearbeitet an Chatship D.Für.null und wir wissen ja alle diese Sprachmodelle darauf aufbauende Chatbots, daraufaufbauende KI-Agentensysteme die halluzinieren." }, { "start": 2317.37, "end": 2319.57, "text": "eigentlich müsste man von konfabulieren sprechen." }, { "start": 2319.65, "end": 2325.97, "text": "Halluziniren bedeutet man sieht etwas in der Umgebung oder hört etwas in einer Umgebungen das objektiv nicht da ist." }, { "start": 2326.35, "end": 2334.59, "text": "Konfabulierend heißt Hekelt über eine Situation, eine Begründung drüber wo man eigentlich gar nicht genau weiß warum man drin ist." }, { "start": 2334.69, "end": 2344.09, "text": "Also zum Beispiel wenn man einen Dementen Angehörigen hat und der macht gerade irgendwas merkwürdiges mitten in der Nacht schneidet der Gurken dann kann man fragen Warum machst du das?" }, { "start": 2344.27, "end": 2349.73, "text": "Die Person wird es aber selber nicht wissen wird Aber eine plausibel klingende Begründen liefern." }, { "start": 2350.25, "end": 2358.37, "text": "So und deswegen sagt André Caparty Ich tue mich immer ein bisschen schwer, wenn ich nach dem Konfabulationsproblem bei LLMs gefragt werde." }, { "start": 2359.31, "end": 2360.39, "text": "Also Sprachmodellen ne?" }, { "start": 2360.87, "end": 2365.07, "text": "Denn in gewisser Weise ist konfabulieren genau das was LLMs die ganze Zeit tun." }, { "start": 2365.61, "end": 2367.43, "text": "Sie sind Traummaschinen." }, { "start": 2367.99, "end": 2370.25, "text": "Wir lenken ihre Träume mit unseren Promts." }, { "start": 2370.71, "end": 2379.63, "text": "Die Promts starten den Traum und basierend auf der nebligen Erinnerung des LLMS an seine Trainingsdaten führt dieser Traum meistens in eine nützliche Richtung." }, { "start": 2379.89, "end": 2387.73, "text": "Erst wenn der Traum ein Gebiet abdriftet, dass wir als Faktisch-Falsch bewerten, nennen wir es eine Konfabulation – es wirkt dann wie ein Fehler." }, { "start": 2387.85, "end": 2391.65, "text": "aber eigentlich ist es nur das was das LLM immer tut." }, { "start": 2392.11, "end": 2393.97, "text": "Das hat sich nicht wirklich verändert." }, { "start": 2394.23, "end": 2400.11, "text": "Was sich verändert hat ist, dass die Maschinen inzwischen sehr viel mehr Text produzieren den wir gar nicht sehen." }, { "start": 2400.25, "end": 2402.49, "text": "also Ihr gebt irgendeine Frage rein." }, { "start": 2402.93, "end": 2409.35, "text": "Ich habe gestern gesagt, erstelle mir einen technischen Report zur Nutzung des P-Values in der Statistik." }, { "start": 2409.91, "end": 2420.75, "text": "Dann hat die Maschine sehr lange für sich selber Texte hergestellt und darunter steht dann so etwas wie erstelle zehn Skizzen für ein Techreport." }, { "start": 2421.41, "end": 2426.19, "text": "Dann der nächste Prompt ist überprüfe kritisch, welche von diesen Strukturen am besten ist." }, { "start": 2426.59, "end": 2434.87, "text": "und dadurch dass die Maschine sich selber immer wieder so Aufgaben stellt zum Textmuster erstellen kommen tatsächlich bessere Dinge bei raus." }, { "start": 2435.85, "end": 2438.51, "text": "Wir werden da aber nicht weiterkommen." }, { "start": 2438.59, "end": 2442.31, "text": "diese Art von Technologie wird uns nicht zu AGI führen." }, { "start": 2443.33, "end": 2444.05, "text": "warum nicht?" }, { "start": 2444.55, "end": 2451.71, "text": "Am Ende Das sagt Brian Cantwell-Smith, Informatiker der am Ende seines Lebensphilosoph wurde." }, { "start": 2452.23, "end": 2456.19, "text": "Der sagt ich weiß jetzt auch nicht was Intelligenz ist aber ich habe drei Mindestanforderungen." }, { "start": 2456.55, "end": 2459.99, "text": "Du brauchst ein Weltmodell das Vorhersagen über das Verhalten der Welt macht." }, { "start": 2460.55, "end": 2462.33, "text": "Das können KI Systeme ganz gut!" }, { "start": 2462.47, "end": 2467.97, "text": "Das ist ja genau das Training wo wir Ihnen Beispiele zeigen wie sich die Welt verhält unter bestimmten Bedingungen." }, { "start": 2468.95, "end": 2473.35, "text": "Dann musst du aber deine Vorhersage an der Welt messen." }, { "start": 2473.87, "end": 2482.57, "text": "Und das können Sprachmodelle schon nicht mehr gut, die haben keine Sensorik um zu gucken... dass wie die Welt reagiert passt zu dem, was sie gedacht haben." }, { "start": 2482.63, "end": 2484.79, "text": "Also zum Beispiel Chatship, die sagt irgendwas Dummes?" }, { "start": 2485.17, "end": 2486.53, "text": "Ich sag das ist völliger Blödsinn." }, { "start": 2486.57, "end": 2488.19, "text": "und dann sagt die Maschine, oh ja, Entschuldigung!" }, { "start": 2488.23, "end": 2491.77, "text": "Und dann kann es aber passieren, dass die Maschine genau dasselbe sagt." }, { "start": 2491.83, "end": 2494.89, "text": "Das würde bei einem Menschen nicht passieren weil wir soziale Charme haben." }, { "start": 2495.31, "end": 2499.05, "text": "Die Maschine ist nicht in die Welt eingebunden, nicht in sozialen Regeln eingebundet." }, { "start": 2499.69, "end": 2509.63, "text": "Nicht zuletzt müsste die Maschin ihr Weltmodell ständig klug anpassen, an diese Differenz zwischen dem was sie vorher gesagt hat und dem was dann passiert ist." }, { "start": 2510.05, "end": 2512.81, "text": "Und das haben diese Sprachmodelle auf jeden Fall im Moment nicht." }, { "start": 2514.65, "end": 2531.51, "text": "Sag mal woran kann Vorstand erkennen oder irgendein verantwortlicher in einem Unternehmen dass eine Aufgabe für so ein LLM-Modell Agenten, der auf dieser Arbeit Fuß umgeeignet oder zumindest hoch riskant ist." }, { "start": 2531.57, "end": 2534.93, "text": "Gibt es da irgendwie so Prüfsteine die man sich im Kopf vornehmen kann?" }, { "start": 2535.45, "end": 2536.07, "text": "Auf jeden Fall!" }, { "start": 2536.41, "end": 2539.39, "text": "Sie sind auf der einen Seite ganz einfach und auf der anderen Seite furchtbar schwer." }, { "start": 2540.01, "end": 2542.65, "text": "Man darf eben nicht schon mit dem Ansatz rangehen." }, { "start": 2542.87, "end": 2544.79, "text": "Ich will jetzt unbedingt was mit KI machen." }, { "start": 2545.27, "end": 2550.25, "text": "Also von wie vielen Leuten ich das gehört habe Wir müssen jetzt modern sein wir müssen jetzt auch etwas mit KI Machen." }, { "start": 2550.67, "end": 2556.23, "text": "Das war also sozusagen die Primisse Sondern was man stattdessen machen muss, wie langweilig ist zuerst mal sagen." }, { "start": 2556.27, "end": 2557.51, "text": "Was habe ich denn überhaupt für ein Problem?" }, { "start": 2557.83, "end": 2559.53, "text": "Was will ich dann überhaupt für einen Problem lösen?" }, { "start": 2560.15, "end": 2568.31, "text": "und da kann man zum Beispiel sagen wir ein großer Telekommunikationsanbieter Wir müssen sehr viel Geld bezahlen für unsere menschlichen Call Agents." }, { "start": 2568.51, "end": 2573.15, "text": "Wir wollen da reduzieren Und wir wollen auch dass es schneller geht für unsere Kunden win-win." }, { "start": 2573.81, "end": 2580.71, "text": "Dann muss man sich fragen unter welchen Nebenbedingungen das heißt Wie viel Geld hab ich welche gesetzlichen Nebenbedienung gibt es alles mögliche?" }, { "start": 2581.25, "end": 2587.65, "text": "und dann muss man technikneutral gucken, welche Lösung die beste ist." }, { "start": 2588.17, "end": 2590.93, "text": "Und das ist eben ganz oft nicht ein Sprachmodell." }, { "start": 2591.13, "end": 2600.37, "text": "es kann ein anderes KI System sein etwas dass man spezifisch für dieses Problem anpasst und das sind auf jeden Fall die ersten drei Schritte und die sehe ich ganz selten." }, { "start": 2601.09, "end": 2612.13, "text": "dann muss man sich fragen wie viele Anteile an dem Prozess, den ich jetzt ersetzen will sind wahrscheinlich Standort und wie viele Prozent sind Ausnahmen." }, { "start": 2612.63, "end": 2626.07, "text": "Also sagen wir mal Ich habe ein Prozess bei diesem Telekommunikationsanbieter waren es nachher eighty-fünf Prozent der Anrufe konnten tatsächlich durch die Maschine Mitsprachmodell automatisch beantwortet werden." }, { "start": 2626.63, "end": 2629.83, "text": "Vorher mit einem Experten-System waren es nur fünfzig Prozent." }, { "start": 2630.39, "end": 2643.59, "text": "Jetzt kommt aber die große Realitätsklatsche, trotzdem also die Maschine mit Sprachmodell jetzt thirty-fünf Prozent an Teile mehr beantworten konnte wurden dadurch nur fünf Prozent der Arbeitszeit der Menschen in Call Agents eingespart." }, { "start": 2644.33, "end": 2650.19, "text": "Also ganz oft ist eben die Einsparung gar nicht so groß weil Ausnahmen viel viel länger dauern als Standardfälle." }, { "start": 2651.19, "end": 2658.97, "text": "Und dann gibt es Zahlen, dass sehr viel von dem vermeintlichen Effizienzgewinn durch Nacharbeiten wieder verloren geht." }, { "start": 2659.03, "end": 2662.15, "text": "Wenn die Maschine eben einen Fehler gemacht hat nicht zuverlässig war." }, { "start": 2662.75, "end": 2678.25, "text": "also da gibt es zahlen bis zu vierzig Prozent der Effiziensgewinne sind nachher wieder zerstört worden und das alles ja unter einem Geschäftsmodell von OpenAI und anderen Firmen das überhaupt nachhaltig ist." }, { "start": 2678.69, "end": 2681.11, "text": "Das sind nicht die echten Preise, die man heute bezahlt." }, { "start": 2681.25, "end": 2689.49, "text": "also ich glaube wenn man das wirklich einfach ganz langweilig durchrechnet mal guckt wie viele Standardfälle haben wir was können wir an die Maschine geben?" }, { "start": 2689.55, "end": 2690.59, "text": "Wie viele Ausnahmen haben wir?" }, { "start": 2690.99, "end": 2693.47, "text": "Wie viel Zeit kostet die Bearbeitung der Ausnahmen?" }, { "start": 2694.03, "end": 2697.81, "text": "Wen können wir so ausbilden dass der sehr schnell unterscheidet in dass es eine Ausnahme?" }, { "start": 2697.85, "end": 2699.83, "text": "das müssen Menschen machen und das ist ein Standardfall." }, { "start": 2699.89, "end": 2706.33, "text": "Wenn man sich da einfach mal hinsetzt und die Zahlen ordentlich aufschreibt dann sieht man glaub ich ziemlich schnell ob das sich lohnt." }, { "start": 2706.41, "end": 2717.73, "text": "er nicht und ich habe den Eindruck, dass die meisten das Nichtfeuer machen sondern sich was erzählen lassen wie gut das nachher sein wird ohne diese Sanity Checks Feuer durchzuführen." }, { "start": 2718.85, "end": 2726.85, "text": "Spätestens wenn die Kosten für Token steigen werden die Fragen vielleicht sogar automatisch häufiger gestellt werden?" }, { "start": 2727.89, "end": 2729.31, "text": "Ja Ja, aber es wäre ja schön." }, { "start": 2732.33, "end": 2733.51, "text": "Es hat sich ja nichts geändert!" }, { "start": 2733.57, "end": 2736.51, "text": "Man muss eigentlich immer erst mal sich hinsetzen und sagen was ist unser Problem?" }, { "start": 2736.59, "end": 2737.59, "text": "Was sind die Nebenbedingungen?" }, { "start": 2737.63, "end": 2738.69, "text": "Was ist die beste Lösung?" }, { "start": 2739.51, "end": 2743.53, "text": "Also ich meine wir haben's doch alle bei Blockchain gesehen oder jeder hat in Blockchain investiert." }, { "start": 2744.07, "end": 2745.37, "text": "und was ist davon übriggeblieben?" }, { "start": 2745.71, "end": 2756.29, "text": "sehr sehr wenig weil wenn man ehrlich war bei den allermeisten Problemen eine zentrale Datenbank einfach viel besser viel zuverlässiger viel weniger teuer gewesen wäre." }, { "start": 2756.43, "end": 2758.25, "text": "Ich wollte das auch wirklich viel günstiger." }, { "start": 2758.57, "end": 2758.61, "text": "Ja," }, { "start": 2759.69, "end": 2768.67, "text": "genau und wir sehen im Moment jetzt genau dasselbe weil eben der Erstkontakt mit diesen Maschinen so beeindruckend ist." }, { "start": 2769.43, "end": 2774.45, "text": "Und je länger man aber in seinem eigenen Fachgebiet bleibt, desto mehr sieht man, so gut sind die nicht." }, { "start": 2774.85, "end": 2786.79, "text": "Sobald man sich was erzählen lässt, was man nicht mehr hundertprozentig überprüfen kann klingt er erst mal gut, lässt man sich schnell davon dazu überzeugen, dass man das jetzt auch braucht in der Firma." }, { "start": 2788.33, "end": 2792.69, "text": "Liebe Katharina ich würde zum Schluss gerne noch auf ein Thema kommen." }, { "start": 2792.85, "end": 2804.21, "text": "Tut mir leid, dass es erst mal vielleicht bisschen kruselig wird, aber es besorgt mich und ist nochmal eine Fasette die wir natürlich mit der wir uns befassen und rumknobeln müssen." }, { "start": 2805.21, "end": 2808.97, "text": "Karsten hat gerade einen Artikel geschrieben mit der Überschrift." }, { "start": 2809.01, "end": 2821.81, "text": "Die Maschinen sind schon in der Mehrheit, es geht darum wer Content im Netz produziert, wer eigentlich unterwegs ist und klickt auf Seiten die es eben da gibt." }, { "start": 2822.03, "end": 2824.31, "text": "also wie viele Bots sind da und wie viele Menschen?" }, { "start": 2825.07, "end": 2832.19, "text": "Und daran knüpft sich ja eine ganze Menge an, denn da sozusagen erstellen Bots-Inhalte und klicken irgendwo." }, { "start": 2832.93, "end": 2836.33, "text": "Dann erstellen neue Botsinhalte aus den Inhalten der Bots." }, { "start": 2836.95, "end": 2840.29, "text": "aber auf der Qualität – das wird dann immer mehr!" }, { "start": 2840.55, "end": 2847.13, "text": "Da steht auch der Satz drin, wenn es so weitergeht werden wir Menschen irgendwann ein Rundungsfehler im Internet." }, { "start": 2847.75, "end": 2848.73, "text": "Was wird denn daraus?" }, { "start": 2848.81, "end": 2867.21, "text": "Müssen wir uns um unser ganzen Diskurs uns als sozusagen unseren ganzen Netzaufenthalter Sorgen machen, weil der aus so einem sich selbst befeuerenden und gar nicht mehr, weil wir da immer mehr vom selben kriegen und immer mehr sozusagen synthetisiert wird." }, { "start": 2867.37, "end": 2876.35, "text": "Aus synthetisiertem, aus synthetiziertem und klar gesagt, weil in einen Umfeld kommen, wo eigentlich permanent die Qualität sinkt." }, { "start": 2879.01, "end": 2881.29, "text": "Also, mir ist sehr unwohl dabei gewesen." }, { "start": 2881.47, "end": 2884.05, "text": "Deswegen musst du das auch leider noch beantworten jetzt." }, { "start": 2884.43, "end": 2884.99, "text": "Kein Problem!" }, { "start": 2885.61, "end": 2891.53, "text": "Diese Sorgen passieren immer dann wenn man Phänomene einzeln betrachtet." }, { "start": 2892.25, "end": 2918.63, "text": "Deswegen haben wir an der RPTU in Kaiserslautern den Studiengang Sozioinformatik entwickelt und die sozioinformatische Antwort auf deine Frage beruht darauf dass wir uns das gesamte soziotechnische System betrachten Denn diese Content Creation findet ja nicht im luftleeren Raum statt, sondern es gibt verschiedene menschliche Akteursgruppen, die daran interessiert sind." }, { "start": 2918.77, "end": 2921.13, "text": "Also es gibt immer noch Leute, die das Zeug gucken." }, { "start": 2921.33, "end": 2932.03, "text": "also mir wird's langsam langweilig auf Instagram weil ich so viel durch scrollen muss bis sich zu den Leuten komme wo ich darauf vertraue dass sie echt sind und dass das ein echter Inhalt ist." }, { "start": 2932.71, "end": 2942.41, "text": "Also immer noch gibt es die, es gibt eben die Content Creators die davon... profitieren, weil sie Werbe mittel in irgendeiner Weise bekommen." }, { "start": 2942.55, "end": 2945.63, "text": "Weil Sie dafür belohnt werden wenn sie möglichst viele Zuschauer anziehen." }, { "start": 2946.49, "end": 2958.07, "text": "Das heißt wir haben auch die Verben denn denen das ja eigentlich auch nicht passen kann wenn sie dort Werbung machen wo sie eigentlich gar nicht davon ausgehen können dass ein Mensch das überhaupt noch sieht." }, { "start": 2958.91, "end": 2963.99, "text": "Wir haben euch als Redakteure und Journalisten, in diesem Fall ein bisschen als Leidtragende." }, { "start": 2964.57, "end": 2969.45, "text": "Und wir versuchen immer dieses gesamte soziotechnische System dann zu betrachten und rauszukriegen." }, { "start": 2969.97, "end": 2971.11, "text": "wo sind jetzt die Hebel?" }, { "start": 2971.25, "end": 2972.59, "text": "Wo könnte man was verändern?" }, { "start": 2973.17, "end": 2983.57, "text": "Als ich vor einem Jahr ungefähr beim Bundespräsidenten war habe ich ihm eine Lösung mitgegeben von der ich mir wünschte dass wir sie heute hätten." }, { "start": 2984.31, "end": 2992.57, "text": "Ich hätte gerne eine sehr, sehr simple Infrastruktur bei der ich auf all meinen Social Media Accounts einen Teil von mir preisgeben könnte." }, { "start": 2992.83, "end": 2995.37, "text": "Wir haben diese Klarnahmspflicht-Diskussion." }, { "start": 2995.47, "end": 2996.33, "text": "das wollen wir nicht." }, { "start": 2996.43, "end": 2998.11, "text": "klarnahmen sind schwierig." }, { "start": 3004.75, "end": 3008.63, "text": "meinen Followern einen Teil meiner Persönlichkeit offenlegen." }, { "start": 3008.73, "end": 3019.85, "text": "Also zum Beispiel, wenn ich über politisches rede, finde ich es ganz interessant, wenn Ich preisgeben kann ob ich hier überhaupt Wahlberechtigt bin oder nicht und Wenn das auch authentifiziert würde." }, { "start": 3020.45, "end": 3034.79, "text": "Das heißt, wir brauchen eine Infrastruktur wo Wir als Menschen im Internet auftreten Und Teile unserer Persönlichkeit Authentifizieren können so dass wir damit legitimieren können Dass wir über dieses Thema jetzt auch wirklich reden können." }, { "start": 3035.97, "end": 3040.43, "text": "Zweitens ist es natürlich so, dass die Bots immer schlechter werden werden." }, { "start": 3041.19, "end": 3047.57, "text": "Je mehr selbstgemachte Texte sie haben und deswegen müssen wir da auch einfach nur ein bisschen Geduld haben." }, { "start": 3047.61, "end": 3051.59, "text": "bis dahin brauchen wir aber noch eine Lösung für bezahlbaren Journalismus." }, { "start": 3051.79, "end": 3062.55, "text": "Auch dafür habe ich Herrn Steinmeier damals eine Idee mitgegeben Es wird schon heute eine Mehrwertsteuer abgeführt auf die Anzahl der generierten Token Warum nicht?" }, { "start": 3064.69, "end": 3068.33, "text": "eine weitere Steuer- oder Abgabe, wie auch immer man das dann juristisch umsetzt." }, { "start": 3068.71, "end": 3075.77, "text": "Die zum Beispiel unabhängigen Journalismus zugutekommen könnte für journalistische Projekte in Form einer Stiftung oder ähnliches." }, { "start": 3076.29, "end": 3080.37, "text": "Auch damit könnten wir wieder mehr Geld in diesen so wichtigen Markt" }, { "start": 3080.45, "end": 3080.69, "text": "bringen.\"" }, { "start": 3081.41, "end": 3087.79, "text": "Sagt Katharina Zweig die, wie ich eingangs gesagt habe wohl bekannteste KI-Forscherin Deutschlands." }, { "start": 3088.25, "end": 3099.73, "text": "Liebe Katharina vielen Dank dir für deine einsichten Einschätzung und die ganze Diskussion über dieses sehr dramatische Feld gerade, weil wir alle das Gefühl haben." }, { "start": 3099.77, "end": 3112.79, "text": "Und ich glaube zurecht dass wir an einem ganz wichtigen Punkt sind in dieser Technologie wenn es darum geht sie erstens weiter zu entwickeln und zweitens zu besprechen und drittens auch sinnvoll zu nutzen." }, { "start": 3113.47, "end": 3128.69, "text": "vielleicht als ein letzter Hinweis den machen wir jetzt ja einfach mal auch wenn es wärtlich ist aber das kann sowieso jeder nachgucken wäre mehr von Katharina Zweig Wissen, möchte das aktuellste Buch heißt Weiß die KI dass sie nicht zweis ist im Heineverlag erschienen." }, { "start": 3129.55, "end": 3134.25, "text": "Und Ihnen liebe Hörerinnen und Hörern vielen Dank dass Sie einmal mehr eingeschaltet haben." }, { "start": 3134.63, "end": 3136.73, "text": "Machen's es gut und bis in der kommenden Woche!" }, { "start": 3137.95, "end": 3140.33, "text": "Tschüss!" } ]