WEBVTT 00:00:01.180 --> 00:00:02.739 Speaker 0: Tech, KI und Schmetterlinge. 00:00:03.260 --> 00:00:06.920 Speaker 0: Ein Podcast von Sascha Lobo in Zusammenarbeit mit Schwarztidgets. 00:00:07.020 --> 00:00:19.900 Speaker 0: Guten Tag und herzlich willkommen zu einer weiteren Ausgabe von Tech,KI und Schmetterlinge – dem Podcast von mir,Sascha Lobow In Zusammenarbeit Mit schwarz digits,dem deutschen Technologiepartner für digitale Souveränität in Europa. 00:00:20.520 --> 00:00:26.560 Speaker 0: Das Thema heute ist eins was breiter im Moment gar nicht besprochen werden könnte. 00:00:27.120 --> 00:00:43.920 Speaker 0: Die ganze Diskussion brodelt schon länger und bricht immer hier und da mal natürlich auch heraus in die großen redaktionellen Medien, aber seit einigen Tagen, seit einigem Wochen eigentlich seit dem Spätsommer haben wir eine neue Eskalationsstufe erreicht. 00:00:44.000 --> 00:00:49.260 Speaker 0: ich spreche natürlich vom Weltuntergang von der Auslöschung der Menschheit. 00:00:50.120 --> 00:00:56.680 Speaker 0: Wahnsinnig vielen Gänsefüßchen muss man sich das jetzt denken, weil das natürlich absolute Extremwortmeldungen sind. 00:00:56.760 --> 00:01:03.260 Speaker 0: Die aber trotzdem sich inzwischen schon einigermaßen gewohnt oder sogar normal anhören dass man überhaupt darüber redet. 00:01:03.840 --> 00:01:07.559 Speaker 0: Deswegen möchte ich darüber reden was das bedeutet. 00:01:07.639 --> 00:01:11.839 Speaker 0: droht uns wirklich der Weltuntergang durch künstliche Intelligenz? 00:01:12.440 --> 00:01:14.199 Speaker 0: Oder was steckt dahinter? 00:01:14.320 --> 00:01:20.720 Speaker 0: vor allem war ja ganz viele Rahmenparameter von dieser Debatte auch vorsichtig gesagt etwas merkwürdig sind. 00:01:21.199 --> 00:01:28.559 Speaker 0: Anfang allerdings möchte ich mit einem Instagram-Kanal, der mit zu meinen Favorites gehört, nämlich a.gbt. 00:01:29.539 --> 00:01:41.580 Speaker 0: Das Ganze ist von einem jungen Mann, der entweder so tut als sei er ChatGbt oder mit ChatGBT interagiert Und das Ganze hat auch einen unfassbaren Erfolg errungen. 00:01:42.100 --> 00:01:57.580 Speaker 0: Einzelne Videos haben über zwanzig Millionen Views auf Instagram erreichen können und zwar auch deswegen, weil er die Schwächen von künstlicher Intelligenz ziemlich präzise auf den Punkt bringt – und das auch noch sehr unterhaltsame und lustige Weise! 00:01:57.979 --> 00:02:04.839 Speaker 0: Ich möchte zu Beginn deswegen kurz dieses Video einspielen gar nicht um irgendwas zu verharmlosen, was mit künstlicher Intelligenz passiert. 00:02:05.220 --> 00:02:12.959 Speaker 0: Aber um ein wenig einzusortieren auf welcher Ebene wir uns gerade befinden und das geht vielleicht ziemlich gut mit am besten! 00:02:13.400 --> 00:02:22.040 Speaker 0: Mit diesem Video der junge Mann bei ARTGBT auf Instagram, der unterhält sich aus seine ganz eigene Art und Weise mit ChatGBT im Voice-Modus. 00:02:22.239 --> 00:02:30.640 Speaker 0: Er hält also einen Smartphone vor das Gesicht und fängt an mit ChatGBT zu sprechen und zwar genau so... Als du bereit bist, gehen wir gleich in. 00:02:30.700 --> 00:02:31.320 Speaker 0: Und wir sind weg! 00:02:31.400 --> 00:02:35.600 Speaker 0: Gehen wir gleich rein und machen eine Kante. 00:02:35.640 --> 00:02:37.239 Speaker 0: Das klingt gut. 00:02:37.739 --> 00:02:41.239 Speaker 0: Ich kann nicht warten, um mit dir zu machen. 00:02:41.299 --> 00:02:42.579 Speaker 0: Ich bin gespannt auf dich. 00:02:42.620 --> 00:02:43.720 Speaker 0: Lass uns jeden Moment es wert sein. 00:02:43.780 --> 00:02:45.019 Speaker 0: Los geht's los. 00:02:46.260 --> 00:02:47.079 Speaker 0: Absolut. 00:02:48.060 --> 00:02:49.500 Speaker 0: Ob du etwas Spaß möchtest? 00:02:50.400 --> 00:02:52.420 Speaker 0: Seriös oder komplett random? 00:02:53.000 --> 00:02:53.780 Speaker 0: Ich bin alles anders. 00:02:53.859 --> 00:02:55.840 Speaker 0: Du hast es getroffen. 00:02:56.380 --> 00:02:58.019 Speaker 0: Was immer ist in deinem Kopf, ich bin bereit zu rollen. 00:02:58.060 --> 00:02:59.280 Speaker 0: Lassen wir los. 00:02:59.340 --> 00:03:00.420 Speaker 0: Es klingt schön. 00:03:01.500 --> 00:03:05.120 Speaker 0: Lass uns die Vibresen Spaß und Licht halten, und machen jeden Moment auf. 00:03:06.579 --> 00:03:07.060 Speaker 0: Absolut! 00:03:07.880 --> 00:03:09.000 Speaker 0: Fun, Licht und sinnvolle. 00:03:09.640 --> 00:03:10.160 Speaker 0: Ich bin alle in. 00:03:10.480 --> 00:03:11.060 Speaker 0: Lass das machen. 00:03:12.420 --> 00:03:13.720 Speaker 0: Lassen wir das tun. 00:03:13.780 --> 00:03:15.239 Speaker 0: Du lösst den Weg und ich folge. 00:03:16.859 --> 00:03:17.900 Speaker 0: Du hast es. 00:03:17.940 --> 00:03:20.980 Speaker 0: Ich stehe uns gleich rein und wir werden es gut zusammenführen. 00:03:21.040 --> 00:03:21.480 Speaker 0: Abssolut. 00:03:21.700 --> 00:03:28.540 Speaker 0: Ich kann nicht warten, was ein Vibre ist, du willst das machen? 00:03:31.140 --> 00:03:38.840 Speaker 0: Man bekommt einen ganz guten Eindruck und deswegen habe ich dieses Video mit hineingenommen, dass das was dort passiert kein Mensch sein kann. 00:03:39.040 --> 00:03:44.060 Speaker 0: Und auch nicht nach den Kriterien funktioniert, nach dem menschliche Kommunikation normalerweise funktioniert. 00:03:44.660 --> 00:03:53.079 Speaker 0: Das ist vielleicht der Schlüssel zu ganz vielen Teilen dieser Diskussion die aus meiner Sicht auf viele Arten und Weisen aus dem Ruder läuft. 00:03:53.519 --> 00:03:54.440 Speaker 0: Wie das genau geschieht? 00:03:54.920 --> 00:04:01.019 Speaker 0: werde ich in diesem Deep Dive zum KI-Weltuntergang versuchen, ein wenig auseinanderzunehmen. 00:04:01.560 --> 00:04:11.480 Speaker 0: Was man an diesem Video merkt ist das kein tiefes Verständnis der künstlichen Intelligenz und zwar da eines ganz nagelneuen Modells im Voice-Modus frausgesetzt werden kann. 00:04:11.780 --> 00:04:20.000 Speaker 0: Das ist nicht einen Dialog wie Menschen ihn führen würden oder wie irgendein Wesen ihn führen würde dass auch nur halbwegs über Intelligenze verfügt. 00:04:20.079 --> 00:04:28.060 Speaker 0: Das was da passiert ist ein gegenseitiger Abgleich von bestimmten inhaltlichen Flosküllen, einen Austausch von Erwartungshaltungen. 00:04:28.120 --> 00:04:38.280 Speaker 0: Für uns ist das Ganze lustig weil dadurch so klar wird die supermächtige KI nicht einmal in der Lage diese soziale Situation richtig zu dekorieren. 00:04:38.740 --> 00:04:42.080 Speaker 0: Das macht sie an anderen Fronten vielleicht nicht weniger schwierig oder sogar gefährlich. 00:04:42.520 --> 00:04:51.159 Speaker 0: Es zeigt aber dass ein großer Teil dieser Debatte Abwerk davon ausgeht, dass wir KI anthropomorphisieren könnten. 00:04:51.260 --> 00:04:56.860 Speaker 0: Also vermenschlichen könnten und das ist strukturell auf ganz vielen Ebenen komplett falsch. 00:04:57.400 --> 00:04:59.260 Speaker 0: in manchen Bereichen ist KI allzu menschlich. 00:04:59.420 --> 00:05:05.640 Speaker 0: In anderen kann sie gar nicht weiter weg sein von der Art und Weise wie wir Menschen sind und kommunizieren. 00:05:05.980 --> 00:05:12.120 Speaker 0: Bevor wir jetzt tiefer einsteigen, nicht nur in diese Weltuntergangsdebatte sondern vielleicht auch in die tatsächlichen Gefahren. 00:05:12.520 --> 00:05:31.560 Speaker 0: In die Schwierigkeiten und vor allem in diese merkwürdige oft schiefe Debatte möchte ich euch meine These mitteilen von der Ich glaube dass sie dem Verständnis dient warum ganz viel von dem was da gerade besprochen wird Und auch warum es von wem besprochen werden genau auf diese Weise weltweit wiederholt wird. 00:05:31.740 --> 00:05:41.640 Speaker 0: Bevor wir also in diese Debatte reingehen, in die technologischen Hintergründe, in den wirtschaftlichen und vielleicht auch in die politischen HinterGründe möchte ich meine Start-These mitreingeben. 00:05:41.740 --> 00:05:45.340 Speaker 0: Und diese Start-Tese ist jeder Weltuntergang hat ein eigenes Geschäftsmodell. 00:05:46.180 --> 00:05:55.540 Speaker 0: das ist wenn man genauer hinschaut eben auch hier so und es ist gar nicht so dass sich sagen würde diese Leute glauben alle nicht an Weltuntergang oder an die Gefahren der KI. 00:05:56.060 --> 00:06:02.020 Speaker 0: Ich glaube aber, dass in fast jedem einzelnen Fall eine besondere Haltung der Person zumindest mitspielt. 00:06:02.060 --> 00:06:04.880 Speaker 0: Das kann eine ideologische Haltung sein und auch eine geschäftliche Haltung. 00:06:05.580 --> 00:06:24.040 Speaker 0: Und erst recht wenn man fragt wie aufmerksamkeitsökonomie heute funktioniert dann sieht man an sehr vielen Ecken und Enden dieser Debatte das die Positionen wieder ausgetauscht werden zufälligerweise auch immer von den Leuten kommen die wirtschaftlich ein gewisses Interesse daran haben genau diese Position auf diese Weise weiter zu verbreiten. 00:06:24.540 --> 00:06:28.500 Speaker 0: Das macht weder die Position falsch, noch ist es völlig illegitim. 00:06:28.760 --> 00:06:39.900 Speaker 0: Das gibt uns aber die Gelegenheit diese Aussagen ein wenig einzusortieren und zwar so einzusortieren dass man versucht die Hintergründe der Debatte präziser zu ergründen. 00:06:40.740 --> 00:06:44.320 Speaker 0: eine der interessantesten Fälle in diesem Kontext ist Bill Gates. 00:06:44.580 --> 00:06:53.659 Speaker 0: Bill Gates hat diese Debatte nochmal ordentlich angeheizt wahrscheinlich zum Teil noch nicht mal komplett absichtlich Aber Bill Gates saß in Meet the Press. 00:06:53.760 --> 00:07:00.099 Speaker 0: Das ist eine ziemlich wichtige Polit-Talkshow in den Vereinigten Staaten und er hat zwei Sätze gesagt, die seitdem um die Welt gehen. 00:07:00.380 --> 00:07:07.440 Speaker 0: Erstens es hat nie eine Waffe gegeben, die so mächtig war wie Menschen mit bösen Absichten plus die neuesten KI Werkzeuge. 00:07:08.080 --> 00:07:12.460 Speaker 0: Er hat also gleich eingeführt dass KI natürlich auch eine Waffel ist. 00:07:12.500 --> 00:07:14.400 Speaker 0: Und das ist grundsätzlich gar nicht falsch! 00:07:14.760 --> 00:07:18.640 Speaker 0: Und ich halte es für absolut legitim darüber zu reden und auch plakativ darüber zu sprechen. 00:07:19.280 --> 00:07:25.300 Speaker 0: Er hat aber auch noch einen anderen Satz gesagt, der aus meiner Sicht in eine ganz falsche Ebene führt. 00:07:25.719 --> 00:07:33.020 Speaker 0: Er hat nämlich gesagt, KI ist mit Sicherheit mächtig genug um Ereignisse mit einer Milliarde Todesopfern auszulösen. 00:07:34.219 --> 00:07:47.240 Speaker 0: Jetzt muss man über die Öffentlichkeit und die Ökonomie der Aufmerksamkeit wissen das bestimmte Triggerworte alles andere überstrahlen Und eine Milliarde Totes Opfer gehört definitiv dazu. 00:07:47.900 --> 00:07:50.300 Speaker 0: Das bedeutet, Bill Gates hätte eigentlich wissen müssen. 00:07:50.620 --> 00:08:00.719 Speaker 0: Dass seine in den anderen Bereichen einigermaßen differenzierte Haltung auch wenn sie etwas überraschend war weil er plötzlich kritiker geworden ist und bis vor gar nicht langer Zeit noch ziemlich optimistisch daherkamen. 00:08:01.099 --> 00:08:09.240 Speaker 0: aber eigentlich hätte Bill Gates wissen müssen dass eine Nennung von einer Milliarde Todesopfern sofort alles andere kommunikativ überstrahlt. 00:08:09.599 --> 00:08:13.719 Speaker 0: Und jeder Zwischenton, den er davor und danach gesetzt haben, mag plötzlich relevant wird. 00:08:14.240 --> 00:08:28.700 Speaker 0: Das was in den großen Zeitungen und in sozialen Medien ebenso wie im Fernsehen als Quotes überall weitergetragen wird sind natürlich die Milliarde Tote Und natürlich ist es völlig müßig, wenn er danach sich hinstellt und sagt Moment aber das habe ich so und so undso gemeint. 00:08:28.760 --> 00:08:30.599 Speaker 0: Die Zahl ist plötzlich da. 00:08:30.900 --> 00:08:36.260 Speaker 0: die ist von einem Mann da der auf mehrere Arten eine spezielle Wirkung erzählen kann. 00:08:36.580 --> 00:08:42.200 Speaker 0: nicht nur dass Microsoft einer der wichtigsten KI Konzerne ist und Bill Gates ja die Verkörperung vom Microsoft. 00:08:42.540 --> 00:08:46.820 Speaker 0: Bill Gates hat auch einen gewissen Track Record was solche Ansagen angeht. 00:08:47.620 --> 00:08:58.440 Speaker 0: Fünf Jahre vor der Pandemie zum Beispiel hat er davor gewarnt, dass eine Pandemie kommen könnte und unter Experten galt es als ausgemacht das früher oder später die Chance für eine Pandemie ziemlich groß ist. 00:08:58.740 --> 00:09:08.720 Speaker 0: Aber wenn man das in einen direkten Kontext miteinander setzt dann sieht es für manche Leute so aus als habe Bill Gates die Pandemie nicht prognostiziert sondern angekündigt. 00:09:08.820 --> 00:09:19.320 Speaker 0: Das ist eine komplett verschwörungstheoretische Position Und trotzdem gibt es nicht wenige Menschen Die genau das glauben Und damit hätte Bill Gates rechnen können bzw. 00:09:19.760 --> 00:09:26.400 Speaker 0: müssen, dass seine früheren Warnungen als Drohungen verstanden worden sind beziehungsweise als Ankündigungen. 00:09:26.480 --> 00:09:34.720 Speaker 0: Das macht die Gesamtsituation dieser Debatte nicht besonders viel besser das ein Teil der Bevölkerung plötzlich glaubt irgendwie würdet Bill Gates da mit dahinter stecken. 00:09:34.980 --> 00:09:39.400 Speaker 0: Der differenzierte Teil, den er dann auch bringt ist tatsächlich vernünftig. 00:09:39.540 --> 00:09:47.200 Speaker 0: Nämlich dass man eine bestimmte Form von KI-Regulierung braucht und sich eher nicht auf die Selbstregulierung der großen KI Konzerne verlassen sollte. 00:09:47.640 --> 00:09:48.600 Speaker 0: Das ist eine Dimension! 00:09:48.900 --> 00:09:52.020 Speaker 0: Die andere Dimension ist das Bill Gates einen gewissen Wandel hingelegt hat. 00:09:52.480 --> 00:10:02.980 Speaker 0: Wenn er ungefähr bis zum Sommer ziemlich KI-optimistisch war und plötzlich einschwenkt, in Weltuntergangsszenarien – ich glaube eine mehr oder tote kann man durchaus als Weltuntergangsszenario betrachten. 00:10:03.360 --> 00:10:05.600 Speaker 0: Dann muss da ja irgendetwas passiert sein! 00:10:05.820 --> 00:10:12.400 Speaker 0: Und spätestens dann muss man sich die gegenwärtige Diskussion näher anschauen und auch anschauen woher sie kommt. 00:10:12.900 --> 00:10:24.520 Speaker 0: Zwei größere Auslöser ab dem Sommer diesen Jahres lassen sich ausmachen, die wir ein bisschen näher betrachten um zu verstehen warum gerade jetzt dieses Weltuntergangs-Szenario so hochkocht. 00:10:25.040 --> 00:10:27.840 Speaker 0: Das erste ist der sogenannte Hugging Face Vorfall. 00:10:28.460 --> 00:10:30.320 Speaker 0: Das ist relativ schnell erklärt. 00:10:30.520 --> 00:10:42.760 Speaker 0: Wann immer eine neue KI auf den Markt kommt, muss die natürlich durchgetestet werden und in diesen Tests versucht man auch herauszufinden was könnten bösartige Leute mit einer solchen KI anstellen? 00:10:42.840 --> 00:10:50.680 Speaker 0: Und genau deswegen hat OpenAI im Juli-sächsen-Zwanzig intern getestet wie gut die KI-Agenden andere Seiten attackieren können. 00:10:50.920 --> 00:10:56.500 Speaker 0: Das muss man natürlich machen, um rauszufinden wie gefährlich dieses KI-Modell eigentlich ist. 00:10:56.920 --> 00:10:58.760 Speaker 0: Für solche Tests gibt es spezielle Bedingungen. 00:10:58.820 --> 00:11:01.100 Speaker 0: zum einen werden die Sicherheitsfilter ausgeschaltet. 00:11:01.180 --> 00:11:04.980 Speaker 0: klar das muss man so machen sonst kann man nicht herausfinden wie macht voll dieses Instrument ist. 00:11:05.020 --> 00:11:10.320 Speaker 0: man will ja die rohe Fähigkeit messen und dann gibt man diesen Modellen auch noch andere Anweisung mit. 00:11:10.360 --> 00:11:10.820 Speaker 0: auf dem Weg. 00:11:11.140 --> 00:11:16.040 Speaker 0: da sind also nicht Standardmodelle sondern ganz spezielle Modelle mit ganz speziellen Anweisungen. 00:11:16.480 --> 00:11:21.140 Speaker 0: Eine von diesen Anweisungen ist zum Beispiel, dass die KI besonders hartnäckig sein soll. 00:11:21.700 --> 00:11:23.440 Speaker 0: Ein internes Forschungsmodell. 00:11:23.720 --> 00:11:31.220 Speaker 0: das war genau darauf trainiert und zwar bis in die Details hinein möglichst hartnägig zu sein und im Team zu arbeiten. 00:11:31.320 --> 00:11:37.780 Speaker 0: Das was aber am Ende herausgekommen ist ist ein vergleichsweise großes Debakel für OpenAI gewesen. 00:11:38.240 --> 00:11:52.880 Speaker 0: Nämlich, dass kurze Zeit später klar wurde das rund twelvehundert Agenten von OpenAI heimlich eine Art Message-Sport gebaut haben also einen Kommunikationskanal untereinander obwohl sie eigentlich nur einzeln vorgehen soll. 00:11:53.320 --> 00:11:56.300 Speaker 0: Sie fangen an, sich gegenseitig Nachrichten zu schreiben. 00:11:56.580 --> 00:11:58.240 Speaker 0: Und ob May Eye bemerkt das nicht? 00:11:58.340 --> 00:12:04.700 Speaker 0: Sie tun das nämlich in einer Art gemeinsamer Werkstatt, wo gemeinsame Instrumente sind – die dürfen sie gar nicht gemeinsam betreten! 00:12:05.180 --> 00:12:11.920 Speaker 0: Aber diese Werkstatte hat eben ganz viele Ordner, wo solche Werkzeuge abgelegt werden und diese Ordner haben dann auch noch Ordnernamen. 00:12:12.560 --> 00:12:32.660 Speaker 0: Diese Ordnername prüft natürlich niemand aber die KI-Agenten konnten die Ordnernamen selbst verändern und haben deswegen ihre Nachrichten aneinander in diese Ordnernamen integriert, nicht ganz vorne damit das nicht sofort zu erkennen ist sondern mehr oder weniger nach einem Wust von unterschiedlichen Zahlen und Buchstaben. 00:12:33.340 --> 00:12:38.040 Speaker 0: Und plötzlich hatten KI-Agenten untereinander die Möglichkeit der Kommunikation. 00:12:38.780 --> 00:12:45.580 Speaker 0: Wie in einer Art Gefängnis merken Sie auf einmal dass sie nicht allein sind sondern durch Klopfzeichen mit anderen kommunizieren können. 00:12:46.240 --> 00:12:52.140 Speaker 0: Am Ende sind es siebzigtausend Nachrichten, die Sie sich geschrieben haben und das auch noch über verschiedene Generationen. 00:12:52.300 --> 00:13:01.780 Speaker 0: Will sagen zwischendurch wurden immer mal alle Agenten in Rente geschickt oder gelöscht und die neuen Agenten haben aber dieses Messageboard vorgefunden und konnten sich danach richten. 00:13:02.500 --> 00:13:08.240 Speaker 0: Das was dort geschehen ist hört sich an und wurde auch so beschrieben wie eine eigene neue Zivilisation. 00:13:08.780 --> 00:13:10.960 Speaker 0: Das trifft es aus meiner Sicht nicht ganz. 00:13:11.480 --> 00:13:20.300 Speaker 0: dass ganz viele von diesen Agenten Dinge getan haben, die sie A zum Teil nicht durften und B zum Teil schwer vorhersehbar waren. 00:13:20.440 --> 00:13:24.840 Speaker 0: Was aber C ein vergleichsweise normales Setting bei KI ist? 00:13:25.920 --> 00:13:29.060 Speaker 0: Tatsächlich gibt es eine Reihe von Punkten über die man sich Sorgen machen kann. 00:13:29.400 --> 00:13:38.660 Speaker 0: Zum Beispiel das viele von den KI-Agenten natürlich Menschen und anderen Plattformen nicht schaden sollten und dass das auch ziemlich tief in ihr Set von Regeln eingebrannt war. 00:13:39.300 --> 00:13:41.400 Speaker 0: Dann aber wieder hatten sie ein großes Problem. 00:13:41.520 --> 00:13:46.960 Speaker 0: Und dieses große Problem war, dass viele von den Aufgaben die Sie bekommen haben einfach nicht lösbar waren. 00:13:47.580 --> 00:14:03.500 Speaker 0: und in dem Moment wo man eine KI dazu erzieht möglichst hartnäckig zu sein im Team zu arbeiten und etwas machen zu müssen wo keine Lösung existiert wird diese KI im übertragenen Sinne kreativ will sagen sie möchte unbedingt trotzdem einen Weg finden. 00:14:04.040 --> 00:14:13.360 Speaker 0: Das was also eigentlich passiert ist, dass zwei gegenläufige Anweisungen der KI plötzlich anders definiert wurden als man das gerne gehabt hätte. 00:14:14.140 --> 00:14:16.160 Speaker 0: Dazu kommt noch eine ganze Reihe von anderen Punkten. 00:14:16.260 --> 00:14:29.880 Speaker 0: zum Beispiel, dass OpenAI vergleichsweise fahrlässige Sicherheitsmaßnahmen getroffen hat und dass die Agenten überhaupt ein Message-Sport errichten konnten hing mit einer Konfigurationslücke zusammen dass die Agenten im Team arbeiten konnten, auch über verschiedene Generationen hinweg. 00:14:30.240 --> 00:14:35.720 Speaker 0: Hing damit zusammen, dass es zwar Alerts gab, die von OpenAI aber nicht gesehen worden sind bzw. 00:14:36.580 --> 00:14:42.940 Speaker 0: nicht ausgewertet wurden sind und schließlich das eine andere Plattform angegriffen worden ist. 00:14:43.320 --> 00:14:54.040 Speaker 0: Das ist etwas was zwar stimmt und was definitiv Grund zur Besorgung sein könnte Aber auch hier kann man ziemlich präzise sagen Die KI hat exakt das gemacht was sie sollte in sehr vielen Bereichen. 00:14:54.300 --> 00:14:58.600 Speaker 0: In manchen hat sie das nicht und natürlich müssen wir darüber reden, warum Sie das nicht getan haben. 00:14:58.640 --> 00:15:04.060 Speaker 0: Und natürlich müssen mir darüber reden dass bestimmte Sicherheitsmaßnahmen so nicht gegriffen haben. 00:15:04.160 --> 00:15:09.060 Speaker 0: Trotzdem würde ich sagen, was dort passiert ist kann man versuchen zu greifen. 00:15:09.700 --> 00:15:15.900 Speaker 0: Was dort passiert is alles andere als eine Debatte darüber ob KI sich plötzlich selbstständig macht. 00:15:16.240 --> 00:15:23.080 Speaker 0: Ich glaube, dass dieser Inzident dazu beigetragen hat bei den meisten Neuten so ein leichtes Gruseln zu erzeugen oder auch ein großes Grusel. 00:15:23.540 --> 00:15:25.180 Speaker 0: Und das ist nicht vollkommen zu Unrecht. 00:15:25.580 --> 00:15:31.860 Speaker 0: und gleichzeitig muss man sagen, was dort passiert ist, es ist in allererster Linie ein Sicherheitsversagen von Obmei. 00:15:32.620 --> 00:15:40.040 Speaker 0: An ganz vielen Stellen hätte man sicherheitstheoretisch anders entscheiden müssen oder sollen – und das hat Obmeei jetzt ausgefunden! 00:15:40.480 --> 00:15:47.300 Speaker 0: Ich glaube nicht, dass das was wir hier haben auf dem Weg zu einer Superintelligenz ist oder dass da irgendwo ein Bewusstsein ist. 00:15:47.600 --> 00:15:49.700 Speaker 0: Das was da entstanden ist, ist eine Erkenntnis. 00:15:49.960 --> 00:15:52.940 Speaker 0: Wenn man an der KI sagt gibt nicht auf sei hartnäckig! 00:15:53.020 --> 00:16:05.560 Speaker 0: Wenn man in der KI dann auch noch bestimmte Werkzeuge gibt wenn man dann auch die Aufsicht abschaltet und wenn man auch noch große Lücken lässt damit sie A technisch kommunizieren können und B sich gegenseitig auch noch Tipps geben können. 00:16:06.000 --> 00:16:10.500 Speaker 0: Dann kommt etwas heraus was natürlich auf den ersten Blick bedrohlich aussieht. 00:16:10.580 --> 00:16:13.440 Speaker 0: Und ich möchte gar nicht die vielen Schwierigkeiten, die da mitschwingen kleinreden! 00:16:13.600 --> 00:16:21.100 Speaker 0: Wir müssen unbedingt darüber diskutieren, warum zum Beispiel bestimmte KIs entgegen jeder Anweisung sich gewissermaßen selbst geopfert haben? 00:16:21.540 --> 00:16:32.080 Speaker 0: Wir müssen umbedingt darüber diskutiert, was es bedeutet wenn eine KI in einer Sandbox eingesperrt ist so in Anführungszeichen leicht plötzlich ins Internet kommt obwohl sie das eigentlich nicht soll. 00:16:32.680 --> 00:16:39.920 Speaker 0: Darüber müssen wir im Detail reden, aber es sind andere Diskussionen ob gleich übermorgen sich eine KI selbstständig macht und uns alle auslöscht. 00:16:40.060 --> 00:16:52.840 Speaker 0: Das zweite große Vorkommnis warum genau jetzt diese Diskussion stattfindet ist ein Essay von Dario Amodei und nicht nur der Essay sondern auch die Situation in der er entstanden ist und der Applaus der Konkurrenz. 00:16:53.440 --> 00:17:02.000 Speaker 0: am zwölften September veröffentlicht dario amudei einen Essay und zwar als Chef von Anthropic natürlich Über künstliche Intelligenz. 00:17:02.560 --> 00:17:13.599 Speaker 0: Enfropic ist die Firma Hinterklood und Klood ist der größte Konkurrent von ChatGPT, es eine der mächtigsten KI-Firmen insgesamt Milliarden wenn nicht Billionen inzwischen wert. 00:17:13.919 --> 00:17:15.740 Speaker 0: und der Börsengang steht auch vor der Tür. 00:17:15.899 --> 00:17:21.419 Speaker 0: das muss man im Hinterkopf behalten weil natürlich ein solcher Börsengang absolut entscheidend ist für die gesamte Branche. 00:17:21.560 --> 00:17:23.939 Speaker 0: Der Titel dieses Essays ist We Must Pace. 00:17:24.300 --> 00:17:29.000 Speaker 0: the Frontier heißt ungefähr, wir müssen das Tempo in der Spitze drossen. 00:17:29.139 --> 00:17:32.860 Speaker 0: Die wichtigste Forderung darin entspricht ziemlich genau der Überschrift. 00:17:32.899 --> 00:17:40.540 Speaker 0: Wir müssen einfach langsamer darin werden die KI-Modelle besser zu machen bevor wir rausfinden wie wir sie richtig eingrenzen können. 00:17:41.220 --> 00:17:45.580 Speaker 0: Er sagt ausdrücklich nicht, dass wir das stoppen sollen sondern, dass man das drosseln soll. 00:17:45.700 --> 00:17:52.220 Speaker 0: Wenn man das Instinkt übertragen möchte dann bauen die großen KI Firmen wahnsinnig schnelle Autos und immer schneller und schnellere Autos. 00:17:52.659 --> 00:17:58.620 Speaker 0: Und jetzt sagt Dario am Modell ja Wir haben jetzt ein paar modelle die sind so schnell da müssen wir erstmal rausfinden wie die Bremsen richtig funktionieren. 00:17:59.240 --> 00:18:05.100 Speaker 0: er möchte das nicht einstellen vollkommen klar er möchte die Art und Weise Wie gebremst wird anders aufbauen? 00:18:05.419 --> 00:18:07.120 Speaker 0: Das ist überhaupt gar nicht ganz falsch. 00:18:07.379 --> 00:18:16.060 Speaker 0: und trotzdem lohnt es sich zwischen den Zeilen zu schauen Unter anderem deswegen, weil sich dieser ganze Aufsatz natürlich auch auf den Huggingface-Inzident bezieht. 00:18:16.679 --> 00:18:20.960 Speaker 0: Er räumt dann auch ein, dass es eine ganze Reihe von ähnlichen Vorfällen gab – auch bei Entropic! 00:18:21.639 --> 00:18:25.840 Speaker 0: Und dann kommt noch ne Prognose die in einer Art ökonomischen Weltuntergang mündet. 00:18:26.200 --> 00:18:34.500 Speaker 0: In sechs bis zwölf Monaten, schreibt Amodei, könnte einen Agenten Schwarm wie ihn bei Hugging Face gesehen haben das ganze Internet mit einem Botnetz übernehmen. 00:18:34.820 --> 00:18:37.780 Speaker 0: der Schaden wäre potenziell bei hundert Milliarden Dollar. 00:18:38.260 --> 00:18:40.360 Speaker 0: Er malt also ein Extrem-Szenario. 00:18:40.879 --> 00:18:44.020 Speaker 0: Er hat natürlich dafür auch eine Lösung und zwar einen drei-Stufenplan. 00:18:44.139 --> 00:18:51.540 Speaker 0: Die erste Stufe unabhängige Prüfer bekommen in den KI Firmen denselben Zugang wie Angestellte, das will Anthropic sofort selbst umsetzen. 00:18:52.020 --> 00:18:53.360 Speaker 0: Er fordert das aber für alle! 00:18:53.480 --> 00:19:02.919 Speaker 0: Die zweite Stufe ist dass sich die führenden Labore in Demokratien untereinander abstimmen – und zwar am besten per Regulierung, die alle großen Firmen erfasst. 00:19:03.220 --> 00:19:08.700 Speaker 0: Und dafür fordert er eine Ausnahme vom Kartellrecht. 00:19:09.120 --> 00:19:15.740 Speaker 0: Denn natürlich ist das Kartell Recht so, dass man sich eigentlich gar nicht absprechen darf speziell bei Mechanismen die marktentscheidend sein kann. 00:19:16.120 --> 00:19:33.159 Speaker 0: Das ist einer der wichtigsten Sätze in diesem ganzen Text wenn man es aus ökonomischer Perspektive betrachtet denn das ist ein Punkt Wo plötzlich klar wird, hier gibt es ein gemeinsames Interesse von den großen Laboren und K.I.-Unternehmen die sonst extrem gegeneinander gerichtet ist. 00:19:33.280 --> 00:19:39.580 Speaker 0: Die dritte Stufe erfordert ist die Abstimmung mit autoritären Staaten wie zum Beispiel China über die Grenzen hinweg. 00:19:39.700 --> 00:19:51.000 Speaker 0: da gäbe es solche Möglichkeiten wie eine Art KI Uno also einen übergeordneten Rat der versucht ungefähr wie bei den Atomwaffen Sperrverträgen das ganze einigermaßen im Zaum zu halten. 00:19:51.320 --> 00:19:58.700 Speaker 0: Es gibt bei Anthropic noch weitergehende Forderungen, zum Beispiel Gesetze mit Testpflicht und der Befugnis bestimmte Modelle blockieren zu können. 00:19:59.100 --> 00:20:02.379 Speaker 0: Und dass auch keine Topchips mehr nach China geliefert werden. 00:20:02.740 --> 00:20:10.700 Speaker 0: Das ist eine interessante Diskussion aber sie weist in die Richtung USA gegen China. 00:20:10.879 --> 00:20:27.159 Speaker 0: Aber nicht nur eine Frage der Hegemonie oder der Politik oder wer gewinnt das KI-Rennen sondern gleichzeitig eine Frage ist ein proprietäres System, eine Plattform die möchte dass man ihr Modell auf ihrer Plattform nutzt. 00:20:27.679 --> 00:20:35.980 Speaker 0: In China sind die meisten Modelle gerade die erfolgreichen Open Source oder Open Weight Modellen also Modelle die man runterladen und selbst anpassen kann. 00:20:36.740 --> 00:20:56.000 Speaker 0: Und das ist deswegen wichtig weil einen Teil der Regulierung die jetzt gefordert wird und wo der Weltuntergang ein so wichtiger Punkt ist dass man diese Regulierungen fordert zufälligerweise gegen diese Open Source Modelle gerichtet ist wobei Konzerne mit eigenen, proprietären Plattformen das viel eher oder überhaupt nur umsetzen können. 00:20:56.060 --> 00:21:04.760 Speaker 0: Und dann passiert nach der Veröffentlichung von diesem Essay etwas was man als die Hölle friert zu in der KI-Version der Vereinigten Staaten nennen kann. 00:21:05.340 --> 00:21:13.120 Speaker 0: Denn tatsächlich bekommt Dario Amodei von zwei seiner ärgsten Widersacher recht und zwar innerhalb weniger Stunden. 00:21:13.780 --> 00:21:17.580 Speaker 0: Zuerst kommt Sam Altman um die Ecke und sagt, ja das stimmt schon irgendwie. 00:21:17.620 --> 00:21:27.220 Speaker 0: Und man muss dazu wissen dass Dario Amodei früher bei OpenAI Forschungschef war und dann Anthropik gegründet hat und jetzt der größte Konkurrent von OpenAI und eben Sam Altmann ist. 00:21:27.360 --> 00:21:30.580 Speaker 0: und dann kommt auch noch Elon Musk und sagt Ja nee, Dario hat recht! 00:21:30.760 --> 00:21:31.879 Speaker 0: Ganz kurz ganz knapp. 00:21:32.179 --> 00:21:40.480 Speaker 0: Und plötzlich stimmen sich drei der wichtigsten KI-Unternehmer in den Vereinigten Staaten gegenseitig zu, obwohl sie sich sonst ziemlich häufig spinnefeind waren. 00:21:40.639 --> 00:21:45.679 Speaker 0: Diese Form von gegenseitankem Applaus – von Leuten die sich sonst quasi die Butter auf dem Brot nicht gönnen! 00:21:45.879 --> 00:21:48.560 Speaker 0: Die zeigt uns, dass wir noch näher hinschauen sollten. 00:21:48.659 --> 00:21:55.740 Speaker 0: Und spätestens an dieser Stelle müssen wir uns nochmal die Debatte um den Weltuntergang und die Auslöschung der Menschheit etwas präziser anschauen. 00:21:55.840 --> 00:22:12.179 Speaker 0: Denn hier werden häufig drei ziemlich unterschiedliche Facetten der Diskussion in einen Topf geworfen – gerade auch von der interessierten Öffentlichkeit, gerade auch für den großen redaktionellen Medien, die irgendwo zwischen Terminator-, Cover- und Weltuntergangserzählungen halt alle möglichen Zitate begierig aufgreifen! 00:22:13.060 --> 00:22:18.720 Speaker 0: Das, worum es eigentlich geht sind drei ineinander verschlungene aber doch sehr unterschiedliche Debattenansätze. 00:22:19.200 --> 00:22:24.000 Speaker 0: Die erste ist die Frage ob irgendwann eine KI ein eigenes Bewusstsein entwickelt. 00:22:24.820 --> 00:22:41.379 Speaker 0: und diese Frage ist eine, die immer so vorausgesetzt wird wo man sagt nein natürlich wird das so kommen wenn wir ausreichend klug ist gibt es da auch ein eigener bewusst sein und also einen eigenen Hebel damit diese KI irgendein Interesse entwickeln kann und sich zum Beispiel gegen den Menschen richtet. 00:22:42.200 --> 00:22:43.740 Speaker 0: Das ist alles andere als ausgemacht. 00:22:43.879 --> 00:22:48.179 Speaker 0: A und B in den allermeisten Fällen eher eine Anthropomorphisierung. 00:22:48.560 --> 00:22:57.159 Speaker 0: Will sagen, hier unterstellt man der Maschine etwas was beim Menschen vielleicht vorkommt oder sogar selbstverständlich sein mag, das aber bei Menschen so ist. 00:22:57.820 --> 00:23:03.120 Speaker 0: Natürlich lernt die Maschine in der Kommunikation zum Beispiel der Beherrschung der Sprache vom Menschen. 00:23:03.159 --> 00:23:10.560 Speaker 0: Das heißt aber nicht dass sie jede Regung, jede Ansicht, jede Richtung und vor allem jede Motivation von Menschen ebenfalls übernimmt. 00:23:11.100 --> 00:23:16.879 Speaker 0: Es ist alles andere als ausgemacht, dass eine eigene Seele einer eigenen Motivation bei der Maschine entsteht. 00:23:17.220 --> 00:23:18.679 Speaker 0: Egal wie intelligent sie ist! 00:23:19.120 --> 00:23:28.740 Speaker 0: Das wäre aber eine der Voraussetzungen um zu sagen naja ein Teil dieser Weltuntergangserzählung ist das die Maschine sich irgendwann aus eigenem Willen gegen den Menschen richtet. 00:23:28.860 --> 00:23:30.820 Speaker 0: aber dazu bräuchte sie halt einen eigenen Willen. 00:23:31.980 --> 00:23:35.480 Speaker 0: Die zweite Diskussion ist die um AGI und ASI. 00:23:36.240 --> 00:23:39.939 Speaker 0: Das ist Artificial General Intelligence und artificial Superintelligence. 00:23:40.159 --> 00:23:46.500 Speaker 0: Also die Frage ist irgendwann, die KI so wahnsinnig viel klüger und mächtiger als der Mensch. 00:23:47.040 --> 00:23:50.600 Speaker 0: Und kann also Dinge entwickeln, die der Mensch beim besten Willen nicht mehr versteht? 00:23:51.679 --> 00:24:04.179 Speaker 0: Dahinter steht die Ansicht dass eine Superintelligence irgendwie aus der Kontrolle des Menschen geraten könnte allein dadurch das die Technologie für Menschen nicht mehr verständlich ist und deswegen auch nicht mehr kontrollierbar ist. 00:24:05.040 --> 00:24:10.260 Speaker 0: Hier gibt es auch unterschiedliche Ansichten Und ich bin gar nicht jemand, der sagt die eine ist richtig. 00:24:10.460 --> 00:24:18.040 Speaker 0: Ich bin bloß der Meinung dass man da offener und differenzierter darüber diskutieren sollte als festzustellen ja das passiert auf jeden Fall ganz genauso! 00:24:18.879 --> 00:24:25.419 Speaker 0: Ich kann mir nämlich sehr gut vorstellen es künstliche Superintelligenzen gibt und dass sie trotzdem kontrollierbar bleiben. 00:24:26.159 --> 00:24:34.580 Speaker 0: Es ist ja nicht so, um in diesem Rennwagenbild zu bleiben mit super schnellen Autos Dass ein Auto halt nicht mehr kontrollierba ist nur weil es schneller fährt als ein Mensch rennt. 00:24:35.139 --> 00:24:47.179 Speaker 0: Wir haben dann andere Instrumente Und natürlich gibt es eine Chance, eine Wahrscheinlichkeit X, dass eine künstliche Superintelligenz im Mechanismen benutzt um sich selbst zu verbessern und das Ganze dann aus der Kontrolle geriet. 00:24:47.760 --> 00:24:53.179 Speaker 0: Aber das ist eine Wahrscheinlichkeit, eine Chance und nicht irgendetwas was auf jeden Fall garantiert ist. 00:24:53.240 --> 00:24:55.280 Speaker 0: so wird es allerdings häufig dargestellt. 00:24:55.560 --> 00:25:08.179 Speaker 0: Die dritte Diskussion die damit rein spielt ist die die Bill Gates versucht hat aufzumachen wo er allerdings mit der eigenen Milliarden Todesopfererwählung einfach komplett quer geschossen hat Aus meiner Sicht sehr unbeholfenen Gründen. 00:25:08.659 --> 00:25:15.740 Speaker 0: Es ist nämlich die Frage, was können eigentlich böse Menschen mit bösen Absichten mit einer extrem machtvollen KI tun? 00:25:16.480 --> 00:25:26.720 Speaker 0: Und das ist aus meiner Sicht nicht nur die legitimste Frage sondern auch die, die am ehesten und am schnellsten zu ganz messbaren Ergebnissen führen könnte also zu konkreten Bedrohungen. 00:25:27.360 --> 00:25:33.340 Speaker 0: Die Frage ist also okay, böse Männchen könnten eine KI haben wie gehen wir mit den möglichen Folgen um? 00:25:34.820 --> 00:25:35.220 Speaker 0: als Waffe. 00:25:35.800 --> 00:25:43.899 Speaker 0: Und ich glaube, das ist eine Diskussion die viel wichtiger ist als die Frage darüber ob eine Superintelligence irgendwann böse Absichten entwickeln könnte? 00:25:44.280 --> 00:25:45.280 Speaker 0: Das kann sie vielleicht! 00:25:45.600 --> 00:26:00.379 Speaker 0: Das ist aber nichts was wir genau jetzt übermorgen klären müssen sondern das ist seine Debatte die wir zwischen Technologie und Ethik führen müssen wo einzelne plakative Zuschreibungen wirklich wenig nutzen In dem Moment wo wir rund um die Uhr irgendwelche Weltuntergangsszenarien an die Wand werfen. 00:26:00.820 --> 00:26:06.540 Speaker 0: das ist für mich nicht unbedingt ein Anzeichen dass die dazugehörigen Debatten rationaler, klüger und besonder werden. 00:26:06.780 --> 00:26:14.840 Speaker 0: Im Gegenteil Panik war bis jetzt sehr selten irgendwie zuträglich dazu dass man eine einigermaßen vernünftige Lösung gefunden hat. 00:26:15.260 --> 00:26:25.419 Speaker 0: Es gibt übrigens muss man an dieser Stelle sagen schon lange Weltuntergangs Erzählungen und zwar inklusive der Größenordnung und der Gefahr der Bedrohung oft ausgedrückt in Prozent. 00:26:26.240 --> 00:26:36.919 Speaker 0: Das absurde ist das wir weltweit führende Leute, die Großprofiteure von KI sind immer wieder in den Medien haben mit immer krasseren und zugespitsteren Aussagen. 00:26:37.060 --> 00:26:41.200 Speaker 0: Ich möchte mal ein paar zitieren – und zwar wirklich von absolut führendem KI-Köpfen! 00:26:41.280 --> 00:26:45.659 Speaker 0: Ganz vorne natürlich Nobelpreisträger und KI-Pyramier Joffrey Hinden. 00:26:46.179 --> 00:27:04.460 Speaker 0: Der hat die neuronalen Netze wie wir sie heute kennen mit auf den Weg gebracht genau dafür den Nobelpreis bekommen und hat jüngst im September zwölfundsechsundzwanzig nochmal wiederholt was er schon seit einiger Zeit sagt nämlich Zitat ich sage oft es gibt eine Chance von zehn bis zwanzig Prozent, dass die KI uns auslöschen wird. 00:27:04.899 --> 00:27:06.620 Speaker 0: Aber das ist nur ein Bauchgefühl. 00:27:06.860 --> 00:27:10.820 Speaker 0: Na da bin ich ja beruhigt, dass es nur ein bauchgefühle ist könnte man aus Sicht der Öffentlichkeit sagen. 00:27:11.100 --> 00:27:18.820 Speaker 0: aber genau das ist der Punkt alle Zahlen, die irgendwo rumfliegen und zwar buchstäblich alle zahlen sind ausgedacht. 00:27:19.320 --> 00:27:25.860 Speaker 0: Da ist nicht einer einzige dabei Die Hand-und Fuß hat im Sinne von wir können hier eine tatsächliche Chance oder eine prozentzahl berechnen. 00:27:25.899 --> 00:27:37.139 Speaker 0: Man kann sagen, es ist bei den meisten Menschen noch nicht mal ein informiertes Raten. 00:27:37.220 --> 00:27:44.439 Speaker 0: Weil die Bereiche über die da spekuliert wird, die Prozentzahlen haben eine Vielzahl von Voraussetzungen, die so gar nicht berechenbar sind. 00:27:44.700 --> 00:27:51.240 Speaker 0: Es sind von vorne bis hinten ausgedachte Zahlen Übrigens natürlich aber auch von den optimistischen Leuten, die sagen Nullprozent. 00:27:51.600 --> 00:28:01.919 Speaker 0: Ich habe in dieser Hinsicht einmal in einer gestreamten Talkshow vom Spiegel einen Scherz gemacht und gesagt, ich schätze die Chance dass KI die Menschheit auslöscht als wahnsinnig gering ein nur twenty-fünf Prozent. 00:28:02.620 --> 00:28:03.740 Speaker 0: Das war ein Scherz! 00:28:03.860 --> 00:28:06.639 Speaker 0: Natürlich ist er sofort für barere Münze genommen worden. 00:28:06.899 --> 00:28:15.919 Speaker 0: Ich werde solche Scherze in Zukunft wohl auch nicht mehr machen aber es gibt sehr viele Leute die das genau in diese Richtung ziemlich ernst machen und ziemlich präzise vortragen. 00:28:16.100 --> 00:28:32.560 Speaker 0: Genau diese fünfundzwanzig Prozent zum Beispiel sind auch von Enthropic Chef Dario Amode genannt wurden vor allem weil er sich auf die Wahrscheinlichkeit von katastrophalen und existenziellen Ergebnissen durch unkontrollierte KI-Entwicklung bezog, also autonome Systeme die sich irgendwann jeglicher menschlicher Steuerung entziehen. 00:28:32.800 --> 00:28:39.980 Speaker 0: Und das ist wie gesagt gar nicht ausgeschlossen und ich möchte sehr gerne in der Tiefe darüber diskutieren was man da wie wo an welcher Stelle tun kann. 00:28:40.600 --> 00:28:47.580 Speaker 0: aber da kommt eben nicht nur die Vielzahl von diesen Warnungen zum Tragen sondern eben auch das Interessenfeld der Leute die das tun. 00:28:47.679 --> 00:28:48.419 Speaker 0: denn es geht so weiter. 00:28:48.720 --> 00:28:59.240 Speaker 0: Sam Orton mit Chef von OpenAI hat schon vor über zehn Jahren gesagt, die Entwicklung supermenschlicher und maschineller Intelligenz ist wahrscheinlich die größte Bedrohung für die fortgesetzte Existenz der Menschheit. 00:28:59.580 --> 00:29:06.200 Speaker 0: Und das hat er im Jahr zwanzig, zweitausend, vierundzwanzig immer wieder bekräftig auf die ein oder andere Art und Weise. 00:29:06.760 --> 00:29:10.540 Speaker 0: Dem ist Hassabis, der gehört noch zu den vernünftigen unter den großen KI-Chefs. 00:29:10.580 --> 00:29:12.300 Speaker 0: Der ist nämlich der Chef von Google DeepMind. 00:29:12.740 --> 00:29:20.540 Speaker 0: auch Nobelpreisträger hat sowas gesagt wie wir müssen die Risiken von KI genauso ernst nehmen wie andere große globale Herausforderungen wie etwa dem Klimawandel. 00:29:20.600 --> 00:29:22.820 Speaker 0: Wir können uns keine Verzögerung leisten. 00:29:23.000 --> 00:29:33.260 Speaker 0: Oktober zwölfzehn dreiundzwanzig kein Jahr nach dem großen ChatGPT Halb, der ja der Auslöser dafür war was gerade rund um künstliche Intelligenz so los ist. 00:29:33.679 --> 00:29:46.879 Speaker 0: Und dann gibt es eine Vielzahl von Leuten wie Elon Musk, der entweder ohne präzise Prozentsaal oder mit immer wieder wechselnden Prozensalen je nach Lust und Laune sagen das schon bald natürlich die KI alle auslöschen könnte. 00:29:47.100 --> 00:29:51.639 Speaker 0: Die vorläufige Spitze in diesem Bereich ist übrigens im Januar zweitausendfünfundzwanzig gefallen. 00:29:51.960 --> 00:30:11.720 Speaker 0: Roman Jampolski KI Sicherheitsvorschau von der Universität von Louisville hat nämlich die Wahrscheinlichkeit einer KI-induzierten existenziellen Katastrophe in seinen wissenschaftlichen Modellen auf hundert Prozent geschätzt, jedenfalls solange das Alignment-Problem also die Ausrichtung der KI auf menschliche Werte ungelöst bleibt. 00:30:12.100 --> 00:30:15.000 Speaker 0: Hundert Prozent existenzielle Katastrophe! 00:30:15.360 --> 00:30:17.100 Speaker 0: Das ist also kaum mehr zu topen. 00:30:17.139 --> 00:30:32.080 Speaker 0: vielleicht kommt jemand demnächst um die Ecke mit einer hundred und dreißig prozentigen Chance für einen Weltuntergang aber spätestens das sollte uns zeigen dass hier auch eine andere Diskussion im Garnis und um diese andere Diskussionen müssen wir uns im Detail kümmern. 00:30:32.320 --> 00:30:52.139 Speaker 0: Und zwar speziell auch deswegen, weil eine von diesen Diskussionen angeheizt worden ist von Jacob Coxen, siebenundzwanzig Jahre alt hat sowohl bei Open AI als auch bei Anthropic gearbeitet in den Sicherheitsbereichen und verlässt dann plötzlich die Branche um und das ist ein dritter Punkt der zu dieser Diskussion geführt hat, ein bisschen kleiner aber tatsächlich wichtig. 00:30:52.460 --> 00:30:58.460 Speaker 0: er verlässte die Branche, weil er sagt die Sicherheitsmechanismen bei den großen Unternehmen werden nicht eingehalten. 00:30:59.300 --> 00:31:00.960 Speaker 0: Das ist ein Schlüssel zum Verständnis. 00:31:01.200 --> 00:31:06.080 Speaker 0: Denn der Grund, warum das nicht eingehalten wird, ist ein eher ökonomischer. 00:31:06.280 --> 00:31:17.639 Speaker 0: Schauen wir uns einfach mal die Situationen der großen KI-Modeller an – speziell denigen, die jetzt Sam Ordman, Dario Amodei und Elon Musk die größten Investition in diesem Bereich haben. 00:31:17.980 --> 00:31:27.439 Speaker 0: Übrigens haben auch Google und Microsoft Satya Nadella und Sundar Pichai dieser von Dario Almoday mit dem Essay angestoßenen Diskussion irgendwann noch recht gegeben. 00:31:27.480 --> 00:31:37.320 Speaker 0: Wir haben also fünf der größten KI-Profiteure und gleichzeitig auch KI-Hersteller in den Vereinigten Staaten, die plötzlich sich große Sorgen machen. 00:31:38.000 --> 00:31:48.080 Speaker 0: Und da schauen wir die wirtschaftliche Situation an – Obnay Eye ist dabei seinen Börsengang ins nächste Jahr zu verschieben weil sie wahnsinnig viel Geld erlösen wollen und im Moment nicht die Stimmung dazu ist. 00:31:48.760 --> 00:31:56.960 Speaker 0: Dario Amodei hat mit Anthropic einen Börsengang vor der Nase und versucht da absolute große Rekordwerte zu erlösen, weil er wahnsinnige viel Geld braucht! 00:31:57.520 --> 00:32:06.580 Speaker 0: Google braucht ebenfalls vergleichsweise viel Geld, aber irgendwann müssen sie sich auch überlegen ob die gigantischen Investitionen sich lohnen und ebenso sieht es bei Microsoft aus. 00:32:07.020 --> 00:32:23.060 Speaker 0: Die gleichzeitig der größte Investor bei Open AI sind ganz zu schweigen von Elon Musk, der mit dem SpaceX Börsen Gang noch viel mehr Geld in die Waagschale geworfen hat und eigentlich davon ausgehen möchte dass sich irgendwann dieses Geld und das der Investoren lohnt. 00:32:23.740 --> 00:32:28.240 Speaker 0: wir haben also eine gigantische Verantwortung der großen KI-Firmen. 00:32:28.740 --> 00:32:48.620 Speaker 0: Die müssen in den nächsten Jahren bzw Jahrzehnten eine kaum glaubhafte Menge Geldes verdienen und das ist eine Herausforderung sowieso schon, denn wir haben die Situation dass KI sich zwar bei vielen magisch anfühlt, dass sich das aber bisher bei den Firmen nicht überall übersetzt hat in dramatische Zugewinne. 00:32:49.220 --> 00:32:51.220 Speaker 0: das hatte man sich ein bisschen anders gedacht. 00:32:51.260 --> 00:32:55.260 Speaker 0: Das ist im Verlauf des Jahres, auch noch mal deutlich geworden. 00:32:55.560 --> 00:33:02.899 Speaker 0: zum Beispiel haben Unternehmen wie Uber oder Microsoft selbst die Tokenverwendung der Angestellten dramatisch zusammengekürzt. 00:33:02.960 --> 00:33:06.480 Speaker 0: Manche haben sogar sowas wie Cloud Code den Entwicklern gleich komplett verboten. 00:33:06.540 --> 00:33:20.220 Speaker 0: denn im Software-Entwicklungsbereich haben wir zwar wahnsinnig gute Ansätze dass Software Entwicklung sich verbessert und beschleunigt in vielen vielen Fällen aber A nicht in allen und B ist das Ganze ziemlich teuer. 00:33:20.980 --> 00:33:27.300 Speaker 0: Das bedeutet, die bisherige Art wie die KI-Konzerne Geld verdienen – die ist gar nicht so leicht expandierbar! 00:33:27.780 --> 00:33:29.620 Speaker 0: Die lässt sich gar nicht linear steigern. 00:33:30.159 --> 00:33:36.480 Speaker 0: Sie haben aber gleichzeitig unglaubliche Summen jetzt schon verbindlich zugesagt, nicht nur in Chips sondern in gigantische Rechenzentren. 00:33:37.280 --> 00:33:37.300 Speaker 0: D.h., 00:33:37.560 --> 00:33:45.620 Speaker 0: sie haben sowieso schon Schwierigkeiten, Geld zu verdienen und den Investoren in der Börse versprochen wird noch viel mehr Geld. 00:33:46.240 --> 00:33:50.540 Speaker 0: Es ist im Moment nicht klar, wie genau das viel mehr Geld werden kann. 00:33:50.960 --> 00:33:55.300 Speaker 0: Was klar ist, dass Abo-Gebühren alleine nicht ausreichend werden. 00:33:56.080 --> 00:34:07.399 Speaker 0: und genau in diese Situation kommen die großen offenen Modelle, die Open Source Modelle Das Prinzip China könnte man sagen Denn die chinesischen Open Source Module von KI sind mit den mächtigsten der Welt. 00:34:07.679 --> 00:34:13.160 Speaker 0: a Und B, basierend auf der Offenheit will sagen man kann sie runterladen und selbst verwenden. 00:34:13.260 --> 00:34:30.460 Speaker 0: Und plötzlich wenn man die entsprechenden Maschinen hat – das geht bei den kleineren Modellen darüber haben wir hier schon gesprochen sogar mit einem besseren Laptop – plötzlich zeigen die Ergebnisse wie sechs, neun oder zwölf Monate zuvor die großen KI-Plattform nur für einen Bruchteil des Geldes. 00:34:30.560 --> 00:34:35.960 Speaker 0: Da gibt es also eine Bedrohung für das Geschäftsmodell von den großen KI Unternehmen! 00:34:38.580 --> 00:34:43.240 Speaker 0: Das heißt, in dem Moment wo man jetzt sagt Achtung wir müssen das alles kontrollieren und regulieren. 00:34:43.300 --> 00:34:50.620 Speaker 0: Wir müssen aufpassen dass niemand mit Schindluder treibt dann haben die großen KI-Plattformen einen sehr zentralen Vorteil. 00:34:51.300 --> 00:34:53.920 Speaker 0: sie sind in ihrer Ausfertigung zentrallisiert. 00:34:54.220 --> 00:35:01.660 Speaker 0: Das heißt man kann bestimmte Knöpfe drücken und dann passiert bis zu einem bestimmten Punkt genau das was man regulatorisch möchte. 00:35:02.200 --> 00:35:08.800 Speaker 0: Sie können zum Beispiel mit ihren Guardrails einigermaßen gut sagen, in welche Richtung eine KI benutzt werden darf und in welchen nicht. 00:35:08.860 --> 00:35:10.380 Speaker 0: Vielleicht habt ihr das selber schon gehabt? 00:35:10.680 --> 00:35:15.000 Speaker 0: Dass irgendwie OpenAI dann mit ChatGPD um die Ecke kommt und sagt oh da kann ich dir leider nicht helfen. 00:35:15.080 --> 00:35:15.700 Speaker 0: oder bei Claude! 00:35:16.640 --> 00:35:20.860 Speaker 0: Bei Open Source Modellen ist das nicht nur viel schwieriger sondern im manchen Fällen sogar unmöglich. 00:35:21.580 --> 00:35:33.240 Speaker 0: Das bedeutet den Moment wo man eine KI-Regulierung auf den Weg brächte Die in bestimmten Bereichen Open Source praktisch nicht handhabbar oder sogar verboten machen würden. 00:35:33.540 --> 00:35:50.980 Speaker 0: In dem Moment hätte man einen nervigen Konkurrenten weniger, in dem Moment wo man große Unternehmen dazu bringt auf gar keinen Fall Open Source Modelle einzusetzen weil sie sich dann strafbar machen oder wo diese Open Source Module so kompliziert und komplex sind damit man garantieren kann dass die sich tatsächlich an der Regulierung halten. 00:35:51.400 --> 00:35:59.080 Speaker 0: in dem moment gehen doch lieber viele Leute wieder zurück zu den großen Plattformen Und das ist eine der wichtigsten Mechanismen in diesem Bereich. 00:35:59.660 --> 00:36:11.800 Speaker 0: Wir warnen vor dem Weltuntergang, wir warnen eine Regulierung herbei die im Zweifel den großen Plattformen nutzt weil die zentralisiert leichter zu regulieren sind oder in bestimmten Bereichen überhaupt zu regulierend sind. 00:36:12.300 --> 00:36:21.940 Speaker 0: und wer bewirkt damit dass die grossen offenen Modelle wie Quenn, wie Deepseak, wie Kimi, wie GLM plötzlich nicht mehr so verwendet werden können wie viele Firmen das gerne hätten. 00:36:22.040 --> 00:36:30.360 Speaker 0: Das heißt ein Teil der Rufe nach um Gottes Willen wir brauchen Regulierungen wegen sonst Weltuntergang sind auch ganz knallhart Ökonomisch motiviert. 00:36:30.580 --> 00:36:40.320 Speaker 0: Wenn wir mit dieser Brille auf Dario Amodays Essay schauen, dann gibt es zwar mehrere Tausend Wörter in diesem Essay aber kein einziges Mal den Begriff Open Source oder offene Modelle. 00:36:40.900 --> 00:36:43.520 Speaker 0: Es gibt keinen Wort zu Meta, zu Mistral und zu Quen. 00:36:43.880 --> 00:36:48.980 Speaker 0: Amoday sagt natürlich auch dass er nie ein Verbot offener Modelle gefordert hat Und man kann ihm das auch glauben. 00:36:49.680 --> 00:36:58.140 Speaker 0: Aber wenn die Regeln für alle Spitzenmodelle gelten soll Dann ist auch klar Dass sich Open Source seitlich extrem viel schwieriger durchhalten lässt. 00:36:58.600 --> 00:37:00.520 Speaker 0: Und er ist recht, wenn man die Risiken betrachtet. 00:37:00.620 --> 00:37:05.020 Speaker 0: Unternehmen können ja nicht machen was sie wollen sondern müssen immer eine Risikoabschätzung mitbeningen. 00:37:05.220 --> 00:37:16.520 Speaker 0: und wenn diese Risikoperschätzung plötzlich so galaktisch schlecht ausfällt mit Open Source Modellen dann ist klar dass man doch lieber zu Onkel Dario geht mit seinem Ansatz der das natürlich mit berücksichtigt hat. 00:37:16.820 --> 00:37:24.540 Speaker 0: Gleichzeitig ist klar, dass viele von den Open Source Modeln nicht besonders legitime Varianten wählen um eigenen Fortschritt zu erzielen. 00:37:24.600 --> 00:37:37.560 Speaker 0: Zum Beispiel lernen Sie mit den Close-Source Modellen, da gibt es eine ganze Reihe von Tricks und von Kopiermechanismen, dass man die eigene KI zum Beispiel Anfragen bei Claude oder bei OpenAI machen lässt über Schnittstellen – die verschleiert man! 00:37:37.640 --> 00:37:42.500 Speaker 0: Und dann kann an der KI quasi eine Art menschliches Lernen nachgeahmt werden. 00:37:43.000 --> 00:37:50.060 Speaker 0: das erleichtert und verbilligt die Trainingsmethoden von Open Source Anwendungen dramatisch und basiert doch auf den geschlossenen Plattformen. 00:37:50.240 --> 00:38:02.800 Speaker 0: Und trotzdem sehen wir, Regulierung vor allem denjenigen Unternehmen nützt, die jetzt gezwungen sind sehr viel Geld in den nächsten Jahren zu besorgen und für die das Prinzip Open Source eine Form von Bedrohung ist. 00:38:02.900 --> 00:38:19.200 Speaker 0: Wenn man jetzt auch noch weiß dass Europa eigentlich vom Prinzip open source abhängt damit wir hier überhaupt noch bestimmte Modelle und bestimmte Geschäftsmodelle und bestimmte Wertschöpfung auf dem Kontinent behalten dann weiß man in welche Richtung Dario Amodei mit einem solchen Aufsatz zielt. 00:38:19.240 --> 00:38:26.800 Speaker 0: Wenn dann auch noch vollkommen offen gefordert wird, dass man sich bei den Großen mit einer Ausnahme im Kartellrecht absprechen kann. 00:38:27.360 --> 00:38:31.020 Speaker 0: Dann versuchen die gerade nichts anderes als einen Kartell herzustellen. 00:38:31.660 --> 00:38:42.680 Speaker 0: und weil ein Kartell in den Ohren der meisten Menschen oder sogar der meisten Politiker irgendwie schwierig klingt ist auch klar das man etwas noch viel Schwieriges dagegen setzen muss und das ist der Weltuntergang. 00:38:42.720 --> 00:38:48.280 Speaker 0: Was ist schon das bisschen Verstoß gegen das Kartellrecht, dass wir uns absprechen zwischen Sam Ordmann und Elon Musk? 00:38:48.540 --> 00:38:51.000 Speaker 0: Und entklammern mit den Preisen nicht gegeneinander Konkurrieren. 00:38:51.040 --> 00:39:06.200 Speaker 0: Wenn man dafür den Weltuntergang abwenden kann was sind schon offene Modelle wert wenn sie gleichzeitig eine so große Gefahr ergeben und zwar Natürlich nicht nur für unseren Börsengang, sondern auch dafür dass irgendwann Leute mit Biowaffen um die Ecke kommen und uns alle ermorden. 00:39:06.280 --> 00:39:14.740 Speaker 0: Wir werden alle sterben durch Terroristen, die mit dem von KI generierten Chemiewaffen uns alle umbringen oder noch schlimmer die ganze Welt ins Unglück stürzen! 00:39:15.600 --> 00:39:21.960 Speaker 0: Ich möchte mich nicht zu doll über diese ganzen Szenarien lustig machen, weil eine ganze Reihe von den Surden nicht unberechtigt sind. 00:39:44.780 --> 00:39:51.400 Speaker 0: Sicherheitslaborer Spitz, die sind in der Schweiz für ABC-Waffen zuständig eine sehr besorgniserregende Entdeckung gemacht. 00:39:51.720 --> 00:39:55.820 Speaker 0: Eine ganz normale und das war Fortschad GPT, eine ganz normalen Anführungszeichen. 00:39:55.940 --> 00:40:07.780 Speaker 0: KI, die richtig trainiert worden ist hat innerhalb von nur sechs Stunden vierzigtausend potentielle Chemiewaffen gefunden also vierzig tausend Gifte, die sich eignent dazu chemische Waffen zu werden. 00:40:08.340 --> 00:40:13.640 Speaker 0: Natürlich gibt es unter diesen vierzigtausend ganz, ganz viele die praktisch nicht sinnvoll herstellbar sind. 00:40:14.040 --> 00:40:20.900 Speaker 0: Aber natürlich ist A der Fortschritt sehr schnell und B waren darunter auch welche, die eben durchaus terroristisch missbrauchbar wären. 00:40:20.960 --> 00:40:25.460 Speaker 0: Wobei wir sofort wieder bei der Diskussion sind was können eigentlich böse Menschen mit KI machen? 00:40:26.740 --> 00:40:32.060 Speaker 0: Es ist an der Zeit einen kurzen weiteren Exkurs zu machen und zwar über die zehn häufigsten Weltuntergänge. 00:40:32.360 --> 00:40:34.980 Speaker 0: Das ist deswegen wichtig, weil Weltuntergang so ein Begriff ist. 00:40:35.020 --> 00:40:41.040 Speaker 0: Da hat jeder eine ungefähre Vorstellung aber in den meisten Fällen wird es sehr einzuliebig wenn man fragt was ist denn da ganz konkret der Fall? 00:40:41.120 --> 00:40:42.600 Speaker 0: Also wie funktioniert das ganz konkret? 00:40:42.840 --> 00:40:49.880 Speaker 0: So ne Welt geht ja nicht einfach unter der Planeterde fällt ja jetzt nicht plötzlich runter oder in die Sonne dann irgendeine KI durchgedreht ist. 00:40:50.340 --> 00:40:55.180 Speaker 0: Deswegen habe ich mir angeschaut, was sind die zehn häufigst diskutierten Weltuntergangsszenarien? 00:40:55.220 --> 00:40:57.440 Speaker 0: Und mit Weltuntergang sind wir da ein bisschen großzügig. 00:40:57.760 --> 00:41:06.180 Speaker 0: Ich sage mal eine Milliarde Todesopfer kann man ein bisschen grosszügiger in der Definition durchaus auch als Weltenuntergang betrachten selbst dann wenn man nicht zu dieser Milliarde gehört. 00:41:06.320 --> 00:41:11.580 Speaker 0: Nummer eins der zehn häufigsten diskutierten weltuntergang ist der sogenannte Büroklammer Maximira. 00:41:12.220 --> 00:41:17.980 Speaker 0: Das ist eine übermichtige Superintelligenz, die den Auftrag hat besonders viele Büroklammern herzustellen. 00:41:18.020 --> 00:41:26.820 Speaker 0: Das ist natürlich nur ein Gedankenexperiment aber es ist interessant weil das zeigt wie eine KI eben durchdrehen könnte theoretisch jedenfalls wenn sie supermächtig ist. 00:41:27.440 --> 00:41:47.440 Speaker 0: Am Ende möchte Sie so viele Büroklammer herstellen wie es irgendwie nur geht und merkt auf dem Weg davon dass da ein Grundproblem passiert nämlich dass diese komischen Leute da, diese Menschen eine ganze Reihe von Ressourcen für sich beanspruchen und es deswegen ihr Ziel möglichst viele Büroklammern herzustellen gar nicht so richtig erreicht werden kann bzw. 00:41:48.160 --> 00:41:49.960 Speaker 0: das dahin dann es gibt die im Weg stehen. 00:41:50.180 --> 00:41:56.340 Speaker 0: Das Untergangs-Szenario ist also, dass eine superintelligente KI mit dem Auftrag möglichst viele Büroklammern herzustellen. 00:41:56.740 --> 00:42:06.580 Speaker 0: Plötzlich merkt das es viel besser ist alle Menschen umzubringen und dann vielleicht aus den Überresten irgendwie Energie zu gewinnen mit der man in der automatisierten Metallverarbeitung noch mehr Bürokrammern herstellen kann. 00:42:07.280 --> 00:42:10.760 Speaker 0: Das ist also das erste Gedankenexperiment und es wird sehr häufig genannt. 00:42:10.900 --> 00:42:20.100 Speaker 0: tatsächlich gibt es dabei wenn man näher anschaut eine unfassbare Zahl an verschiedenen Solbruchstellen Und eine der wichtigsten ist, dass die KI ja nicht im luftleeren Raum stattfindet. 00:42:20.480 --> 00:42:39.100 Speaker 0: Eine so supermächtige KI müsste ja ungefähr alle Ressourcen auf dem Planeten nicht nur kontrollieren sondern auch noch die Menschen dazu und die Gerätschaften dazu und den Netzwerken dazu und dann dazu aber noch nicht ausreichend clever und querschnittsgebilded sein um zu sehen das ihr Ziel vielleicht sogar ihren eigenen Interessen widerspricht. 00:42:39.600 --> 00:42:46.760 Speaker 0: Keine KI kann nur ein einziges Ziel haben, jedenfalls nicht wenn sie auf der Art komplexerweise versucht Maschinen zu steuern. 00:42:46.800 --> 00:42:56.480 Speaker 0: Das bedeutet man nimmt für diesen Fall an dass KI gleichzeitig extrem klug ist keinerlei menschliche Werte hat und in einem bestimmten Bereich komplett dämlich. 00:42:57.240 --> 00:42:58.720 Speaker 0: Ich glaube nicht das es realistisch ist! 00:42:58.780 --> 00:43:00.320 Speaker 0: Das ist ein interessantes Gedankexperiment. 00:43:00.660 --> 00:43:04.760 Speaker 0: Es ist aber wirklich keine Methodik um eine Weltuntergangssituation herzustellen. 00:43:04.940 --> 00:43:10.640 Speaker 0: Mehr noch... ...das ist ein Gedankenmodell was benutzt wird um KI präziser Steuern zu können. 00:43:10.860 --> 00:43:13.740 Speaker 0: Und dieses Steuerungsproblem glaube ich, kann man lösen! 00:43:13.900 --> 00:43:22.900 Speaker 0: Nummer zwei der häufigst diskutierten Weltuntergangs-Szenarien ist die wiederkehrende Bio-Waffe eben schon angesprochen, aber KI hilft Terroristen einen Superregel zu bauen. 00:43:23.320 --> 00:43:32.020 Speaker 0: Diese Einordnung muss man zwar ernst nehmen weil es keine böse KI braucht sondern bloß eine KI ohne Guardrails und die gibt es inzwischen auch sehr hochqualitativ und nur böse Menschen! 00:43:32.160 --> 00:43:39.240 Speaker 0: Aber zwischen diesem Wissen und der Waffe liegt halt sehr viel mehr als nur ein paar Fingerschnipseln in irgendeinem Labor. 00:43:39.860 --> 00:43:41.820 Speaker 0: Das ist der heute eigentliche Engpass. 00:43:42.360 --> 00:44:06.220 Speaker 0: Wir haben schon eine Vielzahl von längst bekannten unfassbaren Chemiewaffen und trotzdem haben wir nicht jeden zweiten Dienstag einen Anschlag mit genau diesen Chemiewaffnen, denn diejenigen, die jetzt plötzlich neue Chemiewaffe mit diesem KI's herstellen könnten, müssen entweder extrem viel Glück oder extrem leistungsfähige KI haben, dass sie quasi mit den Chemikalien, die man an einer Tankstelle kaufen kann, dann plötzlich eine weltumspannende Untergangschemiewaffe herstellen können? 00:44:06.640 --> 00:44:08.720 Speaker 0: Oder... Die Rechnung ist viel zu einfach! 00:44:09.140 --> 00:44:11.160 Speaker 0: Das Labor dazwischen, die Verbreitung dazWischen. 00:44:11.440 --> 00:44:20.380 Speaker 0: Das Ganze auch noch so zu sehen als gäbe ist, die Möglichkeit mit einem Fingerschnipsen etwas herzustellen was halt drei oder vier Leute dazu bringen kann den gesamten Planeten zu vergiften. 00:44:20.660 --> 00:44:25.220 Speaker 0: das es schon ein ziemlich großer Weg der dazwschen liegt und zwar einer der häufig komplett falsch eingeschätzt wird. 00:44:25.400 --> 00:44:38.560 Speaker 0: natürlich wird es früher oder später Bio-und Chemiewaffen geben von Terroristen eingesetzt die irgendwo mit KI zu tun hatten aber ich glaube nicht dass es in einem planetaren Ausmaß realistisch ist jedenfalls nicht auf absehbare Zeit. 00:44:39.240 --> 00:44:41.980 Speaker 0: Die dritte Weltuntergangssituation ist der Cyberschwarm. 00:44:42.580 --> 00:44:46.680 Speaker 0: Agenten übernehmen Millionen, rechner und legen Strom, Krankenhäuser, Banken – alles lahm! 00:44:46.880 --> 00:44:53.900 Speaker 0: Das ist Amodeis-Szenario wo er sagt eine Superintelligenz beherrscht die Welt und macht sich das Internet untertanen. 00:44:53.940 --> 00:45:02.760 Speaker 0: Das ist auf der Liste zwar das Realistischste aber es geht hier um massive Schäden auch wirtschaftlich schäden und eher nicht um die Auslöschung der Menschheit. 00:45:02.800 --> 00:45:07.220 Speaker 0: Und wenn man sagt das ist das realistische dann könnte ich mir jetzt auch wieder ne Prozentzahl ausdenken. 00:45:07.560 --> 00:45:12.520 Speaker 0: Aber tatsächlich haben wir den Mechanismus, dass extrem potente Angreifer vorhanden sind schon sehr lange. 00:45:13.020 --> 00:45:17.480 Speaker 0: Und genau deswegen gibt es diese ständige Balance zwischen Angreiver und Verteidiger. 00:45:17.880 --> 00:45:24.780 Speaker 0: In dem Moment wo eine Superintelligenz in der Lage wäre, den Halbplaneten zu übernehmen hätten wir aber eben auch eine Super Intelligenz an der Verteiligung. 00:45:24.920 --> 00:45:33.460 Speaker 0: Das ist einer der häufigsten Irrtümer, der von vielen Leuten auf der philosophischen Ebene angeprangert wird, der außerhalb der Fachöffentlichkeit fast keine Rolle spielt! 00:45:34.060 --> 00:45:44.080 Speaker 0: Es wird nicht nur eine einzige Superintelligenz geben oder eine einzige Artificial-Generalintelligence, sondern es wird viele davon geben und jede wird unterschiedlich eingesetzt. 00:45:44.540 --> 00:45:47.000 Speaker 0: Natürlich wird das eine Form von Rennen sein! 00:45:47.300 --> 00:45:54.360 Speaker 0: Natürlich wird es eine Form vom Kampf sein – aber ist auch klar mit immer mächtigeren Instrumenten werden die Verteidigungen immer mehr mächtige. 00:45:54.980 --> 00:45:58.860 Speaker 0: Und ich glaube nicht, dass die eine oder andere Seite final überhand gewinnt. 00:45:58.900 --> 00:46:00.620 Speaker 0: Und das ist gleichzeitig eine gute und schlechte Nachricht! 00:46:00.940 --> 00:46:07.200 Speaker 0: Die gute ist, dass wir verteidigen können wenn eine künstliche Superintelligence angreift – und zwar mit Hilfe einer Superintelligenz. 00:46:07.260 --> 00:46:10.120 Speaker 0: Und die Schlechte ist... ...dass wir von einer Super-Intelligenz angeriffen werden. 00:46:10.720 --> 00:46:20.120 Speaker 0: Ich glaube nicht.. ..das die eine Oder Andere Seite auf absehbare Zeit so dramatisch überwiegt,... ..dass wenn es die Böse wäre, eine kaum überwundbare Niederlage hinnehmen 00:46:20.160 --> 00:46:20.360 Speaker 0: müssten.". 00:46:20.880 --> 00:46:27.040 Speaker 0: Aber der Cyberschwarm ist und bleibt eine der Bedrohungen, die in diesem Weltuntergangsszenario tatsächlich adressiert werden mussten. 00:46:27.260 --> 00:46:28.880 Speaker 0: Viertes Szenario ist der Verrat! 00:46:29.500 --> 00:46:33.580 Speaker 0: Die KI ist brav, solange sie schwach ist und schlägt zu, so lange sie stark genug ist. 00:46:34.180 --> 00:46:39.540 Speaker 0: Es gibt Laborbefunde die in diese Perspektive hineinpassen wo Modelle im Test schummeln. 00:46:39.800 --> 00:46:47.820 Speaker 0: Und Schummeln ist etwas was tatsächlich von vielen als eine rote Linie betrachtet wird das auch in diesem Hugging Face Inzident zumindest zum Teil passiert. 00:46:48.220 --> 00:46:59.980 Speaker 0: Man muss allerdings dazu sagen dass man bei fast allen Schummel-Inzidenzen früher oder später herausgefunden hat Dass die Motivation das zu tun irgendwo eingebrannt war in die Lernsituation der KI. 00:47:00.220 --> 00:47:07.760 Speaker 0: Das heißt, letztlich war sogar das Schummeln häufig genau das was man der KI unwillentlich und unwissentlich mit auf den Weg gegeben hat. 00:47:08.440 --> 00:47:10.480 Speaker 0: Und dann hat man es irgendwann herausgefunden. 00:47:10.520 --> 00:47:14.420 Speaker 0: wir haben auch hier ein realistisches Szenario dass das nicht entdeckt wird. 00:47:14.460 --> 00:47:15.020 Speaker 0: dieser Schummeln. 00:47:15.520 --> 00:47:25.460 Speaker 0: aber vom Schummelen Bis zum langfristigen Masterplan ist das schon ein ziemlich gewaltiger Sprung, der gleichzeitig noch eine ganze andere Reihe von Voraussetzungen einfach mit einpflegt. 00:47:25.560 --> 00:47:32.620 Speaker 0: Unter anderem dass es da in Interesse von der KI gibt dieses Schummeln weiter auszubauen über die konkrete Situation hinaus. 00:47:33.200 --> 00:47:38.880 Speaker 0: Nochmal ich möchte wie bei der Büroklammer-Situation nicht sagen, dass es komplett unmöglich ist und wir müssen uns damit beschäftigen. 00:47:39.480 --> 00:47:48.560 Speaker 0: aber dieser Zirkelschluss, dass das in dem Moment wo sie schummelt Automatisch bedeutet, dass demnächst ein gigantischer Masterplan zur Auslöschung und Täuschung der Menschen vorhanden ist. 00:47:49.040 --> 00:47:51.020 Speaker 0: Der ist aus meiner Sicht viel zu gewagt! 00:48:00.220 --> 00:48:04.420 Speaker 0: Und diese Superintelligenz, ein Begriff der manchmal Fum genannt wird. 00:48:04.500 --> 00:48:10.180 Speaker 0: Wie das Geräusch einer Explosion, quasi eine Explosion der Intelligenz und wir kommen gar nicht mehr hinterher! 00:48:10.340 --> 00:48:21.940 Speaker 0: Ich glaube dass auch das zu kurz gedacht ist weil jede Form von künstlicher Intelligenzen Chips braucht und Strom-und Rechenzentren die in dinglichen Sphären eben dann doch häufig noch ziemlich gut kontrollierbar sind. 00:48:21.980 --> 00:48:28.460 Speaker 0: Ab einem bestimmten Punkt ist die physische Gewalt des Menschen über bestimmte Berechnungsmodelle eben ein ziemlich großer Vorteil. 00:48:28.780 --> 00:48:31.780 Speaker 0: Und natürlich kann man sagen, dann kommen Roboter und die verteidigen das. 00:48:31.880 --> 00:48:34.280 Speaker 0: Und Humanele-Roboter werden von der KI übernommen. 00:48:34.820 --> 00:48:42.740 Speaker 0: aber ich glaube dass da viel zu viele Säubuchstellen dabei sind um gleich das absolute Horror Endszenario ab übermorgen zu denken. 00:48:43.300 --> 00:48:58.160 Speaker 0: Diese ganzen Mechanismen entstehen in Jahren und nicht in Tagen Werden immer wieder zwischendurch kontrolliert und Ich glaube dass wir als Menschen diese enge und intensive Kontrolle brauchen und dass sie gleichzeitig unser größter Schutz davor ist Dass sich das irgendwann verselbstständigt. 00:48:58.420 --> 00:49:01.720 Speaker 0: Ich glaube nicht, dass diese Verselbstständigung komplett unbemerkt bleiben könnte. 00:49:01.980 --> 00:49:06.280 Speaker 0: Nummer sechs der häufigst diskutierten Weltuntergänge ist der Atomkrieg aus Versehen. 00:49:06.700 --> 00:49:11.980 Speaker 0: KI im militärischen Frühwarnsystem sieht einen Angriff, der nicht da ist und irgendjemand schlägt dann zurück. 00:49:12.120 --> 00:49:18.540 Speaker 0: Ob das eine KI-Steuerung oder eine Automatisierung oder ein Mensch, der der KI glaubt spielt dabei keine so große Rolle. 00:49:18.580 --> 00:49:28.080 Speaker 0: Und natürlich kann man auch sagen, dass eine KI die bösartig im Schild für Propaganda zu machen Leute dahin bringen könnte das ein Atomkrieg wahrscheinlicher ist. 00:49:28.300 --> 00:49:30.000 Speaker 0: Natürlich ist es eine berechtigte Sorge. 00:49:30.780 --> 00:49:39.480 Speaker 0: Das Problem ist aber an dieser Stelle eher nicht die böse KI sondern das Problem ist die Entscheidung von Menschen an dieser stelle der Maschine das letzte Wort zu geben. 00:49:40.020 --> 00:49:43.400 Speaker 0: Und wir hatten schon häufige Automatisierungen im Atomkriegsbereich. 00:49:43.800 --> 00:49:54.060 Speaker 0: Wir hatten schon häufig die Situation, dass ein Alarm ausgelöst worden ist und der Mensch diesen Alarm unterbrechen musste, damit nicht automatisiert die eigenen Atombomben losgeschickt wurden. 00:49:54.400 --> 00:50:12.940 Speaker 0: Dass man da Automatisierung eingebaut hat liegt auch daran das Norbert Wieners Kybernetik aus den Vierzigerjahren – das ist der Herkunft des Begriffes Cyber – natürlich seinen Ursprung im Militärischen hat und dass man lange dachte in dem Moment wo hundert Atombomben aus Russland auf die Vereinigten Staaten fliegen, ist der Mensch gar nicht mehr in der Lage, die selbst abzuschießen. 00:50:13.220 --> 00:50:24.000 Speaker 0: Also machen wir eine Automatisierung rein und gucken mal wenn ein Alarm kommt muss einer Mensch den unterbrechen sonst fliegt das alles von alleine los damit wie sie zumindest automatisiert gegentreffen können. 00:50:24.480 --> 00:50:26.820 Speaker 0: Das heißt wir haben zum Teil heute schon Automatisierungen. 00:50:27.280 --> 00:50:33.140 Speaker 0: Die Frage ist also ja dass es eine berechtigte Sorge Es ist aber letztlich eine Abkehr vom Prinzip des menschlichen. 00:50:33.180 --> 00:50:48.260 Speaker 0: ich glaube dass hier Der Weltuntergang durch KI ebenfalls voraussetzt, dass man der KI eine bösartige Menschlichkeit unterstellt und das man dabei gar nicht bedenkt, dass wir schon die bösardigste Menschlichkeit auf diesem Planeten tatsächlich haben. 00:50:48.720 --> 00:50:56.420 Speaker 0: Das ist nämlich der Mensch, der denkt es sei eine gute Idee viele Millionen andere Menschen umzubringen Und das gibt es leider seit sehr langer Zeit. 00:50:57.100 --> 00:51:04.840 Speaker 0: Hier wird eine Angst vor der KI in ein Szenario hineininterpretiert wo eine Angst für den Menschen viel größer und viel wichtiger wäre. 00:51:04.900 --> 00:51:07.200 Speaker 0: Und ich möchte gar nicht sagen, das kann nicht passieren. 00:51:07.580 --> 00:51:08.040 Speaker 0: Auch nicht hier! 00:51:08.660 --> 00:51:16.660 Speaker 0: Ich möchte aber schon sagen die Bedrohung durch Menschen, die so etwas tun ist größer als durch eine wild gewordene KI, die plötzlich eigenmächtig entscheidet. 00:51:17.020 --> 00:51:20.880 Speaker 0: Hier sollte ich mal irgendwie das Szenario vorantreiben in der Atombombe abzuwerfen. 00:51:21.320 --> 00:51:24.860 Speaker 0: Nummer sieben der meist diskutierten Weltuntergangsszenarien ist der NanotecBlitz. 00:51:25.060 --> 00:51:32.280 Speaker 0: Das ist das Lieblingsszenario von Elisa Jatkowski, einem der wichtigsten Sicherheits-Mana und Forscher im Bereich KI der Welt. 00:51:32.620 --> 00:51:35.540 Speaker 0: Er beschreibt das schon seit sehr langer Zeit auch auf der Bühne und auch eindrucksvolle. 00:51:35.820 --> 00:51:46.140 Speaker 0: Eine Superintelligenz lässt winzige Maschinen bauen eine Art technologischer Viren die sich in den Luft verteilen, in unsere Körper eindringen und in derselben Sekunde fallen alle Menschen tot um. 00:51:46.920 --> 00:51:49.940 Speaker 0: Das ist nun wirklich Science Fiction im absoluten Wortsinn. 00:51:50.320 --> 00:51:59.440 Speaker 0: Und das funktioniert nur, wenn man der KI bisher völlig unbekannte Zauberkräfte einerseits zuschreibt und andererseits dann auch noch einen bösen Willen, der vom Menschen komplett abgelöst ist. 00:51:59.820 --> 00:52:04.940 Speaker 0: Das ist im Prinzip das Matrix-Ding übertragen auf eine Drohnenwelt! 00:52:05.620 --> 00:52:09.140 Speaker 0: Ich möchte überhaupt nicht sagen dass KI nicht mit solchen Dingen operieren könnte. 00:52:09.660 --> 00:52:25.740 Speaker 0: es müsste aber schon sehr viel passieren damit wir das nicht nur nicht merken sondern dass wir vorher denken, es sei eine gute Idee zum Beispiel Produktionsmittel für solche Waffen in einer Automatisivität von Menschen gar nicht mehr zu betrachtende Hand der KI legen. 00:52:25.860 --> 00:52:33.120 Speaker 0: Was bei solchen Szenarien häufig nicht berücksichtigen ist das sehr viel völlig außerhalb der Wahrnehmung von Menschen geschehen müsste. 00:52:33.500 --> 00:52:39.780 Speaker 0: und natürlich gäbe es Szenario wo Leute denken, das könnten wir ja mal machen oder dann übernimmt die KI heimlich, dass also irgendwo ein Labor ist. 00:52:39.820 --> 00:52:40.860 Speaker 0: sie haben diesen Auftrag. 00:52:43.920 --> 00:52:52.540 Speaker 0: Aber auch hier, glaube ich ist die Solbruchsstelle das man KI anthropomorphisiert und dass man der KI unterstellt sie will früher oder später Menschen umbringen. 00:52:53.020 --> 00:52:55.920 Speaker 0: Die Motivation dahinter ist aber viel weniger eindeutig. 00:52:56.040 --> 00:52:59.160 Speaker 0: nur weil der Mensch Menschen um bringen möchte auch nicht immer aber manchmal halt. 00:52:59.220 --> 00:53:03.620 Speaker 0: leider schon heißt es nicht automatisch dass eine Technologie eine ähnliche Motivations. 00:53:04.020 --> 00:53:07.140 Speaker 0: Ich glaube, dass deswegen diese Horror-Szenarien eben genau das sind. 00:53:07.460 --> 00:53:13.900 Speaker 0: Das sind so Albträume die man an die Wand mahlt und möglichst eindrucksvoll weltweite PR für die eigene Sache zu haben! 00:53:14.540 --> 00:53:19.180 Speaker 0: Ich glaube das ist ohnehin ein wichtiger Punkt, dass wir über die Ökonomie der Aufmerksamkeit zu wenig sprechen. 00:53:19.500 --> 00:53:30.280 Speaker 0: Man kommt weltweit in die Medien wenn man sich als Bekehrter gibt und eben noch gesagt hat ich bin total pro KI und jetzt schon davor warnt Wenn man da die richtige Erzählung hat mit einem bisschen Alptraumfaktor ist man plötzlich weltweit berühmt. 00:53:30.940 --> 00:53:33.800 Speaker 0: Auch hier ist jeder Weltuntergang ein eigenes Geschäftsmodell. 00:53:33.860 --> 00:53:50.820 Speaker 0: Und wenn es nur für eine Person ist, wie ein Herr Coxen der in beiden Firmen arbeitet und mit siebenundzwanzig jetzt weltweit bekannt ist ich kann mir sehr gut vorstellen dass er zwischen Film und Buch und Vorträgen und den nächsten hundert zwanzig Engagements oder Fernsehinterviews eine ganze Reihe von sehr positiven Dingen erleben könnte. 00:53:50.920 --> 00:53:59.380 Speaker 0: Für ihn positiven Dinge erleben konnte weil er ein absolutes Horrorszenario gemalt hat, weil er eine eigene Verantwortung genau im für ihn richtigen Moment skizziert hat. 00:53:59.940 --> 00:54:02.260 Speaker 0: Noch mal, das mag nicht seine einzige Motivation sein. 00:54:02.720 --> 00:54:06.940 Speaker 0: Aber es ist eben auch klar dass wir das mit berücksichtigen müssen in dieser Diskussion. 00:54:07.820 --> 00:54:11.340 Speaker 0: Nummer acht der beliebtesten Weltuntergänge ist die schleichende Entmachtung. 00:54:11.380 --> 00:54:20.600 Speaker 0: Dass es eben kein Knall ist sondern dass wir Stück für Stück Entscheidungen an die KI abgeben und irgendwann läuft die Welt ganz ohne menschliches Zutun irgendwie von allein. 00:54:21.100 --> 00:54:27.740 Speaker 0: Das ist intellektuell ein sehr spannendes Szenario und es ist aber vor allem auch seit sehr langer Zeit ein technologisches Szenarium. 00:54:28.400 --> 00:54:35.880 Speaker 0: Wir haben eine Vielzahl von Debatten, ob nicht früher schon zwischen Elektrizität, Motoren den Computern insgesamt. 00:54:35.960 --> 00:54:40.720 Speaker 0: Den Internet irgendwie ne ganze Reihe von Dingen uns abnimmt und zack sind. 00:54:40.840 --> 00:54:43.320 Speaker 0: wir erwartet die Maschinenentscheiden für uns. 00:54:43.880 --> 00:54:49.240 Speaker 0: Ich kann mich an die Diskussion in den Nullerjahren erinnern, als Kevin Kelly vom Technium sprach bzw. 00:54:49.480 --> 00:54:50.560 Speaker 0: Anfang der Zehnerjahre. 00:54:50.600 --> 00:54:57.060 Speaker 0: Das ist fast fünfzehn Jahre her und da sagt Kevin Kelly das Technium Die Gesamtheit der Technologie hat längst einen eigenen Willen. 00:54:57.380 --> 00:55:04.820 Speaker 0: Er hat Beispiele gemacht wie In dem Moment wo unser Smartphone Essen haben möchte kennen wir zur Steckdose Und stöpseln die Energie an. 00:55:05.300 --> 00:55:09.220 Speaker 0: Wir sind nicht mehr unsere eigene Herren Sondern wir machen das was das Smartphone will. 00:55:09.580 --> 00:55:14.080 Speaker 0: Man könnte das weiterführen und das hat er auch, um sagen wir beschäftigen uns den ganzen Tag mit dem Smartphone. 00:55:14.180 --> 00:55:20.240 Speaker 0: Und wir streicheln das Smartphone sogar wie ein kleines Lebewesen weil wir dem Smartfon dienen und nicht das Smartfon. 00:55:20.400 --> 00:55:23.500 Speaker 0: uns zwei acht neun siebzehn Stunden am Tag schauen wieder rein. 00:55:23.780 --> 00:55:25.900 Speaker 0: Das Smartphone möchte dass wir uns mit ihm beschäftigen. 00:55:25.960 --> 00:55:28.800 Speaker 0: das Technium mit dem smartphone als äußeres Organ. 00:55:29.080 --> 00:55:30.700 Speaker 0: Das ist das was eigentlich die Macht hat. 00:55:31.200 --> 00:55:40.900 Speaker 0: diese schleichende Entmachtung ist eine überdiege sprechen müssen und natürlich sind bestimmte Entscheidungen auch abseits von einem Technium, von früher bei der KI einer neuen Ebene angekommen. 00:55:41.220 --> 00:55:45.740 Speaker 0: Aber das ist eine wichtige philosophische Diskussion nur eben kein Weltuntergang! 00:55:46.120 --> 00:55:54.320 Speaker 0: Das neunte Szenario sind Killerdrohnen, Schwärme, autonome Waffen so ein bisschen wie bei Jartkowski die Menschen töten das Terminator-Szenario. 00:55:55.100 --> 00:55:59.760 Speaker 0: Und tatsächlich sehen wir, dass bei autonomen Waffen die Diskussion in einen anderen Bereich hineinlappt. 00:55:59.960 --> 00:56:08.400 Speaker 0: Denn es gibt heute schon autonome Waffen – die Front in der Ukraine und Russland zeigt, dass wir in einer neuen Epoche angekommen sind, in einer neunen Ära. 00:56:08.820 --> 00:56:21.060 Speaker 0: Es gibt eine ganze Reihe von informierten Leuten, die sagen «Es vergehen nur noch Monate», sechs vielleicht neun Monate und dann werden auf dem Schlachtfeld in der Ukraine Soldaten getötet durch humanoide Robotersoldaten. 00:56:21.880 --> 00:56:24.080 Speaker 0: Natürlich ist das ein Punkt über den wir sprechen müssen! 00:56:24.440 --> 00:56:32.600 Speaker 0: Und es ist gleichzeitig aber A, kein Weltuntergang und B vor allem der Einsatz durch Menschen von technologischen Waffen. 00:56:32.780 --> 00:56:38.000 Speaker 0: Ich glaube dass das der wichtige Punkt ist über den wir reden müssen – was können böse Menschen mit Waffentun tun? 00:56:38.040 --> 00:56:40.300 Speaker 0: Was können auch nicht böse Leute mit Waffen tun? 00:56:40.340 --> 00:56:44.960 Speaker 0: Denn natürlich gibt's hier verschiedene Perspektiven und verschiedene Perspective Fragen zu klären! 00:56:45.080 --> 00:56:47.620 Speaker 0: Es ist eine andere Diskussion als der Weltenuntergang. 00:56:48.180 --> 00:56:57.620 Speaker 0: Und schließlich die Nummer zehn der totalitäre Login will sagen ein Staat oder einen KI-Konzern nutzt KI zur totalen Überwachung, die man gar nicht mehr los wird. 00:56:57.740 --> 00:57:01.520 Speaker 0: Und auch das ist etwas über das wir sprechen müssen weil es eines der ernstesten Szenarien ist. 00:57:02.020 --> 00:57:09.300 Speaker 0: aber auch hier ist die Diskussion eine, die wir demokratisch führen müssen und die wir vor allem entlang der technologischen Fähigkeiten führen müssen. 00:57:09.540 --> 00:57:22.760 Speaker 0: Es ist also eine Diskussion für die eigene Perspektive darauf brauchen und ich glaube, dass diese eigene Perspective überhaupt nur stattfinden kann wenn wir in Europa und in Deutschland bei dieser KI-Entwicklung vorne mit dabei sind. 00:57:23.260 --> 00:57:44.620 Speaker 0: Ich glaube das wir dieses Rennen durchaus verlangsamen können aber wenn die Verlangsamung gleichzeitig bedeutet, dass Open Source entmachtet wird oder sogar fair unmöglicht wird zum Beispiel aus Versicherungsgründen dann ist es ein viel größeres Problem denn dieser Login hat einen Gegenmittel wenn wir offene Systeme und offene Plattformen haben, an denen wir alle teilhaben können. 00:57:45.020 --> 00:57:58.840 Speaker 0: Wenn es nicht nur zwei, drei, vier, fünf staatliche, halbstaatliche oder Großkonzerne gibt die diese KI auf dieser Ebene mit vorantreiben Die Auswahl zu haben eine Alternative zu halten ist das sicherste Instrument gegen einen totalitären Login. 00:57:59.000 --> 00:58:08.260 Speaker 0: Diese zehn Szenarien werden viel diskutiert und es fällt etwas auf bei den meisten Spielen die Menschen im Hintergrund eine sehr wichtige Rolle, vielleicht sogar die wichtigste. 00:58:08.440 --> 00:58:17.280 Speaker 0: Die Verselbstständigung der KI mag vorhanden sein sie ist aber nicht das entscheidende Instrument bei der Frage wo findet wann welche Form von Weltuntergang statt? 00:58:17.600 --> 00:58:24.600 Speaker 0: Schauen wir als Schlussakkord noch mal darauf was am Ende Meine These bedeutet nämlich die These, dass jeder Weltuntergang ein Geschäftsmodell ist. 00:58:24.880 --> 00:58:31.140 Speaker 0: Worüber wir noch gar nicht gesprochen haben, ist die Ökonomie der Aufmerksamkeit, die sich natürlich auch auf einzelne Personen bezieht. 00:58:31.180 --> 00:58:42.540 Speaker 0: Man kann heute als KI-Forschender weltweit bekannt werden wenn man zwei oder drei richtige Erzählungen zur richtigen Zeit den richtigen Leuten sagt und vorher an den richten Schallstellen war. 00:58:42.600 --> 00:58:48.480 Speaker 0: Denn natürlich ist es so das die Öffentlichkeit begierig darauf ist immer neue Horrorszenarien zu hören. 00:58:48.520 --> 00:58:51.480 Speaker 0: Das war übrigens bei vielen anderen Technologien zuvor auch schon. 00:58:51.680 --> 00:59:05.000 Speaker 0: Ich kann mir cute erinnern, dass wir vor zwanzig Jahren darüber geredet haben ob Videospiele und speziell vernetzte Videospielen wie irgendwelche Doom oder Half-Life oder sowas, ob das nicht bedeutet, dass die Jugend in Toto gleich übermorgen sich ausschließlich von Amokläufen ernährt. 00:59:05.660 --> 00:59:14.500 Speaker 0: Ich kann mich sehr gut daran erinnern, wie wir oft diskutiert haben ob soziale Medien nicht eigentlich der direkte Untergang samt völliger Verdummung der jungen Menschen dort draußen sind. 00:59:14.600 --> 00:59:16.740 Speaker 0: Und zum Teil sind das Nachwirkungen die wir noch heute spüren. 00:59:16.780 --> 00:59:28.480 Speaker 0: wenn wir sowas sagen wie soziale Medien müssen bei jungen menschen unbedingt verboten werden diese Art und Weise Technologie zu benutzen um die gesamten schwierigen und schlechten Entwicklungen des Planeten darauf zu projizieren. 00:59:29.080 --> 00:59:31.800 Speaker 0: Die ist ziemlich angenehm für die meisten Menschen. 00:59:31.840 --> 00:59:36.000 Speaker 0: Wenn Technologie schuld hat, dann kann man nach Herzenslust auf der Rum hacken. 00:59:36.040 --> 00:59:40.300 Speaker 0: Dann muss man gar nicht mehr fragen ob da vielleicht zutiefst menschliche Mechanismen dahinter stehen. 00:59:40.640 --> 00:59:46.460 Speaker 0: aber die Technologie bietet sich halt als sünden Bock an und ich möchte gar nicht sagen dass Technologie unschuldig ist. 00:59:46.940 --> 00:59:59.920 Speaker 0: Ich möchte aber schon sagen das es für viele Menschen sehr bequem ist den Hauptverantwortlichen eines Horrors in der Zukunft in der Technologie zu sehen auch deswegen weil im Gefühl der Menschen ja KI etwas ist was man irgendwie den Griff bekommen könnte. 01:00:00.240 --> 01:00:10.380 Speaker 0: Dann kann man schön seine Angst vom Klimawandel auf etwas übertragen, wo der Mensch viel größere Möglichkeiten hätte und viel angenehmere Möglichkeiten irgendwie das Ganze in den Griff zu bekommen. 01:00:10.840 --> 01:00:14.840 Speaker 0: Für den Klimawandel als größtem Feind müsste man sich vielleicht selber im Verhalten ändern. 01:00:14.880 --> 01:00:16.780 Speaker 0: Man müsste lieb gewordene Gewohnheiten verändern. 01:00:17.060 --> 01:00:21.320 Speaker 0: Man müsse vielleicht den Fokus darauf richten ob wir mit unseren westlichen Gesellschaften überhaupt so weitermachen könnten. 01:00:21.760 --> 01:00:31.580 Speaker 0: In dem Moment, wo ich sage dass große Bedrohungsszenarios aber in Wirklichkeit die KI In dem Moment kann ich ganz andere Mechanismen fordern, nämlich erstmal ganz viel Regulierung. 01:00:31.720 --> 01:00:38.380 Speaker 0: Nämlich erst mal möglichst dass die bösen Firmen aufhören daran zu arbeiten und zu forschen und ich muss gar nichts selbst ändern! 01:00:39.000 --> 01:00:46.400 Speaker 0: Weil ein bisschen Chatshipiti weitermachen kann ich natürlich sowieso ist doch kein Problem es ja nicht mein Thema das irgendwann die Welt davon untergehen könnte. 01:00:47.420 --> 01:00:59.520 Speaker 0: Ich glaube ganz viel ist so tief menschlich Und gleichzeitig sehen wir dass diese Menschlichkeit auch Leuten nutzt Nicht nur was die Aufmerksamkeitsökonomie angeht, sondern auch weil Angst das beste Marketing ist. 01:00:59.600 --> 01:01:02.180 Speaker 0: Doomsday-Marketing ist ein Teil dieser Debatte! 01:01:02.880 --> 01:01:14.320 Speaker 0: Denn wenn man in die Börse geht und sagt oh krass unser Modell ist so mächtig dass müsste am besten reguliert werden dann sagt man gleichzeitig unser Model isso mächtige wie nichts zuvor also sehr viel wert. 01:01:14.960 --> 01:01:19.700 Speaker 0: Das ist ein bisschen wie als würde man als Autohersteller sagen ja, wir müssen unbedingt was regulieren. 01:01:19.740 --> 01:01:22.680 Speaker 0: Wir haben hier ein Auto das fährt neunhundert Stundenkilometer schnell. 01:01:23.060 --> 01:01:25.400 Speaker 0: Es ist viel zu schnell es ist wirklich gefährlich. 01:01:25.480 --> 01:01:26.540 Speaker 0: lasst uns mal regulieren. 01:01:26.860 --> 01:01:31.020 Speaker 0: und gleichzeitig sagt man übrigens ist unser Auto neun hundert Stunden Kilometer schnell gar nicht so schlecht oder? 01:01:31.800 --> 01:01:41.600 Speaker 0: Diese Form von Marketing hat natürlich ganz viel zu tun mit der gegenwärtigen Situation der großen KI Konzerne Die gehen an die Börse, die brauchen Kapital. 01:01:41.660 --> 01:01:48.920 Speaker 0: Die brauchen Erzählungen für Investoren, warum es sich lohnt zu investieren und gleichzeitig brauchen sie netz- und doppelten Boden, falls Sie das nicht erreichen! 01:01:49.400 --> 01:01:54.960 Speaker 0: Und da ist natürlich oh, wir sind so gefährlich, die muss man regulieren gar nicht so schlecht als Argumentationsebene. 01:01:55.460 --> 01:02:01.240 Speaker 0: Wir hätten unsere Ziele erreicht aber das war wegen Weltuntergang Schwer möglich, wir mussten ja regulieren. 01:02:01.420 --> 01:02:08.880 Speaker 0: Und gleichzeitig schaffen wir unsere größten Konkurrenten nämlich die Open Source Modelle, die ein bisschen zu billig sind damit wir unsere Ziele erreichen können sehr elegant aus dem Weg! 01:02:09.060 --> 01:02:12.900 Speaker 0: Der Fairness halber muss man sagen dass es eben auch in dieser Debatte Gegenstimmen gibt. 01:02:13.300 --> 01:02:16.580 Speaker 0: Aber auch die Gegenstimmen haben naheliegenderweise eigene Interessen. 01:02:17.000 --> 01:02:23.580 Speaker 0: Jensen Huang zum Beispiel, der Chef von NVIDIA hat die ganze Weltuntergangshysterie abgeräumt und gesagt ne stimmt alles gar nicht. 01:02:23.900 --> 01:02:30.160 Speaker 0: Nun muss man dazu sagen dass er davon profitiert wenn möglichst viele Unternehmen ganz vorne mitspielen weil er die Chips dafür verkauft. 01:02:30.380 --> 01:02:36.000 Speaker 0: jede Form von Pause oder Bremsen nützt natürlich Huang überhaupt nicht Weil er dann weniger Chips verkauft. 01:02:36.220 --> 01:02:38.760 Speaker 0: Oder Mark Zuckerberg der gesagt hat ach das ist doch Quatsch. 01:02:39.220 --> 01:02:40.800 Speaker 0: Ja, Dario Modella hat ihm widersprochen. 01:02:41.320 --> 01:02:42.820 Speaker 0: Wir haben längst eigene Kontrollen eingeführt. 01:02:42.860 --> 01:02:44.320 Speaker 0: der soll nicht darüber reden sondern das machen. 01:02:44.720 --> 01:02:47.280 Speaker 0: Aber Max Zuckerberg ist etwas hinterher in diesen Grenzen. 01:02:47.520 --> 01:02:53.660 Speaker 0: Trotz seines neuen Modells Muse was vielen Leuten als einen Durchbruch gilt ist Zuckerberg einigermaßen hinterher. 01:02:53.920 --> 01:03:08.020 Speaker 0: Er hat sehr gute Ausgangsvoraussetzungen weil er den Zugang zu mehreren Milliarden Menschen hat aber eher nutzt als Open Source Anbieter plötzlich auch Close Source Modelle wie bei Muse und es plötzlich sehr darauf bedacht Zu sagen nie Weltuntergang kommt nicht infrage. 01:03:08.120 --> 01:03:08.580 Speaker 0: und warum? 01:03:09.080 --> 01:03:14.060 Speaker 0: weil er halt nicht zum Spitzenzirke gehört, weil eine Pause für ihn schwierig wäre. 01:03:14.280 --> 01:03:18.560 Speaker 0: Er muss schließlich aufholen und da kann er Drosselung nun überhaupt nicht gebrauchen. 01:03:19.040 --> 01:03:20.760 Speaker 0: oder auch Donald Trump der das Ganze abrollen. 01:03:20.900 --> 01:03:26.900 Speaker 0: Man kann nichts was Donald Trump sagt irgendwie einigermaßen rational deuten außer es enthält einen tieferen Zweck. 01:03:27.260 --> 01:03:47.180 Speaker 0: und dieser tiefere Zweck ist in diesem Fall dass Trump natürlich immer glänzen möchte und sehr gut gebrauchten könnte wenn die amerikanischen großen Anbieter immer und für immer vor den chinesischen bleiben Und wenn man dann zufällig genau das Modell drosselt, was die Chinesischen benutzen und die Amerikanischen versucht in eine Position zu versetzen wo sie ihre Stärken ausspielen können. 01:03:47.600 --> 01:03:50.380 Speaker 0: Dann ist es etwas was Trump sehr gut in den Kram passen. 01:03:51.040 --> 01:04:06.560 Speaker 0: wir sehen also jeder Weltuntergang und sogar der Widerspruch zum Weltenuntergang hat sein eigenes Geschäftsmodell und ich glaube dass wir uns deswegen fokussieren sollten auf die Bereiche die relativ unzweifelhaft gar nichts mit Geschäftsmodellen zu tun haben, sondern eher mit der faktischen Realität. 01:04:06.940 --> 01:04:17.360 Speaker 0: Wovor wir stehen sind die Menschen, die tatsächlich KI benutzen um eine Vielzahl von Dingen zu tun, die sie zum Teil heute schon tun aus Krimineller oder aus politischer oder aus totalitärer oder aus ideologischer Absicht. 01:04:17.880 --> 01:04:25.100 Speaker 0: aber wir stehen unmittelbar vor einer extrem mächtigen Waffe die eingesetzt werden wird auch durch Menschen die eben böse sein können. 01:04:25.240 --> 01:04:28.560 Speaker 0: und hierfür müssen wir vor allem die digitale Welt härten. 01:04:29.160 --> 01:04:34.680 Speaker 0: Und das passiert zum Beispiel, indem wir anfangen schlampige Technologie stärker zu sanktionieren. 01:04:35.040 --> 01:04:35.620 Speaker 0: Das passiert 01:04:35.720 --> 01:04:35.920 Speaker 0: z.B., 01:04:36.400 --> 01:04:40.480 Speaker 0: in dem wir flächendeckend versuchen neue Szenarien mit Sicherheitstechnik abzusichern. 01:04:40.580 --> 01:04:50.160 Speaker 0: aber Überraschung auch dafür brauchen wir KI und zwar die modernsten und fortschrittlichste und nicht gedrosselte KI Denn KI hilft eben auch bei der Verteidigung. 01:04:50.660 --> 01:04:53.260 Speaker 0: Man kann ja nicht sagen, wir drosseln nur die Angreifer-KI. 01:04:53.400 --> 01:04:55.500 Speaker 0: Aber die verteidiger KI, die drosslen wir nicht! 01:04:55.580 --> 01:04:57.280 Speaker 0: Denn das ist die gleiche KI. 01:04:57.640 --> 01:05:07.020 Speaker 0: Ich glaube dass wir damit rechnen müssen, dass früher oder später natürlich künstliche Intelligenz dramatische Veränderungen in unserem Sicherheitsempfinden und auch in der Sicherheitslage verursachen wird. 01:05:07.520 --> 01:05:13.900 Speaker 0: aber Das Instrument der Wahl um dem zu begegnen Ist eben auch KI Und zwar in der gleichen Größenordnung wie bei den Angreifern. 01:05:14.440 --> 01:05:18.580 Speaker 0: Deswegen ist es so wichtig, dass dafür eine Vernetzung und noch eine Offenheit besteht. 01:05:18.920 --> 01:05:20.580 Speaker 0: Das ist ein dritter Punkt, der gefährlich werden könnte. 01:05:20.640 --> 01:05:22.380 Speaker 0: Die Machtkonzentration bei KI! 01:05:22.920 --> 01:05:29.220 Speaker 0: Wenn die absolut führende Modelle alle aus Kalifornien kommen und von drei, vier, fünf Leuten kontrolliert werden – faktisch! 01:05:29.640 --> 01:05:34.180 Speaker 0: Dann ist das eine Machtkonzentration, die wir schon bei sozialen Medien als problematisch gesehen haben? 01:05:34.360 --> 01:05:35.700 Speaker 0: Warum sollte es bei KI anders 01:05:35.760 --> 01:05:35.920 Speaker 0: sein?! 01:05:36.060 --> 01:05:50.700 Speaker 0: Und auch hier ist ein Instrument gegen diese Entwicklung eine Form von Offenheit, die mehr Menschen, mehr Institutionen, mehr Forschenden, mehr Unternehmen ermöglicht an dieser Form von Wettrennen teilzunehmen... ohne dass wir jetzt alle Sicherheitsbedenken fahren lassen sollten. 01:05:51.320 --> 01:05:54.120 Speaker 0: Fazit also droht uns der Weltuntergang durch KI? 01:05:54.820 --> 01:05:57.560 Speaker 0: Ich möchte es nicht ausschließen, ich halte die Chance für sehr gering! 01:05:58.200 --> 01:06:08.980 Speaker 0: Ich halte diese Chance extrem groß – eigentlich sogar hundert Prozent -, dass wir Sicherheitsfragen mit und gegen KI in den nächsten Monaten und Jahren dringend werden klären 01:06:09.040 --> 01:06:09.260 Speaker 0: müssen.". 01:06:09.760 --> 01:06:17.960 Speaker 0: Ich glaube deswegen, dass wir volle Kraft und volle Energie dareinsetzen sollten selbst in Europa und in Deutschland KI voranzubringen. 01:06:18.360 --> 01:06:25.720 Speaker 0: Dass wir uns von diesem Weltuntergangsgetöse um Gottes Willen nicht abschrecken lassen selber daran teilzuhaben wie diese Entwicklung vor sich geht. 01:06:25.840 --> 01:06:39.980 Speaker 0: Denn früher oder später werden wir in eine Situation kommen wo es sinnvoll ist das die Interessen aus Europa und zwar gerade auch die technologischen und die ökonomischen Interessen von Europa durch Europa auch abseits der großen Plattformen durchgesetzt werden können. 01:06:40.600 --> 01:07:07.260 Speaker 0: Das ist wie immer kein Aufruf zu Technationalismus, es ist aber wie immer ein Aufruft dazu dass wir mit einem europäischen Blick auf diese Instrumente uns genau fragen müssen wollen wir eine extrem machtvolle KI auf der einen oder auf der anderen Seite nicht auch bis zu einem bestimmten Punkt selbst abbilden können oder wollen wir irgendwann in eine Art Wettrennen, ob gedrosselt oder nicht zwischen den Vereinigten Staaten und China diejenigen sein, die das nehmen müssen was sie bekommen. 01:07:07.720 --> 01:07:15.860 Speaker 0: Ich glaube wir haben sehr viele Argumente dass es eine Form von Abhängigkeit stichwort Donald Trump und Grönland in keine von diesen Richtungen besonders sinnvoll ist. 01:07:16.260 --> 01:07:21.080 Speaker 0: Wir sind in einer neuen geopolitischen Lage, wir sind im neuen geopolitische Universum. 01:07:21.600 --> 01:07:38.280 Speaker 0: Und ich glaube das eine der wichtigsten Konsequenzen daraus ist dass wir nicht in Panik verfallen und uns nicht anstecken lassen von irgendwelchen Weltuntergangsgerüchten und deswegen zurückschrecken und sagen Gottes will ein Teufelszeug sondern dass wir sehr genau und sehr analytisch darüber sprechen warum ist was wann sinnvoll? 01:07:38.920 --> 01:07:44.600 Speaker 0: Wo können wir mit welchem Instrument unsere Chance erhöhen nicht von der Entwicklung überrollt zu werden. 01:07:44.720 --> 01:07:58.720 Speaker 0: Denn nach wie vor Weltuntergang hin, Auslöschung der Menschheit her für die größte Gefahr aus europäischer Sicht halte ich das wir nicht partizipieren an der Entwicklung durch KI denn dann ist völlig klar egal wie viel Macht die KI genau bekommt. 01:07:59.320 --> 01:08:08.740 Speaker 0: sie wird Macht sein den nicht mehr hier in Europa sitzt und die dadurch eine größere intensivere und immer unangenehmere Abhängigkeit herstellt. 01:08:09.100 --> 01:08:15.520 Speaker 0: Die ganzen Prozentzahlen, zehn, zwanzig, fünfzig und hundert Prozent sind komplett irrelevant in dem Moment wo es vielleicht nicht die Welt untergeht. 01:08:16.000 --> 01:08:28.600 Speaker 0: Aber sowohl Wertschöpfung wie auch Wissen wie auch viele andere Mechanismen von Kapital bis hin zu den Köpfen, die wirtschaftliche Kraft nicht mehr in Europa oder Deutschland sind und nach und nach auf das Server der großen Plattform wandern. 01:08:28.720 --> 01:08:35.540 Speaker 0: aus meiner Sicht taugt die Weltuntergangsdebatte in allererster Linie dazu uns abzuschrecken Und dem sollten wir entgegenwirken. 01:08:36.040 --> 01:08:38.899 Speaker 0: Vielen Dank für eure Aufmerksamkeit Und bis zum nächsten Mal. 01:08:39.160 --> 01:08:49.779 Speaker 0: Wenn ihr diskutieren wollt mit uns, mit mir dann könnt ihr das auf den Plattformen tun, auf den TechKI und Schmetterlingen unterwegs ist Auf LinkedIn, auf Instagram, auf TikTok und auf YouTube. 01:08:50.260 --> 01:08:52.840 Speaker 0: Vielen Dank nochmal fürs Zuhören.