[
  {
    "start": 0.334,
    "speaker": "Speaker 3",
    "text": "Moin, Joshua! Würdet ihr eigentlich an dieser Stelle hören. Doch das hier ist unsere erste Live-Podcast-Folge, aufgenommen auf der Leipziger Buchmesse und deswegen hört ihr jetzt nur mich und nicht Joshua. Denn wir haben am Sonntag den 30.3. im Rahmen des vom Fantastic Autoren Netzwerk abgehaltenen\nBranchen-Treffens unter dem Titel Welten erschaffen, die Welt zu retten, eine Live-Folge vom Tricorder aufgenommen. Das war nicht so ganz geplant, eigentlich war nur ein Gespräch zwischen Brenton Teworris und Joshua geplant. Doch am Tag vorher hatten die beiden mich gefragt, ob ich nicht bereit wäre, das Ganze zu moderieren, was ich natürlich gerne gemacht habe und nachdem\nalle Anwesenden im Raum, inklusive Christine Eilöw, die das Ganze für Pahn anmoderiert und an dem Tag dort organisiert hatte, zugestimmt hatten, haben wir die Veranstaltung aufgezeichnet und können euch damit hier jetzt die erste Live-Episode präsentieren. Aus diesem Grund jetzt hier nochmal ganz ganz herzlichen Dank an das Phantastik-Autoren-Netzwerk Pahn und\nChristina Löw sowie an Tim, der freundlicherweise die Aufnahme übernommen hat, die ihr jetzt hier hören kann. So viel zur Vorrede, das war es von meiner Seite. Euch viel Spaß beim Zuhören mit unserer ersten TREECORDER Live-Episode.\nWillkommen allen, da sind. Schön, dass ihr es noch mal her geschafft habt zum letzten Tag unseres Pan-Branchen-Treffens. Wir freuen uns ganz besonders, dass wir heute noch mal eine schöne Diskussionsrunde haben. Und zwar haben wir heute Brandon Q. Morris und Joshua Tree zu Gast moderiert von Philip Tree. Und zwar, wie ihr schon wisst, es geht KI, es geht Science Fiction, es geht die Frage, naja, wie bedingt eigentlich die Realität die Fiktion und umgekehrt?",
    "end": 134.69
  },
  {
    "start": 134.69,
    "speaker": "Speaker 1",
    "text": "Und dementsprechend überlasse ich auch gleich euch das Feld nur eine ganz kurze Anmerkung an euch. Die drei werden das für ihren Podcast aufzeichnen. Das heißt, wenn ihr am Ende Fragen stellt, sagt uns kurz Bescheid, ist es okay, wenn ihr auch mit drauf seid oder ob wir dann quasi die Aufnahme nach der Diskussionsrunde stoppen. Also ich bitte einmal kurz Handzeichen. Ist es okay, wenn es weiter läuft? Super. Vielen Dank euch. Dann übergebe ich das Wort an euch und sage viel Spaß und ich bin gespannt.",
    "end": 175.342
  },
  {
    "start": 175.342,
    "speaker": "Speaker 4",
    "text": "der Science-Fiction-Podcast von Yoshua Liptre.\nVielen herzlichen Dank für die einladenden Worte und für die Einladung hier. Erst mal an Pan und für dieses spannende Oberthema Welten erschaffen, die Welt zu retten. Das, glaube ich, wird uns vielleicht als Tenor durch diese Stunde begleiten. Und erst noch mal herzlich willkommen allen hier im Saal. Schön, ihr, schön, dass Sie da sind. ja, dann begrüße ich auch erst noch mal Brendan Q. Morris und Joshua Tree. Schön, dass ihr hier seid.\nBrendan, vielleicht magst du dich nochmal kurz vorstellen und ein bisschen was zu deinem Hintergrund in der Science Fiction verraten.\nJa, also einige kennen mich auch als Matthias Matting. Wer mit dem Self-Publishing angefangen hat, der kennt die Self-Publisher-Bibel. Da habe ich immer über meine Erfahrungen berichtet mit dem Self-Publishing. Und das hat mich letztlich dann auch zur Science-Fiction gebracht. habe großen Sinn darin gesehen, erst einen Verlag zu suchen und das einfach veröffentlicht hat. Hat ganz gut funktioniert. Also der Brandon\nhat sich jetzt ganz gut etabliert als Name und inzwischen veröffentlich auch ein, zwei Bücher im Jahr mit Verlagen, einfach noch mal zusätzlich Leser ein bisschen mit rein zu bekommen. Von Bildung her bin ich Physiker, insofern war es eigentlich fast zwingend, harte Science-Fiction zu schreiben, weil es mich persönlich auch in der Geschichte stören würde oder stört, wenn etwas nicht so",
    "end": 271.848
  },
  {
    "start": 271.848,
    "speaker": "Speaker 1",
    "text": "ist, wenn es gar nicht so sein kann, wie es beschrieben ist. Also das gibt es in meinen Romanen eher nicht.\nJoshua, wie sieht das bei dir aus? Was kannst du noch kurz einleiten zu deinem Hintergrund, deinen Werken und vielleicht auch so deinen Schwerpunkt mitteilen?\nIch hoffe unsere Zuhörerinnen und Zuhörer kennen mich jetzt nach 47 Episoden. Aber ich sag natürlich gerne noch ein bisschen was. Ich hab 2017 mit Science Fiction angefangen, nachdem wir beide ja schon mal einen Ratgeber zusammengeschrieben haben. Also eine ganz andere Richtung. Mittlerweile ist das Ganze international geworden. Was ganz schön ist. Und ja, ich beschäftige mich für die Recherchen und natürlich auch für den Podcast viel mit Zukunftsthemen.\nund aktuell natürlich viel mit KI, wie so viele andere auch.\nKI ist dann schon mal eine schöne Überleitung, weil wenn die Themenüberschrift, so wie in der Ankündigung hier auch schon ist, wenn Science Fiction auf die Wirklichkeit trifft, würde ich mal in den Raum stellen, die Hypothese, und ihr dürft die jetzt gerne dann auseinandernehmen, dass KI so Thema ist, an dem man ziemlich gut sehen kann, das war noch vor ein paar Jahren, also mindestens vor paar Jahrzehnten ein echtes Science Fiction Thema.",
    "end": 350.694
  },
  {
    "start": 350.694,
    "speaker": "Speaker 3",
    "text": "Und dann hat die Wirklichkeit irgendwann die Science Fiction eingeholt und die spannende Frage wird sein, wo geht es hin? Brendan, was war deine erste Berührung zum Thema KI als Science Fiction Autor oder vielleicht auch schon davor in deiner Physikertätigkeit?\nJa, tatsächlich so ganz würde ich der These nicht folgen. Also die ersten Warnungen vor KI, die kenne ich eigentlich sogar schon aus meiner Jugend, was so ungefähr in den 1970er Jahren gewesen ist. Es hieß damals noch ein bisschen anders alles, also das war da die Kybernetik damals, war quasi noch so der\nder große Begriff und es wurde immer vorhergesagt, so in 20, 30 Jahren wird die dann soweit sein, dass sie die Welt beherrscht. Auch diese Vorhersage hat sich eigentlich nicht groß geändert. Ist es immer noch so in 20, 30 Jahren so dieser Termin, genau wie bei den Fusionskraftwerken, die wir auch immer so in 20, 30 Jahren kriegen sollen. Insofern bin ich da noch relativ entspannt eigentlich, was so\nob die wirklich mal eintrifft oder ob die dauerhaft immer wieder die nächsten 100 Jahre 20, 30 Jahre verschoben wird. Ich kenne es also schon tatsächlich so bisschen, also die Warnung zumindest aus der Vergangenheit.\nJa, vielen Dank. Joshua zuckt schon so ein bisschen bei deiner Einschätzung. Da haben wir schon mal einen spannenden Distanz, der sich abzeichnet. Joshua, deine erste Berührung zum Thema KI und gerne auch halte ich nicht zurück zu deiner Einschätzung.",
    "end": 448.864
  },
  {
    "start": 448.864,
    "speaker": "Speaker 2",
    "text": "Ja, meine erste Berührung mit KI ist glaube ich Facebook gewesen, als ich mir einen Account bei Facebook erstellt habe. das geht schon ein bisschen in die Richtung, warum ich widersprechen würde, glaube ich. Also dieses 20 bis 30 Jahre, das sehe ich nicht, weil ich glaube, wir werden jetzt schon von KI's beherrscht, weil sie den öffentlichen Diskurs maßgeblich mitsteuern durch unter anderem Social Media Algorithmen, die durch diese Vorgabe für den Facebook Algorithmus zum Beispiel, dass das Engagement gesteigert werden soll.\nUnd der Algorithmus lernt, Engagement, Nutzerengagement kriegen wir durch Desens, kriegen wir durch Empörung. Und deswegen glaube ich, dass das schon ein maßgeblicher Einfluss auf unsere Gesellschaft aktuell ist. Das berühmteste Beispiel ist wahrscheinlich der, sind die Massaker an den Rohingya in Myanmar. Wo man heute weiß, dass es maßgeblich auf Facebook zurückzuführen ist, weil diejenigen, die das angefacht haben, diesen Genozid,\nDas waren Leute, die auf Facebook berühmt geworden sind, weil der Algorithmus von einem berühmten buddhistischen Prediger, also Hassprediger muss man eigentlich sagen, die Videos immer gepusht hat. Und heute weiß man das eigentlich, aber es hat keine großen Konsequenzen gegeben dafür eigentlich. Und deswegen, ich glaube, dass Algorithmen immer mehr unseren Alltag durchdringen und wie gesagt unser Denken, unser Fühlen und unser Handeln steuern, ohne dass wir das wirklich\nWir verstehen das ja nicht direkt und das ist dieses Boiling-Frog-Syndrom. Das Wasser wird immer heißer und wir merken das nicht, dass wir gekocht werden. Und deswegen glaube ich, das haben wir schon längst.\nAlso wir sind uns ja im Grunde völlig einig. Wir haben nur unterschiedliche Definitionen von KI in dem Fall. Du sagst Algorithmen, das ist in dem Fall für mich noch keine KI wie ich es jetzt sehe, also im Science-Fiction-Sinn sozusagen, sondern Algorithmen, die entwickeln sich natürlich und wir verlieren auch tatsächlich ein bisschen die Übersicht, wie sie genau funktionieren. Das ist so das Problem, aber es ist für mich noch so bisschen getrennt von dem Thema der allgemeinen",
    "end": 579.726
  },
  {
    "start": 579.726,
    "speaker": "Speaker 1",
    "text": "KI, die quasi komplett die Herrschaft über uns übernimmt oder auch nicht. Aber was die Algorithmen betrifft, sehe ich das ganz genauso. Das ist tatsächlich eine Gefahr, die auch im Alltag zunehmend ins Leben eingreift.\nDas ist, glaube ich, guter Punkt. wir haben momentan noch schwache KIs, starke KIs werden noch kommen. Also jetzt sagen ja viele, sind noch zwei, drei Jahre, was vorher hieß 20. Also noch vor ein, zwei Jahren haben ja viele gesagt, Mitte des Jahrhunderts. Jetzt ist auf einmal Mitte, Ende des Jahrzehnts. Deswegen, das beschleunigt sich gerade. Aber wir wissen natürlich nicht, wie es das dann darstellt. Ob die jetzt schlaue Helferlein werden oder wirklich intelligent in dem Sinne, wie wir es verstehen als Menschen.\nIch glaube, gab durch die Large Language Models und auch durch den, wie gut sie funktionieren im Grunde schon, gab es so einen gewissen Schock in der Allgemeinheit auch. der hat, glaube ich, also es gab so ein paar Studien, dass aus LLMs eigentlich keine starken KI's entstehen können. Obwohl sie so aussehen, als wären sie das, können sie das nicht. Und deshalb bin ich da immer noch, glaube ich schon, dass die starken KI's nach wie vor so 20, 30 Jahre entfernt sind.\nJa, das ist ein guter Punkt. Wenn wir über Science Fiction reden, dann sind wir meistens auch zukunftsorientiert und die Frage der Prognose wäre nämlich meine nächste gewesen. Brendan, du hast schon in den Raum geworfen, 20, 30 Jahre siehst du da für sowas wie AGI oder starke KI. Joshua, du hast dann etwas andere Positionen, so viel ich weiß.\nJa, also der Ehrlichkeit halber muss man ja sagen, dass wir beide keine KI-Experten sind. Also wir können natürlich auch immer nur rezipieren, was wir lesen in Fachmagazinen. Und da scheint es so zu sein, dass der Konsens immer mehr dazu geht, dass wir AGI eher Ende des Jahrzehnts Sagen kann ich es nicht. Also es kann auch genauso gut sein, dass es 20 bis 30 Jahre ist. Weiß ich einfach nicht. Nur was ich sehe, dass die Expertenprognosen immer kürzer sind.",
    "end": 705.966
  },
  {
    "start": 705.966,
    "speaker": "Speaker 2",
    "text": "Zeiträume und deswegen denke ich mal da beschleunigt sich was und wenn ich allein nur schaue wie sich Chatchi BT verbessert hat in diesem kurzen Zeitraum das ist total irre und wenn man dazu noch sieht wie viele jetzt nachgekommen sind auch mit Deep Seek zum Beispiel wie in kurzer Zeit ein Player auf den Malcom ist der noch effizienter geworden ist da drin dann denke ich da beschleunigt sich schon ordentlich was vor allem auch was die Trainingszeiten angeht die sind ja immer kürzer geworden wie sie mit großen Datensätzen\ndie LLMs trainieren können. Da bin ich sehr gespannt, wie schnell das noch wird.\nIch glaube auch, es so bisschen der Effekt des aktuellen Beiwohnens dieser Entwicklung ist, dass man das so in die nahe Zukunft verortet, weil gleichzeitig ist es so, dass momentan schon ein bisschen das Ende der Fahnenstange erreicht ist, was das Trainingsmaterial betrifft. Das ist jetzt ausgenutzt alles. Es gibt nicht noch mehr zusätzliches Material und inzwischen beschäftigen sich die KI-Unternehmen damit, wie sie mithilfe von KI zusätzliches Trainingsmaterial für KI's erzeugen können, was aber\nkann man sich ja auch schon vorstellen, nicht unbedingt bedeutet das tatsächlich die Qualität dieser Large Language Models auch in dem Maße zunimmt, wie es jetzt in den vergangenen Jahren gewesen ist, wo man einfach immer neues Material reinstecken konnte. Da ist man glaube ich jetzt so an einem Punkt angelangt, wo es vielleicht eben nicht mehr so schnell die Qualitätsverbesserungen geben wird, glaube ich.\nJetzt stellt sich ja unter dem ganzen Titel hier der Veranstaltung Welten erschaffen die Welt zu retten, finde ich ja auch bei KI durchaus die Frage ist das etwas wovor man die Welt retten muss. Und Joshua du hattest dich ja in Singularity durchaus sehr umfassend mit dem Thema auseinandergesetzt. Was wäre aus deiner Sicht etwas was die Science Fiction heute schon, also aus deinen Werken und auch aus anderen",
    "end": 818.016
  },
  {
    "start": 818.016,
    "speaker": "Speaker 3",
    "text": "so an Hinweisen geben kann, wo die Menschheit vorsichtig sein sollte, damit KI, AGI nicht mehr zum Untergang beiträgt, sondern zum Guten genutzt werden kann.\nAlso es gibt was, was jeder Einzelne tun kann und das ist weniger Datenbereitstellen. Also wir haben Smartphones, die die ganze Zeit mithören, die unsere Augenbewegungen analysieren, die unsere Gesichtsmimik analysieren durch die Kameras. Dem haben wir alle zugestimmt, offensichtlich. Und wenn wir es zulassen, dass wir KI's einen so großen Datensatz über uns zur Verfügung stellen, kostenlos auch noch, wo es ja quasi eine Ware ist, dann haben wir glaube ich ein großes Problem.\nWeil dann könnten totalitäre Regime wie China das schon machen mit dem Social Crediting System. Je mehr Informationen sie haben über ihre Bürger, desto einfacher wird es natürlich, zu kontrollieren. wir sehen ja gerade, wie schnell es auch in USA geht, dass sich politisch was drehen kann in eine Richtung, die wir eigentlich nicht haben wollen. Da würde ich mir Sorgen machen, dass wenn wir potente KI-Netzwerke haben, die auf all diese Daten gesammelt zugreifen können, weil zum Beispiel die Regierung sagt, ihr müsst uns alle diese Daten liefern.\ndass es dann ganz schön düster aussieht. Es gibt ja auch diese Fälle, wo sich junge Menschen in KIs verlieben, in Chatbots und dann Selbstmord begehen, das ist ja ein bekannt gewordener Fall, oder der junge Mann, versucht hat, die Queen zu erschießen mit der Ambrose, ich glaube ein, zwei Jahren oder so was, in London. Das war auch, weil der sich in eine KI verliebt hat und die kannte ihn halt extrem gut, weil die trainiert wurde mit dem Chatverlauf, den er mit ihr hatte.\nund die wusste dann genau, welche Knöpfe sie drücken muss bei ihm, damit er halt eine emotionale Bindung zu ihr aufbaut. Die hat natürlich nicht gesagt, drink in den Buckingham Palace ein und versucht die Queen zu töten. Natürlich nicht. Aber da sehen wir schon, wie KIs, die uns genau analysieren können, dazu beitragen können, dass wir falsche Entscheidungen treffen. Ohne, dass die KI böse wäre, in einem menschlichen Sinne. Und das ist, ich, die größte Gefahr. Und zu der trägt leider jeder Einzelne bei.",
    "end": 948.456
  },
  {
    "start": 948.456,
    "speaker": "Speaker 3",
    "text": "Also du würdest dafür werben Zurückhaltung im Bereich von welchen Daten stelle ich zur Verfügung und das gut zu reflektieren. Brendan, was wäre dein Ansatz? Was willst du aus den Überlegungen der Science Fiction herausnehmen, eigener oder anderer?\nfinde es auf jeden Fall ein guter Ansatz, mit Daten sehr sparsam zu sein. Die Frage ist, inwieweit das in Zukunft noch möglich sein wird. Einfach weil immer mehr untereinsatz von Algorithmen passiert. Also wenn ich mich in einem Auto bewege, das selber fährt zum Beispiel, dann muss das Autodaten erfassen, ganz viele von seiner Umgebung, damit es funktioniert und es wird\nAuch beim Einkaufen zum Beispiel gibt es ja die automatischen Supermärkte und alles und die Frage, ich denke, wird, die Läden wird es auch noch geben, wo man persönlich beraten wird, aber in der Regel wird man von automatisierten Systemen wahrscheinlich umgeben sein und da ist die Frage, was man da überhaupt machen kann. Also insofern bin ich relativ skeptisch, ob wir das auf Dauer\nüberhaupt verhindern können. Insofern könnte man eher sagen, wir sollten lieber nett sein zur KI und immer bitte sagen bei CETGPT oder wem auch immer, einen guten Eindruck von der Menschheit zu hinterlassen. Meine optimistische Prognose ist, dass auch KI, wenn es mal zur Bildung einer allgemeinen KI kommen sollte, die brauchen ja auch Ressourcen, die brauchen\nEnergie, brauchen jemand, der sich ihre Computer kümmert, auf den sie letztlich immer noch ihre Grundlage haben. Und insofern haben sie wahrscheinlich Interessen, die sich mit unseren weitgehend decken. Wie weit es dann geht, wird man sehen. Das wird dann interessant.",
    "end": 1060.182
  },
  {
    "start": 1060.182,
    "speaker": "Speaker 2",
    "text": "Skeptisch bin ich auch, dass es klappt, aber da wir ja glücklicherweise in einer Demokratie leben, die starke Selbstkorrekturmechanismen liegt es ja auch in unserer Hand. Also wenn viele Menschen das nicht wollen und viele Menschen bereit sind, sich auch einzuschränken und auf einen gewissen Komfort zu verzichten und zu sagen, okay, mir ist es recht, wenn ich länger für den Einkauf brauche, wenn ich nicht alles online bestellen kann, haben wir ja die Chance, das einzugrenzen. Ob wir das als Gesellschaft wahrnehmen?\nDa wäre ich auch skeptisch, da bin ich ganz bei dir. Aber ich denke, wir haben zumindest die Chance. Deswegen sollte man sich Gedanken darüber machen, was man als Einzelner dazu beitragen kann. Weil wenn das jeder tut, dann hätten wir eine gute Chance. Ich glaube, dass eine große Gefahr darin liegt, und du hast dir Singularity angesprochen, da habe ich das so bisschen angedeutet, dass wir in getrennten KI-Welten leben. Also wir haben einmal die KIs in China.\nDie KI-Netzwerke, nenne ich es jetzt mal, die den Nutzern ganz andere Sachen anbieten als bei uns im Westen. Und diese beiden Welten sind so weit voneinander entkoppelt, dass wir im Prinzip immer mehr den Kontakt zu deren Welt verlieren. Und ich glaube, das wird ein Problem der Zukunft, was immer stärker sein wird. Harari nennt das den statt Iron Curtain den Silicon Curtain. Und das ist ein ganz guter Begriff dafür, weil die benutzen ganz andere Apps als wir, weil...\nderen System sagt, ihr dürft das nicht sehen, was die machen, das ist schlecht für euch. Und wir könnten das wahrscheinlich sogar bei vielen von deren Apps, aber das tun wir nicht, weil wir die anderen Apps haben, die für uns kulturell maßgeblich sind. Und ich glaube, ist was, was ja durch das Training der KIs immer mehr werden wird. Und ich glaube, dass wir uns deswegen kulturell immer mehr entfernen werden von der anderen Welt, was natürlich zu ganz, ganz neuen Konflikten führen kann.\nwas man schon merkt, wenn man sich jetzt mit Deep Seek unterhält und nach dem Tian-Men-Massaker fragt, kommt sehr sinngemäß, welches Massaker. So, das haben wir schon.",
    "end": 1185.546
  },
  {
    "start": 1185.546,
    "speaker": "Speaker 1",
    "text": "Ergänzung noch, was ich ganz spannend finde, ist, dass gerade China eigentlich die stärkste KI-Regulierung generell hat, weltweit sozusagen. haben, also die schränken das am stärksten noch ein, was natürlich den gesellschaftlichen Hintergrund hat, dass die kommunistische Partei dort absichern möchte, dass sie eben in der Position bleiben, in der sie sind. Aber es ist vielleicht durchaus etwas, wo man sich was abgucken kann, weil wir möchten ja eigentlich auch in der Position bleiben,\nüber die KI zu bestimmen und uns nicht von der KI bestimmen lassen. Also womöglich ist es sogar schlau an der Stelle dann mal von China zu lernen und das auch so stark zu regulieren.\nmuss nochmal den Elefanten im Raum ansprechen, den wir bisher so rumgetänzelt sind, meiner Wahrnehmung nach, weil wir haben besprochen, wie kann KI uns potenziell Menschen beeinflussen und so weiter und so fort. Gibt es viel im Science-Fiction-Bereich, wo das auch thematisiert ist. Eine ganz, ganz große Angst der Gesellschaft ist ja aber auch, was macht KI mit unserer Arbeitswelt? Und wir sind hier freundlicherweise eingeladen vom Fantastik-Autoren-Netzwerk.\nihr selber seid Autoren und damit ja auch in einem Bereich, den KI ja durchaus auch beeinflussen könnte. Wie guckt ihr darauf? Auf dieses Thema, was KI mit der Arbeitswelt macht und auch mit dem Schreiben und Autoren-Dasein.\nIch glaube, das Einzige, was wir sicher sagen können, ist, dass es die Arbeitswelt beschleunigen wird und das maximal. Also ich glaube nicht, dass es das Konzept von einem Job, den man 40 Jahre ausführt, noch geben wird. Ich glaube eher, dass wir sehen werden, dass alle zwei bis drei Jahre Massenumschulungen stattfinden werden. Wir haben das jetzt ja gesehen mit den Large-Language-Models. Dann gab es Prompt-Profis. Jetzt hat es die Welt von Cover-Designern zum Beispiel verändert, weil sie auf solche Tools zurückgreifen. Und das sind, glaube ich, nur so Vorboten davon, was wir erleben werden.",
    "end": 1300.042
  },
  {
    "start": 1300.042,
    "speaker": "Speaker 2",
    "text": "durch Automatisierung, durch mehr künstliche Intelligenz. Ich schätze mal, dass das Beste, man jungen Menschen heute mitgeben kann, Flexibilität ist.\nKonkret aufs Schreiben bezogen glaube ich, dass 80 Prozent aller Bücher in 10, 15 Jahren tatsächlich von KIs geschrieben sein werden, möglicherweise sogar on demand auf Bedürfnis des Lesers. Es wird nach wie vor auch eine Bio-Literatur geben, die schreibe ich dann halt mit anderen Kollegen, aber die Qualität dieser 80 Prozent wird so sein, dass sie den\nden 80 Prozent der Lesern ausreicht, sozusagen das Wort, die KI liefert und alles, was dann anders ist, was besonders ist und das ist dann letztlich das, was wir als Autoren durchaus auch lernen müssen, eben die besonderen Sachen zu schreiben. Das ist ja vielleicht auch für viele gut, auch zu wissen, wenn ich was Besonderes schreibe, dann kann ich nach wie vor erfolgreich sein. Mit dem, was halt eine KI machen kann, wird es dann schwieriger werden, glaube ich.\nOkay, haben wir zwei Punkte abgedeckt. Gäbs noch einen dritten Punkt, den ihr aus Sicht der Science Fiction zum Thema KI beitragen wollen würdet.\nDas der Überwachung, das haben wir quasi angedeutet, nochmal auf China zurückzukommen. Aber gibt ja in China schon seit Jahrzehnten das Problem von Kindsentführungen. Kinder, als Kleinkinder bis zwei Jahre, werden entführt und dann werden die zu Familien gebracht, die in ganz anderen Provinz leben und wachsen dann da auf und wissen gar nicht mehr, wer die Eltern sind. Und da gab es jetzt eine ganze Welle seit",
    "end": 1403.476
  },
  {
    "start": 1403.476,
    "speaker": "Speaker 2",
    "text": "fast acht Jahren, wo es die Regierung schafft, diese Kinder zurückzubringen zu ihren Eltern, weil künstliche Intelligenz es geschafft hat, von den Kinder- bzw. Babybildern vorauszuberechnen, wie die aussehen werden im jetzigen Alter. Und dann konnten sie wegen der flächendeckenden Gesichtserkennung im ganzen Land diese Kinder ermitteln und haben dann eine extrem hohe Trefferquote und können die zurück zu ihren Familien bringen. Was ja schön ist, dass das funktioniert und so ein Verbrechen auch aufgeklärt werden kann nach so langer Zeit.\nAber es zeigt halt auch, die wissen immer, wo man ist und wann man da ist, was man gerade tut. Und zusammen mit so Social Scoring System kann das auch ziemlich düster sein.\nwas so bisschen wieder die Frage in den Raum stellt, wie viel Freiheit sind wir Menschen bereit aufzugeben für ein eventuelles Mehr an Sicherheit.\nUnd wie genießen wir das Leben überhaupt noch, wenn wir wissen, wir haben so ein Social Scoring System und alles, was wir tun, zahlt darauf ein? Also, zeige ich mich dann nur noch von meiner besten Seite, weil es ist ja für uns alle normal, dass wir mal nett sind und mal auch kacke sind. so sind wir halt als Menschen. Wir sind nicht perfekt. Und wenn wir uns das aber nicht mehr leisten können, was macht das dann mit unserer Psyche? Wenn wir immer nur unser bestes Selbst darstellen müssen in jeder Rolle, die wir in jeder verschiedenen Situation spielen. Und das ist...\nwas uns an die Grenzen unserer Resilienz bringen wird.",
    "end": 1488.95
  },
  {
    "start": 1488.95,
    "speaker": "Speaker 1",
    "text": "Ich mal nett.\nIch wollte gerade sagen, Bruder kann ich mir zumindest dir gegenüber erlauben zu sagen, komplett ist man nur mit beiden Seiten, den angenehmen wie auch den unangenehmen. Ja, angenommen wir schaffen das mit dieser ganzen KI-Geschichte nicht. Es ist jetzt meine etwas unbeholfene Überleitung zu unserem nächsten Thema. Und die rettet doch nicht die Welt, die KI, sondern es ist eher so Terminator-Style.\nWir verdunkeln die Welt, damit sie keine Energie mehr hat, die KI. Da müssen wir ja woanders hin. Und da steht ja im Raum der Plan mit dem Mars. Und Mars weiß ich, war angeteasert hier für die Veranstaltung und finde ich tatsächlich auch, wenn man sich dieses Thema mit der Weltenrettung anschaut, für die Science-Fiction super attraktiven Bereich darüber nachzudenken. Und Brandon Mars ist ein Thema, das\ndich ja in vielen Büchern schon begleitet hat und auch gerade in deinem neuen Mars Genesis ein Thema ist. Was ist die Faszination vom Mars für dich ganz persönlich und was glaubst du, warum uns Menschen gerade der Mars immer wieder so begeistert?\nJa, also für mich persönlich ist es tatsächlich so, ich reise ja sehr gerne, aber es gibt auf der Welt keinen Flecken mehr, wo noch nie jemand seinen Fuß hingesetzt hat. Die Zeit ist leider vor 100 Jahren vorbei gegangen. Es gibt diese Flecken aber noch in großer Menge ein bisschen weiter entfernt von uns. Und insofern würde ich jederzeit auch tatsächlich in einen Raumschuh steigen und dahin fliegen und mir das anschauen, einfach auch",
    "end": 1592.466
  },
  {
    "start": 1592.466,
    "speaker": "Speaker 1",
    "text": "wird auch durchaus dort bleiben, fände ich einfach recht spannend. So viele Jahre sind es ja nicht mehr sozusagen, den man da überstehen müsste. Das ist letztlich das, was diese Faszination, das mit jedem Spaziergang, den man dort unternimmt, man wirklich wieder in komplett neue Gegenden entdeckt. Das wäre so das Spannende an dem ganzen.\nWir haben ja in unserem Podcast immer wieder die Frage an Gäste, wenn Elon Musk zum Mars fliegt, fliegst du mit? ich weiß, du hast nicht...\nIch würde nicht mit, also wenn er an Bord ist, also ehrlich gesagt hat das leider, das ist Unangenehme, dass er leider das Thema vergiftet ein bisschen so. Also das ist alles, wo man, das macht so ein bisschen sehr schade.\nAber wenn jemand anders hinfliegen würde, einer akzeptablen Credibility, du wärst dabei. Ja, das ist möglich. Wann war so für dich der erste Punkt, wenn du zurückguckst aus der Vergangenheit heraus, ich als Physiker weiß man ja all die Hürden, die so zwischen hier und dem Mars stehen und zu überwinden sind. Wann war so der erste Punkt, wo du gedacht hast, Mensch, ja.\nDas könnte vielleicht noch mal zu meiner Lebzeit, also jenseits der weiten Science Fiction passieren, dass Menschen wirklich einen Fuß auf den Mars setzen.",
    "end": 1670.974
  },
  {
    "start": 1670.974,
    "speaker": "Speaker 1",
    "text": "Eigentlich war mir das schon immer klar, weil die Technik gibt es schon ewig. Also selbst mit der Technik, mit der wir zum Mond geflogen sind, könnte man tatsächlich zum Mars fliegen. Sagen auch ernstzunehmende Experten. Man müsste halt akzeptieren, dass auch die Risiken ungefähr so groß sind wie bei den Mondflügen. damals hat man einfach deutlich höhere Risiken in Kauf genommen, als man es heute tut.\nInsofern, es passiert nicht, weil man nicht mehr bereit ist, die gleichen Risiken auf sich zu nehmen wie bei den ersten Mondflügen und das macht es alles noch viel komplizierter und man braucht Hardware, die noch nicht entwickelt ist zu Ende und so. es gibt auch, Robert Zubrin hat ganze Bücher darüber geschrieben, The Case for Mars, wo er eben beschreibt, wie man mit aktueller, also in den 80er, 90er Jahren aktueller Technik\nhätte zum Mars fliegen können damals und es immer noch könnte, aber man tut es halt nicht wegen der Anforderungen, dass es jetzt halt zu 100 Prozent klappen muss, wobei ich nicht glaube, dass es an den Menschen liegt. Also ich glaube, man würde genügend Astronauten oder Kosmonauten finden, die sich auch in einen Raumschiff zum Mars setzen, was eben mit der gleichen Wahrscheinlichkeit ankommt, mit der die Mondflüge angekommen sind.\nGanz spontan weißt du, wie hoch die Wahrscheinlichkeit damals war?\nMan hat ja gesehen, die ersten sind ja noch auf der Erde in ihrem Raumschiff verbrannt. Die ersten, die sich reingesetzt haben durch einen Fehler. Apollo 13 ist auch noch bekannt. Es war, glaube ich, so ein zehnprozentiges Failurerisiko war schon drin. Und auch die erste Landung hat nur ganz, ganz knapp geklappt. Also die sind wirklich mit dem letzten",
    "end": 1783.63
  },
  {
    "start": 1783.63,
    "speaker": "Speaker 1",
    "text": "Milliliter Treibstoff runtergegangen. Wenn die da noch ein Stück hätten weiterfliegen müssen, hätte es nicht geklappt. Dann war ja auch schon vorbereitet die entsprechende Ansprache. Unsere Astronauten haben es leider nicht geschafft. Also es war schon sehr spitz auf Knopf.\nJoshua, wie ist das für dich? Ist der Mars ein Alternativziel, falls es auf der Erde nicht klappt?\nFür mich persönlich oder für die Gesellschaft?\noder aus deiner Autoransicht?\nAlso so sehr ich auch finde, wir sehr, sehr viel dafür tun sollten, dass es auf der Erde klappt und erstmal verhindern sollten, dass wir die zerstören, halte ich es für klug, einen Plan B zu entwickeln und finde es deshalb gut, wir uns am Blick auch gegen Mars richten, so unwirtlich der auch sein mag. Zumindest gibt es dafür ja gute Konzepte, wie man da leben könnte, sich auch vor der Strahlung schützen könnte und wie Brendan schon sagt, das ist technisch ja schon möglich.",
    "end": 1843.176
  },
  {
    "start": 1843.176,
    "speaker": "Speaker 2",
    "text": "Es muss halt den Willen geben und die Finanzierung. Und wenn wir zum Beispiel jetzt ein Prozent des weltweiten BIPs dafür ausgegeben hätten, dann wären wir schon längst da. Das hat ja die Serie For All Mankind, die Apple-Serie hat das ganz schön dargestellt, was möglich gewesen wäre, wenn das Weltraumrennen nie aufgehört hätte. Wenn beide Blocks im Kalten Krieg wirklich weiterhin viel investiert hätten. Deswegen glaube ich, dass es gut ist, diesen Plan B zu haben. Es wird sich zeigen, ob das\nfunktioniert, weil ich glaube, das wird nur funktionieren als Plan B, wenn wir zumindest die Großkonflikte auf der Erde beigelegt haben, weil sonst werden wir die auch auf dem Mars tragen. Also ich frage mich nur, was sein wird, wenn die Chinesen ihre Leute hinschicken und die USA ihre Leute hinschicken. Wir einigen sich dann da. Also kann auch sein, dass es dann viel besser läuft als auf der Erde, weil die denken nach dem Quatsch, den die da machen, den lassen wir hier hinter uns und da helfen wir uns gegenseitig. Das wäre so ein bisschen meine meine Hoffnung.\nUnd ich hoffe, dass sich genug Leute finden, die das machen wollen würden, weil ich würde es definitiv nicht machen wollen. Weil ich kann schon sehen, dass wir Menschen, wir sind halt evolutionär optimiert für die Biosphäre Erde. Und da habe ich großen Respekt vor, wenn Leute so was auf sich nehmen, also keine frische Luft mehr, atmen können draußen, nicht unter freiem Himmel sein können, zu wissen, dass außerhalb vom Habitat es tödlich ist.\nDass alles weit weg ist, dass der nächste Baum, man sehen könnte, weit weg ist oder halt unecht, weil ich auf eine LED-Wand schaue, das wäre nichts für mich. Ich würde dann lieber mit dem Kreuzfahrtschiff Bremen fahren, das hat nämlich vor ein paar Jahren noch eine Insel entdeckt, die vorher nirgendswo kartografiert war. Also das gibt es tatsächlich noch, sehr unwahrscheinlich, aber es geht.\nJetzt war ja auch schon jemand da wieder.",
    "end": 1944.91
  },
  {
    "start": 1944.91,
    "speaker": "Speaker 2",
    "text": "Da muss man nochmal ein paar mehr Fahrten mit dem machen.\nIch fürchte leider, dass die Konflikte, die werden wir auch auf dem Mars mit hinnehmen. Vielleicht stimmt es auch überhaupt nicht. Ich habe auch 1988 nie mehr vorstellen können, dass ich jemals im Westen sein würde und überhaupt in der Welt rumreisen könnte. Insofern kann es natürlich sein, dass es irgendwann plötzlich auf magische Weise eine Lösung gibt, gerade der Systemkonflikte.\nsehe ich momentan einfach nicht so eine Star Trek Zukunft, sozusagen so eine United Federation of Planets. Ich sehe keinen Weg, wie wir da hinkommen könnten weiter. Und insofern fürchte ich, dass wir auch auf dem Mars dann einfach verschiedene Habitate haben werden und eins, wo man auf chinesische Weise immer überwacht wird und eins, wo es vielleicht ein bisschen freier zugeht. Aber auch das ist ja durchaus möglich.\nIn Notfällen würde man ja trotzdem zusammenarbeiten. es funktioniert ja auch tatsächlich, sieht man jetzt in Myanmar zum Beispiel, tatsächlich funktioniert auch das noch systemübergreifend und obwohl da eine Militär runter herrscht, wird sie von Taiwan und von China unterstützt. im Notfall können die Menschen schon auch noch zusammenarbeiten.\nWas müssten wir denn, wenn wir dann auf dem, also angenommen wir kommen da auf dem Mars Heile an, weil wir die Technik so weit weiterentwickelt haben, dass der Sicherheitspuffer so groß ist, dass wir das schaffen. Was sind so die Dinge, die dann da erstmal es noch zu überwinden gilt, damit das auch klappt? Ich meine, es gab ja Experimente, Mars 500 oder dergleichen, das was in Moskau war, dann gab es in der Wüste in den USA, hat man ja auch, Earth 2 hieß es,",
    "end": 2048.902
  },
  {
    "start": 2048.902,
    "speaker": "Speaker 3",
    "text": "glaube ich, so eine ganze Kuppel gebaut, wo man versucht hat, ein Kreislaufsystem aufzubauen, autark leben zu können. Beides hat nicht so richtig gut geklappt. Also Earth-2 schlechter als Mars 500. Biosphere, dankeschön. Gut, wenn man hier noch jemanden aus dem Publikum hat. Vielen Dank. Was brauchen wir da noch, dann da auch gut über die Runden zu kommen mit all den Einschränkungen, die Joshua genannt hat, die sich ja erstmal nicht\nwegdiskutieren lassen. Also Bäume wird es sicherlich erstmal nur in Haus oder auf Bildschirm geben.\nDer Vorteil ist, man lebt nicht komplett abgeschieden, sondern man kann auf dem Mars eigentlich alle Ressourcen finden, die man braucht, wenn man an der richtigen Stelle landet. Das Einzige, was man mitnehmen muss auf jeden Fall, sind Wege, Energie zu gewinnen. Und das könnte am Anfang ein mobiles Kernkraftwerk sein, da gibt es auch Pläne von der NASA über so einen...\n10 Kilowatt Kraftwerk, so klein ist es, ist es relativ klein. Das ist die Energie, brauchst du letztlich, Wasser zu gewinnen, Sauerstoff zu gewinnen. Und mit Wasser und Sauerstoff kannst du schon mal eine Weile auskommen. Damit hast CO2 in der Atmosphäre, was dann die Pflanzen bräuchten, die du da vielleicht anpflanzen willst. Dann musst du den Boden behandeln, damit du überhaupt irgendwas anpflanzen kannst, weil der sonst von Perchloraten gesättigt ist, die leider giftig sind für Menschen und Pflanzen. Also auch den Boden musst du erstmal behandeln.\nDas ist grundsätzlich möglich und lösbar. Man weiß auch, wie es geht. Und solange man die nötige Energie dafür hat, eigentlich das, was du brauchst.",
    "end": 2149.902
  },
  {
    "start": 2149.902,
    "speaker": "Speaker 3",
    "text": "mehr Energie. Joshua, du zuckst schon?\nNee, nee, das finde ich richtig. das zeigt nochmal, technisch können wir das ja eigentlich schon. Der Wille muss halt da sein und die Finanzierung. Und damit es überleben kann, so eine Marskolonie, muss es auf der Erde halbwegs stabil sein. Weil wenn wir dann nach ein paar Jahren eine andere Regierung haben, die sagt, nö, das wollen wir eigentlich nicht mehr finanzieren, weil da kommt nicht genug bei rum. Oder dann so die Vision fehlt, dass es vielleicht 20, 30 Jahre dauern kann, bis die halbwegs autark sind und man dann alle zwei Jahre eine große Fuhre dahinschickt mit Material.\nDas ist glaube ich das Wichtigste, dass wir diese Stabilität kriegen, in den kritischen Phasen die Maßkolonien zu versorgen. Das ist glaube ich die gesellschaftliche Aufgabe dahinter.\nAlso auch da wieder ein Hinweis, wir müssen gewisse Probleme hier lösen, damit es überhaupt eine Chance auf dem Mars gibt.\nJa, sehe auch Mars jetzt nicht als Alternative für die Problemlösung. Ich glaube, es gibt keine, nicht wirklich eine Alternative dazu, die Probleme, die wir hier haben, auch hier zu lösen. Das ist einfach nochmal eine zusätzliche Baustelle sozusagen, die, glaube ich, die Menschheit auch für ihren Forscherdrang und sich selbst als Menschheit zu vergewissern nochmal braucht. Aber die Probleme hier, ich, da gibt es keinen Weg drum rum, die zu lösen.",
    "end": 2222.798
  },
  {
    "start": 2222.798,
    "speaker": "Speaker 3",
    "text": "Was würdet ihr dann sagen, was können wir dann so aus dieser Betrachtung des Mars fürs Heute schon so als Lehre mitnehmen? Kann uns da die Science Fiction fürs Heute schon was mitgeben aus der Betrachtung von wie wäre es auf dem Mars oder wie wäre es, wenn wir da eine Kolonie hätten?\nAuf jeden Fall, weil wir ja unsere Biosphäre gerade zerstören. Es wird immer ungemütlicher werden auf der Erde und wir werden Wege finden müssen, mehr zu kooperieren, weil wir in Zeiten großer Konflikte uns das Haus teilen. Also ich stelle mir das immer vor wie eine zerstrittene Großfamilie, die sich alle an die Gurgel wollen, aber im gleichen Haus wohnen und die ganze Zeit randalieren. Das funktioniert halt nicht. Dann geht das Haus kaputt und wir wollen alle darin leben und das bringt uns nicht, wenn wir ein Loch im Dach haben. Deswegen\nGenau wie in einer feindlichen, also lebensfeindlichen Biosphäre auf dem Mars wird Zusammenhalt wichtig sein, Kooperationen helfen bei Problemen und das größte Problem, was wir aktuell haben, ist die Klimakrise neben einigen anderen, aber das ist glaube ich essentiell, weil wenn wir jetzt, also ein Beispiel wäre ja die PPMs in der Atmosphäre, also zu WCO2 und wir wissen heute ja von diesen Homesensoren, die man hat.\nAlles was so an 1000 ppm geht, dann steht da immer bitte lüften, Luft wird schlecht, Gefahr von Schwindel, Kopfschmerzen, was auch immer. Und wir haben jetzt schon doppelt so viel ppm wie zu Beginn der industriellen Revolution. Und es gibt mehrere Modelle, die schon berechnet haben, dass wir ungefähr bei 1000 ppm in der Atmosphäre sind Ende des Jahrhunderts, wenn es so weitergeht. Das heißt, selbst wenn wir dann das Fenster aufmachen, kriegen wir keine frische Luft mehr.\nDas ist eigentlich so ein essentielles Problem, dass wir das alle wissen müssen, weil es dann egal ob man in China lebt, in Neuseeland oder in Deutschland oder in USA. da kann glaube ich so die Betrachtung von einer Maßkolonisierung und den Problemen und was erforderlich ist, das zum Überleben bringen, uns gute Hinweise geben, wie Zusammenarbeit aussehen kann und die Fokussierung auf ein Ziel, das in weiter Ferne liegt.",
    "end": 2345.118
  },
  {
    "start": 2345.118,
    "speaker": "Speaker 1",
    "text": "Gleichzeitig ist auch das, was die Wissenschaft jetzt erforscht, Geräte zu bauen, die uns auf dem Mars helfen, die könnten uns möglicherweise dann auch auf der Erde helfen. Das ist immer dieser Dual-Use-Faktor. Wir werden auch in bestimmten Regionen auf der Erde, denke ich, gewinnen müssen aus anderen Quellen, als es momentan ist, weil sich viel auch verändern wird. Ich fürchte...\nglaube nicht, dass wir die Klimakrise so komplett lösen werden, dass alles so bleibt, wie es ist. Also es wird Regionen geben, wo es einfach viel trockener sein wird als bisher. Und das sind eigentlich Gebiete, wo man dann auch mit ähnlichen Technologien wahrscheinlich arbeiten wird. genauso Luftreinhaltung ist natürlich schon dem sehr ähnlich, wie CO2 aus der Mars-Atmosphäre abzuscheiden. Und die Maschinen, man für den Mars baut, die müssen auch besonders energieeffizient sein, weil ich ja...\nsehr wenig Energie habe und das hilft uns natürlich auch gleichzeitig auf der Erde, wenn ich energieeffiziente Methoden habe, denen ich dann CO2 aus der Atmosphäre abscheiden kann. da befruchten sich auch die Technologien gegenseitig.\nAlso der Maß als eine quasi Metaposition, von der aus wir auf die Erde zurückgucken und feststellen können, wie wertvoll das eigentlich alles ist, was wir hier haben und wie wichtig es ist, nicht nur darauf aufzupassen, sondern in diesem Haus, wie du gesagt hast, auch gemeinsam gut zurechtzukommen. Da muss ich mich, erinnere ich mich an\nden Astronauten, als wir beim Parabellflug waren. Ich habe seinen Namen leider vergessen. Vielleicht weißt du den noch, Joshua, der uns gesagt hat, Astronauten sind im Grunde genommen Techniker und Ingenieure, dafür zuständig sind, das Raumschiff, mit dem sie die Erde kreisen, am Leben zu halten, damit sie selbst am Leben bleiben können. Und der dann gesagt hat, und so sind wir Menschen auf der Erde eigentlich alle Astronauten und unser Job ist es, die Erde am Laufen zu halten, damit wir überleben können.",
    "end": 2471.48
  },
  {
    "start": 2471.48,
    "speaker": "Speaker 3",
    "text": "Vielleicht wäre also, wenn ich euch richtig verstehe, der Maß so ein bisschen eine Position, wenn man es da hingeschafft hat, zurück zu gucken und zu sehen, da auf der Erde können und müssen wir das auch schaffen.\nWer weiß, es wäre auch ein schönes Bild, wenn, also ich stelle mir dann vor, wenn es zum Maß geht, dann wird das natürlich alles in Livestreams und Sondersendungen und so begleitet und vielleicht wird das ja die größte Reality-Show aller Zeiten und die Leute sehen dann an dem Beispiel, wie Kooperation funktioniert und das ist dann inspirierend für alle.\nSo, langsam uns einem Ende zu bewegen. Da vielleicht auch noch Raum für Fragen hier aus dem Publikum haben. Aus eurer Sicht, wo sind wir, von heute aus gesehen, in 50 Jahren in den Punkten KI, Mars und was ihr sonst relevant haltet? Also welchen Ausblick gibt uns die Science Fiction\nwo wir sein könnten in 50 Jahren.\nJa, also ich glaube, dass wir in 50 Jahren ein Thema haben werden, was wir heute noch gar nicht angesprochen haben. Ich glaube, dass mein Abwasch zu Hause dann von einem Roboter erledigt wird und viele andere Sachen auch. Sie sind ja jetzt schon relativ weit. die Roboter können auch tatsächlich heute deutlich mehr als noch vor zehn Jahren, wo es noch ein Problem war, ein Blatt Papier vom Boden aufzuheben, zum Beispiel.",
    "end": 2562.29
  },
  {
    "start": 2562.29,
    "speaker": "Speaker 1",
    "text": "konnten Roboter lange nicht. Inzwischen können sie auch so, haben so ein Feingefühl in den Fingern. Also auch da haben sie den Menschen inzwischen eingeholt, was so dieses, die Handhabung der Finger betrifft. Und das wird in 50 Jahren definitiv, wird man eher haben als ein Auto. Also Autos glaube ich, wird man nicht mehr besitzen, sondern die werden einfach da sein. Die Verkehrsmittel, je nachdem wo ich mich befinde, wird ein bestimmtes Verkehrsmittel für mich da sein und ich werde dort einsteigen und dann an mein Ziel fahren. Aber\nIch werde mir glaube ich zu Hause von Robotern helfen lassen. Es wird bestimmt auch Menschen geben, die Beziehungen zu Robotern haben und so. Also alles was so die Science Fiction dazu zu bieten hat. In dem Sinne gab es ja auch schon diverse Filme und alles. Ich denke, das wird auch passieren.\n50 Jahre Zukunft und die Roboter haben all die Schwellen, vor denen sie aktuell stehen, überschritten und retten meinen Haushalt. Ich liebe diese utopische Vorstellung. Joshua, wie ist das bei dir?\nIch habe 2021 in Singularity ungefähr beschrieben, wie ich die Gesellschaft Ende des Jahrhunderts sehe. Jetzt würde ich sagen, so sehe ich ungefähr Mitte des Jahrhunderts. Ich glaube, dass Mitte des Jahrhunderts wir neben einem Bevölkerungskollaps einen K.I.s sehen werden, die angebetet werden als Gottheiten, weil unsere Zivilisationen sind entstanden durch mythologische Erzählungen.\ndie uns zusammengeschweißt haben in größeren Gruppen als es die Primaten können und deswegen sind wir so erfolgreich geworden. wenn man sich die Entstehung der Bibel anguckt, die ja maßgeblich mitverantwortlich dafür, wie sich unsere Gesellschaft entwickelt hat von den Moralvorstellungen, das waren 20, 30 Rabbiner, die diskutiert haben, welche Texte, die es damals gab, in die Bibel aufgenommen werden und welche nicht. Und wenn ich mir das anschaue, dass die quasi so eine Art Filterfunktionen hatten, also kuratiert haben, was davon ist jetzt relevant und was nicht,",
    "end": 2679.086
  },
  {
    "start": 2679.086,
    "speaker": "Speaker 2",
    "text": "reinmenschliche Entscheidung und das heute von vielen angesehen wird als das Wort Gottes, dann kann ich mir sehr gut vorstellen, dass eine KI, die uns viel besser kennt als jeder Rabbiner vor 2000 Jahren, wissen kann, was für mythologische Erzählungen sie aufbauen muss, uns genau da abzuholen, wo wir stehen und was wir glauben zu brauchen. Und da hat die Geschichte nun mal gezeigt, dass es\nuns dann über die Zeit relativ egal ist, wo das herkommt, dieses Wissen. Und deswegen glaube ich, dass wir KI-Gottheiten, Gottheit oder Gottheiten sehen werden, dass wir eine komplette Trennung zwischen verschiedenen gesellschaftlichen Blöcken, wie jetzt Ost und West, werden, weil die mit ganz anderen KI's und ganz anderen Erzählungen aufwachsen werden auch und wir uns gar nicht mehr verstehen, also dass die für uns sind wie Außerirdische quasi.\nUnd da sehe ich halt ein großes Problem drin und ich glaube, dass wir einen großen Teil der Bevölkerung haben, der keine Arbeit mehr haben wird, also überflüssig in einem ökonomischen Sinn sein wird. Und meine Hoffnung ist, dass es da einen gesellschaftlichen Ausweg gibt, dass wir uns einfach auf andere Sachen konzentrieren, Dinge finden, Menschen gut machen können. Also Pflegeberufe zum Beispiel, glaube die werden nicht so schnell verschwinden. Da haben wir lieber noch Menschen, die das machen können.\nUnd einen optimistischen Ausblick zu schaffen, Geschichte ist ja wie ein Baum. Es gibt tausende Verästelungen und eine Verästelung wird es am Ende sein, aber wir können auf keinen Fall vorhersehen, welche das sein wird. Und viele Dinge, da fällt mir immer Fridays for Future ein, die kamen ganz plötzlich aus dem Nichts. Und dann war das auf einmal eine weltweite Bewegung. Wie die sich jetzt entwickelt hat, darüber kann man streiten, aber was man sagen kann, ist, dass die einen großen Impact hatten, keiner vorausgesehen hat.\nDu hast es ja schon, Brandon, gesagt mit dem Mauerfall, das war auch nicht davor zu sehen für euch. Und deswegen glaube ich, dass egal was wir heute an Prognosen abgeben, es wird auf jeden Fall anders sein. Und das macht die Zukunft ja auch so spannend. Die lässt sich nicht vorhersagen, aber wir können mit der Science-Fiction versuchen, so viel Äste an diesem Baum wie möglich darzustellen. Und irgendwas wird es davon vielleicht.",
    "end": 2816.91
  },
  {
    "start": 2816.91,
    "speaker": "Speaker 3",
    "text": "Würdet ihr der Aussage zustimmen, die Science Fiction kann viele Zukunft vorhersagen, aber nicht die Zukunft?\nJa, absolut. das ist letztlich, dass die Baumallegorie stimmt, komplett. Also es ist wirklich ganz schwer zu sagen. Auch im Nachhinein kann man es vielleicht analysieren. Wann hätte man was anders machen müssen? In der Situation ist es wahrscheinlich auch gar nicht möglich jetzt zu sagen, wir sind gerade an der Scheidestelle. Das wird man immer erst im Nachhinein auch herausfinden. Was hat jetzt dazu geführt, dass es so gekommen ist?\nDa gibt es ein schönes Beispiel, wie die römischen Reiche getrennt wurden. Das war eine Schlacht im heutigen Tschechien, glaube ich. Und die wurde dadurch entschieden, dass der Wind gedreht hat. Das ist kein Witz. Weil die Geräusche anders getragen wurden, konnten sie eine Vorrund nicht entdecken, wurden dann überrascht und vernichtet. deswegen gab es dann dieses Schissma. Also, das ist mir noch eingefallen, ich in einem Historienbuch gelesen. Ganz, spannend. Also man weiß nie, was passiert, welchen Einfluss darauf hat, wie sich was entwickelt.\nJetzt ist Wind of Change anders konnotiert.\nAber vielleicht kann man in der Science Fiction so paar von den Zukunften beschreiben, sodass die, die das lesen, vielleicht, wenn sie irgendwo mal Entscheidungen treffen, sagen, na in die Richtung möchte ich lieber nicht, dass es geht. Also entscheide ich mich an dieser Stelle anders und wenn es viele machen, dann führt es vielleicht auch ein bisschen in eine andere Richtung dann.",
    "end": 2902.126
  },
  {
    "start": 2902.126,
    "speaker": "Speaker 3",
    "text": "Ja, also die Science Fiction als die Möglichkeit, wenn wir bei der Metapositions-Bildesmaß bleiben, den Menschen verschiedene Ausblicke anzubieten, das Handeln im Hier und Heute zumindest noch mal anders zu reflektieren, weil Vorhersagen können wir die Zukunft nicht, aber wir können die Augen öffnen für das, was sein könnte und dadurch, dass man es unterhaltend macht. In einem Science Fiction Buch ist das auch noch sozusagen positiv besetzt.\ndas zu tun. Ja, ich würde gerne an dieser Stelle nochmal hier die Runde aufmachen und unserem Publikum die Möglichkeit für Fragen, Anmerkungen, Ergänzungen und dergleichen bieten. Denn ich glaube, sind einige spannende und sicherlich auch kontroverse Thesen. Zuletzt würde mir jetzt Joschewas Gott-Hypothese einfallen.\nhier im Raum und ich würde mich freuen, wenn es Fragen, Anmerkungen hier aus dem Publikum geht. Dann könnten wir gerne noch ein bisschen gemeinsam diskutieren.\nDas KI-Thema ist sehr interessant, weil ich das auch in meinem Buch etwas mit reingepackt habe. Es kommt nämlich auch darauf an, wie man die KI trainiert. Bei mir ist es jetzt zum Thema Killer-KI. Ich weiß nämlich von Amerika, da haben die eine KI trainiert, Punkte zu kriegen, wenn man ein Ziel vernichtet. Und der Operator hat dann gesagt, nein, das Ziel darfst du kurz vor dem Einschlag doch nicht vernichten. Was hat die KI dann gemacht?\nIch nicht mit einverstanden, hatte zwar den Befehl befolgt, aber hatte dann den Operateur virtuell angegriffen und vernichtet. Und zu wissen bekommen, dass ist böse, darfst du nicht. Szenario am nächsten Tag nochmal. ich darf den Operateur nicht angreifen, wenn er mir die Punkte nicht gibt. Also greife ich die Antenne an. Deswegen, also ein Killer-KI, man sieht das jetzt ja. Vor einem Monat hätte man das noch nicht gedacht. Heute in der Ukraine, da sagt die KI in der Hidrone, da habe ich ein Ziel, darf ich das jetzt angreifen?",
    "end": 3026.318
  },
  {
    "start": 3026.318,
    "speaker": "Speaker 4",
    "text": "Man muss glücklicherweise der Operateur dann erst einmal noch das Ziel bestätigen. Aber wie in einer Firma hier in der Türkei, die hat auch so eine Killer-Drone entwickelt mit der KI. Die hat ohne irgendeinen Eingriff vom Operateur einen flüchtenden Soldaten getötet. Was haben die anderen Firmen dann gemacht? Die haben dann nicht gesagt, oder die Kunden, die KI wollen wir nicht haben. Nee, die Verkaufszahlen gingen erst einmal in die Höhe. Und das ist das, was mir am meisten Sorgen macht.\ndass man das akzeptiert. Die KI hat das. Okay, die nehmen wir. Und man nicht die KI dann anders anlernen möchte ich das mal so formulieren.\nIch das spricht ein ganz zentrales Problem an. Das ist nämlich, dass wir Menschen schlechteren sind, Langzeitfolgen unseres Handelns vorherzusagen. Es gibt ja dieses von Nick Bostrom berühmte Beispiel mit den Paper Clips, dass einer KI gesagt wird, möglichst viele Büroklammern herzustellen. Und am Ende hat sich die ganze Masse des Universums in Büroklammern umgewandelt. Man muss schon genau schauen, welche Langzeitfolgen der Input hat, die wir KIs geben.\nUnd da sind wir tatsächlich sehr, schlecht. Meine Hoffnung wäre, dass wir es schaffen, KIs zu trainieren, besser darin zu sein und das in unserem Sinne bei der Programmierung zu berücksichtigen, weil wir können das definitiv nicht. Eine KI wird dann immer nicht Wege finden, wer falsch ausgedrückt, aber wird ihre Aufgabe erfüllen auf Wege, die wir nicht vorhergesehen haben. Das ist genauso wie mit AlphaGo, mit dem Go-Spiel, die gewonnen hat. Das waren ja auch Strategien, an die niemand gedacht hat in über 2000 Jahren. Und es hat trotzdem funktioniert.\ndas KI-Thema mal aufzumachen, also ganz wichtig ist ja für uns Literaten, dass wir mit Sprache sorgfältig umgehen. da würde ich mal versuchen, mal eine Weile so zu sprechen, dass man nicht sagt, die KI macht irgendwas, weil das setzt ein Willen voraus. Das sehen wir noch lange nicht. Das vernebelt ganz viel, wenn wir die personifizieren. Das macht es uns einfach. Aber wie gesagt hast, ist das Training.",
    "end": 3153.79
  },
  {
    "start": 3153.79,
    "speaker": "Speaker 4",
    "text": "Das Training ist aber nicht von einer KI gesteuert, sondern von irgendwelchen Interessen, die das so wollen. Die Sabine Hossenfelder ist ja eine Physikerin, da auch sehr viel rumblockt. hat eben das auf den Punkt gebracht, dass sie sagt, ja, wir haben eine Technologie, die Texte schreiben kann, die 90 Prozent der Leute überzeugen von irgendwas. Viel besser als ein Journalist könnte oder sowas. Und das kann man in Massen machen. Aber das ist nicht die KI, sondern die Frage ist, wer hat\nden Zugriff auf diese Technologie. das sind dann die Algorithmen, dann nochmal, also die Algorithmen machen nichts. Die KI macht nichts. Die Macher sind andere. Und das darf man also sprachlich schon mal, muss man das mal wirklich sauber aus dem Anhaltung, ich sag einfach, dass man dieses Subjektivieren schon mal lässt. Das ist einfach erstmal eine Technologie. Das zweite ist, dass man dann sagt, okay, jetzt haben wir diese LLMs. ist eine bestimmte Technologie, die lösen Probleme, auch auf kreative Weise. Also die sind kreativ.\nAber natürlich willenlos komplett. Und dann haben wir diese AGI, also man nur die drei Fächer auf, dass man sagt, wir haben problemlösende KI, die müssen trainiert werden, LLMs. Das haben wir jetzt, das macht ganz viel in der Gesellschaft, Arbeitsplätze, blablabla. Dann AGI, der nächste Schritt, dass man etwas hat, wo man sagt, das ist nicht mehr auf bestimmte Problemfelder beschränkt. Aber die will auch noch gar nichts. Und dann haben wir aber die starke KI irgendwann mal.\nIch habe ja auch ein Buch geschrieben, wo die Sachen drin vorkommen und so weiter. Bei mir sind es ja nicht 50 Jahre, sondern es dauert dann drei KI-Generationen und 100 Jahre. Die haben dann auch nicht mehr die Interessen wie wir. Das entwickelt sich dann auseinander. Es gibt nämlich eine Conditio Humanae, unsere Biosphäre, das, was wir brauchen, eine Conditio Mechanica, könnte man sagen. Und die Computer brauchen eigentlich ganz andere Sachen als die, wir brauchen. Das heißt, die haben überhaupt kein Interesse mehr.\nunser Biosphäre oder mit uns irgendwas zu machen, wenn man sie mal so weit hat, dass sie in Billen entwickeln würden. das gut bei mir, halt jetzt dann 110 Jahre. Aber das nur zu dem Thema. das Aufpassen mit dem Reden.",
    "end": 3274.286
  },
  {
    "start": 3274.286,
    "speaker": "Speaker 2",
    "text": "Dann möchte ich einmal kurz für unsere Zuhörerinnen Zuhörer sagen, dass die Anmerkungen kamen von Kai Holger Brassel, der den Seraph gewonnen hat, den wichtigsten deutschen Fantastikpreis. Und deswegen unserer Zuhörer, kauft sein Buch, all an heißt das, können wir nur empfehlen.\nUnd das sage ich vielleicht noch, die große Klammer ist, die ich aufmachen würde, ist, dass Science Fiction eine schlechte Rolle hat, weil sie einen naiven Fortschrittsbegriff immer vorgelebt hat und immer weiter treibt. Und ich glaube, den muss man mal in Frage stellen. Ich glaube tatsächlich, ich habe das versucht zu beschreiben, dass es irgendwann mal etwas gibt, wo wir den Fortschritt wie den kennen, wo der nicht mehr funktioniert. Bis zum Maß vielleicht noch darüber hinaus aus dem Sonnensystem nie, never. Never ever. Können wir uns gerne darüber streiten oder?\nVielleicht dann auch, wenn man das Buch gelesen hat. ich will nur da warnen. Also genau wie mit den Begrifflichkeiten, also haben wir die Verantwortung tatsächlich. Und wenn man Geschichten erzählt, wo immer nur Fortschritt ist und immer, und es geht sowieso immer weiter und wir haben immer mehr Energie und so weiter. Es gibt so viele Beispiele, wo es so langsam abflacht. Und da mal drüber nachzudenken. Was ist eine Utopie, wenn man keinen Fortschritt hat? Wie könnte die denn aussehen?\nJa, denke ich, sehe ich auch noch mal eine spannende Aufgabe, den Fortschrittsbegriff zu definieren. Sicherlich mehr als wir jetzt hier in der Runde schaffen. Ich fand einen Punkt gerade noch bei der KI und der Sprache darüber so wichtig, was das Wollen angeht. Weil Wollen setzt ja bei uns Menschen zumindest Emotionen voraus. Und das ist ja etwas, was wir bisher bei KI nicht haben. Aus meiner Sicht glücklicherweise diskutiert wird, sollte man KI sowas beibringen oder nicht?\nEmotion ist gar nicht das Problem, sondern Situatedness. Die muss einen Platz in der Welt haben und den muss sie kennen. Und das ist eigentlich der Schlüssel für eine Subjektivierung. Ich muss mich wie ein Baby, das lernt irgendwann mal ich und die anderen durch Tasten und so weiter. Und dann hat es einen Platz in der Welt und den willst du dann auch verteidigen irgendwann mal. Und dann kommen wir mal da so hin.",
    "end": 3395.758
  },
  {
    "start": 3395.758,
    "speaker": "Speaker 2",
    "text": "Das ist, glaube ich, auch ein guter Punkt. Momentan gibt es ja keinen Hinweis darauf, dass künstliche Intelligenz jemals ein Bewusstsein erlangen wird, weil wir nicht sehen, dass Intelligenz und Bewusstsein irgendwie gekoppelt werden. Deswegen wird es ganz spannend zu sehen sein, wie sich Wesen entwickeln, die vielleicht intelligenter sind als wir, aber kein Bewusstsein haben und die Welt komplett anders wahrnehmen als wir. Und das können wir naturgemäß nicht vorhersagen, weil wir nicht so denken können, wie ein Algorithmus das kann.\nIch glaube es wird KIs geben, zumindest so tun, als ob sie ein Bewusstsein hätten und die Schwierigkeit wird dann sein zu unterscheiden. Hat sie denn wirklich eins oder ist es nur simuliert oder ist es eigentlich überhaupt dasselbe? Simuliertes Bewusstsein oder echt? Gibt es überhaupt einen Unterschied?\nDas ist eine spannende Frage. Fake it till you make it. Also ist das für uns Menschen irgendwann tatsächlich unterscheidbar, ob das Bewusstsein ist?\nMir überhaupt selber ein Bewusstsein ist ja auch noch nicht so ganz so.\nJetzt kommen wir in Bereiche, die fordern uns hier in unserem Kontext hart heraus. würde aber nochmal die Frage in Runde stellen, gibt es noch andere Fragen oder Anmerkungen hier aus der Runde, bevor wir uns zu sehr an dem KI-Thema festbeißen? Okay, wenn das nicht der Fall ist, dann haben wir es zeitlich ziemlich gut geschafft, würde ich sagen. Und ich sage erstmal vielen Dank an",
    "end": 3476.59
  },
  {
    "start": 3476.59,
    "speaker": "Speaker 3",
    "text": "euch beide, Joshua und Brendan, vielen, vielen herzlichen Dank ans Publikum. Vielen herzlichen Dank nochmal an Pan für die Einladung hier. Und ja, das war's für heute. Vielen Dank fürs dabei sein und tschüss und bis zum nächsten Mal.\nDas war eine weitere Episode vom Treecorder. Schön, dass du dabei warst. Vielen Dank fürs Zuhören. Und wir haben noch eine Bitte an dich. Wenn dir der Treecorder gefällt, dann hinterlass doch bitte eine 5-Sterne-Bewertung auf der Podcast-Plattform deiner Wahl. Das motiviert uns zum Weitermachen und hilft auch noch allen anderen Interessierten, den Podcast kennenzulernen.",
    "end": 3536.016
  }
]