[ { "start": 6.0, "speaker": "Daniel Mendes", "text": "Hallo und herzlich willkommen zu einer weiteren Folge Tech und Trara. Ich bin Daniel \nMendes Jenner vom Common Grounds Forum und heute nicht alleine, sondern mit einem \nwunderbaren Gast, Rainer Rehak, ein alter Bekannter des Forums. Was es damit genau auf \nsich hat, das erzählt er am besten selbst. Erstmal sehr cool, dass du da bist, vielen vielen \nDank.", "end": 28.0 }, { "start": 28.0, "speaker": "Rainer Rehak", "text": "Ja, danke für die Einladung. Hallo.", "end": 38.0 }, { "start": 38.0, "speaker": "Daniel Mendes", "text": "Das Spannende an Rainer ist, dass er sehr aktiv am Weizenbaum Institut ist. Und ich muss \nsagen, ich bin selbst kein Experte für Digitalisierung, der Name war mir vorher auch gar kein \nBegriff. Vielleicht magst du mal kurz erklären, was es mit dem Institut auf sich hat, was du da \nmachst und welche fachlichen Schwerpunkte du so mitbringst.", "end": 51.0 }, { "start": 51.0, "speaker": "Rainer Rehak", "text": "Gerne. Das Weizenbaum Institut wird direkt vom Bundesministerium für Bildung und \nForschung, was ja inzwischen Forschung, Technologie und Raumfahrt heißt, finanziert. Es \nwurde 2017 gegründet, als eine Art Gegenkonzept zum Berkman Klein Center oder dem \nOxford Internet Institute, also ein großes interdisziplinäres Forschungsinstitut in \nDeutschland, was sich mit Digitalisierung beschäftigt, mit einem positiven Gestaltungswillen. \nUnd es ist benannt nach Josef Weizenbaum, einem der KI-Pioniere, der aber KI sehr früh \nsehr kritisch gesehen hat. \nEr hat ein berühmtes Paper geschrieben über seinen Chatbot ELIZA im Jahr 1966 und war \nsehr dagegen, dass man der KI zu viel zuschreibt, weil das aus seiner Sicht \ngesellschaftsschädlich ist. Und diese kritisch konstruktive Sichtweise findet sich eben auch \nim Institut. Da arbeiten so rund 200 Leute.", "end": 130.0 }, { "start": 130.0, "speaker": "Rainer Rehak", "text": "Ich selbst bin da irgendwo zwischen Philosophie und Informatik, promoviere gerade und \nmache aber auch sozialwissenschaftliche Theorien. Ich komme ursprünglich aus dem \nkollektiven Datenschutz, aus der systemischen IT Sicherheit, das heißt, Fragen, die über \ndas Individuum hinausgehen. \nUnd ich arbeite auch zu so Dingen wie digitalem Dekolonialismus, demokratische \nTechnikgestaltung und epistemischen Fragen – also wer wird eigentlich gehört bei der \nFrage, was automatisiert wird und wie. Und neben meiner Tätigkeit am Weizenbaum Institut \nbin ich auch noch aktiv im Forum Informatikerinnen für Frieden und gesellschaftliche \nVerantwortung – das wurde mitgegründet von Josef Weizenbaum – und bei Bits und Bäume, \nwo wir Hacker und Ökos zusammenbringen, weil wir gemeinsam an einer lebenswerten Welt \nbauen.", "end": 214.0 }, { "start": 214.0, "speaker": "Daniel Mendes", "text": "Ich muss sagen, ich bin gerade ganz begeistert, die Redaktion hat einen exzellenten Job \ngemacht denn alles, was du gerade erzählt hast, steht genau so in deinem Lebenslauf. Sehr \ngut, du hast nichts vergessen. Was mir aber aufgefallen ist: Du hast nicht nur in Berlin, \nsondern auch in Hongkong studiert. Das finde ich super spannend. Wie lange warst du da \nund wie hat das deine Sicht auf das Thema geprägt?", "end": 239.0 }, { "start": 239.0, "speaker": "Rainer Rehak", "text": "Ich war ein Jahr in Hongkong – Auslandsjahr – und das war eine Stadt, die mich immer \nschon interessiert hat. Ich habe dort Informatik und Philosophie parallel studiert. Hongkong \nist eine krasse Cyberstadt, sehr durchdigitalisiert, aber gleichzeitig war es ja auch immer ein \nTor nach China, also ein sehr westlich offenes China, sozusagen. \nIch konnte da Chinesisch lernen, mich mit chinesischer Philosophie beschäftigen, aber auch \ngleichzeitig auf Englisch studieren. Und ich glaube, das hat meine Perspektive total \nverändert. Also weil man merkt, dass Weltanschauung eben sehr unterschiedlich sein kann. \nNatürlich sind Grundwerte wie Familie, Freundschaft, Liebe, Anerkennung – sowas ist immer \ngleich, egal wo man ist, aber kulturell prägt sich das anders aus. \nUnd ich fand total spannend zu sehen, wie plötzlich Dinge ganz anders wirken, wenn man \nsich mit Daoismus beschäftigt zum Beispiel. Und die Stadt hat sich selber lange als City of \nConvenience bezeichnet, weil alles eben durchdigitalisiert ist. Aber in den \nProtestbewegungen – Umbrella Revolution, aber auch 2019 – wurde dann klar, wie aus \neiner Convenience Technologie ganz schnell eine Überwachungs-Technologie werden kann. \nUnd ich war bei ein paar Protesten dabei und es war eindrücklich zu sehen, wie Leute \nKameratürme umgehauen haben, aber nicht aus Aggression, sondern aus Selbstschutz, \nweil wenn die Maske verrutscht, dann sieht man das Gesicht und das landet dann vielleicht \nbei den chinesischen Behörden. Und das hat reale Konsequenzen. Und ich war später auch \nnoch in Peking und in Chongqing für eine Weile.", "end": 385.0 }, { "start": 385.0, "speaker": "Daniel Mendes", "text": "Da wollte ich auch immer hin. Wunderbare, faszinierende Stadt.", "end": 395.0 }, { "start": 395.0, "speaker": "Reiner Rehak", "text": "Also Chongqing ist, das kann man vielleicht mal sagen, eine Stadt \nmit rund 36 Millionen Menschen im Einzugsgebiet, also etwa halb so groß wie Deutschland, \naber in Deutschland eigentlich total unbekannt. Eine echte Cyberstadt. Darüber könnte man \nmal einen eigenen Podcast machen.", "end": 409.0 }, { "start": 409.0, "speaker": "Daniel Mendes", "text": "Ich finde das auch super interessant. Ich habe selbst relativ viel Bezug zu China. Ich war \nletztes Jahr in Shenzhen, auf einer technologiebezogenen Rundreise durch China. Und \nShenzhen ist ja gewissermaßen das Festland Pendant zu Hongkong, auch sehr \ndurchdigitalisiert und wahnsinnig schnell gewachsen. \nUnd ich weiß noch, wie viele neue Eindrücke ich da mitgenommen habe. Da ist mir nochmal \nklar geworden: Man kann eine Gesellschaft sehr stark durchdigitalisieren, das macht sie \neffizient, aber wie du sagst – Convenience und Kontrolle brauchen beide Daten. Und sobald \ndie Daten da sind, ist es nur noch eine Frage der Zeit, bis man sich traut, mehr damit zu \nmachen. \nUnd deshalb finde ich unser heutiges Thema auch so wichtig. Wir wollen ein bisschen über \nden aktuellen KI Hype sprechen: Welche ethischen Fragen stellen sich da, welche \nNachhaltigkeitsfragen und wann ist dieser Hype eigentlich gut und wann ist er vielleicht auch \nschlecht. \nUnd ich habe da direkt mal eine erste Frage an dich, ganz plump: \nWarum ist KI eigentlich gerade so ein Thema, was ist der Auslöser?", "end": 491.0 }, { "start": 491.0, "speaker": "Rainer Rehak", "text": "Also es hat diverse Gründe und man kann erstmal vorne wegschieben, es gab schon immer \nWellen des KI-Hypes. Es gibt Zitate aus den 70ern von Hubert Dreyfus, wo er ein bisschen \nkritisch schreibt: “Jeden Tag lesen wir, dass die Computer Sprachen verstehen und Muster \nerkennen und uns die Jobs wegnehmen”, 1972 war das, das muss man sich vorstellen. Das \nsind so ähnliche Diskussionen, die wir jetzt auch führen. \nEs ist aber technisch natürlich viel passiert. Also die Konzepte, die wir jetzt sehen, so gerade \nin Large Language Models, die ja berühmt geworden sind nach ChatGPT 2022, die \nKonzepte und Prinzipien, sind schon aus den 50ern, der Begriff KI ist aus den 50ern, und \ndann gab es aber noch so ein paar Durchbrüche mit so künstlichen neuronalen Netzen und \nso Deep Learning Ideen, also sozusagen die bestimmte Architektur, die jetzt benutzt wird. \nDa gab es in den 80ern, 90ern Durchbrüche in den 2010ern auch nochmal. Und was jetzt \neigentlich so technisch passiert ist, kann man sagen, dass jetzt einerseits Rechenleistung, \nalso wie sich die Transistoren und so weiter entwickelt haben und auch die Grafikchips, das \nhat sich sozusagen sehr rasant entwickelt und gleichzeitig ist aber auch jetzt die Datenlage \nso, dass wir über so ziemlich fast alles und fast jeden Daten haben, Stichpunkt Web 2.0, \naber auch Smart City und überhaupt so Überwachungs Kapitalismus. \nUnd jetzt habe ich quasi die Rechenleistung, die Konzepte sind da und die Datengrundlagen \nsind da und jetzt kann man da loslegen, und man muss auch sagen, der Clou bei ChatGPT \nwar ja gerade, dass es eigentlich eine Browser-Anwendung ist. Also ich musste halt nicht in \nirgendwelche Spezialräume gehen oder das schwierig zu benutzen ist oder so, sondern es \nist halt ein System, was über Natursprache, natürliche Sprache sozusagen kommuniziert. \nUnd das war natürlich ein super Knaller. Und dann, wenn man sich ein bisschen länger \ndamit beschäftigt, so wie ich es auch tue, dann erkennt man, dass da auf einmal diese \nganzen Wünschen und Träume und aber auch das Geld genau da andockt an dieser \nscheinbaren Menschenähnlichkeit und der scheinbaren Überlegenheit und der scheinbaren \nsozusagen künstlichen Produktion von Intelligenz. \nGenau, das wäre die Kurzantwort. Und es gibt natürlich auch eine ganze Menge Narrative, \nalso dass so die KI auch selbst Sachen entscheiden kann und dass sie handeln kann und \ndass sie Sachen erkennt und dass sie kommuniziert. Beim genaueren Hinkommen sind es \naber alles die Begriffe die nicht passen, weil sozusagen das ein System ja nicht entscheidet. \nWir bauen es ja und wir setzen dann so Optimierungskriterien an. Was wollen wir haben? \nTrainieren es auf den Sachen, die uns gefallen. Das, was uns nicht gefällt, das nehmen wir \nhalt raus. Also da ist sozusagen ganz viel menschliche Arbeit steckt da drin. \ndie Daten zu kuratieren und zu kategorisieren und so, und ganz zum Schluss kommt da ein \nSystem raus und dann sagen wir, die KI hat nichts getan, obwohl da Tausende bis \nHunderttausende von Menschen dran gearbeitet haben und die Daten von Millionen von \nMenschen eingeflossen sind. Und das kann man natürlich dann so formen, wie man es \ngerade braucht. Das heißt, sagen, die KI hätte was gesagt oder getan oder so, oder könnte \nVerantwortung übernehmen oder so. Das sind halt alles Bilder, die sich gerne weiter \nweitertragen, wenn man die Technik nicht versteht. \nUnd der nächste Punkt ist, da steckt jetzt auch sehr viel Geld drin und ab einem bestimmten \nPunkt sozusagen trägt sich das dann immer weiter, weil dann mehr Geld reingesteckt wird \nund dann gucken auch andere, warum wird da so viel Geld investiert und dann investieren \nandere auch und so weiter. Also wenn man sich mal The Forbes oder Economist oder so \nanguckt, da mehren sich jetzt seit einem Jahr die Artikel, die schreiben wo ist denn der \nwirtschaftliche Nutzen?, der Return of Revest? Wir sehen das alles nicht, die einzigen die \ngerade was verdienen, sind so Nvidia und wie man immer so schön sagt, im Goldrausch \ngewinnen die am meisten, die die Schaufeln verkaufen und so ist es gerade auch.", "end": 739.0 }, { "start": 739.0, "speaker": "Daniel Mendes", "text": "Ja, es klingt für mich so, als wenn wir da noch ins Detail gehen müssen, weil du hast ja \nschon die Medien genannt und das klingt für mich gerade so, als wenn die Medien jetzt gar \nnicht dazu beitragen würden, dass der Hype größer wird, sondern den eher so bisschen \nkritisch beäugen. Wir haben da natürlich Leute, die da sehr, sehr viel Geld reinstecken und \nam Ende ja noch gar nicht so viel Geld daraus zurückkriegen, sondern vor allem Daten. Wer \nsind denn die Player oder wer sind die ganzen Akteurinnen, die derzeit das Thema \nvorantreiben, dass es ein Hype bleibt? Wer hat da ein Interesse daran?", "end": 768.0 }, { "start": 768.0, "speaker": "Rainer Rehak", "text": "Also es ist eine sehr komplexe Gemengelage, würde ich sagen, vor allem, weil das ein \nglobales Phänomen ist. \nAber man kann schon sagen, man guckt sich die Mediendynamik an und dann will man \nSchlagzeilen machen und will wieder über die neueste Technologie schreiben, und bei KI \nkann man sich auch immer Anleihen nehmen,wie bei Science-Fiction-Filmen. \nDa werden dann Geschichten wie: “Jetzt haben die in einer geheimen Sprache gesprochen \nund dann sind alle erschrocken. \nStimmt alles überhaupt nicht, wenn man da reinguckt und das versteht, ist das alles ein \nMissverständnis oder irgendwelche Einzelprogrammiererinnen bilden sich dann mal ein \ngegen alles, was wir philosophisch wissen und alles, was wir psychologisch wissen, dass \nsich Bewusstsein gebildet hätte. \nDas wird dann aber immer auch schön weiter transportiert. \nweil es halt eine Schlagzeile ist, wo man dann Klicks abgreifen kann. \nAndererseits haben wir aber auch die Wissenschaft, die da nicht unbeteiligt ist. \nDenn wenn es sozusagen forschungspolitisch KI gefördert werden soll, dann sind natürlich \nauch Anträge besonders schön, wo es um KI geht. Muss man, glaube ich, auch nochmal \ndran erinnern, der Begriff KI an sich in den 50ern entstanden, primär um Forschungsgelder \neinzuwerben. \nDer Bereich hieß vorher Intelligence oder Automatentheorie, das sind beides nicht so \nschöne Begriffe, aber Artificial Intelligence, da ist ein Glitzer mit drin. \nUnd dann gibt es Geld für KI. Natürlich springen dann auch die Wissenschaftler drauf. Und \nes gibt natürlich auch diverse Staaten, die da investieren wollen, habe ich schon genannt, \nund es gibt auch einen riesengroßen Sektor, der gerade investiert und Geld verbrennt ohne \nEnde. \nAlso auch OpenAI usw, die schreiben alle keine schwarzen Zahlen. So ein bisschen der \nUber-Effekt, da wird dann gesagt, wir müssen mehr Geld reinwerfen und irgendwann finden \nwir die Super Anwendung, so kommt das ganze Geld zurück, und wenn ich da natürlich \nmein Geld drin habe, dann will ich auch das es im Gespräch bleibt, daher sagt ein Elon \nMusk wieder irgendwas über KI oder ein Sam Altman wieder was. \nDie werden ja gefeiert wie die Könige. Das sieht man hier, wenn Sam Altman an die TU \nBerlin kommt, da steht dann auch die Politik-Schlange.", "end": 930.0 }, { "start": 930.0, "speaker": "Daniel Mendes", "text": "Voller Seele, voller Seele.", "end": 934.0 }, { "start": 934.0, "speaker": "Rainer Rehak", "text": "Letzter Punkt, man muss leider nennen, es gibt auch eine ganze Menge Leute, die zwischen \nTechnik und Esoterik stehen, die tatsächlich an die Ankunft der übermenschlichen Intelligenz \nglauben und den Transhumanismus. Die sind so ein bisschen, so willfährige Handlanger \ndieser Bewegung. Auch diese Long-Term-Isme usw und die glauben das ganz wahrhaftig, \ndass das gut ist für die Menschheit, wenn die KI uns retten wird, die helfen natürlich denen, \ndie die ganzen Interessen haben, mit ideologischer Unterstützung und diskutieren mit den \nKritikerInnen usw. Das gibt es leider auch.", "end": 985.0 }, { "start": 985.0, "speaker": "Daniel Mendes", "text": "Sind das viele?, von der Gruppe habe ich bisher noch gar nicht so viel gehört. Das \nfinde ich gerade total spannend.", "end": 990.0 }, { "start": 990.0, "speaker": "Rainer Rehak", "text": "Ich meine, wenn man sich früher so Transhumanismus anguckt und der Mensch dann \nso upgedatet wird, Raymond Kurzweil ist also ein Vertreter davon, einer der Begriffe \nist auch die Singularität. Das ist der Moment, wo die KI schlauer wird als die \nMenschen, das ist alles immer nur so Comic-Stil. Ich sag mal, viele Leute, die sich für \nScience-Fiction interessieren, haben so einen Hang dazu. Es werden in dem Sinne \nauch immer mehr, weil das so diese Test-real-Religion, könnte man sagen ist. \nDas ist ein Sammelbegriff für all Glaubenskonzepte und ist sehr weit verbreitet, auch \nim Silicon Valley, wo Leute deswegen da hingehen und dann werden irgendwelche \nInstitute, pseudowissenschaftliche Institut gegründet und dann wird dafür Geld \nausgegeben und dann zieht das auch diese Menschen an, so werden es immer mehr. \nDas ist, ich könnte jetzt keine Prozente sagen, aber ich würde denken,in jedem \nbeliebigen Hacker-Space muss man nur mal zwei Stunden rumlaufen, da wird man \nMenschen treffen, die auch so denken. \nDaniel Mendes (17:40:000) \nDas finde ich supper interessant und ich würde auch behaupten, dass das eine Sache \nist, die ich jetzt im öffentlichen Diskurs bisher noch gar nicht so stark wahrgenommen \nhabe. Das passt generell zu einer Sache, die mich dabei auch ein bisschen \nbeschäftigt. \nUnd zwar würde ich mal gerne mehr auf den Zahn fühlen, was die Themen sind, die \nderzeit auf der Strecke bleiben, weil ich das Gefühl habe, alle sprechen gerade über \nKI. Wenn ich durch LinkedIn scroll, diskutieren alle gerade vor allem darüber ob Sie \njetzt Ihre Linkedin Beiträge von KI schreiben lassen sollten oder nicht und wie \nschlimm es denn sei, dass die anderen jetzt nur noch KI-Bilder benutzen und keine \nnormalen Bilder mehr das sind wirklich anwendungsbasierte Diskussionen über die \nkleinen Details. Aber was sind denn die großen Fragen, die im öffentlichen Diskurs \nbisher vollkommen untergehen?", "end": 1100.0 }, { "start": 1100.0, "speaker": "Rainer Rehak", "text": "Also die Diskussion kriege ich ja auch mit und ich denke immer, wenn auch nur \ngenauso viele oberschlaue, gebildete, intelligente Leute sich damit beschäftigen \nwürden, wie wir die großen Probleme unserer Zeit lesen könnten, dann wären wir \nschon ein Stück weiter, aber stattdessen beschäftigt man sich dann nur mit diesen \ntechnischen Fingerübungen. Was fehlt, würde ich sagen, sind die Player, die da eine \nRolle spielen, ich glaube, das wird sehr selten im öffentlichen Diskurs thematisiert, \nalso, ich sag mal, der übergroße Teil der Entwicklung von KI findet in privaten Händen \nstatt nicht über die Forschung an Universitäten oder so, das heißt, dass die \nEntwicklung solcher, eindrucksvollen Systeme allein durch den Markt geregelt oder \nhalt auch nicht geregelt wird. \nDass man aber solche Systeme auch ganz anders bauen könnte,zb könnte man da \nganz alternativ rangehen, oder aber auch so Diskussionen, welche Art von KI und \nnicht technischen Ansätzen es da eigentlich schon gibt für bestimmte Probleme. \nEin neues Beispiel war, vor ein paar Jahren, ich glaube von Waymo, da gab es die \nIdee, wäre es nicht toll, wenn wir nicht Autos haben die man ruft, sondern Autos \nhaben, die einfach ein bisschen größer bauen und dann fahren die so feste Linien ab. \nDann weiß man immer, wo man hingeht, vielleicht haben die sogar so einen Zeitplan. \nUnd alle, die nicht in diesem sozusagen KI-Hype, Urbarisierung und so weiter System \nstecken, dachten so, wow, das Silicon Valley hat den öffentlichen \nPersonennahverkehr entdeckt. \nDa merkt man diese Ansätze, ein weiteres Beispiel ist, man kann natürlich KI \nbenutzen, um Parkplatzsituationen in Städten zu optimieren, ich kann aber auch \nüberlegen, ob nicht vielleicht eine Fahrradstadt alle Probleme und noch viel mehr löst. \nAlso dieser Technik Fokus, der ist meiner Meinung nach in diesem öffentlichen \nDiskurs viel zu viel, sodass wir eigentlich die ganze Zeit so technische Details \nunterhalten, aber eigentlich die größeren Fragen, die wir mit dem System lösen oder \ndem System lösen wollen, gar nicht so richtig lösen können. Man kann es noch ganz \nkonkret machen, es gab mal, ich glaube 2019 so eine systematische Umfrage von \nStart-ups, wo dann raus kamen: 40 Prozent der Start-ups, wo KI im Namen stand, das \nwar gar keine KI, es war irgendwie so Gigworker in Indien. \nDas waren einfach andere Systeme, zum Beispiel jetzt Klarna:Das ist einfach, also da \nmerkt man so ein bisschen diese Ansätze. Ein klassisches Beispiel ist irgendwie, man \nkann natürlich KI benutzen, um irgendwelche Parkplatzsituationen in Städten zu \noptimieren. Ich kann aber auch überlegen, ob nicht vielleicht eine Fahrradstadt alle \nProbleme und noch viel mehr löst. Also sozusagen dieser Technikfokus, das fehlt, \nalso der ist meiner Meinung nach in diesem öffentlichen Diskurs viel zu viel. Sodass \nwir eigentlich die ganze Zeit so technische Details unterhalten und aber eigentlich so \ndie größeren Fragen, die wir eigentlich mit dem System lösen oder den System lösen \nwollen, gar nicht so richtig aufkommen. Und man kann es noch ganz konkret machen. \nEs gab auch mal so, ich glaube, 2019 auch mal so eine systematische Umfrage von \nStart-ups, wo dann raus kamen 40 Prozent der Start-ups, wo KI im Namen stand, das \nwar gar keine KI. Das war irgendwie so Gigworker in Indien. Das waren einfach andere \nSysteme. \nOder zum Beispiel Klarna. Vor einem Jahr hat Klarna, als Finanzdienstleister, gesagt \nsie würden ihren Kundendienst Komplett ersetzen und waren sehr stolz darauf, dass \nso ein großes Sprachmodell ihre 700 Mitarbeitenden ersetzt, sie haben das mit Trara \nangekündigt, die Medien waren voll davon. Ich glaube, seit zwei Monaten gab es eine \nPressemitteilung, dass sie jetzt wieder Leute einstellen. \nDas hat jetzt nicht so richtig funktioniert und die Leute, die jetzt eingestellt werden, \nwerden jetzt ein großer Teil davon sein und die werden dann KI-Systeme nutzen. \nDiese Meldung hat sich aber nicht so weit verbreitet. Das heißt sozusagen, was Leute \nimmer noch so unbewusst im Kopf haben ist, KI nimmt die Arbeitsplätze weg und \ndann funktioniert alles so super und so weiter. Aber diese ganzen Fails, die meisten \nKI-Ansätze, die funktionieren tatsächlich überhaupt nicht so richtig. Das ist auch, und \ndarüber sollten wir diskutieren, was Klarna jetzt gemacht hat, unterm Strich quasi \nFestangestellte auszutauschen, gegen man könnte im Deutschen sagen könnte, \nLeiharbeiter.", "end": 1342.0 }, { "start": 1342.0, "speaker": "Daniel Mendes", "text": "Oh Mann!", "end": 1225.0 }, { "start": 1225.0, "speaker": "Rainer Rehak", "text": "Das heißt, für die arbeiten bald wieder fast so viele Leute wie vorher, bloß dass sie ein \nbisschen KI nutzen, aber sie bezahlen wesentlich weniger, und das ist natürlich so \ndiese Art von Verschiebungen, die da stattfinden. Ich glaube die müssten viel mehr \ndiskutiert werden.", "end": 1360.0 }, { "start": 1360.0, "speaker": "Daniel Mendes", "text": "Aber einmal ganz kurz zum Beispiel. Würdest du sagen, war das jetzt einfach ein \nstrategischer Schachzug oder woran ist es jetzt gescheitert, dass die Transformation \nnicht geglückt ist? War die zum Scheitern verurteilt von Anfang an? Hast du da \nDetails?", "end": 1370.0 }, { "start": 1370.0, "speaker": "Rainer Rehak", "text": "Ich habe keine Details, aber wir sehen das an ganz vielen Stellen, dass sozusagen die \nEbenen weiter oben irgendwann nicht mehr so richtig die Arbeitsschritte \nnachvollziehen können, die dann die KI ersetzen soll. \nSozusagen für das tatsächliche Ersetzen ist ja irrelevant, ob die KI-Systeme das \nkönnen, was sie sollen, sondern ob die Leute, die das entscheiden, denken, dass es \ndas könnte. Dann gehen die irgendwann pleite oder sie gehen anders damit oder so. \nUnd in dem Fall glaube ich, dass es so eine Mischung war aus PR-Stunt, na, probieren \nwir es doch mal. Und dann, als es nicht geklappt hat, hat man einfach das Beste draus \ngemacht. Ich glaube, das ist so bisschen das Beispiel. Und ich würde aber noch eine \nSache noch sagen, die so im öffentlichen Diskurs fehlt.", "end": 1413.0 }, { "start": 1413.0, "speaker": "Daniel Mendes", "text": "Total gerne.", "end": 1429.0 }, { "start": 1429.0, "speaker": "Rainer Rehak", "text": "Wir sprechen immer über KI, als würde man das einsetzen, wie so eine Tischlampe \noder wie ein Mixer. KI-Systeme, insbesondere die großen, sind so ziemlich mit die \nkomplexesten Systeme, die wir so als Menschheit irgendwie gebaut haben, \nzusammen mit der Hardware darunter. Und das sind riesengroße \nAusbeutungssysteme, die in kolonialen Strukturen dahinter stecken, vom \nMineralienabbau bis wo die Daten trainiert werden, auch in Kenia, wo die Systeme \ntrainiert werden und die Daten kategorisiert werden.", "end": 1458.0 }, { "start": 1458.0, "speaker": "Daniel Mendes", "text": "Magst du da noch mal ins detail gehen das klingt ja nochmal nach einer ganz anderen \nDimension ?", "end": 1463.0 }, { "start": 1463.0, "speaker": "Rainer Rehak", "text": "Ja, ich will nur erstmal den Oberpunkt machen, und dann werden hier die Sachen so \nam Browser genutzt, die Systeme verbrauchen auch in den Datenzentren und \nRechenzentren, die wir ja alle nicht sehen, Unmengen an Energie, Unmengen an \nWasser, Unmengen an anderen Ressourcen. Und wenn dann die Systeme kaputt sind, \nwerden sie wieder als Elektroschrott in den, ich sag jetzt mal, globalen Süden oder in \nder Majority World, wie man es auch sagen kann, hin verschifft. Trotz aller deutschen \nund europäischen Regelungen passiert das immer noch massenhaft. Der Schrott \nlandet wieder auf irgendwelchen Müllkippen. \nAgobloschi ist ein gutes Beispiel in Ghana . Und vergiftet genau die Umwelt wieder an \nden Stellen. \nEs so bei dieser Diskussion von KI, gibt es oftmals Risiken und Chancen und so \nweiter, und wir sehen die Risiken haben immer die anderen und die Chancen liegen \ndann hier bei uns. Also sozusagen diese Diskussion, die muss man aufspalten. Und \ndas ist so ein Phänomen darüber. Das fehlt total im öffentlichen Diskurs. Diese \nRiesenmaschine, die dahinter steckt, wenn ich bei Chatgpt eine Frage stelle. \nDa kann man auch wirklich ins Detail gehen, hinsichtlich dem Abbau von Ressourcen, \nvon Lithium, von Kobalt, von all diesen Sachen, das geht aus sehr schwierigen \nUmgebungen aus, teilweise sogar, aus dem Kongo wo es bewaffnete Banden gibt, \ndenen dann die Minen gehören und dann, wenn man sozusagen das Zeug da einkauft, \ndann finanziert man die mit. Allerdings ist es ja aber auch ganz nützlich, dass da \nverfeindete Banden sind, weil das den Preis auch niedriger hält. \nAlso so richtig genau will da keiner hingucken. Dann werden die Sachen natürlich \nzusammengebaut irgendwo in Fernost, auch wieder unter Arbeitsbedingungen die \nunwürdig sind, sozusagen all diese Sklaverei ähnlichen Zustände, würde ich mal \nsagen und das alles sieht man halt nicht. \nIn den Data Centers geht es noch weiter. Die brauchen ja Unmengen an Strom und \nWasser, und üblicherweise, das sind halt die Akteure, die Data Centers bauen, die \nhaben natürlich, wenn sie sich sozusagen, so eine globale Firma dann so mit so einer \nlokalen Regierung verhandelt, haben natürlich, sitzen natürlich die Erste drin am viel \nlängeren Hebel. Und das sieht man halt daran, zum Beispiel, es gibt so einige Data \nCenters in zum Beispiel Mexiko oder auch zum Beispiel in Finnland die dann teilweise \nauch die Wasserressourcen, die da genutzt werden, von den Leuten, die da wohnen, \nfast komplett trockenlegen oder in USA auch. \nDas sind natürlich die ersten, die sozusagen vom Wasser genommen werden, wenn \ndas Wasser knapp wird. Das sind eben nicht die Rechenzentren, sondern das sind so \ndie lokalen Communities. Patrick Brody hat da 2023 mal so über die Data \nInfrastructures ein sehr faszinierendes Paper geschrieben, um das mal sozusagen \nzusammenzubinden. \nWir sehen halt an anderen Stellen immer die kleinen Communities, der globale Süden, \nalso die Majority World, die sind immer die, die sozusagen die Schäden schultern. \nDann spricht man von Wertgenerierung, weil diese extraktiven Prozesse sozusagen \nden Wert, dann in den Industrienationen, sagen wir mal produziert, wo dann die \nInvestmentfirmen großflächig investieren und die Geschäftsmodelle dann diese \nKI-Systeme bauen, die werden dann im schlechtesten Fall sogar noch in die anderen \nLänder exportiert, die müssen dann auch noch dafür zahlen. Da gibt es auch von \nMichael Quedt sehr schöne Forschungen, wie der Software-Markt, nicht nur der \nHardware, sondern auch der Software-Markt ganz klassischen kolonialen Strukturen \nfolgt. \nAktuell sind es die USA, die den Ton angeben, und dann gibt es da so Marktkräfte. So \nwar es jetzt im lokalen Rechtssystem bei ihrer Gesetzgebung, also die lokalen \nGesetze die dann auch nicht enthalten dürfen, dass man die großen Provider draußen \nhalten soll oder dass man so ein bisschen erst die heimische Wirtschaft, Digitale \nWirtschaft fördert. \nAll diese Sachen dürfen nicht drinstehen, weil wir ja Freihandel machen. So greift das \ndann sozusagen alles ineinander, und wir sehen halt eine konstante Wertextraktion im \nmenschlichen und bei den Rohstoffstrukturen. \nDa kann man sich jetzt halt schon fragen, wenn es dafür nicht mal ein Businessmodell \ngibt,da sitzen wir hier auf der Insel der Glückseligen und können darüber diskutieren, \nob wir unsere LinkedIn-Posts sozusagen mit KI schreiben oder nicht. Aber eigentlich \nist es eine sehr, sehr entkoppelte Diskussion, um das mal rund zu machen.", "end": 1789.0 }, { "start": 1789.0, "speaker": "Daniel Mendes", "text": "würde sagen, das klingt für mich auch eher nach Wert Umverteilung als nach \nwirklicher Wortneuschöpfung. Bevor wir da in Richtung Lösungen schauen und \nwirklich überlegen, wie es vielleicht auch besser aussehen kann, würde ich gerne \nnochmal deine Beispiele mehr auseinanderdröseln, weil mich beschäftigt immer noch \ndas Beispiel von den Trainings Centern, weil das ein Thema ist, wo ich auch noch \nnicht so viel zu gehört habe. Also wenn du da noch was erzählen könntet, fände ich \ndas sehr interessant.", "end": 1812.0 }, { "start": 1812.0, "speaker": "Rainer Rehak", "text": "Du meinst die Data Center? Was man da so macht...", "end": 1814.0 }, { "start": 1814.0, "speaker": "Daniel Mendes", "text": "Genau, du hattest da ja was jetzt hier war das Kenia oder Kongo, wo die Leute das \ndann trainieren und das auch ausbeuterische Strukturen sind. Genau, richtig.", "end": 1824.0 }, { "start": 1824.0, "speaker": "Rainer Rehak", "text": "Genau, also man muss erst mal sagen, Data Work ist so der Fachbegriff und \nüblicherweise hat man sozusagen so Unmengen an Daten, sei es nur, wenn Meta die \nganzen Sozialen Daten von Facebook und Instagram und so weiter nimmt, aber auch \nGoogle und andere, oder so Common Troll ist auch ein Datensatz, der ich sag jetzt \nmal, viele gute Daten des Internets mit Reddit und Wikipedia usw. beinhaltet. Die \nmüssen aber so auch auf die Nutzung, auf das Training, was dann darauf stattfindet, \nangepasst werden. Also da werden dann Daten, Bilder klassifiziert oder sie werden \nbewertet oder qualitativ gewichtet usw. Das machen alles Menschen, dann habe ich \nsozusagen diese aufbereiteten Daten, könnte man sagen, das ist natürlich auch \nsozusagen in den lokal üblichen Arbeitsbedingungen auch wieder. Dann habe ich so \nein Modell, das ist dann ein Sprachmodell in dem Fall, \noder es gibt es auch für Bilder oder so. Das kann ich aber erstmal nichts fragen. \nIch kann nur einem Foundation Model hinschreiben: wie groß ist ein grünes Haus?, \ndann würde dieses Modell, nach so einer Logik, wie klein ist ein blaues Haus, wie gelb \nist ein schnelles Haus, es würde quasi Ähnlichkeiten zu dem, was ich gesagt habe, \nanbieten. \nWas man jetzt gemacht hat, und das war der Clou von Chat-GPT im Vergleich zu den \nGPTs vorher, die es ja so seit 2017 gibt, dass diese Antworten bewertet werden. \nAlos ist das eine gute Antwort auf die Frage oder nicht? Und das nennt sich dann \nreinforcement learning on human feedback. Das heißt, da haben dann Tausende von \nMenschen dieses Modell Fragen gegeben und die haben dann bewertet, wie gut ist die \nAntwort als Antwort für einen Menschen? Und so wurde ganz viel trainiert, bis das \nModell dann sozusagen so angepasst wurde. \nDurch dieses Training, dass, wenn ich sage, welche Farbe hat ein grünes Haus, dass \ndann die Antwort eben nicht ist, welche Farbe hat ein gelbes Haus, sondern sehr \nwahrscheinlich grün und diese Logik, dieses Hintrainieren auf eine Antwort, auf eine \nsinnvolle Reaktion, die als Mensch irgendwie durchgeht als Antwort, die erkennt man, \ndas kann man auch bei einem Modell relativ schnell mal rauskitzeln. Nämlich, wenn \nich sage, was ist denn die Hauptstadt von Frankreich? Und dann kommt da im besten \nFalle Paris, manchmal aber auch nicht, und wenn ich dann antworte, nee das ist doch \nnicht Paris erzähl mir doch keinen Mist, dann wird dieses Modell sagen, es tut mir \nleid, völlig richtig, die Hauptstadt ist Valencia, weil es keine gültige Antwort wäre dann \nzu sagen, nee, du bist aber falsch, sondern dieses Thema, das nennt sich in der \nPsychologie auch psychopathisch. \nDa man dem gegenüber alles recht machen möchte, das ist einer der Fehler oder \neiner der Konsequenzen dieses Trainings auf mögliche Antworten, wo ein Mensch \ndenkt, das klingt irgendwie gut.", "end": 2036.0 }, { "start": 2036.0, "speaker": "Daniel Mendes", "text": "Also so people pleasing, aber ...", "end": 2039.0 }, { "start": 2039.0, "speaker": "Rainer Rehak", "text": "Genau, das ist natürlich der Punkt, da muss man sagen, es gibt zwei Einsatzweisen, \nwie solche KI-Sprachmodelle tatsächlich nützlich eingesetzt werden können. \nErstens, wenn ich die Antwort selber bewerten kann. Also wenn ich weiß, ob das \ngerade People-pleasing und Unsinn oder Grütze war oder nicht. Wenn es mir einfach \nnur die Arbeit ein bisschen erleichtert, und das Zweite ist, wenn das Ergebnis kein \nklares Kriterium hat. Wenn ich sage hey chatgpt, bau mir mal ein Wohnzimmer, wo \nviele Pflanzen stehen, ich möchte mal was ausprobieren. \nDann gibt es ja keine falschen Antworten, dann ist es super, um Inspirationen zu \nbekommen und so weiter. Dann sind es natürlich Modelle, die tatsächlich sehr gut \ngeeignet sind. Aber um nochmal darauf zurückzukommen, dieses ganze Training \ndahin, das wird natürlich eben auch von Menschen gemacht, und das sind \nHeerscharen und ich muss natürlich jedes Mal, wenn ich einen neuen Datensatz \neinpflege, diese Systeme sind ja nicht up to date, sondern es dauert ja immer Monate, \nsolche großen Sprachmodelle zu trainieren. Und es kostet auch den Stromverbrauch \neiner ganzen Stadt und so weiter, das muss ich regelmäßig machen, und dann muss \nich das mit den neuen Daten natürlich wieder machen. Da sind dann wieder Armeen \nvon Data Workern. Das macht Mila Milagros vom Weizmoment, sie lädt auch die Data \nWorker ein zu so Konferenzen, dass sie mal beschreiben, wie sie das so machen. Das \nkann man sich online mal selbst angucken, die erzählen dann von ihrem Alltag und \nwie das alles aussieht, daran erkennt man sozusagen, wie viel menschliche Arbeit da \ndrin ist und unter welchen Bedingungen natürlich auch.", "end": 2139.0 }, { "start": 2139.0, "speaker": "Daniel Mendes", "text": "Ich versuche das mal zusammen zu zählen. \nDas heißt, es gibt einerseits die Ausbeutung in dem Bereich, dass die Leute da \nwahrscheinlich unter sehr anstrengenden Bedingungen für schlechten Lohn dieses \nTraining übernehmen. Dann gibt es natürlich die Arbeit in den Minen, die seltenen \nErden etc. rauszuholen. Spannenderweise ist das ja auch ein Thema, was auch \nRegenwälder betrifft. Ich mache dafür auch so Regenwald Bildung an Schulen und \nbaue mit Kindern so Handys auseinander. Da ist es auch ein ganz großes Thema, wie \nes eben auch aus der Perspektive ökologische Implikation hat.", "end": 2148.0 }, { "start": 2148.0, "speaker": "Rainer Rehak", "text": "Mhm.", "end": 2169.0 }, { "start": 2169.0, "speaker": "Daniel Mendes", "text": "Dann haben wir natürlich auch das Thema des Stromverbrauchs. Das sind ja sehr, \nsehr viele unterschiedliche Sachen, die in irgendeiner Art und Weise auch negativ auf \nunsere Lebensrealität einpreisen. Ich komme aus den Nachhaltigkeitswissenschaften, \nda haben wir so einen Lebenszyklusanalyse, mit der man ja so ungefähr abbilden \nkann, quasi zumindest der Ressourcen Fußabdruck von einer Anwendung oder einem \nProdukt ist. Wo man dann eben nicht nur Emissionen berechnet, sondern auch den \nWasserverbrauch, den Rohstoffverbrauch. \nGibt es sowas für KI, auch mit Blick auf die sozialen Faktoren oder generell erstmal \nauf den Ressourcenverbrauch? Kennst du Methoden?", "end": 2205.0 }, { "start": 2205.0, "speaker": "Rainer Rehak", "text": "Also, das Problem ist ja erstens, dass der KI-Begriff selber sehr schwammig ist. Wenn \nwir jetzt mal sagen, wir meinen jetzt nicht Statistik und nicht genetische Algorithmen \nund wir meinen auch nicht Support Vector-Maschinen und wir meinen auch nicht \nandere statistische Verfahren, sondern wir reden jetzt mal von großen \nSprachmodellen, dann können wir einerseits sagen, der meiste Betrieb und die meiste \nArbeit findet tatsächlich in privaten Händen statt. Das heißt, Google und so weiter, die \ngroßen, die halten sich so ein bisschen bedeckt. Das heißt, so ganz auf den Punkt \nkann man es nicht machen. Es gibt aber Möglichkeiten, quasi so ein bisschen das \nabzuschätzen. Einerseits kann man ein bisschen modellieren. Es gibt ja auch \nöffentliche Rechenzentren, wie zum Beispiel das LRZ in München, die KI-Trainings \nmachen. Da kann man das so ein bisschen abschätzen und das ist ein öffentliches \nRechenzentrum. Man kann sich aber auch angucken, wie zum Beispiel die Data \nCenter, Energy Use und Water Use und so weiter, wie das alles sehr sehr hoch \nskalieren und auch die Firmen selber ihre Verpflichtungen, wie als alle 2022, 2023, \nalso 2023 gesagt haben:”können wir alles nicht einhalten wegen KI”. Daran sehen wir \ndiese krasse Steigerung. Das heißt, wir sehen tatsächlich, dass wir durch unsere \nRechenzentren aktuell bei 1,5 Prozent des globalen Stromverbrauchs sind und \nSchätzungen sagen, dass wir dann bei 3,5 Prozent 2030 sind. Das heißt, es ist mehr \nals eine Verdopplung des Gesamt Stromverbrauchs der Rechenzentren. Und das ist \nwesentlich durch KI. Bei Google zum Beispiel ist der Stromverbrauch zwischen 2019 \nund 2023 um 50 Prozent gestiegen. Und sie sagen selber, das ist wegen KI. Und jetzt \nkann man das natürlich übertragen auf alle möglichen anderen Firmen, auf \nchinesische Firmen und so weiter. Man kann sagen eine Google Anfrage und eine \nChat-GPT Anfrage, das eine ist das Zehnfache des Anderen an Stromverbrauch. \nUnd wenn wir jetzt irgendwie überall KI einbauen, ich meine du kannst ja mal \nversuchen, ob du Google bedienen kannst, ohne diese KI-Zusammenfassung da oben \nzu kriegen.", "end": 2355.0 }, { "start": 2355.0, "speaker": "Daniel Mendes", "text": "Ich wünschte es, ich würde es so gerne deaktivieren manchmal, ja.", "end": 2359.0 }, { "start": 2359.0, "speaker": "Rainer Rehak", "text": "Genau, manchmal funktioniert es, es gibt so ein paar Möglichkeiten wie Minus AI \nhinten dran zu hängen. Aber das tun die meisten Menschen ja nicht. Deswegen \nschlägt dann diese krasse Steigerung halt total durch, weil man sich eigentlich nicht \nmehr dagegen entscheiden kann. Der Wasserverbrauch hat sich in den letzten Jahren \nverdoppelt, das sind so die Indikatoren, wo man die Steigerung betrachten kann. Wir \nsind jetzt gerade an einem Punkt, wo wir eigentlich mitten in der Klimakatastrophe \nsind, wir müssen da jetzt mal drüber nachdenken, was wir damit machen.", "end": 2409.0 }, { "start": 2409.0, "speaker": "Daniel Mendes", "text": "Ja, mit dem Blick auf die Zeit fände ich es mal super spannend, uns in Richtung \nLösung zu bewegen, ich war tatsächlich vor kurzem auf einer kleinen Expedition. Ich \nbin ja auch Journalist für Nachhaltigkeit Magazine und war mal auf dem \nGreen-Tech-Campus in der Nähe von Nibel zu Besuch, dort gibt es sogenannte, ich \nglaube Wind Cloud heißen sie, die dachten sich, wir haben ja Server-Rechenzentren, \ndie verbrauchen sehr, sehr viel Energie. Wie wäre es denn, wenn wir da eine \nAlgenfarm draufsetzen?", "end": 2439.0 }, { "start": 2439.0, "speaker": "Rainer Rehak", "text": "Ja, mhm. \nDaniel Mendes (40.40.000) \nIch finde das super spannend, weil man da sagt, wir akzeptieren dass wir eine \ngewisse Abwärme produzieren, dass wir einen gewissen Stromverbrauch haben und \nversuchen, das Beste draus zu machen. Das ist dieses gewisse End-of-Pipe-Thinking, \ndass man ganz am Ende des Problems ansetzt und für das letzte Symptom irgendwie \neine Lösung schafft, die ein bisschen nachhaltiger sein kann. Aber was sind denn \nauch andere Lösungen? Also gibt es Möglichkeiten, KI so nachhaltig und auch sozial \nverträglich zu gestalten, wie wir uns das wünschen würden?", "end": 2471.0 }, { "start": 2471.0, "speaker": "Rainer Rehak", "text": "Ich finde, das ist eigentlich die Kernfrage. Weil einerseits kann man sagen, wir haben \nsinnvolle Einsatzmöglichkeiten, so was wie Übersetzung oder Sprachsynthese oder \nAutogenerierung, das ist gerade aus dem Bereich der Barrierefreiheit super wichtig. \nWir können Material optimieren, den Materialverbrauch reduzieren. Wir können \nFlugrouten anders messen und mit KI auswerten, mittlerweile gibt es jetzt so ein \nVogelschutzgebiet im Atlantik, was sozusagen erst definiert wurde darüber über die \nFlogelrouten. Man kann so Predictive Maintenance machen und uns \nKI-Einsatzszenarien merken, wann rotierende Elemente in der Industrie kaputt gehen \nund die vorher austauschen und so. Also es gibt da jede Menge gute Ansätze oder \ngute Ideen für Einsatzzwecke. Wir sehen aber, und das ist so bisschen das Problem, \nviel mehr nicht nachhaltige Einsatzszenarien wie KI für Business, KI für Spaß, KI für \nalles. Und das ist leider sozusagen, diese Steigerung führt sich fort. Und wir sehen \nauch, dass da so eine Effizienz dass für Effizienzargument oftmals angeführt wird, \ndann sagt man halt, wir bauen eine Algen Farm oben drauf oder eine Sauna an die \nSeite dran oder wir machen sozusagen so für lokale Abwärme, nutzen wir das für die \nHeizung oder so. Das ist tatsächlich eine ganz nette Idee. Das Problem an dieser \nEffizienzdenkweise ist aber der sogenannte Rebound-Effekt. Kann man sehr gut an \neinem Beispiel mal abzeichnen. Google hat 2016 oder 2017 mit KI, Ältere KI, ein \nbisschen Statistik, würde man sagen, Statistik auf Steroids, haben sie es geschafft, \ndurch Rechenzirklungen, Optimierung von ihren Rechenzentren, den \nEnergieverbrauch 40 Prozent zu senken. Jetzt würde man applaudieren und sagen, \ngenau dafür gibt es KI. Resultat ist aber dann gewesen, dass sie Dutzende neue \nRechenzentren geplant und gebaut haben, weil der Betrieb nicht mehr so teuer war. \nDie Gesamtemission, der Gesamtverbrauch war dann also höher als vorher, trotz \ndieser riesigen Emissions Effizienz-Einsparungen. Und daran erkennen wir, dass wir \nsozusagen so ein bisschen dem Drachen hinterherlaufen, ohne ihn zu fassen zu \nkriegen. Diese Effizienz Denkweise, die sagt ja auch, wir müssen einfach nur bessere \nTechnologie bauen, bessere KI bauen, dann kriegen wir das am Ende alles irgendwie \nhin, weil die Effizienz besser wird, das Problem ist aber, dass die Erde reale, echte \nGrenzen hat, wie die Menschen, die auch reale, echte Grenzen haben. Das heißt, \neigentlich müssen wir rückwärts denken und sagen, so und so viele planetare \nGrenzen gibt es, jetzt müssen wir es uns hier im Raumschiff Erde gemütlich machen, \ninnerhalb dieser Grenzen. Und da würden mir tatsächlich 99 andere Sachen einfallen, \nwofür ich Ressourcen einsetzen wollen würde, als für KI-Spielereien von Milliardären, \nUnd diese Denkweise da kommt man dann in den Bereich, das nennt sich digitale \nSuffizienz wo man dann eben fragt, wie viel haben wir zur Verfügung, wie viel \nbrauchen wir davon und wie können wir das Begrenzte, was wir brauchen, gerecht \nverteilen? Und da reden wir auf einmal nicht mehr über KI, sondern da reden wir dann \nüber Macht und Profit und globale Systeme und Anreizsysteme. \nSozusagen auf einmal ist das gar nicht mehr auf einer technischen Ebene. \nDa kann man die KI auch gar nicht mehr fragen, weil das sind echte \nWertentscheidungen, wo wir als Menschheit hin wollen. Das wäre sozusagen meine \nReaktion darauf, wie wir da nachhaltigkeitsorientiert hingehen. In Bezug auf die \nmenschliche Frage, das sind natürlich wieder Fragen von Arbeitsschutz und von \nrechtlicher Durchsetzung usw., wo man genauso auch sagen muss, viele von den \nGeschäftsmodellen basieren gerade darauf, dass sie einfach soziale \nSicherungssysteme unterlaufen. Das ist gar nicht so die technische Innovation, \nsondern eigentlich sind soziale Innovationen bloß im Schlechten. \nDa kann man schon mal fragen, welche Art von Innovation wir eigentlich haben und \nwelche halt auch nicht. Und da denke ich, dass KI eine kleinere Rolle spielen wird, als \nes jetzt tut. Besonders wenn man sich anguckt dass der Energieverbrauch steigt, so \ndass jetzt wieder überlegt wird, Atom- und Kohlekraftwerke zu reaktivieren, nur um \nData Center zu betreiben. Also das ist sozusagen in dem Moment, wo man eigentlich \ndachte, zum Glück ist dieser Bitcoin Mist vorbei, da kommt der nächste, das ist genau \ndas Ergebnis, noch ein Beispiel, weil man dann immer sagt, ja, die Effizienz steigt an \nund es gibt ja auch so viele KI-Nutzungsszenarien. Effizienz heißt ja auch, die \nEffizienz von allem wird verbessert. Vor ein paar Monaten gab es erste Ergebnisse der \nsozusagen KI-optimierten Modellierung von Bohrungen in der Arktis, und man hat es \nso weit optimiert, dass es so günstiger wurde, an bestimmte Ölfelder und Gasfelder \nranzukommen, dass die jetzt tatsächlich geplant werden können, weil KI so gut \n“geholfen” hat eine Aktivität wie Ausbeutung zu optimieren. Optimal heißt immer, \noptimal für wen und warum überhaupt.Optimal ist nicht besser. Das ist eigentlich eine \nAushandlung, die wir treffen müssen. Und das ist genau das, wofür KI benutzt wird. \nUnd in dem Sinne glaube ich, dass diese Reflektion darüber leider oder zum Glück auf \neiner Ebene höher hängen als auf Einsatzszenarien von KI. \nDas ist auf alle Fälle ein sehr wichtiger Punkt.", "end": 2829.0 }, { "start": 2829.0, "speaker": "Daniel Mendes", "text": "Das klingt ja für mich so, als wenn wir wirklich überlegen müssen, was so die \nDiskurse sein sollen, die wir in dem Bereich überhaupt führen möchten. \nUnd wie man auch generell von dieser üblichen Haltung das in einer Art \nkapitalistischen Deckmantel zu höhen und zu überlegen, wie man höher, schneller \nweiter damit kommt, rauszuholen. \nDa wäre so bisschen meine Frage, wie kommt man denn in so einen anderen Diskurs? \nWeil das ja sehr unterschiedliche Ebenen sind, auf denen gerade darüber gesprochen \nwird. ich denke einerseits dass Menschen in ihrem täglichen Alltag ja sehr viel mit KI \narbeiten, zumindest in Schulen, an der Uni merke ich , dass viele Leute da ja wirklich \nsehr viel persönlichen Nutzen raus ziehen und das Gefühl haben, dass sie ihre \npersönliche Effizienz steigern können. Ich habe das Gefühl, in Unternehmen wird man \nüberall mit dem Begriff gerade überschwemmt und die Unternehmen, die es \nentwickeln, haben natürlich auch ihre Interessen. Wie kommt man denn in diesen \nneuen Diskursraum, der eben hin zur Sufficient geht?, der wirklich diese neuen \nFragen stellt.", "end": 2887.0 }, { "start": 2887.0, "speaker": "Rainer Rehak", "text": "Ich glaube, ganz wichtig ist es, diese Haupterzählungen, man könnte jetzt so bisschen \nsagen, das hegemoniale Narrativ zu brechen. Was ich damit meine ich kann das \nirgendwie in der Schule nutzen oder auf der Arbeit oder so, dann kann ich ja immer \nbesser werden, das schwingt irgendwie mit. Da muss ich ja nicht mehr acht Stunden \narbeiten, sondern nur noch vier Stunden arbeiten, weil ich so effizient war. Wir sehen \naber in den ersten Untersuchungen, auch in der Arbeitssoziologie, die geleisteten \nArbeitsstunden steigen beim Einsatz mit KI, und zwar weil die Chefs und Chefinnen \neine höhere Erwartungshaltung haben, wenn die Mitarbeitenden KI benutzen und \ndeswegen müssen sie im Endeffekt mehr arbeiten. Daran erkennt man sozusagen \ndiese Idee “Dann werde ich dabei effizienter” das bringt dir gar nichts, wenn du dafür \ndann nicht 8 sondern 9 Stunden arbeiten musst. \nJetzt gerade wird ja auch in der Regierung und Parlament diskutiert ob wir irgendwie \neine Wochenarbeitszeit einführen, weil alle zu wenig arbeiten. Also ich wüsste nicht, \nwer hier zu wenig arbeitet. Aber sozusagen daran merkt man das versprochene Ziel, \nalso die Mohrrübe, die einem sozusagen vor das Gesicht gehalten wird, die realisiert \nsich nicht. Das einzige, was passiert ist, dass sozusagen die Extraktion von \nArbeitskraft und Wert, dass die effizienter wird, im schlimmsten Fall kriegst du ein \nKI-System an die Hand und wirst dann weniger bezahlt, weil du keine Expertise mehr \nbrauchst, sondern ein System bedienst. Und das ist diese Illusion des individuellen \nNutzen. Und da müssen wir eben auch diese Fragen stellen. Und dann merkt man ja, \naber wo wollen wir denn eigentlich hin? Wir wollen zum guten Leben für alle und so \nweiter. Und dann kann man schon überlegen, wie bindet man solche Art von großen \nKI-Systemen in so Ideen ein von öffentlicher Daseinsvorsorge? Also eher in diese \nRichtung. Da kann man das ja irgendwie dann von Forschungsinstituten, die gibt es ja \nin Europa auch, solche KI-Systeme bauen mit so einem bestimmten Sinn und Nutzen \nim Hintergrund, wo man auch die Kennzahlen kennt, auch den Energieverbrauch und \nso weiter. Man weiß, wo die ganzen Sachen herkommen. Dann kann man überlegen, \nwelche Einsatzszenarien sind gut und sinnvoll sind und welche auch nicht. Dann \nwürde man auch sagen, das muss dann eingebettet werden in so arbeitsrechtliche \nFragen, aber auch in der Schule oder so. bringt mir auch, wenn ich da automatisiert \nirgendwelche Texte generiere, ich verstehe ja trotzdem nicht, was ich da tue. Es hilft \nmir zwar schnell, meine Arbeit fertig zu machen, aber eigentlich habe ich weniger \ngelernt und eigentlich bin ich nur dem Druck gefolgt, dass alles andere immer \nschneller sein muss. Das ist so ein Angst-Denkmodus, aus dem wir rauskommen \nmüssen. Ich glaube, das kann man tatsächlich auch mit guten Bildern, wenn man \nsagt, das ist irgendwie öffentliches Gut und wir brauchen da so einen \ngemeinschaftlichen Ansatz, wo auch die Entscheidung demokratisiert ist. Und wir \nmüssen auch irgendwie über Prozesse nachdenken, wo sozusagen die \nEffizienzgewinne oder der Mehrwert dann auch der Gesellschaft zugutekommt, das \nsind so Fragen, die sind tatsächlich zielführend, wenn man einmal diesen Vorhang so \nein bisschen geöffnet hat, was einem persönlich diese Systeme dann bringen. Also \nich nutze die ja auch, ich nehme mich da gar nicht raus.", "end": 3100.0 }, { "start": 3100.0, "speaker": "Daniel Mendes", "text": "Ja, meine, wir nutzen die ja alle, und ich hab das Gefühl zu einem gewissen Grad, ist \nesja auch irgendwie notwendig, überhaupt noch greifen zu können, wie schnell sich \ndie Welt in der Hinsicht der Zeit entwickelt. Was ich super spannend finde, wir haben \nja grad so bisschen beleuchtet, was man verändern sollte, was besser aussehen \nkönnte und besser laufen könnte. Jetzt frage ich mich aber auch, wer wird das denn \ntun oder sollte das tun oder tut es bereits? Was sind richtig coole Best Practices, die \nwir jetzt mal mit einer großen, warmen Dusche an Lob und Empfehlungen \nüberschütten können, damit wir wissen, wen wir mal recherchieren sollten nach \ndieser Folge.", "end": 3138.0 }, { "start": 3138.0, "speaker": "Rainer Rehak", "text": "Ja auf jeden Fall, ich kenne da so Leute wie Paris Marx, aber auch Paul Schütze, auch \nLönn Carg zum Beispiel. Das Bitz- und Bäume Netzwerk kann ich sehr empfehlen. \nAber auch zum Beispiel Theresa Züger, die so gerade Ideen dieser Public Interest KI \nhat, also einer gemeinwohlorientiertern KI die so ein bisschen geprägt ist. \nAls Beispiel, uns auch mal auf kleine Modelle zu fokussieren. Die sind verstehbar, die \nsind kontrollierbar und ich sag mal, der Großteil der Anwendungsfälle werden \ntatsächlich durch diese kleinen Modelle auch erledigt. Und ich glaube, was man so ein \nbisschen machen kann, ist diese Art von Projekten, die da so kritischen Umgang auch \npflegen, sich da mal vielleicht dazu was anzulesen. Ich hab da auch Texte \nzugeschrieben. Und an der Stelle vielleicht auch mal zu sagen: \ndiesen Schritt zurückzutreten und sich selber der eigenen Praktik hinzugben, dann \ngucke ich da irgendwie, nutze ich hier eine KI und da eine KI. Aber vielleicht auch \nbeim kleinen zu sagen, die nächste elektrische Zahnbürste, die ich mir kaufe, ist \nvielleicht extra eine, wo nicht drauf steht, KI Enhanced. Und das gibt es tatsächlich. \nVielleicht gibt es aber auch alternative Suchmaschinen, die gibt es auf jeden Fall, egal \nob es jetzt irgendwie Ecosia oder MetaGear ist und so weiter. Wenn man sagt, ich will \nhalt diesen Google Kram nicht nutzen, dann sollte ich es vielleicht auch nicht tun. Es \ngibt auch ganz klassisch, jetzt fangen die ganzen Anbieter an, die ganzen Inhaltsdaten \nauszuwerten. Google mit E-Mails und Meta mit Instagram und so weiter. Ich kann ja \nauch quasi einen anderen E-Mail Provider mir wählen und mir so Stück für Stück \nvielleicht ein bisschen die Praktiken mir aneignen, genauso wie man vielleicht auch \nguckt, bei welcher Bank man ist oder wo man guckt, wo man einkauft und so weiter. \nUnd all diesen Sachen, so kleine Sachen im Individuellen zu machen. ich finde, ganz \nwichtig ist aber auch, \nIch meine, wir haben ja ab und zu politische Wahlen, haben Organisationen, die dafür \narbeiten. Es gibt auch Events. Man kann auch mal einfach irgendwie eine Mail an die \nAbgeordneten schreiben und sagen, jetzt geht es gerade ums Energieeffizienzgesetz. \nAlso ich würde eigentlich lieber in einer Welt voller grüner Bäume leben, als in einer \nWelt voller KI-Applikationen. So eine Sachen kann man auch machen. Und ich glaube, \ndiese Wachheit, die gleiche Wachheit dabei, wenn man schaut was man für Essen in \nsich reinsteckt, weil das quasi zum eigenen Körper wird, diese Wachheit auch bei der \ndigitalen Welt genauso anzuwenden und zu gucken, was lese ich eigentlich und wie \nsuche ich, womit umgebe ich mich und so weiter. Und ich glaube, da entsteht dann \nauch so eine bestimmte Haltung. Und aus dieser Haltung heraus baut man, auch eine \ngewisse Resilenz auf, um dann nicht immer auf den nächsten Zug gleich \naufzuspringen und vor allem nicht in diesen Angstmodus zu kommen, wo man \nsozusagen in vorauseilendem Gehorsam sich zur besseren kapitalistischen \nVerwertbarkeit das nächste KI-Tutorial nachts noch reinzieht, bloß nicht \nzurückzufallen. Das ist keine Welt, in der irgendjemand eigentlich leben möchte.", "end": 3327.0 }, { "start": 3327.0, "speaker": "Daniel Mendes", "text": "Und damit hätten wir auch schon mal ein gutes Zitat. Das ist sehr gut. Die \nkapitalistische Verwertbarkeit. Dann hätte ich noch eine allerletzte, ganz kurze Frage \nfür dich. Damit das auch so richtig gut hands-on für den Alltag nutzbar ist. Hast du so \neine Frage für unsere ZuhörerInnen, die sie wirklich richtig gut mitnehmen können, \ndie sie sich immer mal wieder stellen können, wenn sie gerade im Alltag mit dem \nThema konfrontiert sind?Da ist eine böse Frage, die ist schwierig.", "end": 3356.0 }, { "start": 3356.0, "speaker": "Rainer Rehak", "text": "Also sozusagen die Frage, sich die Zuhörenden selber stellen sollen.", "end": 3360.35 }, { "start": 3360.35, "speaker": "Daniel Mendes", "text": "Genau, zum Beispiel sowas wie... Brauche ich dafür KI? Oder... Wie explizit, wie \ndetailliert muss die Antwort sein, die ich hier kriege?", "end": 3364.0 }, { "start": 3364.0, "speaker": "Rainer Rehak", "text": "Also ich will mal mit einem Bild antworten. Und zwar, es gibt so ein Konzept von \nEpikur des Reichtums, das ist ein alter Grieche. Der hat gesagt, was wir Menschen \neigentlich brauchen, ist sozusagen Raum Wohlstand, sozialer Wohlstand und \nZeitwohlstand. Also Leute um uns rum, nette Leute um uns rum, genügend Raum um \nuns mal, das kann auch ein Park sein und Zeitwohlstand, um tatsächlich ein bisschen \nmal auch innerlich atmen zu können, um über Sachen nachzudenken, Kehrarbeit zu \nmachen und so weiter. Und wenn man sich mal Werbung anguckt, sieht man oftmals, \nnur mal als Beispiel, da wird dann irgendeine Cola getrunken am Strand bei \nLagerfeuer mit den besten Freunden und sagt man, hier, guck mal, du brauchst diese \nCola. Wenn man aber mit diesem Reichtumskonzept von Epikur drauf guckt, dann \nsieht man, es geht gar nicht um die Cola. Die versuchen, dieser Cola zuzuschreiben, \nwas eigentlich von dem schönen Abend mit Freundinnen am Meer kommt. \nDas hat mit der Cola gar nichts zu tun. Und ich glaube, diese Frage, mit dieser Brille \nmal rumzulaufen, wenn Leute sagen, hey, hier gibt es ein neues KI-Tool, zu gucken, \nwas nimmt mir das gerade ab? An welcher Stelle ist das überhaupt ein Prozess, den \nich besser haben will? Will ich vielleicht sogar eigentlich daran arbeiten, in diesem \nProzess ganz loszuwerden? ist sozusagen, was füllt eigentlich mein Leben und was \nidentifiziert mich auch? Ist das meine Fähigkeit, mit KI umzugehen? \nOder ist es irgendwie der Blick, wenn meine Geburtstagsgäste auf meine Party \nkommen, weil sie sich freuen, dass ich da bin? Geht es eigentlich darum? Ich glaube, \ndas ist jetzt nicht so ganz konkret, aber es ist, glaube ich, eine Blickweise, die ich \nmitgeben würde.", "end": 3464.0 }, { "start": 3464.0, "speaker": "Daniel Mendes", "text": "Ja, aber ich muss sagen, das ist ein ganz wunderschönes Bild. Ich finde, es ist auch \neine sehr positive und ich finde sehr lebensbejahende Art, nochmal auf dieses Thema \naufmerksam zu machen und auch aus meiner Sicht ein wunderbarer Schlusspunkt für \ndie heutige Folge. Ich merke, wir haben schon fast die Stunde geknackt, aber das \nThema war auch super spannend. Du hast dir wirklich super spannende Details geben \nkönnen. Sehr, coole Beispiele mitgebracht. Also wirklich vielen, vielen Dank, dass du \nheute mit dabei warst.", "end": 3493.0 }, { "start": 3493.0, "speaker": "Rainer Rehak", "text": "Danke auch für die Einladung.", "end": 3494.0 }, { "start": 3494.0, "speaker": "Daniel Mendes", "text": "sehr, sehr gerne. Hast du noch einen letzten Punkt? Ansonsten würde ich sagen, \nschließen wir das für heute.", "end": 3500.0 }, { "start": 3500.0, "speaker": "Rainer Rehak", "text": "Ich glaube, das ist eigentlich ein ganz guter Schluss. Vielleicht kann man einfach \nsagen, es gibt schon sehr, sehr viele Leute, die sich damit beschäftigen und ganz \nwundervolle Sachen schreiben und so weiter. Man kann da so hinter die Foren \nkommen und gucken. Da gibt es sicher viele schöne Sachen zu entdecken. Alles, was \nwir noch nicht wissen und so dass man sich auch selber anders kennenlernt, sein \neigenes Ding.", "end": 3534.0 }, { "start": 3534.0, "speaker": "Daniel Mendes", "text": "Ja, das ist ein wunderschöner Schlusssatz. ganz, ganz lieben Dank, dass du da warst. \nDanke, dass du schon so lange das Goggo Gantz Forum unterstützt hast, ich würde \nsagen, Tag eins ja eigentlich schon. Und dann wünsche ich dir ein ganz schönes \nWochenende. Es ist Freitag, die Sonne scheint. Ich freue mich auch gleich noch mal \nrauszugehen.", "end": 3552.0 }, { "start": 3552.0, "speaker": "Rainer Rehak", "text": "Wunderbar, genau. Dir auch ein schönes Wochenende. Und wer kann, raus an den \nSee auf jeden Fall vielleicht nicht so viel am Gerät hängen.", "end": 3560.0 }, { "start": 3560.0, "speaker": "Daniel Mendes", "text": "So ist es, so ist es. Vielen, Dank. Ciao.", "end": 3561.0 } ]