KI-lling us softly?

Mads_Interview.mp3

Maria Beßler: In der heutigen Folge spreche ich mit Autor und Politikberater zu Themen wie künstliche Intelligenz und digitale Gesellschaft, über das Thema Künstliche Intelligenz. Es wird ein kleiner Jahresrückblick auf das Jahr 2023 und auch ein kleiner Ausblick auf das Jahr 2024. Viel Spaß beim Zuhören!

Hallo Mads, schön, dass du da bist. Ich möchte anfangen mit meinen drei Fragen, und die erste Frage an dich ist: Spotify live Session oder Konzert?

Mads Pankow: Hallo Maria, ich nicht so ganz eins von all dem, aber am ehesten Spotify oder Äquivalente, also ich hab in anderen Podcast her gerät. #00:00:43-6#

Maria Beßler: Erste Klasse oder zweite Klasse? #00:00:45-3#

Mads Pankow: Oh Gott, es ist mir so unangenehm, aber zunehmend erste Klasse, weil ich so viel im Zug sitze und ich habe gemerkt, ich kann einfach besser arbeiten, und ich dachte immer, das wäre mir egal. Das stimmt nicht, ist mir nicht egal. #00:00:58-0#

Maria Beßler: Okay, Samstag oder Sonntag. #00:01:00-5#

Mads Pankow: Auf jeden Fall Sonntag, weil ich mich tatsächlich, und dafür werde ich von vielen Leuten auch kritisch beäugt, auf die Woche wieder freue, Montag arbeiten zu können. Ja! #00:01:10-0#

Maria Beßler: Richtige Berufswahl? Okay, steigen wir mal ins Gespräch ein. Was ist denn für dich so faszinierend an KI? #00:01:17-8#

Mads Pankow: Ja, ich glaube, das, was für die meisten Leute so spannend ist, da ist so eine Maschine, und die tut Dinge, von denen ich dachte, dass das nur ich sie kann, ja als Mensch, und das hat mich schon immer fasziniert, und dann kam vielleicht noch dazu so die Frage, was ist der Unterschied zwischen zwischen Mensch und Maschine? Das hat mich irgendwie getriggert, dass ich wissen wollte, was da der Unterschied ist, vielleicht so kann man, kann ich mir das ein bisschen im Nachhinein erklären dadurch, ich komme von so einer mathematischen, naturwissenschaftlichen Schule, und dann war ich auch noch in der Mathe- Klasse, weil ich irgendwie der Grundschule dachte, Mathe ist Mathematik, und das würde alles ganz - es lief gar nicht gut für mich. Ich war auf jeden Fall bei Weitem nicht schlau genug für. Aber ich hatte halt dann viele Freunde, die sehr schlau waren und sich sehr viel mit Computern beschäftigt haben in der Zeit, und die haben halt am Wochenende am Rechner geschraubt und die haben auch immer ganz toll da kann ihre Sachen, die haben ganz viel gecodet und irgendwelche Open-Source-Sachen weiterentwickelt, und ich saß immer so ein bisschen dabei und habe so ein bisschen mitgebastelt, aber hab dadurch schon eine große - Liebe ist übertrieben, aber ein großes Interesse für Computer, sowohl Software als auch auf Hardware-Ebene entwickelt und ein minimales Grundverständnis davon, wie die Dinge auch funktionieren, das, was ich halt so aufgeschnappt habe, wenn die mir mal so Brocken zugeworfen haben, und das hat mir große Freude gemacht. Und dann hab ich aber was ganz anderes studiert. Ich habe Geisteswissenschaften studiert, Medienwissenschaft und dann auch Kulturwissenschaft, und dann habe ich mich auch für sehr Soziologie interessiert und philosophische Andrologie, also die Fragen, woher kommt der Mensch, wie funktioniert die Gesellschaft, was hat das mit Technologie zu tun? Damit habe ich mich dann viel beschäftigt, und da ist mir dann irgendwann aufgefallen, irgendwie, da gibt es so eine Lücke. Also, da gibt es so eine Lücke zwischen meinem technischen Verständnis oder einem vermeintlichen technischen Verständnis von Computern und dem menschlichen Bewusstsein, so wie ich es jetzt hier auf der ganz anderen Seite kennengelernt habe, und ich glaube, ich muss das mal, ich muss dem mal auf den Grund gehen. Und dann habe ich meine Abschlussarbeit darüber geschrieben über den Unterschied von maschinellem Operieren und menschlichem Denken oder Bewusstsein, und hab dann halt aus beiden Welten viel gezogen dafür, und ich weiß noch, ich kam dann zu meiner Erstprüferin, und ich hab die total verehrt, und wie gesagt, das, und das möchte ich machen, und so, ja super philosophische Anthropologie finde ich total gut. Aber KI, das ist doch Quatsch! Also kein Mensch würde doch jemals behaupten, dass Computer denken können, und das war damals auch nicht so. Was heißt damals war so 2010, elf oder so, zehn glaube ich, und da hat das keinen interessiert? Und ich habe gesagt, doch, doch das wird behauptet werden und überhaupt, und da muss man jetzt mal so wirklich so richtig tief einsteigen in mehrwertige Logik und alles, und ja gut, wenn du meinst, du musst das machen, und ja, das habe ich dann gemacht und hab mir da auch viel Zeit für genommen, und es hat, lief auch ganz gut. Aber es war halt irgendwie, das Feedback war bescheiden, also es einfach nicht von der Qualität her, aber vom Interesse, so: „Keine Ahnung, was du da machst.“ Und dann kam aber diese KI-Welle 2015, und da war ich nun schon fertig, hatte schon bisschen gearbeitet, und dann haben alle gesagt, ja, bald können die Maschinen denken, bald ist es soweit, bald haben die Maschinen uns überholt, diese ganze Singularität, und ich bin dann so wutentbrannt mit dieser Arbeit unterm Arm zur re:publica gestapft und habe gesagt, jetzt erkläre ich euch noch mal die Welt so in dieser postpubertären Eitelkeit. Also, jetzt sage ich euch nochmal, wie es wirklich ist, und ich habe irgendwie Glück gehabt, weil das geklappt hat. Also dann kamen ganz viele Leute danach auf mich zu, sagt: Okay, also so wie du das jetzt erklärst, das war interessant, schreibt doch noch mal was drüber oder macht doch hier nochmal ein Vortrag oder berate uns doch noch mal, weil man, wenn man der Sache auf den Grund geht, nicht mehr in diesem völligen Vakuum lebt, so keine Ahnung, womit die morgen um die Ecke kommt. Vielleicht hat sie die Weltherrschaft erstrebt, sondern kann so ein bisschen detaillierter herausarbeiten, was, was kann die Maschine und was nicht, und das war irgendwie mein Ziel, und es ist versehentlich zu meinem Beruf geworden, und ja, dafür bin ich sehr dankbar. #00:05:17-9#

Maria Beßler: Mhm, du hast ja jetzt gesagt, warum für dich so interessant ist und auch so faszinierend. Was glaubst du denn, macht das allgemein so interessant, faszinierend, aber auch emotional aufgeladen? #00:05:30-5#

Mads Pankow: Mhm ja, ich glaube, das ist ein Thema, was natürlich stark mit Angst besetzt ist. Wenn man sieht, dass die Maschinen wöchentlich, im Wochentakt oder Monatstakt Dinge können, von denen wir dachten, nur wir Menschen könnten sie, dann ist natürlich die Intuition, das hoch zu skalieren und zu sagen, ja, okay, dann denken sie bald wie Menschen, und wenn sie wie Menschen denken, das ist ja diese Singularitätstheorie, dann können sie sich auch selber verbessern, und wenn sie sich selber verbessern können, dann werden sie irgendwann hyperintelligent und was wird dann, bringen sie uns alle um? Jeder zweite Science Fiction Film erzählt ja, dass die KI Bewusstsein entwickelt und uns umbringt, und diese Angst kann ich verstehen. Ich glaube, vielleicht war das auch ein Grund, warum ich mich damit unbedingt so detailliert auseinandersetzen wollte. #00:06:13-1#

Maria Beßler: Vielleicht auch gegen deine eigene Angst? #00:06:15-2#

Mads Pankow: Gegen, vielleicht auch gegen die eigene Angst. Also könnte sein, ich weiß, ich weiß es nicht mehr so ganz genau, ob es nur Interesse oder auch Sorge war, kann die Angst verstehen. Aber die Angst müsste man eher haben vor dummer Technik und das ist dann die andere Hälfte der KI-Science-Fiction ist immer, die Maschine versteht ihren Auftrag nicht. Also, es gibt dieses bestimmte berühmte Paperclip-Gedankenexperiment. Was ist, wenn ich einer KI sage, du musst jetzt besonders effizient möglichst viele Büroklammern bauen, dann fängt es irgendwann an, alle Ressourcen auf der Welt dafür zu verbrauchen und die Menschen zu töten, weil es muss alles eine Büroklammer werden, und diese Gefahr kann ich eher verstehen, dass es eine nicht bewusste Maschine ist, die stumpf einen Auftrag ausführt, ohne Rücksicht, und ich glaube, dass eher die Gefahr, um die man sich Sorgen machen muss, aber vielleicht auch eher eine Gefahr, die man in Griff kriegen kann, wenn man sie sich bewusst macht. Ich glaube, daran liegt, es, dass das für viele so ein Thema geworden ist. Ja. #00:07:10-0#

Maria Beßler: Ist es auch im letzten Jahr so angekommen, in der, in der allgemeinen Wahrnehmung? Also, ich habe das Gefühl, dass durch ChatGPT im letzten Jahr so große Aufmerksamkeit erfahren hat und dann auch im Mainstream angekommen ist. Du hast jetzt auch gesagt, das ist ein bisschen polemisch, aber die KI kann auch tödlich sein. Ja, aber es gibt ja viele Beispiele. Was die schon kann, gibt's vielleicht irgendwas am Beispiel, wo du sagst, dass es faszinierend für dich, dass sie das kann, wovon wir vielleicht auch gar nicht wissen, dass sie, dass die das schon kann? #00:07:44-6#

Mads Pankow: Ich würde, ich würde die Frage vielleicht umdrehen und zwar gibt es viele Dinge, die Computer können, von denen wir noch, von denen den meisten Leuten gar nicht bewusst ist, dass sie das können. Und da geht es vielleicht gar nicht so sehr um KI, und mich interessiert ja jede Form von Automatisierung, von menschlichem Handeln, sondern um vor, also eben nicht im Sinne von lernenden Maschinen, sondern um Algorithmen, die Menschen imitieren. Also zum Beispiel sind jetzt alle ganz überrascht, dass die KI irgendwie Briefe schreiben kann oder Gedichte schreiben kann, aber irgendwie also, Joke-Simulatoren, die Witze schreiben, aus dem FF gibt's schon 20, 30 Jahre oder in der Kunst, Jazz- Algorithmen begleiten ja Spieler schon in den Achtzigern voll autonom und war damals irgendwie so die Improvisation im Jazz als eine der höchsten Fähigkeiten, und ich glaube, bis heute in der Musik, und das können Algorithmen schon lange, und es gibt so ein Beispiel, das finde ich irgendwie völlig abgefahren. Dass ist so diese Sorge, ob Computer sich irgendwann selber weiterentwickeln können, selber Schaltungen bauen können, und das gibt es schon seit 1996. 1996 hat Adrian Thomson, so ein britischer Informatiker, gedacht, können Computer auch Schaltungen bauen? Selber irgendwie Schaltung entwickeln und hat das dann ausprobiert, indem er Computern den Auftrag gegeben hat, eine Schaltung zu bauen, die zwei verschieden hohe Töne unterscheiden kann, also so eine Minimalanforderung, ganz simpel eigentlich aber gedacht: Kann er selber eine entwickeln für diese Aufgabe, und wie hat er das gemacht? Ja, wir Menschen würden uns überlegen, ja, was unterscheidet Töne, Frequenzhöhe, was brauche ich dafür? Transistor, Gutter, dieses bauen wir mal zusammen, und dann probieren wir was aus. Und der hat gesagt, nee, Computer muss das anders machen, der muss es einfach, der muss es anders lernen, und zwar durchaus Probieren, einfach Stumpfes ausprobieren. Und was hat er gemacht? Er hat so ein Schaltgutter von 100 elektrotechnischen Bauelementen mit dem Computer verknüpft und hat gesagt, lieber Computer, verschalte die mal willkürlich miteinander und macht das so oft, bis ein Algorithmus raus- oder eine Schaltung rauskommt, die zwei verschieden hohe Töne unterscheiden kann. Und der Vorteil vom Computer ist, der kann das ja in Mikrosekunden, paar zig Tausendmal, und das hat er auch gemacht. Und dann kam tatsächlich durch Versuch und Irrtum eine Schaltung raus, die hat zwei verschiedene hohe Töne unterscheiden können. Große Überraschung! Und dann hat Adrian Thompson gesagt, dann versuch doch mal weiter! Vielleicht findest du ja auch eine Schaltung, die reduzierter ist, einfacher als eine menschliche Entwurf, und dann hat er das auch gemacht hat, also alternative Schaltpläne durch Versuch und Irrtum entdeckt hat, die wiederum variiert hat, die miteinander gekreuzt und kam am Ende mit einer Schaltung raus mit nur 40 Bauelementen, und das war reduzierter als jeder menschliche Entwurf bis dahin, und das war crazy, aber wirklich crazy war, dass ein Teil dieser Schaltung gar nicht innerhalb des Stromkreises lag. Also, er war angeschlossen, aber da floss gar kein Strom durch, und dann hat Thomson gesagt, ist ja, irre, können wir das abknipsen, und dann war es aber so, dass die Schaltung dann nicht mehr funktioniert. Das ist so für Elektrotechniker oder Informatiker eine absolute Gruselstory. Weil wie kann es sein, dass eine Schaltung, die keinen Strom führt, entscheidend ist dafür, dass das Ding funktioniert? Und erst viel später hat man dann herausgefunden, die Schaltung hat nur funktioniert wegen elektromagnetischer Wechselwirkungen zwischen den Bauteilen, die man normalerweise versucht zu vermeiden, in der Elektrotechnik, weil sie störend ist, und nur dadurch konnte halt diese Frequenzresonanzen unterschieden werden. Also zusammengefasst, der Computer hat nicht nur durch Versuch und Irrtum eine Schaltung entwickelt, die einfacher war als jeder menschliche, nein, sie hat auch ein anderes Wirkungsprinzip verwendet, auf dass Menschen noch gar nicht so gekommen waren. Und da denkt man: Okay, die Innovationsfähigkeit von Maschinen haben wir seit 1996 aber schon länger, also in Internet Jahren ist das ja Jahrtausende her, und ich glaube, das ist das, was, was ich sehr interessant finde, das, was überraschend ist, vieles von dem, wo man heute sagt, vielleicht können die Maschinen das bald, es könnten die schon als vorintelligente Rechner, Innovation, Kreativität, auch Dialoge und so weiter. #00:12:04-7#

Maria Beßler: Nee, aber ist sehr interessant. Ich wusste auch nicht, dass es so in den Bereich der Kreativität geht, also so kreative Lösungen. #00:12:13-1#

Mads Pankow: Ja, genau da gibt's, das ist das Interessante, und das, was wir als Kreativität kennen, ist so ein Sammelbegriff, und es zeigt sich, dass viele einzelne Aspekte wie Variation also Adrian Thompson hat das Evolutionäre Hardwareentwicklung genannt, das Prinzip der Evolution, also auf eine grundsätzlich andere Art und Weise als der Mensch, der durch Einsicht auf Lösungen kommt, auf bessere oder andere Lösungen kommt, während wir könnten den Menschen auch nicht rekonstruieren oder Tiere, weil die Mechanik der Evolution können wir nicht beherrschen, aber durch Einsicht können wir das Rad erfinden. Das kann die Evolution nicht. Ja, und ich glaube, das ist so zum Grundverständnis, deswegen habe ich die Geschichte auch erzählt, total wichtig zu verstehen. Ah, Computer arbeiten mit grundsätzlich anderen Mitteln, kommen auf ähnliche Lösungen, teilweise auf bessere, aber können trotzdem nicht automatisch das gleiche wie wir. Es sind verschiedene Formen der Intelligenz. #00:13:00-5#

Maria Beßler: Ja, und sie sehen aber auch nicht so schön aus dem Menschen. #00:13:03-8#

Mads Pankow: Es gibt ganz, ganz tolle Bilder von Mikroprozessoren. Ja, also ja, ja! #00:13:09-3#

Maria Beßler: Ähm, du hast jetzt schon sehr schöne Geschichten erzählt und damit auch meine Fragen so schön beantwortet. #00:13:17-3#

Mads Pankow: Das ist nett, dass du das sagst. #00:13:18-8#

Maria Beßler: Also, das ist die Wahrheit. Was glaubst du denn? Wir haben ja gerade schon ein bisschen über Angst auch gesprochen. Was glaubst du denn? Sind so die größten Mythen vielleicht auch negativ besetzt, die es so im Bereich KI gibt? #00:13:32-1#

Mads Pankow: Ja, das ist immer schwer zu sagen, weil wir ein begrenztes Wissen haben darüber und ich auch vor drei Jahren noch Dinge nicht für möglich gehalten habe, die jetzt möglich sind, aber vorsichtig nicht für möglich gehalten habe. Ich glaube, der größte Mythos ist, dass das jede, muss man ganz weit raussuchen, jede Form von Problemlösungsfähigkeit am Ende das gleiche ist wie menschliche Intelligenz, nur in der Vorstufe so, und damit fängt man halt an, überall menschliche Intelligenz zu sehen. Also, der Delfin kann Probleme lösen, also ist es eigentlich auch genauso wie wir intelligent, der muss nur sich noch ein bisschen, der muss nur ein bisschen schneller werden oder die Krähe und so. Und beim Primaten ist das ja auch ein plausibles Argument, weil wir uns aus dem ja auch entwickelt haben. Aber das wird Computer dann immer unterstellt, wenn wir die nur noch schneller machen. Das war früher die Geschichte bei 10000 Theraflops ist der Computer so schnell ist das Gehirn. Wenn der Computer das kann, können, kann er denken, dann hatte man die erreicht. Ja gut, da mach wir das Zehnfache, 100000 war bei 10 Milliarden oder so. Was ist jetzt immer die Hoffnung. Dann kann er denken wie ein Mensch, und ich glaube, das Wichtige ist zu verstehen, dass es erkenntnistheoretisch oder Bewusstseins theoretisch beliebig viele verschiedene Formen gibt, Welt zu verarbeiten und Probleme zu lösen und die nicht automatisch auf eine menschliche Intelligenz zustreben. Nur wenn man ein Auto immer schneller baut, wird es nicht anfangen zu fliegen. Also die Art und Weise, wie Menschen verarbeiten, ist im Gegenteil viel, viel schlechter als Computer, die - wir warten immer darauf. Wann sind die intelligenter als wir? Taschenrechner rechnen seit 80 in schneller als jeder Mensch. Sprachmodelle können inzwischen so viel Wissen verarbeiten, wie kein Mensch Bilder kreieren, Kunst kreieren, wie kein Mensch Ingenieursleistungen wie kein Mensch. Ich frage mich, worauf wir warten. Die KI ist in vielerlei Hinsicht längst viel besser als wir, und zwar in den Dingen, die sie gut kann. Und warum müssen wir immer noch mit Gewalt versuchen, ihr auch noch das beizubringen, wie wir denken, nämlich leider extrem unlogisch, sehr ineffizient, aber wir haben Bewusstsein, wir können reflektieren, wir wissen um die Existenz der Welt, die die Maschine nicht hat. Die verarbeitet nur Nullen und eins ohne Referenz auf Welt, und das ist das, was den Menschen auszeichnet, und dadurch können wir ganz andere Lösungen finden, auf andere Art und Weise, und das wird uns auch nach wie vor für unverzichtbar belassen. Vielleicht vieles von dem, von dem wir dachten, dass wir es sehr bewusst machen und dass wir dafür im Bewusstsein brauchen, wie zum Beispiel Texte schreiben, zeigt sich. Nee, das funktioniert einfach über die Verarbeitung von Sprache. Sprach muss dazu reproduzieren, aber die bewussten Prozesse bleiben uns vorbehalten, weil da sind wir, seit John den Begriff 954 erfunden hat und die Hoffnung hatte, er würde einen common sense in der Maschine finden. Der hat damals gesagt, schaff ihn allein, ich brauche zwei Monate Zeit und zehn gute Mitarbeiter, und dann lösen wir das, und das ist jetzt 70 Jahre her, oder zehn gute Wissenschaftler:innen, und dann lösen wir das, 70 Jahre her, und jetzt arbeiten 100000 Menschen daran, und wir haben ihre Sachen möglich gemacht mit der KI, aber die Frage des Bewusstseins, also selbst und Fremdreflexion und Weltverarbeitung und das Wissen um die Existenz der Welt, da sind wir nicht angekommen, und wir sind auch nicht zwei Drittel oder drei Viertel, wir sind auch nicht halb da, wir sind nicht ein bisschen da, wir sind gar nicht da. Also da ist gar nicht nichts. In Sachen Bewusstsein gibt es überhaupt keinen Fortschritt in der Simulation davon, so zu tun, als wäre etwas bewusst, das schon. Aber in dieser bestimmten Operationalität ist es überhaupt noch nicht weitergekommen und gibt es verschiedene Erklärungen, warum das so sein könnte. Ich nehme an, dass einfach formallogische Rechner diese, die paradoxe Operation, die rekursive Operationen der Selbstbeobachtung nicht abbilden können, ist eine Vermutung. Aber es sieht so aus, als würde eben unsere Art und Weise, die Welt zu beobachten, erst mal exklusiv menschlich bleiben, und die Maschinen übernehmen alles andere, was erstaunlich viel ist, und wir können dann irgendwie gucken, wie wir mit denen zusammenarbeiten können. #00:17:42-4#

Maria Beßler: Warum glaubst du, ist das so faszinierend? Also dass man unbedingt auch dieses Bewusstsein haben möchte für Maschinen? #00:17:49-9#

Mads Pankow: Ja, weil das dann die Hoffnung ist, dann brauchen wir gar nichts mehr tun. Dann kann die Maschine, wenn die auch das kann. Also wenn jetzt zum Beispiel bei Ähm, ich benutze ein Bildgenerator sowas wie Midjourney oder so und gebe da ein, ich will jetzt irgendwie ein Bild da und davon, dann muss ich da immer variieren, muss meinen Text anpassen, muss viele 1000 Durchläufe haben. Im Moment ist so das wacky finger-Problem sehr groß. Bild, Generatoren können keine Hände machen, den Finger zu viel oder zu wenig, und die sind unterschiedlich lang, weil die Maschine nicht weiß, was sie da stellt. Sie stellt nur Muster da, modelt das immer durcheinander, und die Hände sehen immer scheiße. Also, es wird besser werden, wird da sehr viel resistenter werden und robuster werden? Aber die grundsätzliche Problematik bleibt, bleibt immer gleich, und jetzt sag nochmal, was du gefragt hast. #00:18:38-1#

Maria Beßler: Ja, warum das so faszinierend ist, dass oder warum danach gestrebt wird, dass auch die Maschine dann ein Bewusstsein hat. Was ist daran so faszinierend? Warum? Warum strebt man danach? #00:18:48-8#

Mads Pankow: Ah! Ich glaube, genau also dann könnte man arbeitstechnisch diese Probleme lösen. Die können vollautonom Probleme lösen und bräuchten nicht immer jemanden, der sie informiert mit Daten über die Welt, die wir aufbereitet haben, der sie instruiert, der die Ergebnisse kontrolliert, der die anpasst, der die Verantwortung trägt. Man könnte das alles delegieren, ja, und zum anderen ist es vielleicht auch so ein bisschen Thrill, sagen krass, wenn jetzt die Maschinen denken, was passiert denn da?Kkommt dann der Terminator, tut damit was Gutes oder was Schlechtes? Ja oder vielleicht auch die Hoffnung ist das, dann haben wir dann alle Probleme der Welt gelöst. Das wäre natürlich auch ein tolles Narrativ. Der Mensch erfindet den Gott, weil er die, die die Probleme der Welt kaum ertragen kann, und die Unlösbarkeit der Welt, und dann baut er ihn sich einfach, weil es, weil er irgendwann stellt er fest, es gibt ihn nicht, dann muss ich ihnen mehr bauen. Ich mag die Geschichte, ich habe ein bisschen Zweifel, dass es so funktionieren wird. Wie gesagt, in vieler Hinsicht sind die Maschinen ja schon viel besser als wir und können für uns Dinge, die wir vorher für gottgleich gehalten haben. Aber diese allgemeine künstliche Intelligenz, danach sieht es erst mal nicht aus, aus Erfahrungswerten, aus Stand der Forschung und aus verschiedenen erkenntnisphilosophischen Gründen, heißt nicht, dass es die nicht irgendwann geben kann. Aber dann bräuchte man vielleicht eine andere Technologie. Vielleicht Quantencomputing hat bestimmte Vorteile, Rekursionen und Ungenauigkeiten abzubilden. Vielleicht vielleicht Biocomputer? Ja, aber da muss man sich auch wieder fragen, wie sieht der dann aus? Der müsste ja auch interagieren mit der Welt der Bio. Computer braucht irgendwie Arme und Beine und Augen und Sensoren, und am Ende würde man vielleicht dabei rauskommen, dass wir das eigentlich schon viele Jahrhunderttausende machen, Biocomputer zu bauen. Ich habe zwei, eins, zweieinhalb, einer sieben. Ja, also am Ende kommt man dann möglicherweise beim Biocomputer raus, dass es das gleiche wie ein Mensch ist. Wenn wir ein bewusstes Wesen bauen wollen, müssen wir einfach den Mensch rekonstruieren, und dann kann man vielleicht auch Kinder machen. Es auch in Ordnung. Ja, ohne die Technik, meine ich jetzt. #00:20:52-0#

Maria Beßler: Bleiben wir mal bei den, nicht bei Kindern, aber beim Thema Menschheit, ähm, es gibt ja auch verschiedene Debatten darüber, dass KI Stereotype reproduziert, eben weil die Daten von Menschen eingespeist werden und sie uns dann auch so ein bisschen den Spiegel vorhält, wie unsere Gesellschaft gerade ist oder auch war, hoffentlich nicht genauso sein wird. Kannst du dazu was sagen, also wie sie uns den Spiegel vorhält? #00:21:23-6#

Mads Pankow: Das ist eine großartige Frage, Maria, die ist wirklich, und jetzt muss ich mich wirklich sehr zurücknehmen. Also, ich glaube, die Geschichte der KI und der Algorithmen ist eine kontinuierliche Kränkung des Menschen. Ja, also von den ersten Algorithmen, die, die rechnen konnten und sehr schnell auch besser als jeder Mensch, hin darüber, dass man festgestellt hat, also vorher war das Ideal, der Mensch ist das Wesen, das logisch denken kann. Das war das hohe Ideal der Philosophie, das Logische denken. Das entemotionalisiert, rationale. Das können Computer schon seit 50 Jahren viel, viel besser als jeder Mensch also und wir sind extrem schlecht, wir sind schlechte Rechner, schlecht logisch denkende Wesen. Das stellt man fest. Man muss sich genau, wie du gesagt hast, damit auseinandersetzen, dass, wenn Computer von Menschen lernt, aus riesigen Datenmengen, vor allem auch Vorurteile lernt, Rassismen, Chauvinismen und Vorurteile. Das ist eine große Kränkung, dass diese Kreativität, die wir vorher für einen göttlichen Funken gehalten haben, für ein Genie in verschiedenster Art und Weise durch Computer sie abbildbar ist, durch evolutionäre Algorithmen, durch reine Variation dadurch, das Muster einfach aus großen Datenmengen wie Text oder Musik, ich schicke hier ein paar 1000 Musikstücke durch, und dann kann ein Algorithmus komponieren. Das ist eine große Enttäuschung, auch philosophische Gedanken, unsere Vorstellung, wir wüssten, was richtig und falsch ist, und könnten das in einem formallogischen System der Ethik abbilden, also in der Philosophie, weil man da schon immer sehr kritisch, aber so im Alltag denkt man, ich weiß, was richtig und falsch ist. Sobald man versucht, das so zu formuliere, dass ein Computer es verstehen kann, muss man es eindeutig formulieren und stellt fest, ach, Ethik ist nicht eindeutig! Da gibt es ganz, ganz viel Graubereich, ganz viel Uneindeutigkeiten, ganz viel Intuition. Dadurch ist sie nicht falsch. Aber es entzaubert die Kiste bis hin zu gesellschaftlicher Konstruktion, also bis hin zu so gesellschaftlichen Systemen wie dem recht denken wir, Recht, haben wir doch, müssen supergut algorithmisierbar sein. Das sind ja quasi formale Anweisungen, die in so ein Gesetzesbuch drinstehen. Aber wenn man sich vorstellt, wir bauen ein gerecht, ein Rechtssprechungscomputer, und technisch wäre das ja jetzt irgendwie nicht das Problem, und der überwacht dann die Gesellschaft, und dann ist alles gerecht und richtig. Und dann stellen wir uns vor, ja, der, das ging ja technisch schon, der kann jede an, jedes Überqueren einer roten Ampel ahnen. Einfach indem man die Bewegungsdaten unseres Handys mit den Schaltdaten der Ampel kreuzt, wüsste er immer, und bevor man die andere Straßenseite erreicht hat, hat man schon Ticket im E-Mail Postfach, ist schon vom Konto abgezogen. Das ginge technisch, aber würde das gehen? Was macht das mit einer Gesellschaft, wenn man für jedes Vergehen geahndet wird? Und da stellt man fest, oh, das funktioniert ja gar nicht! Und das bedeutet, dass unser Rechtssystem zwar auf der Idee basiert, dass wir alle gleich sind und dass wir alle jederzeit geahndet werden müssten, dass das aber nicht passiert. Unser Rechtssystem kann als positives, eindeutiges Recht nur funktionieren, weil es nicht durchgesetzt wird, in der letzten Konsequenz überall und jederzeit, und schon gar nicht überall immer gleich, sondern dass das ein Rauschen ist, ein Rauschen, was darauf basiert, dass viel übersehen wird, das funktioniert, und dass es immer Variationen und Interpretationen davon gibt, die durch Menschen, die dann diese Entscheidungsspielräume haben, ausgefüllt werden. Ich will das Recht überhaupt nicht lächerlich machen, es ist richtig und gut, aber es funktioniert anders, als wir uns das vorgestellt haben, und ich glaube, das kann man über jedes gesellschaftliche Teilsystem nochmal so neu denken. #00:24:57-1#

Maria Beßler: Ich habe gerade überlegt: hat Foucault nicht dieses Gefängnissystem beschrieben? #00:25:04-0#

Mads Pankow: Ja, es hieß nicht Panoptikum. Wie hieß es denn nochmal? Ich weiß aber, was du meinst, ja. #00:25:07-7#

Maria Beßler: Und dann weiß ich nicht, ob der Gedanke, jetzt, der Gedankengang, jetzt richtig ist, aber die KI würde das dann komplett entzaubern, weil sie da ist, auch wenn sie trotzdem irgendwie unsichtbar ist. Aber - oder? #00:25:21-0#

Mads Pankow: Ja, ja, ja genau, und was macht das mit einer Gesellschaft? Also, es gibt ja verschiedene Versuchen. Es gibt ja Regionen auf der Welt, wo man es weniger kritisch, vielleicht eher spielerisch affirmativ sieht. Jetzt habe ich den Namen vergessen, aber in einer chinesischen Stadt, in diesem riesigen Land, es war nicht Shenzen, ich weiß es nicht ganz genau, kann man mal im Podcast noch hören. Auf jeden Fall ist da, oder, nee, hab ich noch gar nicht so erzählt. Auf jeden Fall gibt es da ein, ein, ein Sprühsystem an der Ampel. Wenn man über die rote Ampel geht, wird man nass gesprüht. Also diese Automatisierung der Ahndung und dieses Nudgen der Bevölkerung, dieses Stupsen der Bevölkerung in ein richtiges Verhalten. Wir müssen uns damit auseinandersetzen, was das bedeutet. Im Moment sagen wir hier: Ach du Schande, das ist ja bevormundend, das trainiert die intrinsische Motivation zu gerechten Verhalten ab, weil man überall überwacht wird. Ja, ist alles richtig. Das setzt möglicherweise politische Agenda durch, eines Ein-Parteiensystems. Ja, stimmt auch, es ist alles hoch bedenklich, aber das wird da entwickelt, und es wird immer weiterentwickelt, und die werden ihre Gesellschaft zunehmend automatisch überwachen, und das wird möglicherweise Vorteile zeitigen, von denen wir nicht wissen, ob sie eintreten, oder nicht. Aber zum Beispiel Kriminalität fast auszurotten, kann sein. Ja, und ich stelle mir vor, wie wir hier in 40 Jahren stehen und dann Leute sagen, ja, gut, aber wir haben das alles in Griff gekommen, so wie jetzt schon häufig nach China geguckt wird. Aber guck mal, die haben das wirtschaftlich in Griff gekommen, komme, die haben Corona, haben sie nicht in Griff bekommen, aber viele andere Sachen viel besser in Griff bekommen. Und dann stehen wir da und müssen solche Systeme importieren, und davor habe ich Angst. Ich glaube, wir müssen uns hier zeitnah Gedanken machen, wie wir unsere Gesellschaft als universalistische, rechtsstaatliche Gesellschaft neu denken, mit künstlicher Intelligenz, so, und da müssen wir anfangen, so was selber zu bauen. Nur weil es kompliziert ist und gefährlich, kann man nicht sagen, machen wir nicht, weil irgendwann werden wir es machen. #00:27:15-0#

Maria Beßler: Kannst du uns noch kurz einen Rückblick geben aufs Jahr 2023? #00:27:20-0#

Mads Pankow: Also, 2022 war die Zeit, wo die ersten wichtigen generativen KIs veröffentlicht wurden, Bildgeneratoren und Sprachmodelle, die also sprechen konnten und Bilder malen, sodass wir sie kaum von menschlichen Produkten oder nur mit sehr geschultem Auge unterscheiden konnten oder auch gar nicht mehr. Und jetzt sind wir 2023, im dem Jahr, wo das ausgerollt wurde, in der Masse, und das ging natürlich irre schnell für einen technologischen Schub, wenn man vergleicht, wie lange die E-Mail gebraucht hat oder Social Media oder so das Internet, um sich zu verbreiten. Und es ist so. Ich glaube, die Phase von 100 Millionen Nutzerinnen hat innerhalb weniger Wochen erreicht, schon bis Januar. Nur, jetzt ist es so, dass Large Language Models überall unsere Interfaces durchdringen. Als Copilot kommt das Language Language Model, ich, in Windows ausgerollt, und ich glaube, so müssen wir uns das vorstellen, dass im Jahr 2023 der Anfang dessen war, dass sich generative KI wie so ein ganz dünner Film über alle unsere Nutzeroberflächen drüber gelegt hat, dass man in vielleicht einem Jahr die meisten Menschen keine E-Mails mehr schreiben, sondern nur noch schreiben: Schreibt eine freundliche Absage, Enter, und dann liest eine KI auf der anderen Seite das und sagt: hat freundlich abgesagt; Präsentationen nicht selber bauen und so weiter und so fort. Tabellenkalkulation, da gibt es also. Es gibt irre viel. Programmieren verändert sich gerade rapide dadurch, und ich glaube, dass das jetzt der Anfang dessen war, so wie man sagte, irgendwie 2000, wann war das? - sieben, das erste, iPhone und wie rasant das gegangen ist, und ich glaube, dass 2023 mit dem Ausrollen dieser wirklich funktionalen Technologien in die Breite, dass das eben nicht mehr Nischenprodukt ist, wo man mühsam eine Seite ansurft, sondern dass man diesen smarten Assistenten nicht mehr entgehen können wird. Das hat vielleicht dieses Jahr angefangen. #00:29:11-7#

Maria Beßler: Mhm, du hast grad angesprochen, dass Emails nicht mehr selbst geschrieben werden müssen, dass Präsentationen nicht mehr selbst gebaut werden müssen. Meine Frage ist jetzt natürlich, wann kommt denn jetzt die null Stunden Woche? #00:29:23-7#

Mads Pankow: Also ich warte immer noch auf die 15 Stundenwoche, weil John Maynard Keynes, man hat keins. Dieser berühmte Wirtschaftstheoretiker kennst du bestimmt hat 1930 gesagt, in 100 Jahren werden wir nur noch 15 Stunden die Woche arbeiten. So, und ich habe mir das mal ganz genau angeguckt, statistisch. Tatsächlich ist es so, dass die Arbeitszeit pro Arbeitendem und Arbeitender abgenommen hat, in den letzten 100 Jahren, aber wenig. Also, wir sind jetzt irgendwie knapp unter 40, glaub ich, waren vorher knapp über 40 Stunden die Woche. Und wenn man dann aber die Zahl der Erwerbstätigen gegenrechnet, wenn man also sagt, vor 100 Jahren waren ja anteilig an der Gesellschaft viel weniger Leute erwerbstätig, weil Frauen weniger gearbeitet haben und Leute kürzer gearbeitet haben, ist heute so, dass auf die Person runtergerechnet inklusive aller Beteiligter die Arbeitszeit fast gleich geblieben ist. Also die gesamte Arbeitszeit der Gesellschaft pro Person ist fast gleich geblieben, nur gering gesunken. Und da fragt man sich natürlich, warum ist das so? Wenn man jetzt überlegt, hat natürlich Recht gehabt, wenn man sagt, ja, 15 Stunden die Woche würden reichen, um den Lebensstandard von 1930 herzustellen. Das war halt sehr spartanisch. Da würden 15 Stunden den meisten Jobs reichen, um so zu leben. Vielleicht nicht überall, weil die Mieten halt teuer sind, aber so ginge, warum arbeiten wir immer noch so viel? Da gibt es natürlich verschiedenste Theorien. Ja, man hat, die Ansprüche sind gewachsen. Man lässt sich vielleicht auch viel Quatsch von der Werbung erzählen, dass man Geld sammeln muss, um Dinge zu kaufen, die einen nicht glücklich machen. Auch das ist sehr plausibel. Ich glaube aber auch, das halte ich für eine der entscheidendsten, wenn ich den entscheidendsten Faktor, dass Menschen heimlich gerne arbeiten, weil Arbeit eben sehr viele andere Wirkungen und Funktionen in der Gesellschaft entfaltet, die man nur sehr schwer über andere Dinge erzeugen kann, also Selbstwirksamkeitserfahrung, also, ich kann etwas, etwas bewirken. Ich habe vielleicht, dass Erfahrung, einen Beitrag für diese Gesellschaft zu leisten. Identität, ich bin Zahnarzt oder Zahnärztin, und ich bin Taxifahrerin oder Taxifahrer, das bin ich, es gehört Teil zu mir. Ich glaube, es ganz wichtig, soziale Integration, ich meine jetzt gar nicht von Menschen notwendig, die von außerhalb kommen, das auch. Aber, dass man als Gesellschaft zusammenhält, das macht Arbeit, Herausforderungen, Erfolge haben können, all solche Sachen. Es ist wahnsinnig viel, was Arbeit leistet und was immer so rausgelassen wird. Wenn man sagt, das ist Broterwerb, und wenn wir es nicht mehr müssen, dann würden wir es alle nicht mehr machen. Da zweifle ich dran, und da gibt es klare Hinweise für. Da bin ich mal drauf gekommen, weil ich für ein Landesfamilienministerium daran gearbeitet habe zu überlegen, warum Väter so wenig in Elternzeit gehen, obwohl die Angebote so verlockend sind, ökonomisch und schutztechnisch und so. Und dann hieß es immer immer, ja, wir brauchen die 35 Stunden Woche, weil dann würden die natürlich, und wir müssen mit den Arbeitgebenden reden, dann würde das alles gehen. Und tatsächlich zeigt sich aber in Umfragen, wenn man wirklich qualitativ mit denen nicht einfach oberflächlich redest, sagen die, aber ja, klar, ich will ja immer, meine Kinder sind das zeigen, die Oberfläche nicht befragen. Aber die qualitativen Interviews zeigen dann, die wollen gar nicht weniger. Ja, weil Arbeit sehr befriedigend ist und weil Kümmerarbeit, was meistens die Alternative ist, extrem anstrengend ist, sagt man, ich bleibe lieber eine Stunde länger auf Arbeit, als dass ich zu Hause dann jemandem die Zähne putzen muss. Und andere Statistiken zeigen sehr aufwendig mit vielen 1000 Leuten über Jahrzehnte angefertigt, dass Menschen am Glück wirklichen oder der glücklichste Anteil der Arbeitenden ist, arbeitet über 41 Stunden die Woche, also die, die weniger arbeiten, sind weniger glücklich. Vielleicht materielle Absicherung? Ja, aber offensichtlich steckt auch was da drinnen, und ich glaube, das ist so, Menschen, die meisten Menschen. Das ist auch eine kulturelle Prägung, aber eben nicht nur arbeiten, weil das viele Bedürfnisse befriedigt, abgesehen von der ökonomischen Absicherung, und da sollten wir drüber nachdenken, was, was wollen wir eigentlich tun in Zukunft, und abgesehen davon gibt es halt viele Aufgaben, die auf absehbare Zeit und vielleicht für immer nicht automatisierbar sind. Alles, wofür wir ein Bewusstsein brauchen, und da stehen vor allem auch soziale Berufe im Vordergrund. Weil für einen Dialog braucht man zwei Bewusstseine. Ja, sonst ist es wie ein Buch lesen, und das ist gerade in der sozialen Arbeit wichtig. Wenn man Streetworker hat, der sagt, Leute hier nicht an die Wand sprühen, ich finde das scheiße von euch, dann fässt das Menschen an Jugendliche. Wenn dann Robota steht, „Bitte nicht die Wand sprühen.“ Ja, selbst wenn er authentisch menschlich sagt, weiß man, ne Maschine, da kannst auch n Schild hinhängen oder ein Zeichen aufhängen, das berührt mich nicht, hat keine bewusste Zeit oder Aufmerksamkeit investiert. Das heißt, die Zukunft wird, ahne ich, in allen Berufen den Großteil der Arbeit automatisieren und den sozialen Aspekt dadurch wichtiger machen. Man kann dann mehr leisten, muss aber auch mehr sozial leisten, und die soziale Arbeit, Kümmerarbeit wird immer größeren Anteil der Gesamtarbeitsaufkommen auch einnehmen. Viele Jobs fallen weg, und dadurch kommen da mehr, denn das ist der Vorteil der sozialen Arbeit. Sie ist tendenziell unendlich. Also solange nicht jeder Mensch austherapiert und ausgeholfen und betreut und glücklich ist, gibt es was zu tun, und dieses Szenario tut mir leid. Bei allem Optimismus sehe ich nicht, und das ist natürlich ein bisschen Enttäuschung, weil statt diese luxury communism-Fantasie, wir sitzen alle da und leben von unserem bedingungslosen Grundeinkommen und machen vielleicht Seiden mal Kurs, um uns noch so ein bisschen zu verwirklichen, und sonst trinken wir viel in der Krieg. Ich glaube nicht. Ich glaube, wir müssen sehr viel arbeiten, wollen wir vielleicht auch, und es wird harte Arbeit werden. Seine soziale Arbeit tut mir leid, das ist nicht eigens auf einer Powerpoint hin und her schieben. Das ist tough work so, und ich glaube das. Da kann man sich die Zukunft schon relativ konkret vorstellen, und null Stunden Woche, davon sind wir weit, weit weg. #00:35:04-4#

Maria Beßler: Sehr schade. #00:35:06-1#

Mads Pankow: Ja, ist es schade! Also, wenn ich dich ehrlich frage, würde dich das glücklich machen? Die null Stundenwoche? #00:35:11-8#

Maria Beßler: Ja, also, ich meine, es kommt darauf an, welchen Wert, also welchen Wert das hat. Das hast du ja auch gesagt. Wenn ich die Selbstverwirklichung in einem anderen Bereich finden kann, dann dann ist das ja okay, und ob das dann als Arbeit betitelt werden muss, ist, glaube ich, dann eine andere Frage. #00:35:29-4#

Mads Pankow: Ja, vielleicht müssen wir den Arbeitsbegriff sprechen, aber sobald man, ich glaube Kümmerarbeit einschließt, wird es dann dünn, und dann kreative Arbeit, darüber kann man dann streiten. Also das finde ich irgendwie auch immer - so ein bisschen habe ich häufig so Diskussionen übers Grundeinkommen, wo ich sage, ja, genau, und dann findet jeder jede genau das, was sie, worin sie sich selber verwirklichen können, und dann haben wir sehr viele Seidenmalworkshops und keiner kümmert sich um die Kids in Neukölln und Poppenbüttel. Ja so, also ich weiß nicht, es gibt immer noch einen Bedarf, der sich da auspendeln muss, und vielleicht ist dann seinen Malerei auch irgendwann langweilig. Das ist jetzt also, ich habe das als Kind, habe ich es gerne gemacht, aber ich natürlich total gemein, was ich da sage. Aber ich wollte nur sagen, dieses Selbstverwirklichen hat ja, findet seine Grenzen in den Bedürfnissen der Gesellschaft, und das muss irgendwie organisiert werden, und ich glaube, dass es auch Teil der Befriedigung ist. Ja aber gut, ich meine, müssen wir dann vielleicht rausfinden. #00:36:21-2#

Maria Beßler: Ich glaube ja, das ist dann wahrscheinlich nochmal ein extra Prozess. Wir haben in diesem Jahr in diesem Podcast sehr viele Themen angesprochen, und ich wollte dich fragen, ob du uns vielleicht einen Ausblick geben kannst in einem Satz: Plus minus, also eher Plus als Minus auf das Jahr 2024 oder auch die folgenden Jahre. #00:36:40-0#

Mads Pankow: Aber ich, ich darf, ich darf dann auch sagen, habe ich keine Ahnung. Ich weiß, das ist irgendwie unterweisen, wenn dann unpopulär, wenn man so in die Medien guckt, aber das möchte ich mir vorbehalten. #00:36:48-5#

Maria Beßler: Natürlich okay. Fangen wir mal an mit politischer Arbeit! #00:36:52-7#

Mads Pankow: Politische Arbeit, ja, ich glaube, da liegt so die Herausforderung dahin, sich mit den sozialen Medien auseinanderzusetzen und zu gucken, wie man, wie man den Diskurs im Griff, im Griff ist das falsche Wort, aber sich diskursfähig verhält, sich da nicht einschüchtern, lässt sich mit einer, mit den Möglichkeiten der Fehlinformation, Verleumdung und hat Speech zurechtkommt. Ich glaube, das ist eine extrem hohe Herausforderung an der künstliche Intelligenz, auch, die sie erschweren wird, die sie auch an anderen Stellen durch Detektionsmechanismen erleichtern wird, die sie aber nicht lösen wird. Ich glaube, das ist extrem schwer, dass man als Politiker in der Öffentlichkeit steht und all dem ausgesetzt ist. Auch das wird ein zunehmend größeres Thema sein. Ja! #00:37:38-0#

Maria Beßler: Da spielt auch so ein bisschen rein in ein Thema, dass wir dieses Jahr auch hatten: Desinformation. Kannst du vielleicht sagen, was KI eventuell für ein Potenzial auch hat im Bereich Desinformation? #00:37:50-2#

Mads Pankow: Hm, also, theoretisch könnte man natürlich mit so Sprachgeneratoren und Bildgeneratoren aus dem FF ganze Online Kampagnen automatisch von der Software planen und umsetzen lassen. Accounterstellung, Bio-Erstellung, Bildererstellung, Texterstellung, das Ginge theoretisch, praktisch scheint es nicht so gut zu funktionieren, weil sieht man noch nicht. Und zweitens ist es, glaube ich, einfach schwer, dann für so viele Fake Accounts überhaupt eine menschliche Followerschaft zu finden. Als wenn ich mit unterhalten passiert da ja auch gesellschaftlich nicht viel, ja, aber das ist eine Herausforderung. Damit müssen wir uns auseinandersetzen, und ich hoffe darauf, dass viele Leute verstehen, dass die Verantwortung jetzt nicht mehr nur außerhalb der eigenen, des eigenen Medienkonsums liegt, also darin, dass Redaktionen sich gegenseitig kontrollieren, wie wir es aus Print und Rundfunk kennen, oder Medienrecht, das das alleine organisiert, sondern dass wir uns damit abfinden müssen, dass diese mit dieser Liberalisierung der Medien, dass jeder und jeder am Diskurs teilnehmen kann, auch die Verantwortung einhergeht, dass jeder und jede im Diskurs nicht nur selber FaKe News und Verleumdung und viele digitale Gewalt erkennen müssen, sondern auch selber dagegen einstehen müssen. Da kommt dann keine Polizei um die Ecke, sondern das ist eine Frage von Zivilcourage, einzustehen für Menschen, die angegriffen werden, sich zu versammeln und zu sagen, wir verteidigen dich hier, das geht so nicht, und auch gegen Desinformation aktiv einzutreten, das können Algorithmen nicht lösen, und da wird es jetzt auch keine Cyber-Polizei geben, die das für uns lösen kann. Da kann nur begrenzt durch Regulation und Automatismus was gemacht werden, aber nie vollständig sicher. Wir sind da alle gefordert. #00:39:26-6#

Maria Beßler: Springen wir mal so ein bisschen zurück zur politischen Arbeit. Du meintest ja, das ist eigentlich nicht ohne digitale Verwaltung zu denken. Dann gehen wir jetzt mal ins Thema digitale Verwaltung. #00:39:38-4#

Mads Pankow: Ja, das finde ich spannend, weil natürlich, und das ist eine Binsenweisheit, die Übersetzung von analogen Prozessen in digitale bringt uns nur begrenzt weiter. Ich will nicht behaupten, gar nicht, sondern es ist schon mal schön, wenn ich es Kindergeld digital in einer Onlinemaske ausfüllen und speichern kann. Wenn ich es dann nicht mal mehr ausdrucken und unterschreiben muss, sondern direkt senden, ist das auch schon ganz gut. Aber anhand der technischen Möglichkeiten müsste man ja sowas wie Familienleistungen brutal anders denken und sagen, wir haben nicht 1200 verschiedene Leistungen, und du musst selber rausfinden, welche für dich gültig ist oder Beratungsstelle aufsuchen oder das in irgendwelchen Onlinestellen aussuchen, sondern eigentlich müsste ein Algorithmus sagen, ich weiß, in welcher Gegend du wohnst, ich weiß, was du anbietest hast, ich weiß, was du Verdienst und dein Partner, deine Partnerin, das weiß ich alles. Und individuell auf eure Lebenssituation schneidere ich euch jetzt eine finanzielle Unterstützung, eine Beratungsunterstützung zu und das ist eigentlich Gerechtigkeit. Nicht Ungleiches gleich behandeln, sondern Gleiches gleich behandeln, und gleich ist nun mal nicht jeder hat eine individuelle Situation, und Algorithmen bieten erst mal die Möglichkeit, sowas abzubilden. Also, mein Traum eines digitalen Staates ist gar nicht die KI, die uns alle regiert. Natürlich Daten, Evidenz gestützte Entscheidungsfindung, vielleicht auch KI-assistierte Entscheidungsfindung, finde ich gut, auch live Überwachung, ob die Entscheidungen wirken, vor allem aber der smarte Staat, der von sich aus in lebensphasenbedingt, verhaltensbedingt mir assistieren kann und sagen kann, ich, Mann, ich weiß, du bist gerade arbeitslos gewesen, der geht's vielleicht nicht gut, hier ist eine Beratungsstelle oder rufen wir an, und übrigens ums finanzielle Kümmern, und viele Leute halten das für eine Bevormundung. Aber ich finde, das ist eine Art und Weise, wie Gesellschaft miteinander interagiert, wie auch vorstaatliche Gesellschaften hoffentlich annahmsweise miteinander agiert haben. Sie haben sich geholfen, sonst werden sie, hätten sie nicht überlebt. Und wie ich mir auch einen Staat vorstelle, und man kann das mit Sicherheit auch von. Das Verhältnis zwischen Staat und Bürger muss sich dann in diesem Dialog neu ausdifferenzieren, aber man schafft es mit Sicherheit auch, ein Verhältnis zu entwickeln, was den Bürger als mündiges Wesen und die Bürgerinnen als mündige Wesen noch aufrecht erhält, ohne dass es total paternalistisch daherkommt. #00:41:51-5#

Maria Beßler: Kannst du was sagen zum Thema Online-Banking? #00:41:54-5#

Mads Pankow: Auch hier würde ich den Job ziehen, aber ich habe keine Ahnung von: Tut mir leid. #00:41:58-1#

Mads Pankow: E-Health habe ich auch wenig Ahnung. Von. Was ich mir da gut vorstellen kann, ist klar: Daten, assistierte Entscheidungsfindung, das ist einfach immer so ein kleiner Recommender, Amazon Recommender-Mechanismus mitläuft und sagt: lieber Arzt, liebe Ärzte, nach den Symptomen kommen folgende zwölf Sachen in Frage, und das ist bestimmt auch gut, weil dieses wissen, dass das immer im Kopf von Medizinerinnen und Mediziner sind. Das ist auch eine Zumutung in der Masse. Es geht ja eher darum, die Unterschiede dann herauszuarbeiten, zusammen mit Patientinnen und Patienten und natürlich auf der anderen Seite, dass wir wahrscheinlich also heute schon danke Google kommen, wir alle schon mit der Diagnose zum Arzt, die wir gerne gestellt hätten. Wir wissen ja eigentlich immer schon, was wir haben, und das wird auf jeden Fall schlimmer werden oder besser, also wird vielleicht genauer werden durch entsprechende Apps, Bilderkennung und so weiter. #00:42:45-1#

Maria Beßler: Hast du schon die elektronische Patientenakte? #00:42:47-2#

Mads Pankow: Ich habe noch nicht die elektronische Patientenakte, aber immerhin weiß ich schon, dass es sie gibt. Ich habe aber die Neurose inzwischen, dass, wenn ich krank bin, ich hatte mir den Fuß gebrochen letztes Jahr und lag dann nun im Bett und konnte es nicht fassen, dass ich jetzt irgendwie so viel, so und so viele Wochen da liegen sollte, und man kann dann über Research Gate relativ genau die aktuelle Forschung zum Thema Mittelfußbrüche, dann mit Übersetzungssoftware, Algorithmen und vielleicht auch ein bisschen englisch Kenntnis kann man sich dann auf den neuesten Stand der Forschung bringen, und das war mir dann schon selber unangenehm, dass ich dann meinte, sozusagen meinen Arzt überstimmen zu können. Aber immerhin konnte ich mit einigen Informationen dann zum nächsten Termin gehen und sagen, ja, aber gucken sie mal so, und so könnte man es doch vielleicht auch. Brauche ich nicht diese ganz große Orthese, die kleinere ging, und dann so und so viel Wochen, versuchen wir es mal, und in Großbritannien sagen sie sowieso, beim Mittelfußbruch: „Just walk it off“. Also gibt es ja verschiedene Interpretationen, und ich glaube, das ist jetzt schon ein großer, großer Schritt in der Digitalisierung, dass man sich auf den aktuellen Stand der Forschung bringen kann, mit mit den entsprechenden Seiten. #00:43:45-4#

Maria Beßler: Was ja eigentlich auch gut in die Rolle des mündigen Patienten beziehungsweise der mündigen Patienten passt. #00:43:52-8#

Mads Pankow: Nervig für Ärzte und Ärzte, aber ja! #00:43:55-9#

Maria Beßler: Ja, kann uns KI vielleicht auch in irgendeiner Form bei dem Thema der Nachhaltigkeit helfen? #00:44:02-0#

Mads Pankow: Ja, aber da habe ich auch nur eine total langweilige Antwort zu sagen. Optimierung ist eine Stärke von KI, und im Ressourcenverbrauch und der Ressourcen Produktion ist da mit Sicherheit extrem viel zu holen, auch in der Systemsteuerung, Verkehrssteuerung und so weiter. Verbrauchssteuerung, CO²-Steuerung sozusagen könnte ja individuell nach aktuellem Wetterlage und so angepasst werden und da viel individueller und granularer wirken. Ja, ist jetzt nicht so wahnsinnig originell, aber da habe ich trotzdem Hoffnungen, große Hoffnungen auf Wirksamkeit. #00:44:32-9#

Maria Beßler: Okay, danke dir. Das waren erstmal alle meine Fragen. Ich habe allerdings eine Frage, die ich immer am Ende des Podcasts stelle, und zwar ist das die Frage nach der App oder Webseite des Monats für dich persönlich. #00:44:49-7#

Mads Pankow: Oh je, eine Webseite oder App des Monats, wie schlimm ist es, dass mir meine eigene Webseite jetzt hier also? – Ich sage es jetzt wirklich live, und er liest ganz schlimm meine eigene Webseite mir in den Kopf kommt, weil wir sie gerade relauncht haben und ich Mega stolz bin auf Viola Steinberg und Hans Gohr, die die gebaut haben. Die haben nämliche eine kleine, eine KI gebaut, die eine Bio individuell neu schreiben. Aber das ist natürlich nur die eigene Eitelkeit, die mir jetzt durch den Kopf geschossen ist. Ansonsten ist die Webseite der aktuellen Zeit natürlich, BlueSky weil wir alle ja weg von Twitter kommen können, und das ist mein offizieller Appell, wenn ihr einen Invite-Code habt, sagt mir Bescheid. Ich versuche schon eine ganze Weile, da hinzukommen, und ich kriege keinen in, weil ich immer zu langsam bin. #00:45:36-4#