Transkript

00:00:00: Eigentlich haben wir das ganze Schlamassel mit der KI, einem notorischen Glücksspieler zu verdanken.

00:00:05: Cero Lamo Cardano.

00:00:07: Der lebte vor fünfhundert Jahren in Pavia – im heutigen Oberitalien und war in der Stadt v.a.

00:00:13: als Würfelspieler bekannt.

00:00:15: Das war doch eine beträchtliche Leistung denn Cardano war eigentlich Professor an der Universität.

00:00:22: Erbe kam aus gutem Haus aber er war eben süchtig!

00:00:25: Er konnte das Glücksspiel nicht lassen.

00:00:28: Er war nämlich der festen Überzeugung, dass es ein System geben müsse beim Glücksspiel und wenn man dieses System knackt wird man plötzlich reich.

00:00:37: Ja schöne Idee die auch viele vor ihm hatten und auch viele nach ihm wahrscheinlich alle Menschen die Spielsuchtproblem hatten nur mit einem kleinen Unterschied er fand dieses System tatsächlich.

00:00:50: gerade als er drohte in die völlige Verarmung zu rutschen fand er heraus, dass bestimmte Zahlen beim Würfelspiel häufiger vielen als andere.

00:00:58: Zumindest wenn man mit zwei Würfeln würfelte!

00:01:01: Die sieben zum Beispiel ergibt sich aus verschiedenen Augenkombinationen – aus der Eins und der Sechs, der Zwei und der Fünf, Drei und der Vier rückwärts genauso – also aus sechs verschiedenen Kombinationen.

00:01:11: Die zwölf hingegen oder die zwei fallen nur bei einer Kombination.

00:01:16: In seiner Not hatte Cardano die Wahrscheinlichkeitsrechnung erfunden Die sieben fällt sechsmal so wahrscheinlich wie die zwölf.

00:01:24: Er schrieb auch ein Buch darüber, das Lieber de Luda Allé – Das Buch der Glücksspiele.

00:01:30: Es erschien allerdings erst hundert Jahre nach seinem Tod.

00:01:34: Er verzichtete also auf den Weltrum eines genialen Mathematikers, der immerhin eine neue mathematischen Theorie erfunden hatte und behielt seine paradigmatische Entdeckung lieber für sich!

00:01:45: Dafür galt er allerdings in den Straßenpavias fortan als unschlagbarer Würfelspieler.

00:01:52: Die Wahrscheinlichkeitsrechnung, die Cardano damals erfand ist heute die Grundlage aller modernen künstlichen Intelligenzen.

00:01:59: Die verstehen die Welt nicht, haben kein Bewusstsein und verarbeiten keine Fakten.

00:02:04: Sie berechnen nur Wahrscheinlichkeiten.

00:02:08: Klar dabei liegen sie nicht immer richtig.

00:02:10: Sprachmodelle machen Fehler.

00:02:15: den Käse auf der Pizza mit Kleber zu befestigen oder Bildgeneratoren produzieren, sieben fingrige Hände.

00:02:22: Wahrscheinlichkeit ist eben nicht Sicherheit.

00:02:24: aber nicht selten ist die Wahrscheinlichkeitsrechnung auch genauer als unser menschliches Verständnis der Welt unsere menschliche Wissenschaft.

00:02:33: so können zum Beispiel Bilderanalyse Algorithmen anhand von CT-Bildern zukünftige Krebserkrankungen schon Jahre früher vorhersagen als Menschen, die in den Pixel-Mustern zu dem Zeitpunkt noch gar nichts erkennen können und wahrscheinlich auch nie erkennen werden.

00:02:50: Aber nicht nur dort – auch in der Wettervorhersage bei der Lieferkettenplanung in der Forschung.

00:02:55: Letztlich auch bei großen Sprachmodellen.

00:02:57: überall entdecken die KI's statistische Korrelationen in ihren Daten also wahrscheinliche Zusammenhänge, die wir als Menschen gar nicht erkennen können oder erklären können, gar nicht verstehen!

00:03:07: die aber trotzdem funktionieren.

00:03:10: Ihre Aussagen über die Welt sind also nicht wahrer als unsere oder weniger wahr, sie produzieren einfach eine eigene Form der Wahrheit – die wahrscheinliche Wahrheit!

00:03:23: Und darum geht es in der ersten Folge einer neuen kurzen Staffel von Menschmaschine.

00:03:28: In der letzten Folge, die ist schon zweieinhalb Jahre her hatte ich großmündig angekündigt das wir jetzt in der nächsten Es um die ganz großen Fragen ginge Gesellschaft Wahrheit, Gerechtigkeit.

00:03:38: Ich muss zugeben das Projekt ist damals deutlich größer geworden als gedacht.

00:03:42: Das hat einfach nicht mehr in Podcast gepasst.

00:03:44: ich habe es versucht aber die Folgen wären mehrere Stunden lang geworden und deshalb ist es nun am Ende ein Buch geworden und das trägt genau diesen Titel Die Wahrscheinliche Wahrheit wie KI unsere Wirklichkeit moral und gesellschaft neu berechnet gerade erschienen bei Mattes & Seitz.

00:04:01: Ja, wie gesagt zu viel und zu lang für einen Podcast.

00:04:04: Aber weil ich es versprochen habe mache hier eine kurze Staffel mit den drei wichtigsten Thesen des Buches.

00:04:10: Und auch natürlich – weil's mir schon Spaß macht – gebe ich zu!

00:04:13: Also willkommen zurück bei Menschmaschine dem Podcast für künstliche Intelligenz, Mensch und Gesellschaft.

00:04:20: Ich wünsche euch viel Spass.

00:04:36: Wie kann das sein?

00:04:37: Halluzinationen auf der einen Seite und gleichzeitig übermenschliche Erkenntnis auf der anderen?

00:04:42: Das ist Eine Frage, die hat mich in den letzten Monaten und Jahren beschäftigt.

00:04:46: Mein Versuch einer Antwort lautet ... Und wie das mit Wahrscheinlichkeit so ist, manchmal trifft sie zu und manchmal nicht.

00:05:07: Sie ist also nicht immer zuverlässig aber das muss nicht heißen dass sie nicht nützlich ist.

00:05:11: Manchmal sind Wahrscheinlichkeiten sogar die genaueren Weltbeschreibungen als unsere menschlichen Erklärung und Beobachtung.

00:05:20: Das klingt erstmal absurd entweder etwas es war oder es eben nicht wahr.

00:05:24: dafür gibt's ja feste Kriterien Evidenzbegründung Theorie Wissenschaft.

00:05:30: Genau mit diesen Mitteln bestimmen wir heute was als wahr gelten darf und was nicht.

00:05:35: Schaut man aber zurück in die Geschichte der Menschheit, haben sich die Kriterien dafür was wahr ist immer wieder verändert.

00:05:42: Und zwar eigentlich immer genau dann wenn eine neue Medientechnologie neue Möglichkeiten bot die Welt zu beschreiben sich über sie auszutauschen Wissen anzusammeln und zu verarbeiten.

00:05:55: Erst seit der Erfindung der Sprache gibt es beispielsweise überhaupt eine Wahrheit.

00:06:00: ohne Sprache gab's noch gar keine Beschreibungen der Welt, die hätten richtig oder falsch sein können.

00:06:06: In mündlichen Gesellschaften gab es also die ersten Wahrheiten und auch die ersten Kriterien für Wahrheit.

00:06:11: damals galt als wahr was als Mythos mündlich überliefert wurde.

00:06:16: Die Wahrheit blieb also an das menschliche Gedächtnis gebunden und das veränderte sich natürlich von Generation zu Generation oder ja manchmal auch von Abend zur Abend.

00:06:25: ne?

00:06:26: Sachte ich gestern dass er Neunmond immer gutes Wetter ist?

00:06:29: Ich meinte natürlich schlechtes regnet.

00:06:31: Also das Gedächtnis, die Wahrheit kann sich quadruierlich anpassen.

00:06:36: Mit der Schrift ließen sich dann Verhauptungen über die Welt auf einmal aufzeichnen und verbreiten und auch am nächsten Tag noch prüfen.

00:06:45: Dann fielen natürlich auf wenn sich daraus Widersprüche ergaben.

00:06:48: es war unangenehm und als Lösung entstand eine neue Wahrheitstechnik das logische Argument.

00:06:54: Aussagen mussten also in sich geschlossen funktionieren und möglichst widerspruchsarm sein.

00:07:01: Aber worauf sollten diese Argumente letztlich fußen?

00:07:04: Welche Letztbegründung hatten all diese Behauptungen.

00:07:08: Eine einzige Schrift setzte sich mehr oder weniger freiwillig durch, und zwar die heilige Schrift – oder verschiedene heiligen Schriften je nach Region – und sie bestimmte dann fortan was als wahr gelten durfte und was nicht.

00:07:23: Dann kam der Buchdruck.

00:07:24: das Wissen vermehrte verbreitete sich auf einmal rasant, das war so.

00:07:29: der erste Information Overload könnte man sagen.

00:07:31: Auf einmal gab es mehr Bücher im Regal als ein Mensch zu Lebzeiten lesen konnte – zumindest bei einigen Menschen.

00:07:37: Aber was war denn nun wahr zwischen den vielen verschiedenen Wissensangeboten in den gedruckten Werken?

00:07:44: Auf einmal war der Mensch selbst gefordert zu entscheiden, was er für glaubwürdig hielt und was nicht.

00:07:51: der Diskurs, also der Wettstreit der Argumente und verschiedenen Belege- und Ideen darum was Wahrheit ist.

00:07:59: Ja und da die göttliche Bestimmung darin immer schlechter Abschnitt braucht es eine neue Form der Letztbegründung und zwar die Kausalität und die Empirie.

00:08:09: Also aus A folgt B man musste Sachen sauber herleiten und man musste sie in der Wirklichkeit belegen.

00:08:16: Sie wurden zu den zentralen Kriterien der Wahrheit und daraus entstand auch die moderne Wissenschaft und die Gesellschaft, in der wir heute leben.

00:08:26: Ja Gott sei Dank dachten wir uns jetzt haben wir sehr endlich die letzte Wahrheit, die Kausalität.

00:08:31: allerdings muss man ehrlich sagen das dachten sich auch schon alle Menschen, die vor uns gelebt haben.

00:08:36: also auch zur Zeit der Bibel oder der Ahnmythen waren die Menschen überzeugt dass sie die letzte und absolute Wahrheit kennen würden.

00:08:45: stellt sich also die Frage haben ausgerechnet.

00:08:47: Wir nun recht, ist unsere Wahrheit die letzte?

00:08:51: um es in der Sprache des Buches zu fassen?

00:08:54: das ist eher unwahrscheinlich insbesondere wenn man bedenkt dass wir nun wieder genau an einem solchen Punkt angelangt sind wo neue Medientechnologien neue Formen der Wissensverarbeitung und Verbreitung ermöglichen und damit die Kriterien für das was als wahr gelten darf sich wider verschieben und zwar jetzt in diesem Fall weg vom Argument der Buchdruckgesellschaft hin zur Wahrscheinlichkeit.

00:09:20: Und diese neue Medientechnologie, das ist die künstliche Intelligenz.

00:09:26: Denn das Grundprinzip moderner KI ist die Stochastik – also das Arbeiten mit Zufall und Wahrscheinlichheit.

00:09:33: Das ist bei ganz vielen KI-Anwendungen so oder überhaupt bei Datenverarbeitung.

00:09:37: aber ich möchte es mal an einem Beispiel klarmachen und zwar an großen Sprachmodellen sowie Chatchapity, Claude Mistral usw.. Diese Modelle können zwar sprechen, aber sie wissen nicht worüber Sie sprechen.

00:09:51: Sie verstehen die Fragen oder Anweisungen nicht mit denen wir sie füttern.

00:09:54: Sie überlegen sich nicht mögliche Antworten.

00:09:58: wegen dieser Abformulieren ihre Gedanken dann aus.

00:10:00: Nein!

00:10:01: Sie lesen den Prompt und berechnen dann einfach das wahrscheinlichste nächste Wort bzw.

00:10:07: Worteil oder Token.

00:10:09: Und diesen Vorgang den wiederholen Sie Wort für Wort.

00:10:13: Ihre Antworten sind also genau genommen nicht mehr als eine Reihe miteinander verrechneter Wahrscheinlichkeiten.

00:10:22: Ja und woher nehmen Sie diese Wahrscheinlichigkeiten?

00:10:24: Wir sprechen immer von Training, genau genommen werden Sprachmodelle aber nicht unbedingt trainiert.

00:10:30: sie werden dressiert durch Versuch und Irrtum.

00:10:33: Sprachmodele lernen durch Raten!

00:10:36: Sie bekommen einen Textausschnitt und dann sollen sie das nächste Wort was diesem Textausschnitt folgen, müsste raten.

00:10:45: Und untrainierte Sprachmodelle die raten noch völlig willkürlich.

00:10:48: also einfach falsche Worte meistens falsche worte.

00:10:52: aber dann gibt es einen Kontrollalgorithmus und der überprüft immer ist das Wort richtig entspricht dem wie es im Originaltext als nächstes folgen würde und meldet dann zurück richtig oder falsch.

00:11:03: und nicht nur dass meldet auch zurück wie weit dieses Wort entfernt gewesen ist von dem was eigentlich im Text als Nächstes folgt.

00:11:12: Und dann passt das Modell daran seine Parameter an und rät nochmal, das wiederholt sich einige tausend Mal.

00:11:19: irgendwann rät es das richtige Wort und dann geht das gleiche von vorne los mit dem nächsten Wort und dem übernächsten usw.

00:11:26: und so fort.

00:11:27: Da werden ganze Texte Bücher Bibliotheken durchgerechnet und durchgeraten.

00:11:33: Billiarden mal wiederhult sich dieser Vorgang und mit der Zeit lernt das Model immer besser zu raten ohne verstehen zu müssen, was es dabei eigentlich tut.

00:11:43: Und auf diese Weise bilden sich die inhaltlichen Zusammenhänge der verarbeiteten Worte im Modell als statistische Wahrscheinlichkeiten ab, die dann wiederum zu neuen Texten verrechnet werden können.

00:11:57: und das ist ganz grundsätzlich anders als wir in der Buchdruckgesellschaft Texte-und Antworten produzieren.

00:12:04: Wir arbeiten mit Kausalitätenbegründungen, Quellen

00:12:07: usw.,

00:12:07: also an die Stelle dieser Kausalität aus A-Volk B, tritt die fließende Relation der Parameter.

00:12:15: ABCDXYZ – all diese Millionenparameter sind irgendwie miteinander verbunden.

00:12:21: alles hängt miteinander zusammen und ergibt miteinander multipliziert eine wahrscheinliche Antwort.

00:12:27: Und damit tritt auch an die Stelle der überprüfbaren Evidenz eine stochastische Wahrscheinlichkeit.

00:12:34: Generative KI kennt die Welt nicht, wie sie beschreibt?

00:12:37: Sie für sie sind Worte, Bilder, Klänge.

00:12:39: Keine Symbole für eine externe Realität sondern einfach nur Daten.

00:12:43: Unendliche Reihen aus Nullen und Einsen aus denen sich Wahrscheinlichkeiten für plausible Wortkombinationen, Pixelmuster Tonfolgen ableiten und dann reproduzieren lassen.

00:12:54: Und entsprechend kann man sich bei den Antworten großer Sprachmodelle oder Bildgeneratoren überhaupt generativer KI usw.

00:13:01: nie sicher sein ob sie auch faktisch wahr sind sich also irgendwie in der Realität bestätigen lassen.

00:13:08: Und doch sind ihre Antworten erstaunlich zuverlässig und werden auch immer zuverlässiger, hinreichend zuver lässig zumindest um Orientierung im praktischen Alltag zu bieten wie so ein Sprachmodell es heute tut und mit höchster Wahrscheinlichkeit auch zuver Näßiger als die sparsam informierten Aussagen von menschlichen Laien.

00:13:26: Es gibt allerdings aufwändige Wissens-Tests, die zeigen dass spätestens seit dem letzten Jahr selbst wissenschaftliche Expertinnen und Experten in ihrem Fachgebiet von Sprachmodellen überholt worden sind.

00:13:39: Algorithmen finden auf der Grundlage von Korrelation belastbare Zusammenhänge, ohne sie erklären zu können – in der Medizin, in der Wirtschaft und in der Wissenschaft ja vor allem im Alltag!

00:13:51: Das ist uns als Kindern des Buchdrucks natürlich völlig fremd aber eigentlich ahnen wir schon seit der Antike das unsere Wahrnehmung der Welt unser Verständnis unserer Wahrheit irgendwie auf Sand gebaut.

00:14:04: Wissen wir denn ganz sicher, dass alles nicht nur ein Schattenspiel ist oder ein Traum eine Simulation oder nur eine Einbildung?

00:14:11: Nein können wir nicht genau sagen.

00:14:13: Gut das ist jetzt Philosophie aber wenn man es genau nimmt verließ auch die Naturwissenschaft schon vor hundert Jahren die sicheren Gefilde von Überprüfbarkeit und Kausalität Denn mit der Quantenmechanik wurde auf einmal deutlich Auf ihrer kleinsten und grundlegendsten Ebene besteht die Welt nicht mehr aus festen Zuständen und Klausalitäten sondern nur noch aus Möglichkeiten.

00:14:35: Ein Beispiel, wo man das beobachten kann ist das sogenannte Doppelspaltexperiment.

00:14:39: dort schickt man ein Strom aus Elektronen oder Photonen durch zwei ganz schmale Spalte und beobachtet was auf der Leinwand dahinter passiert und die zeigen ah die Elektroner und Photon verhalten sich wie Wellen denn wenn diese Lichtstreifen aus den zwei Spalten aufeinandertreffen, dann gibt es bestimmte Stellen wo sich die Wellen verstärken und in anderen Stellen löschen sie sich gegenseitig aus.

00:15:04: Ah ok das ergibt Sinn.

00:15:05: ja auch wenn man viele einzelne Teile messen würde also sagen würde viele Elektronen und viele Photon verteilen sich nach einem gewissen Wahrscheinlichkeitsmuster, wellenförmigen Muster auf der Rückwand und lösen sich aus oder verstecken sich.

00:15:19: Das Interessante ist aber diese Auslöschungsmuster Dieses Streifenbild entsteht auch, wenn man nur ein einziges Elektron durch den Doppelspalt schickt.

00:15:30: Das kann aber nicht sein!

00:15:30: Ein einziges elektronen kann doch nur an einer Stelle auf der rückweitigen Leinwand landen müsste man meinen.

00:15:36: Aber das zeigt dass dieses Elektron überall gleichzeitig ist mit unterschiedlicher Wahrscheinlichkeit und dass es gleichzeitig quasi durch beide Spalten fliegt und sich gleichzeitig an vielen Stellen verstärkt oder auslöscht... ...dass es nur als Wahrscheinlichheit existiert Bis zu dem Moment, wo ich es messe und schaue.

00:15:55: Wo ist es tatsächlich?

00:15:57: Und das Interessante ist sobald ich genau messe, wo sich dieses Elektron befindet verschwindet auch das Streifenbild.

00:16:03: dann ist es auf einmal einem konkreten Ort und die Wahrscheinlichkeit kollabiert zu einem konkreten Zustand.

00:16:10: Ja dass ist abstrakt und es ist eigentlich unvorstellbar.

00:16:14: aber vielleicht hätte uns dieses Experiment oder Quantenmechanik an und für sich auch ein Hinweis sein sollen auf die Grenzen des Verstehbaren oder zumindest der mit den Mitteln von Kausalität und Evidenz beschreibbaren Wahrheit.

00:16:29: Vielleicht tun uns diese probabilistischen Maschinen also einen Gefallen, nicht nur indem sie die Welt in vielen Bereichen zuverlässiger beschreiben als wir Sie verstehen können sondern auch weil sie uns an die Grenze der menschlichen Erkenntnis überhaupt erinnern.

00:16:44: Möglicherweise zwingt sie uns zur etwas mehr Ehrlichkeit.

00:16:48: Unsere modernen Wahrheitskriterien wie Kausalität und Evidenz haben uns einen riesigen zivilisatorischen Entwicklungsschub gebracht.

00:16:55: Sie helfen uns, die Welt greifbar zu machen aber auch sie sind nur ein Behelfsmittel und der Welt selbst sind diese Wahrheitskriterien völlig egal.

00:17:08: Vermutlich hätten wir schon mal lieber von Wahrscheinlichkeiten sprechen sollen als wir im Brustton der Überzeugung von entgültigem Wahrheiten sprachen!

00:17:18: Das ist die Idee hinter dem Buch, die wahrscheinliche Wahrheit.

00:17:22: Aber natürlich steckt da noch viel mehr drin – das verrät ja auch der Untertitel.

00:17:26: wie KI unsere Wirklichkeit, Moral und Gesellschaft neu berechnet?

00:17:31: Es geht also nicht nur um die Frage danach, wie probabilistische Maschinen, also Wahrscheinlichkeitsmaschinen unser Verständnis der Welt verändern sondern auch wie sie moralische Grundsatzfragen wie zum Beispiel die nach Verantwortung oder Gerechtigkeit neu stellen.

00:17:45: Und auch wie wir unsere Gesellschaft auf der Grundlage von Wahrscheinlichkeit, von Verhaltensverhersage und von Social Scoring vermutlich neu organisieren werden.

00:17:56: Auf Einzelnes werde ich in den nächsten wahrscheinlich zwei Folgen noch eingehen.

00:18:01: mit Prognosen wann diese erscheinen halte ich mich jetzt aber zurück.

00:18:04: das kann aktuell noch etwas dauern.

00:18:08: wenn ihr das schon jetzt wissen wollt und vor allem wenn ihr es ganz genau wissen wollt dann kauft gerne das Buch.

00:18:14: Das würde mich sehr freuen!

00:18:15: Ich pack's in die Show notes.

00:18:18: Das war Menschmaschine, der Podcast für KI, Mensch und Gesellschaft.

00:18:22: Mein Name ist Max Pankow.

00:18:24: Vielen Dank fürs Zuhören und macht's gut!