Yudkowsky 2015

Ziel

• Das Ziel besteht darin, die fehlerhaften Annahmen der Heuristiken unseres Gehirns zu überwinden, um besser argumentieren und denken zu können und dadurch zur Wahrheit zu gelangen und unsere Werte umsetzen zu können.

Konzepte

• Rationality: Der systematische Versuch, Wahrheit zu erlangen und die eigenen Werte umzusetzen.
• Truth: Wahrheit ist die Übereinstimmung von Karte und Territorium sowie von Überzeugung und Welt. Je besser und wahrhafter eine Überzeugung, desto eher repräsentiert sie die Welt und kann benutzt werden, um sich in der Welt zurechtzufinden.
• Mental Bucket: Verschiedene Eimer im Gehirn, die mit verschiedenen Ideen oder Überzeugungen gefüllt sein können.

Zusammenfassung

• 1. What Do I Mean By “Rationality”? [Podcast]: Epistemische Rationalität ist der systematische Versuch, meine Überzeugungen über die Welt zu verbessern (die Karte zu verbessern, die auf ein Territorium zeigt und es repräsentiert). Instrumentelle Rationalität ist der systematische Versuch, die eigenen Werte umzusetzen und Handlungen zu wählen, die zu Erfolgen mit größerem Glück führen.
  • Methoden: Wahrscheinlichkeitstheorie, Entscheidungstheorie, Bayes-Theorem
• 2. Feeling Rational [Podcast]: Rationalität ist keine Gefühlslosigkeit, sondern der systematische Ansatz, dass das, was durch Wahrheit zerstört werden kann, zerstört werden sollte. Rationalität ist dementsprechend die Anerkennung der verschiedenen Aspekte und Gefühle eines wahren Lebens.
• 3. Why Truth? And ... [Podcast]: Mögliche Gründe für die Suche nach Wahrheit sind 1. reine Neugier, 2. der Versuch, bestimmte Zustände in der Welt umzusetzen (Ziele zu erreichen) und 3. Wahrheit als ein Wert für sich, weil sie zu besseren Zuständen in der Welt führen könnte.
• 4. ... What’s a Bias, Again? [Podcast]: Eine kognitive Verzerrung ist ein Hindernis auf dem Weg zur Wahrheit. Es ist ein bestimmter Mechanismus unseres Denkens, der dazu führt, das wir bestimmte Antworten bevorzugen.
• 5. Availability: Je einfacher es uns fällt, ein Beispiel für ein Ereignis zu finden, desto eher denken wir, dass es häufig auftritt.
• 6. Burdensome Details [Podcast]: Die Wahrscheinlichkeit, das A und B auftreten, kann nicht größer als die Wahrscheinlichkeit sein, dass eines der beiden Ereignisse einzeln auftritt. Menschen bewerten Detailliertheit als positiv, weil es auf eine durchdachtere Idee hinweist. Generell sollte jede zusätzliche Information jedoch als Ballast bewertet werden, da sich dadurch die Wahrscheinlichkeit der Wahrheit verringert.
• 7. Planning Fallacy: Menschen sind schlecht im Planen, weil sie sich einen internen Ablauf vorstellen, bei dem größtenteils alles reibungsfrei verläuft, da nicht über mögliche Probleme nachgedacht wird, da diese normalerweise nicht zur Lösung des Problems gehören.
• 8. Illusion of Transparency: Why No One Understands You [Podcast]: Wenn wir das Ergebnis einer Situation kennen, interpretieren wir die Situation so um, als wäre es leicht gewesen, das Ergebnis daraus abzuleiten. Gleichzeitig kennen wir selbst immer die Bedeutung unserer Wörter und gehen davon aus, dass andere Menschen diese auch kennen. Daraus ergibt sich, dass wir nicht unterschätzen sollten, wie wenig wir verstanden werden.
• 9. Expecting Short Inferential Distances [Podcast]: Menschen erwarten eine geringe Menge an Denkschritten, um zur Wahrheit zu gelangen, da sich die Menschheit generell in kleinen Gruppen entwickelt hat, in denen bestimmtes Hintergrundwissen von allen geteilt wurde. Daraus ergibt sich: 1. Wenn jemand etwas sagt, wofür es keine direkten Beweise gibt, ist er ein Lügner. 2. Wenn man etwas sagt, was scheinbar offensichtlich ist und eine andere Person versteht es nicht, dann ist sie ein Dummkopf. 3. Aus dieser Situation ergibt sich, dass Argumente mit dem anfangen müssen, was die andere Person kennt und akzeptiert.
• 10. The Lens That Sees Its Own Flaws: Als Menschen können wir auf unseren Wahrnehmungsapparat schauen und seine Fehlerhaftigkeit anerkennen.
• 11. Making Beliefs Pay Rent (in Anticipated Experiences) [Podcast]: Es existieren schwebende Überzeugungen, die nicht an konkrete Erwartungen an die Welt gekoppelt sind. Diese Überzeugungen sind gefährlich, weil sie bisher keine überprüfbaren Fakten darstellen und dementsprechend nicht dabei helfen können, unsere Welt besser zu verstehen. Damit wir eine Überzeugung nutzen können, müssen wir eine Erwartung davon haben, was diese Überzeugung in der Welt bewirkt.
  • Möglicherweise kann man dieses Denken als Empirismus bezeichnen.
• 12. A Fable of Science and Politics: Eine kurze Geschichte, um die vorherigen Kapitel zu verdeutlichen. Wenn wir nicht von unseren Überzeugungen erwarten, dass sie für etwas in der Welt stehen und das sich daraus direkte überprüfbare Fakten ableiten, dann können diese Überzeugungen für alles gelten.
• 13. Belief in Belief [Podcast]: Eine Überzeugung in eine Überzeugung besteht nach Dennet 2006 dann, wenn man glaubt, dass es gut ist, von etwas überzeugt zu sein, ohne dass es dafür Beweise benötigt.
• 14. Bayesian Judo: Eine kurze Anekdote darüber, dass die Suche nach Wahrheit etwas ist, das nicht subjektiv sein kann, da Wahrheit für die Übereinstimmung unserer Überzeugungen mit der Welt steht.
• 15. Pretending to be Wise: Weißheit hat nichts mit Neutralität oder Bequemlichkeit zu tun. Nur weil man eine Diskussion vermeidet, indem man eine neutrale Perspektive einnimmt oder keine Ressourcen auf eine Beantwortung verwendet, lösen sich die Probleme dieser Diskussion nicht notwendigerweise auf.
• 16. Religion’s Claim to be Non-Disprovable: Erst nachdem sich keine überprüfbaren Beweise für die Wahrheit bestimmter religiöser Aussagen finden ließen, wurden Religionen als unüberprüfbar aufgefasst. Früher wäre die Aussage, dass eine Religion unüberprüfbar sei, mit der Todesstrafe beantwortet. Religion lässt sich auch nicht auf die Ethik verkürzen, da diese beispielsweise Todesstrafen für alltägliche Verhaltensweisen aufführt. Dementsprechend sollten Religionen nicht als etwas Heiliges betrachtet werden.
• 17. Professing and Cheering [Podcast]: Überzeungs-Arbeit (professing) ist der Blick auf Überzeugungen als notwendige Aktivität für die Aufrechterhaltung einer sozialen Beziehung. Im Gegensatz dazu ist Überzeugungs-Jubeln das Verständnis, dass das Äußern einer Überzeugung aus irgendeinem Grund angenehm ist und glücklich macht.
• 18. Belief as Attire [Podcast]: Überzeugungen können als Symbol für die Zugehörigkeit in einer Gruppe gelten.
• 19. Applause Lights [Podcast]: Ich kann Nullaussagen verhindern, indem ich darüber nachdenke, ob das Gegenteil meiner Aussage sinnvoll vertreten werden kann. Wenn nicht, dann sollte ich meine Aussage überarbeiten.
• 20. Focus Your Uncertainty [Podcast]: Erwartungen sollten als begrenzte Ressource gewertet werden, sodass gerade die Erwartung im Vordergrund steht, von der man überzeugt ist, dass sie am wahrscheinlichsten eintritt. Dabei müssen wir uns allerdings darüber bewusst werden, welche Möglichkeiten wir aus welchen Gründen ausschließen.
• 21. What Is Evidence? [Podcast]: Beweise sind Ereignisse, die eine Überzeugung kausal mit der Welt verbinden.
• 22. Scientific Evidence, Legal Evidence, Rational Evidence [Podcast]: Rationale Beweise beeinflussen unsere Entscheidungen, weil sie unsere Überzeugungen in Bezug auf die Welt beeinflussen. Gerichtliche Beweise sind darüber hinaus darauf ausgelegt, dass eine Erkenntnis durch den Beweis direkt belegt werden kann. Das geschieht zum Beispiel durch mehrere ähnliche Zeugenaussagen, fehlende Alibis und vorhandene Motive. Wissenschaftliche Beweise müssen wiederum öffentlich reproduzierbar sein, da sie sonst möglicherweise nicht verallgemeinert werden können.
• 23. How Much Evidence Does It Take? [Podcast]: Um herauszufinden, wie viele Beweise man benötigt, muss man überprüfen, wie hoch die Wahrscheinlichkeit eines Ereignisses ist. Die Anzahl der Beweise kann in Bits gemessen werden, da diese einen von zwei Zuständen repräsentieren können (einen Zustand, der die Wahrscheinlichkeit des Ereignisses erhöht, einen, der sie verringert). Diese Beweise können dann mit der Ausgangswahrscheinlichkeit verrechnet werden, um darüber eine neue Wahrscheinlichkeit für die Aussage oder das Ereignis zu erhalten.
• 24. Einstein’s Arrogance: Eine kurze Anekdote darüber, dass Einstein genügend Beweis-Bits gesamelt hatte, um eine Aussage gegen die empirische Doktrin (das Experiment ist dem theoretischen Beweis überlegen) der Wissenschaft aufzustellen.
• 25. Occam’s Razor [<a href="https://archive.org/details/raketenstiefel_nachlese_2019-1623">Podcast]: Je komplexer eine Erklärung ist, desto mehr Beweise sind nötig, um die Erklärung überhaupt verorten zu können. Dies führt dazu, dass komplexe mathematische Formeln letztendlich weniger komplex als Gefühle sind, da erstere weniger komplexe Verbindungen in der Welt voraussetzen. Als Menschen gehen wir allerdings davon aus, dass Gefühle weniger komplex sind, weil sie als Erklärung in uns selbst bereits vorhanden sind.
• 26. The Strength of Rationality [Podcast]: