Zukunft Denken – Podcast Folgen

In dieser Episode ist wieder Dr. Lukas Lang zu Gast. Wir sprechen über Data Science und Machine Learninig (auch »artificial intelligence« genannt). Das ist ein Themenbereich, der sehr viel Potential für unsere Zukunft hat, aber wie alle diese Themenbereiche auch eine Menge an Gefahren, Herausforderungen und Hypes generiert. Lukas ist ein perfekter Gesprächspartner für dieses Thema, weil er sowohl in der Spitzenforschung tätig war als auch in der industriellen Praxis mit diesen Themen beschäftigt ist. Diese Mischung scheint mir bei komplexen technischen Fragestellungen und Problemen sehr nützlich zu sein. Lukas hat nach seinem Studium der Informatik eine Promotion im Spezialgebiet Computational Science gemacht. Anschließend war er mehrere Jahre in der universitären Forschung im Bereich der mathematischen Bild- und Datenanalyse tätig, zuletzt an der Universität Cambridge. Seine Arbeit hat Anwendungen in der medizinischen Bildgebung, in der Molekular- und Zellbiologie, und in der Computer Vision. Derzeit leitet er den Geschäftsbereich »Data Science and AI« eines Spin-Offs des internationalen Industriekonzerns Voestalpine. Sein Team arbeitet an der Umsetzung von Daten-Projekten in der Erzeugung und Verarbeitung von Spezialmetallen, und am Aufbau eines globalen Data Science Programms für die Produktionsstandorte. Wir haben dieses umfangreiche Thema in zwei Episoden aufgeteilt: In der ersten Episode beginnen wir das Thema Data Science einzuführen, auch anhand einiger Beispiele, beginnend mit historischen Beispielen sowie Anwendungsfällen der heutigen Zeit. Wir spannen dabei den Bogen von Tycho Brahe und Florence Nightingale bis zu modernen Sprachassistenten und Entscheidungsunterstützung im Militär und zivilen Bereich. Dann gibt Lukas einen Überblick über wesentliche Prinzipien und Begriffe, die in diesem Zusammenhang immer wieder auftreten, wie Datascience, die Rolle der klassischen Statistik, Modellierung, Visualisierung, EDA, AI, KI, machine learning, multivariate statistik, Datenqualität und vieles mehr.  Wir sprechen dann über die These die seit einiger Zeit im Raum steht, dass man dank Daten und »AI« ja keine Modelle, keine Theorie mehr benötigt — The End of Theory —, sondern einfach aus Daten lernt und das wäre hinreichend für die wissenschaftliche Betrachtung der Welt. Wir diskutieren dann Möglichkeiten, Geschäftsmodelle und Grenzen von Machine Learning und Data Science. Wer trifft heute überhaupt Entscheidungen und was ist die Rolle und Funktion eines Data Scientists? Sollten Menschen immer das letzt Wort bei wesentlichen Entscheidungen haben? Ist das überhaupt (noch) realistisch? Welche Rolle spielen regulatorische Maßnahmen wie das aktuelle EU-Framework? In der zweiten Episode werden wir darauf aufbauend die Frage stellen, wie viel der aktuellen Behauptungen in diesem Feld Realität und wie viel Hype ist. Was können wir in der Zukunft zu erwarten — sowohl im positiven wie auch im negativen? Was sind dominierende Forschungsfragen und wo Grenzen liegen, unerwartete Effekte auftreten, und welche ethischen Fragen durch diese neuen Möglichkeiten zu diskutieren. xkcd Cartoon Konkret gibt es das Spannungsfeld zwischen Datensparsamkeit und der Idee alles zu sammeln, weil wir das irgendwie in der Zukunft für uns nutzen können. Aber will der Data Scientists überhaupt in Daten untergehen? Führen mehr Daten zu besseren Entscheidungen? Wir diskutieren wieder anhand konkreter Beispiele für gute und problematische Anwendungen wie predictiver Policing, Mapping und »KI« für militärische Dronenpiloten. Welche individuelle Verantwortung leiten wir daraus für Techniker ab? Wie geht Lukas selbst mit diesen Herausforderungen um?  Referenzen Lukas Lang Persönliche Webseite von Lukas Andere Episoden Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp Reisinger Episode 37: Probleme und Lösungen Episode 32: Überleben in der Datenflut – oder: warum das Buch wichtiger ist als je zuvor Episode 31: Software in der modernen Gesellschaft – Gespräch mit Tom Konrad Episode 25:Entscheiden unter Unsicherheit Episode 19: Offene Systeme – Teil 1 und Episode 20, Teil 2 Episode 6: Messen, was messbar ist? Fachliche Referenzen Adhikari, DeNero, Jordan, Interleaving Computational and Inferential Thinking: Data Science for Undergraduates at Berkeley Melanie Mitchell, Artificial Intelligence: A Guide for Thinking Humans (2020) Michael I. Jordan, The revolution hasn’t happened yet Hannah Fry, What data can’t do Peter Coy, Goodhart’s Law Rules the Modern World. Here Are Nine Examples  Roberts et al., Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans  Antun et al., On instabilities of deep learning in image reconstruction and the potential costs of AI Use of AI in breast cancer detection: 94% of AI systems evaluated in these studies were less accurate than a single radiologist, and all were less accurate than consensus of two or more radiologists Lukas Lang, What is Data Science? Seth Stephens-Davidowitz, Everybody Lies Evgeny Morozov, To Save Everything, Click here (2014) Meredith Broussard, Artificial Unintelligence (2018) Cathy O‘Neill, Weapons of Maths destruction (2017) Richard David Precht, Künstliche Intelligenz und der Sinn des Lebens (2020) Jerry Z Muller, The Tyrrany of Metrics (2018) Joseph Weizenbaum, Computermacht und Gesellschaft (2001) Margaret Heffernan, Uncharted: How to Map the Future (2021) Edward Snowden, Permanent Record (2019) Shoshanna Zuboff, Surveillance Capitalism (2019) Hartmut Rosa, Unverfügbarkeit (2020) Duncan J Watts, Everything is obvious, once you know the answer (2011) Gerd Gigerenzer, Klick: Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen - Vom Autor des Bestsellers »Bauchentscheidungen« (2021) Byung-Chul Han, Im Schwarm, Ansichten des Digitalen (2015) Marinanne Bellotti, A.I. is solving the wrong problem Hannah Fry, Hello World: How to be Human in the Age of Algorithms (2018) Hannah Fry, What Statistics Can and Can't Tell Us About Ourselves, The New Yorker (2019) David Spiegelhalter, The Art of Statistics: Learning from Statistics (2020) James, Witten, Hastie & Tibshirani. Introduction to Statistical Learning (2021) The end of theory: The data deluge makes the scientific method obsolete. Wired 6/2008 Rutherford and Fry on Living with AI: The Biggest Event in Human History Deep Mind, The Podcast David Donoho, 50 Years of Data Science, Journal of Computational and Graphical Statistics (2017) Stuart Russel and Peter Norving, Artificial Intelligence, A Modern Approach, Berkely Textbook (2021) Michael Roberts et al, Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans, Nature Machine Intelligence (2021) Neil Thompson, Deep Learning's Diminishing Returns, The Cost of Improvement Is Becoming Unsustainable, IEEE Spectrum (2021)

Ich habe mittlerweile über 50 Episoden erstellt, was durchaus ein Anlass zu einer ersten kritischen Reflexion sein darf. Vor Weihnachten  habe ich zahlreiche Zuschriften bekommen, die mich alle sehr gefreut haben. Dabei war auch das eine oder andere, was mich nachdenklich gemacht hat, und das mich zusätzlich zu dieser Episode motiviert hat. Vielen Dank jedenfalls an dieser Stelle an alle, die mir schreiben. Ich versuche allen zu antworten, und freue mich über weitere Kommentare, Anregungen, Kritik. Ich habe durch das machen der Podcasts selbst viel dazugelernt. Gesehen, dass es sehr schwer ist, Dinge angemessen einzuordnen. In dieser Reflexion versuche ich nochmals übergreifende Themen aufzunehmen: Realismus und Bescheidenheit, die Rolle der Wissenschaft, Wunschdenken, Unsicherheit und Verantwortung, aber vor allem auch die Frage, ob man überhaupt noch positiv, mit Hoffnung in die Zukunft blicken soll. Referenzen Episode 11: Ethik, oder: Warum wir Wissenschaft nicht den Wissenschaftern überlassen sollten! Episode 17: Kooperation Episode 25: Entscheiden unter Unsicherheit Episode 27: Wicked Problems Episode 28: Jochen Hörisch: Für eine (denk)anstössige Universität! Episode 30: (Techno-)Optimismus – ein Gespräch mit Tim Pritlove Episode 36: Energiewende und Kernkraft, ein Gespräch mit Anna Veronika Wendland Episode 37: Probleme und Lösungen Episode 39: Follow the Science? Episode 41: Intellektuelle Bescheidenheit: Was wir von Bertrand Russel und der Eugenik lernen können Episode 42: Gesellschaftliche Verwundbarkeit, ein Blick hinter die Kulissen: Gespräch mit Herbert Saurugg Episode 44: Was ist Fortschritt? Ein Gespräch mit Philipp Blom  Episode 45: Mit »Reboot« oder Rebellion aus der Krise? Episode 46: Activism, a Conversation with Zion Lights Episode 47: Große Worte Episode 50: Die Geburt der Gegenwart und die Entdeckung der Zukunft — ein Gespräch mit Prof. Achim Landwehr Episode 51: Vorbereiten auf die Disruption? Ein Gespräch mit Herbert Saurugg und John Haas

In Episode 42 habe ich mit Herbert Saurugg über gesellschaftliche Verwundbarkeit, mit starkem Fokus auf Blackout und die Gründe dafür, sowie die Risiken, die zu wenig im Bewusstsein sind, gesprochen. Wenn wir die Reaktion auf die Covid-Pandemie in vielen Staaten beobachten, sowie den Umgang mit Energiesystemen — Stichwort »Energiewende« — wird vielen Menschen klar, dass eine Disruption, ein katastrophaler Einschnitt, ein Kollaps der gewohnten Prozesse der Moderne durchaus möglich, wenn nicht gar wahrscheinlich ist. Ein Blackout des Energiesystems, wie mit Herbert in der vorigen Folge besprochen, ist aber nur eine der zahlreichen möglichen Auslöser von Disruptionen des gesellschaftlichen Lebens und dies mit unter Umständen globalen Dimensionen. Man könnte unter anderem an folgende Auslöser denken: Covid-19 als Vorgeschmack anderer (gefährlicherer) Pandemien Konflikte großer politischer Systeme (USA, Europa, China, Russland, …) Finanz-Crash  Lieferketten-Risiken (etwa in Folge der Fragilität ausgelöst durch »Just in Time« Optimierung der 1990er) Carrington Event (siehe Referenzen) IT-Störungen / Hack-Angriffe, außer Kontrolle geratene Systeme usw. (siehe andere Episoden) In dieser Episode spreche ich wieder mit Herbert Saurugg und als neuer Gast hinzu kommt John Haas: John Haas ist Psychologe, FH-Lektor und Autor des Bestsellers Covid-19 und Psychologie - Mensch und Gesellschaft in Zeiten der Pandemie Herbert Saurugg ist internationaler Blackout- und Krisenvorsorge-Experte und betreibt ein Fachblog zum Thema.  Wir beginnen die Episode mit der Frage, was wir unter Moderne und deren Disruptions-Risiken verstehen? Herbert betont, dass wir seit spätestens den 1950er Jahren in einer Netzwerkgesellschaft leben und diese Vernetzung und damit verbundene Komplexität ständig an Fahrt aufnimmt. Wie geht unser Bildungssystem mit diesen Änderungen um? Wir erleben bei vielen globalen systemischen Problemen eine zeitverzögerte Wirkung wo kleine Ursache große Wirkung zeigen können. Bis heute scheint dies in Politik, Wirtschaft und Gesellschaft nicht hinreichend verstanden. Wir versuchen vielmehr alte Strukturen aufrechtzuerhalten, die mit der Komplexität der modernen Welt nicht mehr zusammenpassen — kann das gut gehen? Auch wenn es keine fertigen Lösungen geben mag — in welchen Räumen könnte und sollte man nachdenken? Aus psychologischer Sicht könnte man sehen, dass die Funktionserwartung der Welt den Diskurs über Disruption voraussetzt! Was machen wir mit einem »Alten Hirn in einer neuen Welt?«, John Denken wir immer noch in monokausalen Pfaden und Attributionen? Wie kann unsere »alte Hardware« mit der neuen Welt umgehen (lernen) und was ist in diesem Zusammenhang von dem »Hype-Wort« Resilienz zu verstehen oder zu halten? Ein »Blackout«, wie in der letzten Folge besprochen, kann als eines, von vielen möglichen Szenarien gelten — in diese Folge stelle ich die Frage, ob wir uns an einer abstraktere Betrachtung und Krisenvorsorge versuchen sollten? Die Idee, so John, von einem Weltenende begleitet uns seit Jahrtausenden. Was steckt dahinter? Vielleicht tiefenpsychologisch der Drang, die Welt als einfach zu verstehen, nach dem Motto: »Die Welt ist mir zu kompliziert, daher muss das alles mal den Bach runtergehen.« oder theologisch eine Endzeiterwartung? Sehnen wir uns die Disruption also nur herbei, oder droht sie tatsächlich? Was bedeutet »vorbereiten« aus psychologischer Sicht? Welche Rolle spielt die evolutionäre Entwicklung unseres Gehirns?  Konkreter gesprochen: was hat es mit dem Ziel als Individuum und Familie 14 Tage autark über die Runde kommen zu können auf sich? Aber das kann nicht alles gewesen sein: den eigenen »kleinen Misthaufen« zu optimieren, scheint oftmals irrelevant. Wenn in einer vernetzten Welt die Krise über uns hereinbricht — kann man sich da hinreichend isolieren? Sieht jeder nur seine kleine Welt, nicht aber die Risiken der Abhängigkeiten von anderen? Wie können wir als Gesellschaft und als Politik mit dem Vorsorgeparadoxon umgehen: gerade wenn man gut vorbereitet ist, passiert die Katastrophe nicht und man muss sich unter Umständen rechtfertigen, warum man Geld für eben diese Vorsorge ausgegeben hat. Rächt sich gar die enorm hohe Versorgungssicherheit der letzten Jahrzehnte im Westen heute in Form schlechter Risiko-Kompetenz? Wie kann bessere Risikokompetenz — wie sie etwa Gert Gigerenzer fordert — erreicht werden? Was also können wir auf individueller Ebene (als Vorsorge) tun? Welche Rolle spielen Strukturen verschiedener Skalierung (Gemeinde, Stadt, Staat, EU, ...) und was ist auf diesen anderen Ebenen systemisch zu erledigen, aber auch von staatlichen Organisationen wie dem Militär? Nach Frederic Vester gilt: mit Vernetzung steigt Stabiliät — aber wie lange? Und ebenso wichtig: welcher psychologischer Hilfsmittel kann ich mich bedienen? Oder birgt gerade die präventive Beschäftigung mit diesen Themen Risiken (für manche Gruppen von Menschen)? Welche Rolle spielt das Individuum als Medienproduzent, sprich: was ist die Rolle des Internets und der sozialen Medien in der Herstellung »richtiger« Strukturen oder der Verhinderung notwendiger lokaler Strukturen? Spielen diese weak ties hier eine wesentliche Rolle oder führen sie eher zu Störung und Ablenkung, gar zu existentieller Verunsicherung bei (manchen) Menschen? Ein Schwarz/Weiß-Denken hilft letztlich nicht, sondern nur »sowohl als auch«: Der Weg aus der Disruption kann letztlich nur aus einem klugen Zusammenspiel zwischen Individuen, kleinen Gruppen und gesellschaftlichen Strukturen funktionieren, aber wie? Welche Rolle spielen Effizienz und Optimierung? Wenn es im Zuge dieser Notwendigkeiten zu einem Verlust der Bedeutung des Nationalstaats kommt, vielleicht sogar kommen muss, welche — auch negativen — Effekte sind zu erwarten? Und um die politische Dimension weiterzudenken: gibt es eine »linke« und »rechte« oder »libertäre« Betrachtung der Krise? In welchem Wechselspiel sollten wir denken? Welche Rolle spielt Wettbewerb und Kollaboration?  Wo stehen wir global, wenn sich einflussreiche intellektuelle und ökonomische »Eliten« von der Welt mit Phantasien oder Plänen von Rückzug auf einsamen Inseln mit Privatarmeen, durch vermeintliche Kolonialisierung des Weltraums oder in die Singularität des Computers verabschieden? Was ist psychologisch im Falle einer Disruption zu erwarten? Die extremen Ängste dieser ökonomischen Eliten mit Mord und Totschlag oder eher der Versuch kooperativ wieder einen Normalzustand herzustellen?  Was ist in diesem Fall die Inkompetenz-Illusion? »Die Menschen können nach wie vor viel, nur unterschätzen sie sich in vielerlei Belangen«, John Referenzen John Haas John Haas, "Covid-19 und Psychologie - Mensch und Gesellschaft in Zeiten der Pandemie" Linkedin Research Gate Persönliche Webseite Herbert Saurugg Fachblog Vernetzung & Komplexität / Blackout Österreichischen Gesellschaft für Krisenvorsorge Initiative "Mach mit! Österreich wird krisenfit!" Netzwerkgesellschaft Email office@saurugg.net Twitter  LinkedIn Andere Episoden Episode 42: Gesellschaftliche Verwundbarkeit, ein Blick hinter die Kulissen: Gespräch mit Herbert Saurugg Episode 45: Mit Reboor oder Rebellion aus der Krise Episode 17: Kooperation Fachliche Referenzen Carrington Event: Lloyds, Solar Storm Risk und NASA science: near miss of 2012 Frederic Vester, Unser Welt — ein vernetztes System, dtv (1983) Rupert Riedl, Biologie der Erkenntnis, Parey (1980) Gert Gigerenzer, Risiko: Wie man die richtigen Entscheidungen trifft, Bertelsmann (2013) Daniel Kahnemann, Schnelles Denken, langsames Denken, Penguin (2016) Geoffrey West, Scale, W&N (2018) Koyaanisqatsi Film — »Die Welt außerhalb der Balance« Steward Brand, Pace Layering: How Complex Systems Learn and Keep Learning (2018) Mark Elsberg, Gier, blanvalet (2020) Der Seneca-Effekt - Bardi, Ugo Der plötzliche Kollaps von allem, John Casti Nassim Taleb, Antifragilität, Pantheon (2018) Die Zerbrechlichkeit der Welt: Kollaps oder Wende. Wir haben es in der Hand, Stefan Thurner Klaus Vondung, Apokalypse ohne Ende,  Universitätsverlag Winter, Heidelberg (2018)