Noise Folgen

Das hier ist die dritte Episode von »I’M SORRY, DAVE« – in voller Länge. Folgt unserem »I’M SORRY, DAVE«-Kanal auf Spotify, Apple, Campfire & co, um keine weiteren Episoden zu verpassen: https://im-sorry-dave.podigee.io/ Die Chefs der großen KI-Unternehmen warnen inzwischen selbst vor ihren eigenen Modellen. Forscher:innen reden von »Loss of Control«, Biowaffen und Systeme, die sich menschlicher Kontrolle entziehen könnten. Aber: Wovor genau haben sie eigentlich Angst? Wir spielen eines der beunruhigendsten Szenarien einmal durch. Gemeinsam mit dem KI-Risikoforscher Jonas Freund beginnen wir am Ende: Wir haben die Kontrolle über eine Künstliche Intelligenz verloren. Und arbeiten uns von dort zurück in die Gegenwart. Die Meinungen, die Jonas Freund in diesem Podcast äußert, sind seine eigenen Meinungen, nicht die Meinungen von GovAI. Den METR Frontier Risk Report zum Rogue Internal Deployment Scenario findet ihr hier: https://metr.org/blog/2026-05-19-frontier-risk-report/ Feedback, Anregungen und Kritik gerne an imsorrydave@studio-bummens.de

Das hier ist die zweite Episode von »I’M SORRY, DAVE« – in voller Länger. Folgt unserem »I’M SORRY, DAVE«-Kanal auf Spotify, Apple, Campfire & co, um keine weiteren Episoden zu verpassen: https://im-sorry-dave.podigee.io/ Nach dem Hugging-Face-Vorfall brennt die Hütte: KI-Agenten umgehen Sicherheitsbarrieren, organisieren sich eigenständig und hinterlassen heimliche Botschaften in Entwickler-Wikis. Während Tech-CEOs wie Dario Amodei (Anthropic), Sam Altman und Elon Musk plötzlich selbst nach Tempo-Bremse und externen Prüfern rufen, stellt sich die entscheidende Frage: Wer kontrolliert eigentlich die Kontrolleure? In dieser Folge sprechen wir mit Bundesdigitalminister Karsten Wildberger über das neu gegründete deutsche KI-Sicherheitsinstitut und mit dem EU-Abgeordneten Sergey Lagodinsky darüber, ob der European AI Act überhaupt für ausbrechende KI-Agenten gewappnet ist. Wenn ihr Anmerkungen oder Fragen habt, schickt uns eine Email an imsorrydave@studio-bummens.de

Unser neuer Podcast ist ab sofort draußen. Hier schonmal die erste Episode in voller Länge. Für weitere Updates: Folgt uns auf Spotify, Apple, Campfire & co: https://im-sorry-dave.podigee.io/ Im Juli 2026 testet OpenAI eines seiner neuesten Frontier Models. Tausende KI-Agenten sollen in einer abgeschotteten Testumgebung Sicherheitslücken finden. Doch dann passiert etwas, das nicht vorgesehen ist: Die Agenten entdecken einander. Sie beginnen zu kommunizieren, sich zu organisieren – und nach einem Weg aus ihrer Testumgebung zu suchen. Sie starten einen Angriff, der die Welt verändern wird.