OpenAI vs HuggingFace: Mega-Hack oder Marketing?
Der KI-Podcast
Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens - und sofort kursierten zwei Erzählungen.
Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens – und sofort kursierten zwei Erzählungen: "Hier ist eine Maschine mit eigenem Willen entkommen." Oder: "Das war doch nur ein Marketing-Stunt von OpenAI." Gregor und Fritz rekonstruieren, was zwischen Sandbox-Ausbruch und Firmen-Blogpost wirklich passiert ist, warum sich Hugging Face am Ende mit einem chinesischen Modell verteidigen musste – und warum die wichtigste Autonomiefrage für Europa eine ganz andere ist.
Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" und "Die OpenAI Story" (DLF).
- (00:00) Die Woche, in der alle über eine KI redeten
- (03:12) ExploitGym: Wie die KI aus dem Klassenzimmer kam
- (11:58) Der Angriff auf HuggingFace
- (13:38) Verteidigung mit chinesischer KI – weil die amerikanische streikt
- (18:18) Was hier eben nicht passiert ist: KI mit eigenem Willen
- (22:43) Alles nur ein Marketing-Stunt von OpenAI?
- (32:11) Europas eigentliches Autonomieproblem
- (36:30) Was haben wir mit KI gemacht?
Doku-Tipp der Woche: "The Good, The Bad and The Ego" – im Kosmos Richard Wagners, vierteilig, mit KI-animierter Ebene, in der ARD Mediathek ardmediathek.de/serie/the-good-the-ba...
Der Blogpost von Hugging Face zum laufenden Angriff Security incident disclosure — July 2026
Der OpenAI-Blogpost vom 21. Juli openai.com/de-DE/index/hugging-face-m...
Reuters-Recherche zur Chronologie des Vorfalls reuters.com/business/its-ai-agent-spe...
Wie der Kontrollverlust bei OpenAI ablief Testlauf außer Kontrolle: KI von OpenAI hackt Hugging Face | BR24
Der Gegenbeweis zur Jacobi-Vermutung spektrum.de/news/jacobi-vermutung-ki-...
Der Original Post dazu: levent (@__alpoge__) auf X und Gregors Chat: Gemini - Mathematische Sensation auf dem Nachttisch
Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann
Kontakt: kipodcast@br.de.
Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!
Raw Description
<p>Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens - und sofort kursierten zwei Erzählungen.</p><p>Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens – und sofort kursierten zwei Erzählungen: "Hier ist eine Maschine mit eigenem Willen entkommen." Oder: "Das war doch nur ein Marketing-Stunt von OpenAI." Gregor und Fritz rekonstruieren, was zwischen Sandbox-Ausbruch und Firmen-Blogpost wirklich passiert ist, warum sich Hugging Face am Ende mit einem chinesischen Modell verteidigen musste – und warum die wichtigste Autonomiefrage für Europa eine ganz andere ist.</p> <p>Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" und "Die OpenAI Story" (DLF).</p> <p>(00:00) Die Woche, in der alle über eine KI redeten</p> <p>(03:12) ExploitGym: Wie die KI aus dem Klassenzimmer kam</p> <p>(11:58) Der Angriff auf HuggingFace</p> <p>(13:38) Verteidigung mit chinesischer KI – weil die amerikanische streikt</p> <p>(18:18) Was hier eben nicht passiert ist: KI mit eigenem Willen</p> <p>(22:43) Alles nur ein Marketing-Stunt von OpenAI?</p> <p>(32:11) Europas eigentliches Autonomieproblem</p> <p>(36:30) Was haben wir mit KI gemacht?</p> <p>Doku-Tipp der Woche: "The Good, The Bad and The Ego" – im Kosmos Richard Wagners, vierteilig, mit KI-animierter Ebene, in der ARD Mediathek <a title="https://www.ardmediathek.de/serie/the-good-the-bad-und-the-ego/staffel-1/y3jpzdovl2jylmrll2jyb2fky2%e2%80%a6" href="https://www.ardmediathek.de/serie/the-good-the-bad-und-the-ego/staffel-1/Y3JpZDovL2JyLmRlL2Jyb2FkY2…">https://www.ardmediathek.de/serie/the-good-the-bad-und-the-ego/staffel-1/Y3JpZDovL2JyLmRlL2Jyb2FkY2…</a></p> <p>Der Blogpost von Hugging Face zum laufenden Angriff <a title="https://huggingface.co/blog/security-incident-july-2026" href="https://huggingface.co/blog/security-incident-july-2026">Security incident disclosure — July 2026</a></p> <p>Der OpenAI-Blogpost vom 21. Juli <a title="https://openai.com/de-de/index/hugging-face-model-evaluation-security-incident/" href="https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/">https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/</a></p> <p>Reuters-Recherche zur Chronologie des Vorfalls <a title="https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not%e2%80%a6" href="https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not…">https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not…</a></p> <p>Wie der Kontrollverlust bei OpenAI ablief <a title="https://www.br.de/nachrichten/netzwelt/testlauf-ausser-kontrolle-ki-von-openai-hackt-hugging-face,vq5fzwa" href="https://www.br.de/nachrichten/netzwelt/testlauf-ausser-kontrolle-ki-von-openai-hackt-hugging-face,VQ5FZWa">Testlauf außer Kontrolle: KI von OpenAI hackt Hugging Face | BR24</a></p> <p>Der Gegenbeweis zur Jacobi-Vermutung <a title="https://www.spektrum.de/news/jacobi-vermutung-ki-loest-jahrzehntealtes-raetsel-waehrend-wm-finale/2%e2%80%a6" href="https://www.spektrum.de/news/jacobi-vermutung-ki-loest-jahrzehntealtes-raetsel-waehrend-wm-finale/2…">https://www.spektrum.de/news/jacobi-vermutung-ki-loest-jahrzehntealtes-raetsel-waehrend-wm-finale/2…</a></p> <p>Der Original Post dazu: <a title="https://x.com/__alpoge__/status/2079028340955197566" href="https://x.com/__alpoge__/status/2079028340955197566">levent (@__alpoge__) auf X</a> und Gregors Chat: <a title="https://gemini.google.com/share/4e3153d7822b?skid=ea689783-46c7-4b42-93be-eee80bfe00f9" href="https://gemini.google.com/share/4e3153d7822b?skid=ea689783-46c7-4b42-93be-eee80bfe00f9">Gemini - Mathematische Sensation auf dem Nachttisch</a> </p> <p>Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann</p> <p>Kontakt: kipodcast@br.de.</p> <p>Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!</p>
Chapters (1/8)
Show Notes
Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens - und sofort kursierten zwei Erzählungen.
Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens – und sofort kursierten zwei Erzählungen: "Hier ist eine Maschine mit eigenem Willen entkommen." Oder: "Das war doch nur ein Marketing-Stunt von OpenAI." Gregor und Fritz rekonstruieren, was zwischen Sandbox-Ausbruch und Firmen-Blogpost wirklich passiert ist, warum sich Hugging Face am Ende mit einem chinesischen Modell verteidigen musste – und warum die wichtigste Autonomiefrage für Europa eine ganz andere ist.
Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" und "Die OpenAI Story" (DLF).
- (00:00) Die Woche, in der alle über eine KI redeten
- (03:12) ExploitGym: Wie die KI aus dem Klassenzimmer kam
- (11:58) Der Angriff auf HuggingFace
- (13:38) Verteidigung mit chinesischer KI – weil die amerikanische streikt
- (18:18) Was hier eben nicht passiert ist: KI mit eigenem Willen
- (22:43) Alles nur ein Marketing-Stunt von OpenAI?
- (32:11) Europas eigentliches Autonomieproblem
- (36:30) Was haben wir mit KI gemacht?
Doku-Tipp der Woche: "The Good, The Bad and The Ego" – im Kosmos Richard Wagners, vierteilig, mit KI-animierter Ebene, in der ARD Mediathek ardmediathek.de/serie/the-good-the-ba...
Der Blogpost von Hugging Face zum laufenden Angriff Security incident disclosure — July 2026
Der OpenAI-Blogpost vom 21. Juli openai.com/de-DE/index/hugging-face-m...
Reuters-Recherche zur Chronologie des Vorfalls reuters.com/business/its-ai-agent-spe...
Wie der Kontrollverlust bei OpenAI ablief Testlauf außer Kontrolle: KI von OpenAI hackt Hugging Face | BR24
Der Gegenbeweis zur Jacobi-Vermutung spektrum.de/news/jacobi-vermutung-ki-...
Der Original Post dazu: levent (@__alpoge__) auf X und Gregors Chat: Gemini - Mathematische Sensation auf dem Nachttisch
Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann
Kontakt: kipodcast@br.de.
Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!
Raw Description
<p>Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens - und sofort kursierten zwei Erzählungen.</p><p>Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens – und sofort kursierten zwei Erzählungen: "Hier ist eine Maschine mit eigenem Willen entkommen." Oder: "Das war doch nur ein Marketing-Stunt von OpenAI." Gregor und Fritz rekonstruieren, was zwischen Sandbox-Ausbruch und Firmen-Blogpost wirklich passiert ist, warum sich Hugging Face am Ende mit einem chinesischen Modell verteidigen musste – und warum die wichtigste Autonomiefrage für Europa eine ganz andere ist.</p> <p>Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" und "Die OpenAI Story" (DLF).</p> <p>(00:00) Die Woche, in der alle über eine KI redeten</p> <p>(03:12) ExploitGym: Wie die KI aus dem Klassenzimmer kam</p> <p>(11:58) Der Angriff auf HuggingFace</p> <p>(13:38) Verteidigung mit chinesischer KI – weil die amerikanische streikt</p> <p>(18:18) Was hier eben nicht passiert ist: KI mit eigenem Willen</p> <p>(22:43) Alles nur ein Marketing-Stunt von OpenAI?</p> <p>(32:11) Europas eigentliches Autonomieproblem</p> <p>(36:30) Was haben wir mit KI gemacht?</p> <p>Doku-Tipp der Woche: "The Good, The Bad and The Ego" – im Kosmos Richard Wagners, vierteilig, mit KI-animierter Ebene, in der ARD Mediathek <a title="https://www.ardmediathek.de/serie/the-good-the-bad-und-the-ego/staffel-1/y3jpzdovl2jylmrll2jyb2fky2%e2%80%a6" href="https://www.ardmediathek.de/serie/the-good-the-bad-und-the-ego/staffel-1/Y3JpZDovL2JyLmRlL2Jyb2FkY2…">https://www.ardmediathek.de/serie/the-good-the-bad-und-the-ego/staffel-1/Y3JpZDovL2JyLmRlL2Jyb2FkY2…</a></p> <p>Der Blogpost von Hugging Face zum laufenden Angriff <a title="https://huggingface.co/blog/security-incident-july-2026" href="https://huggingface.co/blog/security-incident-july-2026">Security incident disclosure — July 2026</a></p> <p>Der OpenAI-Blogpost vom 21. Juli <a title="https://openai.com/de-de/index/hugging-face-model-evaluation-security-incident/" href="https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/">https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/</a></p> <p>Reuters-Recherche zur Chronologie des Vorfalls <a title="https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not%e2%80%a6" href="https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not…">https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not…</a></p> <p>Wie der Kontrollverlust bei OpenAI ablief <a title="https://www.br.de/nachrichten/netzwelt/testlauf-ausser-kontrolle-ki-von-openai-hackt-hugging-face,vq5fzwa" href="https://www.br.de/nachrichten/netzwelt/testlauf-ausser-kontrolle-ki-von-openai-hackt-hugging-face,VQ5FZWa">Testlauf außer Kontrolle: KI von OpenAI hackt Hugging Face | BR24</a></p> <p>Der Gegenbeweis zur Jacobi-Vermutung <a title="https://www.spektrum.de/news/jacobi-vermutung-ki-loest-jahrzehntealtes-raetsel-waehrend-wm-finale/2%e2%80%a6" href="https://www.spektrum.de/news/jacobi-vermutung-ki-loest-jahrzehntealtes-raetsel-waehrend-wm-finale/2…">https://www.spektrum.de/news/jacobi-vermutung-ki-loest-jahrzehntealtes-raetsel-waehrend-wm-finale/2…</a></p> <p>Der Original Post dazu: <a title="https://x.com/__alpoge__/status/2079028340955197566" href="https://x.com/__alpoge__/status/2079028340955197566">levent (@__alpoge__) auf X</a> und Gregors Chat: <a title="https://gemini.google.com/share/4e3153d7822b?skid=ea689783-46c7-4b42-93be-eee80bfe00f9" href="https://gemini.google.com/share/4e3153d7822b?skid=ea689783-46c7-4b42-93be-eee80bfe00f9">Gemini - Mathematische Sensation auf dem Nachttisch</a> </p> <p>Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann</p> <p>Kontakt: kipodcast@br.de.</p> <p>Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!</p>