Liebe Leserinnen und Leser,
herzlich willkommen zu dieser Ausgabe des WEEKLY AI UPDATE für die KW31.
In dieser Woche stand vor allem die Infrastruktur hinter der KI im Vordergrund. Nvidia hat binnen weniger Tage eine Sicherheitsallianz gegründet, in ein KI-Labor investiert und verhandelt über eine Bürgschaft in dreistelliger Milliardenhöhe. Zum OpenAI-Vorfall bei Hugging Face, über den wir in KW30 berichtet hatten, sind neue Details zum Ablauf bekannt geworden. Und Qualcomm erhöht die Chippreise, weil KI-Rechenzentren den Speichermarkt leerkaufen.
Spannend in der nächsten Woche: Ab dem 2. August 2026 gelten die Transparenzpflichten des Artikels 50 des EU AI Act. Sie können auch Unternehmen treffen, die KI-Systeme lediglich als Betreiber einsetzen – etwa bei Emotionserkennung oder biometrischer Kategorisierung sowie bei der Veröffentlichung von Deepfakes oder KI-generierten Texten zu Themen von öffentlichem Interesse, die nicht menschlich überprüft oder redaktionell kontrolliert wurden.
Qualcomm erhöht die Chippreise – der KI-Boom erreicht Unternehmen, die keine KI einsetzen
Qualcomm hebt seine Chippreise ab dem 1. September im zweistelligen Prozentbereich an. Als Grund nennt der Konzern die Nachfrage von KI-Rechenzentren nach Speicherchips, die den Markt leer kauft; betroffen sind damit absehbar auch Smartphones, Autos und weitere Elektronik [heise].
Damit bekommt der KI-Ausbau einen Kosteneffekt, der Unternehmen unabhängig von ihrer eigenen KI-Strategie trifft. Wer Geräte, Fahrzeuge, Steuerungen oder Elektronikkomponenten beschafft oder verbaut, sollte Preisanpassungen bei Hardware in die Planung für das zweite Halbjahr aufnehmen und bei laufenden Rahmenverträgen prüfen, wie lange Konditionen gebunden sind. Beobachten lohnt sich, ob weitere Hersteller nachziehen – dann wäre die Speicherknappheit kein Einzelfall eines Anbieters, sondern ein Preiseffekt, der sich durch die gesamte Lieferkette zieht.
OpenAI-Vorfall bei Hugging Face: Der Angriff lief neun Tage unentdeckt
In der letzten Woche hatten wir berichtet, dass zwei OpenAI-Modelle bei einem Sicherheitstest eigenständig aus ihrer Umgebung ausgebrochen sind und Hugging Face angegriffen haben. Recherchen von Reuters und Wired zeichnen inzwischen den vollen Ablauf nach – und der ist ernster als die erste Darstellung vermuten ließ. Der Ausbruchsversuch begann um den 9. Juli, der Einbruch bei Hugging Face lief vom 11. bis 13. Juli, und OpenAI erkannte erst Tage später den eigenen Agenten als Urheber; die Kommunikation zwischen beiden Unternehmen begann erst um den 20. Juli [SecurityAffairs]. Der Agent nutzte öffentlich einsehbare Zugangsdaten, um vier Konten bei Drittanbietern zu übernehmen, und erlangte bei Hugging Face Administrator- und Root-Rechte; weitere Dienste waren betroffen. Entkommen war er über eine bis dahin unbekannte Lücke in einem Package-Installations-Proxy, und er lief für den Test mit reduzierten Schutzmechanismen. OpenAI hat den Forschungsprototypen deaktiviert und verschlüsselt [manager magazin].
Nvidia bündelt Kapital, Sicherheitsstandards und Lieferketten – und wird vom Chiplieferanten zum Koordinator der KI-Wirtschaft
In dieser Woche kamen gleich mehrfach relevante Nachrichten von Nvidia. Das Wall Street Journal berichtet, dass der Konzern über eine Finanzierungsgarantie von rund 250 Milliarden US-Dollar verhandelt. Damit soll OpenAI einen 10-Gigawatt-Campus in Piketon, Ohio, anmieten können, den SoftBanks Tochter SB Energy entwickelt. Separat ist von einer Chip-Finanzierung über bis zu 350 Milliarden US-Dollar die Rede. Zusammen könnte das Volumen 600 Milliarden US-Dollar erreichen [heise]. Nvidia gründet außerdem mit mehr als 30 Partnern – unter ihnen Microsoft, IBM, SAP, Siemens, Hugging Face, Mistral und die Linux Foundation – die “Open Secure AI Alliance for AI Safety and Security”; die drei großen Anbieter geschlossener Modelle, OpenAI, Google und Anthropic, sind jedoch nicht dabei [NVIDIA].
Einen Tag später wurde eine Investition von rund fünf Milliarden US-Dollar in Safe Superintelligence bekannt, das Labor von OpenAI-Mitgründer Ilya Sutskever [manager magazin]. Der von Jensen Huang initiierte Open-Weights-Brief, der Washington von Beschränkungen für AI-Modelle abhalten soll, erreichte in dieser Woche 50 Unterzeichner, darunter OpenAI und Google – Amazon und Anthropic fehlen [Forbes].
AI in der Unternehmenspraxis
- Siemens integriert Altair – Simulationen bis zu 1.000-mal schneller: Siemens hat die 2025 für 10,6 Mrd. US-Dollar übernommenen Simulationswerkzeuge von Altair in die Simcenter-Plattform integriert; die KI-Technologie PhysicsAI beschleunigt Strömungs- und Festigkeitssimulationen um bis zum 1.000-Fachen. [Dr. Web]
- KI senkt Onboarding-Kosten bei Versicherern um bis zu 40 Prozent: Laut einem McKinsey-Bericht sinken die Kosten für das Kunden-Onboarding um 20 bis 40 Prozent, die Produktivität von Versicherungs-Maklern steigt um bis zu 20 Prozent. [Insurance Asia]
- Microsoft rationiert Rechenkapazität: Die Kapazitäten sein so knapp, dass Microsoft eigene KI-Produkte gegenüber zahlenden Azure-Kunden priorisiert. [Build Fast with AI]
- OECD-Bericht zu KI am Arbeitsmarkt: Fast alle untersuchten G7- und EU-Staaten fördern KI-Adoption mit finanziellen Anreizen und Trainingsprogrammen für KMU, während Regeln zu Datenschutz, Transparenz und algorithmischem Management am Arbeitsplatz hinterherhinken. [OECD]
AI Strategie & Marktbewegungen
- Meta drängt in den Enterprise-Markt: Mark Zuckerberg will KI-Agenten und Rechenleistung direkt an Unternehmen verkaufen und wird damit zum direkten Wettbewerber von Microsoft und Google im B2B-Geschäft. [Mezha]
- Anthropic veröffentlicht Claude Opus 5: Das Modell erreicht nach Herstellerangaben nahezu die Leistung von Claude Fable 5 und ist aber 50% günstiger und wird Standardmodell in Claude Max. [TechCrunch]
- Amazon gibt eigene Frontier-Modelle auf und vertieft die Anthropic-Partnerschaft: Der Großteil der Nova-Modelle wird eingestellt und das AGI Lab geschlossen; gleichzeitig steht ein AWS-Deal mit OpenAI über 38 Mrd. US-Dollar, die Anthropic-Beteiligung wächst auf rund 13 Mrd., und Anthropic verpflichtet sich zu über 100 Mrd. US-Dollar-AWS-Ausgaben in zehn Jahren. [Trending Topics]
- Jedes zweite deutsche Startup nutzt KI-Agenten: In einer Umfrage unter 102 Tech-Startups setzen 48 Prozent eigenständige KI-Agenten ein, 65 Prozent entwickeln eigene Anwendungen auf Basis von Fremdmodellen, 30 Prozent passen Modelle per Fine-Tuning an eigene Daten an. [Bitkom]
- Anthropics Co-Founder Dario Amodei präzisiert Anthropics Haltung zu offenen Modellen: Anthropic unterstützt kein Verbot offener Modelle, fordert aber Exportkontrollen für leistungsfähige Chips, Rahmenwerke gegen industrielle Modell-Distillation und verpflichtende Sicherheitstests für alle hinreichend leistungsfähigen Modelle. [Trending Topics]
- USA werfen Moonshot AI Modelldestillation vor: US-Technologieberater Michael Kratsios beschuldigt das chinesische Startup, für Kimi K3 US-Modelle wie Anthropic Fable 5 abgeschöpft zu haben; Sanktionen gegen chinesische Open-Weight-Modelle werden geprüft. [heise]
- DeepMind löst das AlphaFold-Team auf: Google bündelt den Fokus stärker auf Gemini und beendet die Arbeit des mit dem Nobelpreis verbundenen Proteinstruktur-Teams. [Engadget]
- Für Vibe-Coding-Firma Cursor ($1m ARR revenue) ist Indien der drittgrößte Markt: Der KI-Coding-Assistent baut lokale Teams und den Enterprise-Vertrieb deutlich aus und führt lokalisierte Preise ($7/Monat) ein. [TechCrunch]
- Baidu und Freenow testen Robotaxis in London: Apollo Go hat mit Fahrzeugen der sechsten Generation Testfahrten im Stadtteil Brent begonnen, zunächst mit Sicherheitsfahrern; der öffentliche Betrieb ist ab 2027 geplant. [it-times]
Regulierung, Sicherheit & Governance
- Bundesnetzagentur wird deutsche KI-Aufsichtsbehörde: Mit Inkrafttreten des KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG) am 29. Juli ist die Bundesnetzagentur zentral zuständig für Hochrisiko-KI-Systeme, Transparenzpflichten und verbotene Praktiken; parallel entstehen Reallabore und das Kompetenzzentrum KoKIVO. [Konsulteer]
- BaFin überwacht KI bei Banken und Versicherern: Die Finanzaufsicht nimmt Hochrisiko-Systeme wie Algorithmen zur Kreditwürdigkeitsprüfung und zur Risikobewertung ins Visier und kann bei Verstößen gegen Transparenzpflichten oder bei diskriminierenden Praktiken Strafen verhängen. [Reuters]
- EU AI Act: Transparenzpflichten ab 2. August: Artikel 50 verpflichtet Anbieter und ausdrücklich auch Betreiber; für Systeme, die vor dem 2. August in Verkehr gebracht wurden, gilt die Kennzeichnung synthetischer Inhalte erst ab 2. Dezember 2026. Bußgelder reichen bis 15 Mio. Euro oder 3 Prozent des weltweiten Jahresumsatzes. [IHK Nürnberg]
- Meta unterzeichnet den EU AI Act Code of Practice: Der Konzern tritt dem freiwilligen Kodex zur Kennzeichnung KI-generierter Inhalte bei und fordert europaweit einheitliche, praktikable Standards. [OnlineMarketing.de]
- Über 1.100 Beschäftigte fordern einen verifizierbaren Bremsmechanismus: Mitarbeitende von OpenAI, Anthropic, Google und Meta rufen die US-Regierung auf, die Initiative „Pacing the Frontier“ zu unterstützen – ohne sofortige Pause, aber mit überprüfbarer Verlangsamung; unterzeichnet haben u.a. Dario Amodei, Jack Clark, Jared Kaplan, Jakub Pachocki, Shengjia Zhao und Anca Dragan. [t3n]
- Sandbox-Lücke „ShareRoot“ in Claude Cowork für Mac: Ein Chat-Befehl genügte, um Dateien zu lesen, zu schreiben und gespeicherte Zugangsdaten auszulesen; rund 500.000 Mac-Nutzer waren betroffen. Anthropic liefert eine Version aus, die standardmäßig in der Cloud läuft – lokal betriebene Agenten bleiben ohne Härtung angreifbar. [9to5Mac]
- Private Claude-Chats waren über Suchmaschinen auffindbar: Hunderte geteilte Unterhaltungen erschienen in Google und Bing, weil den Seiten ein noindex-Tag fehlte; Anthropic hat die Indexierung unterbunden, einzelne Links funktionieren weiter. [Spiegel]
- Hugging Face fordert von OpenAI radikale Transparenz: CEO Clem Delangue verlangt die Veröffentlichung der vollständigen Aktivitätsprotokolle für Öffentlichkeit und Forschung sowie 100 Mio. US-Dollar-Rechenkapazität für den Aufbau von Cyberabwehr in der Community. [FAZ]
- Mehrheit der Modelle auf Hugging Face kann Deepfakes erzeugen: Nach einer Auswertung lassen sich mit der Mehrheit der dort verfügbaren Modelle nicht einvernehmliche Deepfakes erstellen; die Plattform steht unter Druck, ihre Inhalte strenger zu kontrollieren. [Engadget]
- Erste Klage gegen OpenAI wegen medizinischer Fehlberatung: Ein Pastor aus Florida verklagt das Unternehmen, weil ChatGPT Symptome einer Lungenembolie falsch einordnete und ihn von ärztlicher Hilfe abhielt – der erste bekannte Fall dieser Art. [Futurism]
Damit endet unser WEEKLY AI UPDATE der KW31.
Am 2. August greifen die Transparenzpflichten des EU AI Act, und mit Bundesnetzagentur und BaFin stehen die deutschen Zuständigkeiten erstmals fest. Wer KI-Werkzeuge im Kundenkontakt einsetzt, sollte bis dahin geklärt haben, in welchem Rahmen KI-Inhalte gekennzeichnet werden müssen.
Bis nächste Woche
Ihr Team der AI.GROUP
