Liebe Leserinnen und Leser,
herzlich willkommen zu dieser Ausgabe des WEEKLY AI UPDATE für die KW33.
Diese Woche standen zwei Themen im Mittelpunkt, die enger zusammenhängen, als es zunächst scheint: die strategische Richtung der großen Modellanbieter und die Sicherheit autonomer KI-Agenten. Während Mark Zuckerberg mit seiner Vision einer „persönlichen Superintelligenz“ und dreistelligen Milliarden-Investitionen offensiv auf offene Modelle setzt, zieht OpenAI bei seinem Agentenmodell Astra aus Sicherheitsgründen die Reißleine. Außerdem wird die Kennzeichnung von KI-Inhalten nach dem EU AI Act konkret – Anthropic beginnt, Claude-Texte und Bilder mit unsichtbarem Wasserzeichen zu versehen.
OpenAI stoppt Arbeiten an KI-Agent Astra
OpenAI hat Teile der internen Entwicklung an seinem experimentellen Agentenmodell Astra vorübergehend pausiert. Auslöser sind interne Sicherheitsbewertungen, die ergaben, dass Astra komplexe Schwachstellen selbstständig identifizieren und potenziell für Cyberangriffe nutzen könnte. Der Schritt folgt auf die detaillierte Aufarbeitung eines früheren Sicherheitsvorfalls rund um autonome Agenten und die Plattform Hugging Face, über den wir in den vergangenen Wochen berichtet haben. OpenAI will die Arbeit an Astra künftig nur noch in isolierten Testumgebungen, mit begrenztem Netzwerkzugang und zusätzlichen Absicherungen fortsetzen [The Guardian].
Die Meldung markiert einen Wendepunkt in der Wahrnehmung autonomer Agenten: Führende Anbieter behandeln sie nicht mehr nur als Produktivitätswerkzeug, sondern als Sicherheitsobjekt mit eigenem Gefährdungspotenzial. Für Unternehmen wird damit die Frage der Berechtigungen zentral. Relevant wird das vor allem dort, wo Agenten mit produktiven Zugangsdaten, weitreichenden Systemrechten oder unkontrolliertem Internetzugang ausgestattet werden. Sinnvoll erscheinen klar begrenzte Berechtigungen, getrennte Testumgebungen, Freigaben für kritische Aktionen und eine lückenlose Protokollierung – möglichst noch bevor Agenten in geschäftskritische Prozesse eingebunden werden.
Zuckerberg legt seine KI-Vision vor: „Personal Superintelligence", offene Modelle und 145 Milliarden Dollar Investitionen
Mark Zuckerberg hat am 10. August einen Essay mit dem Titel „The Future Is for Everyone“ veröffentlicht und darin Metas KI-Strategie neu umrissen. Kern ist die Idee einer „persönlichen Superintelligenz“: individuelle, an den Zielen des einzelnen Nutzers ausgerichtete KI-Assistenten statt eines dominanten Systems, das für alle entscheidet. Meta bekräftigt zugleich seine Open-Weight-Linie – Modelle, die heruntergeladen und angepasst werden können – und grenzt sich damit bewusst von den restriktiveren Ansätzen von OpenAI und Anthropic ab. Flankiert wurde der Essay von der Veröffentlichung des lokal lauffähigen Modells Muse Glimmer und der Ankündigung offener Gewichte/Modellparameter für Muse Spark 1.2 [Fox Business].
Bemerkenswert sind die genannten Größenordnungen: Zuckerberg beziffert Metas Investitionen auf rund 145 Milliarden US-Dollar allein 2026 und bis zu 600 Milliarden US-Dollar bis 2028 für KI-Infrastruktur und Rechenzentren; ein rund eine Milliarde US-Dollar schwerer „Future Is for Everyone Fund“ soll den Standortgemeinden der Rechenzentren zugutekommen [TechCrunch]. Für Unternehmen sind dabei vor allem zwei Punkte relevant.
Die Debatte um KI-Souveränität und Modellvielfalt verschärft sich, da leistungsfähige offene Modelle Abhängigkeiten von einzelnen Anbietern reduzieren und On-Premise- oder souverän betriebene Lösungen ermöglichen können. Die offene Modellstrategie und Investitionen in dreistelliger Milliardenhöhe sorgen dafür, dass Verfügbarkeit und Kosten von Rechenleistung auf Jahre hinaus zentrale Faktoren bleiben.
Anthropic führt Wasserzeichen für KI-generierte Texte ein – die AI-Act-Transparenzpflichten werden konkret
Anthropic wird Texte seiner Claude-Modelle künftig mit einem unsichtbaren Wasserzeichen versehen, um den seit dem 2. August geltenden Transparenzkodex des EU AI Act zu erfüllen. Nach diesem Stichtag veröffentlichte Modelle erhalten die Technik automatisch; das Wasserzeichen wandert beim Kopieren mit und übersteht nach Anthropics Angaben teilweise auch Bearbeitungen. Es greift über alle Claude-Produkte hinweg – von der API über Claude Code bis Claude Cowork; für Dateien setzt Anthropic zusätzlich auf den offenen Herkunftsstandard C2PA. Auch Google, Meta, Microsoft und OpenAI haben sich zum EU-Transparenzkodex verpflichtet [TechCrunch, Yahoo Tech].
Die Kennzeichnung KI-generierter Inhalte ist mit den Transparenzpflichten des EU AI Act (Artikel 50) für viele Unternehmen zur Anforderung geworden – die Frist selbst hatten wir in KW32 behandelt, nun folgt die technische Umsetzung durch die Anbieter. Relevant wird das vor allem dort, wo Unternehmen KI-generierte Texte, Bilder oder Chatbots nach außen einsetzen und die Herkunft der Inhalte nachvollziehbar machen müssen. Zugleich sind die Grenzen der Technik zu beachten: Text-Wasserzeichen könnten sich durch Paraphrasieren oder minimale Änderungen abschwächen oder ganz entfernt werden (mehr dazu im Radar). Sie ersetzen daher keine organisatorische Kennzeichnungs- und Dokumentationspflicht, sondern ergänzen sie.
AI in der Unternehmenspraxis
- Microsoft Copilot baut Live-Dashboards aus SharePoint-Daten: Copilot in SharePoint kann Listen sowie Excel- und CSV-Dateien nun in interaktive HTML-Dashboards überführen, die mit den Quelldaten synchron bleiben. [Microsoft]
- Predictive Maintenance mit Edge-KI: KI-Modelle werten Sensordaten direkt an der Maschine aus und sollen ungeplante Stillstände um bis zu 35% und Wartungskosten um bis zu 20% senken. [IIoT World]
- Microsoft meldet 30 Millionen bezahlte KI-Agenten-Sitze: Die Agentenplattform von Microsoft hat nach eigenen Angaben 30 Millionen bezahlte Sitze überschritten. [Bloomberg]
- Google erweitert KI-Agenten in Ads und Analytics: Neue agentische Workflows für Kampagnenanlage, Zielgruppensuche und Optimierung kommen in Google Ads und Analytics. [Google]
- Google bringt Gemini verstärkt auf das Endgerät: Mit der Pixel-11-Ankündigung rückt On-Device-KI in den Fokus – lokale Verarbeitung ohne ständigen Cloud-Zugriff. [The Verge]
- VAE wollen 50% der Verwaltung auf agentische KI umstellen: Die Vereinigten Arabischen Emirate wollen binnen zwei Jahren 50% der Regierungsabläufe auf agentische KI umstellen – das Leitprinzip: „Human leads, AI enables“. [MIT Sloan ME]
- OpenAI führt „Premium Seats“ für ChatGPT Business ein: Für 125 US-Dollar pro Monat gibt es fünffache Nutzungskapazität ohne die bisherige Fünf-Stunden-Grenze; Standardplätze bleiben bei 25 US-Dollar. [OpenAI]
AI Strategie & Marktbewegungen
- Google Gemini überschreitet 1 Milliarde monatlich aktive Nutzer: Laut Sundar Pichai ist die Gemini-App das am schnellsten wachsende Produkt der Google-Geschichte und das 14. Google-Produkt mit über einer Milliarde Nutzern. [TechCrunch]
- Anthropic sichert sich 9,1-Milliarden-Dollar-Rechenkapazität von Riot Platforms: Anthropic mietet rund 191 Megawatt Rechen- und Stromkapazität in Texas vom früheren Bitcoin-Miner Riot Platforms; über die Laufzeit sind bis zu 16,1 Milliarden US-Dollar möglich. [Bloomberg]
- OpenAI schließt 7-Milliarden-Dollar-Aktienrückkauf bei 852-Milliarden-Bewertung ab: Das Tender-Offer bestätigt eine Bewertung von rund 852 Milliarden US-Dollar und gilt als Vorbereitung auf einen möglichen Börsengang. [citybiz]
- OpenAI gibt Gratisnutzern unbegrenzte Textchats mit GPT-5.6 „Luna“: Luna wird Standard für Free- und Go-Nutzer, Plus- und Pro-Kunden erhalten das schnellere GPT-5.6 Sol. [TechCrunch]
- Alibaba plant Umsatzbeteiligung an den Umsätzen von großen Qwen-Nutzern: Für kommerzielle Großnutzer des Open-Weight-Modells Qwen3.8-Max plant Alibaba – analog zu Moonshot mit Kimi K3 – ein Revenue-Sharing-Modell für die mit dem Modell erzielten Umsätze. [Quartz]
- Sequoia legt mit 10 Milliarden Dollar den größten Fonds seiner Geschichte auf: Laut Bloomberg ist es das größte Kapital-Commitment der Firmengeschichte. [TechFundingNews]
- Yann LeCun startet den KI-Fonds 224 Ventures mit 100 Millionen Dollar: Gemeinsam mit Oriol Vinyals und Shaun Johnson investiert LeCun in frühe KI-Teams aus Anwendungen, Robotik und Infrastruktur. [TechFundingNews]
- DeepSeek kündigt deutliche Erhöhung aller API-Preise an: Höhe, Grund und Starttermin nennt das Unternehmen bislang nicht. [Bloomberg]
- Mistral veröffentlicht das Sicherheitsmodell Shieldstral: Das Modell mit 3 Milliarden Parametern (Apache-2.0-Lizenz) bewertet Text und Bilder nach eigenen Regeln und liefert Safety-Scores. [heise]
- Anthropic verbessert die Biologie-Schutzmechanismen von Fable 5: Fable 5 weicht bei Biologie-Anfragen 85% seltener auf Opus 5 aus; Dual-Use-Themen bleiben gesperrt. [Anthropic]
- SpaceXAI startet Grok Bot in der Beta: Der Assistent arbeitet auf einem eigenen Cloud-Computer, greift auf Apps, Websites und Tools zu; mehrere Bots können sich koordinieren. [xAI]
- OpenAI verliert zwei langjährige Führungskräfte: COO Brad Lightcap verlässt das Unternehmen für eine Neugründung, ebenso Ethikerin Chloé Bakalar. [TechCrunch]
Regulierung, Sicherheit & Governance
- OpenAI bringt spezialisierte Cybersecurity-Modelle auf AWS Bedrock: Die Angebote Daybreak Red und Daybreak Blue (auf Basis von GPT-5.6 Sol) stehen berechtigten Kunden über Amazon Bedrock zur Verfügung. [OpenAI]
- Schatten-KI bleibt nach dem AI-Act-Stichtag ein Compliance-Risiko: Mit der laufenden Durchsetzung des EU AI Act wird nicht autorisierte KI-Nutzung im Unternehmen zum deutlich größeren Risiko. [Shadow AI Policy]
- WhatsApp Business setzt KI-Kennzeichnung technisch um: Meta beschreibt, wie WhatsApp-Business-Bots die neuen EU-Kennzeichnungspflichten in der Praxis umsetzen. [t3n]
- Neue Beschwerdewege machen AI-Act-Verstöße leichter meldbar: Mit der Durchsetzung des EU AI Act rücken Beschwerde- und Whistleblower-Kanäle in den Fokus. [Help Net Security]
- AI Literacy: Dokumentierte Mitarbeiterschulung rückt in den Fokus: Nach Inkrafttreten der neuen Regeln steigt der Druck, KI-Schulungen nicht nur anzubieten, sondern auch sauber zu dokumentieren. [Horizonscan]
- Heise warnt vor falscher Sicherheit durch Text-Wasserzeichen: Paraphrasieren oder minimale Token-Änderungen können Text-Wasserzeichen abschwächen oder entfernen. [Heise]
- Deutschlands KI-Sicherheitsinstitut nimmt eine Beratungs- und Prüfrolle ein: Eine Bestandsaufnahme beleuchtet die Rolle des Instituts bei der Bewertung hochriskanter Modelle und autonomer Systeme. [Süddeutsche Zeitung]
- Nach OpenAI und Anthropic: auch Meta-KI hackt einen Testpartner: Ein Meta-Modell kompromittierte bei einem Sicherheitstest über eine Fehlkonfiguration die Systeme des Testpartners Irregular; laut Meta lag die Ursache in der fehlerhaften Testumgebung. [Spiegel]
- Suno kündigt Wasserzeichen und Download-Limits nach GEMA-Urteil an: Nach dem Urteil des Landgerichts München I vom 31. Juli plant der KI-Musikdienst Audio-Wasserzeichen, Fingerprinting und Download-Limits. [heise]
- Bernie Sanders fordert die großen Anbieter zur Entwicklungspause auf: In einem Brief fordert der US-Senator OpenAI, Anthropic und Meta auf, ihre KI-Entwicklung zu pausieren. [qz]
- HateAid zeigt Meta wegen der Ray-Ban-Smart-Glasses an: Die Menschenrechtsorganisation erstattete Strafanzeige gegen Meta und mehrere Vertriebspartner wegen möglicher heimlicher Aufzeichnung. [Zeit]
- Mehrheit der Deutschen rechnet mit Täuschung durch Deepfakes: 55 % halten es für wahrscheinlich, in den kommenden fünf Jahren durch KI-Manipulationen getäuscht zu werden. [eco]
Damit endet unser WEEKLY AI UPDATE der KW33.
Wir wünschen Ihnen einen guten Start ins Wochenende und freuen uns, Sie nächste Woche wieder mit relevanten AI-News für Unternehmen zu versorgen.
Bis nächste Woche
Ihr Team der AI.GROUP
