Die Sichtweisen der großen Tech-Firmen

Exkurs: Risiken agentenbasierter KI-Systeme

Agentische KI ist eine neue Entwicklungsstufe künstlicher Intelligenz: Sie reagiert nicht nur auf Eingaben, sondern

• plant Ziele,
• trifft Entscheidungen,
• nutzt Werkzeuge und
• passt sich mit wenig menschlicher Aufsicht an.

Dadurch entstehen ethische Risiken wie

• mangelnde Transparenz,
• unklare Verantwortlichkeit,
• verstärkte Verzerrungen,
• Kontrollverlust,
• Manipulation,
• Zielabweichungen und
• Datenschutzprobleme durch Speicherfunktionen oder Datenaggregation.

Besonders kritisch ist, dass solche Systeme mehrstufig handeln und ihre Entscheidungen selbstständig optimieren können, wodurch unbeabsichtigte diskriminierende, manipulative oder falsch ausgerichtete Ergebnisse entstehen können. Deshalb braucht es eine mehrschichtige Governance mit klarer Regulierung, ethischem Design, Human-in-the-Loop-Kontrollen, erklärbaren Entscheidungsprotokollen, Guardrails, Echtzeitüberwachung und unabhängigen Audits. Agentische KI ist nicht grundsätzlich unethisch, muss aber aktiv, transparent und gesellschaftlich verantwortungsvoll gesteuert werden, um Vertrauen, Sicherheit und menschliche Kontrolle zu gewährleisten.

Microsofts Zukunftsbild ist stärker auf Arbeit, Organisation und Produktivität ausgerichtet. Satya Nadella beschreibt KI vor allem als Copilot und Agentensystem: nicht als Ersatz für jede menschliche Tätigkeit, sondern als digitale Unterstützung, die Wissen auffindbar macht, Code schreibt, Meetings zusammenfasst, Geschäftsprozesse automatisiert und Entscheidungen vorbereitet. Bei Microsoft Build 2025 stand diese Vision einer „agentischen“ Softwarewelt im Mittelpunkt: Copilot, KI-Agenten und Entwicklerplattformen sollen Arbeit neu organisieren und Softwareentwicklung beschleunigen (Microsoft, 2025). Zugleich zeigt sich an Microsoft, wie eng das Versprechen mit Investitionen in Infrastruktur verbunden ist: Rechenzentren, Cloud-Plattformen und KI-Supercomputer werden zur materiellen Grundlage einer Zukunft, in der Produktivitätsgewinne nicht aus einzelnen Apps, sondern aus tief in Unternehmen eingebetteten Systemen entstehen.

Google und Alphabet erzählen KI als universelle Wissens- und Problemlösungstechnologie. Sundar Pichai hat KI wiederholt als tiefgreifender als Feuer oder Elektrizität beschrieben: eine Formulierung, die den Anspruch verdeutlicht, KI nicht nur als Produktivitätssoftware, sondern als zivilisatorische Schwelle zu verstehen (Fortune, 2023). In Googles aktueller Unternehmensvision verschiebt sich KI von der Suchmaschine zur allgegenwärtigen Assistenz: Gemini soll in Suche, Workspace, Android, Cloud und Entwicklerwerkzeuge integriert werden. Auf der Google I/O 2025 wurden zahlreiche KI-Produkte und Modellfortschritte vorgestellt; bei Google Cloud Next wurde die „agentic era“ als Phase beschrieben, in der KI nicht nur antwortet, sondern Aufgaben in Arbeitsabläufen aktiv ausführt (Google, 2025). Die Verheißung lautet hier: Wissen wird nicht länger nur gefunden, sondern unmittelbar operationalisiert.

Meta verbindet KI mit einer stärker individualistischen Vision. Mark Zuckerberg spricht von „personal superintelligence“: Jeder Mensch soll Zugang zu einer persönlichen Superintelligenz erhalten, die beim Lernen, Gestalten, Kommunizieren und bei der Selbstverwirklichung hilft (Meta, 2025). Zugleich argumentierte Zuckerberg 2024, Open Source sei zentral für eine positive KI-Zukunft, weil dadurch Macht weniger stark bei wenigen Unternehmen konzentriert werde und mehr Entwickler weltweit von KI profitieren könnten (Zuckerberg, 2024). Metas Zukunftsbild kombiniert also zwei Versprechen: Demokratisierung durch offene Modelle und Personalisierung durch KI-Systeme, die eng an Alltag, soziale Beziehungen und kreative Produktion gekoppelt sind.

Nvidia erzählt die Zukunft wiederum aus der Perspektive der industriellen Infrastruktur. Jensen Huang spricht von KI-Fabriken, beschleunigtem Rechnen, Robotik und einer neuen industriellen Revolution. In dieser Vision entstehen Wohlstand und Produktivität nicht nur durch bessere Bürosoftware, sondern durch KI-gesteuerte Fabriken, digitale Zwillinge, autonome Maschinen und humanoide Roboter. Nvidia präsentierte 2025 Keynotes zu „AI factories“, agentischer KI und physischer KI; Huang sagte zudem, humanoide Roboter könnten in der Fertigung bereits in den nächsten Jahren verbreiteter werden (Nvidia, 2025). Damit wird KI als Brücke zwischen digitaler und physischer Ökonomie inszeniert: Sie soll nicht nur Texte generieren, sondern Produktion, Logistik, Medizin, Energie und Mobilität verändern.