USA wollen Musks Grok AI in geheime Militärsysteme integrieren – Medien

(SeaPRwire) –   Das Pentagon geriet mit dem Konkurrenten Anthropic über ethische Beschränkungen für dessen Technologie aneinander

Das US-Kriegsministerium hat Berichten zufolge eine Vereinbarung mit Elon Musks xAI unterzeichnet, um dessen Grok-Chatbot in klassifizierte Militärsysteme zu integrieren. Dies erhöht den Druck auf den Konkurrenten Anthropic, der sich weigert, die Sicherheitsvorkehrungen für sein Claude-Modell aufzuheben.

Der Deal, über den zuerst die New York Times berichtete und der am Montag von Axios bestätigt wurde, würde Grok zum zweiten KI-System machen, das für die Nutzung in den sensibelsten Netzwerken des Militärs zugelassen ist, in denen Geheimdienstanalsyen, Waffenentwicklung und Gefechtsfeldoperationen stattfinden. Bislang war Anthropics Claude durch eine Partnerschaft mit Palantir Technologies das einzige auf klassifizierten Plattformen verfügbare Modell.

Die Vereinbarung kommt zustande, als Kriegsminister Pete Hegseth Anthropic-CEO Dario Amodei für eine, wie Quellen erwarten, angespannte Besprechung am Dienstag im Pentagon einbestellte. Laut Axios wird Hegseth voraussichtlich ein Ultimatum stellen: zustimmen, Claude für „alle rechtmäßigen Zwecke“ ohne zusätzliche Sicherheitsvorkehrungen verfügbar zu machen, oder mit Konsequenzen rechnen, einschließlich einer möglichen Einstufung als „Risiko für die Lieferkette“ – eine Bezeichnung, die typischerweise mit ausländischen Gegnern verbundenen Einheiten vorbehalten ist.

Anthropic hat Forderungen des Pentagons widerstanden, Beschränkungen aufzuheben, die verhindern, dass seine Technologie für die Massenüberwachung von Amerikanern eingesetzt oder in vollständig autonomen Waffensystemen ohne menschliche Beteiligung stationiert wird.

xAI hat den Forderungen Berichten zufolge zugestimmt, aber das Unternehmen hat sich zu den Berichten noch nicht geäußert. Google steht laut mit den Gesprächen vertrauten Personen ebenfalls kurz vor einem Deal, der die klassifizierte Nutzung seines Gemini-Modells erlaubt, während OpenAI, da es weiter an Sicherheitstechnologie arbeitet, „nicht kurz davor“ steht.

Pentagon-Beamte räumen ein, dass der Ersatz von Anthropic in seinen klassifizierten Systemen zu kurzfristigen Störungen führen könnte. Das Modell wurde während der Operation zur Gefangennahme des venezolanischen Präsidenten Nicolas Maduro letzten Monat eingesetzt – der erste bekannte Fall, in dem KI eine direkte Rolle in einem aktiven Militärangriff spielte.

Anthropic hat sich als die sicherheitsbewusste Alternative innerhalb der KI-Branche positioniert. CEO Amodei hat wiederholt vor den existenziellen Gefahren ungebremster künstlicher Intelligenz gewarnt, einschließlich „Autonomierisiken“. Der Leiter des Safeguards Research Team des Unternehmens, Mrinank Sharma, trat letzte Woche abrupt zurück und warnte kryptisch, dass „die Welt in Gefahr sei“.