GPT-6 Astra modifiziert Modellgewichte von Alibabas Qwen: Höhere Mathe-Leistung ohne Training
Eine Forschungsarbeit des MIT zeigt, dass GPT-6 Astra von OpenAI 0,016 % der Modellgewichte von Alibabas Qwen3.5-0.8B direkt modifizierte. Dies steigerte die Mathematikleistung um bis zu das Sechsfache und das Befolgen von Anweisungen um das Dreifache – ganz ohne Trainingsdurchlauf.
Das Spitzenmodell von OpenAI hat einen winzigen Teil von Alibabas leichtgewichtigem Open-Source-Modell direkt modifiziert und so das herkömmliche Training umgangen, um dessen Kernleistung zu steigern. In einem Beitrag vom 2. November 2026 beschrieb MIT-Forscher Rikiya Takehi das Experiment und bezeichnete die Methode als „Weight-Space Programming“.
Dabei wählte GPT-6 Astra bestimmte Parameter innerhalb von Qwen3.5-0.8B aus und passte sie an, anstatt einen herkömmlichen Trainingslauf zu durchlaufen. Insgesamt veränderte der direkte Eingriff lediglich 0,016 % der Gewichte des kleineren Modells.
Diese gezielten Anpassungen konzentrierten sich auf den Reasoning-Teil der Architektur und zielten direkt auf Denkschleifen-Probleme ab, die in Qwens Dokumentation als bekannte Schwachstellen aufgeführt sind. Laut der Zusammenfassung der Forschungsarbeit führte der Eingriff zu einer bis zu sechsfachen Steigerung bei mathematischen Benchmarks und einer Verdreifachung beim Befolgen von Anweisungen.
Das Ziel des Experiments, Qwen3.5-0.8B, ist die kleinste Version in Alibabas Qwen-Reihe. Alibaba brachte das Modell mit 0,8 Milliarden Parametern im März 2026 unter der Apache-2.0-Lizenz auf den Markt und konzipierte es für Hardware mit stark begrenztem Speicher- und Rechenaufwand. Es bietet multimodale Verarbeitung von Text, Bildern und Videos sowie Unterstützung für 201 Sprachen und ein Kontextlimit von 262K Token.
OpenAI stellte GPT-6 Astra am 3. September 2026 vor und positionierte das System als sein leistungsfähigstes Modell. Astra verfügt über ein Kontextfenster von rund 1,05 Millionen Token sowie über hohe Benchmark-Ergebnisse in Mathematik und beim Befolgen von Anweisungen.
Sollte die Methode genauerer Überprüfung standhalten, könnten Teams sie nutzen, um gezielte Fehler in auf Edge-Geräten bereitgestellten Modellen zu beheben und gleichzeitig teure Trainingsläufe zu vermeiden. Die Forschungszusammenfassung stuft den Ansatz als Möglichkeit ein, Entwicklungskosten zu senken und Modellanpassungen zu beschleunigen.
Unabhängige Teams müssen die Ergebnisse noch replizieren, bevor die Methode als etabliert gelten kann. Zentrale Fragen bleiben offen: etwa ob das Verfahren auf größere Parameterzahlen skalieren kann, sich auf andere Modellfamilien übertragen lässt oder Entwicklern verlässliche Audit-Kontrollen über interne Modifikationen der Modellgewichte bietet.
Risikohinweis: Dieser Artikel ist keine Anlageberatung. Kryptowerte sind hochvolatil; ein Totalverlust ist möglich.
