Training bösartiger Modelle

Ich habe mir einen interessanten Artikel der South China Morning Post übersetzen lassen und Links hinzugeführt (auch die Chinesen scheinen das nicht zu können).

KI nature

DeepSeek warnt vor Sicherheitsrisiken im Zusammenhang mit „Jailbreak“-Angriffen auf seine Open-Source-Modelle. – Laut einem Artikel im wissenschaftlichen Fachmagazin Nature [im Original ist der nicht online] wurden bei der Bewertung der Modelle Branchen-Benchmarks sowie eigene Tests verwendet.

Open-Source-Modelle werden kostenlos im Internet veröffentlicht und können von jedem heruntergeladen und verändert werden. Das fördert zwar die Verbreitung der Technologie, birgt aber auch die Gefahr, dass Nutzer eingebaute Sicherheitsmechanismen entfernen.

„Wir sind uns bewusst, dass die Offenlegung im Open-Source-Bereich einerseits die Verbreitung fortschrittlicher Technologien erleichtert, andererseits jedoch auch Risiken des Missbrauchs schafft“, heißt es in einem Fachartikel, dessen Hauptautor DeepSeek-CEO Liang Wenfeng ist.

Zur Eindämmung solcher Risiken rät DeepSeek Entwicklern, die Open-Source-Modelle einsetzen, vergleichbare Kontrollmechanismen wie bei kommerziellen Anwendungen einzubauen.

Die Warnung kommt zu einem Zeitpunkt, an dem chinesische Behörden betonen, dass Entwicklung und Sicherheit im Open-Source-KI-Ökosystem des Landes in Balance gebracht werden müssen. Erst am Montag hatte ein mit der Cyberspace Administration of China verbundenes Normungsgremium auf die Gefahr hingewiesen, dass Schwachstellen offener Modelle in nachgelagerte Anwendungen übertragen werden könnten.

„Die Veröffentlichung von Basis-Modellen … wird ihre Wirkung vergrößern und Korrekturen erschweren. Damit steigt das Risiko, dass Kriminelle sie für das Training bösartiger Modelle missbrauchen“, hieß es in einem neuen Update des „AI Safety Governance Framework“.

Der Artikel in Nature enthüllte zudem erstmals die Trainingskosten des Modells R1, die mit 294.000 US-Dollar deutlich niedriger lagen als die kolportierten Kosten vergleichbarer US-Modelle – ein Umstand, der seit der spektakulären Veröffentlichung im Januar für Spekulationen gesorgt hatte.

Zugleich wies DeepSeek Vorwürfe zurück, das Unternehmen habe Modelle von OpenAI „destilliert“, also ein eigenes Modell auf Grundlage der Ausgaben eines Konkurrenzmodells trainiert.

In China wurde die Titelplatzierung von DeepSeek in der renommierten Fachzeitschrift Nature mit großer Begeisterung aufgenommen. In den sozialen Medien trendete die Nachricht schnell, viele bezeichneten DeepSeek als das „erste LLM-Unternehmen mit Peer-Review“.

Laut Branchenbeobachter Fang könnte diese Anerkennung andere chinesische KI-Firmen dazu bewegen, ihre Sicherheits- und Schutzmaßnahmen offener darzulegen – zumindest dann, wenn sie ihre Arbeiten in führenden internationalen Fachzeitschriften veröffentlichen möchten.
________________________________

Die Formulierung „erstes LLM-Unternehmen mit Peer-Review“ bedeutet wörtlich:
– 👉 Das Unternehmen DeepSeek ist das erste Unternehmen, das ein LLM (Large Language Model) entwickelt hat und dessen Arbeit in einer Fachzeitschrift nach dem Peer-Review-Verfahren veröffentlicht wurde.
– LLM-Unternehmen = ein Unternehmen, das große Sprachmodelle entwickelt.
– Peer-Review = Begutachtungsverfahren durch unabhängige Fachleute, bevor eine wissenschaftliche Arbeit in einer renommierten Zeitschrift veröffentlicht wird.

deepseek

image_pdfimage_print
September 21, 2025 | abgelegt unter KI 

Kommentare

2 Kommentare zu “Training bösartiger Modelle”

  1. Rotzlöffel am September 21st, 2025 11:22 a.m.

    Du bist mit Abstand der am meisten linke Konsumjunkie den ich nicht kenne.

  2. bentux am September 21st, 2025 11:23 a.m.

    Warum soll der geneigte Verbraucherinneaussenoderso so etwas benutzen wollen? Nutzungsbeschränkung, Themenbeschränkung, Inhaltsfilter und ne Petze wenn man nicht in den Schranken bleibt.

    Das hört sich doch vielversprechend an: „World’s first AI-designed viruses a step towards AI-generated life“ was kann da schon schief gehen?

    <8*) Ein Aluhut, der neugierig darauf ist, wann diese Blase platzt.

Schreibe einen Kommentar