{"id":61721,"date":"2025-09-21T02:43:12","date_gmt":"2025-09-21T00:43:12","guid":{"rendered":"https:\/\/www.burks.de\/burksblog\/?p=61721"},"modified":"2025-09-21T02:43:46","modified_gmt":"2025-09-21T00:43:46","slug":"training-boesartiger-modelle","status":"publish","type":"post","link":"https:\/\/www.burks.de\/burksblog\/2025\/09\/21\/training-boesartiger-modelle","title":{"rendered":"Training b\u00f6sartiger Modelle"},"content":{"rendered":"

Ich habe mir einen interessanten Artikel der South China Morning Post<\/a> \u00fcbersetzen lassen und Links hinzugef\u00fchrt (auch die Chinesen scheinen das nicht zu k\u00f6nnen).<\/i><\/p>\n

\"KI<\/a><\/p>\n

DeepSeek<\/a> warnt vor Sicherheitsrisiken im Zusammenhang mit \u201eJailbreak\u201c-Angriffen auf seine Open-Source-Modelle.<\/b> – Laut einem Artikel im wissenschaftlichen Fachmagazin Nature<\/a> [im Original ist der nicht online] wurden bei der Bewertung der Modelle Branchen-Benchmarks sowie eigene Tests verwendet.<\/p>\n

Open-Source-Modelle werden kostenlos im Internet ver\u00f6ffentlicht und k\u00f6nnen von jedem heruntergeladen und ver\u00e4ndert werden. Das f\u00f6rdert zwar die Verbreitung der Technologie, birgt aber auch die Gefahr, dass Nutzer eingebaute Sicherheitsmechanismen entfernen.<\/p>\n

\u201eWir sind uns bewusst, dass die Offenlegung im Open-Source-Bereich einerseits die Verbreitung fortschrittlicher Technologien erleichtert, andererseits jedoch auch Risiken des Missbrauchs schafft\u201c, hei\u00dft es in einem Fachartikel<\/a>, dessen Hauptautor DeepSeek-CEO Liang Wenfeng ist.<\/p>\n

Zur Eind\u00e4mmung solcher Risiken r\u00e4t DeepSeek Entwicklern, die Open-Source-Modelle einsetzen, vergleichbare Kontrollmechanismen wie bei kommerziellen Anwendungen einzubauen.<\/p>\n

Die Warnung kommt zu einem Zeitpunkt, an dem chinesische Beh\u00f6rden betonen, dass Entwicklung und Sicherheit im Open-Source-KI-\u00d6kosystem des Landes in Balance gebracht werden m\u00fcssen. Erst am Montag hatte ein mit der Cyberspace Administration of China<\/a> verbundenes Normungsgremium auf die Gefahr hingewiesen, dass Schwachstellen offener Modelle in nachgelagerte Anwendungen \u00fcbertragen werden k\u00f6nnten.<\/p>\n

\u201eDie Ver\u00f6ffentlichung von Basis-Modellen … wird ihre Wirkung vergr\u00f6\u00dfern und Korrekturen erschweren. Damit steigt das Risiko, dass Kriminelle sie f\u00fcr das Training b\u00f6sartiger Modelle<\/a> missbrauchen\u201c, hie\u00df es in einem neuen Update des \u201eAI Safety Governance Framework<\/a>\u201c.<\/p>\n

Der Artikel in Nature enth\u00fcllte zudem erstmals die Trainingskosten des Modells R1, die mit 294.000 US-Dollar deutlich niedriger lagen als die kolportierten Kosten vergleichbarer US-Modelle \u2013 ein Umstand, der seit der spektakul\u00e4ren Ver\u00f6ffentlichung im Januar f\u00fcr Spekulationen gesorgt hatte.<\/p>\n

Zugleich wies DeepSeek Vorw\u00fcrfe zur\u00fcck, das Unternehmen habe Modelle von OpenAI \u201edestilliert\u201c, also ein eigenes Modell auf Grundlage der Ausgaben eines Konkurrenzmodells trainiert.<\/p>\n

In China wurde die Titelplatzierung von DeepSeek in der renommierten Fachzeitschrift Nature mit gro\u00dfer Begeisterung aufgenommen. In den sozialen Medien trendete die Nachricht schnell, viele bezeichneten DeepSeek als das \u201eerste LLM-Unternehmen mit Peer-Review\u201c.<\/p>\n

Laut Branchenbeobachter Fang k\u00f6nnte diese Anerkennung andere chinesische KI-Firmen dazu bewegen, ihre Sicherheits- und Schutzma\u00dfnahmen offener darzulegen \u2013 zumindest dann, wenn sie ihre Arbeiten in f\u00fchrenden internationalen Fachzeitschriften ver\u00f6ffentlichen m\u00f6chten.
\n________________________________<\/p>\n

Die Formulierung \u201eerstes LLM-Unternehmen mit Peer-Review\u201c bedeutet w\u00f6rtlich:<\/i>
\n– \ud83d\udc49 Das Unternehmen DeepSeek ist das erste Unternehmen, das ein LLM (Large Language Model) entwickelt hat und dessen Arbeit in einer Fachzeitschrift nach dem Peer-Review-Verfahren ver\u00f6ffentlicht wurde.<\/i>
\n– LLM-Unternehmen = ein Unternehmen, das gro\u00dfe Sprachmodelle entwickelt.<\/i>
\n– Peer-Review = Begutachtungsverfahren durch unabh\u00e4ngige Fachleute, bevor eine wissenschaftliche Arbeit in einer renommierten Zeitschrift ver\u00f6ffentlicht wird.<\/i><\/p>\n

\"deepseek\"\/<\/p>\n

\"image_pdf\"<\/a>\"image_print\"<\/a><\/div>
<\/div>