Standards zu Risiken von KI und autonomen Systemen
AI and autonomous systems are being deployed into decisions about credit, health, infrastructure and security faster than their failure modes are understood, and general-purpose models create common dependencies across sectors. This area of the Digital, Cyber and AI programme sets records for model documentation, evaluations, incidents and deployment contexts, crosswalked to AI governance frameworks, so that risk claims about AI systems rest on documented evidence. Each artefact of the area carries a UNI (Unique Nexus Identifier).
- Nexus Standards: NS-0, NS-10, NS-11, NS-12.
- Offene Standards: AI Risk Management Framework (AI RMF 1.0); OECD AI Principles; Verordnung (EU) 2024/1689 (KI-Verordnung); PROV-O: The PROV Ontology; Verifiable Credentials Data Model v2.0.
- Daten und Feeds: OSV-Datenbank für Schwachstellen in Open-Source-Software; Datensätze von Our World in Data.
- Verknüpft mit: Cyber und Digitales; Informationsintegrität und Vertrauen; Frontier-Technologien; Finanzstabilität und Aufsichtsrisiko.
Zusammenfassung
- 01GeltungsbereichGeltungsbereich und Abgrenzungen
- 02GefahrenkaskadenKaskadierende und zusammentreffende Gefahrenpfade
- 03Gefahren und SektorenBetroffene Gefahren, Bedrohungen und Sektoren
- 04SystemmodellWie sich ein Schock durch dieses System ausbreitet
- 05DatenquellenDatenquellen
- 06Systemische KopplungenSystemische Kopplungen
- 07Offene StandardsReferenzierte offene Standards
- 08Eingeschränkte StandardsEingeschränkte Kompatibilitätsprofile
- Nexus Standards
- 4
- NS-0, NS-10, NS-11
- Offene Standards
- 5
- genannt, nie kopiert
- Daten und Feeds
- 2
- zur Referenz aufgeführt
- Kopplungen
- 4
- mit anderen Bereichen
- UNI
- angefordert · Vergabe läuft
- Status
- Vorgeschlagenim Katalog · geplant · Geltungsbereich LAB
- Zuletzt geprüft
- Bereichsprofil
Nexus Standards (2026). Standards für Risiken durch KI und autonome Systeme: Bereichsübersicht, Programm Digital, Cyber und KI. Vorgeschlagen. https://nexustandards.com/digital-ai/ai-and-autonomous-systems-risk-standards/. Zuletzt geprüft am 17. Oktober 2026.
Die Dateien enthalten die Quellenangaben und die Lizenzerklärung und werden im Browser erzeugt; es werden keine Daten übertragen. Downloads erfordern JavaScript.
Geltungsbereich und Abgrenzungen
Ein Bereich des Programms Digitales, Cyber und KI (Gefahren- und Bedrohungsfamilien). Das Bereichsprofil legt 5 Gegenstände im Geltungsbereich und 3 von anderen Bereichen behandelte Gegenstände dar.
Im Geltungsbereich 5
- Datensätze zur Dokumentation von Modellen und Datensätzen (Modellkarten, Datenblätter)
- Datensätze zu Evaluierungs- und Red-Team-Ergebnissen mit Methode
- Datensätze zu KI-Vorfällen
- Datensätze zu Einsatzkontexten und Risikostufen (NS-9)
- Maschinenlesbare KI-Pflichten (NS-10)
Außerhalb des Geltungsbereichs 3
- Techniken des Modelltrainings
- Freigabe von Details, die gefährliche Verwendungen erleichtern
- Produktempfehlungen
Rechtsräume Die Anwendung in jeder Rechtsordnung ist eine nationale Entscheidung, die der Nationale Standardrat (NSC) mit den zuständigen nationalen Behörden trifft.
Kaskadierende und zusammentreffende Gefahrenpfade
Jede für diesen Kontext genannte Gefahr, eingestuft nach dem Nexus Hazard Standard (NHS-1), mit den Gefahren, die sie auslöst, verstärkt oder mit denen sie sich überlagert, der Konfidenz jeder Beziehung, dem physischen oder sozialen Mechanismus und dem nächsten Schritt der Kaskade.
Die interaktive Ansicht erfordert JavaScript; die folgenden Abschnitte stellen dieselben Datensätze dar.
Von der Erkennung zur Evidenz
An observation from OSV open source vulnerability database becomes an identified hazard event; a forecast and a warning cite the same event and version; a trigger written as a clause starts anticipatory action for model failure and bias; response and losses are recorded; evidence reaches SDG 9.5.1 and the areas coupled to this one. 9 operations in 5 phases, built from the area profile: the rows carry its own data sources, indicators, open standards, couplings and, where listed, hazards, and each operation names the rules it implements (13). Records and artefacts are cited by UNI (Unique Nexus Identifier) and version.
Prozess-Explorer · Standards · kodifizieren und korrigieren
Lebenszyklus eines Standards
17 Schritte·6 Stufen
Standards · kodifizieren und korrigieren
Lebenszyklus eines Standards
Lebenszyklus eines Standards · NS-13-Verfahren · Beitragskanäle · IETF-Verfahren · W3C-Verfahren · OGC-Verfahren · OASIS-Verfahren · ISO- und IEC-Stufen · Konformität · Lebenszyklus eines Datensatzes · Weiterleitung · Überwachung.
Ergebnisse des Zyklus werden zu Änderungsvorschlägen, der Global Standards Council nimmt sie nach einem öffentlichen Last Call an, und jedes Land entscheidet über seine eigene Übernahme.
01 Missionen zuordnen
- 01Route missions to standards and profilesStep · Nexus StandardsNexus Standards routes each candidate mission to the standards and profiles that apply.
02 Profile und Konformität
- 02Missionsprofile zusammenstellenSchritt · Nexus StandardsNexus Standards stellt Missionsprofile zusammen und dokumentiert jede nationale Annahme, von der die Missionen abhängen.
- 03Aufbauergebnisse gegen die Profile validierenSchritt · Nexus StandardsNexus Standards validiert Build-Ergebnisse anhand der zusammengesetzten Profile und erfasst die Evidenz.
- 04Konformität überwachen und versiegelte Evidenz dokumentierenSchritt · Nexus StandardsWährend der Action Week überwacht Nexus Standards die Konformität und protokolliert Abweichungen.
03 Vorschläge und Prüfung
- 05Abweichungen und Berichtigungen werden zu ÄnderungsvorschlägenSchritt · Nexus StandardsAbweichungen werden zu Änderungsvorschlägen, und die Berichtigung wird als Änderung der Evidenz dokumentiert.
- 06Befunde des Zyklus werden zu ÄnderungsvorschlägenSchritt · Nexus StandardsBefunde eines Zyklus werden zu Änderungsvorschlägen: Methoden- und Korrekturbefunde aus Berichte (F06) und Tagesordnungspunkte aus Nexus…
- 07Offen entwerfen und überarbeitenSchritt · Komitees und ArbeitsgruppenTechnische Komitees und Arbeitsgruppen entwerfen und überarbeiten die Standards im offenen Verfahren nach NS-13.
- 08Prüfung bis zur RatsentscheidungSchritt · Nexus StandardsNexus Standards führt Änderungsvorschläge durch die Prüfung bis zu einer Ratsentscheidung.
04 Entscheidung des Rates
- 09Öffentliche letzte Aufforderung zur StellungnahmeSchritt · Global Standards CouncilDer Global Standards Council nimmt nach einem neunzigtägigen letzten Aufruf mit Zweidrittelmehrheit an.
- 10Globale Verabschiedung eines StandardsEntscheidung · Globaler StandardisierungsratDer Global Standards Council entscheidet nach dem öffentlichen Last Call über die Annahme jedes Standards.
05 Veröffentlichen und identifizieren
- 11UNI vergeben und veröffentlichenSchritt · Sekretariat (GCRI Canada)Nexus Standards vergibt UNIs und hinterlegt Veröffentlichungen nach dem Verfahren des Herausgebers.
- 12Eine UNI identifiziert und zertifiziert nieAufzeichnung · Nexus StandardsJedes Objekt des Programmjahres trägt eine Kennung, eine UNI nach NS-1, damit es zitiert, versioniert und aufgelöst werden kann.
- 13Die im Jahr angenommenen Änderungen veröffentlichenSchritt · Nexus StandardsBei der Erneuerung veröffentlicht Nexus Standards die im Jahr angenommenen Änderungen und den Stand der nationalen Übernahme.
06 Nationale Annahme und Anwendung
- 14Nationale Annahme durch den National Standards CouncilEntscheidung · Nationaler StandardisierungsratDer National Standards Council jedes Landes entscheidet über die nationale Übernahme: unverändert übernehmen, mit einem Profil übernehmen (NS-16), anpassen oder nur darauf verweisen.
- 15Übernommene Standards gelangen in Kurse und AusgabenSchritt · Nexus StandardsJeder übernommene Standard oder jedes Profil wird zu einem Kursmodul in Risk Academy (F09), und Standards werden in den Ausgaben der Berichte angewandt (R1).
- 16Adoption is final for each jurisdictionStandard · National Standards CouncilAdoption is final for each jurisdiction, and the GSC has no veto over a national decision. No global body holds a veto.
- 17Nationale ÜbernahmeaufzeichnungenAufzeichnung · Nexus StandardsZusammengesetzte Missionsprofile und nationale Übernahmenachweise gehen bei der Bereitschaftsvorbereitung (F08) an die Foundry.
Nexus Standards · Nexus Standards (institution) · National Standards CouncilAn outline of the designed programme cycle, not a record of operation: no cycle has run and every programme is at service level R0. Every Nexus Standard is at the PROPOSED stage and nexustandards.com governs the text and status of each one. A UNI identifies and never certifies; a validator report is evidence for review, not a conformance claim.
Die Operationen als Tabelle
| Schritt | Phase | Betrieb | Wer | Entscheidungsregel | Datensatz | Setzt um |
|---|---|---|---|---|---|---|
| 01 | Erkennung | Beobachten (Beginn). Die Beobachtung wird mit den Metadaten ihrer Station oder ihres Sensors und der Quellveröffentlichung erfasst. Datenquellen dieses Bereichs: Open-Source-Schwachstellendatenbank OSV und Datensätze von Our World in Data. | der Anbieter der Beobachtung | jede Beobachtung ist ein Datensatz mit ihrer Quellveröffentlichung und Version | Beobachtungsdatensätze aus der OSV-Datenbank für Open-Source-Schwachstellen, jeweils mit einer Datensatz-UNI (NS-3) | NS1-R2, NS2-R1 |
| 02 | Erkennung | Gefahrenereignis (Datensatz). Das Ereignis erhält einen Identifikator, den Vorhersagen, Warnungen, Auslöser und Verluste zitieren, sodass jedes auf dasselbe Ereignis zurückgeführt werden kann. Gefahren im Geltungsbereich: Modellversagen und Verzerrung, Missbrauch von KI mit allgemeinem Verwendungszweck, Verlust menschlicher Aufsicht, KI-gestützte Cyberangriffe und korreliertes Versagen durch gemeinsam genutzte Modelle. | der zuständige Gefahrendienst | eine Ereigniskennung, auf die jede Vorhersage, Warnung und jeder Verlustdatensatz verweist | ein Gefahrenereignisdatensatz für Modellversagen und Verzerrung, klassifiziert nach den Gefahreninformationsprofilen | NS1-R1 |
| 03 | Vorhersage und Warnung | Vorhersage (Modell). Ensemble-Vorhersagen enthalten Vorlaufzeit und Verifikationsstatistiken, die bestimmen, wie zuverlässig ein Auslöser sein kann. | das Vorhersagezentrum | eine Vorhersage zitiert das Ereignis und ihre eigene Version; Verifikationsstatistiken werden erfasst | ein Vorhersagedatensatz aus den Datensätzen von Our World in Data mit Vorlaufzeit und Version | NS2-R2, NS12-R2 |
| 04 | Vorhersage und Warnung | Warnung (Datensatz). Die Warnung wird von der nach nationalem Recht benannten Behörde herausgegeben und trägt die Kennungen des Ereignisses und der Vorhersage, auf denen sie beruht. | die benannte Warnbehörde | die Warnung zitiert die Ereigniskennung und die Version der Vorhersage | eine wirkungsbasierte Warnung im Common Alerting Protocol | NS2-R1 |
| 05 | vorausschauendes Handeln | Auslöserklausel (Gate). Schwellenwert, Vorlaufzeit und Vorhersagequelle werden im Voraus festgelegt; eine Auswertung mit fehlenden Eingaben ist unbestimmt und niemals ein Auslöser. | die Partner des vorausschauenden Handelns, im Rahmen eines vorab vereinbarten Protokolls | Der Auslöser ist eine Klausel, deren Prädikat Daten sind; zwei Auswerter gelangen zum selben Ergebnis | ein als Klausel formulierter Auslöser (NS-10) für Modellversagen und Verzerrung | NS10-R1, NS10-R3, NS11-R3 |
| 06 | vorausschauendes Handeln | Frühzeitiges Handeln (Schritt). Im Voraus vereinbarte Maßnahmen werden vor dem Höhepunkt der Auswirkungen ergriffen. Betroffene Sektoren: Digitales, Telekommunikation und Plattformen, Finanzen, Versicherung und Kapitalmärkte, Gesundheitssysteme sowie öffentlicher Sektor und Verwaltung. | öffentliche Stellen und humanitäre Partner | Mittel und Maßnahmen werden beim bestätigten Auslöser freigegeben | im Voraus vereinbarte Maßnahmen freigegeben, mit der Bestätigung des Auslösers | NS11-R1 |
| 07 | Reaktion | Reaktion und Schaden (Datensatz). Schäden und Verluste werden zum Ereignis erfasst, sodass Warnungen, Maßnahmen und Auswirkungen verglichen werden können. | die nationale Katastrophenschutzbehörde | Schäden zitieren die Ereigniskennung | Wirkungs- und Verlustaufzeichnungen, aufgeschlüsselt nach den Anforderungen der Berichterstattung | NS2-R4 |
| 08 | Evidenz | Bericht 9.5.1 (Ende). Die Berichterstattung stützt sich auf die erfassten Ereignisse, Warnungen und Verluste. Indikatoren dieses Bereichs: SDG 9.5.1 (Ausgaben für Forschung und Entwicklung als Anteil am BIP). | die nationale Berichtskontaktstelle | der Indikator wird aus Datensätzen berechnet und zitiert sie | SDG 9.5.1 (Ausgaben für Forschung und Entwicklung als Anteil am BIP) | NS11-R5, NS14-R1 |
| 09 | Evidenz | Gekoppelte Bereiche (Ende). Gemeinsamer Treiber: KI-Systeme schaffen neue Angriffsflächen und werden eingesetzt, um Angriffe zu skalieren. Gekoppelte Bereiche: Standards für Cyber- und digitale Risiken, Informationsintegrität und Vertrauen, Standards für Risiken durch Spitzentechnologien sowie Finanzstabilität und Aufsichtsrisiko. | die Programme der gekoppelten Bereiche | gemeinsame Ereignisse werden zitiert, niemals kopiert | Datensätze, die mit den Standards zu Cyber- und digitalen Risiken geteilt werden | NS0-P9 |
Table.Operations in walking order; each row names the phase, the operation, its actor, its decision rule, the record it leaves and the rule identifiers it implements. The table shows the process as specified; it does not report the status of any standard, proposal or record. Sources: AI Risk Management Framework (AI RMF 1.0) · OECD AI Principles · NS-0: Constitution and principles · NS-10: Policies and clauses.
Betroffene Gefahren, Bedrohungen und Sektoren
Gefahren und Bedrohungen 5
Sektoren 4
Wie sich ein Schock durch dieses System ausbreitet
A system model of this area built from the registry: 11 hazards, 5 systems, 4 sectors, 10 controls, 2 feeds, 1 indicator. Select the components to include, choose an initiating hazard and run the scenario. Stress propagates through the hazard relations of the Nexus Hazard Standard (NHS-1), the exposure of each system, the recorded couplings and the sectors that carry the loss; adopted standards dampen transmission and live data sources support detection. All parameters are stated assumptions that the reader can adjust; results are illustrative scenario outputs for exercises and training, not forecasts or risk assessments. The Map view places the same run on an example geography, North America, the region of the programme’s context map, with open data: country boundaries, a grid of hexagonal cells and NASA satellite layers for the initiating hazard. The geography serves exercises and training and is not an assessment of that place.
Gefahren
- Dammbruch
- Meereisverlust
- Küstenerosion (stromabwärts ausgelöst)
- Flusshochwasser (nachgelagert ausgelöst)
- Sturzflut (flussabwärts ausgelöst)
- Massenvertreibung (stromabwärts ausgelöst)
- Biodiversitätsverlust (nachgelagert ausgelöst)
- Großflächiger Stromausfall (stromabwärts ausgelöst)
- Wasserversorgungsengpass (nachgelagert ausgelöst)
- Zusammenbruch des arktischen Winter-Meereises (stromabwärts ausgelöst)
- Störung des Polarwirbels (nachgelagert ausgelöst)
Systeme und Kopplungen
- Standards zu Risiken von KI und autonomen Systemen
- Standards für Cyber- und Digitalrisiken Gemeinsamer Treiber
- Informationsintegrität und Vertrauen Kaskade
- Risikostandards für Spitzentechnologien Rückkopplung
- Finanzstabilität und aufsichtsrechtliches Risiko Gemeinsamer Treiber
Steuerung
NS-0Verfassung und GrundsätzeNS-10Richtlinien und Klauseln (maschinenlesbare Verpflichtungen: Definition, Bindung, Evaluierung und Durchsetzung)NS-11Verifizierung und Überwachung (Evidenz, Attestierungen, Zero-Trust-Beobachtung der Konformität)NS-12Software-, Modell- und KI/ML-Artefakte (Lieferkette, Modellkarten, Datenblätter)NRS-H100Gefahrenfamilie: Robotik, Autonomie und autonome Waffen (NHS-1 tech.autonomy-weapons)NRS-H53Gefahrenfamilie: cyber-physische Störungen (NHS-1 cyber.cyber-physical)NRS-H61Gefahrenfamilie: kaskadierender Ausfall (NHS-1 sys.cascade)NRS-H113Gefahrenfamilie: Fragilität des Finanzsystems (NHS-1 soc.financial-system)NRS-A8KI-taugliche Risikodaten und ModellpaketeNRS-H54Gefahrenfamilie: Signal- und Plattformstörung (NHS-1 cyber.platform)
Beobachtung
- OSV-Open-Source-Schwachstellendatenbank (zur Referenz aufgeführt)
- Datensätze von Our World in Data (zur Referenz aufgeführt)
- Ausgaben für Forschung und Entwicklung als Anteil am BIP
Beispielgeografie
- Nordamerika: 243 Sechseckzellen
- Nachtlichter heute Nacht, Ausfälle (VIIRS Day/Night Band), NASA GIBS
- Oberflächenwasser durch Wolken, 30 m (Radar OPERA DSWx-S1), NASA GIBS
- Niederschlagsrate, letzte halbe Stunde (IMERG), NASA GIBS
- Warnungen zu Vegetationsstörungen, 30 m (OPERA DIST-ALERT), NASA GIBS
Datenquellen
2 im Bereichsprofil genannte Datenquellen, jeweils mit Anbieter, Lizenz, Aktualisierungshäufigkeit und Bereitstellungsweg.
Datenquellen sind zur Referenz aufgeführt; Live-Daten werden angezeigt, sobald die Lizenzprüfung abgeschlossen ist.
- Live
- 0
- nach Abschluss der Lizenzprüfung
- Im Datenregister aufgeführt
- 0
- Lizenzbedingungen erfasst
- Für das Register vorgeschlagen
- 2
- Lizenzbedingungen noch zu erfassen
- Durchführung
- 0 gesteuerter Dienst · 0 Plugin · 0 Browser · 1 Snapshot · 1 zur Referenz aufgeführt
- vorgeschlagene Wege in der Reihenfolge der Präferenz: gesteuerter Datendienst, Plugin, direkter Abruf im Browser, Snapshot zur Build-Zeit; Quellen, deren Bedingungen keine Weiterverwendung erlauben, werden nur zur Referenz aufgeführt
Open-Source-Schwachstellendatenbank OSVzur Referenz
OSV-Projekt (Google, OpenSSF) · kontinuierlich
Lizenzen je Quelle; OSV-Schema CC BY 4.0
zur Referenz aufgeführtfür das Datenregister vorgeschlagen.
Datensätze von Our World in Datazur Referenz
Global Change Data Lab (Our World in Data) · varies.
CC BY 4.0 for OWID-produced data; third-party data keep their licences.
Momentaufnahme zum Build-Zeitpunktfür das Datenregister vorgeschlagen
Systemische Kopplungen
4 Kopplungen verbinden diesen Bereich mit anderen Bereichen und Programmen, jeweils mit dem Mechanismus der Verbindung.
- Standards für Cyber- und DigitalrisikenDigital, Cyber und KIGemeinsamer Treiber: KI- systeme eröffnen neue Angriffsflächen und werden eingesetzt, um Angriffe zu skalieren.
- Informationsintegrität und VertrauenGovernance, Sicherheit und GesellschaftKaskade: Generative KI senkt die Kosten synthetischer Desinformation.
- Risikostandards für SpitzentechnologienDigital, Cyber und KIRückkopplung: KI beschleunigt andere Frontier-Technologien, darunter die Biotechnologie.
- Finanzstabilität und aufsichtsrechtliches RisikoFinanzen, Versicherung und WirtschaftGemeinsamer Treiber: Gemeinsame Modelle und Daten können Herdenverhalten und korrelierte Ausfälle hervorrufen.
Referenzierte offene Standards
5 offene Standards, jeweils mit ihrer Beziehung, wie sie nach NS-14 im Register erfasst ist. Bewegen Sie den Zeiger auf eine Beziehung oder fokussieren Sie sie, um ihre Definition anzuzeigen.
übernehmen2
PROV-O: The PROV OntologyW3Clisted in the register · w3c-prov-oVerifiable Credentials Data Model v2.0W3Clisted in the register · w3c-verifiable-credentials-2Eingeschränkte Kompatibilitätsprofile
2 Standards, deren Text nicht frei verfügbar ist, werden nur genannt und verlinkt. Jedes Kompatibilitätsprofil bleibt auf geschützten Seiten, bis eine Vereinbarung mit der herausgebenden Stelle besteht.
- ISO/IEC 42001:2023 Artificial intelligence – Management systemISO/IEC JTC 1/SC 42compatibility profile (restricted)
- ISO/IEC 23894:2023 Artificial intelligence – Guidance on risk managementISO/IEC JTC 1/SC 42compatibility profile (restricted)
Indikatoren
Das Bereichsprofil nennt 1 Indikator, jeweils mit seinem Rahmenwerk und Code.
Namen und Codes der Indikatoren werden so angegeben, wie ihre Sachwalter sie veröffentlichen.
Geltende Standards
The area profile lists 4 Nexus Standards; the registry lists NS-0, NS-3, NS-9, NS-11, NS-12 for this area. Each is a proposed standard under development.
- 01
NS-0 · Verfassung und Grundsätze
Status: proposed · 12 requirements stated. Read NS-0 · Requirements for this area.
- 02
NS-10 · Policies and clauses (machine-readable obligations: definition, binding, evaluation and enforcement)
Status: proposed · 7 requirements stated. Read NS-10 · Requirements for this area.
- 03
NS-11 · Verifizierung und Überwachung (Evidenz, Bestätigungen, Beobachtung der Zero-Trust-Konformität)
Status: proposed · 6 requirements stated. Read NS-11 · Requirements for this area.
- 04
NS-12 · Software, model and AI/ML artefacts (supply chain, model cards, dataset sheets)
Status: proposed · 4 requirements stated. Read NS-12 · Requirements for this area.
Werkzeuge für Routing, Überwachung und Verifizierung
Verifizierungskonsole
Testsuiten, Konformitätserklärungen und Bescheinigungen für jeden Standard, wie im Register erfasst.
GeplantEinsatz
Referenzimplementierungen und eine Sandbox mit durchgearbeiteten Beispielen.
In BearbeitungÜberwachungskonsole
Versions- und Quellenstatus für jeden Standard, wie von den herausgebenden Stellen veröffentlicht.
Jede Konsole rechnet auf Grundlage der Registry und legt ihre Begründung dar; Entscheidungen verbleiben bei den zuständigen Stellen.
Satzung der Arbeitsgruppe
Eine vorgeschlagene Charta für diesen Bereich, offen für Institutionen und Fachleute.
Datensätze zu Modellen, Evaluierungen, Vorfällen und Einsatzkontexten, abgeglichen mit Rahmenwerken der KI-Governance.
Institutionen sowie Expertinnen und Experten sind eingeladen, diese Arbeitsgruppe nach NS-13 durch Einreichen eines öffentlichen Änderungsdatensatzeszu gründen. Nationale Arbeitsgruppen (NWG) steuern nationale Beiträge und Feldübungen über ihr Nationalen Nexus Consortium (NNC) bei.
- Profil für KI-Evaluierungsdatensätze
- Schema für Datensätze zu KI-Vorfällen
- Crosswalk der Pflichten zu den Funktionen des AI RMF und den Risikostufen der KI-Verordnung der EU (nur Verweise)
- NIST AI Safety Institute Consortium liaison sought
- OECD.AI Network of Experts liaison sought
- MLCommons liaison sought
- Partnership on AI liaison sought
Pfade für Evidenz, Anerkennung und Kapital
Was jede Institution des Ökosystems aus diesem Bereich bezieht: das Global Centre for Risk and Innovation (GCRI Canada) als Sekretariat für Evidenz; das Global Risks Forum (GRF) für Anerkennung; und die Global Risks Alliance (GRA) für Kapital.
GCRI Canada
GCRI Canada kann Evaluierungs- und Vorfallsdatensätze mit Methode, Version und evaluierender Stelle als Forschungsevidenz annehmen; die Entscheidung liegt bei GCRI Canada nach seinen eigenen Evidenz- und Forschungsregeln.
Das Global Risks Forum (GRF)
Das GRF kann Organisationen, die Modelldokumentation im gemeinsamen Profil veröffentlichen, als Dialogpunkt erfassen; die Entscheidung liegt beim GRF nach seinen eigenen Anerkennungsregeln.
Die Global Risks Alliance (GRA)
Die GRA kann Datensätze zu KI-Risikostufen und Evaluierungen lesen, wenn sie KI-abhängige Investitionen prüft; die Entscheidung liegt bei der GRA nach ihren eigenen Regeln zur Kapitalreife.
Jede Institution bestimmt nach ihren eigenen Regeln, was sie als Evidenz akzeptiert; eine Auswertung des Pfades ist weder eine Genehmigung noch eine Anlageberatung.
Offene Forschungsfragen
3 Fragen wurden als Prioritäten für die Arbeitsgruppe identifiziert.
- Evaluierungen von Modellen mit allgemeinem Verwendungszweck sind nicht standardisiert und lassen sich manipulieren.
- Es gibt keine gemeinsame globale Taxonomie für KI-Vorfälle.
- Systemisches Risiko aus der Konzentration von Modellen wird nicht gemessen.
Vorgesehene Nutzer
Das Bereichsprofil bestimmt 4 Nutzergemeinschaften.
- KI-Entwickler und Evaluierende
- Teams für KI-Governance und Gewährleistung
- Aufsichtsbehörden
- Forschende im Bereich KI-Sicherheit
Registry-Eintrag und Vertiefungsseiten
Dieser Bereich ist im Katalog verzeichnet (Status: geplant; Umfang LAB; 4 Crosswalk-Domänen). Er hat fünf Vertiefungsseiten und einen Register-Crosswalk seiner Domänen.
Geltende Standards
Die Regeln jedes aufgeführten Standards, gelesen über den Spezifikationsleser.
Tiefe · AbgleichAbgleich
Every register entry in the area’s domains, by relation, with the crosswalk graph.
Vertiefung · Datensätze und SchemataDatensätze und Schemata
Geltungsbereich, Datensatz, Schema-Explorer und wie eine UNI aufgelöst wird.
Vertiefung · KonformitätKonformität
Klauseln, Evidenz und Bescheinigungen für die Konformitätsbewertung.
Vertiefung · BereitschaftBereitschaft
Der Bereich neben den drei Pfaden, als Matrix.
Der Crosswalk als Tabelle: 47 externe Standards nach Domäne
Nexus Standards im Graphen: NS-0, NS-3, NS-9, NS-11, NS-12. Eine Beziehung ist ein Registereintrag, niemals eine Konformitätsbehauptung.
5 Nexus Standards · 4 Domänen · 47 externe Standards · 23 herausgebende Stellen · 0 implementierende Repositorien. Die Beziehungen (übernehmen, profilieren, abgleichen, zitieren) sind wie im Register erfasst; Namen und Standards verbleiben bei ihren Sachwaltern.
Crosswalk graph79 nodes and 114 links from the registry of external standards, programme areas and implementations (the external standards register, the consumers register. Relations (adopt, profile, crosswalk, cite) are shown as recorded in the register.
Areas carry no geography of their own; the map shows where the bodies that issue the area’s external standards are based.
Herausgebende Stellen und ihre Sitze (16)
| Gremium | Sitz | Registereinträge |
|---|---|---|
| NIST | Gaithersburg, Maryland, Vereinigte Staaten | 10 |
| ISO/IEC JTC 1/SC 42 | Genf, Schweiz | 6 |
| Europäisches Parlament und Rat | Brüssel, Belgien | 4 |
| ISO/IEC JTC 1/SC 27 | Genf, Schweiz | 4 |
| IEEE Standards Association | Piscataway, New Jersey, Vereinigte Staaten | 3 |
| OASIS Cyber Threat Intelligence TC | Woburn, Massachusetts, Vereinigte Staaten | 2 |
| Agentic AI Foundation (Linux Foundation) | San Francisco, Kalifornien, Vereinigte Staaten | 1 |
| CEN-CENELEC JTC 21 | Brüssel, Belgien | 1 |
| FIRST CVSS Special Interest Group | Cary, North Carolina, Vereinigte Staaten | 1 |
| IETF | Wilmington, Delaware, Vereinigte Staaten | 1 |
| ISO/IEC JTC 1/SC 7 | Genf, Schweiz | 1 |
| ISO/TC 292 | Genf, Schweiz | 1 |
| OASIS CSAF TC | Woburn, Massachusetts, Vereinigte Staaten | 1 |
| OpenSSF (Linux Foundation) | San Francisco, Kalifornien, Vereinigte Staaten | 1 |
| OpenVEX-Gemeinschaft (Projekt der OpenSSF) | San Francisco, Kalifornien, Vereinigte Staaten | 1 |
| UN Office of the Secretary-General’s Envoy on Technology and UNDP | New York, New York, Vereinigte Staaten | 1 |
Issuing bodies are shown at the city of their public seat. The 1 programmes, 0 implementing repositories and 19 Nexus Standards have no location and are not mapped · 7 issuing bodies have no single public seat and are listed without a location: Mitchell et al. (FAT* 2019); World Customs Organization; OECD; UNESCO; United Nations; International Atomic Energy Agency; and others.
Standards-Globus16 herausgebende Stellen mit öffentlichem Sitz und 47 Registereinträge, dargestellt in flächentreuen Zellen auf vier Detailebenen. Die Sitze werden an Stadtkoordinaten platziert; Programmbereiche, Implementierungen und Standards haben keinen Standort und werden nicht dargestellt. Wo Skripte nicht verfügbar sind, wird eine statische Weltkarte angezeigt.
Quellen
4 references from peer-reviewed and official publications cited in the area profile, linked at the publishers’ own sites.
peer-reviewedManaging extreme AI risks amid rapid progressScience · 2024peer-reviewedDatasheets for datasetsCommunications of the ACM · 2021peer-reviewedModel Cards for Model ReportingProceedings of the Conference on Fairness, Accountability, and Transparency (ACM) · 2019- officialInternational AI Safety Report 2025UK Department for Science, Innovation and Technology (for the report’s expert advisory panel) · 2025
Aktuelle Forschung zu diesem Bereich
Aktuelle begutachtete Artikel, Preprints, Datensätze und Berichte zum Thema dieses Bereichs, zum Zeitpunkt des Lesens aus offenen wissenschaftlichen Metadatendiensten (OpenAlex, Crossref, DataCite, Zenodo, arXiv, Europe PMC, OpenAIRE Graph) mit aus dem Registry gebildeten Suchbegriffen abgerufen. Jedes Werk wird mit Autoren, Publikationsort, Jahr, Typ, Open-Access-Status und Lizenz aufgeführt und verlinkt auf seine DOI oder Landingpage. Quellen, die auf dieser Website noch nicht für die Live-Anzeige freigeschaltet sind, werden zur Referenz aufgeführt und nicht abgefragt.
SuchbegriffeKI-Sicherheit; KI-Risiko; KI-Risiken; KI-Vorfälle; KI-Schäden; Frontier-KI; KI mit allgemeinem Verwendungszweck; KI-Missbrauch; KI-Unfälle; autonome Waffen; AI Risk Management Framework; KI-Grundsätze der OECDAbgeleitet aus dem Titel des Bereichs und den Gefahren in seinem Profil, den darin genannten NHS-1-Gefahren und den aufgeführten offenen Standards.
- OpenAlexlisted for reference; not queried
- Crossreflisted for reference; not queried
- DataCitelisted for reference; not queried
- Zenodolisted for reference; not queried
arXivzur Referenz aufgeführt; nicht abgefragt- Europe PMClisted for reference; not queried
- OpenAIRE Graphlisted for reference; not queried
Auf dieser Website ist derzeit keine Quelle für die Live-Anzeige aktiviert: Die Quellen sind zur Orientierung aufgeführt, keine wird abgefragt. Sobald die maßgebliche herausgebende Stelle eine Quelle nach Prüfung ihrer Bedingungen aktiviert, werden hier aktuelle Arbeiten aufgelistet. Nur Metadaten und Links: Titel, Autoren, Publikationsorgan, Jahr, Typ, Open-Access-Status und Lizenz, wie jede Quelle sie erfasst; die Arbeiten werden zur Orientierung aufgeführt, nicht geprüft oder empfohlen.
Kurse und Fachgebiete der Risk Academy
2 Kurse und 4 Fachgebiete der Risk Academy (risksacademy.com), die das Wissen und die Methoden dieses Bereichs vermitteln. Jeder Kurs nennt seine Stufe, seinen Strang und seine Lernstunden.
Kurse
Disziplinen
Die Zuordnung zwischen Kursen, Fachgebieten und den Nexus Standards wird mit der Risk Academy geführt und unterliegt deren akademischer Prüfung.
Programme, Tracks und Kurse für diesen Bereich
GCRI Canada, The Global Risks Forum (GRF), The Global Risks Alliance (GRA) und Risk Academy arbeiten in unterschiedlichen Rollen zum Gegenstand dieses Bereichs (Forschung und Evidenz; Governance, Politik und Zusammenführung; Kapital, Finanzen und Märkte; Bildung und Ausbildung). Jeder Eintrag gibt an, warum er dem Bereich entspricht und welchen Schritt er anbietet; jede Institution legt ihre eigenen Teilnahmebedingungen fest.
Forschung und Evidenz
GCRI Canada
Forschungsprogramme, die die Beobachtungen, Modelle und Bewertungen hervorbringen, die diese Datensätze beschreiben.
Künstliche Intelligenz und autonome SystemeUntersucht die Evaluierung von Modellen, agentische Systeme und autonome physische Systeme.Für dieses Programm bewerben therisk.globalAll programmes of GCRI CanadaGovernance, Politik und Zusammenkünfte
Das Global Risks Forum (GRF)
Foren, die Behörden, Forschende und Institutionen zur Governance gemeinsamer Risiken zusammenbringen.
KI und digitale GovernanceUntersucht Aufsicht und Rechenschaftspflicht bei KI sowie die Haftung für autonome Agenten.Diesem Strang beitreten globalriskforum.comAll tracks of The Global Risks ForumKapital, Finanzen und Märkte
Die Global Risks Alliance (GRA)
Branchenprogramme, in denen Finanzinstitute ein gemeinsames Verständnis zum Thema „systemisches Risiko“ aufbauen.
KI und finanzielles ModellrisikoArbeitet an der Governance von Modellrisiken und an generativer KI im Finanzwesen.Diesem Programm beitreten globalriskalliance.comAll programmes of The Global Risks AllianceBildung und Weiterbildung
Risk Academy
Kurse und Fachgebiete, die das Wissen und die Methoden vermitteln, die Fachleute zur Anwendung dieser Standards benötigen.
Technologie und DatenRAT-204 · Mittelstufe · 19 LernstundenRisikodaten, KI, digitale Infrastruktur und Technologierisiken verantwortungsvoll handhabenDiesen Kurs belegen Unsicherheit und KonfidenzRAS-404 · Mittelstufe · 29,5 LernstundenKalibrierte Wahrscheinlichkeit, Vertrauenssprache und Entscheidungen unter tiefer UnsicherheitDiesen Kurs belegen Alle Kurse und FachgebieteIm Abschnitt Aus- und Weiterbildung dieser Seite aufgeführtSchlüsselbegriffe
- UNI
- Unique Nexus Identifier: a persistent identifier that resolves an artefact to its record.
- vorgeschlagen
- A draft in the open development process that the Global Standards Council has not yet adopted. Each area profile is a proposal to the Nexus Standards registry.
- Crosswalk
- Beziehung, bei der Klauseln dieser Standards anhand der Klauselnummer Teilen des externen Standards zugeordnet werden, ohne dessen Text wiederzugeben.
- zitieren
- Beziehung, in der der externe Standard per Kennung und URL als Referenz zitiert wird.
- übernehmen
- Relation, in der der externe Standard wie veröffentlicht verwendet wird und Werte anhand dieses Standards validiert werden.
- Kompatibilitätsprofil (eingeschränkt)
- Beziehung zu einem Standard, dessen Text nicht offen verfügbar ist: Der Standard wird nur genannt und verlinkt, und ein etwaiges Kompatibilitätsprofil wird auf geschützten Seiten geführt.
- Änderungsdatensatz
- Ein öffentlicher Datensatz einer vorgeschlagenen Änderung nach NS-13, über die die Editoren mit schriftlicher Begründung entscheiden.
- Bestätigung
- An evaluator’s recorded result for one clause and one subject under NS-11.
- Verbindung gesucht
- Eine Verbindung, die die Arbeitsgruppe bei der herausgebenden Stelle beantragen will; eine Verbindung besteht erst, wenn die Stelle sie schriftlich bestätigt.
Verwandte Bereiche
Aktuelle Forschung und Quellen
Begutachtete Artikel, Preprints, Berichte und Datensätze zum Thema dieses Bereichs, zum Zeitpunkt des Lesens aus offenen wissenschaftlichen Metadatendiensten (OpenAlex und Crossref) abgerufen und mit Autoren, Publikationsort, Jahr, Typ und Zugangsstatus aufgeführt, mit einem Link zu jedem Werk. Kuratierte Literaturangaben und verwandte Standards stehen zuerst; aktuelle, nach Thema zugeordnete Arbeiten folgen und dienen der Orientierung.
Kuratierte Literaturangaben
- Managing extreme AI risks amid rapid progress
Science · 2024 · Peer-reviewed - International AI Safety Report 2025
UK Department for Science, Innovation and Technology (for the report’s expert advisory panel) · 2025 · Official publication - Model Cards for Model Reporting
Proceedings of the Conference on Fairness, Accountability, and Transparency (ACM) · 2019 · Peer-reviewed - Datasheets for datasets
Communications of the ACM · 2021 · Peer-reviewed
Verwandte Standards und Rahmenwerke
- AI Risk Management Framework (AI RMF 1.0)
NIST - KI-Grundsätze der OECD
OECD - Verordnung (EU) 2024/1689 (Gesetz über künstliche Intelligenz)
Europäisches Parlament und Rat - PROV-O: The PROV Ontology
W3C - Verifiable Credentials Data Model v2.0
W3C
Suchbegriffe, abgeleitet aus dem Titel des Bereichs und den Gefahren in seinem Profil: AI safety; AI risk; AI risks; AI incidents; AI harms; frontier AI; general-purpose AI; AI misuse; AI accidents; autonomous weapons. Bei aktiviertem JavaScript werden aktuelle Arbeiten zu diesen Begriffen aus OpenAlex und Crossref aufgeführt.
Fragen und Antworten.
Welchen Status hat der Bereich Risikostandards für KI und autonome Systeme?
Wie werden Datenquellen dargestellt?
Wie kann dieses Briefing geändert werden?
Evidenz von dieser Seite aus beitragen.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
- EmailGateway GW-STDSend it from this pageEvidence, a correction, a case, a method, a review, a translation or profile input. It arrives tagged with this page, so the editor who owns it receives it.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsNexus StandardsSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Zu Risikostandards für KI und autonome Systeme beitragen
Institutions and experts are invited to propose amendments, join the working group or propose data sources. National participation is organised through each country’s National Nexus Consortium (NNC) and its National Working Groups (NWGs); competent national authorities are engaged through official channels.
Status und Nutzung. Die Nexus Standards sind vorgeschlagene Standards, die in einem offenen Verfahren nach NS-13 entwickelt und zur freiwilligen Nutzung veröffentlicht werden; sie stellen keine Zertifizierung, Akkreditierung oder behördliche Genehmigung dar, und die Annahme bleibt eine Entscheidung des Global Standards Council und, in jedem Land, seines National Standards Council. Eine UNI (Unique Nexus Identifier) identifiziert ein Artefakt; sie zertifiziert es nicht. Die Namen von Normungsorganisationen und ihren Standards gehören deren Trägern und werden nur zur Identifizierung der Dokumente verwendet; kein Text eines externen Standards wird hier wiedergegeben. Nexus Standards ist mit keiner hier genannten Normungsorganisation verbunden, wird von keiner unterstützt und ist von keiner zertifiziert.
Lizenzen: CC BY 4.0 für Standardtexte, Register, Schemata und Daten; Apache-2.0 für Referenzcode. Externe Standards werden mit Name, Nummer und Link unter ihren eigenen Lizenzen zitiert. Daten, Bibliotheken und Schriften Dritter behalten ihre eigenen Lizenzen: siehe Hinweise Dritter.