- コード
NRS-H95- タイトル
- ハザード・ファミリー:AI システムの故障とミスアライメント(NHS-1 tech.ai-failure)
- バージョン
- not yet versioned
- 状況
- 開く
- 日付
- circulated 17 October 2026
- Unique Nexus Identifier
- allocated when drafting starts (NS1-R2)
- 委員会
- TC-TEC
- ウェーブ
- 3
- 出典
standards/risk/NRS-H95.mdat52ade713b78a
Preparatory working draft, circulated for review and comment. Not for implementation. Prepared and circulated by The Secretariat of the Nexus Standards, Global Centre for Risk and Innovation (GCRI Canada) (the contact form), 17 October 2026. Technical review area: TR-32. This document is not a Nexus Standard; it may change without notice and is not to be implemented, relied upon or cited as a Nexus Standard. Its stage is designated only by the Global Standards Council and its technical committees under NS-13. Recipients are invited to submit comments with supporting reasons, and to notify any patent rights of which they are aware. See the notice of circulation.
- シリーズ
- H
- ハザード・ファミリー標準(NHS-1)
- 状況
- OPEN(カタログに名称と仕様を記載済み、草案は未作成)
- 技術委員会
- TC-TEC(指数関数的技術)
- ウェーブ
- 3(技術、金融、政策、開発)
- カタログ提案
NXS-STD-PC-000005
NHS-1 ファミリーの tech.ai-failure、AI システムの障害とミスアラインメントを取り上げます。11 のハザード(重要サービスにおける AI の誤作動, 分布外のモデル障害、共有 AI モデルの相関障害、捏造された AI 出力への依存、仕様ゲーミングと報酬ハッキング、欺瞞的または戦略的にミスアラインした AI、高度な AI に対する人間の制御の喪失、AI の自己複製と持ち出し、AI 能力の暴走的な再帰的向上、予期せぬ危険な能力の出現、ほか 1 件)、その属性と関係、および各ストリームがそれらに用いるデータ、モデル、閾値、影響関数を扱います。通常の誤作動から目標指向の不適切な挙動まで、AI システム自体の挙動から生じる、人間による悪用の意図とは無関係な被害です。
引用する
NRS-H95, clause 1. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-11. 範囲
- 分野:
AISAI とモデル、DRGデジタルと AI の規制 - Functional system classes: The Global Risks Index (NXS-GRX), NXS-EWS (multi-hazard monitoring and warning), NXS-AAP (anticipatory action and triggers)
- NHS-1 ファミリー:
tech.ai-failure(分野tech)、11 件のハザード、18 件の関係;コンテキスト critical-infrastructure、global-risks;次におけるハザードを誘発する:infra.utilities,sys.cascade,tech.ai-agentic
引用する
NRS-H95, clause 2. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-22. 各部
| 部分 | タイトル |
|---|---|
| NRS-H95-1 | NHS-1 ファミリーの範囲、ハザード記録と属性 |
| NRS-H95-2 | 誘因、増幅要因、複合的な関係 (NHS-1 relations) |
| NRS-H95-3 | 事象、エクスポージャー、損失のデータ |
| NRS-H95-4 | ハザードモデル、強度指標、地図 |
| NRS-H95-5 | 警報の閾値と予測に基づく行動のトリガー |
| NRS-H95-6 | 影響・帰結関数 |
| NRS-H95-7 | ファミリーが用いる指標(NIS-1)と方法(Risk Master) |
引用する
NRS-H95, Hazards of the family (NHS-1). NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-hazards-of-the-family-nhs-1このファミリーのハザード(NHS-1)
| NHS-1 ID | ハザード | 発現 | フットプリント | 予測可能性 |
|---|---|---|---|---|
tech.ai-failure.critical-service-ai-malfunction | AI malfunction in a critical service | 迅速 | 地域 | 予測不能 |
tech.ai-failure.distribution-shift-failure | 分布外でのモデルの失敗 | 漸進的 | 国 | 統計的 |
tech.ai-failure.correlated-model-failure | 共有AIモデルの相関障害 | 迅速 | 惑星 | 予測不能 |
tech.ai-failure.fabricated-output-reliance | 捏造された AI 出力への依存 | 漸進的 | 国 | 予測不能 |
tech.ai-failure.specification-gaming | Specification gaming and reward hacking | 漸進的 | 地域 | 予測不能 |
tech.ai-failure.deceptive-misalignment | Deceptive or strategically misaligned AI | 緩慢進行型 | 惑星 | 予測不能 |
tech.ai-failure.loss-of-control | 高度な AI に対する人間の制御の喪失 | 漸進的 | 惑星 | 予測不能 |
tech.ai-failure.self-exfiltration | AI self-replication and exfiltration | 迅速 | 惑星 | 予測不能 |
tech.ai-failure.recursive-self-improvement | AI 能力の暴走的かつ再帰的な向上 | 漸進的 | 惑星 | 予測不能 |
tech.ai-failure.dangerous-capability-emergence | Unanticipated dangerous capability emergence | 迅速 | 惑星 | 予測不能 |
tech.ai-failure.safeguard-circumvention | AI safeguard circumvention | 迅速 | 惑星 | 予測不能 |
引用する
NRS-H95, clause 3. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-33. Nexus 由来の情報源
Everything this standard classifies comes from these Nexus authorities; it adds no list of its own.
nhs-1#tech.ai-failureNHS-1 Nexus Hazard Standard (counts in the native register) (itemtech.ai-failure)nhs-1NHS-1 Nexus Hazard Standard (counts in the native register)nis-1#TECNIS-1 Nexus Indicator Standard(20 分野、451 指標、106 合成指数)(項目TEC)
引用する
NRS-H95, Crosswalk to external standards. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-crosswalk-to-external-standards外部標準との対照
なし。この標準は、上記の Nexus 固有の出典によってのみ定義されます。
基盤:すべての Nexus Risk Standard は、NS-1(識別子)、NS-2(引用)、NS-3 と NS-3b(記録とメタデータ)、NS-10(条項)、NS-11(検証)、NS-13(プロセス)、NS-14(適合性と対応づけ)を適用します。
引用する
NRS-H95, clause 4. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-44. 依存先
引用する
NRS-H95, clause 5. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-55. 適合性
| 適合性の水準 | 条項 | 意味 |
|---|---|---|
| CL-Base | NXOSI 8.4.1.1 | 成果物のスキーマ、受領証の形式、状態の意味論が基本要件を満たし、検証ライブラリが一貫した結果を生み、基本的なプロファイルのインポートとエクスポートが宣言された制約のもとで機能します。 |
| CL-Operational | NXOSI 8.4.1.2 | Runtime enforcement points, docketing, control-plane auditability, and clock enforcement are implemented with defined degraded-mode behaviour and traceable artefacts. |
| CL-Assured | NXOSI 8.4.1.3 | 定められた分類について証明を優先する要件が実装され、評価ポリシーが執行され、状況と訂正のワークフローによって、変化のもとでも依拠の安定性が示されます。 |
| CL-Sovereign | NXOSI 8.4.1.4 | ソブリン・ゾーンの執行、compute-to-data のパターン、オフライン検証バンドル、管理された開示ワークフローが、監査に対応したアクセスログとともに実装されています。 |
| CL-Federated | NXOSI 8.4.1.5 | Multi-organisation federation is demonstrated: boundary enforcement, cross-org routing constraints, interoperable ontology exchange, and consistent verification across parties. |
| エビデンスの品質水準 | 条項 | 意味 |
|---|---|---|
| EQL-1 | NXOSI 8.4.2.1 | エビデンスは、一般公開に適した要約または情報提供のための要約と、低リスクの依拠に適した受領証レベルの成果物に限られます。 |
| EQL-2 | NXOSI 8.4.2.2 | 確認は再現可能でテレメトリに結びつけられており、エビデンスは業務上の是正と内部保証に十分なものです。 |
| EQL-3 | NXOSI 8.4.2.3 | エビデンス・パックには、管理された開示のもとで監査上の依拠に足る十分な生の成果物、来歴、連結が含まれます。 |
| EQL-4 | NXOSI 8.4.2.4 | 高い影響を伴うエビデンスには、測定された状態の拘束と、宣言された入力のもとで再実行可能な検証が含まれ、強固な依拠を可能にします。 |
| EQL-5 | NXOSI 8.4.2.5 | エビデンスは、管理された開示ワークフロー、厳格な取扱い、法的根拠のマトリクス、完全な記録規律を通じて、監督上の依拠を支えます。 |
Notation: <NRS id>:<conformance level>/<evidence quality level>, for example NRS-N1:CL-Assured/EQL-4. Source: NXOSI part VIII section 8.4, with the NRM evidence quality scale.
要件は機械可読な条項として NRS-C10 ライブラリで公開され、次の識別子が付されます NRS-H95-<part>-R<n>、それぞれテストベクトルを伴い、CL-Operational と EQL-2 以上を機械で確認できます。適合性声明は、バージョン、部、水準、エビデンスの品質水準を示します。たとえば NRS-H95:CL-Assured/EQL-3.
引用する
NRS-H95, clause 6. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-66. 起草
起草は TC-TEC の作業です。各部の規範テキスト、条項とテストベクトル、対応づけの記録、作業例、Academy モジュール(プログラム骨格の引き渡し F09)を提供します。グローバル標準評議会が採択し、各国の評議会は 6 つの採択モードのいずれかで採択または適合させます。ここにあるものは、認証でも準備完了の主張でもありません。
変更履歴
Versions from the catalogue; entries from the changelog that name this document.
No version is recorded in the catalogue for this document yet.
The changelog records no entry that names NRS-H95.