- 코드
NRS-H95- 제목
- 재해 계열: AI 시스템 실패와 정렬 실패(NHS-1 tech.ai-failure)
- 버전
- not yet versioned
- 상태
- 열기
- Date
- circulated 17 October 2026
- Unique Nexus Identifier
- allocated when drafting starts (NS1-R2)
- 위원회
- TC-TEC
- 웨이브
- 3
- 출처
standards/risk/NRS-H95.mdat52ade713b78a
Preparatory working draft, circulated for review and comment. Not for implementation. Prepared and circulated by The Secretariat of the Nexus Standards, Global Centre for Risk and Innovation (GCRI Canada) (the contact form), 17 October 2026. Technical review area: TR-32. This document is not a Nexus Standard; it may change without notice and is not to be implemented, relied upon or cited as a Nexus Standard. Its stage is designated only by the Global Standards Council and its technical committees under NS-13. Recipients are invited to submit comments with supporting reasons, and to notify any patent rights of which they are aware. See the notice of circulation.
- 시리즈
- H
- 재해 계열 표준(NHS-1)
- 상태
- OPEN (카탈로그에 명칭과 사양이 지정되어 있으나 초안은 작성되지 않음)
- 기술위원회
- TC-TEC(기하급수 기술)
- 웨이브
- 3 (기술, 금융, 정책 및 개발)
- 카탈로그 제안
NXS-STD-PC-000005
NHS-1 계열 tech.ai-failure, 즉 AI 시스템 장애와 정렬 실패(misalignment)를 다룹니다: 11개 재해(핵심 서비스의 AI 오작동, 분포 외 모델 실패, 공유 AI 모델의 상관 장애, 조작된 AI 출력에 대한 의존, 명세 게이밍과 보상 해킹, 기만적이거나 전략적으로 정렬이 어긋난 AI, 고도 AI에 대한 인간 통제 상실, AI 자기 복제와 유출, 통제 불능의 재귀적 AI 역량 급증, 예상치 못한 위험 역량의 출현 외 1개), 그 속성과 관계, 그리고 모든 스트림이 이들에 사용하는 데이터, 모델, 임계값, 영향 함수를 정리합니다. 오용하려는 인간의 의도와 무관하게, 일반적인 오작동부터 목표 지향적 이상 행동에 이르기까지 AI 시스템 자체의 행동에서 비롯되는 피해입니다.
인용
NRS-H95, clause 1. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-11. 범위
- 영역:
AISAI와 모델,DRG디지털 및 AI 규제 - Functional system classes: The Global Risks Index (NXS-GRX), NXS-EWS (multi-hazard monitoring and warning), NXS-AAP (anticipatory action and triggers)
- NHS-1 재해군:
tech.ai-failure(영역tech), 11 hazards, 18 relations; contexts critical-infrastructure, global-risks; triggers hazards ininfra.utilities,sys.cascade,tech.ai-agentic
인용
NRS-H95, clause 2. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-22. 부
| 부분 | 제목 |
|---|---|
| NRS-H95-1 | NHS-1 계열 범위, 재해 기록 및 속성 |
| NRS-H95-2 | 촉발, 증폭 및 복합 관계(NHS-1 관계) |
| NRS-H95-3 | 사건, 노출 및 손실 데이터 |
| NRS-H95-4 | 재해 모형, 강도 측정치 및 지도 |
| NRS-H95-5 | 경보 임계값과 예측적 대응 발동 기준 |
| NRS-H95-6 | 영향 및 결과 함수 |
| NRS-H95-7 | 계열이 사용하는 지표(NIS-1) 및 방법(Risk Master) |
인용
NRS-H95, Hazards of the family (NHS-1). NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-hazards-of-the-family-nhs-1해당 계열의 재해(NHS-1)
| NHS-1 ID | 재해 | 발생 | 점유 면적 | 예측 가능성 |
|---|---|---|---|---|
tech.ai-failure.critical-service-ai-malfunction | AI malfunction in a critical service | 신속 | 지역 | 예측 불가능 |
tech.ai-failure.distribution-shift-failure | 분포 이탈 모델 실패 | 점진적 | 국가 | 통계적 |
tech.ai-failure.correlated-model-failure | Correlated failure of shared AI models | 신속 | 지구 | 예측 불가능 |
tech.ai-failure.fabricated-output-reliance | AI가 만들어 낸 허위 출력에 대한 의존 | 점진적 | 국가 | 예측 불가능 |
tech.ai-failure.specification-gaming | 사양 게이밍과 보상 해킹 | 점진적 | 지역 | 예측 불가능 |
tech.ai-failure.deceptive-misalignment | Deceptive or strategically misaligned AI | 점진적 | 지구 | 예측 불가능 |
tech.ai-failure.loss-of-control | 고도화된 AI에 대한 인간 통제력 상실 | 점진적 | 지구 | 예측 불가능 |
tech.ai-failure.self-exfiltration | AI self-replication and exfiltration | 신속 | 지구 | 예측 불가능 |
tech.ai-failure.recursive-self-improvement | Runaway recursive AI capability gain | 점진적 | 지구 | 예측 불가능 |
tech.ai-failure.dangerous-capability-emergence | Unanticipated dangerous capability emergence | 신속 | 지구 | 예측 불가능 |
tech.ai-failure.safeguard-circumvention | AI safeguard circumvention | 신속 | 지구 | 예측 불가능 |
인용
NRS-H95, clause 3. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-33. Nexus 고유 출처
Everything this standard classifies comes from these Nexus authorities; it adds no list of its own.
nhs-1#tech.ai-failureNHS-1 Nexus Hazard Standard (counts in the native register) (itemtech.ai-failure)nhs-1NHS-1 Nexus Hazard Standard (counts in the native register)nis-1#TECNIS-1 Nexus 지표 표준(도메인 20개, 지표 451개, 복합 지표 106개)(항목TEC)
인용
NRS-H95, Crosswalk to external standards. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-crosswalk-to-external-standards외부 표준과의 대응
없음. 이 표준은 전적으로 위의 Nexus 고유 출처로 정의됩니다.
기반: 모든 Nexus Risk Standard는 NS-1(식별자), NS-2(인용), NS-3 및 NS-3b(기록과 메타데이터), NS-10(조항), NS-11(검증), NS-13(절차), NS-14(적합성 및 대응)를 적용합니다.
인용
NRS-H95, clause 4. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-44. 의존 대상
인용
NRS-H95, clause 5. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-55. 적합성
| 적합성 수준 | 조항 | 의미 |
|---|---|---|
| CL-Base | NXOSI 8.4.1.1 | 아티팩트 스키마, 수신 확인 형식 및 상태 의미 체계가 기준 요건을 충족하고, 검증 라이브러리가 일관된 결과를 산출하며, 기본 프로파일 가져오기와 내보내기가 선언된 제약 조건 내에서 작동합니다. |
| CL-Operational | NXOSI 8.4.1.2 | Runtime enforcement points, docketing, control-plane auditability, and clock enforcement are implemented with defined degraded-mode behaviour and traceable artefacts. |
| CL-Assured | NXOSI 8.4.1.3 | 정의된 등급에 대한 증명 우선 요건이 구현되고, 평가 정책이 집행되며, 상태 및 정정 워크플로가 변경 상황에서도 신뢰의 안정성을 입증합니다. |
| CL-Sovereign | NXOSI 8.4.1.4 | 주권 구역 집행, 데이터 내 연산 패턴, 오프라인 검증 번들 및 통제된 공개 워크플로가 감사 대응 가능한 접근 로그와 함께 구현됩니다. |
| CL-Federated | NXOSI 8.4.1.5 | Multi-organisation federation is demonstrated: boundary enforcement, cross-org routing constraints, interoperable ontology exchange, and consistent verification across parties. |
| 근거 품질 수준 | 조항 | 의미 |
|---|---|---|
| EQL-1 | NXOSI 8.4.2.1 | 증거는 공개 가능한 요약이나 정보 제공용 요약, 그리고 위험도가 낮은 신뢰에 적합한 영수증 수준의 산출물로 제한됩니다. |
| EQL-2 | NXOSI 8.4.2.2 | 점검은 재현 가능하고 원격 측정 데이터와 연결되며, 증거는 운영상 시정 조치와 내부 보증에 충분합니다. |
| EQL-3 | NXOSI 8.4.2.3 | 증거 패키지는 통제된 공개 하에서 감사에 의존할 수 있을 만큼 충분한 원시 산출물, 출처 이력 및 연결 정보를 포함합니다. |
| EQL-4 | NXOSI 8.4.2.4 | 고위험 증거에는 측정된 상태 결합과 선언된 입력에 따른 재현 가능한 검증이 포함되어 강한 신뢰를 가능하게 합니다. |
| EQL-5 | NXOSI 8.4.2.5 | 근거는 통제된 공개 워크플로, 엄격한 취급, 적법 근거 매트릭스, 완전한 기록 관리를 통해 감독 당국의 신뢰를 뒷받침합니다. |
Notation: <NRS id>:<conformance level>/<evidence quality level>, for example NRS-N1:CL-Assured/EQL-4. Source: NXOSI part VIII section 8.4, with the NRM evidence quality scale.
요구사항은 식별자와 함께 NRS-C10 라이브러리에 기계 판독 가능한 조항으로 게시됩니다 NRS-H95-<part>-R<n>, 각각 시험 벡터를 갖추어 EQL-2 이상의 CL-Operational을 기계로 점검할 수 있습니다. 적합성 진술은 버전, 부분, 수준 및 증거 품질 수준을 명시합니다. 예: NRS-H95:CL-Assured/EQL-3.
인용
NRS-H95, clause 6. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-66. 초안 작성
작성은 TC-TEC의 업무입니다. 각 부의 규범 본문, 조항과 시험 벡터, 대응 기록, 작업 예시, Academy 모듈(프로그램 골격 인계 F09)을 산출합니다. 글로벌 표준 위원회(Global Standards Council)가 채택하며, 국가 위원회는 6가지 채택 방식 중 하나로 채택하거나 조정합니다. 여기의 어떤 것도 인증이나 준비 상태 주장이 아닙니다.
변경 이력
Versions from the catalogue; entries from the changelog that name this document.
No version is recorded in the catalogue for this document yet.
The changelog records no entry that names NRS-H95.