Skip to content
표준NRSNRS-H95
NRS-H95

NRS-H95: 재해군: AI 시스템 실패와 정렬 불일치(NHS-1 tech.ai-failure)

Profiles the NHS-1 family tech.ai-failure, ai system failure and misalignment: 11 hazards (ai malfunction in a critical service, out-of-distribution model failure, correlated failure of shared ai models, reliance on fabricated ai output, specification gaming and reward hacking, deceptive or strategically misaligned ai, loss of human control over advanced ai, ai self-replication and exfiltration, runaway recursive ai capability gain, unanticipated dangerous capability emergence and 1 more), their attributes and relations, and the data, models, thresholds and impact functions every stream uses for them. Harms that arise from how AI systems themselves behave, from ordinary malfunction to goal-directed misbehaviour, independent of any human intent to misuse them.

NRS-H95 in its series
NRS-H95 among the 120 standards of NRS-H (in accent), the standards it depends on and those that depend on it, and its crosswalks.Source: the risk standards catalogue.
  • NRS-H95 is standard 95 of 120 in NRS-H.
  • NRS-H95 depends on: NRS-C3, NRS-C7, NRS-T1.
  • 의존하는 항목: 기록 없음.
  • 대응 관계: 기록된 것 없음.
01개요

요약

NRS-H95등록부
  1. 상태열기
  2. VersionNone yet: not drafted
  3. Circulated
  4. 위원회TC-TEC
  5. 웨이브3
  6. Depends onNRS-C3, NRS-C7, NRS-T1
  7. 조항6

Nexus Standards · proposed

입장
95 of 120
NRS-H 내
의존 대상
3
NRS-C3, NRS-C7, NRS-T1
의존하는 대상
0
리스크 표준
대응
0
외부 표준에 대해
02표준

NRS-H95: the standard

The text of NRS-H95 as it stands in the canonical repository (commit 52ade713b78a): 6 clauses, 2 sub-clauses and 0 identified requirements, each with its anchor and citation.

코드
NRS-H95
제목
재해 계열: AI 시스템 실패와 정렬 실패(NHS-1 tech.ai-failure)
버전
not yet versioned
상태
열기
Date
circulated 17 October 2026
Unique Nexus Identifier
allocated when drafting starts (NS1-R2)
위원회
TC-TEC
웨이브
3
출처
standards/risk/NRS-H95.md at 52ade713b78a

Preparatory working draft, circulated for review and comment. Not for implementation. Prepared and circulated by The Secretariat of the Nexus Standards, Global Centre for Risk and Innovation (GCRI Canada) (the contact form), 17 October 2026. Technical review area: TR-32. This document is not a Nexus Standard; it may change without notice and is not to be implemented, relied upon or cited as a Nexus Standard. Its stage is designated only by the Global Standards Council and its technical committees under NS-13. Recipients are invited to submit comments with supporting reasons, and to notify any patent rights of which they are aware. See the notice of circulation.

시리즈
H
재해 계열 표준(NHS-1)
상태
OPEN (카탈로그에 명칭과 사양이 지정되어 있으나 초안은 작성되지 않음)
기술위원회
TC-TEC(기하급수 기술)
웨이브
3 (기술, 금융, 정책 및 개발)
카탈로그 제안
NXS-STD-PC-000005

NHS-1 계열 tech.ai-failure, 즉 AI 시스템 장애와 정렬 실패(misalignment)를 다룹니다: 11개 재해(핵심 서비스의 AI 오작동, 분포 외 모델 실패, 공유 AI 모델의 상관 장애, 조작된 AI 출력에 대한 의존, 명세 게이밍과 보상 해킹, 기만적이거나 전략적으로 정렬이 어긋난 AI, 고도 AI에 대한 인간 통제 상실, AI 자기 복제와 유출, 통제 불능의 재귀적 AI 역량 급증, 예상치 못한 위험 역량의 출현 외 1개), 그 속성과 관계, 그리고 모든 스트림이 이들에 사용하는 데이터, 모델, 임계값, 영향 함수를 정리합니다. 오용하려는 인간의 의도와 무관하게, 일반적인 오작동부터 목표 지향적 이상 행동에 이르기까지 AI 시스템 자체의 행동에서 비롯되는 피해입니다.

인용NRS-H95, clause 1. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-1

1. 범위

인용NRS-H95, clause 2. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-2

2. 부

부분제목
NRS-H95-1NHS-1 계열 범위, 재해 기록 및 속성
NRS-H95-2촉발, 증폭 및 복합 관계(NHS-1 관계)
NRS-H95-3사건, 노출 및 손실 데이터
NRS-H95-4재해 모형, 강도 측정치 및 지도
NRS-H95-5경보 임계값과 예측적 대응 발동 기준
NRS-H95-6영향 및 결과 함수
NRS-H95-7계열이 사용하는 지표(NIS-1) 및 방법(Risk Master)
인용NRS-H95, Hazards of the family (NHS-1). NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-hazards-of-the-family-nhs-1

해당 계열의 재해(NHS-1)

NHS-1 ID재해발생점유 면적예측 가능성
tech.ai-failure.critical-service-ai-malfunctionAI malfunction in a critical service신속지역예측 불가능
tech.ai-failure.distribution-shift-failure분포 이탈 모델 실패점진적국가통계적
tech.ai-failure.correlated-model-failureCorrelated failure of shared AI models신속지구예측 불가능
tech.ai-failure.fabricated-output-relianceAI가 만들어 낸 허위 출력에 대한 의존점진적국가예측 불가능
tech.ai-failure.specification-gaming사양 게이밍과 보상 해킹점진적지역예측 불가능
tech.ai-failure.deceptive-misalignmentDeceptive or strategically misaligned AI점진적지구예측 불가능
tech.ai-failure.loss-of-control고도화된 AI에 대한 인간 통제력 상실점진적지구예측 불가능
tech.ai-failure.self-exfiltrationAI self-replication and exfiltration신속지구예측 불가능
tech.ai-failure.recursive-self-improvementRunaway recursive AI capability gain점진적지구예측 불가능
tech.ai-failure.dangerous-capability-emergenceUnanticipated dangerous capability emergence신속지구예측 불가능
tech.ai-failure.safeguard-circumventionAI safeguard circumvention신속지구예측 불가능
인용NRS-H95, clause 3. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-3

3. Nexus 고유 출처

Everything this standard classifies comes from these Nexus authorities; it adds no list of its own.

  • nhs-1#tech.ai-failure NHS-1 Nexus Hazard Standard (counts in the native register) (item tech.ai-failure)
  • nhs-1 NHS-1 Nexus Hazard Standard (counts in the native register)
  • nis-1#TEC NIS-1 Nexus 지표 표준(도메인 20개, 지표 451개, 복합 지표 106개)(항목 TEC)
인용NRS-H95, Crosswalk to external standards. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-crosswalk-to-external-standards

외부 표준과의 대응

없음. 이 표준은 전적으로 위의 Nexus 고유 출처로 정의됩니다.

기반: 모든 Nexus Risk Standard는 NS-1(식별자), NS-2(인용), NS-3 및 NS-3b(기록과 메타데이터), NS-10(조항), NS-11(검증), NS-13(절차), NS-14(적합성 및 대응)를 적용합니다.

인용NRS-H95, clause 4. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-4

4. 의존 대상

인용NRS-H95, clause 5. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-5

5. 적합성

적합성 수준조항의미
CL-BaseNXOSI 8.4.1.1아티팩트 스키마, 수신 확인 형식 및 상태 의미 체계가 기준 요건을 충족하고, 검증 라이브러리가 일관된 결과를 산출하며, 기본 프로파일 가져오기와 내보내기가 선언된 제약 조건 내에서 작동합니다.
CL-OperationalNXOSI 8.4.1.2Runtime enforcement points, docketing, control-plane auditability, and clock enforcement are implemented with defined degraded-mode behaviour and traceable artefacts.
CL-AssuredNXOSI 8.4.1.3정의된 등급에 대한 증명 우선 요건이 구현되고, 평가 정책이 집행되며, 상태 및 정정 워크플로가 변경 상황에서도 신뢰의 안정성을 입증합니다.
CL-SovereignNXOSI 8.4.1.4주권 구역 집행, 데이터 내 연산 패턴, 오프라인 검증 번들 및 통제된 공개 워크플로가 감사 대응 가능한 접근 로그와 함께 구현됩니다.
CL-FederatedNXOSI 8.4.1.5Multi-organisation federation is demonstrated: boundary enforcement, cross-org routing constraints, interoperable ontology exchange, and consistent verification across parties.
근거 품질 수준조항의미
EQL-1NXOSI 8.4.2.1증거는 공개 가능한 요약이나 정보 제공용 요약, 그리고 위험도가 낮은 신뢰에 적합한 영수증 수준의 산출물로 제한됩니다.
EQL-2NXOSI 8.4.2.2점검은 재현 가능하고 원격 측정 데이터와 연결되며, 증거는 운영상 시정 조치와 내부 보증에 충분합니다.
EQL-3NXOSI 8.4.2.3증거 패키지는 통제된 공개 하에서 감사에 의존할 수 있을 만큼 충분한 원시 산출물, 출처 이력 및 연결 정보를 포함합니다.
EQL-4NXOSI 8.4.2.4고위험 증거에는 측정된 상태 결합과 선언된 입력에 따른 재현 가능한 검증이 포함되어 강한 신뢰를 가능하게 합니다.
EQL-5NXOSI 8.4.2.5근거는 통제된 공개 워크플로, 엄격한 취급, 적법 근거 매트릭스, 완전한 기록 관리를 통해 감독 당국의 신뢰를 뒷받침합니다.

Notation: <NRS id>:<conformance level>/<evidence quality level>, for example NRS-N1:CL-Assured/EQL-4. Source: NXOSI part VIII section 8.4, with the NRM evidence quality scale.

요구사항은 식별자와 함께 NRS-C10 라이브러리에 기계 판독 가능한 조항으로 게시됩니다 NRS-H95-<part>-R<n>, 각각 시험 벡터를 갖추어 EQL-2 이상의 CL-Operational을 기계로 점검할 수 있습니다. 적합성 진술은 버전, 부분, 수준 및 증거 품질 수준을 명시합니다. 예: NRS-H95:CL-Assured/EQL-3.

인용NRS-H95, clause 6. NRS-H95. https://nexustandards.com/standards/nrs/nrs-h95/#nx-c-6

6. 초안 작성

작성은 TC-TEC의 업무입니다. 각 부의 규범 본문, 조항과 시험 벡터, 대응 기록, 작업 예시, Academy 모듈(프로그램 골격 인계 F09)을 산출합니다. 글로벌 표준 위원회(Global Standards Council)가 채택하며, 국가 위원회는 6가지 채택 방식 중 하나로 채택하거나 조정합니다. 여기의 어떤 것도 인증이나 준비 상태 주장이 아닙니다.

변경 이력

Versions from the catalogue; entries from the changelog that name this document.

No version is recorded in the catalogue for this document yet.

The changelog records no entry that names NRS-H95.

표준

표준에 참여하십시오.

정부, 규제 기관, 표준 기구, 산업계, 학계 및 지역사회는 첫 공식 릴리스(2030년 목표)에 앞서 카탈로그를 함께 만들어 가도록 초청됩니다. 초안에 대한 의견 제출, 변경 제안, 작업반 참여 또는 현장 훈련 주최가 해당됩니다.

지위와 사용. Nexus Standards는 NS-13에 따른 공개 절차로 개발되어 자발적 사용을 위해 공개된 제안 표준입니다. 인증, 인정 또는 규제 승인을 구성하지 않으며, 채택은 Global Standards Council과 각 국가의 국가표준위원회가 결정합니다. UNI(Unique Nexus Identifier)는 산출물을 식별할 뿐 인증하지 않습니다. 표준 기관과 그 표준의 명칭은 해당 관리자에게 속하며 문서 식별 목적으로만 사용됩니다. 여기에 외부 표준의 문구는 복제되지 않습니다. Nexus Standards는 여기에 언급된 어떤 표준 기관과도 제휴하거나 보증 또는 인증을 받지 않았습니다.

라이선스: 표준 본문, 레지스트리, 스키마 및 데이터는 CC BY 4.0, 참조 코드는 Apache-2.0입니다. 외부 표준은 각자의 라이선스에 따라 명칭, 번호, 링크로 인용합니다. 제3자 데이터, 라이브러리, 글꼴은 각자의 라이선스를 유지합니다. 제3자 고지를 참조하십시오.