استانداردهای ریسک هوش مصنوعی و سامانههای خودگردان
AI and autonomous systems are being deployed into decisions about credit, health, infrastructure and security faster than their failure modes are understood, and general-purpose models create common dependencies across sectors. This area of the Digital, Cyber and AI programme sets records for model documentation, evaluations, incidents and deployment contexts, crosswalked to AI governance frameworks, so that risk claims about AI systems rest on documented evidence. Each artefact of the area carries a UNI (Unique Nexus Identifier).
- Nexus Standards: NS-0، NS-10، NS-11، NS-12.
- استانداردهای باز: چارچوب مدیریت ریسک هوش مصنوعی (AI RMF 1.0)؛ اصول هوش مصنوعی OECD؛ مقررات (EU) 2024/1689 (قانون هوش مصنوعی)؛ PROV-O: The PROV Ontology؛ Verifiable Credentials Data Model v2.0.
- دادهها و خوراکها: OSV open source vulnerability database؛ مجموعهدادههای Our World in Data.
- پیوند با: سایبری و دیجیتال؛ درستی اطلاعات و اعتماد؛ فناوری مرزی؛ ثبات مالی و ریسک احتیاطی.
خلاصه
- 01دامنهدامنه و مرزها
- 02آبشار مخاطراتمسیرهای مخاطرات آبشاری و مرکب
- 03مخاطرهها و بخشهامخاطرات، تهدیدها و بخشهای مربوط
- 04مدل سامانهشوک چگونه در این سامانه حرکت میکند
- 05منابع دادهمنابع داده
- 06پیوندهای سامانهایپیوندهای سامانهای
- 07استانداردهای بازاستانداردهای بازِ ارجاعشده
- 08استانداردهای محدودنیمرخهای سازگاری محدود
- Nexus Standards
- 4
- NS-0, NS-10, NS-11
- استانداردهای باز
- 5
- نام برده میشود، هرگز رونویسی نمیشود
- دادهها و خوراکها
- 2
- برای ارجاع فهرست شده است
- پیوندها
- 4
- با دیگر حوزهها
- UNI
- درخواستشده · تخصیص در جریان است
- وضعیت
- پیشنهادیدر فهرست · برنامهریزیشده · دامنهٔ LAB
- آخرین بازبینی
- نمایهٔ حوزه
Nexus Standards (2026). استانداردهای ریسک هوش مصنوعی و سامانههای خودگردان: خلاصهٔ حوزه، برنامهٔ دیجیتال، سایبری و هوش مصنوعی. پیشنهادشده. https://nexustandards.com/digital-ai/ai-and-autonomous-systems-risk-standards/. آخرین بازبینی 17 اکتبر 2026.
فایلها شامل اعتبارها و بیانیهٔ پروانه هستند و در مرورگر تولید میشوند؛ هیچ دادهای منتقل نمیشود. بارگیری به JavaScript نیاز دارد.
دامنه و مرزها
حوزهای از برنامهٔ دیجیتال، سایبری و هوش مصنوعی (خانوادههای مخاطره و تهدید). نیمرخ حوزه 5 موضوع در دامنه و 3 موضوع را که حوزههای دیگر به آنها میپردازند مشخص میکند.
در دامنه 5
- سوابق مستندسازی مدل و مجموعهداده (کارتهای مدل، برگههای داده)
- سوابق نتایج ارزیابی و تیم قرمز همراه با روش
- سوابق رخدادهای هوش مصنوعی
- سوابق زمینهٔ استقرار و ردهٔ ریسک (NS-9)
- تعهدات ماشینخوان هوش مصنوعی (NS-10)
خارج از دامنه 3
- فنون آموزش مدل
- انتشار جزئیات افزایندهٔ توانمندی برای کاربردهای خطرناک
- تأیید محصولات
حوزههای قضایی اعمال در هر حوزهٔ قضایی تصمیمی ملی است که شورای ملی استانداردها (NSC) همراه با مراجع ملی ذیصلاح اتخاذ میکند.
مسیرهای مخاطرات آبشاری و مرکب
هر مخاطرهای که برای این زمینه نام برده شده است، بهصورتی که در Nexus Hazard Standard (NHS-1) طبقهبندی شده، همراه با مخاطراتی که برمیانگیزد، تشدید میکند یا با آنها مرکب میشود، میزان اطمینان به هر رابطه، سازوکار فیزیکی یا اجتماعی و گام بعدی در زنجیرهٔ آبشاری.
نمای تعاملی به JavaScript نیاز دارد؛ بخشهای زیر همان سوابق را ارائه میکنند.
از تشخیص تا شواهد
An observation from OSV open source vulnerability database becomes an identified hazard event; a forecast and a warning cite the same event and version; a trigger written as a clause starts anticipatory action for model failure and bias; response and losses are recorded; evidence reaches SDG 9.5.1 and the areas coupled to this one. 9 operations in 5 phases, built from the area profile: the rows carry its own data sources, indicators, open standards, couplings and, where listed, hazards, and each operation names the rules it implements (13). Records and artefacts are cited by UNI (Unique Nexus Identifier) and version.
کاوشگر فرایند · Standards · تدوین و اصلاح
چرخهٔ عمر استاندارد
17 گام·6 مرحله
Standards · مدونسازی و اصلاح
چرخهٔ عمر استاندارد
چرخهٔ عمر استاندارد · مسیر NS-13 · مجاری مشارکت · مسیر IETF · مسیر W3C · مسیر OGC · مسیر OASIS · مراحل ISO و IEC · انطباق · چرخهٔ عمر رکورد · مسیریابی · پایش.
یافتههای چرخه به پیشنهادهای تغییر بدل میشوند، Global Standards Council پس از آخرین فراخوان عمومی میپذیرد و هر کشور دربارهٔ پذیرش خود تصمیم میگیرد.
01 مسیریابی مأموریتها
- 01مسیریابی مأموریتها به استانداردها و نیمرخهاگام · Nexus StandardsNexus Standards هر مأموریت نامزد را به استانداردها و نیمرخهایی که کاربرد دارند هدایت میکند.
02 نیمرخها و انطباق
- 02ترکیب نیمرخهای مأموریتگام · Nexus StandardsNexus Standards نیمرخهای مأموریت را ترکیب میکند و هر پذیرش ملیای را که مأموریتها به آن وابستهاند ثبت میکند.
- 03اعتبارسنجی خروجیهای ساخت در برابر نیمرخهاگام · Nexus StandardsNexus Standards خروجیهای ساخت را در برابر نیمرخهای ترکیبشده راستیآزمایی و شواهد را ثبت میکند.
- 04پایش انطباق و ثبت شواهد مهرومومشدهگام · Nexus Standardsدر طول Action Week، Nexus Standards انطباق را پایش و انحرافها را ثبت میکند.
03 پیشنهادها و بازبینی
- 05انحرافها و اصلاحات به پیشنهادهای تغییر تبدیل میشوندگام · Nexus Standardsانحرافها به پیشنهادهای تغییر تبدیل میشوند و اصلاح بهصورت تغییری در شواهد ثبت میشود.
- 06یافتههای چرخه به پیشنهادهای تغییر تبدیل میشوندگام · Nexus Standardsیافتههای یک چرخه به پیشنهادهای تغییر تبدیل میشوند: یافتههای روش و اصلاح از گزارشها (F06) و موارد دستور کار از Nexus…
- 07پیشنویس و بازنگری بهصورت بازگام · کمیتهها و کارگروههاکمیتههای فنی و کارگروهها استانداردها را در فرایند باز NS-13 پیشنویس و بازنگری میکنند.
- 08بازبینی به سوی تصمیم شوراگام · Nexus StandardsNexus Standards پیشنهادهای تغییر را از راه بازبینی به سوی تصمیم شورا پیش میبرد.
04 تصمیم شورا
- 09فراخوان نهایی عمومیگام · شورای جهانی استانداردهاشورای جهانی استانداردها پس از فراخوان نهایی نودروزه با اکثریت دو سوم تصویب میکند.
- 10پذیرش جهانی یک استانداردتصمیم · شورای جهانی استانداردهاGlobal Standards Council پس از آخرین فراخوان عمومی دربارهٔ پذیرش هر استاندارد تصمیم میگیرد.
05 انتشار و شناسایی
- 11تخصیص UNI و انتشارگام · دبیرخانه (GCRI Canada)Nexus Standards شناسههای UNI را تخصیص میدهد و انتشارات را بر پایهٔ فرایند ناشر سپردهگذاری میکند.
- 12UNI شناسایی میکند و هرگز گواهی نمیکندثبت · Nexus Standardsهر شیء در سال برنامه یک شناسه دارد، یک UNI ذیل NS-1، تا بتوان به آن استناد کرد، نسخهبندیاش کرد و آن را حل کرد.
- 13تغییرات پذیرفتهشدهٔ سال را منتشر کنیدگام · Nexus Standardsدر زمان تمدید، Nexus Standards تغییرات پذیرفتهشدهٔ سال و وضعیت پذیرش ملی را منتشر میکند.
06 پذیرش و کاربرد ملی
- 14پذیرش ملی از سوی شورای ملی استانداردهاتصمیم · شورای ملی استانداردهاشورای ملی استاندارد هر کشور دربارهٔ پذیرش ملی تصمیم میگیرد: پذیرش بدون تغییر، پذیرش با یک نیمرخ (NS-16)، انطباق، یا تنها ارجاع.
- 15استانداردهای تصویبشده به دورهها و ویراستها میرسندگام · Nexus Standardsهر استاندارد یا نیمرخ تصویبشده به یک واحد درسی در Risk Academy (F09) تبدیل میشود و استانداردها در ویراستهای Reports (R1) به کار بسته میشوند.
- 16پذیرش برای هر حوزهٔ قضایی قطعی استاستاندارد · شورای ملی استانداردهاپذیرش برای هر حوزهٔ قضایی قطعی است و GSC حق وتو بر تصمیم ملی ندارد. هیچ نهاد جهانی حق وتو ندارد.
- 17سوابق پذیرش ملیثبت · Nexus Standardsنیمرخهای مأموریت ترکیبشده و سوابق پذیرش ملی در مرحلهٔ آمادهسازی آمادگی (F08) به Foundry میروند.
Nexus Standards · Nexus Standards (نهاد) · شورای ملی استانداردهاطرحی از چرخهٔ طراحیشدهٔ برنامه، نه سابقهٔ عملیات: هیچ چرخهای اجرا نشده و هر برنامه در سطح خدمت R0 است. هر Nexus Standard (استاندارد Nexus) در مرحلهٔ PROPOSED است و nexustandards.com متن و وضعیت هر یک را تعیین میکند. UNI شNASAیی میکند و هرگز گواهی نمیکند؛ گزارش اعتبارسنج شواهدی برای بازبینی است، نه ادعای انطباق.
عملیات، بهصورت جدول
| گام | مرحله | بهرهبرداری | چه کسی | قاعدهٔ تصمیمگیری | سابقه | پیاده میکند |
|---|---|---|---|---|---|---|
| 01 | آشکارسازی | مشاهده (آغاز). مشاهده همراه با فرادادهٔ ایستگاه یا حسگر و انتشار منبع ثبت میشود. منابع دادهٔ این حوزه: OSV open source vulnerability database و مجموعهدادههای Our World in Data. | ارائهدهندهٔ مشاهده | هر مشاهده یک سابقه است همراه با انتشار و نسخهٔ منبع آن | سوابق مشاهده از OSV open source vulnerability database، هر یک با UNI سابقه (NS-3) | NS1-R2، NS2-R1 |
| 02 | آشکارسازی | رویداد مخاطره (سابقه). رویداد شناسهای دریافت میکند که پیشبینیها، هشدارها، آستانههای فعالسازی و خسارات به آن استناد میکنند تا هر یک تا همان رویداد قابل ردیابی باشد. مخاطرات در دامنه: شکست و سوگیری مدل، سوءاستفاده از هوش مصنوعی همهمنظوره، از دست رفتن نظارت انسانی، حملات سایبری مبتنی بر هوش مصنوعی و شکست همبسته ناشی از مدلهای مشترک. | خدمت صالح مخاطره | یک شناسهٔ رخداد واحد که همهٔ سوابق پیشبینی، هشدار و زیان به آن استناد میکنند | سابقهٔ رخداد مخاطره برای نقص و سوگیری مدل، طبقهبندیشده بر پایهٔ نیمرخهای اطلاعات مخاطره | NS1-R1 |
| 03 | پیشبینی و هشدار | پیشبینی (مدل). پیشبینیهای هنگردی زمان پیشآگاهی و آمار راستیآزمایی را با خود دارند که میزان قابل اتکا بودن یک آستانهٔ فعالسازی را تعیین میکند. | مرکز پیشبینی | پیشبینی به رخداد و نسخهٔ خود استناد میکند؛ آمار راستیآزمایی ثبت میشود | یک سابقهٔ پیشبینی از مجموعهدادههای Our World in Data همراه با زمان پیشهنگام و نسخه | NS2-R2, NS12-R2 |
| 04 | پیشبینی و هشدار | هشدار (سابقه). هشدار توسط مرجع تعیینشده بر پایهٔ قانون ملی صادر میشود و شناسههای رخداد و پیشبینی پشتوانهٔ آن را در بر دارد. | مرجع هشدار تعیینشده | هشدار به شناسهٔ رویداد و نسخهٔ پیشبینی استناد میکند | هشداری مبتنی بر اثر در Common Alerting Protocol | NS2-R1 |
| 05 | اقدام پیشدستانه | بند آستانهٔ فعالسازی (دروازه). آستانه، زمان پیشاپیش و منبع پیشبینی از پیش بیان میشوند؛ ارزیابی با ورودیهای ناقص نامعین است و هرگز آستانهٔ فعالسازی به شمار نمیآید. | شرکای اقدام پیشدستانه، بر پایهٔ پروتکلی از پیش توافقشده | آستانهٔ فعالسازی بندی است که گزارهٔ آن داده است؛ دو ارزیاب به نتیجهٔ یکسان میرسند | آستانهٔ فعالسازیای که بهصورت بند (NS-10) برای شکست و سوگیری مدل نوشته شده است | NS10-R1, NS10-R3, NS11-R3 |
| 06 | اقدام پیشدستانه | اقدام زودهنگام (گام). اقداماتی که از پیش بر سر آنها توافق شده، پیش از اوج پیامد انجام میشوند. بخشهای مرتبط: دیجیتال، مخابرات و سکوها، مالی، بیمه و بازارهای سرمایه، نظامهای سلامت و بخش عمومی و دولت. | سازمانهای عمومی و شرکای بشردوستانه | وجوه و اقدامات بر پایهٔ آستانهٔ فعالسازی گواهیشده آزاد میشوند | اقدامات از پیش توافقشده آزاد شده، همراه با تأییدیهٔ آستانهٔ فعالسازی | NS11-R1 |
| 07 | واکنش | واکنش و خسارت (سابقه). آسیب و خسارت در برابر رویداد ثبت میشوند تا هشدارها، اقدامات و پیامدها قابل مقایسه باشند. | سازمان ملی مدیریت سوانح | خسارات به شناسهٔ رویداد استناد میکنند | سوابق پیامد و خسارت که به اقتضای گزارشدهی تفکیک شدهاند | NS2-R4 |
| 08 | شواهد | گزارش 9.5.1 (پایان). گزارشدهی بر رویدادها، هشدارها و خسارات ثبتشده استوار است. نشانگرهای این حوزه: SDG 9.5.1 (هزینهٔ پژوهش و توسعه بهعنوان نسبتی از GDP). | کانون ملی گزارشدهی | نشانگر از سوابق محاسبه میشود و به آنها استناد میکند | SDG 9.5.1 (هزینهٔ پژوهش و توسعه بهعنوان نسبتی از GDP) | NS11-R5، NS14-R1 |
| 09 | شواهد | حوزههای همبسته (پایان). محرک مشترک: سامانههای هوش مصنوعی سطوح حملهٔ تازهای پدید میآورند و برای گسترش مقیاس حملات به کار میروند. حوزههای جفتشده: استانداردهای ریسک سایبری و دیجیتال، درستی اطلاعات و اعتماد، استانداردهای ریسک فناوریهای پیشرو و ثبات مالی و ریسک احتیاطی. | برنامههای حوزههای پیوسته | به رویدادهای مشترک استناد میشود، هرگز رونویسی نمیشوند | سوابق مشترک با استانداردهای ریسک سایبری و دیجیتال | NS0-P9 |
جدول.عملیات به ترتیب گامبهگام؛ هر ردیف مرحله، عملیات، کنشگر، قاعدهٔ تصمیم، سابقهای که بهجا میگذارد و شناسههای قاعدهای را که پیاده میکند نام میبرد. جدول فرایند را آنگونه که مشخص شده نشان میدهد؛ وضعیت هیچ استاندارد، پیشنهاد یا سابقهای را گزارش نمیکند. منابع: چارچوب مدیریت ریسک هوش مصنوعی (AI RMF 1.0) · اصول هوش مصنوعی OECD · NS-0: اساسنامه و اصول · NS-10: سیاستها و بندها.
مخاطرات، تهدیدها و بخشهای مربوط
مخاطرات و تهدیدها 5
بخشها 4
شوک چگونه در این سامانه حرکت میکند
A system model of this area built from the registry: 11 hazards, 5 systems, 4 sectors, 10 controls, 2 feeds, 1 indicator. Select the components to include, choose an initiating hazard and run the scenario. Stress propagates through the hazard relations of the Nexus Hazard Standard (NHS-1), the exposure of each system, the recorded couplings and the sectors that carry the loss; adopted standards dampen transmission and live data sources support detection. All parameters are stated assumptions that the reader can adjust; results are illustrative scenario outputs for exercises and training, not forecasts or risk assessments. The Map view places the same run on an example geography, North America, the region of the programme’s context map, with open data: country boundaries, a grid of hexagonal cells and NASA satellite layers for the initiating hazard. The geography serves exercises and training and is not an assessment of that place.
مخاطرات
- شکست سد
- از دست رفتن یخ دریا
- فرسایش ساحلی (جابهجاشده به پاییندست)
- سیل رودخانهای (جابهجاشده به پاییندست)
- سیلاب ناگهانی (برانگیخته در پاییندست)
- جابهجایی انبوه (آغازشده در پاییندست)
- زوال تنوع زیستی (برانگیخته در پاییندست)
- قطع گستردهٔ برق (آغازشده در پاییندست)
- کمبود تأمین آب (در پاییندست به راه افتاده)
- فروپاشی یخ دریایی زمستانی قطب شمال (برانگیخته در پاییندست)
- اختلال در گردباد قطبی (برانگیخته در پاییندست)
سامانهها و پیوندها
کنترلها
NS-0اساسنامه و اصولNS-10سیاستها و بندها (تکالیف ماشینخوان: تعریف، الزام، ارزشیابی و اجرا)NS-11راستیآزمایی و پایش (شواهد، گواهیها، مشاهدهٔ انطباق بدون اعتماد پیشفرض)NS-12مصنوعات نرمافزار، مدل و AI/ML (زنجیرهٔ تأمین، کارتهای مدل، برگههای مجموعهداده)NRS-H100خانوادهٔ مخاطره: رباتیک، خودمختاری و تسلیحات خودمختار (NHS-1 tech.autonomy-weapons)NRS-H53خانوادهٔ مخاطره: اختلال سایبر-فیزیکی (NHS-1 cyber.cyber-physical)NRS-H61خانوادهٔ مخاطره: شکست آبشاری (NHS-1 sys.cascade)NRS-H113خانوادهٔ مخاطره: شکنندگی نظام مالی (NHS-1 soc.financial-system)NRS-A8دادهٔ ریسک آماده برای هوش مصنوعی و بستهبندی مدلNRS-H54خانوادهٔ مخاطره: اختلال سیگنال و سکو (NHS-1 cyber.platform)
مشاهده
- پایگاه دادهٔ آسیبپذیریهای متنباز OSV (برای ارجاع فهرست شده)
- مجموعهدادههای Our World in Data (برای ارجاع فهرست شده)
- هزینهٔ پژوهش و توسعه بهعنوان نسبتی از GDP
جغرافیای نمونه
- آمریکای شمالی: 243 سلول ششضلعی
- نورهای شبانهٔ امشب، قطعیها (VIIRS Day/Night Band)، NASA GIBS
- آب سطحی از میان ابر، 30 m (رادار OPERA DSWx-S1)، NASA GIBS
- نرخ باران، نیمساعت گذشته (IMERG)، NASA GIBS
- هشدارهای اختلال پوشش گیاهی، 30 m (OPERA DIST-ALERT)، NASA GIBS
منابع داده
2 منبع داده که در نیمرخ حوزه نام برده شدهاند، هر یک با ارائهدهنده، پروانه، بسامد بهروزرسانی و مسیر تحویل.
منابع داده برای ارجاع فهرست شدهاند؛ دادهٔ زنده پس از تکمیل بررسی پروانه نمایش داده میشود.
- زنده
- 0
- پس از تکمیل بررسی پروانه
- فهرستشده در فهرست دادهها
- 0
- شرایط پروانه ثبت شده است
- پیشنهادشده برای دفتر ثبت
- 2
- شرایط پروانه باید ثبت شود
- تحویل
- 0 خدمت تحت حکمرانی · 0 افزونه · 0 مرورگر · 1 نمایه · 1 برای ارجاع فهرست شده است
- مسیرهای پیشنهادی به ترتیب اولویت: خدمت دادهٔ تحت حکمرانی، افزونه، خواندن مستقیم در مرورگر، تصویر لحظهای هنگام ساخت؛ منابعی که شرایط آنها اجازهٔ استفادهٔ مجدد نمیدهد تنها برای مرجع فهرست میشوند
پایگاه دادهٔ آسیبپذیریهای متنباز OSVبرای ارجاع
پروژهٔ OSV (Google، OpenSSF) · پیوسته
پروانهها به تفکیک منبع؛ طرحوارهٔ OSV با پروانهٔ CC BY 4.0
برای ارجاع فهرست شده استپیشنهادشده برای ثبت دادهها.
مجموعهدادههای Our World in Dataبرای ارجاع
Global Change Data Lab (Our World in Data) · varies.
CC BY 4.0 for OWID-produced data; third-party data keep their licences.
تصویر لحظهای زمان ساختپیشنهادشده برای ثبت دادهها
پیوندهای سامانهای
4 جفتشدگی این حوزه را به حوزهها و برنامههای دیگر پیوند میدهد، هر یک همراه با سازوکار پیوند.
- استانداردهای ریسک سایبری و دیجیتالدیجیتال، سایبر و هوش مصنوعیمحرک مشترک: سامانه هوش مصنوعی سطوح حملهٔ تازهای پدید میآورند و برای گسترش حملات به کار میروند.
- درستی اطلاعات و اعتمادحکمرانی، امنیت و جامعهآبشار: هوش مصنوعی مولد هزینهٔ اطلاعات نادرست مصنوعی را کاهش میدهد.
- استانداردهای ریسک فناوری مرزیدیجیتال، سایبر و هوش مصنوعیبازخورد: هوش مصنوعی دیگر فناوریهای پیشگام، از جمله زیستفناوری، را شتاب میبخشد.
- ثبات مالی و ریسک احتیاطیمالی، بیمه و اقتصادمحرک مشترک: مدلها و دادههای مشترک میتوانند رفتار گلهای و نقصهای همبسته پدید آورند.
استانداردهای بازِ ارجاعشده
5 استاندارد باز، هر یک با رابطهاش آنگونه که ذیل NS-14 در فهرست ثبت شده است. برای دیدن تعریف یک رابطه، نشانگر را روی آن ببرید یا آن را در کانون قرار دهید.
پذیرش2
PROV-O: The PROV OntologyW3Clisted in the register · w3c-prov-oVerifiable Credentials Data Model v2.0W3Clisted in the register · w3c-verifiable-credentials-2نیمرخهای سازگاری محدود
2 استاندارد که متن آنها آزادانه در دسترس نیست و تنها نام و پیوندشان آمده است. هر نیمرخ سازگاری تا زمان برقراری ترتیبی با نهاد صادرکننده در صفحههای محافظتشده نگهداری میشود.
- ISO/IEC 42001:2023 Artificial intelligence – Management systemISO/IEC JTC 1/SC 42compatibility profile (restricted)
- ISO/IEC 23894:2023 Artificial intelligence – Guidance on risk managementISO/IEC JTC 1/SC 42compatibility profile (restricted)
نشانگرها
نیمرخ حوزه 1 نشانگر را نام میبرد که هر یک چارچوب و کد خود را دارد.
نامها و کدهای نشانگرها همانگونه که متولیان آنها منتشر کردهاند آورده شدهاند.
استانداردهای کاربردی
نیمرخ حوزه 4 Nexus Standardsرا فهرست میکند؛ دفتر ثبت برای این حوزه NS-0، NS-3، NS-9، NS-11، NS-12 را فهرست میکند. هر یک استانداردی پیشنهادی و در دست توسعه است.
- 01
NS-0 · اساسنامه و اصول
Status: proposed · 12 requirements stated. Read NS-0 · Requirements for this area.
- 02
NS-10 · Policies and clauses (machine-readable obligations: definition, binding, evaluation and enforcement)
Status: proposed · 7 requirements stated. Read NS-10 · Requirements for this area.
- 03
NS-11 · راستیآزمایی و پایش (شواهد، تأییدیهها، مشاهدهٔ انطباق با اعتماد صفر)
Status: proposed · 6 requirements stated. Read NS-11 · Requirements for this area.
- 04
NS-12 · Software, model and AI/ML artefacts (supply chain, model cards, dataset sheets)
Status: proposed · 4 requirements stated. Read NS-12 · Requirements for this area.
ابزارهای مسیریابی، پایش و راستیآزمایی
کنسول راستیآزمایی
مجموعهآزمونها، بیانیههای انطباق و گواهیها برای هر استاندارد، آنگونه که در registry ثبت شدهاند.
برنامهریزیشدهاستقرار
استقرارهای مرجع و یک محیط آزمایشی همراه با مثالهای کاربردی.
در جریانکنسول پایش
وضعیت نسخه و منبع هر استاندارد، آنگونه که نهادهای صادرکننده منتشر کردهاند.
هر کنسول از روی registry محاسبه میکند و استدلال خود را بیان میکند؛ تصمیمها در اختیار نهادهای صالح باقی میمانند.
منشور گروه کاری
منشوری پیشنهادی برای این حوزه، باز برای نهادها و کارشناسان.
سوابق مدل، ارزیابی، رخداد و بستر استقرار که با چارچوبهای حکمرانی هوش مصنوعی تطبیق داده شدهاند.
از نهادها و کارشناسان دعوت میشود با ثبت یک سابقهٔ تغییر عمومیاین گروه کاری را ذیل NS-13 منشور دهند. گروههای کاری ملی (National Working Groups، NWG) ورودیهای ملی و مانورهای میدانی را از طریق کنسرسیوم Nexus ملی خود (NNC) ارائه میکنند.
- نیمرخ سابقهٔ ارزیابی هوش مصنوعی
- طرحوارهٔ سابقهٔ رخداد هوش مصنوعی
- تطبیق تعهدات با کارکردهای AI RMF و ردههای ریسک قانون هوش مصنوعی اتحادیهٔ اروپا (تنها پیوند)
- NIST AI Safety Institute Consortium liaison sought
- OECD.AI Network of Experts liaison sought
- MLCommons liaison sought
- Partnership on AI liaison sought
مسیرهای شواهد، بازشناسی و سرمایه
آنچه هر نهاد این زیستبوم از این حوزه بهره میگیرد: The Global Centre for Risk and Innovation (GCRI Canada)، بهعنوان دبیرخانه، برای شواهد؛ The Global Risks Forum (GRF) برای به رسمیت شناختن؛ و The Global Risks Alliance (GRA) برای سرمایه.
GCRI Canada
GCRI Canada میتواند سوابق ارزیابی و رخداد را همراه با روش، نسخه و ارزیاب بهعنوان شواهد پژوهشی بپذیرد؛ تصمیم بر عهدهٔ GCRI Canada و طبق قواعد شواهد و پژوهش خود آن است.
The Global Risks Forum (GRF)
GRF ممکن است سازمانهایی را که مستندات مدل را در نیمرخ مشترک منتشر میکنند بهعنوان یک موضوع گفتوگو ثبت کند؛ تصمیم بر پایهٔ قواعد به رسمیت شناختن خود GRF با آن است.
The Global Risks Alliance (GRA)
GRA ممکن است هنگام بررسی سرمایهگذاریهای وابسته به هوش مصنوعی، سوابق ردهٔ ریسک و ارزیابی هوش مصنوعی را بخواند؛ تصمیم بر عهدهٔ GRA و بر پایهٔ قواعد خود آن برای آمادگی سرمایه است.
هر نهاد بر پایهٔ قواعد خود تعیین میکند چه چیزی را بهعنوان شواهد میپذیرد؛ خوانش یک مسیر نه تأیید است و نه مشاورهٔ سرمایهگذاری.
پرسشهای پژوهشی باز
3 پرسش که بهعنوان اولویتهای گروه کاری شناسایی شدهاند.
- ارزیابیهای مدلهای همهمنظوره استاندارد نشدهاند و میتوان آنها را دستکاری کرد.
- هیچ ردهبندی جهانی مشترکی برای رخدادهای هوش مصنوعی وجود ندارد.
- ریسک سامانهای ناشی از تمرکز مدلها سنجیده نمیشود.
کاربران مورد نظر
نیمرخ حوزه 4 اجتماع کاربری را شناسایی میکند.
- توسعهدهندگان و ارزیابان هوش مصنوعی
- تیمهای حکمرانی و اطمینانبخشی هوش مصنوعی
- تنظیمگران
- پژوهشگران ایمنی هوش مصنوعی
فهرستشدن در registry و صفحههای عمقی
این حوزه در فهرست است (وضعیت: برنامهریزیشده؛ دامنهٔ LAB؛ 4 حوزهٔ تطبیق). این حوزه پنج صفحهٔ تفصیلی و یک جدول تطبیق دفتر ثبت برای حوزههای خود دارد.
استانداردهای کاربردی
قواعد هر استاندارد فهرستشده، خواندهشده از طریق خوانشگر مشخصات.
عمق · تطبیقجدول تطبیق
Every register entry in the area’s domains, by relation, with the crosswalk graph.
تفصیل · سوابق و طرحوارههاسوابق و طرحوارهها
دامنه، سابقه، کاوشگر طرحواره و اینکه یک UNI چگونه تفکیک میشود.
عمق · انطباقانطباق
بندها، شواهد و گواهیها برای ارزیابی انطباق.
عمق · آمادگیآمادگی
حوزهٔ همراه با سه مسیر، بهصورت ماتریس.
تناظر بهصورت جدول: 47 استاندارد خارجی بر حسب قلمرو
Nexus Standards در گراف: NS-0، NS-3، NS-9، NS-11، NS-12. یک رابطه مدخلی در دفتر ثبت است، هرگز ادعای انطباق نیست.
5 Nexus Standards · 4 حوزه · 47 استاندارد بیرونی · 23 نهاد صادرکننده · 0 مخزن پیادهسازی. روابط (پذیرش، نیمرخ، تطبیق، استناد) همانگونه است که در دفتر ثبت آمده؛ نامها و استانداردها نزد متولیان خود میمانند.
Crosswalk graph79 nodes and 114 links from the registry of external standards, programme areas and implementations (the external standards register, the consumers register. Relations (adopt, profile, crosswalk, cite) are shown as recorded in the register.
Areas carry no geography of their own; the map shows where the bodies that issue the area’s external standards are based.
نهادهای صادرکننده و مقرهای آنها (16)
| نهاد | مقر | مدخلهای فهرست |
|---|---|---|
| NIST | گیترزبرگ، مریلند، ایالات متحده | 10 |
| ISO/IEC JTC 1/SC 42 | ژنو، سوئیس | 6 |
| پارلمان و شورای اروپا | بروکسل، بلژیک | 4 |
| ISO/IEC JTC 1/SC 27 | ژنو، سوئیس | 4 |
| IEEE Standards Association | پیسکاتاوی، نیوجرسی، ایالات متحده | 3 |
| OASIS Cyber Threat Intelligence TC | ووبرن، ماساچوست، ایالات متحده | 2 |
| Agentic AI Foundation (Linux Foundation) | سان فرانسیسکو، کالیفرنیا، ایالات متحده | 1 |
| CEN-CENELEC JTC 21 | بروکسل، بلژیک | 1 |
| FIRST CVSS Special Interest Group | کری، کارولینای شمالی، ایالات متحده | 1 |
| IETF | ویلمینگتون، دلاور، ایالات متحده | 1 |
| ISO/IEC JTC 1/SC 7 | ژنو، سوئیس | 1 |
| ISO/TC 292 | ژنو، سوئیس | 1 |
| OASIS CSAF TC | ووبرن، ماساچوست، ایالات متحده | 1 |
| OpenSSF (Linux Foundation) | سان فرانسیسکو، کالیفرنیا، ایالات متحده | 1 |
| جامعهٔ OpenVEX (پروژهٔ OpenSSF) | سان فرانسیسکو، کالیفرنیا، ایالات متحده | 1 |
| UN Office of the Secretary-General’s Envoy on Technology and UNDP | نیویورک، نیویورک، ایالات متحده | 1 |
Issuing bodies are shown at the city of their public seat. The 1 programmes, 0 implementing repositories and 19 Nexus Standards have no location and are not mapped · 7 issuing bodies have no single public seat and are listed without a location: Mitchell et al. (FAT* 2019); World Customs Organization; OECD; UNESCO; United Nations; International Atomic Energy Agency; and others.
کرهٔ استانداردها16 نهاد صادرکننده با مقر عمومی و 47 مدخل دفتر ثبت، که در یاختههای هممساحت در چهار سطح جزئیات نشان داده شدهاند. مقرها در مختصات شهرها قرار گرفتهاند؛ حوزههای برنامه، پیادهسازیها و استانداردها مکانی ندارند و ترسیم نمیشوند. در جایی که اسکریپتها در دسترس نیستند، نقشهٔ ثابت جهان نشان داده میشود.
منابع
4 references from peer-reviewed and official publications cited in the area profile, linked at the publishers’ own sites.
peer-reviewedManaging extreme AI risks amid rapid progressScience · 2024peer-reviewedDatasheets for datasetsCommunications of the ACM · 2021peer-reviewedModel Cards for Model ReportingProceedings of the Conference on Fairness, Accountability, and Transparency (ACM) · 2019- officialInternational AI Safety Report 2025UK Department for Science, Innovation and Technology (for the report’s expert advisory panel) · 2025
پژوهشهای اخیر دربارهٔ این حوزه
مقالههای داوریشده، پیشچاپها، مجموعهدادهها و گزارشهای اخیر دربارهٔ موضوع این حوزه که در زمان خواندن از خدمات فرادادهٔ علمی باز (OpenAlex، Crossref، DataCite، Zenodo، arXiv، Europe PMC، OpenAIRE Graph) با واژههای جستوجوی ساختهشده از registry بازیابی میشوند. هر اثر با نویسندگان، محل انتشار، سال، نوع، وضعیت دسترسی آزاد و پروانه فهرست میشود و به DOI یا صفحهٔ فرود خود پیوند دارد. منابعی که هنوز برای نمایش زنده در این وبگاه فعال نشدهاند برای مرجع فهرست شدهاند و پرسوجو نمیشوند.
عبارات جستوجوایمنی هوش مصنوعی؛ ریسک هوش مصنوعی؛ ریسکهای هوش مصنوعی؛ رخدادهای هوش مصنوعی؛ آسیبهای هوش مصنوعی؛ هوش مصنوعی مرزی؛ هوش مصنوعی همهمنظوره؛ سوءاستفاده از هوش مصنوعی؛ حوادث هوش مصنوعی؛ جنگافزارهای خودگردان؛ AI Risk Management Framework؛ OECD AI Principlesبرگرفته از عنوان حوزه و مخاطرههای موجود در پروفایل آن، مخاطرههای NHS-1 که نام میبرد و استانداردهای بازی که فهرست میکند.
- OpenAlexlisted for reference; not queried
- Crossreflisted for reference; not queried
- DataCitelisted for reference; not queried
- Zenodoفهرستشده برای ارجاع؛ پرسوجو نمیشود
arXivفهرستشده برای ارجاع؛ پرسوجو نمیشود- Europe PMClisted for reference; not queried
- OpenAIRE Graphlisted for reference; not queried
هنوز هیچ منبعی برای نمایش زنده در این وبگاه فعال نشده است: منابع برای مرجع فهرست شدهاند و هیچیک پرسوجو نمیشوند. هنگامی که ناشر رسمی پس از بازبینی شرایط یک منبع آن را فعال کند، آثار اخیر در اینجا فهرست میشوند. فقط فراداده و پیوندها: عنوان، نویسندگان، محل انتشار، سال، نوع، وضعیت دسترسی آزاد و پروانه، همانگونه که هر منبع ثبت کرده است؛ آثار برای جهتیابی فهرست میشوند و بازبینی یا تأیید نشدهاند.
دورهها و رشتههای Risk Academy
2 دوره و 4 رشته از Risk Academy (risksacademy.com) که دانش و روشهای این حوزه را آموزش میدهند. هر دوره سطح، جریان و ساعات یادگیری خود را فهرست میکند.
دورهها
رشتهها
تناظر میان دورهها، رشتهها و Nexus Standards با Risk Academy نگهداری میشود و تابع بازبینی علمی آن است.
برنامهها، مسیرها و دورهها برای این حوزه
GCRI Canada، The Global Risks Forum (GRF)، The Global Risks Alliance (GRA) و Risk Academy در نقشهای متمایز بر موضوع این حوزه کار میکنند (پژوهش و شواهد؛ حکمرانی، سیاست و گردهمایی؛ سرمایه، مالی و بازارها؛ آموزش و تربیت). هر مدخل بیان میکند چرا متناظر است و چه گامی پیشنهاد میکند؛ هر نهاد شرایط مشارکت خود را تعیین میکند.
پژوهش و شواهد
GCRI Canada
برنامههای پژوهشی که مشاهدات، مدلها و ارزیابیهایی را که این رکوردها توصیف میکنند تولید میکنند.
هوش مصنوعی و سامانههای خودگردانارزیابی مدل، سامانههای عاملمحور و سامانههای فیزیکی خودگردان را مطالعه میکند.برای این برنامه درخواست دهید therisk.globalAll programmes of GCRI Canadaحکمرانی، سیاستگذاری و گردهمآوری
The Global Risks Forum (GRF)
مسیرهایی که مراجع عمومی، پژوهشگران و نهادها را دربارهٔ حکمرانی ریسکهای مشترک گرد هم میآورند.
هوش مصنوعی و حکمرانی دیجیتالنظارت و پاسخگویی در هوش مصنوعی و مسئولیت در قبال عاملهای خودگردان را بررسی میکند.به این مسیر بپیوندید globalriskforum.comAll tracks of The Global Risks Forumسرمایه، مالی و بازارها
The Global Risks Alliance (GRA)
برنامههای صنعتی که در آنها نهادهای مالی درکی مشترک از ریسک سامانهای میسازند.
هوش مصنوعی و ریسک مدل مالیبر حکمرانی ریسک مدل و هوش مصنوعی مولد در مالیه کار میکند.به این برنامه بپیوندید globalriskalliance.comAll programmes of The Global Risks Allianceآموزش و کارآموزی
Risk Academy
دورهها و رشتههایی که دانش و روشهای مورد نیاز کارورزان برای بهکارگیری این استانداردها را آموزش میدهند.
فناوری و دادهRAT-204 · متوسط · 19 ساعت یادگیریمدیریت مسئولانهٔ دادههای ریسک، هوش مصنوعی، زیرساخت دیجیتال و ریسک فناوریاین دوره را بگذرانید عدم قطعیت و اطمینانRAS-404 · میانی · 29.5 ساعت یادگیریاحتمال واسنجیشده، زبان اطمینان و تصمیمگیری در شرایط عدم قطعیت عمیقاین دوره را بگذرانید همهٔ دورهها و رشتههافهرستشده در بخش آموزش و کارآموزی همین صفحهاصطلاحات کلیدی
- UNI
- Unique Nexus Identifier: a persistent identifier that resolves an artefact to its record.
- پیشنهادی
- پیشنویسی در فرایند توسعهٔ باز که شورای جهانی استانداردها هنوز آن را نپذیرفته است. هر نیمرخ حوزه پیشنهادی به دفتر ثبت Nexus Standards است.
- جدول تطبیق
- رابطهای که در آن بندهای این استانداردها با شمارهٔ بند بر بخشهایی از استاندارد بیرونی نگاشت میشوند، بدون بازتولید متن آن.
- استناد
- رابطهای که در آن استاندارد خارجی با شناسه و نشانی URL بهعنوان مرجع استناد میشود.
- پذیرش
- رابطهای که در آن استاندارد خارجی به همان شکل منتشرشده به کار میرود و مقادیر در برابر آن اعتبارسنجی میشوند.
- پروفایل سازگاری (محدود)
- رابطه با استانداردی که متن آن آزادانه در دسترس نیست: استاندارد فقط نامبرده و پیوند داده میشود و هر نمایهٔ سازگاری در صفحات حفاظتشده نگهداری میشود.
- سابقهٔ تغییر
- سابقهای عمومی از یک تغییر پیشنهادی ذیل NS-13، که ویراستاران با دلایل مکتوب دربارهٔ آن تصمیم میگیرند.
- گواهی
- An evaluator’s recorded result for one clause and one subject under NS-11.
- در جستوجوی ارتباط رسمی
- ارتباطی که گروه کاری قصد دارد از نهاد صادرکننده درخواست کند؛ ارتباط تنها زمانی برقرار میشود که آن نهاد آن را بهصورت مکتوب تأیید کند.
حوزههای مرتبط
پژوهشها و منابع اخیر
مقالههای داوریشده، پیشچاپها، گزارشها و مجموعهدادهها دربارهٔ موضوع این حوزه، که در زمان خواندن از خدمات باز فرادادهٔ علمی (OpenAlex و Crossref) بازیابی و با نویسندگان، محل انتشار، سال، نوع و وضعیت دسترسی، همراه با پیوند به هر اثر، فهرست میشوند. ارجاعات گزینششده و استانداردهای مرتبط نخست فهرست میشوند؛ آثار اخیری که بر پایهٔ موضوع منطبقاند در پی آنها برای جهتیابی میآیند.
ارجاعات گزینششده
- مدیریت ریسکهای شدید هوش مصنوعی در میانهٔ پیشرفت سریع
Science · 2024 · داوریشده - International AI Safety Report 2025
UK Department for Science, Innovation and Technology (for the report’s expert advisory panel) · 2025 · Official publication - کارتهای مدل برای گزارشدهی مدل
Proceedings of the Conference on Fairness, Accountability, and Transparency (ACM) · 2019 · داوریشده - Datasheets for datasets
Communications of the ACM · 2021 · Peer-reviewed
استانداردها و چارچوبهای مرتبط
- چارچوب مدیریت ریسک هوش مصنوعی (AI RMF 1.0)
NIST - اصول هوش مصنوعی OECD
OECD - مقررات (EU) 2024/1689 (قانون هوش مصنوعی)
پارلمان و شورای اروپا - PROV-O: The PROV Ontology
W3C - Verifiable Credentials Data Model v2.0
W3C
واژههای جستوجو، برگرفته از عنوان حوزه و مخاطرات نیمرخ آن: ایمنی هوش مصنوعی؛ ریسک هوش مصنوعی؛ ریسکهای هوش مصنوعی؛ رخدادهای هوش مصنوعی؛ آسیبهای هوش مصنوعی؛ هوش مصنوعی پیشگام؛ هوش مصنوعی همهمنظوره؛ سوءاستفاده از هوش مصنوعی؛ حوادث هوش مصنوعی؛ جنگافزارهای خودگردان. با فعال بودن JavaScript، آثار اخیر منطبق با این واژهها از OpenAlex و Crossref فهرست میشوند.
پرسش و پاسخ.
وضعیت حوزهٔ استانداردهای ریسک هوش مصنوعی و سامانههای خودمختار چیست؟
منابع داده چگونه ارائه میشوند؟
این خلاصه چگونه قابل اصلاح است؟
از همین صفحه شواهد بیفزایید.
Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع میدانید میتواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.
- ایمیلدرگاه GW-STDاز همین صفحه بفرستیدشواهد، یک اصلاح، یک مورد، یک روش، یک بازبینی، یک ترجمه یا ورودی برای نیمرخ. با برچسب این صفحه میرسد، بنابراین ویراستار مسئول آن را دریافت میکند.
- Zenodoسپردهگذاری بازآن را سپردهگذاری و به جامعه ارسال کنیدرکورد خود را با ORCID iD خود در Zenodo منتشر کنید، سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. متصدیان آن را بازبینی میکنند؛ DOI از آنِ شما باقی میماند.
- گزارشهاNexus Standardsهمهٔ راههای مشارکت را ببینیدانواع مشارکت، اینکه هر یک چگونه بازبینی میشود، چه اعتباری دریافت میکنید، پروانه و آنچه هرگز پذیرفته نمیشود.
هرگز دادههای شخصی، جزئیات حساس زیرساختی یا چیزی را که حق تسهیم آن را ندارید نفرستید. مشارکت پیش از استفاده بازبینی میشود؛ ارسال آن هیچ حق تألیف یا ویراستاری ایجاد نمیکند و حمایت مالی هرگز یافتهای را نمیخرد.
در استانداردهای ریسک هوش مصنوعی و سامانههای خودگردان مشارکت کنید
Institutions and experts are invited to propose amendments, join the working group or propose data sources. National participation is organised through each country’s National Nexus Consortium (NNC) and its National Working Groups (NWGs); competent national authorities are engaged through official channels.
وضعیت و کاربرد. Nexus Standards استانداردهای پیشنهادیاند که در فرایندی باز ذیل NS-13 تدوین و برای استفادهٔ داوطلبانه منتشر میشوند؛ گواهی، اعتباربخشی یا تأیید مقرراتی به شمار نمیآیند و پذیرش همچنان تصمیم Global Standards Council و در هر کشور تصمیم شورای ملی استاندارد آن است. یک UNI (Unique Nexus Identifier) مصنوع را شNASAیی میکند؛ آن را گواهی نمیکند. نام نهادهای استاندارد و استانداردهایشان از آنِ متولیانشان است و فقط برای شNASAیی اسناد به کار میرود؛ هیچ متنی از استانداردهای بیرونی اینجا بازتولید نمیشود. Nexus Standards وابسته به هیچیک از نهادهای استاندارد نامبرده نیست و از سوی آنها تأیید یا گواهی نشده است.
پروانهها: CC BY 4.0 برای متن استانداردها، ثبتنامهها، طرحوارهها و دادهها؛ Apache-2.0 برای کد مرجع. استانداردهای خارجی با نام، شماره و پیوند و بر اساس پروانههای خودشان ذکر میشوند. دادهها، کتابخانهها و قلمهای اشخاص ثالث پروانههای خود را حفظ میکنند: نگاه کنید به اطلاعیههای اشخاص ثالث.