Risk Academy, Nexus Consortium के नेतृत्व में · पाठ्यक्रम सूची · प्रौद्योगिकी और डिजिटल प्रणालियाँ
कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
AI सुरक्षा और मूल्यांकन
AI safety and evaluation, taught twice over: as the working methods of the field and as its frontier since 2024, with labs on the Academy's tools, open data and the Nexus Standards.
This area covers how the capabilities, reliability and risks of AI systems are tested before and after deployment: evaluation design, red-teaming, benchmarks and their limits, safety cases for frontier models and agentic systems, and incident reporting.
AI सुरक्षा और मूल्यांकन: आधार और व्यवहार
स्तर
L2 मध्यवर्ती
अध्ययन समय
लगभग 24 घंटे (योजना अनुमान)
स्थिति
लेखन में
पूर्वापेक्षाएँ
उस क्षेत्र में एक L1 पाठ्यक्रम, या एक प्रवेश समीक्षा
अभी क्यों
Shows why independent and held-out benchmarks matter when relying on vendor-reported evaluation results.
Define red-teaming and the other key terms of the discipline and use them correctly in a written case
Explain evaluation design and metrics and red-teaming and adversarial testing with a worked example and its source
विषय की पद्धति को किसी प्रलेखित मामले पर लागू करें और प्रत्येक परिणाम को उसके स्रोत के साथ समझाएँ
Analyse a named case against benchmarks and data contamination, stating evidence, date and limits
मॉड्यूल
01
Evaluation design and metrics
Evaluation design and metrics
रेड-टीमिंग और प्रतिकूल परीक्षण
Benchmarks and data contamination
02
ख़तरनाक क्षमताओं का मूल्यांकन
ख़तरनाक क्षमताओं का मूल्यांकन
Safety cases for frontier models
Agentic system evaluation
03
Monitoring after deployment
Monitoring after deployment
Incident reporting and disclosure
04
प्रयोगशाला: विषय की पद्धति
An attack success rate is measured per attempt against a stated attacker budget; the chance that at least one of k attempts succeeds grows as 1 minus (1 minus s) to the k, and a release gate compares that cumulative figure, after defences, with the level a safety case can tolerate.
किसी प्रलेखित मामले पर पद्धति लागू करें और प्रत्येक परिणाम समझाएँ
Explain what changed in AI safety and evaluation since 2024 and cite the studies, data or rules behind each change
Reproduce independent evaluation finds gap with developer self-reported scores on open data and state the uncertainty of the result
2024 से 2026 के किसी अध्ययन का मूल्यांकन करें: उसका प्रश्न, डेटा, पद्धति, सीमाएँ और वह व्यवहार में क्या बदलता है
एक ऐसा विश्लेषण तैयार करें जो किसी अग्रणी पद्धति को संकाय के उपकरणों के साथ जोड़े, और प्रत्येक विकल्प का औचित्य बताएँ
मॉड्यूल
01
Independent evaluation finds gap with developer self-reported scores
NIST's Center for AI Standards and Innovation found DeepSeek V4 Pro scored better on the developer's own evaluations than on CAISI's, including non-public benchmarks, estimating it trails leading US models by about eight months.
Shows why independent and held-out benchmarks matter when relying on vendor-reported evaluation results.
National Institute of Standards and Technology, 1 May 2026
02
UK AI Security Institute publishes first Frontier AI Trends Report
Drawing on evaluations of over 30 frontier models since 2023, the institute reports fast capability growth in cyber, chemistry and biology tasks, universal jailbreaks found in every system tested, and rising self-replication precursors.
Offers government test results on dangerous capabilities and safeguard strength that evaluators can use to benchmark their own methods.
AI Security Institute (UK), 18 December 2025
03
Key update reviews technical safeguards and frontier risk management
दूसरा प्रमुख अद्यतन पाता है कि प्रॉम्प्ट इंजेक्शन हमले दस प्रयासों में अब भी लगभग आधी बार सफल होते हैं, छोटे डेटा-विषाक्तन हमले प्रभावी हो सकते हैं, और कम से कम 12 कंपनियाँ अब फ्रंटियर सुरक्षा फ़्रेमवर्क प्रकाशित करती हैं जिनकी सीमाएँ अधिकांशतः अप्रत्यक्ष हैं।
Clarifies how much assurance current safeguards provide, which shapes red-teaming scope and residual risk judgements.
International AI Safety Report, 25 November 2025
04
Time-horizon metric measures growth in autonomous task length
Researchers proposed measuring AI capability by the length of software tasks models complete reliably, and found this horizon has doubled roughly every seven months since 2019.
Gives evaluators a trend measure for agentic capability that can inform forecasts and thresholds in safety cases.
arXiv, 18 March 2025
05
UK renames AI Safety Institute as AI Security Institute
The UK government renamed the institute and refocused it on serious AI risks with security implications, such as chemical and biological misuse, cyber-attacks, fraud and child abuse material, adding a criminal misuse team.
Signals how a leading public evaluator now prioritises security-related misuse in its testing agenda.
UK Department for Science, Innovation and Technology, 14 February 2025
06
पुनरुत्पादन प्रयोगशाला
विषय की पद्धति को एक अग्रणी पद्धति से विस्तारित करें और उनके परिणामों की तुलना करें
The Academy proposes how each discipline teaches toward the Nexus Standards; the mapping is open for public review. Bodies and standards are named so learners can find and apply their published work; the Academy teaches their use and links to the publisher, and no affiliation is implied.
04लाइव मानचित्र
यूनाइटेड किंगडम और आयरलैंड में संबद्ध गतिविधि
रात्रिकालीन रोशनी और जनसंख्या घनत्व, विद्युतीकृत, संबद्ध गतिविधि का पदचिह्न, यूनाइटेड किंगडम और आयरलैंड के ऊपर।
इंटरैक्टिव मानचित्र के लिए JavaScript आवश्यक है; परतों की सूची और स्रोत नीचे दिए गए हैं।
2020 में प्रति वर्ग किलोमीटर लोगों का जनगणना-आधारित अनुमान, जोखिम-संपर्क के संदर्भ के रूप में दिखाया गया; यह किसी संकट से प्रभावित लोगों की गिनती नहीं है।
इसके माध्यम से पहुँचा गया
gibs.earthdata.nasa.gov, केवल तब जब आप लाइव मानचित्र की अनुमति दें
उपग्रह छवि। प्रदाता द्वारा प्रकाशित रूप में उपग्रह या मॉडल रास्टर। बादल, स्वाथ अंतराल और पुनर्प्राप्ति त्रुटियाँ अंतराल और नॉइज़ छोड़ती हैं; मान संकेतक हैं, किसी स्थान पर किए गए माप नहीं।
इसके माध्यम से पहुँचा गया
gibs.earthdata.nasa.gov, केवल तब जब आप लाइव मानचित्र की अनुमति दें
कीबोर्ड, मानचित्र पर फ़ोकस होने पर
ज़ूम करने के लिए Ctrl या ⌘ दबाए रखें और स्क्रॉल करें
हिलाने के लिए खींचें। ज़ूम के लिए Ctrl या ⌘ के साथ स्क्रॉल करें, पिंच करें या बटनों का उपयोग करें; पॉइंटर के नीचे के मान देखने के लिए ऊपर ले जाएँ; रीसेट करने पर क्षेत्र पर लौटता है।
संबद्ध गतिविधि, यूनाइटेड किंगडम और आयरलैंड पर केंद्रित।उपग्रह और मॉडल उत्पाद, जैसा NASA उन्हें प्रकाशित करता है, प्रत्येक की अपनी तिथि सहित। ये संकेतक हैं, किसी स्थान का आकलन नहीं।
हम NASA की Global Imagery Browse Services (GIBS) द्वारा प्रदान की गई इमेजरी के उपयोग के लिए आभार व्यक्त करते हैं, जो NASA की Earth Science Data and Information System (ESDIS) का भाग है। रंग प्रकाशित रंग मानचित्र से पुनः बनाए गए हैं; जहाँ दर्शाया गया है, मान H3 सेलों में औसत किए गए हैं (संशोधित)। NASA खुला डेटा
हम NASA की Global Imagery Browse Services (GIBS) द्वारा प्रदान की गई इमेजरी के उपयोग के लिए आभार व्यक्त करते हैं, जो NASA की Earth Science Data and Information System (ESDIS) का भाग है। रंग प्रकाशित रंग मानचित्र से पुनः बनाए गए हैं; जहाँ दर्शाया गया है, मान H3 सेलों में औसत किए गए हैं (संशोधित)। NASA खुला डेटा
VIIRS Black Marble रात्रिकालीन प्रकाश, NASA Goddard Space Flight Center; NASA Level-1 and Atmosphere Archive and Distribution System (LAADS DAAC) द्वारा वितरित; इमेजरी NASA GIBS के माध्यम से। रंग प्रकाशित रंग मानचित्र से पुनः बनाए गए हैं; जहाँ दर्शाया गया है, मान H3 सेलों में औसत किए गए हैं (संशोधित)। NASA खुला डेटा
Center for International Earth Science Information Network (CIESIN), Columbia University. 2018. Gridded Population of the World, Version 4 (GPWv4): Population Density, Revision 11. NASA Socioeconomic Data and Applications Center (SEDAC). Licensed under CC BY 4.0. Colours redrawn from the published colour map; values averaged into H3 cells where shown (modified). doi:10.7927/H49C6VHW. CC BY 4.0
VIIRS लगभग वास्तविक-समय उत्पाद (बाढ़, भू-सतह तापमान, हिम आवरण, संशोधित परावर्तकता), NASA LANCE; चित्र NASA GIBS के माध्यम से। रंग प्रकाशित रंग मानचित्र से पुनः बनाए गए हैं; जहाँ दर्शाया गया है, मान H3 सेलों में औसत किए गए हैं (संशोधित)। NASA खुला डेटा
ASTER GDEM, METI और NASA का एक उत्पाद है (ASTER Global Digital Elevation Model V003, NASA LP DAAC); इमेजरी NASA GIBS के माध्यम से। रंग प्रकाशित रंग मानचित्र से पुनः बनाए गए हैं; जहाँ दर्शाया गया है, मान H3 सेलों में औसत किए गए हैं (संशोधित)। उद्धरण: NASA/METI/AIST/Japan Spacesystems and U.S./Japan ASTER Science Team (2019). ASTER Global Digital Elevation Model V003. doi:10.5067/ASTER/ASTGTM.003. NASA खुला डेटा
Natural Earth के साथ निर्मित। निःशुल्क वेक्टर और रास्टर मानचित्र डेटा @ naturalearthdata.com। सार्वजनिक क्षेत्र
Blue Marble, NASA Earth Observatory; इमेजरी NASA GIBS के माध्यम से। रंग प्रकाशित रंग मानचित्र से पुनः बनाए गए हैं; जहाँ दर्शाया गया है, मान H3 सेलों में औसत किए गए हैं (संशोधित)। NASA खुला डेटा
प्रत्यक्ष घटनाएँ: NASA Earth Observatory Natural Event Tracker (EONET)। घटनाएँ सांकेतिक हैं और अपने मूल स्रोत लिंक रखती हैं।
NASA GIBS: हम NASA की Global Imagery Browse Services (GIBS) द्वारा उपलब्ध कराई गई इमेजरी के उपयोग को स्वीकार करते हैं, जो NASA की Earth Science Data and Information System (ESDIS) का भाग है।
वैकल्पिक परतें (परत सूची में 3 स्रोत: लाइव, पूर्वानुमान, प्रेक्षित और संदर्भ) चालू करने पर मानचित्र पर और यहाँ अपने प्रदाता का श्रेय प्रदर्शित करती हैं; पूर्वानुमान मॉडल के आउटपुट हैं और व्युत्पन्न सूचकांक अनुमान हैं।
परतें और तिथियाँ
रात्रिकालीन प्रकाश, दैनिक: VIIRS Black Marble (VNP46A2), NASA LAADS DAAC · 12 अक्टूबर 2026
Population density, 2020: Population: CIESIN, Columbia University, Gridded Population of the World v4.11 (2018), NASA SEDAC, CC BY 4.0 · static
अधिगम कैसे संचालित होता है, एक ऐसी प्रक्रिया के रूप में जिसे आप चला सकते हैं
8 steps · 4 stages · 2 gates · 16 processes
कोई परिदृश्य चुनें और Play दबाएँ: पाठ्यक्रम, मार्ग, अभ्यास, संकाय, कक्ष और अभिलेख।
Risk Academy
Course, catalogue to completion
A free course pairs one discipline's methods with a real place, open data and standards, with module checks, assessed work and a completion record.
Scenarios Course · Practice · Record
01 Open
01
Choose a course
Start · the learner
Find the course in the catalogue, by faculty, level, kind or the standard it teaches.
02
Entry check
Gate · the course
The prerequisites say what to study first; an entry review stands in for them.
02 Study
03
सीख
Step · the learner
Read and work through the lessons, self-paced or with a cohort.
04
Labs on the twin
Exercise · the learner, on the faculty twin
Run the discipline's method and the faculty instruments on the twin of a real place.
03 Assess
05
Module checks
Gate · the course
Each module ends with a short check against its outcomes.
06
Assessed work
Decision · reviewers and peers
A lab record, a case memo and a key terms check, with peer review where the course asks for it.
04 Record
07
समापन अभिलेख
Record · the Academy
The record names the course, its version and the date; it is the learner's to share.
08
Next course
Outcome · the learner
The record stacks into the discipline and pathway achievements, and the next course opens.
How learning works · Courses An outline of how the work is designed to run; it does not report the status of any decision or record.
06भाग लें
कार्य में भाग लें
अपनी पहचान से आरंभ करें।
मार्ग
मार्ग
राष्ट्रीय संस्थाएँ
मंत्रालय, सांख्यिकी कार्यालय और एजेंसियाँ: एक राष्ट्रीय डेस्क और अध्याय, और कार्य समूहों में एक सीट। राष्ट्रीय अध्याय
मार्ग
क्षेत्रक और पेशे
संचालक, नियामक, बैंक, बीमाकर्ता और पेशेवर निकाय जिनका काम प्रणालीगत जोखिम से जुड़ा है। संगठनों के लिए
मार्ग
अधिगम
पाठ्यक्रम और अभ्यास, हर पूरे किए गए पाठ्यक्रम के रिकॉर्ड के साथ। अध्ययन निःशुल्क है। खुला शिक्षण
मार्ग
मानक
कार्य समूहों के साथ पद्धतियों और डेटा मानकों का मसौदा बनाएँ, समीक्षा करें और उन्हें अपनाएँ। कार्य समूह
मार्ग
समुदाय और अनुसंधान
विश्वविद्यालय, नागरिक समाज और व्यक्तिगत विशेषज्ञ: परियोजनाएँ, डेटा और समीक्षा। Academy को लिखें
खुली पुकारें
खुला आह्वान
खोजता है
समापन
कार्य समूहों के लिए विशेषज्ञों का संस्थापक आह्वान CALL-FOUNDING-EXPERTS
विशेषज्ञ, संपादक, अध्यक्ष
2026-12-15
Global Standards Council की तीन स्वतंत्र विशेषज्ञ सीटों के लिए खुला नामांकन CALL-GSC-IND
परिषद-सदस्य
2026-12-01
अंतरिम क्षेत्रीय सदस्यों के नामांकन (केवल तभी लागू जब संक्रमणकालीन प्रावधान तय हो) CALL-GSC-REG
परिषद-सदस्य
2026-12-15
चरण 1 की जोखिम कोर रूपरेखाओं (C1, C2, C3, C4, C8, C10, C11) की समीक्षा CALL-REVIEW-WAVE1
योगदानकर्ता
2027-01-31
जोखिम विज्ञान के मुख्य मानकों के लिए विशेषज्ञ: अनिश्चितता और साक्ष्य श्रेणीकरण, पैमाने, संरचित विशेषज्ञ निर्णय, सहनीयता, चरम और संयुक्त घटनाएँ, विनाशकारी और अस्तित्वगत जोखिम, नैतिकता और समता, इकाइयाँ और मापन (NRS-C17 से NRS-C24) CALL-CORE-SCIENCE
विशेषज्ञ, संपादक, अध्यक्ष
2027-01-31
संकट एटलस के परिवारों के लिए स्वतंत्र समीक्षक, हर परिवार के लिए कम से कम दो क्षेत्रों से तीन (NHS2-R19), प्राथमिकता वाले परिवार पहले CALL-ATLAS-REVIEW
विशेषज्ञ
2027-03-31
अंतरिम Frontier Safety Review Panel के सदस्य और रेड-टीम समीक्षक (जैव-सुरक्षा और जैव-संरक्षा, AI सुरक्षा और संरक्षा, महत्वपूर्ण अवसंरचना सुरक्षा); आवेदनों को गोपनीय रखा जाता है CALL-FRONTIER-SAFETY-REVIEW
विशेषज्ञ
2026-11-30
आवश्यकता रजिस्टर, NHS-2 मशीन निरूपण, अनुरूपता परीक्षण सूट और अनुरूपता मूल्यांकन योजना के लिए ऑन्टोलॉजी, मापिकी, सॉफ़्टवेयर सत्यापन और अनुरूपता मूल्यांकन के विशेषज्ञ CALL-CONFORMANCE-ONTOLOGY
विशेषज्ञ, संपादक
2027-01-31
अंतिम तिथि बीत चुकी कॉल अपने-आप छिप जाती हैं। हर कॉल, प्रस्ताव और मार्ग: खुले क्षेत्र और कॉल.
सेल
A cell is a small team with a clear mission, a host and a record of what it does. Choose the type that fits.
University, student and national chapter teams. Open
A cell acts within its host's rules and never replaces an authority. A CERT works alongside the local emergency services, follows their direction and is not an emergency service.
How a cell forms
01
प्रकोष्ठ बनाएँ
पूरक कौशल वाले तीन से सात लोगों को साथ लाएँ: डेटा, क्षेत्रीय अभ्यास, नीति और संचार।
02
Choose a type
Pick the kind of cell that fits the work, from the gallery below. A cell can add a second focus later. See the types
03
इसे पंजीकृत करें
Name the cell, its members, area and region, and who hosts it. You receive a reference and a contact. Form a cell
04
साथ मिलकर सीखें
Risk Academy में अभ्यास और हर पूरे किए गए पाठ्यक्रम के रिकॉर्ड के साथ साझा अध्ययन पथों का पालन करें। आपदाएँ और लचीलापन
05
नेतृत्व करें और रिपोर्ट करें
Hold regular sessions. Publish what the cell learns through Reports. Bring findings to the working groups. Working groups
सूचकांक
What a national team or a local community can do on The Global Risks Index (NXS-GRX) today.
NXS-GRX
आपके देश का प्रोफ़ाइल
195 देशों के खुले जोखिम प्रोफ़ाइल, हर मान पर स्रोत और लाइसेंस के साथ। सूचकांक खोलें
NXS-GRX
सुधारें या उत्तर दें
अपने देश के लिए कोई मान सुधारें या उत्तर दें। परिवर्तन उसके प्रभाव के साथ लॉग किया जाता है। सूचकांक खोलें
NXS-GRX
डेटा दें
एक डेटासेट दें। यह लाइसेंस गेट से होकर, आपके श्रेय के साथ प्रवेश करता है। सूचकांक खोलें
NXS-GRX
खुले डेटा का उपयोग करें
खुले API के माध्यम से परतें, प्रोफ़ाइल और टाइलें। सूचकांक खोलें
07प्रश्न
प्रश्न, उत्तर और मुख्य शब्द
क्या पाठ्यक्रम निःशुल्क है?
हाँ। Nexus Consortium के नेतृत्व में Risk Academy का प्रत्येक पाठ्यक्रम और अधिगम सामग्री अध्ययन के लिए निःशुल्क है, स्व-गति से या समूह के साथ। सामान्य भागीदारी पर कोई शुल्क नहीं है; सशुल्क कार्य, इंटर्नशिप और फ़ेलोशिप अलग व्यवस्थाएँ हैं।
पाठ्यक्रम पूरा करने से मुझे क्या मिलता है?
समापन अभिलेख: पाठ्यक्रम, उसका संस्करण, तिथि और क्या मूल्यांकित हुआ, जो डिफ़ॉल्ट रूप से निजी रहता है और आपके द्वारा साझा किया जाता है। यह विषय, विभाग और कार्यक्रम की उपलब्धियों में संचित होता है। अभिलेख बताता है कि क्या पढ़ा और मूल्यांकित किया गया; यह सक्षमता को प्रमाणित नहीं करता। यह कोई लाइसेंस, व्यावसायिक उपाधि या रोज़गार की स्थिति नहीं है।
डेटा और स्थान कहाँ से आते हैं?
प्रत्येक संकाय खुले डेटा से निर्मित किसी वास्तविक स्थान के डिजिटल ट्विन पर पढ़ाता है; प्रत्येक परत में उसका प्रदाता, लाइसेंस और तिथि दर्ज होती है, और Academy का प्रत्येक परिणाम अपना स्रोत बताता है। मानचित्र और आँकड़े शिक्षण के लिए संकेतक हैं, किसी स्थान का आकलन कभी नहीं।
मैं पाठ्यक्रम से परे कैसे भाग ले सकता हूँ?
तीन से सात लोगों का एक दक्षता प्रकोष्ठ बनाएँ, साझा मार्ग का अध्ययन करें, National Working Groups में पर्यवेक्षित कार्यभार लें, या अपनी संस्था से एक समूह लाएँ। संगठनों के लिए.
मुख्य शब्द
Red-teaming
किसी प्रणाली को विफल या ग़लत व्यवहार करने पर मजबूर करने के संरचित प्रयास, ताकि दूसरों से पहले कमज़ोरियाँ मिल जाएँ।
बेंचमार्क संदूषण
जब परीक्षण डेटा किसी मॉडल के प्रशिक्षण डेटा में पहुँच जाता है, तो स्कोर उसकी क्षमता को बढ़ाकर दिखाते हैं।
सुरक्षा प्रकरण
साक्ष्य द्वारा समर्थित एक संरचित तर्क कि कोई प्रणाली किसी दिए गए उपयोग के लिए स्वीकार्य रूप से सुरक्षित है।
अग्रणी मॉडल
एक सामान्य-उद्देश्य AI मॉडल जो किसी समय उपलब्ध सर्वाधिक सक्षम स्तर पर या उसके निकट हो।
प्रतिवेदनयोगदान दें
इस पृष्ठ से साक्ष्य का योगदान करें।
Reports is the Consortium's quarterly publication, written by six desks. This page sits with the Academy Capability desk. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work. Sent to the wrong desk, it is forwarded, not refused.
व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।
Study AI safety and evaluation with us, or teach it
प्रत्येक पाठ्यक्रम निःशुल्क और खुला है। संस्थान और विशेषज्ञ सह-शिक्षण कर सकते हैं, किसी समूह की मेज़बानी कर सकते हैं, प्रयोगशाला का योगदान दे सकते हैं या किसी पाठ्यक्रम के खुलने से पहले उसकी समीक्षा कर सकते हैं।
यह साइट केवल उन्हीं कुकीज़ का उपयोग करती है जो इसके काम करने और आपके गोपनीयता विकल्पों को याद रखने के लिए अनिवार्य रूप से आवश्यक हैं। अन्य कंपनियों से कुछ भी लोड नहीं होता, और हम आपकी व्यक्तिगत जानकारी कभी नहीं बेचते या साझा करते।
विवरण
यह साइट केवल उन्हीं कुकीज़ का उपयोग करती है जो इसके काम करने और आपके गोपनीयता विकल्पों को याद रखने के लिए अनिवार्य रूप से आवश्यक हैं। अन्य कंपनियों से कुछ भी लोड नहीं होता, और हम आपकी व्यक्तिगत जानकारी कभी नहीं बेचते या साझा करते। हम कोई विज्ञापन नहीं चलाते। आप प्रत्येक पृष्ठ के नीचे दिए गोपनीयता विकल्पों के माध्यम से किसी भी समय अपने विकल्पों की समीक्षा कर सकते हैं।