Risk Academy, led by the Nexus Consortium · Course catalogue · Technology and Digital Systems
Zîrekiya çêkirî û pergalên xweser
Ewlehî û nirxandina AI
AI safety and evaluation, taught twice over: as the working methods of the field and as its frontier since 2024, with labs on the Academy's tools, open data and the Nexus Standards.
AI safety and evaluation: foundations and practice
This area covers how the capabilities, reliability and risks of AI systems are tested before and after deployment: evaluation design, red-teaming, benchmarks and their limits, safety cases for frontier models and agentic systems, and incident reporting.
AI safety and evaluation: foundations and practice
Aste
L2 Intermediate
Study time
about 24 hours (planning estimate)
Rewş
In authoring
Prerequisites
An L1 course in the area, or an entry review
Why now
Shows why independent and held-out benchmarks matter when relying on vendor-reported evaluation results.
Define red-teaming and the other key terms of the discipline and use them correctly in a written case
Explain evaluation design and metrics and red-teaming and adversarial testing with a worked example and its source
Apply the discipline's method to a documented case and explain each result with its source
Analyse a named case against benchmarks and data contamination, stating evidence, date and limits
Modules
01
Evaluation design and metrics
Evaluation design and metrics
Red-teaming and adversarial testing
Benchmarks and data contamination
02
Dangerous capability evaluations
Dangerous capability evaluations
Safety cases for frontier models
Agentic system evaluation
03
Monitoring after deployment
Monitoring after deployment
Incident reporting and disclosure
04
Lab: the discipline's method
An attack success rate is measured per attempt against a stated attacker budget; the chance that at least one of k attempts succeeds grows as 1 minus (1 minus s) to the k, and a release gate compares that cumulative figure, after defences, with the level a safety case can tolerate.
Work the method through a documented case and explain each result
Explain what changed in AI safety and evaluation since 2024 and cite the studies, data or rules behind each change
Reproduce independent evaluation finds gap with developer self-reported scores on open data and state the uncertainty of the result
Evaluate a 2024 to 2026 study: its question, data, method, limits and what it changes for practice
Design an analysis that combines a frontier method with the faculty's instruments, and justify each choice
Modules
01
Independent evaluation finds gap with developer self-reported scores
NIST's Center for AI Standards and Innovation found DeepSeek V4 Pro scored better on the developer's own evaluations than on CAISI's, including non-public benchmarks, estimating it trails leading US models by about eight months.
Shows why independent and held-out benchmarks matter when relying on vendor-reported evaluation results.
National Institute of Standards and Technology, 1 May 2026
02
UK AI Security Institute publishes first Frontier AI Trends Report
Drawing on evaluations of over 30 frontier models since 2023, the institute reports fast capability growth in cyber, chemistry and biology tasks, universal jailbreaks found in every system tested, and rising self-replication precursors.
Offers government test results on dangerous capabilities and safeguard strength that evaluators can use to benchmark their own methods.
AI Security Institute (UK), 18 December 2025
03
Key update reviews technical safeguards and frontier risk management
The second key update finds prompt injection attacks still succeed about half the time with ten attempts, small data-poisoning attacks can be effective, and at least 12 companies now publish frontier safety frameworks with mostly implicit thresholds.
Clarifies how much assurance current safeguards provide, which shapes red-teaming scope and residual risk judgements.
International AI Safety Report, 25 November 2025
04
Time-horizon metric measures growth in autonomous task length
Researchers proposed measuring AI capability by the length of software tasks models complete reliably, and found this horizon has doubled roughly every seven months since 2019.
Gives evaluators a trend measure for agentic capability that can inform forecasts and thresholds in safety cases.
arXiv, 18 March 2025
05
UK renames AI Safety Institute as AI Security Institute
The UK government renamed the institute and refocused it on serious AI risks with security implications, such as chemical and biological misuse, cyber-attacks, fraud and child abuse material, adding a criminal misuse team.
Signals how a leading public evaluator now prioritises security-related misuse in its testing agenda.
UK Department for Science, Innovation and Technology, 14 February 2025
06
Reproduction lab
Extend the discipline's method with one frontier method and compare its results
State the uncertainty and the limits of the result
The Academy proposes how each discipline teaches toward the Nexus Standards; the mapping is open for public review. Bodies and standards are named so learners can find and apply their published work; the Academy teaches their use and links to the publisher, and no affiliation is implied.
04Nexşeya zindî
Connected activity in the United Kingdom and Ireland
Night-time lights and population density, the footprint of electrified, connected activity, over the United Kingdom and Ireland.
Nexşeya înteraktîf JavaScript hewce dike; lîsteya qatan û çavkanî li jêr in.
Texmîna li ser bingeha serjimêriyê ya mirovan ji bo her kîlometre çargoşeyekê di 2020 de, wekî çarçoveya rûbirûbûnê tê nîşandan; ne jimara mirovên ji hêla tu metirsiyê ve bandor bûne ye.
Bi vê rêyê tê gihîştin
gibs.earthdata.nasa.gov, tenê piştî ku hûn nexşeya zindî destûr bidin
Wêneyê peykî. Rasterê peykî an modelî wekî peydakar diweşîne. Ewr, valahiyên şeritê û çewtiya wergirtinê valahî û xîrecir dihêlin; nirx nîşander in, ne pîvanên li cihekî ne.
Bi vê rêyê tê gihîştin
gibs.earthdata.nasa.gov, tenê piştî ku hûn nexşeya zindî destûr bidin
Bikişîne da ku bilivîne. Ctrl an ⌘ û zivirandin, pincandin an bişkojkan ji bo nêzîkkirinê; ji bo nirxên di bin nîşanderê de li ser bisekine; vegerandin vedigere herêmê.
Connected activity, framed on the United Kingdom and Ireland.Satellite and model products as NASA publishes them, each with its own date. They are indicators, not assessments of any place.
Em spasiya xwe ji bo bikaranîna wêneyên ku ji xizmetên Global Imagery Browse Services (GIBS) yên NASA têne peydakirin, ku beşek ji Earth Science Data and Information System (ESDIS) a NASA ye, pêşkêş dikin. Reng ji nexşeya rengan a weşandî ji nû ve hatine xêzkirin; nirx li cihên ku têne nîşandan di nav şaneyên H3 de hatine navînkirin (hatine guherandin). Daneyên vekirî yên NASA
Em spasiya xwe ji bo bikaranîna wêneyên ku ji xizmetên Global Imagery Browse Services (GIBS) yên NASA têne peydakirin, ku beşek ji Earth Science Data and Information System (ESDIS) a NASA ye, pêşkêş dikin. Reng ji nexşeya rengan a weşandî ji nû ve hatine xêzkirin; nirx li cihên ku têne nîşandan di nav şaneyên H3 de hatine navînkirin (hatine guherandin). Daneyên vekirî yên NASA
VIIRS Black Marble ronahiyên şevê, NASA Goddard Space Flight Center; ji aliyê NASA Level-1 and Atmosphere Archive and Distribution System (LAADS DAAC) ve tê belavkirin; wêne bi NASA GIBS. Reng ji nexşeya rengan a weşandî ji nû ve hatine kişandin; nirx li şaneyên H3 yên ku têne nîşandan hatine navînkirin (hatiye guhertin). Daneyên vekirî yên NASA
Center for International Earth Science Information Network (CIESIN), Columbia University. 2018. Gridded Population of the World, Version 4 (GPWv4): Population Density, Revision 11. NASA Socioeconomic Data and Applications Center (SEDAC). Licensed under CC BY 4.0. Colours redrawn from the published colour map; values averaged into H3 cells where shown (modified). doi:10.7927/H49C6VHW. CC BY 4.0
Berhemên VIIRS yên hema dema rast (lehî, germahiya rûyê erdê, berfa li erdê, refleksiya rastkirî), NASA LANCE; wêne bi NASA GIBS. Reng ji nexşeya rengan a weşandî ji nû ve hatine kişandin; nirx li şaneyên H3 yên ku têne nîşandan hatine navînkirin (hatiye guhertin). Daneyên vekirî yên NASA
ASTER GDEM berhemek METI û NASA ye (ASTER Global Digital Elevation Model V003, NASA LP DAAC); wêne bi riya NASA GIBS. Reng ji nexşeya rengan a weşandî ji nû ve hatine xêzkirin; nirx li cihên ku têne nîşandan di nav şaneyên H3 de hatine navînkirin (hatine guherandin). Wiha bide nîşan: NASA/METI/AIST/Japan Spacesystems and U.S./Japan ASTER Science Team (2019). ASTER Global Digital Elevation Model V003. doi:10.5067/ASTER/ASTGTM.003. Daneyên vekirî yên NASA
Bi Natural Earth hatiye çêkirin. Daneyên nexşeyê yên vektor û raster ên belaş @ naturalearthdata.com. Giştî
Blue Marble, NASA Earth Observatory; wêne bi riya NASA GIBS. Reng ji nexşeya rengan a weşandî ji nû ve hatine xêzkirin; nirx li cihên ku têne nîşandan di nav şaneyên H3 de hatine navînkirin (hatine guherandin). Daneyên vekirî yên NASA
Bûyerên zindî: NASA Earth Observatory Natural Event Tracker (EONET); bûyer nîşanî ne û girêdanên çavkaniya xwe ya orîjînal diparêzin.
NASA GIBS: Em bikaranîna wêneyên ku ji aliyê xizmetên NASA Global Imagery Browse Services (GIBS), beşek ji NASA Earth Science Data and Information System (ESDIS), hatine peydakirin, pêşwazî dikin.
Tebeqeyên vebijarkî (3 çavkanî di lîsteya tebeqeyan de: zindî, pêşbînî, çavdêrîkirî û çarçove) dema ku vedibin krediya pêşkêşkerê xwe li ser nexşeyê û li vir çap dikin; pêşbînî encamên modelê ne û nîşaneyên jêderketî texmîn in.
Tebeqe û dîrok
Ronahiya şevê, rojane: VIIRS Black Marble (VNP46A2), NASA LAADS DAAC · 12 Cotmeh 2026
Population density, 2020: Population: CIESIN, Columbia University, Gridded Population of the World v4.11 (2018), NASA SEDAC, CC BY 4.0 · static
Fêrbûn çawa dimeşe, wekî pêvajoyeke ku tu dikarî bimeşînî
8 steps · 4 stages · 2 gates · 16 processes
Senaryoyekê hilbijêre û Lîstikê bitikîne: kurs, rê, pratîk, fakulte, şane û tomar.
Risk Academy
Course, catalogue to completion
A free course pairs one discipline's methods with a real place, open data and standards, with module checks, assessed work and a completion record.
Scenarios Course · Practice · Record
01 Open
01
Choose a course
Start · the learner
Find the course in the catalogue, by faculty, level, kind or the standard it teaches.
02
Entry check
Gate · the course
The prerequisites say what to study first; an entry review stands in for them.
02 Study
03
Ders
Step · the learner
Read and work through the lessons, self-paced or with a cohort.
04
Labs on the twin
Exercise · the learner, on the faculty twin
Run the discipline's method and the faculty instruments on the twin of a real place.
03 Assess
05
Module checks
Gate · the course
Each module ends with a short check against its outcomes.
06
Assessed work
Decision · reviewers and peers
A lab record, a case memo and a key terms check, with peer review where the course asks for it.
04 Record
07
Tomara temamkirinê
Record · the Academy
The record names the course, its version and the date; it is the learner's to share.
08
Next course
Outcome · the learner
The record stacks into the discipline and pathway achievements, and the next course opens.
How learning works · Courses An outline of how the work is designed to run; it does not report the status of any decision or record.
06Beşdar bibe
Beşdarî xebatê bibe
Ji kî bûna xwe dest pê bike.
Rê
Rê
Saziyên neteweyî
Wezaret, ofîsên statîstîkê û ajansan: masa neteweyî û beşa neteweyî, û kursiyek di komên xebatê de. Beşên neteweyî
Rê
Sektor û pîşe
Operator, rêkxer, bank, sîgorteker û saziyên pîşeyî yên ku xebata wan bi xetera pergalî ve girêdayî ye. Ji bo rêxistinan
Rê
Fêrbûn
Kurs û pratîk, bi qeydeke her kursa temamkirî. Xwendin belaş e. Fêrbûnê veke
Rê
Standards
Rêbaz û standardên daneyê bi komên xebatê re pêşnûme bike, binirxîne û bipejirîne. Komên xebatê
Rê
Civak û lêkolîn
Universities, civil society and individual experts: projects, data and review. Write to the Academy
Banggewaziyên vekirî
Banggewaziya vekirî
Digere
Digire
Banga damezrandinê ya ji bo pisporan ji bo komên xebatê CALL-FOUNDING-EXPERTS
pispor, edîtor, serok
2026-12-15
Berjêrkirina vekirî ji bo sê kursiyên pisporên serbixwe yên Global Standards Council CALL-GSC-IND
endamê-encûmenê
2026-12-01
Berendamkirinên endamên herêmî yên demkî (tenê heke maddeya veguhêz were biryardan) CALL-GSC-REG
endamê-encûmenê
2026-12-15
Nirxandina xeta bingehîn a xetereyê ya pêla 1 (C1, C2, C3, C4, C8, C10, C11) CALL-REVIEW-WAVE1
tevkar
2027-01-31
Pispor ji bo standardên bingehîn ên zanista xetereyê: nediyarî û pileyên delîlan, pîvan, nirxandina pisporan a sazkirî, tehemulbûn, nirxên giran û bûyerên tevlihev, xetera karesatî û hebûnî, etîk û wekhevî, yekeyan û pîvandin (NRS-C17 heta NRS-C24) CALL-CORE-SCIENCE
pispor, edîtor, serok
2027-01-31
Nirxandkarên serbixwe ji bo malbatên atlasa metirsiyan, sê ji herî kêm du herêman ji bo her malbatê (NHS2-R19), malbatên pêşîn bi pêşî CALL-ATLAS-REVIEW
pispor
2027-03-31
Endamên Panela Vekolîna Ewlehiya Sînor a demkî û vekolînerên tîma sor (ewlehiya biyolojîk, ewlehiya AI, ewlehiya binesaza girîng); serlêdan bi nepenî têne rêvebirin CALL-FRONTIER-SAFETY-REVIEW
pispor
2026-11-30
Pisporên ontolojî, metrolojî, verastkirina nermalavê û nirxandina lihevhatinê ji bo qeyda pêdiviyan, nûnertiya makîneyî ya NHS-2, komên ceribandina lihevhatinê û pîlana nirxandina lihevhatinê CALL-CONFORMANCE-ONTOLOGY
pispor, edîtor
2027-01-31
Banggewazî yên ku dîroka girtinê borandine bi xweber têne veşartin. Hemû banggewazî, pêşniyar û rê: qad û banggewazî yên vekirî.
Şane
A cell is a small team with a clear mission, a host and a record of what it does. Choose the type that fits.
University, student and national chapter teams. Open
A cell acts within its host's rules and never replaces an authority. A CERT works alongside the local emergency services, follows their direction and is not an emergency service.
How a cell forms
01
Şaneyê kom bike
Sê heta heft kesan bi jêhatîbûnên temamker bi hev re bînin cem hev: dane, pratîka zeviyê, siyaset û ragihandin.
02
Choose a type
Pick the kind of cell that fits the work, from the gallery below. A cell can add a second focus later. See the types
03
Tomar bike
Name the cell, its members, area and region, and who hosts it. You receive a reference and a contact. Form a cell
04
Bi hev re fêr bibin
Rêyên xwendinê yên hevpar ên xetereyê li Risk Academy bişopîne, bi pratîk û tomara her kursa qediyayî. Metirsî û berxwedan
05
Rêve bibe û raporê bide
Hold regular sessions. Publish what the cell learns through Reports. Bring findings to the working groups. Working groups
Index
What a national team or a local community can do on The Global Risks Index (NXS-GRX) today.
NXS-GRX
Profîla welatê te
Profîlên xetereyê yên vekirî ji bo 195 welatan, bi çavkanî û lîsansê li ser her nirxê. Index veke
NXS-GRX
Rast bike an bersiv bide
Nirxekê rast bike an ji bo welatê xwe bersiv bide. Guhertin bi bandora xwe tê tomarkirin. Index veke
NXS-GRX
Daneyên pêşkêşiyê
Daneseteke pêşkêş bike. Ew bi derîyê lîsansê re bi krediya we dikeve. Index veke
NXS-GRX
Daneyên vekirî bikar bîne
Qat, profîl û kaşêl bi riya API ya vekirî. Index veke
07Pirs
Pirs, bersiv û têgehên sereke
Is the course free?
Erê. Her kurs û materyalê fêrbûnê yê Risk Academy, bi rêberiya Nexus Consortium, xwendina wê belaş e, bi leza xwe an bi komekê re. Beşdariya asayî tu xercê nîne; xebata bi pere, stajyerî û bûrs rêkeftinên cuda ne.
Temamkirina kursekê çi dide min?
Tomara temamkirinê: kurs, guhertoya wê, dîrok û tiştê ku hat nirxandin, bi awayê xwerû taybet e û tu parve dikî. Ew li ser hev kom dibe bo destkeftên dîsîplîn, beş û bernameyê. Tomarek diyar dike çi hat xwendin û nirxandin û jêhatîbûnê piştrast nake; ew ne lîsans, ne sernavê pîşeyî û ne rewşa kar e.
Dane û cih ji ku tên?
Her fakulte li ser cêwîyekî cihekî rastîn ê ji daneyên vekirî hatî avakirin ders dide; her qat peydaker, lîsans û dîroka xwe hildigire, û her encam li ser Academy çavkaniya xwe diyar dike. Nexşe û wêne ji bo fêrkirinê nîşander in, qet ne nirxandina cihekî ne.
How do I take part beyond the course?
Şaneyeke jêhatîbûnê ya ji sê heta heft kesan ava bike, rêyeke hevpar bixwîne, di Komên Xebatê yên Neteweyî de peywireke bi çavdêrî bigire, an komeke ji saziya xwe bîne. Ji bo rêxistinan.
Têgehên sereke
Red-teaming
Structured attempts to make a system fail or misbehave, to find weaknesses before others do.
Benchmark contamination
When test data have leaked into a model's training data, so scores overstate its ability.
Safety case
A structured argument, supported by evidence, that a system is acceptably safe for a given use.
Frontier model
A general-purpose AI model at or near the most capable level available at a given time.
rêzeya Pergalên StratejîkBeşdar bibe
Ji vê rûpelê delîl bidin.
Reports is the Consortium's quarterly publication, written by six desks. This page sits with the Academy Capability desk. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work. Sent to the wrong desk, it is forwarded, not refused.
Tu carî daneyên şexsî, hûrgiliyên binesaza hesas an tiştekî ku mafê we yê parvekirinê tune ne neşînin. Beşdarî berî bikaranînê tê nirxandin; şandina wê nivîskarî an mafên edîtorî nade û sponsorî tu carî encamekê nakire.
Ev malper tenê cookieyên bi tevahî pêwîst bikar tîne da ku bixebite û hilbijartinên te yên nepeniyê bi bîr bîne. Tiştek ji şirketên din bar nabe, û em qet agahiyên te yên kesane nafiroşin û parve nakin.
Hûrgilî
Ev malper tenê cookieyên bi tevahî pêwîst bikar tîne da ku bixebite û hilbijartinên te yên nepeniyê bi bîr bîne. Tiştek ji şirketên din bar nabe, û em qet agahiyên te yên kesane nafiroşin û parve nakin. Em tu reklamê nakin. Tu dikarî her dem bi rêya Hilbijartinên nepeniyê li binê her rûpelê hilbijartinên xwe binirxînî.