Risk Academy, guidata dal Nexus Consortium · Catalogo dei corsi · Tecnologia e sistemi digitali
Intelligenza artificiale e sistemi autonomi
Sicurezza e valutazione dell'IA
AI safety and evaluation, taught twice over: as the working methods of the field and as its frontier since 2024, with labs on the Academy's tools, open data and the Nexus Standards.
Sicurezza e valutazione dell'IA: fondamenti e pratica
Quest'area tratta il modo in cui capacità, affidabilità e rischi dei Sistemi di IA vengono testati prima e dopo l'implementazione: progettazione delle valutazioni, red-teaming, benchmark e relativi limiti, safety case per i modelli di frontiera e i sistemi agentici, e segnalazione degli incidenti.
Sicurezza e valutazione dell'IA: fondamenti e pratica
Livello
L2 Intermedio
Tempo di studio
circa 24 ore (stima di pianificazione)
Stato
In redazione
Prerequisiti
Un corso L1 nell'area, o una revisione d'ingresso
Perché ora
Mostra perché i benchmark indipendenti e riservati sono importanti quando ci si affida ai risultati di valutazione riportati dai fornitori.
Definire il red teaming e gli altri termini chiave della disciplina e usarli correttamente in un elaborato scritto
Spiegare la progettazione e le metriche di valutazione, il red-teaming e i test avversariali con un esempio svolto e la relativa fonte
Applica il metodo della disciplina a un caso documentato e spiega ogni risultato con la sua fonte
Analizzare un caso indicato rispetto a benchmark e contaminazione dei dati, precisando evidenze, data e limiti
Moduli
01
Progettazione della valutazione e metriche
Progettazione della valutazione e metriche
Red-teaming e test avversariali
Benchmark e contaminazione dei dati
02
Valutazioni delle capacità pericolose
Valutazioni delle capacità pericolose
Safety cases for frontier models
Agentic system evaluation
03
Monitoraggio dopo l'implementazione
Monitoraggio dopo l'implementazione
Segnalazione e divulgazione degli incidenti
04
Laboratorio: il metodo della disciplina
An attack success rate is measured per attempt against a stated attacker budget; the chance that at least one of k attempts succeeds grows as 1 minus (1 minus s) to the k, and a release gate compares that cumulative figure, after defences, with the level a safety case can tolerate.
Applica il metodo a un caso documentato e spiega ogni risultato
Sicurezza e valutazione dell'IA: metodi di frontiera
I metodi, i dati, gli strumenti e gli studi che hanno cambiato la sicurezza e la valutazione dell'IA tra il 2024 e il 2026, insegnati riproducendoli su dati aperti.
Sicurezza e valutazione dell'IA: metodi di frontiera
Livello
L3 Avanzato
Tempo di studio
circa 28 ore (stima di pianificazione)
Stato
Pianificato
Prerequisiti
AI safety and evaluation: foundations and practice; Working knowledge of a scripting language (Python or R) for the labs
Perché ora
Mostra perché i benchmark indipendenti e riservati sono importanti quando ci si affida ai risultati di valutazione riportati dai fornitori.
Spiega che cosa è cambiato nella sicurezza e nella valutazione dell'IA dal 2024 e cita gli studi, i dati o le norme alla base di ciascun cambiamento
Reproduce independent evaluation finds gap with developer self-reported scores on open data and state the uncertainty of the result
Valuta uno studio del periodo 2024-2026: domanda, dati, metodo, limiti e cosa cambia per la pratica
Progetta un'analisi che combini un metodo di frontiera con gli strumenti della facoltà e giustifica ogni scelta
Moduli
01
Independent evaluation finds gap with developer self-reported scores
Il Center for AI Standards and Innovation del NIST ha rilevato che DeepSeek V4 Pro ha ottenuto risultati migliori nelle valutazioni del suo sviluppatore che in quelle del CAISI, compresi i benchmark non pubblici, stimando che sia in ritardo di circa otto mesi rispetto ai principali modelli statunitensi.
Mostra perché i benchmark indipendenti e riservati sono importanti quando ci si affida ai risultati di valutazione riportati dai fornitori.
National Institute of Standards and Technology, 1 May 2026
02
UK AI Security Institute publishes first Frontier AI Trends Report
Drawing on evaluations of over 30 frontier models since 2023, the institute reports fast capability growth in cyber, chemistry and biology tasks, universal jailbreaks found in every system tested, and rising self-replication precursors.
Offers government test results on dangerous capabilities and safeguard strength that evaluators can use to benchmark their own methods.
AI Security Institute (Regno Unito), 18 dicembre 2025
03
Key update reviews technical safeguards and frontier risk management
Il secondo aggiornamento chiave rileva che gli attacchi di prompt injection riescono ancora circa una volta su due con dieci tentativi, che attacchi di data poisoning di piccola entità possono essere efficaci e che almeno 12 aziende pubblicano ora quadri di sicurezza di frontiera con soglie perlopiù implicite.
Clarifies how much assurance current safeguards provide, which shapes red-teaming scope and residual risk judgements.
International AI Safety Report, 25 November 2025
04
La metrica dell'orizzonte temporale misura la crescita della lunghezza dei compiti autonomi
I ricercatori hanno proposto di misurare la capacità dell'IA in base alla durata dei compiti software che i modelli portano a termine in modo affidabile, e hanno rilevato che questo orizzonte è raddoppiato all'incirca ogni sette mesi dal 2019.
Gives evaluators a trend measure for agentic capability that can inform forecasts and thresholds in safety cases.
arXiv, 18 March 2025
05
UK renames AI Safety Institute as AI Security Institute
Il governo del Regno Unito ha ridenominato l'istituto e lo ha riorientato sui rischi gravi dell'IA con implicazioni per la sicurezza, come l'uso improprio chimico e biologico, gli attacchi informatici, le frodi e il materiale pedopornografico, aggiungendo un gruppo dedicato all'uso criminale improprio.
Signals how a leading public evaluator now prioritises security-related misuse in its testing agenda.
Department for Science, Innovation and Technology del Regno Unito, 14 febbraio 2025
06
Laboratorio di riproduzione
Estendi il metodo della disciplina con un metodo di frontiera e confrontane i risultati
Indica l'incertezza e i limiti del risultato
Revisione tra pari secondo una lista di controllo condivisa
Come si legge la corrispondenza con i Nexus Standards
The Academy proposes how each discipline teaches toward the Nexus Standards; the mapping is open for public review. Bodies and standards are named so learners can find and apply their published work; the Academy teaches their use and links to the publisher, and no affiliation is implied.
04Mappa in tempo reale
Attività connessa nel Regno Unito e in Irlanda
Luci notturne e densità di popolazione, l'impronta dell'attività elettrificata e connessa, sul Regno Unito e sull'Irlanda.
La mappa interattiva richiede JavaScript; l'elenco dei livelli e le fonti sono riportati sotto.
giornaliero; radianza satellitare, corretta per la luce lunare e l'atmosfera
Più recente al momento della compilazione
2026-10-12
Risoluzione
griglia di circa 500 m
Incertezza
Radianza notturna da satellite per la data mostrata; le luci sono un indicatore indiretto del consumo elettrico e delle interruzioni, non una misura dell'offerta o dell'accesso.
Raggiunto attraverso
gibs.earthdata.nasa.gov, solo dopo che hai consentito la mappa in tempo reale
Informazioni su questo livello
Evidenze
Stimato
Fonte
Gridded Population of the World v4.11 (NASA SEDAC (CIESIN, Columbia University))
Stima basata sul censimento degli abitanti per chilometro quadrato nel 2020, mostrata come contesto di esposizione; non un conteggio delle persone colpite da un pericolo.
Raggiunto attraverso
gibs.earthdata.nasa.gov, solo dopo che hai consentito la mappa in tempo reale
Immagine satellitare. Raster satellitare o di modello come pubblicato dal fornitore. Nuvole, lacune di swath ed errori di recupero lasciano lacune e rumore; i valori sono indicatori, non misurazioni in un luogo.
Raggiunto attraverso
gibs.earthdata.nasa.gov, solo dopo che hai consentito la mappa in tempo reale
Trascina per spostare. Ctrl o ⌘ e scorrimento, pizzico o i pulsanti per lo zoom; passa il puntatore per i valori sottostanti; il ripristino riporta alla regione.
Attività connessa, con inquadramento su Regno Unito e Irlanda.Prodotti satellitari e di modello così come li pubblica la NASA, ciascuno con la propria data. Sono indicatori, non valutazioni di un luogo.
Si riconosce l'uso di immagini fornite dai servizi del Global Imagery Browse Services (GIBS) della NASA, parte dell'Earth Science Data and Information System (ESDIS) della NASA. Colori ridisegnati dalla scala cromatica pubblicata; valori mediati in celle H3 ove indicato (modificati). Dati aperti NASA
Si riconosce l'uso di immagini fornite dai servizi del Global Imagery Browse Services (GIBS) della NASA, parte dell'Earth Science Data and Information System (ESDIS) della NASA. Colori ridisegnati dalla scala cromatica pubblicata; valori mediati in celle H3 ove indicato (modificati). Dati aperti NASA
Luci notturne VIIRS Black Marble, NASA Goddard Space Flight Center; distribuite dal NASA Level-1 and Atmosphere Archive and Distribution System (LAADS DAAC); immagini tramite NASA GIBS. Colori ridisegnati dalla scala cromatica pubblicata; valori mediati in celle H3 dove mostrati (modificati). Dati aperti NASA
Center for International Earth Science Information Network (CIESIN), Columbia University. 2018. Gridded Population of the World, Version 4 (GPWv4): Population Density, Revision 11. NASA Socioeconomic Data and Applications Center (SEDAC). Licensed under CC BY 4.0. Colours redrawn from the published colour map; values averaged into H3 cells where shown (modified). doi:10.7927/H49C6VHW. CC BY 4.0
Prodotti VIIRS quasi in tempo reale (alluvioni, temperatura della superficie terrestre, copertura nevosa, riflettanza corretta), NASA LANCE; immagini tramite NASA GIBS. Colori ridisegnati dalla scala cromatica pubblicata; valori mediati in celle H3 ove indicato (modificati). Dati aperti NASA
ASTER GDEM è un prodotto di METI e NASA (ASTER Global Digital Elevation Model V003, NASA LP DAAC); immagini tramite NASA GIBS. Colori ridisegnati dalla mappa cromatica pubblicata; valori mediati in celle H3 dove indicato (modificato). Citare come: NASA/METI/AIST/Japan Spacesystems and U.S./Japan ASTER Science Team (2019). ASTER Global Digital Elevation Model V003. doi:10.5067/ASTER/ASTGTM.003. Dati aperti NASA
Realizzato con Natural Earth. Dati cartografici vettoriali e raster gratuiti @ naturalearthdata.com. Pubblico dominio
Blue Marble, NASA Earth Observatory; immagini tramite NASA GIBS. Colori ridisegnati dalla mappa cromatica pubblicata; valori mediati in celle H3 dove indicato (modificato). Dati aperti NASA
Eventi in tempo reale: NASA Earth Observatory Natural Event Tracker (EONET); gli eventi sono indicativi e conservano i link alle fonti originali.
NASA GIBS: si riconosce l'uso di immagini fornite dai servizi del Global Imagery Browse Services (GIBS) della NASA, parte dell'Earth Science Data and Information System (ESDIS) della NASA.
Gli strati facoltativi (3 fonti nell'elenco degli strati: in tempo reale, previsione, osservato e contesto) riportano il credito del fornitore sulla mappa e qui quando sono attivati; le previsioni sono output di modello e gli indici derivati sono stime.
Livelli e date
Luci notturne, giornaliere: VIIRS Black Marble (VNP46A2), NASA LAADS DAAC · 12 ott 2026
Population density, 2020: Population: CIESIN, Columbia University, Gridded Population of the World v4.11 (2018), NASA SEDAC, CC BY 4.0 · static
Colori reali: riflettanza corretta VIIRS NOAA-20, NASA LANCE · 13 ott 2026
Come funziona l'apprendimento, come un processo che puoi eseguire
8 steps · 4 stages · 2 gates · 16 processes
Seleziona uno scenario e premi Riproduci: corso, percorso, pratica, facoltà, cellule e registro.
Risk Academy
Course, catalogue to completion
A free course pairs one discipline's methods with a real place, open data and standards, with module checks, assessed work and a completion record.
Scenarios Course · Practice · Record
01 Open
01
Choose a course
Start · the learner
Find the course in the catalogue, by faculty, level, kind or the standard it teaches.
02
Entry check
Gate · the course
The prerequisites say what to study first; an entry review stands in for them.
02 Study
03
Insegnamenti
Step · the learner
Read and work through the lessons, self-paced or with a cohort.
04
Labs on the twin
Exercise · the learner, on the faculty twin
Run the discipline's method and the faculty instruments on the twin of a real place.
03 Assess
05
Module checks
Gate · the course
Each module ends with a short check against its outcomes.
06
Assessed work
Decision · reviewers and peers
A lab record, a case memo and a key terms check, with peer review where the course asks for it.
04 Record
07
Registrazione di completamento
Record · the Academy
The record names the course, its version and the date; it is the learner's to share.
08
Next course
Outcome · the learner
The record stacks into the discipline and pathway achievements, and the next course opens.
How learning works · Courses An outline of how the work is designed to run; it does not report the status of any decision or record.
06Partecipare
Partecipa al lavoro
Parti da chi sei.
Vie
Percorso
Istituzioni nazionali
Ministeri, istituti di statistica e agenzie: uno sportello nazionale e una sezione, e un seggio nei gruppi di lavoro. Sezioni nazionali
Percorso
Settori e professioni
Gestori, autorità di regolamentazione, banche, assicuratori e ordini professionali il cui lavoro tocca il rischio sistemico. Per le organizzazioni
Percorso
Apprendimento
Corsi e pratica, con un attestato per ogni corso completato. Studio gratuito. Apprendimento libero
Percorso
Standard
Redigi, rivedi e adotta gli standard di metodo e di dati con i gruppi di lavoro. Gruppi di lavoro
Percorso
Comunità e ricerca
Università, società civile ed esperti individuali: progetti, dati e revisione. Scrivi all'Academy
Bandi aperti
Bando aperto
Cerca
Chiude
Call fondativa per esperti nei gruppi di lavoro CALL-FOUNDING-EXPERTS
esperto, curatore, presidente
2026-12-15
Candidature aperte per i tre seggi di esperti indipendenti del Global Standards Council CALL-GSC-IND
council-member
2026-12-01
Candidature di membri regionali ad interim (si applica solo se viene decisa la disposizione transitoria) CALL-GSC-REG
council-member
2026-12-15
Revisione degli schemi del nucleo di rischio della ondata 1 (C1, C2, C3, C4, C8, C10, C11) CALL-REVIEW-WAVE1
collaboratore
2027-01-31
Esperti per gli standard fondamentali della scienza del rischio: incertezza e classificazione delle evidenze, scale, giudizio esperto strutturato, tollerabilità, estremi ed eventi composti, rischio catastrofico ed esistenziale, etica ed equità, unità e misurazione (da NRS-C17 a NRS-C24) CALL-CORE-SCIENCE
esperto, curatore, presidente
2027-01-31
Revisori indipendenti per le famiglie dell'atlante dei pericoli, tre da almeno due regioni per ciascuna famiglia (NHS2-R19), a partire dalle famiglie prioritarie CALL-ATLAS-REVIEW
esperto
2027-03-31
Membri del Frontier Safety Review Panel ad interim e revisori red team (biosicurezza e biosecurity, sicurezza dell'IA, sicurezza delle infrastrutture critiche); candidature trattate in via riservata CALL-FRONTIER-SAFETY-REVIEW
esperto
2026-11-30
Esperti di ontologia, metrologia, verifica del software e valutazione della conformità per il registro dei requisiti, la rappresentazione macchina di NHS-2, le suite di test di conformità e lo schema di valutazione della conformità CALL-CONFORMANCE-ONTOLOGY
esperto, curatore
2027-01-31
Le call scadute vengono nascoste automaticamente. Tutte le call, le proposte e i percorsi: aree e call aperte.
Celle
A cell is a small team with a clear mission, a host and a record of what it does. Choose the type that fits.
University, student and national chapter teams. Open
A cell acts within its host's rules and never replaces an authority. A CERT works alongside the local emergency services, follows their direction and is not an emergency service.
How a cell forms
01
Riunire la cellula
Riunisci da tre a sette persone con competenze complementari: dati, pratica sul campo, policy e comunicazione.
02
Choose a type
Pick the kind of cell that fits the work, from the gallery below. A cell can add a second focus later. See the types
03
Registrarlo
Name the cell, its members, area and region, and who hosts it. You receive a reference and a contact. Form a cell
04
Imparare insieme
Segui percorsi di studio condivisi alla Risk Academy, con pratica e un attestato per ogni corso completato. Pericoli e resilienza
05
Guidare e riferire
Hold regular sessions. Publish what the cell learns through Reports. Bring findings to the working groups. Working groups
L'Indice
What a national team or a local community can do on The Global Risks Index (NXS-GRX) today.
NXS-GRX
Il profilo del tuo paese
Profili di rischio aperti per 195 paesi, con fonti e licenze per ogni valore. Apri l'Index
NXS-GRX
Correggere o rispondere
Correggi un valore o rispondi per il tuo paese. La modifica viene registrata con il suo effetto. Apri l'Index
NXS-GRX
Offrire dati
Offri un dataset. Entra attraverso il gate delle licenze, con il tuo credito. Apri l'Index
NXS-GRX
Usare i dati aperti
Livelli, profili e tile tramite l'API aperta. Apri l'Index
07Domande
Domande, risposte e termini chiave
Il corso è gratuito?
Sì. Ogni corso e materiale didattico di Risk Academy, guidata dal Nexus Consortium, è gratuito, da studiare in autonomia o con un gruppo. La partecipazione ordinaria non prevede costi; lavoro retribuito, tirocini e borse di ricerca sono accordi separati.
Cosa mi dà il completamento di un corso?
Una registrazione di completamento: il corso, la sua versione, la data e ciò che è stato valutato, privata per impostazione predefinita e condivisa da te. Si somma in risultati di disciplina, dipartimento e programma. Una registrazione attesta ciò che è stato studiato e valutato e non certifica la competenza; non è un'abilitazione, un titolo professionale né uno stato occupazionale.
Da dove provengono i dati e i luoghi?
Ogni facoltà insegna su un gemello di un luogo reale costruito con dati aperti; ogni livello riporta fornitore, licenza e data, e ogni risultato dell'Academy indica la propria fonte. Mappe e figure sono indicatori didattici, mai una valutazione di un luogo.
Come posso partecipare oltre al corso?
Forma una cellula di competenza da tre a sette persone, studia un percorso condiviso, svolgi un incarico supervisionato nei National Working Groups, oppure porta un gruppo dalla tua istituzione. Per le organizzazioni.
Termini chiave
Red-teaming
Tentativi strutturati di far fallire o comportare male un sistema per trovarne le debolezze prima che lo facciano altri.
Contaminazione dei benchmark
Quando i dati di prova sono finiti nei dati di addestramento di un modello, così che i punteggi sopravvalutano la sua capacità.
Safety case
Un'argomentazione strutturata, supportata da evidenze, che un sistema è accettabilmente sicuro per un determinato uso.
Modello di frontiera
Un modello di IA di uso generale al livello più avanzato disponibile in un dato momento, o prossimo ad esso.
RapportiContribuisci
Contribuisci con evidenze da questa pagina.
Reports is the Consortium's quarterly publication, written by six desks. This page sits with the Academy Capability desk. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work. Sent to the wrong desk, it is forwarded, not refused.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Study AI safety and evaluation with us, or teach it
Ogni corso è gratuito e aperto. Istituzioni ed esperti possono co-insegnare, ospitare una coorte, contribuire con un laboratorio o esaminare un corso prima della sua apertura.
Questo sito utilizza solo cookie strettamente necessari per funzionare e per ricordare le tue scelte sulla privacy. Nulla viene caricato da altre aziende e non vendiamo né condividiamo mai i tuoi dati personali.
Dettagli
Questo sito utilizza solo cookie strettamente necessari per funzionare e per ricordare le tue scelte sulla privacy. Nulla viene caricato da altre aziende e non vendiamo né condividiamo mai i tuoi dati personali. Non pubblichiamo pubblicità. Puoi rivedere le tue scelte in qualsiasi momento tramite Scelte sulla privacy, in fondo a ogni pagina.