Nexus Consortium öncülüğündeki Risk Academy · Kurs kataloğu · Teknoloji ve Dijital Sistemler
Yapay Zekâ ve Otonom Sistemler
Yapay zekâ güvenliği ve değerlendirmesi
AI safety and evaluation, taught twice over: as the working methods of the field and as its frontier since 2024, with labs on the Academy's tools, open data and the Nexus Standards.
AI safety and evaluation: foundations and practice
This area covers how the capabilities, reliability and risks of AI systems are tested before and after deployment: evaluation design, red-teaming, benchmarks and their limits, safety cases for frontier models and agentic systems, and incident reporting.
AI safety and evaluation: foundations and practice
Seviye
L2 Orta
Çalışma süresi
yaklaşık 24 saat (planlama tahmini)
Durum
Yazım aşamasında
Ön koşullar
Alanda bir L1 kursu veya bir giriş değerlendirmesi
Neden şimdi
Satıcı tarafından bildirilen değerlendirme sonuçlarına güvenirken bağımsız ve ayrılmış karşılaştırma testlerinin neden önemli olduğunu gösterir.
Define red-teaming and the other key terms of the discipline and use them correctly in a written case
Explain evaluation design and metrics and red-teaming and adversarial testing with a worked example and its source
Disiplinin yöntemini belgelenmiş bir vakaya uygulayın ve her sonucu kaynağıyla açıklayın
Analyse a named case against benchmarks and data contamination, stating evidence, date and limits
Modüller
01
Değerlendirme tasarımı ve ölçütler
Değerlendirme tasarımı ve ölçütler
Kırmızı takım çalışması ve çekişmeli test
Benchmarks and data contamination
02
Tehlikeli yetenek değerlendirmeleri
Tehlikeli yetenek değerlendirmeleri
Safety cases for frontier models
Agentic system evaluation
03
Devreye alma sonrası izleme
Devreye alma sonrası izleme
Incident reporting and disclosure
04
Laboratuvar: disiplinin yöntemi
An attack success rate is measured per attempt against a stated attacker budget; the chance that at least one of k attempts succeeds grows as 1 minus (1 minus s) to the k, and a release gate compares that cumulative figure, after defences, with the level a safety case can tolerate.
Yöntemi belgelenmiş bir vaka üzerinde uygulayın ve her sonucu açıklayın
Yöntemin kaynaklarını ve belirtilen değerlerini okuyun
2024'ten bu yana yapay zekâ güvenliği ve değerlendirmesinde nelerin değiştiğini açıklayın ve her değişikliğin ardındaki çalışmaları, verileri veya kuralları belirtin
Reproduce independent evaluation finds gap with developer self-reported scores on open data and state the uncertainty of the result
2024-2026 arasındaki bir çalışmayı değerlendirin: sorusu, verileri, yöntemi, sınırları ve uygulama açısından neyi değiştirdiği
İleri bir yöntemi fakültenin araçlarıyla birleştiren bir analiz tasarlayın ve her seçimi gerekçelendirin
Modüller
01
Independent evaluation finds gap with developer self-reported scores
NIST's Center for AI Standards and Innovation found DeepSeek V4 Pro scored better on the developer's own evaluations than on CAISI's, including non-public benchmarks, estimating it trails leading US models by about eight months.
Satıcı tarafından bildirilen değerlendirme sonuçlarına güvenirken bağımsız ve ayrılmış karşılaştırma testlerinin neden önemli olduğunu gösterir.
Ulusal Standartlar ve Teknoloji Enstitüsü, 1 Mayıs 2026
02
UK AI Security Institute publishes first Frontier AI Trends Report
Drawing on evaluations of over 30 frontier models since 2023, the institute reports fast capability growth in cyber, chemistry and biology tasks, universal jailbreaks found in every system tested, and rising self-replication precursors.
Offers government test results on dangerous capabilities and safeguard strength that evaluators can use to benchmark their own methods.
AI Security Institute (UK), 18 December 2025
03
Önemli güncelleme, teknik güvenceleri ve öncü risk yönetimini inceliyor
The second key update finds prompt injection attacks still succeed about half the time with ten attempts, small data-poisoning attacks can be effective, and at least 12 companies now publish frontier safety frameworks with mostly implicit thresholds.
Clarifies how much assurance current safeguards provide, which shapes red-teaming scope and residual risk judgements.
International AI Safety Report, 25 November 2025
04
Time-horizon metric measures growth in autonomous task length
Researchers proposed measuring AI capability by the length of software tasks models complete reliably, and found this horizon has doubled roughly every seven months since 2019.
Değerlendiricilere, güvenlik dosyalarındaki öngörülere ve eşiklere bilgi sağlayabilecek, ajan tabanlı yetenek için bir eğilim ölçüsü sunar.
arXiv, 18 March 2025
05
UK renames AI Safety Institute as AI Security Institute
Birleşik Krallık hükümeti enstitünün adını değiştirdi ve odağını, kimyasal ve biyolojik kötüye kullanım, siber saldırılar, dolandırıcılık ve çocuk istismarı materyali gibi güvenlik açısından önem taşıyan ciddi yapay zekâ risklerine yöneltti; ayrıca bir suç amaçlı kötüye kullanım ekibi ekledi.
Signals how a leading public evaluator now prioritises security-related misuse in its testing agenda.
UK Department for Science, Innovation and Technology, 14 February 2025
06
Yeniden üretim laboratuvarı
Disiplinin yöntemini bir ileri yöntemle genişletin ve sonuçlarını karşılaştırın
Sonucun belirsizliğini ve sınırlarını belirtin
Ortak bir kontrol listesine göre akran değerlendirmesi
The Academy proposes how each discipline teaches toward the Nexus Standards; the mapping is open for public review. Bodies and standards are named so learners can find and apply their published work; the Academy teaches their use and links to the publisher, and no affiliation is implied.
04Canlı harita
Birleşik Krallık ve İrlanda'da bağlantılı faaliyet
Birleşik Krallık ve İrlanda üzerinde gece ışıkları ve nüfus yoğunluğu; elektrikli, bağlantılı faaliyetin ayak izi.
Etkileşimli harita JavaScript gerektirir. Katman listesi ve kaynaklar aşağıdadır.
2020 yılı için kilometrekare başına nüfusun sayıma dayalı tahmini, maruziyet bağlamı olarak gösterilir; herhangi bir tehlikeden etkilenen kişilerin sayısı değildir.
Erişim yolu
gibs.earthdata.nasa.gov, yalnızca canlı haritaya izin verdikten sonra
Uydu görüntüsü. Sağlayıcının yayımladığı hâliyle uydu veya model rasteri. Bulutlar, tarama şeridi boşlukları ve geri çıkarım hatası boşluk ve gürültü bırakır; değerler göstergedir, belirli bir yerdeki ölçümler değildir.
Erişim yolu
gibs.earthdata.nasa.gov, yalnızca canlı haritaya izin verdikten sonra
Klavye, harita odaktayken
Yakınlaştırmak için Ctrl veya ⌘ tuşuna basılı tutarak kaydırın
Taşımak için sürükleyin. Yakınlaştırmak için Ctrl veya ⌘ ile kaydırın, sıkıştırın ya da düğmeleri kullanın. İşaretçinin altındaki değerler için üzerine gelin. Sıfırlama bölgeye döner.
Bağlantılı faaliyet, Birleşik Krallık ve İrlanda'ya odaklanarak.NASA'nın yayımladığı haliyle uydu ve model ürünleri; her birinin kendi tarihi vardır. Bunlar gösterge niteliğindedir, herhangi bir yerin değerlendirmesi değildir.
NASA'nın Earth Science Data and Information System (ESDIS) bünyesindeki Global Imagery Browse Services (GIBS) hizmetlerinin sağladığı görüntülerin kullanımını kabul ve teşekkürle belirtiriz. Renkler yayımlanan renk haritasından yeniden çizilmiştir. Gösterildiği yerlerde değerlerin H3 hücrelerine ortalaması alınmıştır (değiştirilmiş). NASA açık verisi
NASA'nın Earth Science Data and Information System (ESDIS) bünyesindeki Global Imagery Browse Services (GIBS) hizmetlerinin sağladığı görüntülerin kullanımını kabul ve teşekkürle belirtiriz. Renkler yayımlanan renk haritasından yeniden çizilmiştir. Gösterildiği yerlerde değerlerin H3 hücrelerine ortalaması alınmıştır (değiştirilmiş). NASA açık verisi
VIIRS Black Marble gece ışıkları, NASA Goddard Space Flight Center. Dağıtım: NASA Level-1 and Atmosphere Archive and Distribution System (LAADS DAAC). Görüntüler NASA GIBS üzerinden. Renkler yayımlanan renk haritasından yeniden çizilmiştir. Gösterildiği yerlerde değerlerin H3 hücrelerine ortalaması alınmıştır (değiştirilmiş). NASA açık verisi
Center for International Earth Science Information Network (CIESIN), Columbia University. 2018. Gridded Population of the World, Version 4 (GPWv4): Population Density, Revision 11. NASA Socioeconomic Data and Applications Center (SEDAC). Licensed under CC BY 4.0. Colours redrawn from the published colour map; values averaged into H3 cells where shown (modified). doi:10.7927/H49C6VHW. CC BY 4.0
VIIRS yakın gerçek zamanlı ürünler (sel, kara yüzey sıcaklığı, kar örtüsü, düzeltilmiş yansıtma), NASA LANCE. Görüntüler NASA GIBS üzerinden. Renkler yayımlanan renk haritasından yeniden çizilmiştir. Gösterildiği yerlerde değerlerin H3 hücrelerine ortalaması alınmıştır (değiştirilmiş). NASA açık verisi
ASTER GDEM, METI ve NASA ürünüdür (ASTER Global Digital Elevation Model V003, NASA LP DAAC). Görüntüler NASA GIBS üzerinden. Renkler yayımlanan renk haritasından yeniden çizilmiştir. Gösterildiği yerlerde değerlerin H3 hücrelerine ortalaması alınmıştır (değiştirilmiş). Atıf: NASA/METI/AIST/Japan Spacesystems and U.S./Japan ASTER Science Team (2019). ASTER Global Digital Elevation Model V003. doi:10.5067/ASTER/ASTGTM.003. NASA açık verisi
Natural Earth ile hazırlanmıştır. Ücretsiz vektör ve raster harita verileri @ naturalearthdata.com. Kamu malı
Blue Marble, NASA Earth Observatory. Görüntüler NASA GIBS üzerinden. Renkler yayımlanan renk haritasından yeniden çizilmiştir. Gösterildiği yerlerde değerlerin H3 hücrelerine ortalaması alınmıştır (değiştirilmiş). NASA açık verisi
Canlı olaylar: NASA Earth Observatory Natural Event Tracker (EONET). Olaylar gösterge niteliğindedir ve özgün kaynak bağlantılarını korur.
NASA GIBS: NASA'nın Earth Science Data and Information System (ESDIS) bünyesindeki Global Imagery Browse Services (GIBS) hizmetlerinin sağladığı görüntülerin kullanımını kabul ve teşekkürle belirtiriz.
İsteğe bağlı katmanlar (katman listesinde 3 kaynak: canlı, tahmin, gözlem ve bağlam) açıldığında sağlayıcı bilgisini haritada ve burada gösterir. Tahminler model çıktısıdır ve türetilmiş endeksler tahmini değerlerdir.
Katmanlar ve tarihler
Gece ışıkları, günlük: VIIRS Black Marble (VNP46A2), NASA LAADS DAAC · 12 Eki 2026
Population density, 2020: Population: CIESIN, Columbia University, Gridded Population of the World v4.11 (2018), NASA SEDAC, CC BY 4.0 · static
Gerçek renk: VIIRS NOAA-20 düzeltilmiş yansıtma, NASA LANCE · 13 Eki 2026
Risk biliminin temel standartları için uzmanlar: belirsizlik ve kanıt derecelendirmesi, ölçekler, yapılandırılmış uzman görüşü, tolere edilebilirlik, aşırı ve bileşik olaylar, felaket ve varoluşsal riskler, etik ve hakkaniyet, birimler ve ölçüm (NRS-C17 ile NRS-C24 arası) CALL-CORE-SCIENCE
uzman, editör, başkan
2027-01-31
Tehlike atlasının aileleri için bağımsız inceleyiciler; her aile için en az iki bölgeden üç kişi (NHS2-R19), öncelikli aileler önce CALL-ATLAS-REVIEW
uzman
2027-03-31
Geçici Öncü Teknolojiler Güvenlik İnceleme Paneli üyeleri ve kırmızı takım inceleyicileri (biyoemniyet ve biyogüvenlik, yapay zekâ emniyeti ve güvenliği, kritik altyapı güvenliği); başvurular gizli tutulur CALL-FRONTIER-SAFETY-REVIEW
uzman
2026-11-30
Gereklilik sicili, NHS-2 makine temsili, uygunluk test paketleri ve uygunluk değerlendirme şeması için ontoloji, metroloji, yazılım doğrulama ve uygunluk değerlendirmesi uzmanları CALL-CONFORMANCE-ONTOLOGY
uzman, editör
2027-01-31
Kapanış tarihi geçmiş çağrılar otomatik olarak gizlenir. Tüm çağrılar, öneriler ve yollar: açık alanlar ve çağrılar.
Hücreler
A cell is a small team with a clear mission, a host and a record of what it does. Choose the type that fits.
University, student and national chapter teams. Open
A cell acts within its host's rules and never replaces an authority. A CERT works alongside the local emergency services, follows their direction and is not an emergency service.
How a cell forms
01
Hücreyi oluşturun
Veri, saha uygulaması, politika ve iletişim gibi birbirini tamamlayan becerilere sahip üç ila yedi kişiyi bir araya getirin.
02
Choose a type
Pick the kind of cell that fits the work, from the gallery below. A cell can add a second focus later. See the types
03
Kaydedin
Name the cell, its members, area and region, and who hosts it. You receive a reference and a contact. Form a cell
04
Birlikte öğrenin
Risk Academy'de uygulama ve her tamamlanan kursun kaydını içeren ortak öğrenme yollarını izleyin. Tehlikeler ve dayanıklılık
05
Yönet ve raporla
Hold regular sessions. Publish what the cell learns through Reports. Bring findings to the working groups. Working groups
Endeks
Bir ulusal ekip ya da yerel bir topluluğun bugün The Global Risks Index (NXS-GRX) üzerinde neler yapabileceği.
NXS-GRX
Ülkenizin profili
195 ülke için her değerde kaynak ve lisans bilgisi bulunan açık risk profilleri. Index'i açın
NXS-GRX
Düzelt veya yanıtla
Ülkeniz için bir değeri düzeltin veya yanıt verin. Değişiklik, etkisiyle birlikte kayda geçirilir. Index'i açın
NXS-GRX
Veri sunun
Bir veri kümesi sunun. Veri kümesi, adınız belirtilerek lisans kapısından girer. Index'i açın
NXS-GRX
Açık verileri kullanın
Açık API üzerinden katmanlar, profiller ve döşemeler. Index'i açın
07Sorular
Sorular, yanıtlar ve temel terimler
Kurs ücretsiz mi?
Evet. Nexus Consortium öncülüğündeki Risk Academy'nin tüm dersleri ve öğrenme materyalleri ücretsizdir. Kendi hızınızda veya bir grupla çalışabilirsiniz. Olağan katılım ücretsizdir. Ücretli işler, stajlar ve burslar ayrı düzenlemelere tabidir.
Bir dersi tamamlamak bana ne kazandırır?
Tamamlama kaydı: ders, dersin sürümü, tarih ve neyin değerlendirildiği. Kayıt varsayılan olarak gizlidir ve siz paylaşırsınız. Kayıtlar disiplin, bölüm ve program başarılarında birikir. Bir kayıt neyin çalışıldığını ve değerlendirildiğini belirtir, yetkinliği belgelemez. Bir lisans, mesleki unvan veya istihdam statüsü değildir.
Veriler ve yerler nereden geliyor?
Her fakülte, açık verilerden oluşturulmuş gerçek bir yerin ikizi üzerinde eğitim verir. Her katman sağlayıcısını, lisansını ve tarihini taşır. Academy'deki her sonuç kaynağını belirtir. Haritalar ve şekiller öğretim amaçlı göstergelerdir, hiçbir zaman bir yerin değerlendirmesi değildir.
Kursun ötesinde nasıl katılabilirim?
Üç ila yedi kişilik bir yetkinlik hücresi kurun, ortak bir öğrenme yolunu çalışın, Ulusal Çalışma Gruplarında denetimli bir görev üstlenin veya kurumunuzdan bir grup getirin. Kuruluşlar için.
Temel terimler
Red-teaming
Başkalarından önce zayıflıkları bulmak için bir sistemi arızalanmaya veya yanlış davranmaya zorlayan yapılandırılmış girişimler.
Kıyaslama verisi kirlenmesi
Test verilerinin bir modelin eğitim verilerine sızması; bu durumda skorlar modelin yeteneğini olduğundan fazla gösterir.
Güvenlik dosyası
Bir sistemin belirli bir kullanım için kabul edilebilir ölçüde güvenli olduğuna dair kanıtla desteklenen yapılandırılmış bir argüman.
Öncü model
Belirli bir zamanda mevcut en yetkin düzeyde veya ona yakın genel amaçlı bir yapay zekâ modeli.
RaporlarKatkıda bulunun
Bu sayfadan kanıt katkısında bulunun.
Reports is the Consortium's quarterly publication, written by six desks. This page sits with the Academy Capability desk. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work. Sent to the wrong desk, it is forwarded, not refused.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Study AI safety and evaluation with us, or teach it
Her kurs ücretsiz ve açıktır. Kurumlar ve uzmanlar birlikte ders verebilir, bir kohorta ev sahipliği yapabilir, bir laboratuvar katkısı sunabilir veya bir kursu açılmadan önce inceleyebilir.
Bu site yalnızca çalışması ve gizlilik tercihlerinizi hatırlaması için kesinlikle gerekli çerezleri kullanır. Başka şirketlerden hiçbir şey yüklenmez ve kişisel bilgilerinizi asla satmayız veya paylaşmayız.
Ayrıntılar
Bu site yalnızca çalışması ve gizlilik tercihlerinizi hatırlaması için kesinlikle gerekli çerezleri kullanır. Başka şirketlerden hiçbir şey yüklenmez ve kişisel bilgilerinizi asla satmayız veya paylaşmayız. Reklam yayınlamayız. Tercihlerinizi her sayfanın altındaki Gizlilik tercihleri bağlantısından istediğiniz zaman gözden geçirebilirsiniz.