This course contains the use of artificial intelligence.

Bu kursta yapay zeka kullanılmıştır.

Sizi neler bekliyor: Yaklaşık 5 saat video. Lab araçlarını (Ollama ve yerel bir model) kurmak için 1 saat ayırın, ardından 14 lab'ı ve ödevlerini tamamlamak için yaklaşık 9-12 saat planlayın. 14 lab'ın tamamı kendi bilgisayarınızda tek bir lab dosyasında, Ollama üzerinden çalışan ücretsiz ve yerel bir Llama modeliyle çalışır; API anahtarına ya da ücretli bir hesaba ihtiyacınız yoktur. Lab arayüzü, yazılan saldırı promptları ve model yanıtları İngilizce kalır.

Üretken yapay zekâ, onu koruyacak güvenlik uygulamalarından daha hızlı üretime girdi. Prompt enjeksiyonu, jailbreak, veri zehirleme, istismar edilen halüsinasyonlar: büyük dil modellerine yönelik saldırılar, güvenlik ekiplerinin alışık olduğu saldırılara benzemez. Bu kursta bu saldırıları anlamayı, güvenli bir ortamda kendimiz uygulamayı ve onları durduran savunmaları kurmayı öğreneceğiz.

Kurs boyunca kurgusal bir şirket olan NovaStar AI'ı ve üç ürününü izliyoruz: müşteri destek sohbet botu NovaAssist, kodlama asistanı NovaCode ve mevzuat belgeleri aracı NovaComply. CISO Alex Rivera ve ekibiyle birlikte her olayı inceliyor, saldırıyı lab'da yeniden üretiyor ve onu önleyecek kontrolü hayata geçiriyoruz.

Dokuz bölüm boyunca şunları yapacağız:

• Bir LLM uygulamasının saldırı yüzeyini OWASP LLM Top 10 ve MITRE ATLAS ile haritalamak
• Yerel bir modele karşı doğrudan ve dolaylı prompt enjeksiyonu ile jailbreak saldırıları yürütmek
• Veri zehirleme, yanlılık, SSRF, kaynak tüketme ve halüsinasyonları birer tehdit olarak ele almak
• Derinlemesine savunma kurmak: girdi doğrulama, koruma bariyerleri, çıktı filtreleme, sandbox ve izleme
• Güvenliği geliştirme yaşam döngüsüne entegre etmek ve red team tatbikatları yürütmek
• AB Yapay Zekâ Yasası, NIST AI RMF, ISO/IEC 42001, denetimler ve fikrî mülkiyet konularına hâkim olmak
• Ajan tabanlı yapay zekâ, yapay zekâya karşı yapay zekâ ve kuantum hesaplama tehditlerini öngörmek

Her bölüm bir testle biter ve kurs, öğrendiğiniz her şeyi bir araya getiren kapsamlı bir red team tatbikatıyla tamamlanır. Kurumunuzdaki üretken yapay zekâ sistemlerini değerlendirmek, onlara saldırmak ve onları güvence altına almak için somut bir yöntemle ayrılırsınız.