آزمایش نفوذ مدل های GenAI LLM - تأمین امنیت مدل های بزرگ زبان
0.0
در این دوره امنیت مدلهای زبان بزرگ را از منظر آزمایش نفوذ GenAI بررسی میکنیم: تزریق پرامپت، توهم و تهدیدهای خروجی ناامن در مکتبخونه با این دوره مسیر یادگیری
توضیحات دوره امنیت مدلهای بزرگ زبان (LLM): آزمایش نفوذ، تیمسازی (Red Team) و MITRE ATT&CK برای مدلهای زبان بزرگ امن. این دوره به تحلیل آسیبپذیرترین جنبههای LLMها و یادگیری روشهای عملی برای ...
توضیحات دوره
امنیت مدلهای بزرگ زبان (LLM): آزمایش نفوذ، تیمسازی (Red Team) و MITRE ATT&CK برای مدلهای زبان بزرگ امن. این دوره به تحلیل آسیبپذیرترین جنبههای LLMها و یادگیری روشهای عملی برای آزمایش نفوذ، شبیهسازی حملات و ارزیابی امنیت GenAI میپردازد. هرچه سریعتر با استفاده از چارچوب MITRE ATT&CK تاکتیکهای مهاجم علیه LLMها را نقشهبرداری کنید، تهدیدهای خاص مانند تزریق پرامپت، توهمها و پاسخهای دارای سوگیری را شناسایی و کاهش دهید و نتایج بهرهبرداری را گزارش کنید. همچنین به تفاوت معیارهای قدیمی با شیوههای ارزیابی نوین در امنیت GenAI میپردازد.