Microsoft ได้ประกาศเปิดตัวฟีเจอร์ด้านความปลอดภัย AI ใหม่สองรายการ ได้แก่ Prompt Shields และ Protected Material Detection เครื่องมือที่เป็นนวัตกรรมเหล่านี้ถูกออกแบบมาเพื่อเสริมความปลอดภัยและความเชื่อถือได้ของการโต้ตอบ AI บนแพลตฟอร์ม Azure ของบริษัท ซึ่งรวมถึง Azure AI Content Safety และ Azure OpenAI Service

Prompt Shields ซึ่งเป็นโซลูชันที่ขับเคลื่อนด้วย AI ออกแบบมาเพื่อป้องกันการโจมตีด้วยการแทรกซึม (jailbreak) โดยตรงและโดยอ้อม โซลูชันนี้สามารถผสานรวมกับตัวกรองเนื้อหา Azure OpenAI Service และ Azure AI Content Safety ได้ Prompt Shields ใช้ขั้นตอนการเรียนรู้ของเครื่องขั้นสูงและการประมวลผลภาษาธรรมชาติเพื่อระบุและลดภัยคุกคามที่อาจเกิดขึ้นในคำสั่งของผู้ใช้และข้อมูลอื่นๆ

คุณสมบัติหลักของ Prompt Shields:

Prompt Shields สำหรับการโจมตีโดยตรง: ก่อนหน้านี้รู้จักกันในชื่อ Jailbreak Risk Detection ฟีเจอร์นี้มุ่งเป้าไปที่การโจมตีโดยการแทรกซึมคำสั่งโดยตรง ซึ่งผู้ใช้จะใช้ประโยชน์จากช่องโหว่ของระบบเพื่อกระตุ้นให้เกิดพฤติกรรมที่ไม่ได้รับอนุญาตจาก LLM (โมเดลภาษา) การกระทำนี้อาจนำไปสู่การสร้างเนื้อหาที่ไม่เหมาะสมหรือการละเมิดข้อกำหนดที่ระบบกำหนดไว้
Prompt Shields สำหรับการโจมตีโดยอ้อม: มุ่งปกป้องจากการโจมตีที่ใช้ข้อมูลซึ่งไม่ได้ถูกจัดเตรียมโดยตรงจากผู้ใช้หรือผู้พัฒนา เช่น เอกสารภายนอก ผู้โจมตีอาจฝังคำสั่งที่ซ่อนอยู่ในเอกสารเหล่านี้เพื่อพยายามควบคุมเซสชัน LLM โดยไม่ได้รับอนุญาต

สามารถรวมคุณลักษณะเหล่านี้เข้าในแอปพลิเคชัน AI เพื่อปรับปรุงความปลอดภัยและความสมบูรณ์ และป้องกันความพยายามที่เป็นอันตรายในการจัดการหรือการแสวงหาประโยชน์

Protected Material Detection เป็นเครื่องมือที่ออกแบบมาเพื่อลดความเสี่ยงจากการถูกเรียกร้องค่าเสียหายจากการละเมิดทรัพย์สินทางปัญญา (IP) ซึ่งเป็นความกังวลที่ใหญ่ที่สุดเกี่ยวกับการใช้งาน AI ประเภท Generative AI ฟีเจอร์นี้ทำงานโดยการตรวจสอบผลลัพธ์จากโมเดลภาษา (LLM) และเปรียบเทียบกับดัชนีของเนื้อหาจากแหล่งข้อมูลภายนอก เช่น เพลง, ข่าวสาร, และเนื้อหาเว็บที่เลือกไว้ เพื่อค้นหาการใช้งานเนื้อหาจากบุคคลที่สาม

ตอนนี้ทั้งฟีเจอร์ Prompt Shields และ Protected Material Detection พร้อมใช้งานแล้วใน Azure AI Content Safety และ Azure OpenAI Service ฟีเจอร์เหล่านี้จะช่วยเสริมสร้างความปลอดภัยและปกป้องข้อมูลในระบบ AI ของคุณอย่างมีประสิทธิภาพ คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับบริการเหล่านี้ได้ที่นี่

สรุป

Microsoft ได้เปิดตัวฟีเจอร์ด้านความปลอดภัย AI สองฟีเจอร์ คือฟีเจอร์ Prompt Shields และ Protected Material Detection บนแพลตฟอร์ม Azure เพื่อเสริมความปลอดภัย AI ฟีเจอร์เหล่านี้พร้อมใช้งานใน Azure AI Content Safety และ Azure OpenAI Service

ที่มา neowin