微軟宣布正式發(fā)布其Azure AI Content Safety，這是一項新服務，可幫助用戶跨應用程序和服務檢測和篩選有害的人工智能和用戶生成的內容。

　　該服務包括文本和圖像檢測，并識別微軟“冒犯性、危險或不受歡迎的”術語的內容。

　　“通過關注內容安全，我們可以創(chuàng)建一個更安全的數字環(huán)境，促進負責任地使用人工智能，并保護個人和整個社會的福祉，”Azure 異常檢測器產品經理 Louise Han 在宣布推出的博客文章中寫道。Azure AI 內容安全能夠處理各種內容類別、語言和威脅，以審核文本和視覺內容。它還提供使用人工智能算法掃描，分析和調節(jié)視覺內容的圖像功能，確保微軟所說的360度全面安全措施。

　　公司部署生成式人工智能的領域

　　該服務還配備了跨多種語言審核內容的功能，并使用嚴重性指標，該指標以 0 到 7 的等級指示特定內容的嚴重性。

　　0-1 級的內容被視為安全且適合所有受眾，而表達偏見、評判或固執(zhí)己見的觀點的內容則分為 2-3 級或低級。

　　中等嚴重性內容分為 4-5 級，包含攻擊性、侮辱性、嘲弄性、恐嚇性語言或針對身份群體的露骨攻擊，而高嚴重性內容的分級為 6-7。

　　Azure AI 內容安全還使用多類別篩選來識別和分類多個關鍵域中的有害內容，包括仇恨、暴力、自殘和性內容。

　　“[當涉及到在線安全時]，考慮的不僅僅是人為生成的內容至關重要，尤其是在人工智能生成的內容變得普遍的情況下，”含寫道。“確保人工智能生成的輸出中的準確性、可靠性和不存在有害或不適當的材料至關重要。內容安全不僅可以保護用戶免受錯誤信息和潛在傷害，還可以維護道德標準并建立對人工智能技術的信任。