微软在Azure中推出了一套新工具，旨在提高生成式AI应用程序的安全性，特别关注聊天机器人。

这些工具有望帮助组织减轻与部署生成式人工智能相关的各种风险，包括对滥用内容和提示注入的担忧。

最新产品包括实时监控等功能，用于追踪和关闭滥用内容或用户，以及针对越狱和提示注入等新攻击媒介的保护。

根据麦肯锡最近的一项调查，尽管生成式人工智能可能在生产力和效率方面为企业带来好处，但十分之九(91%)的企业领导者表示，他们对生成式人工智能带来的风险没有做好准备。

微软的新工具旨在解决这些问题，并且是基于其在Copilot等内部产品方面的经验进行技术创新和研究的成果。

微软对OpenAI的数十亿美元的投资无疑在其中发挥了重要作用，为人工智能领域的研究和经验释放了各种机会。

提示注入涉及操纵人工智能系统以生成有害的非预期内容。微软的PromptShields旨在阻止直接和间接的提示攻击。该工具依靠先进的机器学习算法和自然语言处理来分析提示和第三方数据，以发现潜在的恶意意图。

除了解决安全问题之外，微软的最新工具还希望通过压力测试自动评估生成式人工智能应用程序，从而提高生成式人工智能应用程序的可靠性，以确保将越狱等风险降至最低。

另一个突出的更新是实时监控，旨在让开发人员跟踪触发安全功能的输入和输出，使他们能够调整后端并调整内容过滤器配置，以更手动地提高安全性。

似乎微软近几个月来发布的每项与人工智能相关的公告都确认了其对负责任和安全的人工智能的承诺，而这些最新工具无疑证明了这一点。