什么是 AI 安全防护？

AI 安全防护可防御针对 AI 应用的各类恶意攻击，防止 AI 工作负载受损、数据篡改或敏感信息泄露。它将保密性、完整性与可用性原则融入 AI 生命周期和技术生态，全面保障 AI 系统的安全与可靠。 

探索红帽 AI

AI 工作负载的日渐普及，也带来了传统 IT 安全防护无法覆盖的新领域。因此，AI 安全防护重点在于保护 AI 工作负载免遭滥用和操纵。它有别于将 AI 用于网络安全（防范犯罪或未经授权使用电子数据），也不同于 AI 安全（预防使用 AI 引发的有害后果）。 

AI 安全防护涉及识别漏洞和支持 AI 系统的完整性，从而使 AI 系统能够按预期运行且不会中断。这包括确保训练数据未经篡改、模型来源可追溯以及在平台内实现 GPU 隔离。（大多数 GPU 在设计时并未考虑安全性和隔离性，因此很容易成为攻击者的目标。）

现有安全策略大多需要升级才能应对 AI 工作负载带来的新攻击面。在这个快速发展的领域，唯有采用灵活的安全防护策略，才能遵循不断更新的规范，持续保护 AI 工作负载及其运行系统。

要有效地保护您的 AI 系统，有必要全方位了解它们的运作机制。您对 AI 技术了解得越多，就越能提供全面可靠的保护。 
 

什么是 AI 基础架构？
 

不妨这样理解：典型的 IT 配置好比一栋房子，虽然存在门窗等少数​​入口​​，​但都能通过上锁和密封来​​消除风险​​。而 AI 解决方案更像是建在另一颗星球上的公寓楼，其入口通道跨越数十个楼层并延伸至不同星系，存在大量您此前可能从未考虑过的攻击点。

AI 解决方案既能为用户创造巨大价值，也为攻击者提供了丰富的机会，就像一把双刃剑，既是提效促发展的利器，又可能成为安全噩梦。鉴于传统软件面临的安全防护挑战，以及 AI 的复杂性，您需要采用能够与当前流程协同运作的专门安全防护策略。

AI 安全防护策略是否有效，取决于能否排查所有漏洞，通过主动防御措施来填补防御缺口，阻断任何渗透可能性。它不仅能够保护敏感数据免遭泄露和窃取，还能防御各类攻击，确保符合明确的安全策略与监管框架（如欧盟《人工智能法案》），同时针对 AI 系统的安全态势提供可见性与可靠保障。

AI 操纵手段变得越来越智能化，因此隐匿性也越来越强。虽然 AI 安全防护攻击的形式多种多样，但某些攻击的频率远超其他。常见的攻击类型包括：  

• 提示词注入攻击： AI 攻击者使用恶意提示词来操纵 AI 输出，以泄露敏感数据、执行非预期操作或绕过隐式和显式的安全策略及控制措施。
• 数据投毒： 攻击者通过注入恶意数据或恶意软件来操纵 AI 模型，导致输出结果不准确、有偏见或造成危害。此类攻击可能会导致中断并生成不恰当的结果。

AI 系统面临着来自恶意攻击和运维故障的双重风险。就像任何已部署的系统一样，模型若未得到妥善维护，可能会出现偏移和衰退。如果模型基于低质量数据进行训练或长期未更新，数据往往本身就存在错误、过时甚至有害，从而导致模型性能不佳和预测失准。 

为了保护您的团队和技术，必须实施分层防御策略，单靠一条防线可能不够。常见的策略包括：

• 行为分析。 此类威胁检测可以发现网络中的异常和偏差。通过跟踪典型数据集、模式和活动，该威胁检测技术能深度掌握 AI 系统的正常行为。当发现异常行为（比如有偏见的内容输出，甚至以明文形式公开暴露密码）时，将立即触发安全警报。
• 运行时威胁检测。 当攻击者扫描环境中可利用的漏洞时，现有的运行时安全防护机制能检测到重复探测行为并发出警报。您可以通过 AI 自动化并增强此项技术，从而更快地识别威胁并触发警报。
• 预测性威胁情报。 这项技术通过分析历史数据来预测未来事件。 例如，如果攻击者利用勒索软件锁定金融科技系统，预测性威胁情报会评估企业组织的安全态势，以判断在攻击成功的风险面前防护能力如何。
• 增强型数据处理。AI 工作负载包含海量数据，数据点多达数十亿甚至上百亿个。AI 安全防护必须得处理这些数据，判断它们是否存在风险、属于机密信息或可供使用。增强型数据处理能够比人类或传统处理技术更快地检测到环境中的异常和威胁，从而使您的团队能够迅速采取行动。
• 攻击路径分析：此策略可帮助您全面掌握潜在漏洞和威胁可利用的机会。例如，通过了解威胁如何侵入您的系统并触及敏感数据，有助于您确定攻击的来源路径并加以阻断。 

AI 生命周期的每个阶段都存在需要防护的漏洞。为了保障 AI 模型、数据与隐私安全，健全的 AI 安全防护策略应包含以下要素：

• AI 护栏：护栏机制有助于生成式 AI 模型筛选仇恨、侮辱或亵渎性言论；个人身份信息；竞争信息；或其他特定领域的限制。
• 受保护的训练数据：AI 系统的可靠性往往取决于其训练数据的质量。原始训练数据应受到防火墙或其他安全措施的保护，防止篡改或操纵，从而保障模型的完整性和输出。
• 强大的平台安全防护：保护运行 AI 工作负载的平台，确保平台健康运行且安全可靠。平台越安全，攻击者越难以得手。
• 供应链和系统安全防护：您可以借鉴供应链和系统安全防护方面的现有最佳实践并加以调整，使其适用于 AI 工作负载。正如传统的软件供应链安全防护会验证开源库的完整性一样，AI 供应链安全防护则需要关注训练数据、预训练模型及第三方 AI 组件的来源与完整性。
• 定制化策略：AI 工作负载具有独特性，通常无法适用通用的安全防护解决方案。安全防护策略应根据个人 AI 工作负载、设计和数据量身定制。 

您可通过以下常用工具和解决方案实施最佳实践，有效保护 AI 系统，具体包括： 

• 身份和访问权限管理：这些系统可控制谁有权访问 AI 系统和基础架构，以及具体的访问方式和访问时间。例如，使用多重身份验证来保护敏感数据。
• AI 安全态势管理：这些工具可监控您的安全防护部署和运维情况，提供针对模型和数据的可见性和见解，让您能够全面掌握 AI 系统安全态势。
• 输出验证过程：被投毒或未经验证的输出，可能会给下游系统带来问题，甚至会泄露敏感数据。此验证过程会仔细检查模型的输出，然后再将输出内容发送到下游以执行后续操作。

AI 安全防护可以为您的企业级 AI 战略带来一系列优势，包括安心无忧的运维保障。无论是帮助确保 AI 工作负载平稳运行，还是让您的团队专注于重要事务，AI 安全防护都能全面强化您的 AI 策略。其中一些优势包括： 

• 减少暴露和风险。 通过防止数据泄露，AI 安全防护可以防止未经授权的人员获取敏感数据和隐私数据。在攻击造成损害之前予以拦截，可确保用户和 AI 系统正常工作。
• 节省时间和成本。通过减少敏感数据泄露，可有效减少中断，使运维更加顺畅。成功化解或阻截攻击，可减少停机时间，从而腾出更多时间用于创新。
• 改进威胁情报。AI 安全防护机制在应对潜在威胁的过程中，会持续学习和了解常见风险及其运作模式。长此以往，AI 安全防护机制便能持续领先于各类威胁，实现超前防御。 

AI 技术相对较新，整个行业仍在持续完善这项技术。由于这个领域的发展日新月异，因此需要采用灵活的防护方法。该行业面临的常见挑战包括： 

• 持续演变的 AI 特定威胁。由于 AI 持续演进，AI 应用和模型可能会存在一些安全漏洞，恶意攻击者很容易乘虚而入，实施攻击和破坏。在 AI 不断演变和发展的过程中，相应的安全防护要求也在不断变化。
• 复杂的软件供应链。AI 生命周期由许多部分组成，包括开源库、第三方应用编程接口（API）和预训练模型。这其中的每个部分都可能成为攻击者的潜在入侵点。复杂的 AI 供应链需要采用分层的 AI 安全防护方法，以全面覆盖其众多组件的安全需求。
• 关键的 AI 安全防护要求。清理数据以消除模型偏差和偏移，这对于确保模型按预期运行至关重要。理解和清理 AI 训练数据需要具备特定的技能，而这在行业中尚属新兴技能。
• 现有的安全防护集成。 将 AI 等新技术与现有工具集成时，请务必使用能够保护和观察 AI 工作负载及支持基础架构的系统。
• 可见性和治理方面存在缺口。尽管行业已全力为新兴 AI 技术制定安全防护与策略解决方案，但许多不可预见的风险未能得到积极解决，部分原因在于这些风险是首次出现。为了确保您的 AI 安全防护策略正常发挥作用，您必须根据最新建议持续更新策略内容。

隐私与合规性尽管数据和用户隐私向来存在风险，但 AI 则带来了更多新型威胁。 

• 使用 AI 时应遵循的关键准则包括： AI 隐私：保障 AI 隐私，这意味着保护个人和专有数据免遭未经授权使用。
• 应采取关键安全措施，确保私有数据安全无虞。 AI 合规性： 

随着 AI 的不断演变，法律合规性和政府法规也将同步调整，这可能会促成行业标准，从而改善 AI 的使用方式。虽然 AI 伦理不属于 AI 安全防护范畴，但可能会影响 AI 给企业组织带来的总体风险。

用户应了解他们的模型输出，以及如何利用这些信息来制定决策。以合乎道德规范的方式使用 AI，意味着需要关注人权、公平和透明度等社会价值观。为确保模型符合 AI 伦理政策，需验证模型的开发和训练方式，

开源有利于提高透明度和提升社区信任度。 开源有利于提高透明度和提升社区信任度。 

我们的解决方案专为混合云环境而构建，并采用开源技术，保障整个 AI 生命周期的安全性。借助红帽^® AI，团队能够进行实验、扩展和交付创新型应用。 
 

该解决方案以我们的平台安全防护和 DevSecOps 实践为基础构建而成，提供一种全面、分层式的 AI 安全防护方法。 
 

通过我们的解决方案，客户能够构建和部署可靠的 AI 应用，降低每个阶段的安全防护风险。通过我们的解决方案，客户能够构建和部署可靠的 AI 应用，降低每个阶段的安全防护风险。

• 具体而言，红帽 OpenShift^® AI 通过 AI 安全防护，在保持公平性、安全性和可扩展性方面提供了诸多优势，包括：增强可见性。消除“黑匣子”现象，这种现象掩盖了模型得出结论的过程，使算法（和用户）处于信息真空状态。
• 借助红帽可信配置文件分析器，深入了解漏洞、恶意代码、许可问题和潜在的 AI 安全防护问题。 集成化开发工作流。在开发过程中尽早一致地应用 AI 安全防护最佳实践，更快地发现漏洞并减少高成本的冗余工作。
• 集成于 Openshift AI 的红帽高级开发人员套件提供红帽开发人员中心等工具，您可以在可在开发工作流中使用，帮助追踪模型来源并进行评估。 保持混合云一致性。借助专为混合云灵活性而打造的 AI 解决方案，随时随地进行推理。
• 无论是在本地、云端还是在边缘环境，AI 工作负载都能获得相同级别的安全与性能保障。 模型对齐。 通过监控模型输出与训练数据之间的匹配度，确保一致的数据准确性和模型完整性。
• OpenShift AI 还支持利用 LoRa/QLoRA 高效微调大语言模型（LLM），从而降低计算开销和内存占用。偏移检测工具。保护您的模型输入和输出免受有害信息的影响，比如侮辱和亵渎性言论、个人数据或其他特定领域的风险。 

AI 防护和实时监控系统能够检测到用于模型推理的实时数据何时偏离原始训练数据，从而避免产生有害的 AI 垃圾数据。