IT 安全和人工智能 (AI) 是两种相互联系、相互影响的技术。本文首先概述了 AI 的主要分类、定义和原则。然后，我们将探讨 AI 如何增强 IT 安全性，同时探讨攻击者如何利用 AI 来破坏系统。最后，本文探讨了保护 AI 本身的关键问题，详细介绍了保护 AI 系统免受攻击者操纵所需的措施。
人工智能的分类
“数据科学”是计算机科学的一个领域，涉及从数据中的信息中提 手机数据 取知识（见图 1）。随着数据的激增，可以从数据中的信息中获得越来越多的知识。
弱人工智能和强人工智能有区别。强人工智能，也称为通用人工智能 (AGI)，是指 AI 系统超越人类智能的假设点。在这个“奇点”上，AI 可以以不可预测的方式快速改进自身，可能导致人类失去控制。人类将失去对 AI 的控制，使未来变得不可预测，并可能产生负面影响。因此，我们共同的任务必须是确保超越人类智能的人工智能系统与人类价值观和目标和谐相处。
相比之下，以机器学
习 (ML) 为代表的弱人工智能目前由于深度学习和大型语言模型 (LLM) 等创新而取得成功。在机器学习领域，“随机鹦鹉”一词是一个比喻，用来描述大型语言模型可以合理地生成文本但不理解其含义的理论。因此，大型语言模型无法识别错误，人类在使用大型语言模型时必须能够自己验证结果。大型语言模型 (LLM) 是生成式人工智能的基础。
生成式人工智能 (GenAI)，例如 ChatGPT，可以创建各种类型的 虚拟活动管理：适应新常态 内容，并彻底改变了数字化。
范式 – 垃圾进，垃圾出 (GIGO)
数据质量在人工智能中至关重要。 GIGO 范式（见图 2）强调人工智能结果 买房b 的质量直接取决于输入数据的标准。这意味着糟糕的数据会导致糟糕的结果，而高质量的数据对于可信的人工智能结果至关重要。
