人工智能的发展速度不断加快，以前从未想到过的能力现在已成为现实。尤其是AI代理——或者可以说是虚拟同事，在未来，他们将与我们一起工作，甚至最终能够独立执行任务。
事实上，Gartner预测，到2028年，至少15%的日常工作决策将通过人工智能代理自主完成（这一比例在2024年尚为0%）。
为了进一步强调AI技术的潜力，该公司将其列为2025年的顶级战略技术趋势。Gartner杰出副总裁分析师Gene Alvarez表示：“这种情况发生得非常非常快。”
“没有人能在晚上睡前完成所有工作，企业也需要花费大量时间来监控事物。创建人工智能代理不仅可以代替部分工作、协助企业检测等，还可以提高工作效率、节省时间。”
Gartner对未来战略技术还有哪些预测？以下是该公司在Gartner IT Symposium/Xpo2024会议上探讨的一些趋势。
01.AI代理让人“爱恨交织”
Alvarez解释道：“人工智能代理的初级作用是解决耗费人类时间和精力的枯燥任务。下一个层次是能够自主监控和管理系统的人工智能代理。”
“人工智能代理具有规划、感知和采取行动的能力，可以进行分析、修复并报告所发生的事情，而不只是作为监视系统而存在。”
“在更复杂的场景中，代理有朝一日可以帮助提升员工的技能。例如，原本需要新员工跟随人类同事学习的情况，现在可以由AI同事进行指导。”
Alvarez承认，这一切既令人兴奋又令人担忧，人们对失业的恐惧依然存在。
“但是，如果人工智能代理能够真正教会我一套新的技能，我就可以从一份即将失去的工作转向一份需要的工作。”
02.建立对人工智能的信任
Alvarez接着指出了下一个主要趋势：“现在有一支全新的劳动力队伍，我们该如何管理他们？”
基于管理话题，将会催生一系列人工智能治理平台，使企业能够管理其人工智能系统的法律、道德和运营绩效。
新工具将创建、管理和执行政策，以确保人工智能的透明度。这些平台也可以检查人工智能助理是否会存在偏见，并提供建立模型的信息。
Alvarez预计，这些工具最终将成为人工智能创建过程中的一部分，以确保从一开始就在模型中植入道德和管理。
Alvarez表示：“我们可以通过透明度创造信任，如果人们对人工智能失去了信任，就不会再使用它。”
03.“不只是一种计算模型”
Alvarez指出，有七种计算模式现在正在被使用，分别是：CPU、GPU、边缘计算、特定应用集成电路、神经形态系统、经典量子计算和光学计算。
Alvarez表示：“我们一直有一种不断适应变化的心态，但未来的混合计算模式将结合不同的计算、存储和网络机制来运行。协调软件将根据任务和最适合任务的方法，将计算从一种转移到另一种。”
“与此同时，新的、更特殊的计算技术将大大降低能耗。这一点非常重要，因为降低消耗和碳足迹的压力越来越大。但随之而来的，人工智能对IT计算能力的需求也在以惊人的速度增长。”
“循序渐进的改进是不够的，企业需要长期的解决方案。企业也需要新技术，例如绿色云提供商或更高效的新算法，有可能将效率提高数千倍，甚至上万或数十万倍。”
04.积极应对信息安全问题
人工智能让一些“威胁者”可以用更快、更容易的方式传播虚假信息。他们可以推送深度伪造的信息、制作网络钓鱼电子邮件、利用协作工具中的漏洞、使用恶意软件窃听、发起账户攻击等等。
因此，应对这些虚假信息、保护信息安全变得至关重要，要积极评估真实性、跟踪有害信息的传播并且防止假冒信息的出现。
其要素包括品牌冒充扫描、第三方内容评估、索赔和身份验证、网络钓鱼缓解、账户接管预防、社交/大众媒体和暗网监控以及情绪操纵。
Alvarez解释，深度伪造检测也将能够识别合成媒体，而水印工具将有助于确保用户与真人互动。
据Gartner预测，到2028年，半数企业将开始采用专为虚假信息安全设计的产品、服务或功能，而目前这一比例还不到5%。
Alvarez表示：“虚假信息安全不会只是一种单一的技术，它将是一系列技术的集合。”
05.为“后量子时代”做好安全准备
目前，网络使用的是公钥加密技术，即非对称加密技术，它可以确保两点通信的安全。
Alvarez解释说，“这种加密很难被破解，因为破解时间太长。然而，量子技术正在迅速发展，它将在某一点上发挥作用，因为其拥有实时破解的数学能力。”
Gartner预测，到2029年，量子计算的进步将使大多数传统的非对称加密技术变得不安全。
Alvarez补充道：“各组织现在就必须为后量子加密技术做好准备，以确保他们的数据能够抵御解密。转换加密方法并不容易，而且这'不是一个简单的补丁'。”
国家标准与技术研究院（NIST）的既定标准是一个很好的开始。Alvarez指出，该机构将于2025年春季发布第二版后量子加密指南。
“当所有的锁都坏了，你该怎么办？你需要新锁。我们要确保在量子技术成为现实之前更新我们的安全性。”
06.人工智能提高我们的认知力
Gartner将目光进一步投向科幻领域，预计双向脑机接口（BBMI）的使用将会增加，这种接口可以读取和解码大脑活动，提高人类的认知能力。
Alvarez解释说，这些设备可以直接集成到我们的大脑中，也可以通过眼镜或头带等可穿戴设备实现。
Gartner预计，到2030年，将有30%的知识工作者使用BBMI等技术，以保持在AI驱动的工作环境中的竞争力（2024年这一比例还不到1%）。
Alvarez表示：“我看到了人类技能提升和下一代营销的潜力，例如，品牌将能够了解消费者的想法和感受，从而判断消费者的情绪。”
Alvarez最终将其与2011年的电影《无极限》以及AppleTV的网剧《人生切割术》进行了比较。
Alvarez表示：“公平地说，这两部作品对这项技术的描绘都不尽然是积极的，但它通过进入人类大脑的方式，增强了人们的认知能力。”
原文来源于：
1.https://venturebeat.com/security/gartner-2025-will-see-the-rise-of-ai-agents-and-other-top-trends/
中文内容由元宇宙之心（MetaverseHub）团队编译，如需转载请联系我们。
