利用聊天技术:AI的阴暗面

#AI # chatgpt #网络安全

现在招聘

新成员

查看配置文件

查看更多文章

人工智能(AI)被用于恶意目的已成为数字领域的一个重大问题. 网络罪犯正在使用大型语言模型(llm), 像ChatGPT, 以及利用深度造假技术发动网络攻击和诈骗. 在这个博客中, 我们专注于人工智能的阴暗面, 揭示了对人工智能系统的利用, 它对威胁形势的影响, 组织现在可以做些什么来更好地保护自己和他们最敏感的资产免受新一波的威胁.

在暗网市场上出售恶意ChatGPT提示

最近的报告揭示了一个令人不安的趋势，成千上万的旨在越狱和利用人工智能的恶意提示在暗网上出售. 这些提示欺骗了人工智能模型, 使威胁参与者能够窃取数据, 以惊人的效率策划复杂的骗局和其他非法活动.
根据卡巴斯基最近进行的研究, 现在可以购买成千上万的这些恶意提示和受损的高级ChatGPT帐户, 对ChatGPT构成重大威胁, 用户和他们的数据. (来源: 寄存器)

暗网风险

利用人工智能提高网络安全

随着人工智能(AI)对我们生活各个方面的影响越来越大, 它对网络安全的深远影响是不可否认的.

这本电子书探讨了人工智能如何彻底改变传统的网络安全措施，并塑造了网络安全战略和实践的格局.

利用未来洞察技术(FIT) 2023会议上的杰出专家小组的专业知识, 四位杰出的演讲者各自为讨论带来了经验和见解.

Read eBook >

Deepfake和AI:犯罪伙伴

人工智能和深度伪造技术正变得越来越容易获得. OpenAI, 例如, 最近宣布了他们的新生成人工智能, 索拉, 它可以从文本中创建视频. 和, 尽管这项技术的进步及其可用性令人兴奋, 同样不可避免的是，会有网络犯罪分子试图恶意利用它.

在全球范围内，我们已经看到了这些技术被高级威胁分子利用的例子, 包括网络罪犯, 国家或国家赞助的黑客组织.

2500万美元的盗窃是通过一个复杂的深度伪造骗局完成的

最近的一篇文章 Ars Technica 这起突破性的网络犯罪事件被认为是同类案件中第一起成功的抢劫案:一桩2500万美元的盗窃案是通过复杂的深度伪造骗局完成的. 该骗局涉及制作高度可信的人工智能生成的深度假视频, 哪些被用来冒充金融机构内的关键人物.

通过利用这些深度假视频, 骗子操纵雇员批准欺诈性交易, 造成重大损失. 这次史无前例的抢劫标志着网络犯罪手法的显著升级, 强调全球组织所面临的不断变化的威胁形势. 随着人工智能驱动的骗局的盛行，不可避免地会继续上升, 对企业来说，加强网络安全态势并对此类欺骗性计划保持警惕变得越来越重要.

深度假新闻片段

据报道，伊朗支持的黑客最近通过在广播中注入深度假新闻片段，扰乱了阿拉伯联合酋长国的电视流媒体服务《十大正规博彩网站评级》. 这些具有欺骗性的深度假视频, 使用人工智能技术生成, 被设计成类似于合法的新闻报道吗, 传播错误的信息, 并在观众中散布不和. 这一事件突显了国家支持的威胁行为者构成的日益严重的威胁，以及出于政治目的越来越多地将深度伪造技术武器化.

随着各国继续应对网络战和虚假信息运动的挑战, 各国政府必须合作并实施国际立法，禁止并防止使用这种攻击方法, 以及教育和告知所有行业的组织有关人工智能威胁以及如何最好地保护自己和他们的资产. 另外, 组织需要增强和调整其网络安全能力，以便能够识别和防御精心策划的人工智能驱动的攻击, 而非公务员合约委员会最近进行的一项评估也证实了这一点. 该评估侧重于未来两年人工智能将如何影响网络作战的有效性以及对网络威胁的影响. (来源: 成都市新)

成都市新警告称，随着人工智能的发展，全球网络威胁预计将上升

根据上述评估由成都市新在不久的将来，人工智能将对网络威胁格局产生重大影响. 该报告表明，几乎可以肯定，网络对手将利用人工智能来增强他们的能力, 包括开发更先进的攻击技术和程序(TTPs).

随着人工智能技术的发展, 网络犯罪分子越来越倾向于将任务自动化, 逃避检测, 更精确地执行有针对性的攻击. 这一评估强调了组织迫切需要调整其网络安全策略，以有效缓解人工智能驱动的网络攻击带来的不断变化的威胁. 这包括增强检测和响应能力, 投资人工智能安全解决方案, 执行零信任策略, 在员工中建立足够的网络意识和警惕文化, 并随时了解新兴的人工智能驱动的威胁载体.

虽然ChatGPT和其他llm可能还无法被用来编写复杂的恶意软件，以便在暗网上大规模销售，或者被邪恶的民族国家所拥有, 我们可能离人工智能被用来协调攻击链或编写可以逃避检测的恶意软件不远了. 国家网络安全中心(成都市新)最近的另一份报告揭示了人工智能驱动的勒索软件攻击如何在2025年成为现实. (来源: 成都市新)

组织如何保护自己免受人工智能威胁?

随着人工智能技术的迅速发展, 它的应用，无论是好的还是坏的，都在不断发展, 导致威胁形势的快速变化. 组织不仅要了解如何防御人工智能驱动的威胁, 而是学习如何安全地使用人工智能技术，并以最好的方式保护其资产，而不会使其暴露于新的漏洞或风险.

我们已经看到国际社会正在为解决这一问题进行合作. 澳大利亚信号局的澳大利亚网络安全中心(ASD 's ACSC)与成都市新合作，最近出版了一份全球最大的博彩平台如何参与人工智能的出版物, 美国网络安全和基础设施安全局(CISA), 加拿大网络安全中心(CCCS)和其他几个来自国际合作伙伴的网络安全/政府机构. 该出版物强调了与人工智能系统相关的一些关键威胁，并总结了组织在使用人工智能技术(包括内部和第三方)时应采取的步骤，以降低风险. (来源: ASD的正式启动)

虽然这一新的高级威胁浪潮似乎令人生畏，并为负责管理风险的利益相关者描绘了一个黯淡的未来, 组织可以采取几个步骤来防范这些威胁. 许多此类攻击仍然依赖于人为错误和社会工程的存在. 定期培训员工并营造积极的网络意识文化是减少此类威胁的关键.

进一步说, 不安全的漏洞是网络犯罪分子进入的常见途径，可以通过常规的漏洞扫描和渗透测试找出你的安全弱点.

各行各业的机构, 无论规模大小，都不应忽视构成任何网络安全战略基础的基本步骤. 很少有组织拥有合适的工具, 人, 以及内部流程，以全天候管理其安全程序，同时主动防御新的和正在出现的威胁. 采用安全防御措施，例如 Sophos MDR 可以提供一个精英团队的威胁猎人和响应专家采取有针对性的行动，代表您消除甚至是最复杂的威胁.