语言黑客新伙伴：AI武器化协助网络攻击！ HKCERT揭示六大 AI 新兴攻击方法
（香港，2025年9月12日） 人工智能（AI）技术，例如大型语言模型 LLM 与生成式模型无论在编程、写作、图像生成等领域广泛应用的同时，也正被黑客迅速「武器化」，导致网络攻击的複杂度和防禦难度急速上升。面对从破解验证码到全自动代理攻击等不断演化的 AI 威胁，单靠人力已难以招架。香港网络安全事故协调中心（HKCERT）最新揭示六大 AI 协助攻击手法，并呼吁企业与市民高度警觉。应对此趋势，防禦策略也需进化，「人力加上 AI 辅助」已成为必由之路。HKCERT 自身已引入 AI 工具进行威胁侦测，截止 今年 8 月一共完成 35 亿次扫描，成功识别多个可疑网站。这表明，唯有同步提升防禦意识与技术，才能有效应对 AI 武器化带来的全新挑战。
代理式AI所带来的最新风险
近期，「代理式 AI」（Agentic AI）的快速发展，带来新的资安风险。这种 AI 不再只是被动回应的聊天机器人，而是能够主动操作电脑系统，执行更複杂的任务。以往需要多人协力才能发动的精密网路攻击，现在可能只需要一名骇客，就能指挥多个代理式 AI 自动完成。此外，许多厂商也开始将代理式 AI 整合至浏览器中，用户只需透过对话介面，就能指示 AI 代为完成各种操作，例如订餐厅或网购日常用品。然而，这类具自主行动能力的 AI 浏览器近期被发现一项安全漏洞：恶意网站可能透过隐藏指令，在用户不知情的状况下操控 AI 执行非预期的操作。举例来说，AI 可能会擅自开启电子邮件收取验证码，并将资料上传到外部网站。
HKCERT建议：机构及用户都需继续保持警扬，提升保安意识应对更複杂攻击。而代理式 AI 在应用层面仍需加入更多安全机制，以防止其执行超出用户授权的行为。然而，由于具备自主代理功能的 AI 浏览器仍属发展中技术，HKCERT 建议用户使用AI 浏览器处理敏感资料或交易时，可检视其操作步骤，或避免将电邮、个人资料或信用卡资料连结至浏览器。
AI破解验证码
登入网站除了输入帐号和密码，常被要求输入图形验证码，以区分真人用户与自动化程式。验证码可能是扭曲的英文数字，或是在多张图片中选出特定类别的图像。如今，只需将验证码图片上传至 AI 系统，AI 便能迅速且准确地回复。这意味着黑客可以透过撰写AI程式，让其协助绕过传统验证码，令验证码保护网站的功能如同虚设。
HKCERT建议：对于仍採用传统验证码的网站，建议系统管理员考虑升级至互动式验证码或行为检测式验证以提升安全性，减少被自动化攻击入侵的风险。
- AI网页分析及攻击辅助
黑客经常在网上搜寻各类登入页面，并尝试以暴力破解方式取得帐号及密码，进而发动渗透攻击。如今，在 AI 技术的协助下，从寻找登入页面到执行暴力破解的整个流程，部分工作已经可以交由 AI 自动完成。事实上，已有资安研究人员开发并公开了能够利用 AI 进行渗透攻击的工具。预期黑客也将迅速跟进，开发出更高效、更自动化的攻击工具。
HKCERT建议：网站管理员加强安全检查，严格执行安全密码政策（如多重认证），并定期检视系统日誌，分析可疑活动，及时修补安全漏洞，降低被黑客利用的风险。
- AI 时代的分散式阻断服务攻击(DDoS)的攻防
在AI时代以前，DDoS攻击主要依靠压倒性的网络流量来瘫痪目标网络，属于一种「暴力式」的攻击。然而，随着 AI 时代的来临，黑客开始开发出新型的 AI 攻击工具，能够即时监测攻击效果，并根据防守策略（如流量限制）自动调整，转而攻击其他弱点。这些工具甚至能模拟人类使用者的操作行为，藉此骗过传统的防禦机制。未来，DDoS 攻击不再只追求流量规模，更强调准确与灵活，目标是以最少的流量造成最大的破坏。面对这种新型威胁，网络安全开发者也积极运用 AI 技术，以「以子之矛，攻子之盾」的方式应对。他们利用历史流量数据、过往攻击模式及威胁情报来训练 AI 模型，使其能够即时分析网络流量，自动回应攻击并动态调整防禦策略。这些 AI 模型还会持续收集流量数据，不断自我微调与学习，随着时间推进变得更加精准。
HKCERT建议：在 AI 驱动的时代，DDoS 攻击将更加即时与複杂，网络管理者应持续关注最新攻击趋势，定期更新威胁情报，并考虑部署具备 AI 功能的网络防护系统，以应对未来以 AI 为主导的新型攻击挑战。
- AI驱动的勒索软件
近期，某大学学术研究团队成功编写了一个AI勒索软件的雏型，即时连接至大型语言模型，利用预设提示词（Prompt）即场生成攻击程式码并执行。该研究意味AI 勒索软件能根据不同机构的系统架构、网络环境及保安防护程度等，自动进行客製化，令防禦难度和受影响程度大增。
HKCERT建议：市民切勿随意下载或执行来源不明的档案或程式，及应安装防毒软件或网络安全应用程式并定期更新。
AI製作的钓鱼网站
AI 网页开发技术日益成熟，用户只需提供适当提示词，便能生成美观且功能正常的网站。对黑客而言，他们可利用 AI 工具複製正规网站页面，稍作修改后便能製作出高度彷真的钓鱼网站。可以预计钓鱼诈骗的攻击将会持续增加，而且更难单靠网页内容来断定真伪。
HKCERT建议：市民浏览网站时务必检查网址真伪，若有疑虑，切勿向可疑网站输入任何个人或敏感资料。
- 完 -
