标签: AI安全

Google Cloud Next大会上的耀眼新星：探索最具潜力的AI初创公司

在拉斯维加斯举办的Google Cloud Next大会上，不仅揭晓了如Ironwood处理器和Gemini 2.5 Flash等重磅新技术，还展示了一系列使用谷歌云计算服务的最有趣的初创公司。这些创新公司在人工智能领域不断推动边界，为未来的科技世界带来了无限可能。 安全超级智能：Sutskever的雄心 由OpenAI联合创始人Ilya Sutskever

• AI安全
• LLM
• 行业动态

当隐私与真相碰撞：ChatGPT 遭遇数据保护挑战

开启对话：隐私保护的新战场？ 在数字时代，人工智能（AI）技术的应用日益广泛，其中自然语言处理领域的佼佼者 ChatGPT 已经成为全球用户交流和信息获取的重要工具。然而，在这一快速发展的同时，一个不容忽视的问题浮出水面——ChatGPT 产生的诽谤性言论可能违反了欧洲的《通用数据保护条例》（GDPR）。近期，非营利组织 NOYB 向 OpenAI 提出了

• AI安全
• LLM
• 行业动态

Meta AI正式登陆欧洲：充满希望与挑战

引入Meta AI的欧洲之旅 在持续的技术监管挑战下，Meta宣布其人工智能虚拟助手——Meta AI将在欧盟市场迎来新的篇章。这项决定标志着Meta在全球科技舞台上的重要一步，但同时也伴随着一系列复杂的法律和隐私保护问题。 https://jishuba.cn/wp content/uploads/2025/03/image 3.png WhatsApp集

• AI安全
• 行业动态

AI大脑也能被“套路”？——揭秘大模型的提示词注入攻击

什么是提示词注入？ 提示词注入指的是攻击者通过精心设计的输入，操纵大型语言模型（LLM），使其偏离预期行为。这种操纵通常被称为“越狱”（Jailbreaking），其目的是诱使LLM执行攻击者的指令。当LLM被集成到内部数据库、API或代码解释器等工具中时，这种攻击变得尤为严重，因为它打开了新的攻击面。 过去，我们对 UI 和 API的访问是基于结构化格式，

• 提示工程
• AI安全
• LLM

AI双刃剑：企业如何平衡创新与安全

随着人工智能技术的快速发展，越来越多的企业开始将AI应用于业务运营中。AI带来的效率提升和创新能力毋庸置疑，但与此同时，它也带来了诸多新的安全挑战，尤其是对于高度重视数据安全的金融机构和科技企业而言。 https://jishuba.cn/wp content/uploads/2025/01/image 9.png AI应用现状：机遇与挑战并存 AI在企业中

AI与现代安全运营中心（SOC）的结合：机遇与挑战

在信息化快速发展的今天，安全运营中心（SOC）成为企业网络安全防护的核心。然而，随着威胁的复杂性增加，传统SOC面临着巨大的挑战，而人工智能（AI）的引入，正在为SOC注入全新的动力。 https://jishuba.cn/wp content/uploads/2025/01/image 7 1024x440.png AI在SOC中的角色 AI在SOC中主要