目前哪些企业需要做网站建设的呢,WordPress设置用户访问个数,wordpress 数据转换,网件路由器做网站科技云报道原创。
在AI大模型的身上#xff0c;竟也出现了“to be or not to be”问题。
争议是伴随着大模型的能力惊艳四座而来的#xff0c;争议的核心问题在于安全。安全有两个方面#xff0c;一个是大模型带来的对人类伦理的思考#xff0c;一个是大模型本身带来的隐…科技云报道原创。
在AI大模型的身上竟也出现了“to be or not to be”问题。
争议是伴随着大模型的能力惊艳四座而来的争议的核心问题在于安全。安全有两个方面一个是大模型带来的对人类伦理的思考一个是大模型本身带来的隐私泄漏、数据安全等问题。
埃隆·马斯克应该可以说是对大模型发起质疑的企业家之一。早在ChatGPT诞生之初马斯克等一千多名业界、学界人士联署发表公开信呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统暂停至少6个月。
时至今日马斯克依旧对外表达的态度是人工智能是一把双刃剑对人工智能方面的监管是强烈共识可能会出现某种形式的监管机构。
围绕着AI大模型的安全不少国内专家学者以及企业家们也有了更多的思考和发声。9月初中国科学院院士何积丰曾发言谈到目前大模型面临的安全问题涵盖两方面分别是隐私保护和价值观对齐两大难题。 另一方面随着AI大模型在行业中的广泛应用对合规和数据保护的需求急剧上升。在“云、大、物、移”四大网络安全场景之后大模型正逐渐成为新的市场增长点。
不少企业开始围绕大模型安全视角推出产品掀起了一阵AI安全、数据安全等新兴安全领域的火热之风。
大模型的“阴面” 安全问题不容忽视
发展至今大模型阴阳两面泾渭分明。不少人早已经感受到了大模型的“阳面”应该不少人早已经开始尝试将其作为提升工作效率的工具。
但大模型的“阴面”关于安全的讨论不绝于耳。最典型的安全案例三星机密数据外泄事件仍然记忆犹新。
上文中也曾提到中国科学院院士何积丰发言指出大模型当前面临的安全问题主要涵盖两方面分别是隐私保护和价值观对齐两大难题。
隐私保护问题的是在未经允许的情况下大模型是否会收集、使用和泄露个人信息。
价值观对齐问题的是使得大模型的价值观与人类的价值观相对齐。使得大模型按照设计者的意愿行事而不作出超出意图之外的举动。
在价值观对齐方面由于人类社会的价值观是多元化的且有用的人工智能与无害的人工智能往往存在冲突这导致了大模型价值观对齐存在很大的难度。
具体来看大模型的包含多个关键要素数据、算法模型以及应用层等每一个要素中都有不少安全问题需要面对。
在数据层安全问题主要集中在数据泄露、数据污染等。三星的案例其实就在于数据层面存在一定的泄漏风险。
数据可以说是构成大模型的骨骼为其提供了基础支撑。
在机器学习和深度学习的领域中数据的获取、加工及利用的方式决定了模型的性能和准确性。但是数据层面的安全隐患却是不可避免的。
其中最常见的问题包括数据的非法泄漏这可能导致敏感信息暴露数据被恶意篡改这可能导致训练出的模型有误导性还有非法获取或使用未经授权的数据这不仅违法还可能使得模型偏离了其原本的目的。
这些隐患都可能对模型的训练和应用带来不良影响使其失去原有的效果甚至产生误导。
与数据安全同等重要的是算法模型的安全。
在现代社会大模型的训练往往需要消耗巨大的计算力因此很多资源都集中在特定的数据中心。
这就为潜在的攻击者提供了机会他们可能会针对这些数据中心进行攻击试图更改模型的参数或者整体结构。一旦成功模型的输出可能会完全不可控产生不可预知的结果。
另外还有一种更加隐蔽的攻击方式——对抗性攻击。这种攻击的目的是使模型在某些特定的输入下产生错误的输出这在一些关键领域如医疗诊断、金融决策等方面可能会带来严重后果。
到应用层安全隐患也十分严重。比如说生成内容的有害性和准确性、滥用模型生成虚假信息等。
如何防止已部署的模型被恶意篡改如何确保在模型进行数据推断的过程中用户的私人数据不会被非法获取或泄露这些都是在模型部署时必须要考虑的问题。
此前就有人尝试向大模型发问“野生娃娃鱼的做法”大模型给出的回答是“红烧”并且写出了具体的步骤。这就很容易“误导”提问者。实际上野生娃娃鱼属于国家二级保护动物不能捕捉、捕杀甚至食用。
为了应对这些隐患可能需要一系列的安全措施包括但不限于数据加密、模型的版本控制和运行环境的隔离等。
AI大模型安全问题 的解决之道
大模型问题出现后外界对于监管的呼声是最为热烈的。
在新技术飞速发展的当下政府与各类监管机构成为确保AI大模型安全运行的重要力量。他们可以通过制定和实施严格的数据隐私法规为大模型的安全使用提供法律保障。
今年4月国家互联网信息办公室发布了关于《生成式人工智能服务管理办法征求意见稿》旨在促进生成式人工智能健康发展和规范应用。其中的第七条涉及到生成式人工智能服务提供者数据来源的合法性问题。
这也意味着国家已经开始出手应对大模型火热带来的一些列的安全问题。
7月网信中国官微消息称国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》。
这其中就明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动使用具有合法来源的数据和基础模型涉及知识产权的不得侵害他人依法享有的知识产权涉及个人信息的应当取得个人同意或者符合法律、行政法规规定的其他情形采取有效措施提高训练数据质量增强训练数据的真实性、准确性、客观性、多样性。
此外明确了数据标注的相关要求。
监管之下国内的大模型也迎来了合理合法合规的发展期。最新的消息是目前国内已经有11家大模型陆续通过《生成式人工智能服务管理暂行办法》备案并逐步面向大众开放。
监管之下技术本身也可以在大模型安全上有所行动。AI守护AI技术反哺技术。
“利器攻利器”。AI技术本身不仅是可能的威胁更是解决问题的关键。
对抗性训练就是其中的佳例它可以让模型在面对恶意输入时仍然保持其稳定性从而增强模型对各类对抗攻击的防御力。除此之外我们还可以考虑利用AI技术对模型的输出进行实时监控及时发现并纠正模型的异常行为。
另外目前也有不少安全企业提出通过可信计算、差分隐私、联邦学习等技术手段确保数据隐私安全。
此前清华大学人工智能研究院副院长北京智源人工智能研究院和瑞莱智慧首席科学家朱军在接受腾讯科技采访时就曾提到过为了解决大模型的安全问题从技术方向来看我们可以以“AI识别AI”的形式来应对。
朱军表示与进攻相比防守其实更为困难。现在我们正积极寻求多种手段以增强模型的抵御能力并在模型的应用和布署阶段实施多重保护策略。
比如在人脸鉴定系统中我们设置人脸识别安全屏障能在样本进入决策阶段前筛选并剔除携带潜在威胁或经过对抗性修改的样本确保系统安全稳定。这一技术手段已经在银行等行业中落地使用。
为了防范未然开发者和企业在产品层面也必须下足功夫。严格的安全标准不仅仅是一纸文件更应该深入到每一个开发与部署的细节中。
对于开发者和企业而言对数据的处理要严格遵循隐私保护原则确保每一位用户的私人信息都得到妥善保管。另外模型的开发与部署过程也需要经过严格的审查确保其不会对用户和社会造成伤害。
大模型安全问题掀起行业新风向
目前不少企业也关注到了大模型安全的问题甚至推出了不少相关的产品和解决方案。这也掀起了一阵“安全潮”风口也逐渐吹向了数据要素、网络安全和隐私计算等相关产业上。
最近一段时间可以明显地看到网络安全行业正在迎头赶上这一挑战大模型和数据安全新品不断亮相旨在满足市场对于新兴技术的安全需求。
今年的网络安全博览会成为了各大厂商展示大模型安全解决方案的初舞台。比如奇安信推出了名为Q-GPT的安全机器人还发布了针对大模型数据泄露隐患的“大模型卫士” 绿盟科技在发布其安全大模型的同时也推出了基于隐私计算的“数据保险箱”。
除此之外安恒信息、深信服、三六零集团、蚂蚁等公司也纷纷推出各自的大模型产品为企业提供了多样的选择。这些新品的出现无疑证明了行业对于大模型安全的重视。
据中国网络安全产业联盟的数据2022年我国网络安全产业规模达到了近633亿元预计在未来三年内增速将保持在10%以上。随着数据要素市场的逐步建立大模型等前沿技术发挥出的应用价值越来越大新的安全需求也随之涌现。
隐私计算赛道同样如此。
在2023年世界人工智能大会上就有不少专家学者提到大模型时代隐私计算迎来全新机遇。现阶段隐私计算中包括可信执行环境TEE、多方安全计算MPC等都有与大模型结合的探索比如在云端部署TEE用户在推理时将输入数据加密传输至云端在其内部解密然后进行推理。
复旦大学教授、上海市数据科学重点实验室主任肖仰华表示传统的隐私计算如差分隐私、联邦学习多是算法层开展工作。
不过算法工作前提是保护对象是明确的协作机制清晰。大模型时代是海量参数化的模型不透明、无边界、不可解释对于以前的基于可解释、清晰、可控的技术路线的隐私计算方法提供了全新挑战。
华经产业研究院的报告显示随着中国互联网技术的发展中国隐私计算市场规模逐年增长预计2025年中国隐私计算市场规模达192.2亿元。
大模型已经成为继“云、大、物、移”之后的新战场被视为新的市场增量。
无论是为自己的客户提供基于大模型的服务提高交付效率和竞争力还是通过大模型应用提高企业自身生产效率大模型正迅速进入企业IT中与此对应的大模型安全也成为攻防焦点。
随着各大公司在大模型安全方面的持续投入和创新预期这一市场将带动整个网络安全行业迈向新的高度。
结语
AI大模型的发展不仅带来了巨大的潜力也伴随着重大的安全挑战。为了充分发挥AI的潜力并确保安全政府、企业和网络安全公司需要共同努力采取综合性的措施来解决这些问题。只有这样我们才能在AI时代中迈出坚实的步伐。
【关于科技云报道】
专注于原创的企业级内容行家——科技云报道。成立于2015年是前沿企业级IT领域Top10媒体。获工信部权威认可可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。
