“火山方舟从Day 1起就经久把安全作为一项最基本功能。”

作家 | 代聪飞

剪辑 | 林觉民

大模子时期，企业使用云上模子的痛点有哪些？

你可能会说模子不够精确，又或者老本太高，但这些跟着AI时刻的快速发展，在不远的将来未必齐不再是问题。

比如 老本，自豆包大模子初度将价钱带进“厘”时期以来，行业纷繁跟进，企业客户从此不再为使用模子的老本过度腾贵而吵杂。在改日，跟着行业时刻进步，老本未必将越来越不再是问题。

与前述问题比起来，安全是一个容易被大多数东谈主冷漠但又极为宏大的事项。追随模子才略的快速发展，企业在使用大模子过程中靠近的安全挑战越来越多：从安全破绽导致的用户数据表现，到部分公司违纪持取数据，齐仍是出现干系案例。

企业在使用新时刻的同期，必须时刻拧紧安全的阀门，这是关乎企业糊口的根基，少量果决不得。因为一朝发生无意，亏本便有可能是致命的。

01

大模子时期的安全挑战

AI正在重塑行业。

自Open AI发布的ChatGPT引颈互联网行业进入AI 2.0时期以来，无数企业和AI创业者投身行业。在国内，除了 、字节、阿里等传统互联网大公司斥资过问，更是有智谱AI、月之暗面、Minimax等明星创业公司洒落其间。

短短两年间，阛阓似乎仍是从早期的莽荒开导期进入到淘汰期。前段时刻，有媒体报谈称，国内AI“六小虎”至少有两家已毁灭预锤真金不怕火模子。在好意思国，不少大模子公司齐在卖身，仅剩OpenAI、Anthropic、Meta、谷歌，以及马斯克旗下的xAI等公司还在大手笔过问基础大模子的研发。

阛阓趋于稳定之时，大模子时期的安全问题也在日益突显，成为行业关注焦点。干系安全事件包括但不限于，企业违纪操作过度持取数据、外部错误窃取用户数据、使用者通过AI窃取个东谈主躲避信息等。

以某知名生成式对话大模子产物X为例，自愿布以来，曾屡次被爆出存在安全破绽。

早在2023年，就有效户爆料X存在观点破绽，致使少数用户能够看到其它用户与AI对话历史纪录的标题。本年5月份，有参议员再次发现上述产物存在的安全破绽，该破绽允许黑客在用户的经久记挂建立中存储诞妄信息和坏心指示。但其时，干系公司对其阐扬并莫得予以深爱，草草解除窥伺。

通常在2023年，某提供导航工作的公司向当地报案称，发现存东谈主欺骗时刻妙技盗取公司工作器内寰宇的导航舆图信息数据，并在论坛售卖，导致公司径直经济损毁约21万元。

本年7月，好意思国某电信巨头流露，客户数据在第三方AI数据云平台发生大范畴表现，突出1亿条用户数据被黑客得到，触及险些统统转移客户的通话和短信纪录。涉事平台因大批客户遭黑客错误饱受质疑，该电信巨头仅仅浩荡受影响的企业之一。

越来越多的安全事故自满出，跟着AI多模态大模子等新时刻普及，用户数据正靠近越来越严峻的安全挑战。企业在使用大模子时，不得不更加警示可能存在的潜在安全风险。毕竟，安全无小事。

正因如斯，以火山方舟为代表的不少Maas（模子即工作）平台，经久对安全荒谬深爱。火山方舟是火山引擎旗下一站式大模子工作平台，一年多前，刚刚对外发布时，方舟平台就同步上线了基于安全沙箱的大模子安全互信经营决策，欺骗经营龙套、存储龙套、汇集龙套、流量审计等格式，解除模子的巧妙性、齐备性和可用性保证。这亦然大模子行业内首创的安全互信机制。

02

把安全「刻」进基因

安全从来齐不是一朝一夕的事情。

在同业险些齐卯足劲发展大模子才略时，火山方舟从驱动就把安全作为一项基本功能，用最严格的法式要求我方。用火山方舟我方的话说，要保证你的数据，唯你可见，唯你所用，唯你统统。

近期，雷峰网与火山引擎智能算法雅致东谈主、火山方舟雅致东谈主吴迪进行了近一个小时疏浚，了解到更多火山方舟为保证客户数据安全作念出的不懈努力。

火山方舟平台还莫得成型的时候，方舟的团队就在谈安全、龙套、沙箱。不错说，火山方舟从驱动就把安全「刻」进了它的基因。正因此，那时就有好多同业来问吴迪为什么如斯深爱安全。

在火山方舟看来，生成式AI的契机还远莫得填塞涌现，改日的阛阓容量可能是今天的1000倍，它会浸透到千行万业的中枢业务当中，是好多企业中枢业务的宏大依赖。在这种情况下，一家公司中枢业务将离不开大模子，除了追求狂妄、性价比，数据安全将更加剧大。

另一方面，生成式 AI 的发展将对安全产生更多新的挑战。换句话说，AI 1.0时期的安全决策在生成式AI时期未必可行。昔时，为了确保数据的安全，企业的聘请频繁是数据不动模子动，也即是说好多企业客户会把数据留在我方的私域空间里，请模子工作商把模子部署到我方的稀疏化空间，然则这一套实践可能在生成式 AI 的时期就行欠亨了。

其一，稀疏化大模子很难奴婢着公有云上开端进的大模子同期升级迭代；其二，稀疏化大模子所耗尽的基础算力的单元价钱是远远高于公有云上大模子工作，从性价比角度来讲，公有云上的勾通诊治更加低廉、更加便捷。

在公有云条款下，用户对云上操作弗成见，何如让用户充分信任云上数据的安全性经久是一个艰难，这亦然火山方舟昔时一年经久奋发于探索惩办的问题。

吴迪告诉雷峰网，火山方舟对安全的代码实践是径直浸透到系统的中枢想象中的，包括统统的扩张环境、日记审计环境，它是跟着系统自己的搭建总共进行的。打个比喻，这就好像大厦水泥基柱中的钢筋一样，保证了数据相配高的安全性。比拟较而言，部分不那么深爱安全的平台，可能会先把大厦成立起来，然后再在外面贴保温层、守护层加固。经久来看，这种模式的大厦是对抗不了台风等恶劣环境的。

不仅如斯，火山方舟的安全团队颓唐于其它团队除外，领有一批优秀的工程师，随时准备应付表里部的安全测试。字节朝上里面有专诚的蓝军攻防系统，随时可能进行各个角度浸透错误，颓唐考证火山方舟的安全决策。从日、周、月、到季度，火山方舟险些齐有不同级别的安全演练。

吴迪曾屡次示意，站在第一天，咱们就着眼于改日的 5 年或者 10 年时刻，从第一天就知谈取得客户的信任是一件相配宏大的事情。

03

何如帮客户解除「会话无痕」

恰是基于从驱动就把安全看成一项基本功能的理念，以及对生成式AI出息的深信，火山方舟对安全的过问绝不惜惜，地方也越走越明，研发出一套全周期的安全简直决策。

具体而言，这套决策主要包括四大才略：链路全加密、数据高守秘、环境强龙套，以及操作可审计。

如斯说来，不少用户好像会感到晦涩难解，咱们不妨稍加伸开。

所谓“链路全加密” ，包括汇集层传输加密和应用层会话加密决策，节略来讲，它主要用来细密用户数据在传输链路阶段被截获；“数据高守秘”保证用户数据仅本东谈主可见；环境强龙套，用于根绝外部风险入侵、里面数据泄密，就好像一座安全堡垒；“操作可审计”仿佛一座远看塔，能够匡助用户稽察险些一切影响其数据财富的操作纪录。

总共决策四大才略围绕数据传输、数据使用、数据静态存储等阶段互投合作，共同奋发于擢升用户在使用模子时的安全性， 为平台提供了全周期的安全才略，最终解除会话无痕（你的数据，唯你可见，唯你所用，唯你统统）的安全主义。

跟着大模子普及，企业着力得到擢升的同期，对数据安全的需求也在不断迭代更新。

晓多科技是一家智能客服的SaaS企业，围绕大模子作念了两款颓唐产物，其一是通过豆包大模子模拟买家锤真金不怕火新东谈主客服，上岗时刻缩小了一半以上。其二是，勾领路多原有的常识库，豆包大模子加成后，在客服接线时针对商品常识问答、商品对比、商品保举等复杂场景，给东谈主工客服提供副驾驶才略。

晓多科技首席时刻官向海直言，他们在为客户提供线工作才略过程中，也要保证窥伺链路的加密和佃农数据的龙套。“这个过程跟方舟想路差未几的，虽然，过问细目没（方舟）那么大。”向海笑着说谈。

向海坦言，在莫得大模子时，前述产物是很难作念出来的。惟有有了生成才略，才能大批模拟买家，去与新的客服东谈主员对话。豆包大模子出现以后，尽头是，经过半年围绕客户真确需求精调后，客户闲隙了，产物才能作念出来。

从安全角度讲，客户把我方的常识、培训现实、技巧，以至于过程齐固化到产物中，其中一部分酿成参数，径直被集成到领导词中。无论是晓多科技，照旧他们工作的商家，齐相配眷注方舟是何如保证这些承载用户常识数据安全性的。

回到方舟的安全决策，其彻心透骨的主义通常齐是保证用户数据解除「会话无痕」。干系审计日记充分灵通向用户灵通，也在很猛进度上给客户吃下了一颗省心丸。

从出身于今一年多时刻，火山方舟一直奋发于提高用户数据财富(模子、会话数据、锤真金不怕火数据等)的安全水位。火山方舟雅致东谈主吴迪在直播中示意，当今火山方舟仍是达到Don't be evil（不造孽）。这意味着，方舟平台能保证除了用户外的任何方一朝作念恶（违背方舟的数据安全战术），齐能够第一时刻被用户或者方舟的安全团队发现并追责。

不外，Don't be evil 只可算是一个基础安全水位。永恒而看，Can't be evil 才是火山方舟经久追求的安全主义。吴迪也坦言，信息安全有个特色，只可接近满分，但永远无法达到。

在被问谈，与客户战争过程中有莫得印象长远的故事，吴迪开打趣般说到：“我合计安全方面莫得故事，惟有事故。”

但咱们反过来想，一直以来，火山方舟齐莫得发滋事故，未必即是最佳的故事，亦然最朴素的简直。

BAT云销售，涌入火山引擎

火山引擎To B，一场字节数据时刻告诫的复刻之旅

多云时期到来，火山引擎「弯谈超车」进行时