尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

Cloudflare开源内部AI智能体编程平台,非技术人员也能用

Cloudflare开源内部AI智能体编程平台,非技术人员也能用 已经将其内部使用的操作系统进行了公开。这个系统是本来作为公司内部的帮助工具来开发的, 目的是来帮助企业的员工——这里包括了那些不会写代码的非技术人员——去利用人工智能助手来开发应用软件。同时, 这家公司也推出了一套安全防护机制, 这套机制是专门为了降低风险而设计的, 这种风险指的是员工在进行一种被称为气氛编程的编码活动时可能会遇到的严重漏洞威胁或者可能会导致数据泄露的情况。经历了数月之久, 终于完成了操作系统的搭建以及内部测试工作。这个平台支持员工使用日常说话的方式来描述工作流程, 随后由人工智能助手把这些描述编写成计算机程序。在八月五日发布的那篇博客文章当中, 官方宣布该平台的开源版本已经正式上线了。并且表示每天会有数千名员工使用该平台, 他们用这种方式来制作文档和演示幻灯片, 自动化处理那些重复性的任务, 以及创建用于展示数据的轻量级应用程序, 进而实现工作效率的提升。首席工程师 Varda 在 X 平台发布了帖子, 他说, 这是一个完整的个人应用氛围编程平台, 它的沙箱安全性是非常高的, 用户几乎可以按照自己的意愿进行操作, 因为 AI 是不能引入重大的安全漏洞的, 我们相信企业的安全团队是可以放心给那些非技术的用户授权, 让他们进行氛围编程的, 而且还能睡得安稳觉。安全模型的核心原理安全模型依赖于创建细粒度的应用实例, 以文档编辑应用为例, 每个文档会作为独立实例运行在单独的沙箱中, Varda如此解释道, OS平台负责管理每个实例的访问权限, 每位用户运行属于自己的代码副本, 并可自由修改。这个沙盒机制它是基于现有的功能来搞的, 它没有去用那种传统的软件容器, 而是创建出了隔离体, 这里有个括号是空的, 它就是V8执行引擎的一个实例, 这些隔离体启动起来只需要几毫秒的时间, 内存只占用几兆字节, 速度比标准的容器快了100倍, 内存效率提升了10到100倍。为了把企业数据暴露的风险降低到最低限度, 那个叫作AI智能体的东西在刚启动的时候是完全没有任何资格去访问或者是共享任何内容的。它非要通过那个OS平台去发个申请才行。至于服务端的那些代码, 它们是跑在一个被禁止了所有往外走网路的封闭环境里的。而客户端的那些代码呢, 则是被困在了一个浏览器自己弄出来的安全隔离区域里面转悠。这就说明了一件事, 就是不管是你那边的还是我这里的代码, 都是别想直接去上互联网的。只有当那个平台正式开出了一条专门给你用的通道, 并且明确同意你可以用这条道儿的时侯你才能走出去。这套内置在操作系统框里的沙箱还有权限机制, 放在实际用起来的场合中, 那可是很有价值的。这一点大家要清楚, 不管哪个系统想做得万无一失、一点漏洞都没有, 那是不可能的。最近有一帮研究人员, 他们搞了个报告, 把这事给说清楚了。报告里揭露了一个问题, 那就是好几个特别主流的AI编程智能工具都中招了。这里面包括有叫Codex的产品, 也有CLI命令行工具, 当然还有其他一些没提名的东西。这些工具里都存在一个很危险的漏洞, 就是那些规定好范围的东西被突破了, 本来应该关在里面的东西跑出来了, 这就是大家说的沙箱逃逸和边界绕过问题。模型兼容与成本控制操作系统几乎能够兼容市场上所有的AI模型, 并且允许企业根据具体的任务需求来选择最合适的那个模型。首席信息官Sam Rhea在发表的另一篇博客文章中提到了相关的观点, 他认为, 并不是每一个用户都需要去使用当前最新最前沿模型的强大推理功能, 同时我们也非常不希望看到员工为了汇总自己的邮件收件箱而每小时花费高达20美元的费用。Rhea还提到, 这家公司把平台又进行了进一步的优化和调整, 目的是让那些特定工作流程里的技能文件, 在执行过程当中去依赖更多确定性的处理步骤, 这样做的结果是只在确实需要的时候才会去调用人工智能推理功能, 而不需要在每一次操作环节都进行一次会消耗大量Token字数的长时间推理会话情况发生。该平台还支持管理员对员工的AI推理支出进行监控, 并且设置预算以及调用频率的限制。这一功能非常重要, 因为当下企业和个人普遍都面临着AI模型使用预算快速耗尽的问题。不过, 如果企业的管理层把Token消耗最大化”作为激励的手段, 强行推动员工去使用AI工具的话, 那么类似的措施也还是难以遏制那些不合理的使用情况发生的。从内部实践中汲取的教训在推动操作系统实现高效落地的工作之中, 同时也分享出了一些令人印象深刻的教训。曾经出现过一个早期的错误, 那个错误表现为: 仅仅是为工程团队以外的员工去提供界面更加友好的同一类工具。对于这一情况, 有名叫Rhea的人进行了解释, 这个人的观点是工程师在日常工作里所使用的AI编程辅助手段, 根本不适合知识类型的工作人员, 因为这类工作人员所从事的任务, 通常是具有一次性完成的结果的特性, 还往往伴随着需要在几十个不同的系统里面进行协作来共同完成一个项目的性质。QA第一个问题: 所谓OS, 它指的是什么玩意儿? 并且, 它还能够给那些不是技术专业的人提供哪些方面的帮助与便利?OS是一个已经开发完毕并且实现了开源的内部分AI智能体编程平台。这个平台允许员工使用自然语言来描述工作需求, 由AI智能体将描述转化为可以运行的应用程序。非技术人员可以利用它创建文档、制作幻灯片、自动化重复任务、构建数据可视化小应用。这些操作无需具备编程基础。目前该平台的阶段是已上线, 供外部组织免费使用。Q2 OS的沙箱安全机制是如何工作的A方面提到, 所使用的操作系统采用了基于某种特定技术的隔离体机制, 使得每一个应用程序的实例都能在独立的沙箱内进行运行, 而且彼此之间不会产生任何相互干扰的情况。同时, 人工智能智能体在刚启动的时候是一点权限都没有的, 它必须通过明确申请的方式才能够获得去访问相关资源的许可。服务端这一方把出站网络的功能给彻底禁用了, 而客户端则是运行在浏览器的沙箱环境里面的, 这样一来, 数据泄露的可能性路径就被有效地阻断了。大家要知道, 这种所谓的隔离体的运行速度可比传统的容器要快上整整一百倍, 而在内存使用效率这块儿呢, 也提升了十到一百倍的幅度。第三个问题, 在企业使用操作系统的情况下, 是怎么去控制那些由人工智能所引发的调用所带来的费用的呢。A提到, 操作系统的内部包含了成本管理方面的功能, 管理人员能够盯着每一个员工在人工智能推理上花多少钱, 并且还能够定下预算的最高限额以及使用的次数限制, 以此来避免钱花得太多。还有方面就是平台对工作流程里的执行逻辑进行了优化处理, 只有在真的有需要的时候才会去引发人工智能推理这个动作, 这样就减少了 Token 的无谓消耗, 也就能防止因为老是去调用大模型而让费用超出了界限。
返回列表