2024 AI应用创业必看实战:大模型RAG与SaaS落地心得

2026-06-16阅读 0热度 0
ai 人工智能

这篇不是AI技术文章,而是我们三个半月AI应用创业路上的一些真实感受。希望读到的人能有所共鸣,也欢迎反馈交流。

聊聊AI应用创业心得,我们在路上  | 大模型应用落地场景 | RAG | SaaS | PaaS | GTM | TorchV

一、为客户感到开心

昨天最开心的一件事,是我们的一个客户(后面简称“ZY”)的AI应用正式上线了。ZY用的是TorchV的AI PaaS服务,他们切入的市场需求真的很棒——在专属社群这个方向上,找到了精准的切入点。因为人家做的是付费知识服务,面向重点大学本科生和研究生,不太愿意在互联网上过度曝光,所以这里只说个大概,敏感信息略去。

简单提一下他们的商业模式:给在校生提供收费的知识服务。具体怎么玩就不展开了,但我们内部评估过后,一致认为确实很有卖点,而且在资源整合上有独特优势。

重点聊聊ZY和TorchV之间的关系。

我们是去年11月29日正式创业的。前期产品开发用了将近一个月,12月底就开单了——不过更多是靠之前积累的人脉。后来一直在公众号、Blog、X和知乎上发RAG相关的文章[1],慢慢吸引了很多人关注,ZY就是其中之一。ZY带着明确需求找来,试用TorchV的PaaS服务后,春节前就订阅了我们的专业版年服务(36000元)。至此,ZY算得上是第一个完全通过PLG(产品驱动增长)路径过来的付费客户——通过文章了解TorchV的价值,然后试用、磨合,最终成为正式客户。所以昨天他们的应用上线,对我们来说意义也很特殊。

在磨合过程中,我们也在不断探明很多服务边界,比如各类细项的用量和收费标准。这里可以透露一点数据:

  • 知识库上传容量超过2GB:ZY的知识库整理得非常好,这是他们的核心优势。文件数量过千,类型包括网页(论文和自整理知识)、Word、PDF和Markdown等;
  • 知识库数量超过50个:为了做好知识分类,ZY创建了大量知识库,让不同需求的客户能更精准地获取信息。

相较于其他付费客户,ZY的这次应用算是一次极限测试——让我们在处理单一客户的海量文件时更有信心了

二、TorchV提供了什么?

上面这些描述可能还是管中窥豹。那么,TorchV到底为AI企业应用落地提供了什么?简单直接:我们提供的是一整套快速帮助企业使用大语言模型(LLM)的PaaS系统。从底层往上分别是:

  • RAG和Agent:检索增强生成(RAG)[2]和Agent,是目前大模型在企业落地的事实标准;
  • Tenant:租户系统,这是搭建多租户PaaS/SaaS平台的基础;
  • OSS:在线文件存储,包括客户上传的文件、从URL导入的数据等;
  • ChatBot:TorchV会提供一个默认的Web版问答系统,客户可以在上面测试知识,内部使用场景也能直接拿来用;
  • 数据&洞察分析:对数据进行分析,包括客户预设的洞察条件——一旦触发,就会执行指定动作,比如产品和服务推荐、咨询分流等。客户也可以在这里同步数据,导入自己的系统作为数据分析基础;
  • 知识库管理:创建知识库,上传文件后系统立刻处理,变成chunk(小块文本)和embedding后的向量数据;
  • 运营后台:涵盖计费系统、参数配置、对话记录查看和标注、用户权限设置、反馈处理等功能;
  • 应用中心:一个客户可以创建多个应用,通过API对接自有系统,或者根据API开发新应用;
  • API&一键嵌入:除了API,还提供一键嵌入——只需引入几行JS代码,就能在客户Web应用上开启悬浮icon,获得TorchV的对话能力。

另外,对大语言模型的连接也做了中间件,内置多个模型。客户在实际使用中可以指定模型,或者用智能分配。目前内置的大模型包括:

  • glm-3-turbo(智谱)
  • glm-4(智谱)
  • Baichuan2-Turbo(百川)
  • Baichuan2-Turbo-192k(百川)
  • qwen-72b-chat(通义千问)
  • qwen1.5-72b-chat(通义千问)
  • moonshot-v1-32k(月之暗面)
  • moonshot-v1-128k(月之暗面)
  • yi-34b-chat-200k(零一万物)

刨去半个月的春节放假,三个月时间确实做了不少事情——收获了几个付费客户,还有70多家试用企业。和客户频繁深入沟通后,发现目前的进度只是开始,很多优化工作和全新需求已经排进迭代计划了。

三、GTM和产品路线

本来想聊GTM和产品开发战略,但我们这么小,哪来什么战略啊。分享这一章,是因为觉得GTM和产品路线协调太重要了,直接关系到创业到底要创造什么价值。

SLG暴露的问题

GTM(Go-To-Market)Strategy是触达市场的策略。最能想到的两种模式:SLG(销售驱动增长)和PLG(产品驱动增长)。我们一直向往的是PLG——自下而上影响客户购买决策,让客户真正用起来。而SLG是过去几年一直在玩的模式:从“钱”出发,看哪些客户有钱,找到他们,了解需求做解决方案,把产品和部分定制化一起卖出去。

但SLG的问题也很突出。为了完成业绩,有时会出“非常手段”,加上客户的决策人和实际用户往往不是同一拨人,导致很多SLG卖出去的产品根本没被真正使用。对公司来说,这影响复购;对产研人员来说,价值感极低。再加上大量定制,根本没动力也没精力把产品从60分做到100分。最终,客户的使用价值、公司的产品竞争力,以及产研人员的信心,全都受损。也许SLG本身没错,但在国内很多企业的实际GTM过程中,上述问题大量存在——这还不展开说严重的商务费用问题。

所以这次自己创业,就优先选了PLG。听起来有点任性,其实是最务实的选择。下面说说感受,为什么今年在AI应用落地上,PLG比SLG更有效。

新事物需要新方法

AI虽然不新鲜了,但粗略统计,国内至少还有13亿人不知道GPT到底是什么。大面积做SLG很难。我们手上是有一些销售渠道资源的——去年底创业开始,渠道方面就在帮着推广。但他们的客户关系网建立在以前的集成业务和标准产品上,现在直接推AI应用,存在市场教育问题、落地场景问题。渠道商普遍觉得很难推,他们自己和客户对AI都还有认知gap。AI应用市场的建立还需要时间——包括知道GPT的企业,对幻觉问题也依然警惕。

去年9月、10月写了几篇文章,阅读量5000到12000不等,都发了朋友圈。但好友阅读量没超过20。这说明微信好友里大部分人还没真正关心大模型的价值。如果拿着AI产品去原有销售网络找客户,无异于缘木求鱼。

但除了20多个好友,还有那么多新朋友在阅读——他们中间会不会就有对大模型应用有需求的人?

通过阐述价值寻找客户

为了验证这个想法,我们在2024年1月26日傍晚上线了TorchV Bot试用系统,并在公众号、X和知乎上阐述产品理念——不是纯技术文章,而是邀请大家试用。当天晚上就收到十几家企业的试用申请,团队倍感惊喜。接着春节,直到过了正月十五才真正回归状态。3月初,我们给100多家企业开了试用账号,和其中70多家进行了需求沟通,把很多共性问题归纳整理。这些试用客户里,有些已经付费开启正式版,还有一些直接说“你们把XXX完善了,我马上付款”。于是,五个显著应用场景TorchV PaaS优化的需求,被列入产品持续迭代计划。


醋和酒

通过内容推广和试用,我们验证了一个想法:AI应用的需求大量存在,通过PLG或PM(产品营销)去吸引有需求的客户,效率明显高于传统SLG的主动出击。我们也不是没试过SLG,但找到的客户没有主观需求时,他们的需求往往“临时起意”。打个比方:我们是酿醋的企业,目标是酿出上好的醋,但主动找的客户会说:“醋是好醋,但你们要是能再酿些酒,我就一起买了”。团队人员有限,产品研发迭代只能单线程运转,根本应对不了需求无限蔓延。

而通过PLG主动找来的客户,需求明确到——说得夸张一点——他们已经万事俱备,就欠我们这股东风了。合作很自然,我们也能聚焦在产品优化上。在AI应用(比如RAG、Agent)这个行业摸爬滚打过的朋友都知道,从开源应用到真正企业级应用,要脱好几层皮才能进化出来。真正的企业应用需要很多优化,除了满足客户精准、稳定的要求,还要有很多特性:

  • 开箱即用:客户能快速搭建知识库,不用自己解决二十多个技术环节;
  • 快速接入:提供有良好文档的API和一键嵌入能力;
  • 数据和洞察:对客服务类客户希望在服务过程中洞察商机,能实时推荐产品或服务,或者把商机特征明显的咨询自动分流给专家或销售代表;
  • 超大资源容量和访问权限:像ZY那样需要支持超大容量知识库,企业级场景不是针对几个文件。另一个客户在公司内部使用时,有问答权限需求——比如合同文件不是所有员工都能问答;
  • 一账号多应用:依赖同一组知识库,客户可能对接或开发多个应用,需要多应用处理能力和每个应用的专属配置;
  • 更多形态:企业应用不仅限于对话,还有更复杂的业务,比如合同预审——输出问题报表,我们正在和一个合作伙伴共创。

我们的价值和使命是什么?

创业确实不容易。短短三个多月,我们有过几次自我怀疑——深夜里在漆黑的森林找路,走着走着很难不怀疑方向对不对。但总能调整回来,因为大家有坚定的价值观:创造真正有价值的产品。另外,在漆黑的森林里徒步,要走出去就得设定目标——找到前方远处的灯光,朝那里走。

我们觉得这盏灯就是使命:挖掘企业非结构化数据的价值。过去二十年,结构化数据(关系型数据库、键值对等)的应用已经发展到很高程度,但企业里占比更大的是非结构化数据,而且每天都在为怎么利用它们烦恼(推荐阅读《挖掘非结构化数据的价值(一)》[3])。我们的使命就是解决这些需求。过程中的技术(RAG、Agent和其他AI技术)都是走向这盏灯的工具。


四、结论

坚持价值观做事是很孤独的。这也是为什么昨天看到ZY上线会那么兴奋——他们这群人,在做一件很有意义的事。

以上算是三个半月创业的真实感受和心得,希望能得到一些共鸣,如果对某些朋友有帮助,那就更好不过了。

免责声明

本网站新闻资讯均来自公开渠道,力求准确但不保证绝对无误,内容观点仅代表作者本人,与本站无关。若涉及侵权,请联系我们处理。本站保留对声明的修改权,最终解释权归本站所有。

相关阅读

更多
欢迎回来 登录或注册后,可保存提示词和历史记录
登录后可同步收藏、历史记录和常用模板
注册即表示同意服务条款与隐私政策