江西98年小伙,大厂辞职后全职创业,打造中国爆火Prompt社区
江西98年小伙,大厂辞职后全职创业,打造中国爆火Prompt社区
来源丨创业邦(ID:ichuangyebang)
作者丨刘杨楠
编辑丨海腰
图源丨 midjourney
今天的 AI 界,从不缺造神的故事。
技术小白和技术大牛之间,往往就相差了若干 Prompts 的距离。
最近,17 岁高中生调试 80 多版打造的神级 Prompt(名为 Thinking-Claude)引发争议,有人感叹又一位天才 Prompt 少年横空出世,也有人提醒广大 LLM 的应用开发团队,不要被情绪冲昏头脑,认为这个 Prompt 过于复杂且可维护性较低,堪称最糟糕的 " 代码屎山 "。
过去一年,类似的争论屡见不鲜,LangGPT(中文名称为 " 结构化提示词 ")创始人云中江树已经见怪不怪。他将各方观点转进社群,呼吁大家学习可取之处,同时理性看待争论。
目前,LangGPT 是国内最大的 Prompt 社区。
2023 年 5 月,LangGPT 在 GitHub 正式上线后,便迅速获得开发者喜爱,并与通义千问、Kimi 等模型厂商达成合作,共同推出官方 Prompt 模板。
直到今天,LangGPT 在 GitHub 上的 Star 数仍在增长。目前,LangGPT 国内飞书知识库的访问量已达 20 万,全网传播超 100 万,微信私域社群成员超 4000 人。
今年 4 月,云中江树辞去自动驾驶工程师的工作,全职投身 LangGPT 创业。过去一年多,借助 LangGPT 的平台,云中江树看到了一个 AI 时代 " 万花筒 " 般的切面。
" 这么简单的东西,
居然能这么火?"
2021 年,正在武汉大学读研究生的云中江树,在一篇论文中看到了 "Prompt tuning" 这个概念,顿时眼前一亮。
" 当时很多 AI 应用都是通过微调完成的。先预训练,然后用数据集微调模型的输出层,实际微调多少层,多少参数等等都是可以变化的,甚至可以全参微调。微调有很多好处,缺点也很明显,依赖高质量标注数据,需要调试训练超参数,常常训练失败,甚至性能不如预训练模型。而 Prompt tuning 不需要训练模型,只需要调整提示词即可,由于模型参数不会更新,所以能充分利用预训练模型的泛化性。"
之后,云中江树便开始自学 Prompt tuning,逐渐接触到了变量、模板、结构化等概念。
2022 年底,ChatGPT 推出后,云中江树探索了上百个 AI 项目,整理成 ChatGPT 中文指南开源后,连续数天登上 GitHub 全球热榜。他发现这些项目的核心都在于 " 如何更好调用大模型能力 "。而 Prompt 工程,便是调用大模型能力的起点。
当时,国内外社交媒体上关于 Prompt 工程的热度越来越高。这让云中江树有些意外:" 当时我们都很惊讶,这么简单的东西居然这么火?"
"2023 年初大家觉得 ChatGPT 很惊艳,对一切都很感兴趣,大家都想知道别人用 Prompt 改变了什么,很多人在社交软件上随便发一些奇奇怪怪的 Prompt 技巧就有很多人来学。" 他回忆道。
于是,云中江树开始有意识地梳理、提炼自己写 Prompt 的经验,并逐渐从专业开发者视角,转变为普通用户视角,试图找到一种 Prompt 方法论,让自己能用 20% 的实验精力,去降低技术小白们 80% 的使用 AI 的门槛。
经过几个月的迭代,2023 年 5 月,LangGPT 在 GitHub 正式上线,迅速获得开发者喜爱,之后与通义千问、Kimi 等模型厂商达成合作,共同推出官方 Prompt 模板。
直到今天,LangGPT 在 GitHub 上的 Star 数仍在持续增长。目前,LangGPT 的飞书知识库访问量已达 20 万,全网传播超 100 万,私域社群成员超 4000 人。
图源:云中江树
目前,LangGPT 社群成员大致有两类,一类是广大的 AI 使用者,一类是前沿应用的开发者。而应用开发者中,有人想提升个人工作效率,更关注有效的 Prompt 模板;有人想下场创业,更关注应用场景。让云中江树有些意外,但很惊喜的是,有公司组织技术或产品人员甚至组团加入社群,学习如何用 Prompt 工程开发 AI 应用。
最火热的时候,云中江树一度感受到了一股 " 全民学习 Prompt" 的浪潮,下到十几岁的青少年,上至七八十岁的老人,各有各的好奇与狂热。" 有一位七十多岁的老人,是一个旅游协会的副会长,几乎没有缺席过任何一场社群线下活动。" 他回忆道。
不过现在回想起来,云中江树也坦言,这种感受或许也是一种 " 幸存者偏差 "。毕竟对于 14 亿中国人而言,Prompt 工程还是一个太小众的话题。
进入 2024 年,ChatGPT 激起的喧嚣褪去,社群里的人来来走走。大浪淘沙之后,留到最后的,都是真正希望用 AI 改变些什么的人。
AI 应用开发离不开 Prompt 工程
Prompt 工程从出现在公众视野的那一刻,就伴随着唱衰的声音。
当时,包括 Sam Altman 在内的一众大佬都认为,随着大模型性能提升,模型对世界的理解足够充分时,就不再需要 Prompt 工程。Altman 曾表示:" 五年后我们将不再需要 Prompt 工程,或者只需在这方面做少量工作;将来的 AI 系统不会因为增补了某个特定词就产生截然不同的输出,而是可以较好地理解自然语言。用户只需以文本和语音形式输入指令,就可以让计算机完成图像生成、资料研究、心理咨询等复杂任务。"
云中江树从不避讳谈论 Prompt 的消亡。他坦言,自己最初也认为 Prompt 可能会像一阵风一样过去,但事实却并非如此。
毫无疑问,今天的模型已经越来越擅长理解人类意图。云中江树也发现,国外开发者似乎不太关注 Prompt 工程了,但国内对于 Prompt 工程的热情却是只增不减。
总体上,云中江树认为,模型进展仍低于预期,很多 AI 应用开发仍然离不开 Prompt 工程。OpenAI 发布 o1 时,他便在社群内表示:"o1 指出了一个有前途的方向,对学术研究而言是座金矿,能立马投入,但对于应用者来说,仍然是不实用的玩具,很慢、很卡且不能控制细节。"
这种情况下,要想快速推进应用,Prompt 就是一个性价比更高的着力点。
但过去两年,虽然大模型用户对 Prompt 的学习热情高涨,各家大模型厂商对 Prompt 的实际重视程度却并不高。除了 Anthropic 工程师近期对外详细分享了 Prompt 工程心得外,国内外头部模型厂商或 AI 应用开发者都鲜少公开分享 Prompt 工程经验。
这种不重视甚至直接反映在产品设计中。Anthropic 工程师 David Hershey 在近期的分享中也提到,跟客户合作时发现,很多人在设计模型时总是想象着用户会在对话框里输入完美的内容,但很多用户可能连大写字母都从来不用,几乎每个词都有拼写错误。
" 实际上,Prompt 工程在 AI 应用开发中的 ROI 很高,开发者花费 20% 的经历就可能让产品用户体验提升 80%。"云中江树表示," 目前市面上发布的 Agent,主要价值都体现在 Prompt 工程。在构建 AI 应用的过程中,所有的 idea 都要先通过 Prompt 去验证。"
好在,云中江树观察到,国内很多企业正在意识到 Prompt 工程的重要性。" 很多去年做微调的应用企业今年都放弃微调,转而在 Prompt 工程上投入更多。毕竟即使是微调,也要面临昂贵的算力成本。"
值得注意的是,Prompt 的门槛虽然不高,但要做好也需要投入足够的时间、精力。
模型技术仍在快速迭代,对 Prompt 的要求也在不断变化,要想通过 Prompt 让模型实现想要的功能,就难免要大量调整 Prompt 的细节,在大量失败中总结一些奇奇怪怪的方法和技巧,个人很难凭一己之力穷尽所有可能。
LangGPT 这类开源社区真正的价值所在,就是汇集四面八方的集体智慧,尽可能释放 Prompt 对模型应用落地的价值。
结构化 Prompt 成为主流选择
随着模型快速迭代,大牛们对 Prompt 工程的方法论也在不断迭代。
目前,一个最新共识是,Prompt 的核心在于 " 清晰的表达 "。
" 最初我认为 Prompt 是 AI 时代的编程语言,后来发现这仍然没有跳出上一代的局限性,现在我更倾向于认为,Prompt 是自然语言和编程语言结合的交叉点。‘怎么写’不是最重要的,更重要的是‘写什么’。" 云中江树表示。
" 专业的技术人员反而不一定能写出很好的 Prompt。因为技术人员有时会陷入 Prompt 的形式,而忽略表达的内核,写了很多冗余的规则,但没说清楚自己的具体需求。"
Anthropic 负责 Prompt 的工程师近期也在一档播客节目中表达过相似的观点:" 很多时候,需要做的只是写一个非常清晰的任务描述,而不是尝试构建抽象的东西。你得把自己脑海中所有你知道但模型不知道的东西整理清楚,然后写下来。"
但在过去一年的 Prompt 实践中,Prompt 工程师们无形中也在表达形式上形成了一种默契——结构化 Prompt 正逐渐成为主流选择。
Anthropic 工程师 David Hershey 表示,一个好的写作者不一定会成为一个好的 Prompt 工程师。"Prompt 是一种很特别的模式,你写的是一段文本,但要像对待代码一样对待它。"
云中江树也感受到,结构化写作 Prompt 正在成为共识,国内尤其如此。
这个结论从现存 Prompt 社区的活跃程度上也能看出一二。2023 年 12 月,创业邦在《欢迎来到 Prompt 的美丽新世界》一文中写道,2023 年国内外出现了很多大小不一的 Prompt 社区,大致可分为 " 技术派 " 和 " 非技术派 " 两类。现在回看,LangGPT 作为技术派的代表,已成长为国内规模最大的社区。
对此,云中江树自己也分析了背后的原因:" 一方面,早期很多社区只是简单整合市面上的 Prompt 模板,而我们一直在系统输出自己的方法论;另一方面,从结果导向来看,结构化的 Prompt 实操性更高,能让应用开发的工作流更高效运转。"
简单来说,对技术系统本身来说,通过 Prompt 调动 AI 的某项能力只是第一环,更大的挑战在于后期维护和版本升级;而从 AI 应用的开发流程来说,往往涉及一个上下游协作的 Prompt 工作流。
横向来看,在协作开发的过程中,一个工作流下游的开发者需要准确知道上一个节点的开发者对 Prompt 做了哪些调整;纵向来看,第一个应用版本开发出来后,随着模型不断升级,还面临一系列版本升级和代码维护,同样需要以上一版 Prompt 为基础进行迭代。
因此,从实操效果来说,结构化 Prompt,是让整个工作流高效运转的最佳方式。" 退一步讲,即使是独立开发者自己调 Prompt,也经常忘记自己之前具体写了什么,结构化的形式让工作流的各个节点更清晰。" 云中江树坦言。
不过,随着模型性能提升,Prompt 工程要解决的问题也越来越难以捉摸。
最近,让云中江树感到困扰的是,模型性能提升后,它犯的错误也越来越隐蔽,这也增加了工程师调试 Prompt 的难度。" 要解决这个问题,只能用一些 " 笨办法 ",例如大量试错,尽可能多的试出那些奇奇怪怪的错误,并最终由人类开发者对项目兜底。" 他表示。
可见,在 Prompt 工程师和 AI 之间,Prompt 工程这场关于时间和耐心的拉锯战,短期内还不会结束。
什么是 Prompt 社区的归宿?
现阶段,除了应对技术变化,云中江树正在面临的另一大课题,是如何让 LangGPT 真正可持续地运营下去。
"LangGPT 能有今天的成绩,是理想主义的成果," 云中江树坦言," 但用爱发电走不远,也做不大。"
今年 4 月,硕士毕业近一年后,云中江树辞去滴滴自动驾驶算法工程师的工作,开始全身心投入 LangGPT 的运作,并着手探索商业化。
云中江树透露,LangGPT 的社区运营和商业化探索将分开进行。
一方面,他希望 LangGPT 继续以开源社区的形式存在,作为 Prompt 创意的聚集地,并继续为想要学习 AI 的人系统性地输出有价值的内容;另一方面,"Prompt 本身不适合商业化,单纯做 Prompt 的交易利润很薄,很难走得长远 "。
这并非 LangGPT 独有的难题。无独有偶,国外最大的 Prompt 社区 FlowGPT 今年也开始在定位上寻求转型。
将时间拉回 2023 年,FlowGPT 发布时,OpenAI 还未发布 GPTs。
2023 年 1 月,还在伯克利大学就读的党嘉成(Jay)用 3 天时间做出了 FlowGPT 的网站原型。网站正式上线后便迅速出圈,不到一年时间,全球月活便超 400 万。2023 年 5 月,FlowGPT 获得 DCM Ventures 的种子轮投资。
今年 2 月,FlowGPT 又完成新一轮 1000 万美元 Pre-A 轮融资,由硅谷风险投资基金 Goodwater Capital 领投,老股东 DCM Ventures 跟投。与此同时,FlowGPT 的定位也从 Prompt 社区转型为 AI Native APP/Agent 平台。
对于这次转变,党嘉成曾对媒体表示,"Prompt 就是 AI Native 的代码。用户在平台上用 Prompt,和用一个软件没有区别。之所以当时以 Prompt 为主体,是因为大家觉得这个词最克制。3 月的时候意识到可以做 AI Native APP。Prompt 需要迭代,当时很多人愿意去分享 Prompt,是希望知道怎么能提高 Prompt 本身。
创作者创作出来之后就希望大家能用,用了之后能留反馈,创作者能根据反馈去做修改。这个事本身就很像产品迭代的过程。"
这种面向 C 端创作者开源、免费的模式让 FlowGPT 网站上沉淀了大量优质创意,但内容伦理的风险也随之而来。党嘉成对媒体坦言:" 如果你想让大家做任何事,就会有人做任何事。我们决定在保证这个平台不被查封的情况下,给大家最大的自由度。"
鉴于国内外市场环境差异,不同于 FlowGPT 的 to C 策略,LangGPT 选择从 B 端切入。目前,LangGPT 会根据客户需求,向客户提供一整套服务,包括智能体的定制、SaaS 工具、技术咨询、Prompt 方法论培训等形式。同时,对于徘徊在灰色地带的内容,LangGPT 均不予收录。
具体到落地场景方面,云中江树表示,LangGPT 社群衍生出的应用中,内容方面的应用是效果最好的。" 现在 AI 比我们还要懂人性,它可以将创作者的创作风格、目标受众画像以及内容平台的流量规律总结出一套公式,成为内容行业的‘效率杀器’。"
目前,除了文字 Prompt,云中江树也在尝试多模态 Prompt 所能调动的模型能力边界。
关于未来,云中江树依然要面临巨大的不确定性,一方面来自于模型能力升级对 AI 应用产品的 " 降维打击 ",另一方面则来自于商业和人性的深不可测。
现在,云中江树仍在不断推演 LangGPT 更优的商业路径。" 我们还是希望找到真正的高价值场景,帮客户提效。" 但万般变化中,不变的是云中江树投身未来的笃定:
" 只干技术对人的异化太强了,我希望能真正投入这个时代,希望在有生之年见证 AGI 的实现。只要确定是未来,哪怕再小的机会我也要去尝试,在全新的生态里找到自己的位置,然后全力以赴。我很相信二八法则,如果我在细分领域里做到前 20%,同样能产生很大的价值。"
本文为创业邦原创,未经授权不得转载,否则创业邦将保留向其追究法律责任的权利。如需转载或有任何疑问,请联系 editor@cyzone.cn。
-
- 扬眉吐气,“超级小米”驾到
-
2024-11-26 04:54:49
-
- 特斯拉与Rivian电池技术纠纷案即将和解,现代在美国发起大规模召回
-
2024-11-26 04:52:34
-
- 走不进校门的孩子,走不出焦虑的家长
-
2024-11-26 04:50:18
-
- 酒店偷拍黑产调查:酒店偷拍直播“不愁卖”,万部视频付费看
-
2024-11-26 04:48:02
-
- 监控里的农村智残女性:44岁生下第三个孩子
-
2024-11-26 04:45:46
-
- 5分钟能上手,第一辆能上路的「飞行汽车」来了
-
2024-11-26 04:43:31
-
- 为何说:“世界创新看硅谷,高质量发展学硅谷”?
-
2024-11-26 04:41:15
-
- 37岁大厂中层:部门被团灭,我花了7个月找工作
-
2024-11-26 04:38:59
-
- 林忆莲夺得歌手冠军 我是歌手5歌王之战最终排名
-
2024-11-23 06:37:04
-
- 湖北武汉“黄陂区”概况
-
2024-11-23 06:34:48
-
- 「新手攻略」如何选择心动的机师
-
2024-11-23 06:32:33
-
- 车晓母亲王丽云深夜悲痛发文:好孩子你没有离开,你活在我们心里
-
2024-11-23 06:30:17
-
- 重罚280万!台州路桥成功查处一起保健养生桶传销大案
-
2024-11-23 06:28:01
-
- 马季是否是相声界的领军,侯耀文和他辈分一样,慧眼识才收郭德纲
-
2024-11-23 06:25:45
-
- 玄幻小说《斗破苍穹》,站立在斗气之巅的十大最强者排行榜
-
2024-11-23 06:23:30
-
- 升降镜头手机盘点,真全面的完美方案
-
2024-11-23 06:21:14
-
- 国内十大平价护肤品排名,你用过几种?
-
2024-11-23 06:18:58
-
- 电动车更换电池,天能和超威选哪个会更耐用?行内人用数据告诉你
-
2024-11-23 06:16:42
-
- 四川泸州女司机驾车坠入长江:知情人透露,疑家庭纠纷下的悲剧
-
2024-11-22 05:50:20
-
- 犬夜叉情侣头像合集你们先收藏哦 喜欢记得点赞!
-
2024-11-22 05:48:04