涵舍Too young, too simple. Sometimes naive.一个人的命运啊,当然要靠自我奋斗,但也要考虑到历史的进程。

目录

[雅望停云] BeyondTheHype_我对AI的观察与思考

目录

我们准备学习的,是有关计算过程的知识。

序言

很长时间这篇文章就静静地躺在我的草稿本里等待成文,因为我实在想不到什么好的观点,平铺直叙的文字有些过于简单朴素没有什么养分,所以等待一个时机。直到看到那个男人对于Vibe codeing的评论,我想也是时候开始动笔完成这篇文章了。也很凑巧的是,正巧最近看了一些关于如何使用AI的提示词(prompt)的文章和视频,觉得收获颇丰,也想把我自己的一些使用经验和心得总结出来,用来以后查看。

初见

我第一次感受到大型语言模型(LLM)所带来的强烈震撼,是在2023年的春天。那时,ChatGPT刚刚问世不久,访问它还需要克服网络限制。即便在那种条件下,它所展现出的能力已足够令人惊叹。那时的我就被chatgpt强大的能力所震撼,我印象很深的是当时感觉它“不像是这个时代的产物”,即使用现在看来一点也不为过。它真的像是一个“活”的东西一样。

一方面是,是令人震撼的理解能力。 我们日常使用的自然语言,与编程语言有天壤之别。前者词汇海量,语法灵活,充满歧义与潜台词;后者则规则严苛,逻辑精确,容不得半点含糊,不符合规则的指令连编译都过不了,更不用说运行了。因此当时的我在接触到chatgpt时,第一反应就是“卧槽,这东西居然能听懂我说的话”,这对我当时的认知来说,已经是一件极其不可思议,震撼的事情了。

另一方面是,它的强大的创造力。如果说“理解”让我看到了AI技术的巍峨高山,那么它随之给出的“回答”,则让我窥见了山巅之上的奇幻云海。它还能给出非常合理的回答,甚至是一些我都没有想到的点子和思路,这更让我觉得不可思议。我完全无法想象它是如何做到的,就是一点idea都没有。就像前面说的,对于“理解”部分,我还能想象它的困难性,但对于“回答”部分,我当时只觉得这是魔法,实在是无法想象。

共生

自那之后,AI助手就已经成为我工作和生活中不可或缺的一部分了。无论是写代码、打磨文稿,还是分析问题,甚至在面对一些个人思考与情绪上的迷惘时,我都会自然而然地转向它,开启一场对话。在ChatGPT引爆市场后,全球科技公司纷纷跟进,推出了各自的大模型产品,开源社区也异常活跃。一时间,各类模型层出不穷,版本迭代速度令人目不暇接。印象最深的是有一个叫“大模型竞技场”的网站,里面收集了各种各样的模型,通过比较同一提示词的不同回答,让用户打分,评测模型的能力。AI助手的能力在许多场景下确实超越了传统的搜索引擎,特别是在处理需要整合、推理或创造的简单问题上。就我的个人体验而言,它在代码生成与调试、文本写作与润色方面的表现最为突出。其次,我也时常将它作为一个随时可问的、知识渊博的“百科全书”来使用。它带来的一大转变,是赋予了用户“追问的权力”。在面对一个复杂问题时,我可以不断提出后续问题,层层深入,直到获得满意的解答。这种互动式的探索过程,与传统搜索引擎那种被动接收海量且质量参差不齐的链接列表的体验,有着本质的区别。

这种技术浪潮也带来了工具层面的爆发。除了大模型本身,围绕其构建的各种插件、应用和工具链也如雨后春笋般涌现,真正让人感到应接不暇。往往是还没有开始熟练使用一个工具,新的工具就已经出现了。新的工具可能会具有更强的能力,但是仍然也要付出学习成本。而就我个人而言,跳出原始工具的舒适圈,去学习新的工具,往往是一个比较痛苦的过程。然后还有那些什么几分钟教会你xxx的什么AI工具的视频,往往看完之后发现并没有什么卵用,反而浪费了时间;还有什么各种AI使用技巧,真的看着厌烦。我逐渐意识到,最重要的或许不是追逐工具本身,而是提升使用者自身的能力,不一味地依赖AI。AI是副驾驶(Copilot),这个称谓本身就提醒我们,仍然需要一名飞行员(Pilot)。AI所能发挥的作用上限,最终取决于使用者的判断力、专业知识和提问能力。正如后面会提到的Linus的观点,AI工具或许能帮你快速完成工作的90%,但剩下的10%才是真正凝聚了多年经验与深度的部分。

危机?

随着大模型技术的持续演进和普及,关于人工智能的社会性讨论也日益热烈。人们开始严肃地思考这项技术带来的双重影响:机遇与挑战,尤其是在就业领域。一个核心的议题是:AI会取代人类的工作吗?如果会,我们该如何应对可能出现的结构性失业?反之,在这个过程中,AI又可能创造出哪些前所未有的新岗位和新机会?

我的观点是:在这个时代,学会与AI高效协作,并在此过程中不断提升自己的高阶思维与全局驾驭能力,才是应对变革的关键。有些人误以为自己正在进行深刻的独立思考,但实际上可能只是在重复AI模型基于已有数据生成的、或是网络上广为流传的现成结论。真正的思考,始于对信息的批判性审视和创造性重构。

我认为,人工智能不会导致大规模失业,反而有可能创造更多新的就业形态。历史经验表明,每一次重大的技术革命在自动化部分原有工作的同时,都会催生出全新的任务类别和劳动力需求。AI确实能够替代一些程式化的、重复性的认知型任务,但一个完整的岗位通常由多项复杂任务构成,AI很难一次性覆盖所有环节。相反,它通过提升某些环节的效率,可能会放大其他环节的价值,从而带动整体人力需求的变化。

这正如Linus所说的:AI是一种强大的工具,但不会取代程序员。就像高级语言编译器“消灭”了手写汇编语言的需求,却并没有消灭程序员这个职业,反而因为开发效率的提升,使得更多、更复杂的软件得以被创造出来。我猜想AI的路径也会类似,它让人们从繁琐的实现细节中解放出来,将更多精力集中于架构设计、问题定义和创造性思考上,从而使更多的想法有机会被实现。软件工程领域没有“银弹”,AI也不会是那枚银弹。

缺陷

随着使用时间的增长和场景的深入,我逐渐清晰地认识到当前大模型技术存在的一些固有局限。

首先,是“幻觉”与过度自信的问题。生成式AI通常以高度自信、流畅连贯的方式输出信息,这种表达风格容易令用户不假思索地接纳其内容,忽略其中可能存在的事实错误、逻辑漏洞或隐含偏见。这种“看似权威的谬误”一旦在信息传播中被放大,可能加速错误观点的扩散,甚至污染后续用于训练模型的数据,形成一种不断自我强化的认知偏差循环,对公共讨论与事实判断构成深层干扰。

其次,是对于创新本质的疑问。AI依赖对海量数据中模式的识别与复现来生成内容,其过程近似于一种高效率的模仿学习。这就引出一个根本性问题:这样的机制是否在本质上制约了它进行突破性、范式级别的创新?人类历史上许多重大科学发现——例如青霉素的诞生——往往源于偶然的观察或实验中的“意外”。人类具有从错误与反常中洞见新可能的独特心智,而当前的AI系统在设计上倾向于排除或纠正那些不符合统计规律的异常输出。这种对“错误”的包容、以及由不确定性所激发的好奇与探索,恰恰是人类创造力的核心来源,也是当前AI技术尚难以真正复现的特质。

最后,是不可复现性与不稳定性问题。AI生成的内容常常带有一定的随机与多样性,即使在相同的输入条件下,多次请求也可能得到差异显著的结果。更值得关注的是,提示词(prompt)表述上极其细微的差别,有时会导致完全不同的输出走向。这种内在的不确定性让我感到某种深层的不安。因为其它局限——如前文所述的“幻觉”问题与创新边界——或许能通过更精准的提示词设计得到一定程度的缓解或引导,但“不可复现性”本身,恰恰直指提示词使用过程中的根本困境。它意味着,即便两个人使用完全相同的提示词,也无法保证获得一致的答案。这给协作、交流与知识传递带来了实质困难:我们无法轻易地说,“你按顺序问这些问题,就能得到和我一样的回答”。当结果无法预期、过程难以追溯,建立在共享理解与可重复验证基础上的合作,便面临结构性的挑战。


关于那个男人

AI是工具,不会取代程序员

Dirk Hodel: 另一个大家常讨论的点是 AI 写代码。工具在代码补全方面确实很强,甚至能帮人快速构建 demo。你会玩吗?

Linus Torvalds: 我完全没玩。我相信有人尝试把它用在内核上,但内核太特殊了,不太适合 vibecoding。反倒是在个人项目、小玩具项目上我觉得它很好。我年轻时,是在电脑杂志上照着打代码入门的。今天的电脑太复杂了,入门门槛比过去高太多。我反而觉得 vibecoding 可能在严肃项目里是灾难,但对新手入门是好事。让人能很快看到电脑做点东西,这是激动、有趣的。我认为是积极的。当然,也有人以为用 AI 一周就能做出十亿美元公司,那是另一个故事了。

Dirk Hodel: AI 工具能让你快速完成 90%,但剩下 10% 才是吃掉 35 年的东西。

Linus Torvalds: 对,那最后 10% 就是你这 35 年里真正干的活。

Dirk Hodel: 但现在我们看到软件行业裁员严重,很多人担心 AI 会影响就业。学生们会不会更难进入这个行业?

Linus Torvalds: 我不知道,需要几年才能看清。但我直觉是:AI 是工具,不会取代程序员。就像编译器消灭了手写汇编,却没有消灭程序员;反而让更多软件被写出来。我猜 AI 也是这样,让人更高效,但软件需求变大,到最后程序员数量只会更多。

Dirk Hodel: 我也这么认为,提升生产力后,你要么减少人,要么做更多事。而做更多事往往更诱人。对学生来说,你能快速做出 demo,比 20 年前手写冒泡排序重要多了。