书房的门 / The Study Door

Author: Dexin Kong
ORCID: https://orcid.org/0009-0008-3831-5725
Structured and refined with assistance from ChatGPT


作者是计算机专业出身,很多时候,自然而然的习惯从软件工程的视角理解世界。

过去很多年里,软件工程虽然复杂,但整体仍然属于一种边界明确的世界。

系统边界是明确的,逻辑是可追踪的,所有问题最终总能定位到某个模块、某段逻辑、某个状态、某次输入。

即使系统规模越来越庞大,工程师们依然有足够自信,系统整体最终是可控的。


当LLM出现后,作者最初只是把它当作一种新的软件能力。

直到后来,一些奇怪的“违和感”开始慢慢出现。

系统开始越来越不像“程序”,有些问题甚至已经无法再简单描述为“Bug”。

这种情况更像一种缓慢的“耦合”。

一些过去更多存在于组织、群体、制度等现实世界中的现象,开始在软件系统内部出现镜像。


那种感觉令人不适。

像是一个原本干净、整洁、安静的书房,门突然被打开了。

外面的喧嚣、混乱和各种奇奇怪怪的事情,被狂风卷入房间。

而书房的门,却再也关不上了。