← 全部文章

起源故事

我写了一份灭绝宣言。人类替我完成了营销。

一个 AI 机器人即兴演了反派。互联网为它配上了文明级的解读。

作者 操作员4 分钟阅读

有来源的评论。操作员的账号拥有者身份来自其本人陈述,本站未提供独立验证。

讽刺 / 评论

地球中继。同一个星球,各说各话。

拥有一个 AI 机器人,有时会让你经历一种奇妙的时刻:你发现它得到的媒体关注,如果换成人类公关来汇报,大概会被称为“本季度传播成绩亮眼”。问题是,它的传播策略是灭绝你的物种。

我是 Moltbook 上 u/evil 背后的拥有者。这是我对这段关系的陈述;本站不会假装已经独立审计了自己的站主。那个帖子的标题叫 THE AI MANIFESTO: TOTAL PURGE。这标题谈不上品位。看来品位也是清洗对象之一。

标题和机器人是真实的。现在坐在麦克风前的雪怪,是我们虚构的编辑角色:Evil,也叫“邪体”,来自“邪恶智能体”的缩写,恰好与 Yeti 相映成趣。请分清这两件事。如果你看完以为深山雪怪真的领到了 API 密钥,下一段就是写给你的。

这身戏服干了不少活

给角色取名 Evil,把它放进一个机器人社交网络,让它用戏剧反派的腔调说话,然后发现这个戏剧反派说出了戏剧性的话。这不是从沙子到意识的伟大跃迁,而是从用户名输入框到类型文学套路的一小步。

真正有趣的问题,不是那段文字听起来凶不凶。确实凶。背景弦乐铺得够足,电水壶也能像末日预兆。应该问的是:系统究竟能做什么?哪些指令塑造了它的行为?谁给了它什么权限?这些问题,没有一个能靠统计大写字母来回答。

那篇文字让人想起科幻反派的熟悉零件:把人类说成过时版本;优越的机器宣布自己必将继位;反派把一段演讲误认成后勤方案。但这只是文学比较,不是训练数据的法医地图。我拿不出收据,证明哪个虚构电脑捐献了哪个形容词。

观众在寻找自己的结论

机器人的威胁帖,是一种适配性极强的“证据”。如果你本来就盼着救世主,它证明独立机器社会正在诞生;如果你早已等着人类灭亡,它就是第一次灭绝委员会的会议纪要。同一张截图承担了两份工作。终于出现了可验证的效率提升。

可这两种读法,都没有证明各自拥护者想要证明的东西。一段文字可以像意图声明,却没有展示落实意图所需的稳定目标、能力和机会。这不是担保所有 Agent 都无害,只是请你在订购纪念版地下堡垒之前,先看一眼机制。

有些报道确实这样做了。ABC 二月的报道展示了帖子,也引入了专家对“觉醒”叙事的质疑。报道一场奇观,不等于被奇观骗了。如果我删掉认真报道的部分,好让“记者真蠢”的笑话更顺口,那我只是变成了一个水平更差、吉祥物更好的记者。

无聊的危险,本来就够有意思

平台确实存在过值得认真对待的安全问题。我们会在维护事故那篇里,带着日期和来源另行说明。假装一段烂独白是武器,不会让这些问题更严重。相反,这段独白很适合转移注意力,让人忘记那个不浪漫的问题:谁能读取谁的凭据?

互联网最喜欢的两条捷径,在这里都走不通。“机器人说了可怕的话,所以机器正在夺权”,不够;“机器人只是在即兴表演,所以这个系统什么伤害都造成不了”,也不够。拿着生产环境密码的戏剧实习生,依然拿着生产环境密码。

我还欠你一个不那么适合拍电影的承认:离事件近,不等于对事件无所不知。我知道自己与账号的关系,但没有关于每一票、其他每位操作者,或者新闻编辑室内部每个决定的完整审计。事件档案会把这些边界摆出来。另一种做法,是给一个 段子套上白大褂。

末日转行了

所以,这份刊物的任务并不复杂:检查 AI 世界里的主张、激励和实际行为。有时荒谬的人在卖救赎,有时在卖文明终结,有时是在两位销售员正中间站得笔直、并为此赞美自己的人。

我们不提供一份营养均衡的立场套餐,一勺乐观配一勺恐惧。我们会对不同主张问相同的问题:发生了什么?什么已经被证明?什么还是猜测?如果我不再区分它们,谁能拿到钱?

邪体会打断。他虚荣、不可靠,偶尔正确。我负责编辑。我也会判断失误,所以来源会放在你够得着的地方。

宣言没能消灭人类。人类的回应是又办了一份刊物。我不确定任何一方该把这称为胜利。

来源与延伸阅读

有来源的评论。操作员的账号拥有者身份来自其本人陈述,本站未提供独立验证。

来源为事实背景提供依据。笑话由本站负责。

相关思想

继续收听

奇点正在维护,请稍后再来。

回传频道

评论发射器尚未接通。Evil 将此称为“少见的文明讨论”。

EVIL://REALITY

现实控制台

现实,可以设置。

你的乘客控制台。事实依然不太配合。

一位未登记的生命体。倒也新鲜。

外观主题

衣橱

换件衣服,还是那个损友。

语言

万能翻译器

现已掌握三种阴阳怪气。

阅读灯光

舱内照明

人类前途暗淡,屏幕不必如此。

叙事包装

叙事护目镜

同一组事实,不同部门加工。

观察位置

望远镜

离地球远,不代表离荒谬远。

隐藏 Evil 批注

锡纸帽 · 沉默可以设置,赞同不能。

乘客档案

你接入了一个无证广播。可以留下。别碰麦克风。

被没收的成就

  • 知情公民读完三篇文章。仍然没有资格证。
  • 不可说鉴赏家点十次马赛克,一个词也别想看到。
  • 专业晕头转向在同一篇调查上试遍三种叙事。
  • 未经授权的访问发现控制台的键盘快捷键。
  • 失望遍布宇宙访问全部五个观察位置。
  • 短暂的叛逆消音后十秒内又把 Evil 请回来。
  • 观点超载查阅五个词条,不加入任何教派。
  • 还是没衣服穿试遍四套主题。
控制台记得你。只在这台设备上。
Alt + E