聊天机器人扼杀了学术之星

当过三个期刊的编辑，我可以说一个期刊最难做的事情就是找审稿人。 所以我上周在想，如果有一个“refbot”（经过培训的软件可以写出一篇好的、可发表的文章）作为裁判，那该有多好。 然后我突然意识到我正在考虑一种新的奇点。

“奇点”这个词来自拉丁语，然后是法语，意思是不寻常、例外、独特的行为。 从科学上讲，奇点是一个事件视界，它的穿透会导致所有支配力学、电磁学以及几乎所有事物的物理规则的暂停或否定。

从数学上讲，奇点是指未定义操作。 与其说它不能完成，不如说它实际上无法使用前提或归纳的正常逻辑规则来定义或理解。 考虑“除以零”或“反转秩 K

你自己的奇点

所有这一切看起来都非常形而上学，而且“你不会理解”是骗子在要钱之前总是说的话。 这不是这里发生的事情。 我说的是一个我们都很容易理解的奇点：

• 人工智能 聊天机器人 开始写论文并将它们发送给期刊（伙计们，现在这几乎正在发生）。 起初，聊天机器人将被特定的研究人员用来协助撰写无论如何都要写的论文。 但是有很多停机时间，而且写作很容易。
• 一旦发送到期刊， 改装机器人， 通过分析该期刊中“好”（以前发表的）学术论文的语料库，为特定期刊“训练”，编辑可能会通过其他学术工作发酵，编辑们渴望拥有他们的期刊 mimi，将评估提交的内容。 refbot 将调查矛盾、寻求共识并检查参考资料。 （这听起来可能很肤浅，但这比 2/3 的人类审稿人期刊实际能找到的要好，而且速度会很快。另一方面，似乎技术还不完善。）
• 反馈回路然后由 下一代 聊天机器人扫描已发表的文献并决定什么是重要的，引用了 下一轮发表的文章. 在选择过程剔除糟粕之后，吸引下一代聊天机器人作者最多引用的文章，以及下一个，将在搜索引擎中获得更高的地位，这些搜索引擎会返回供人类研究人员使用的“最佳”文章。

请注意，随着机器学习变得越来越快，“一代”可能不会超过一周，也可能只有几秒钟。 没有理由等待文章以通常的方式“发布”，因为系统会动态更新自身，无需任何形式的人工干预。 不用多久，所有的学术期刊文章都会写完。

聊天机器人已经可以写出糟糕的散文，就像我们经常在“专业”期刊上发表的那种。 并且可以训练“refbot”（尽管看起来并不容易）以区分可发表的论文和不可发表的论文。 由虚假、荒谬的提交引起的学术丑闻，包括 Sokol 恶作剧和 Lindsay、Pluckrose 和 Boghossian“申诉研究”实验，都被错误地解释了。 对申诉研究出版物的次要回应更接近正确：问题不在于可以发表虚假研究，而是在期刊上发表的许多其他作品实际上是虚假的。 （有很多令人信服的证据的例子，我不会进一步审查）。

你可以看到这个问题：聊天机器人可以写得很快但很糟糕，而且它们会产生一大堆会堵塞日记的东西。 最糟糕的问题是，如果聊天机器人写得足够多，其中一些看起来还不错。 这已经是音乐领域的一个问题，自动调谐和计算机生成的旋律和歌词产生了铺天盖地的流行歌曲海啸。 大多数都是坏的并不重要，因为有些会通过并成为热门。

但聊天机器人扼杀了学术明星，或者更准确地说，它们将扼杀学术界，至少我们所知道的是这样。 标准的职业策略（“写并发表一大堆论文，即使没有人读过”）将不再可行。 在大多数学科中，尚不清楚这是否不好。 奖学金，而不是研究，可能会重新流行起来，这意味着教授莎士比亚的教授实际上可能会关注莎士比亚的文本，而不是他们对哈姆雷特的殖民承诺或性别不安的“最新研究”。 更直白地说，一旦文本的生成能力是无限的，我们可能会重新关注好的文本及其好的原因。

对我不好

在这篇文章的标题中，我声称聊天机器人扼杀了学术“明星”。 但我像往常一样想到了自己。 正如我多次指出的那样，我在学术上的比较优势是写作速度快； 用奥赛罗的话来说，“我是一个写得不聪明但写得很快的人。” 在学术界，不一定要写得好，一些写得好甚至被怀疑是不认真的。 幸运的是（对我来说），很多学术写作都很糟糕。 我什至写下了一些关于“如何写得不那么糟糕”的建议，并让其他人说这些建议很有用。 （一位评论者说标题写得很糟糕；是的，亲爱的，这就是重点！）

我已经可以在地平线上看到（我）的尽头。 成为“一个写得不聪明但很快的人”不会与众不同，因为 GPT4 实体可以写得不好而且 真的真的 快速地。 当然，文本需要编辑，并且需要 refbot 来判断同一帐户的竞争版本。 但是我在做这些事情上的优势远不如我一直以来（相对）快速写作的优势重要。