最近，来自伦敦大学学院、剑桥大学、牛津大学等机构的团队发布了一个神经学专用基准 BrainBench，登上了Nature子刊《自然人类行为（Nature human behavior）》。
结果显示，经过该基准训练的LLM在预测神经科学结果的准确度方面高达 81.4%，远超人类专家的63%。
在神经学常见的5个子领域：行为/认知、细胞/分子、系统/回路、神经疾病的神经生物学以及发育/塑性和修复中，LLM的表现也都全方位超过了人类专家。
更重要的是，这些模型被证实对于数据 没有明显的记忆。
也就是说，它们已经 掌握了一般科研的普遍模式，可以做更多的 前瞻性（Forward-looking）预测、预测 未知的事物。
这立马引发科研圈的围观。
多位教授和博士后博士后也表示，以后就可以让LLM帮忙判断更多研究的可行性了，nice！
LLM预测能力全面超越人类专家
让我们先来看看论文的几个重要结论：
总体结果：LLMs在BrainBench上的平均准确率为81.4%，而人类专家的平均准确率63.4%。LLMs的表现显著优于人类专家
子领域表现：在神经科学的几个重要的子领域：行为/认知、细胞/分子、系统/回路、神经疾病的神经生物学以及发育/塑性和修复中，LLMs在每个子领域的表现均优于人类专家，特别是在行为认知和系统/回路领域。
模型对比：较小的模型如Llama2-7B和Mistral-7B与较大的模型表现相当，而聊天或指令优化模型的表现不如其基础模型。
人类专家的表现：大多数人类专家是博士学生、博士后研究员或教职员工。当限制人类响应为自我报告专业知识的最高20%时，准确率上升到66.2%，但仍低于LLMS。
置信度校准：LLMs和人类专家的置信度都校准良好，高置信度的预测更有可能是正确的。
记忆评估：没有迹象表明LLMs记忆了BrainBench项目。使用zlib压缩率和困惑度比率的分析表明，LLMs学习的是 广泛的科学模式，而不是记忆训练数据。
全新神经学基准
本论文的一个重要贡献，就是提出了一个前瞻性的基准测试 BrainBench，可以专门用于评估LLM在预测神经科学结果方面的能力。
那么，具体是怎么做到的呢？
数据收集
评估LLM和人类专家
其次，在上面收集的数据的基础上，团队为BrainBench创建了测试用例，主要通过修改论文摘要来实现。
具体来说，每个测试用例包括两个版本的摘要：一个是原始版本，另一个是经过修改的版本。修改后的摘要会显著改变研究结果，但保持整体连贯性。
测试者的任务是 选择哪个版本包含实际的研究结果。
团队使用Eleuther Al Language Model EvaluationHaress框架，让LLM在两个版本的摘要之间进行选择，通过 困惑度（perplexity）来衡量其偏好。困惑度越低，表示模型越喜欢该摘要。
对人类专家行为的评估也是在相同测试用例上进行选择，他们还需要提供自信度和专业知识评分。最终参与实验的神经科学专家有171名。
实验使用的LLM是经过预训练的Mistral-7B-v0.1模型。通过LoRA技术进行微调后，准确度还能再增加3%。
评估LLM是否纯记忆
为了衡量LLM是否掌握了思维逻辑，团队还使用zlib压缩率和困惑度比率来评估LLMs是否记忆了训练数据。公式如下：
其中，ZLIB（X）表示文本X的zlib压缩率，PPL（X）表示文本X的困惑度。
部分研究者认为只能当作辅助
这篇论文向我们展示了神经科学研究的一个新方向，或许未来在前期探索的时候，神经学专家都可以借助LLM的力量进行初步的科研想法筛选，剔除一些在方法、背景信息等方面存在明显问题的计划等。
但同时也有很多研究者对LLM的这个用法表示了质疑。
有人认为实验才是科研最重要的部分，任何预测都没什么必要：
还有研究者认为科研的重点可能在于精确的 解释。
此外，也有网友指出实验中的测试方法只考虑到了简单的 AB假设检验，真实研究中还有很多涉及到平均值/方差的情况。
整体来看，这个研究对于神经学科研工作的发展还是非常有启发意义的，未来也有可能扩展到更多的学术研究领域。
