有个不太熟的通路想了解一下，就先用了GPT检索了试试。结果GPT硬是在酵母里编出了整一个家族的基因，号称这个通路从酵母到哺乳动物全员保守...
觉得哪里不对劲拿UniProt验证了一下发现真是好一个无中生有（气的够呛）！庆幸人类知识还没完全被AI污染...
@kowaretai 俺最近越学语言模型就越觉得“真理往往掌握在少数人手里”这句话真的太有道理了…尤其是从业者稀少并且特别专业的学科知识…
@li_senecio 对...训练集数据越少AI越容易瞎编乱造...
@kowaretai 还有就是蛮多相关的资料是不严谨的科普性质的（有些只是扯概念实际上一窍不通），语言模型只会根据概率学习并生成最可能的文本…
@li_senecio @kowaretai 1) 我也觉得绝大多数时候大家（public）对 LLM 的能力更像是一种 hype，不过不排除我已经落伍了的可能性 www 但 2) 我觉得至少我也不是很懂为什么 next word prediction _only_ 我们就可以走这么远，所以也许我们要谨慎「只会生成最可能的」意味着什么？
@laughter_and_forgetting @li_senecio 感觉对很多人来说，什么是“真实”的并不是太重要；相较而言”有问必答“更能满足大家的需求。
@kowaretai @laughter_and_forgetting @li_senecio 其实是用来写那些没人当真的话最有用，比如很礼貌的邮件这种。。。我觉得就是用来干这种polishing（说废话）的活儿的，可以给人省很多力。在传达有对错的信息方面，它最多用来粗筛或概括，肯定最后需要人的怀疑，判断和求证。可以让我们看到人类有很多交流只是routine（说废话）。
@simonknowsnothing @kowaretai @laughter_and_forgetting @li_senecio 说到这个讨论的话我突然觉得蛮有意思的是，人类的功能在这里是know right from wrong（同时是很多宗教分支和现代以前哲学里对人类的定义），而AI好像是提供一个不需要评判或者不需要仔细评判right/wrong情况下的一个最常见的解法
