大模型 LLM 最全八股和答案¶

来源 PDF：大模型 LLM 最全八股和答案.pdf
主题：综合面试题
页数：39
字符数：41683
索引片段数：108

摘要¶

大模型 LLM 最全八股和答案目录大模型 LLM 最全八股和答案 .......................................................................................................................................................... 1 1、目前主流的开源模型体系有哪些？ ................................................

代表性原文片段¶

片段 1¶

大模型 LLM 最全八股和答案目录大模型 LLM 最全八股和答案 .......................................................................................................................................................... 1 1、目前主流的开源模型体系有哪些？ ...................................................................................................................................4 2、prefix LM 和 causal LM 区别是什么？ ................................................................................................................................. 4

片段 2¶

........................................................................................ 4 3、涌现能力是啥原因？ .................................................................................................................................................................... 5 4、大模型 LLM 的架构介绍？ .......................................................................................................................................................... 5

片段 3¶

........................................................................................ 5 5、什么是 LLMs 复读机问题？ ...................................................................................................................................................... 6 6、为什么会出现 LLMs 复读机问题？ .......................................................................................................................................... 7

片段 4¶

........................................................................................ 7 7、如何缓解 LLMs 复读机问题？ .................................................................................................................................................. 8 8、llama 输入句子长度理论上可以无限长吗？ ............................................................................................................................9

片段 5¶

.........................................................................................9 9、什么情况用 Bert 模型，什么情况用 LLaMA、ChatGLM 类大模型，咋选？ ................................................................... 10 10、各个专业领域是否需要各自的大模型来服务？ ....................................................................................................................11 11、如何让大模型处理更长的文本？ ............................................................................................................................................12

片段 6¶

........................................................................................12 12、为什么大模型推理时显存涨的那么多还一直占着？ ............................................................................................................12 13、大模型在 gpu 和 cpu 上推理速度如何？ ............................................................................................................................. 13

片段 7¶

....................................................................................... 13 14、推理速度上，int8 和 fp16 比起来怎么样？ .........................................................................................................................14 15、大模型有推理能力吗？ ............................................................................................................................................................14

片段 8¶

........................................................................................14 16、大模型生成时的参数怎么设置？ ............................................................................................................................................15 17、有哪些省内存的大语言模型训练/微调/推理方法？ ............................................................................................................ 16

片段 9¶

....................................................................................... 16 18、如何让大模型输出合规化 ........................................................................................................................................................16 19、应用模式变更 ............................................................................................................................................................................17

片段 10¶

........................................................................................17 20、大模型怎么评测？ ....................................................................................................................................................................18

21、大模型的 honest 原则是如何实现的？ .................................................................................................................................19

片段 11¶

........................................................................................19 22、模型如何判断回答的知识是训练过的已知的知识，怎么训练这种能力？ ........................................................................20 23、奖励模型需要和基础模型一致吗？ ........................................................................................................................................20 24、 RLHF 在实践过程中存在哪些不足？ ...................................................................................................................................21

片段 12¶

........................................................................................21 25、如何解决人工产生的偏好数据集成本较高，很难量产问题？ ..........................................................................................22 26、如何解决三个阶段的训练（SFT->RM->PPO）过程较长，更新迭代较慢问题？ .........................................................22 27、如何解决 PPO 的训练过程同时存在 4 个模型（2 训练，2 推理），对计算资源的要求较高问题？ ..................... 23

使用建议¶

这些内容来自授权公开 PDF 的文本抽取结果，网页端会基于同一份静态索引做关键词检索。
面试复习时建议先用网页 PDF 原文检索定位题目，再回到主 notes 学系统化答案。
如果片段出现排版噪声，以原 PDF 语义为准，并优先整理成自己的回答模板。