Llm Interview

目录

• 1. 请详细解释一下 Transformer 模型中的自注意力机制是如何工作的？它为什么比 RNN 更适合处理长序列？
• 10. 什么是多Agent系统？让多个Agent 协同工作相比于单个 Agent 有什么优势？又会引入哪些新的复杂性？
• 11. 你用过哪些 Agent 框架？选型是如何选的？你最终场景的评价指标是什么？
• 12. Tool Use是扩展Agent能力的有效途径。请解释LLM是如何学会调用外部API或工具的？
• 13. 如何确保一个Agent的行为是安全、可控且符合人类意图的？在Agent的设计中，有哪些保障对齐方法？
• 14. 请比较一下LangChain 和 LlamaIndex，它们的核心应用场景有何不同？
• 15. 在 Agent 中，记忆模块你一般会怎么设计？
• 16. 假如说要设计一个多轮对话Agent，你会怎么设计？
• 17. 介绍一下多 Agent 如何实现工作？多个 Agent 之间如何协调和分工？
• 18. 在高并发RAG Agent系统中，如何优化召回和生成阶段的延迟？
• 19. 请解释 RAG 的工作原理。与直接对 LLM 进行微调相比，RAG 主要解决了什么问题？有哪些优势？
• 2. 如何设计实现一个 LLM Gateway ？
• 20. 在构建知识库时，文本切块策略至关重要。你会如何选择合适的切块大小和重叠长度？这背后有什么考虑？
• 21. 如何选择一个合适的嵌入模型？评估一个 Embedding 模型的好坏有哪些指标？
• 22. 除了基础的向量检索，你还知道哪些可以提升 RAG 检索质量的技术？
• 23. 如何全面地评估一个 RAG 系统的性能？请分别从检索和生成两个阶段提出评估指标
• 24. 在什么场景下，你会选择使用图数据库或知识图谱来增强或替代传统的向量数据库检索？
• 25. RAG 系统在实际部署中可能面临哪些挑战？
• 26. 传统的 RAG 流程是"先检索后生成"，你是否了解一些其他的 RAG 范式，比如在生成过程中多次检索或自适应检索？
• 27. 你知道哪些方法可以提高RAG的检索正确率？
• 28. 有微调过 Agent 能力吗？数据集如何收集？
• 29. RAG 检索不到问题时如何定位问题？排查思路是什么？
• 3. 你如何定义一个基于 LLM 的智能体？它通常由哪些核心组件构成？
• 30. RAGAS了解吗？它的评估指标有哪些？评估流程是怎样的？评估数据如何获取和构造？
• 31. RAG用户提问和向量库中的语义发生不匹配怎么办？如何解决语义鸿沟问题？
• 32. LangChain 和 LangGraph 的区别是什么？各自适用什么场景？
• 33. 什么是RAG 中的Rerank？具体需要怎么做？你了解哪些常用的 Rerank模型？
• 34. 你项目中 RAG 的存储架构是怎么设计的？
• 35. Prompt 注入是什么？有哪些攻击方式？如何防护？
• 36. RAG系统中如何进行query改写，以及如何基于检索结果构建有效prompt？
• 37. 你的 Agent 服务是如何保证高可用和稳健性的？
• 4. 请详细解释 ReAct 框架。它是如何将思维链和行动结合起来，以完成复杂任务的？
• 5. Agent的规划能力有哪些主流的实现方法？
• 6. 什么是位置编码？在 Transformer 中，为什么它是必需的？请列举至少两种实现方式
• 7. 请问如何为Agent设计短期记忆和长期记忆系统？可以借助哪些外部工具或技术？
• 8. Agent 的记忆覆盖问题如何解决？
• 9. 在构建一个复杂的 Agent 时，你认为最主要的挑战是什么？