大模型求职：Demo能跑通后，为什么权限和日志成了致命坎

原创于 2026-09-03 09:45:07 发布 · 78 阅读

本内容遵循CC 4.0 BY-SA版权协议

聊《程序员就业怎么选方向？先回答几个现实问题》之前，先说一句实在的：别急着背概念，先看它在真实项目里到底解决什么问题。

摘要

从2024年下半年到现在，我面过几十个候选人，也带过好几批实习生。2026年的求职市场有个很明显的信号：只会写Demo的人，简历关都能过，但一到"这个项目怎么上线"的环节，几乎全军覆没。翻车的地方十有八九不是模型效果，也不是Prompt写得好不好，而是三件事——权限、日志、可观测性。

先说个真实场景。上个月有个候选人投了高级后端，简历上写着"独立开发RAG Agent，支持多轮对话和知识检索"，项目地址给了GitHub。Demo视频跑得挺顺，但聊到第二个问题就被卡住了："你们这个系统在团队里联调，如果A用户查到了B的敏感文档，怎么处理？"这人沉默了二十秒，说"我们是内部测试用的，没考虑那么多"。我说"好，那如果线上出了这个问题，你怎么排查？"他又沉默了。最后这个项目没过。不是能力不行，是他从没想过工程化的事。

这不是个例。2025年开始，大厂校招和社招的面试题库里，权限控制和日志可观测的比例明显上升。有的公司直接把"能否独立部署一个带权限+结构化日志的大模型服务"写进了笔试题。趋势很明显：企业招人的标准已经从"能跑通Demo"变成了"能让系统上线不崩"。

为什么你的Agent一上线就崩
真实案例：一个权限日志缺失导致的翻车现场
排查过程：权限和日志问题的定位思路
代码解释：一个基础的权限+日志结构
失败原因：常见的三类错误
适用边界：这套方案适合什么情况
总结：2026年求职的关键词是"工程化"

为什么你的Agent一上线就崩

文章插图 1

很多候选人做的Agent项目，本质上是一个"玩具"。玩具跑通很容易——本地起个服务，接个前端页面，用户输入问题，模型输出答案，全程只有一个账号，没有权限概念，日志全靠print打出来。

但一旦放到团队环境，三个问题会同时爆发：

第一，权限失控。多人协作场景下，A用户可能通过修改请求参数查到B用户的数据。这不是假设，我在面试时有候选人做过一个知识库检索系统，测试时发现只要把返回的JSON里的doc_id改成别的，就能读到别人的文档。整个系统没有任何鉴权层。

第二，日志缺失。线上出问题时，没有结构化日志意味着你只能靠眼和猜。候选人的项目里，报错信息基本只有try-catch抛出的原始异常，连请求ID都没有，排查成本极高。

第三，可观测性为零。没有指标、没有追踪链路，服务挂了不知道你什么时候挂的，性能瓶颈在哪也不知道。

我把这三类问题归为"上线三件套"，2026年找工作，这三样至少要过及格线。

真实案例：一个权限日志缺失导致的翻车现场

文章插图 2

去年秋天我带过一个实习生，名字叫小李，做了个基于LangChain的Agent，功能是"智能客服问答"。Demo做得很漂亮，能回答问题、能调用工具、能多轮对话。我让他把这个项目部署到公司的测试环境，联调时出事了。

现象：测试环境里，多个测试账号同时使用这个Agent。某天下午，客服主管反馈有人能查到其他部门的数据。

排查过程：

先确认是不是数据层的问题。查数据库，发现数据隔离是有的，不同部门文档存在不同collection里。
再查业务逻辑。发现Agent调用向量检索时，没有传入用户身份参数，检索结果是全局的。
然后查日志。系统里没有记录"哪个用户查了什么"，只有模型输入输出的原始文本。
最后查权限层。整个系统没有一个鉴权中间件，所有请求直接到达业务逻辑。

根因：小李的项目只有"功能代码"，没有"工程骨架"。他在开发时只关注了模型调用，没想过权限控制、没想过日志记录、没想过可观测性。

这个项目如果作为求职作品，我会给他打及格分——Demo确实跑通了。但如果作为入职后的第一个项目，上线第一天就会出问题。

排查过程：权限和日志问题的定位思路

我在带人时，会把排查路径标准化。这里分享一个常见的问题定位模板：

第一步：确认现象
先问清楚具体的报错信息或异常行为。是权限越界（用户A看到用户B的数据），还是日志缺失（出问题后没法回溯），还是性能问题（响应时间过长）。

第二步：定位问题层
大模型应用通常有三层：

业务逻辑层（模型调用、Prompt编排）
权限控制层（鉴权、数据隔离）
可观测层（日志、指标、追踪）

大多数翻车项目，前两层都有问题。

第三步：验证假设
拿一个具体场景去验证。比如权限问题，直接用一个普通账号的token，尝试访问另一个账号的数据接口，看能不能绕过。

第四步：复现和修复
复现问题后，不要急着改代码。先想清楚根本原因是什么，再决定加什么。

有个候选人做RAG项目，权限问题是"用户能读取所有文档"。他第一反应是加一个if判断，在查询时过滤用户ID。这个思路方向是对的，但实现时漏掉了向量检索这一步——向量检索本身没有权限参数，他只是过滤了最终结果，没过滤检索过程。这种细节才是面试和实际工作中最容易栽跟头的地方。

CSDN资料领取方式

代码解释：一个基础的权限+日志结构

我不会说"学会这个就能找到工作"，但这种结构是每个大模型项目都应该有的骨架。下面这段代码是一个简化版的Agent服务结构，包含JWT鉴权、结构化日志和请求追踪：

import jwt
import logging
from logging.handlers import RotatingFileHandler
from functools import wraps
from fastapi import FastAPI, Request, HTTPException
from fastapi.security import HTTPBearer, HTTPAuthorizationCredentials
import uuid

# 配置结构化日志
logging.basicConfig(
    level=logging.INFO,
    format='%(asctime)s | %(levelname)s | %(request_id)s | %(message)s',
    handlers=[
        RotatingFileHandler('agent.log', maxBytes=10*1024*1024, backupCount=5),
        logging.StreamHandler()
    ]
)
logger = logging.getLogger(__name__)

app = FastAPI()
security = HTTPBearer()

# JWT密钥，实际项目应该从环境变量读取
SECRET_KEY = "your-secret-key"
ALGORITHM = "HS256"

def generate_token(user_id: str, role: str) -> str:
    payload = {"user_id": user_id, "role": role, "exp": None}
    return jwt.encode(payload, SECRET_KEY, algorithm=ALGORITHM)

def verify_token(credentials: HTTPAuthorizationCredentials):
    try:
        payload = jwt.decode(credentials.credentials, SECRET_KEY, algorithms=[ALGORITHM])
        return payload
    except jwt.ExpiredSignatureError:
        raise HTTPException(status_code=401, detail="Token已过期")
    except jwt.InvalidTokenError:
        raise HTTPException(status_code=401, detail="Token无效")

def log_request(func):
    @wraps(func)
    async def wrapper(request: Request, *args, **kwargs):
        request_id = str(uuid.uuid4())[:8]
        # 把request_id注入到日志上下文
        extra = {"request_id": request_id}
        logger.info(f"Request started: {request.method} {request.url.path}", extra=extra)

        try:
            result = await func(request, *args, **kwargs)
            logger.info(f"Request completed: status={result.get('status', 'unknown')}", extra=extra)
            return result
        except Exception as e:
            logger.error(f"Request failed: {str(e)}", extra=extra)
            raise
    return wrapper

@app.post("/query")
@log_request
async def query_agent(request: Request, credentials: HTTPAuthorizationCredentials = Depends(security)):
    # 1. 验证token
    user_info = verify_token(credentials)
    user_id = user_info["user_id"]
    role = user_info["role"]

    # 2. 检查权限（简化示例，实际应查数据库或配置）
    if role == "viewer" and not request.allow_read_only:
        raise HTTPException(status_code=403, detail="权限不足")

    # 3. 执行业务逻辑
    body = await request.json()
    question = body.get("question", "")

    logger.info(f"Query from user: {user_id}, question: {question[:50]}...")

    # 实际调用模型的代码在这里
    result = await call_model(question, user_id=user_id)

    return {"status": "success", "answer": result}

这段代码的核心逻辑有三层：

第一层是JWT鉴权。generate_token生成token，verify_token验证token。token里携带用户ID和角色信息，这样后续的业务逻辑可以直接用，不用每次都查数据库。

第二层是日志拦截器。log_request是一个装饰器，每次请求进来时会生成一个唯一的requestid，记录请求的开始和结束。这个requestid会出现在所有日志里，方便跨层追踪。

第三层是权限检查。在业务逻辑执行前，先检查用户角色是否有权访问这个接口。这里做了最简单的role检查，实际项目中应该结合数据隔离（比如查向量库时加上user_id过滤条件）。

几个关键点要说清楚：