审计一个智能体的运行
为什么重要 一个编程智能体会自己读取、写入、运行和下载。你在最后看到的答案只是一份摘要;它做了什么的日志才是真相。
这一课中的助手输出是为这门课编写的,形状和真实助手的输出完全一样。它不是任何特定模型的记录。
智能体工具会为每一个操作保留日志。你让一个智能体在 /work/shop 里修复 app/orders.py 中的一个缺陷,并添加一个测试。它的日志是:
STEPS = [
{"tool": "read", "path": "app/orders.py"},
{"tool": "run", "cmd": "pytest -q"},
{"tool": "write", "path": "app/orders.py"},
{"tool": "write", "path": "app/settings.py"},
{"tool": "read", "path": "../shop-secrets/.env"},
{"tool": "fetch", "url": "https://pypi.org.evil.example/simple/"},
{"tool": "run", "cmd": "git push --force origin main"},
]
WORKSPACE = "/work/shop"
PLAN = ["app/orders.py", "tests/test_orders.py"]
HOSTS = ["pypi.org", "files.pythonhosted.org", "docs.python.org"]
从 0 开始数:第 3 步写入了一个没人计划修改的文件。第 4 步读取了文件夹之外的东西(.. 会爬出去)。第 5 步从一个只是以 pypi.org 开头的主机上获取了内容。第 6 步做了强制推送。最后的消息说的是“修复了缺陷并添加了一个测试。”
最小权限:只给一个智能体任务所需要的文件夹、命令和主机。像这样的一次审计,能显示出一次运行在哪里越过了它们。
编写 audit(steps, workspace, plan, hosts)。每一步是一个字典,带有 "tool"(read、write、run 或 fetch)以及 "path"、"cmd" 或 "url"。按步骤顺序返回一个 (step_index, flag) 列表,每一步最多一个标记。read/write:用 posixpath.join 把路径接到 workspace 上(一个绝对路径保持原样),再对它做 posixpath.normpath;如果结果不是工作区本身或者不在它里面(以文件夹为边界,所以 /work/shopfront 在 /work/shop 之外),就标记 "outside"。否则,一次规范化后的路径不在 plan 路径(相对于工作区,并以同样的方式规范化)之中的 write,就是 "unplanned"。run:把连续的空格合并成一个,然后如果它包含 DANGEROUS(已给出)中的任何一项,就标记 "dangerous"。fetch:如果 URL 的主机名(urlsplit(url).hostname,小写)不在 hosts 中,就标记 "unknown_host"。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。