dsh-inner-browser-use
v0.45.0
Published
An agent-owned Chromium sidecar mirrored into the DeepSeek Harness right column: the agent drives it, the person watches and can take the mouse, and logins survive restarts.
Maintainers
Readme
dsh-inner-browser-use
一个由 agent 自己养的 Chrome,实时投到 DeepSeek Harness 的右栏里。
agent 打开网页、读页面、点、输入、滚动。这个浏览器是独立的 Chrome 进程,用自己的磁盘 profile,不是产品自带的那个浏览页签:右栏放的是它的画面,而画面上的鼠标仍然是你自己的。
工具
| 工具 | 作用 |
| --- | --- |
| browser_open | 启动浏览器(已在跑就复用)并打开一个地址。传 headless: false 会改为在桌面上开真实窗口。 |
| browser_view | 返回地址、标题、编号成 1 … 120 的控件,以及可见文字。 |
| browser_read | 按人读文章的方式给 Markdown(标题、段落、列表、链接)。带 query 只回能回答的那几句(段落排序后再按句子打分,标题、位置、链接密度做先验,重复句去掉,按字符预算装箱);问不到时只回最近的三段并明说没答上,不再把整页端回来;当前页答不上来还会顺手读这个会话自己开着的其它页签,答案在哪页就从哪页回并标出页签标题(bench 里少 90% 字符),across: false 只读当前页。页面和上次读的没变就只回一行,不重发正文(force: true 强制重发)。 |
| browser_extract | 按 CSS 选择器把列表项读成一行一条、带链接,比整页读省得多。 |
| browser_view 的 map | 大页面先看地标:各类控件各多少个、去重后的控件和编号、正文多少字,但不带回正文。 |
| browser_click | 点编号控件,或点 x/y 坐标。double: true 双击。控件被横幅或弹层挡着时,先关掉它再点。 |
| browser_type | 往焦点输入框输入文字,也可以先点一个编号控件。中文整段送进去。submit: true 回车提交。 |
| browser_key | 按一个键:Enter、Tab、Escape、Backspace、Delete、上下左右、Home、End、PageUp、PageDown。 |
| browser_scroll | 在页面中心滚轮,也可以指定 x/y。dy: 600 约一屏。 |
| browser_shot | 存一张 PNG 到 ~/.dsh/inner-browser-use/screenshots,返回路径;region: [x, y, w, h] 只截一块(游戏、图表、看局部)。 |
| browser_look | 看自己画自己的页面(游戏、canvas、Flash):把画面压成字母网格,一块屏幕一个字母、同色同字母,12×8 约 200 字符,不花图片 token;再看一次只报变了的格子。要颜色、布局或给人看图仍用 browser_shot。 |
| browser_media | 列出页面已经请求过的视频和声音(带大小),页面自己播放器里那个排第一、标 main;save: <行号>、save: main 或地址片段存下来。广告和统计默认不出现(all: true 才看),watch: false 关掉这个页面的记录。流会顺着播放列表把片段取回拼好,不用装任何东西。 |
| browser_login | 按名字留住登录:save 存下当前窗口的 cookie 和各站的 localStorage,list 看有哪些,use 切回那个账号并重开页面,import 把本机 Chrome/Brave/Edge 里已经登着的站直接留成一个名字,drop 忘掉。名字跟着浏览器走、不跟着一个会话走,重启也在;同一站点两个账号就存两个名字。磁盘上那一份是加密的,钥匙在系统钥匙串里。 |
| browser_state | 报浏览器在不在跑、用的哪个 profile、地址、标题、有几个右栏在看它,以及它此刻占多少内存、没人用的话还有多久关闭。 |
同一个站读两次就会被按 origin 记住(~/.dsh/inner-browser-use/sites.json,可用 DSH_INNER_BROWSER_STATE_DIR 改位置)。第二次之后:正文或控件多的站,browser_view 默认先给 map: 地标;文章长的站,browser_read 默认截到 3500 字符并说明截在哪。两者都带一句实测数字,也都会被显式 mode、query、max_chars 覆盖——学到的是默认值,不是对直接提问的答案。scripts/check-sites.mjs 是现场证据:300 个按钮的页看三次、12000 字的文档读三次,报出截断位置。
点、输入、按键之后的那一行会多一句结果:· navigated to …(换页了)、· content changed(页内有变化)、· no visible change(点了没动)、Flash 页则是 · screen updated / · no frame change;read: true 时不再多说。
browser_view 一次给一页文本:
https://example.com
Example Domain
1 [a] More information
7 [input] Search编号到下一次读之前都有效。任何改动页面的操作都会顺带返回一次新的读取。
右栏
那一栏显示的是浏览器的画面,按会话自己的流发 JPEG:1440×900,质量 72,每帧都发;静止 页面上约 82 KB 一帧、每秒 25 帧。
画面上有两个指针:
- 黑色箭头是 agent。 它标在 agent 上一次点击的落点上,新的点击一发出箭头就动,不等 页面重绘。
- 鼠标是你自己的。 悬停、点击、滚轮、按键都当作真实输入交给浏览器,所以对拦截脚本点击 的站也照常管用。移动鼠标不会带动黑色箭头。
画面上方那行地址就是地址栏:输入域名回车,页面换成它;旁边是后退、前进、刷新。你在编辑时 它不会跟着页面跳。
输入分两路进来:输入法合成的文字(中文、emoji 等)整段插入,按键则按原样送过去,所以 Backspace 在页面上删掉的是一个字。
右栏只在向它要过页面的那个会话里打开。别的会话调用工具时用的是同一个浏览器,但不会抢走 别人正在看的这一栏。
登录态
profile 是独立目录:~/.dsh/inner-browser-use/chrome/default。它在产品自己的浏览数据之外
——那份数据是每个进程临时建的,进程一退就没了,所以在这里登过的账号第二天还在。
- 插件重载。 重载会接上仍在运行的那个 Chrome,页面也还在原处。
- Harness 重启。 重新打开同一个目录,cookie、
localStorage和 Chrome 存下的密码都留着。 - 退出。 关浏览器是请它自己关(
Browser.close),Chrome 在这一步才把 cookie 落盘;空闲 15 分钟会关掉,有右栏在看时不计这段空闲。
profile 之外只写一样东西:~/.dsh-inner-browser-use/screenshots/ 里的截图。
实测
| | | | --- | --- | | 打开页面到第一帧 | 约 850 ms,含网络加载 | | 单帧 | 1440×900 JPEG,约 82 KB | | 画面 | 约 25 帧每秒 | | 指针移动到箭头跟上 | 0.8–7 ms | | 右栏里手动点击到画面更新 | 中位 13 ms,最坏 17 ms(点击派发 2 ms、悬停 8 ms) |
安装
git clone https://github.com/regrevia/dsh-inner-browser-use
dsh plugin install /path/to/dsh-inner-browser-use在应用里走 插件 → 从文件夹安装,选这个仓库目录。要装打包好的 tgz,就在该目录里打一个再装:
npm pack # 得到 dsh-inner-browser-use-0.12.1.tgz
dsh plugin install ./dsh-inner-browser-use-0.12.1.tgz装好后在 插件 里显示为 后台浏览器。机器上要有 Google Chrome 或 Chromium,细节见 docs/COMPATIBILITY.md。
使用
- 打开你想让 agent 代跑的会话。
- 直接说要页面上的什么事:「打开 example.com,告诉我标题」。
第一次调用会启动浏览器,并把镜像放进这个会话的右栏。没有调用就不会有东西自己打开:没要过 页面的会话,右栏保持原样。
Flash 页面
browser_open 带 flash: true 时,这个地址改用插件自带的 Flash 运行时(Electron 87 + Pepper Flash)在离屏窗口里播放:窗口一次都不显示,Dock 与菜单栏都不出现,画面只在发起会话的右栏里。切换回来再调一次 flash: false,选择会记住。运行时首次使用时下载到 ~/.dsh/inner-browser-use/flash/,不需要单独安装播放器。
npm run flash-hidden 会真起一次运行时并断言「窗口未显示 / 帧持续产出 / 两帧不同」;npm run flash-mirror 量镜像帧率与按下/抬起/按键耗时;npm run flash-tools 量工具层成本(奥拉星登录页实测:点击 28 ms、输入 14 ms、browser_view 31 ms;同一页后续回话只说标题,点击 22 字符、输入 13 字符);npm run flash-local 用仓库自带的 SWF 在本机起页,不依赖网络,量首帧与输入直达。
框架、下载、网络
- iframe 能读,跨站也能。 不管是和页面共用进程,还是 Chrome 单独给一个进程,里面的控件都和页面自己的控件一样有编号;点击按框架在页面上的实际位置落点。
- 下载会落到磁盘。 点一下就下载的文件写在这个浏览器自己的 profile 目录里,
browser_downloads报出文件名、大小和到达时间。 - PDF 有去处。 Chrome 无头进程画不出 PDF,右栏只会是白图;读到 PDF 时把文件取回归档到该浏览器 profile 的
downloads/,结果里直接给绝对路径,交给envoy_read或本地阅读器。 - 能看到网络。
browser_network倒序列出页面请求了什么,自己用接口填内容、屏幕上又看不出原因的页面,不用截图去猜。 - 遮罩不吞动作。 盖在按钮上的 cookie 横幅会按人的做法先关掉再点下去,同一次调用里完成;
browser_do的每一步都一样。写着删除、支付、退出的遮罩只报告,不代按。
不做什么
- 不动你自己的 Chrome。 浏览器跑在单独的 profile 上,和你正在用的窗口没有关系。
- 视口固定。 1440×900、桌面布局,不缩放,也不模拟手机。
- 一次一页。 点开新页签的链接会被跟过去:镜像落到新页面,弹窗随即关掉,不会留下第二个页面要选。
兼容性
| | | | --- | --- | | Harness | 0.2.0 及以上 | | Chrome | Google Chrome、Chromium 或 Canary,112 及以上 | | 运行时 | Node 20 及以上 | | 许可 | MIT |
细节在 docs/COMPATIBILITY.md,两半怎么连起来在 docs/ARCHITECTURE.md。
开发
node --test test/*.test.mjs服务端那一半是零依赖 ESM,页面那一半是运行时加载的客户端模块,都不需要构建。
许可
MIT © regrevia
