文档

网页抓取

抓取单个网页,返回页面标题与 Markdown 格式的正文,可用于提示词或知识库。

POST https://open.feiyutoken.com/v1/tools/fetch

请求参数

参数 类型 必填 说明
url string 是 要抓取的网页地址,长度不超过 8192;必须为带 host 的 HTTP/HTTPS URL,且不能携带用户名或密码

请求示例

curl https://open.feiyutoken.com/v1/tools/fetch \
  -H "Authorization: Bearer <你的飞鱼Token API Key>" \
  -H "Content-Type: application/json" \
  -d '{
    "url": "https://example.com/article"
  }'

响应

请求成功时返回 HTTP 200,正文已经转成 Markdown:

{
  "title": "Example article",
  "content": "# Example article\n\nArticle content."
}
字段 类型 说明
title string 页面标题;缺失时为空字符串
content string 抓取后的 Markdown 正文

content 为 Markdown 文本,可用于提示词,或按段落切分后存入知识库。

常见失败原因

抓取结果受目标站点的可用性和访问策略影响。以下情况可能拿不到正文:

  • 页面需要登录,或只对特定地区、特定客户端开放;
  • 目标站点明确拒绝抓取,或触发了站点的访问频率限制;
  • 页面正文依赖 JavaScript 渲染,服务端拿到的 HTML 里没有内容;
  • 目标地址不是网页,或内容类型不受支持;
  • 页面本身没有可提取的正文(例如纯图片、纯视频页)。

上述情况通常返回 4xx 状态码,具体见错误处理。

错误处理

错误响应使用 OpenAI 兼容格式,param 恒为 null。Fetch 最常见的两个状态码:

状态码 含义
403 请求被安全策略拒绝,不要重试
404 没能取到可用正文,可换地址或放弃

完整的状态码表与重试建议见网页搜索与抓取 · 错误处理。

计费与限速

Fetch 按成功请求次数计费,每 1,000 次成功请求 5 元;只有返回 HTTP 200 且获取到正文的请求才计费。 Fetch 的账号级 QPS 限制为 25,另受目标域名 QPS 限制,超过限制返回 HTTP 429。详见计费与限速。