域名集
域名集是已保存的网站列表。通过 API,您可以根据搜索结果或自己的列表创建域名集、组合多个域名集,并从域名集中每个网站的网页源代码里提取值:联系方式、社交主页、统计和标签 ID,以及正则表达式能匹配的任何内容。
接口
| 接口 | 方法 | 功能 |
|---|---|---|
/v1/clusters | GET | 账户中的域名集,最新的排在最前:ID、名称、域名数量、创建时间。 |
/v1/clusters | POST | 根据搜索(query)或列表(domains)创建域名集;name 可选。 |
/v1/clusters/{id} | GET | 域名集信息及一页域名:page、per_page(最多 10000);format=txt 则每行一个域名。 |
/v1/clusters/combine | POST | 由现有域名集生成新的域名集:operation(and、or 或 diff),clusters(ID 列表)。 |
/v1/clusters/{id}/extract | GET, POST | 用 presets 和 regex 分批提取值:offset、limit(每次调用最多 1000 个网站)、format(json、xml 或 csv)。 |
/v1/clusters/presets | GET | 现成的表达式及其模式。 |
/v1/clusters/{id}/rename | POST | 新的 name。 |
/v1/clusters/{id}/delete | POST | 永久删除该域名集。 |
所有修改域名集的操作都是带 JSON 请求体的 POST,不使用 PUT 或 DELETE,因此任何能执行搜索的客户端也都能管理域名集。令牌、速率限制和错误格式都与搜索相同;/v1/account 返回结果中的域名集数据会显示您已有多少个域名集,以及今日还剩多少提取点数。
创建域名集
根据搜索创建:查询结果(最多为您套餐的每次搜索行数)即成为域名集。与 /v1/search 一样消耗一次搜索。
curl https://api.publicwww.com/v1/clusters \
-H "Authorization: Bearer $PUBLICWWW_KEY" \
-H "Content-Type: application/json" \
-d '{"query": "\"googletagmanager.com/gtm.js\"", "name": "GTM sites"}'
{"id": 7, "name": "GTM sites", "size": 100000, "created": "2026-10-10T20:21:30Z",
"query": "\"googletagmanager.com/gtm.js\"", "total": 2412577, "index_complete": true}
根据列表创建:提交域名或 URL,可以是 JSON 数组,也可以每行一个。只保留索引中已有的网站:submitted 是您提交的数量,size 是实际收入的数量。用列表创建不消耗任何配额。
curl https://api.publicwww.com/v1/clusters \
-H "Authorization: Bearer $PUBLICWWW_KEY" \
-H "Content-Type: application/json" \
-d '{"domains": ["example.com", "https://www.example.org/about"], "name": "Prospects"}'
每个域名集的域名数量受套餐限制,每个账户最多保存 100 个域名集。已有 100 个时再创建,会返回 409 cluster_limit。系统不会替您删除任何域名集,请先删除不再需要的域名集。
组合域名集
curl https://api.publicwww.com/v1/clusters/combine \
-H "Authorization: Bearer $PUBLICWWW_KEY" \
-H "Content-Type: application/json" \
-d '{"operation": "diff", "clusters": [7, 3], "name": "GTM, not yet contacted"}'
and 保留所有域名集共有的域名,or 保留任一域名集中的域名,diff 保留在第一个域名集中而不在第二个中的域名(必须正好两个)。组合不消耗任何配额。
提取数据
数据提取会读取域名集中每个网站已收录的网页,返回表达式捕获的内容,每个表达式对应一列。最简单的方式是使用预设:
| 预设 | 提取内容 |
|---|---|
email | mailto: 链接中的邮箱地址 |
phone | tel: 链接中的电话号码 |
whatsapp、telegram、skype | 相应链接中的 WhatsApp 号码、Telegram 用户名、Skype 用户名 |
facebook、instagram、twitter、linkedin | 网站社交主页的链接(twitter 也匹配 x.com,linkedin 也匹配公司主页) |
gtm、ga4、ua | Google Tag Manager 容器 ID、Google Analytics 4 和 Universal Analytics 的统计 ID |
hotjar | Hotjar 站点 ID |
adsense | AdSense 发布商 ID |
bitcoin | bitcoin: 支付链接中的地址 |
也可以自己编写:用斜杠(或竖线)包围的正则表达式,可带 i、m、s、u 修饰符,最长 200 个字符。第一个捕获组即为提取的值,规则与 snipexp: 相同。每次调用最多十个表达式(含预设)。
curl https://api.publicwww.com/v1/clusters/7/extract \
-H "Authorization: Bearer $PUBLICWWW_KEY" \
-H "Content-Type: application/json" \
-d '{"presets": ["gtm", "email"], "regex": ["/data-site-id=\"([0-9]+)\"/i"], "limit": 1000}'
{
"cluster": 7, "name": "GTM sites", "size": 100000,
"offset": 0, "scanned": 1000, "in_index": 1000, "with_matches": 941,
"next_offset": 1000,
"regex": ["/(GTM-[A-Z0-9]{4,10})\\b/", "/mailto:(...)/i", "/data-site-id=\"([0-9]+)\"/i"],
"points_used": 1834.2, "points_left": 98165,
"rows": [
{ "domain": "example.com", "values": [["GTM-AB12CD"], ["info@example.com"], []], "matches": 2 }
]
}
分批处理。每次调用从 offset 开始,最多处理域名集中的 1000 个网站。将 offset 设为 next_offset 再次调用,直到它返回 null。没有任何匹配的网站不会列出;设置 skip_empty=0 则同样列出。format=csv 时每个网站占一行(先是域名,然后每个表达式一列),下一个偏移量在 X-Next-Offset 响应头中。
点数。数据提取消耗您套餐的每日提取额度:索引中找到的每个网站,按在该网站上找到的值的数量消耗相应点数,一个都没有找到则消耗 0.1 点。点数用完时,调用会提前停止,返回 "stopped": "extract_quota_exceeded" 以及已获取的结果;没有剩余点数时调用会得到 429 extract_quota_exceeded。请先用较小的 limit 试用表达式,详见域名集限制。
用代码处理整个域名集
根据搜索创建域名集,并把每个网站提取出的值写入 CSV 文件。客户端库以现成函数和命令行工具的形式提供了同样的功能。
Python
import csv, os, time, requests
KEY = os.environ["PUBLICWWW_KEY"]
BASE = "https://api.publicwww.com"
H = {"Authorization": "Bearer " + KEY}
def call(method, path, body=None):
while True:
r = requests.request(method, BASE + path, headers=H, json=body)
if r.status_code == 429 and r.json()["error"]["code"] == "too_many_requests":
time.sleep(int(r.headers.get("Retry-After", 30)))
continue
r.raise_for_status()
return r.json()
cluster = call("POST", "/v1/clusters", {"query": '"googletagmanager.com/gtm.js"'})
offset = 0
with open("extract.csv", "w", newline="") as f:
out = csv.writer(f)
while offset is not None:
part = call("POST", "/v1/clusters/%d/extract" % cluster["id"],
{"presets": ["gtm", "email"], "offset": offset})
for row in part["rows"]:
out.writerow([row["domain"]] + [" ".join(v) for v in row["values"]])
offset = part["next_offset"]
JavaScript (Node 18+)
const BASE = "https://api.publicwww.com";
const H = { Authorization: "Bearer " + process.env.PUBLICWWW_KEY,
"Content-Type": "application/json" };
async function call(method, path, body) {
for (;;) {
const r = await fetch(BASE + path, { method, headers: H,
body: body && JSON.stringify(body) });
const data = await r.json();
if (r.status === 429 && data.error.code === "too_many_requests") {
await new Promise(ok => setTimeout(ok, 1000 * (r.headers.get("Retry-After") || 30)));
continue;
}
if (!r.ok) throw new Error(data.error.message);
return data;
}
}
const cluster = await call("POST", "/v1/clusters", { query: '"hotjar.com"' });
for (let offset = 0; offset !== null; ) {
const part = await call("POST", `/v1/clusters/${cluster.id}/extract`,
{ presets: ["hotjar", "email"], offset });
for (const row of part.rows) console.log(row.domain, row.values.map(v => v.join(" ")).join(";"));
offset = part.next_offset;
}
PHP
<?php
function call ($method, $path, $body = null) {
$ch = curl_init ("https://api.publicwww.com" . $path);
curl_setopt_array ($ch, [
CURLOPT_CUSTOMREQUEST => $method,
CURLOPT_RETURNTRANSFER => true,
CURLOPT_HTTPHEADER => ["Authorization: Bearer " . getenv ("PUBLICWWW_KEY"),
"Content-Type: application/json"],
CURLOPT_POSTFIELDS => $body === null ? null : json_encode ($body),
]);
$data = json_decode (curl_exec ($ch), true);
if (isset ($data ["error"])) throw new Exception ($data ["error"]["message"]);
return $data;
}
$cluster = call ("POST", "/v1/clusters", ["query" => '"jquery.min.js"']);
$out = fopen ("extract.csv", "w");
for ($offset = 0; $offset !== null; ) {
$part = call ("POST", "/v1/clusters/" . $cluster ["id"] . "/extract",
["presets" => ["email", "phone"], "offset" => $offset]);
foreach ($part ["rows"] as $row)
fputcsv ($out, array_merge ([$row ["domain"]], array_map (fn ($v) => join (" ", $v), $row ["values"])));
$offset = $part ["next_offset"];
}
Go
package main
import (
"bytes"
"encoding/json"
"fmt"
"net/http"
"os"
"strings"
)
func call(method, path string, body, out any) error {
b, _ := json.Marshal(body)
req, _ := http.NewRequest(method, "https://api.publicwww.com"+path, bytes.NewReader(b))
req.Header.Set("Authorization", "Bearer "+os.Getenv("PUBLICWWW_KEY"))
req.Header.Set("Content-Type", "application/json")
resp, err := http.DefaultClient.Do(req)
if err != nil {
return err
}
defer resp.Body.Close()
if resp.StatusCode >= 300 {
return fmt.Errorf("publicwww: %s", resp.Status)
}
return json.NewDecoder(resp.Body).Decode(out)
}
func main() {
var cluster struct{ ID int `json:"id"` }
if err := call("POST", "/v1/clusters", map[string]any{"query": `"googletagmanager.com/gtm.js"`}, &cluster); err != nil {
panic(err)
}
for offset := 0; ; {
var part struct {
Rows []struct {
Domain string `json:"domain"`
Values [][]string `json:"values"`
} `json:"rows"`
NextOffset *int `json:"next_offset"`
}
path := fmt.Sprintf("/v1/clusters/%d/extract", cluster.ID)
if err := call("POST", path, map[string]any{"presets": []string{"gtm", "ga4"}, "offset": offset}, &part); err != nil {
panic(err)
}
for _, r := range part.Rows {
cells := []string{r.Domain}
for _, v := range r.Values {
cells = append(cells, strings.Join(v, " "))
}
fmt.Println(strings.Join(cells, ";"))
}
if part.NextOffset == nil {
break
}
offset = *part.NextOffset
}
}
Ruby
require "json"
require "net/http"
def call(path, body)
uri = URI("https://api.publicwww.com" + path)
req = Net::HTTP::Post.new(uri, "Authorization" => "Bearer #{ENV.fetch('PUBLICWWW_KEY')}",
"Content-Type" => "application/json")
req.body = body.to_json
res = Net::HTTP.start(uri.host, uri.port, use_ssl: true) { |h| h.request(req) }
data = JSON.parse(res.body)
raise data["error"]["message"] if data["error"]
data
end
cluster = call("/v1/clusters", { query: '"hotjar.com"' })
offset = 0
while offset
part = call("/v1/clusters/#{cluster['id']}/extract", { presets: %w[hotjar email], offset: offset })
part["rows"].each { |r| puts [r["domain"], *r["values"].map { |v| v.join(" ") }].join(";") }
offset = part["next_offset"]
end
错误
| 状态码与错误码 | 含义 |
|---|---|
404 cluster_not_found | 该账户下没有此 ID 的域名集。 |
409 cluster_limit | 该账户已保存 100 个域名集。 |
400 invalid_regex | 表达式不是用斜杠或竖线包围、不超过 200 个字符的 PCRE。 |
400 unknown_preset | 没有这个预设;响应中会列出所有预设。 |
400 missing_source、ambiguous_source | 创建时需要提供 query 或 domains,且只能二选一。 |
429 extract_quota_exceeded | 今日提取点数已用完。 |
完整列表见错误页面,以及 API 自带的说明:https://api.publicwww.com/。在 AI 助手中,同样的操作以 MCP 工具的形式提供。
下一篇 代码示例