Назад к Crawler
Подключите Knoon AI к Crawler (Web Intelligence), чтобы автоматизировать AI рабочие процессы.
Fetch a web page and return extracted content with high chances of succeeding and not being blocked.
webIntelligenceCrawlerScrapeUrl
Бета
Разрешения
Нет элементов для отображения.
Опциональные разрешения
Нет элементов для отображения.
Параметры
| Имя | Тип | Описание | Обязательно |
|---|---|---|---|
| url | mustache | Public URL to scrape (e.g. "https://example.com/article"). | Да |
| formats | array (mustache) | Optional list of formats to return (e.g. ["markdown","html"]). Defaults to ["markdown"]. | Нет |
| onlyMainContent | boolean | If true, attempts to return only the primary page content. | Нет |
| waitFor | mustache | Optional wait time in milliseconds before scraping (e.g. "2000"). | Нет |
| timeout | mustache | Optional timeout in milliseconds for the scrape request. | Нет |
Возвраты
| Имя | Тип | Описание |
|---|---|---|
| status | string | OK or ERROR. |
| url | string | The scraped URL. |
| content.markdown | string | Markdown content when available. |
| content.html | string | HTML content when available. |
| content.text | string | Plain text content when available. |
| metadata | object | Metadata when available. |
| links | array | Extracted links when available (shape may vary by source; commonly URL strings). |