Prejsť na obsah

Pipeline na zber leadov

Generovanie leadov pre B2B predajné tímy · Interaktívny prototyp s ukážkovými dátami, samostatne

Aktualizované

Predtým

Obchodníci skladali zoznamy leadov ručne. Jednoduché scrapery skončili pri prvej blokácii.

Potom

Úlohy dobehnú do konca napriek blokáciám a chybným stránkam a leady sú pripravené cez API.

Ako to funguje
  1. 1Človek:Operátor

    V sprievodcovi nastaví úlohu s cieľovými webmi, poľami a plánom.

  2. 2Softvér:Scraper

    Otvára stránky v skutočnom prehliadači cez rotujúce proxy.

  3. 3Softvér:Pipeline

    Extrahuje polia, kontroluje ich, odstraňuje duplicity a opakuje zlyhania.

    Človek:Operátor

    Sleduje priebeh a živý log.

  4. 4Softvér:Platforma

    Ukladá leady a potom ich poskytuje cez API a webhooky.

Platí vždy

  • Zlyhaná stránka nikdy nezastaví úlohu.
  • Dashboard ukazuje stav proxy a chyby v reálnom čase.
  • API kľúče sú obmedzené na jeden tím.

Problém

Zoznamy leadov sa skladali ručne. Scrapery vo veľkom objeme narážali na detekciu botov, zlyhané požiadavky a nejednotné stránky a zastavili sa s polovicou dát.

Diagnóza

Vo veľkom objeme je zlyhanie normálne. Pipeline musí s blokáciami a chybnými stránkami počítať a bežať ďalej.

Varianty, ktoré som zvažoval

  1. Čo sa stane, keď stránka zlyhá?

    Zvolené

    Zopakovať ju, potom ju presunúť do zoznamu zlyhaných a nechať úlohu bežať

    Jedna chybná stránka stojí jeden záznam, nie celý beh. Cena: na zoznam zlyhaných sa niekto musí pozrieť.

    • Zamietnuté

      Zastaviť úlohu pri prvej chybe

      Vo veľkom objeme niektoré stránky zlyhajú vždy, takže úloha by nikdy neskončila.

Riešenie

Strana operátora na ukážkových úlohách: sprievodca pre ciele, polia a plán, živý priebeh a logy, stav proxy a API s webhookmi pre leady.

Rozhranie
  • Next.js
  • React
  • Tailwind CSS
  • Recharts
  • Framer Motion
Nasadenie
  • Vitest
  • Cloudflare Pages