Prejsť na obsah

Dashboard na orchestráciu agentov

Prevádzkové nástroje pre tímy, ktoré prevádzkujú systémy AI agentov · Interaktívny prototyp s ukážkovými dátami, samostatne

Aktualizované

Predtým

Agenti bežali ako čierna skrinka. Keď beh zlyhal, inžinieri čítali surové logy z viacerých služieb.

Potom

Jedna obrazovka ukáže, ktorý agent v behu zlyhal, aj stopu správ, ktorá k tomu viedla.

Ako to funguje
  1. 1Človek:Inžinier

    Nakreslí workflow v builderi a nastaví rolu, nástroje a limity každého agenta.

  2. 2Softvér:Orchestrátor

    Prideľuje úlohy výkonným agentom, agentom na vyhľadávanie a agentom s nástrojmi.

    Softvér:Agenti

    Posielajú si správy navzájom, pričom každú správu označia trace id daného behu.

  3. 3Softvér:Platforma

    Počas behu aktualizuje živú mapu, latenciu a náklady každého agenta.

  4. 4Človek:Inžinier

    Otvorí zlyhávajúceho agenta, prejde stopu jeho správ a opraví krok.

Platí vždy

  • Zlyhaný agent skúša znova, potom eskaluje na kontrolu človekom.
  • Každá správa sa ukladá s trace id.
  • Agent nad limitom nákladov sa pozastaví.

Problém

Viacerí AI agenti spolupracovali, odovzdávali si správy a vetvili sa. Keď beh zlyhal, nikto nevidel, ktorý agent sa pokazil ani prečo.

Diagnóza

Logy jednotlivých agentov samy o sebe povedia málo. Chyba sedí v odovzdaniach, preto každá správa potrebuje jedno trace id od začiatku do konca.

Varianty, ktoré som zvažoval

  1. Ako môže inžinier nájsť toho agenta, ktorý pokazil beh?

    Zvolené

    Jedno trace id na beh, zobrazené ako stopa správ naprieč agentmi

    Chyba zvyčajne sedí v odovzdaní a stopa ukazuje všetky odovzdania v poradí. Cena: každá správa musí niesť id.

    • Zamietnuté

      Samostatný pohľad na logy pre každého agenta

      Každý log sám osebe vyzerá v poriadku, takže pokazené odovzdanie zostane skryté.

Riešenie

Riadiace centrum pre behy agentov: živá mapa agentov, builder workflowov, grafy nákladov a latencie a trasovanie správ v behu, poháňané ukážkovými behmi.

Rozhranie
  • Next.js
  • React
  • Tailwind CSS
  • Radix UI
  • Recharts
  • Motion
Nasadenie
  • Vitest
  • Playwright
  • Cloudflare Pages