AI-integrasjon i eksisterende produkter
Produktet ditt fungerer allerede, og brukerne dine har allerede data i det. Jeg legger LLM-funksjoner oppå: søk som svarer ut fra dokumentene dine med en kilde for hvert svar, uttrekk som gjør filer om til felt, og assistenter som jobber inne i produktet ditt i stedet for ved siden av.
Problemet dette løser
Brukerne dine ber om søk eller en assistent igjen og igjen, men en modell som skrus på uten dataene dine gir feil svar med stor selvsikkerhet, og ingen på teamet ditt har tid til å koble den inn på en trygg måte.
Leveranser
- Dokumentsøk som svarer med kildehenvisninger
- Uttrekk av felt fra PDF-er og andre filer
- En assistent koblet til produktets data
- Gjennomgangsflagg for svar modellen er usikker på
- Kildekode og utrulling som du eier
Slik fungerer det
Jeg leser først kodebasen og dataene dine, og velger deretter én funksjon å legge til, for eksempel søk i dokumentene dine. Den bygges inn i den eksisterende stacken og tillatelsene dine, slik at brukerne bare får svar fra data de har lov til å se. Alt modellen er usikker på, flagges for gjennomgang av et menneske. Flere funksjoner følger på samme grunnlag. Driftskostnaden avhenger mest av hvilken modell hvert trinn bruker, slik jeg viser i hva det koster å drifte en AI-agent.
Når du ikke bør kjøpe dette
Passer ikke hvis du vil ha en ny frittstående agent på WhatsApp eller Telegram (se AI-agenter og chatbotutvikling), eller hvis funksjonen ikke trenger noen modell og et vanlig databasespørsmål holder.
Teknologi
- OpenAI
- Anthropic
- LangChain
- PostgreSQL