AI-integration i eksisterende produkter
Dit produkt virker allerede, og dine brugere har allerede data i det. Jeg bygger LLM-funktioner oven på: søgning, der svarer ud fra dine dokumenter med en kilde til hvert svar, udtræk, der gør filer til felter, og assistenter, der arbejder inde i dit produkt i stedet for ved siden af.
Hvilket problem det løser
Dine brugere beder om søgning eller en assistent, men en model sat på uden dine data giver selvsikre forkerte svar, og ingen på dit team har tid til at koble den sikkert på.
Leverancer
- Dokumentsøgning, der svarer med kildehenvisninger
- Udtræk af felter fra PDF'er og andre filer
- En assistent forbundet til dit produkts data
- Markering til gennemsyn af svar, som modellen er usikker på
- Kildekode og deployment, som du ejer
Sådan fungerer det
Jeg læser først din kodebase og dine data og vælger så én funktion at tilføje, for eksempel søgning i dine dokumenter. Den bygges ind i din eksisterende stack og dine rettigheder, så brugere kun får svar fra data, de har lov til at se. Alt, modellen er usikker på, markeres til gennemsyn af en person. Flere funktioner følger på samme opsætning. Driftsomkostningerne afhænger mest af, hvilken model hvert trin bruger, som jeg viser i hvad det koster at drive en AI-agent.
Hvornår det ikke passer
Ikke noget for dig, hvis du vil have en ny selvstændig agent på WhatsApp eller Telegram (se AI-agenter og chatbotudvikling), eller hvis funktionen ikke kræver en model, og en almindelig databaseforespørgsel er nok.
Teknologi
- OpenAI
- Anthropic
- LangChain
- PostgreSQL