Integrácia AI do existujúcich produktov
Váš produkt už funguje a vaši používatelia v ňom už majú dáta. Pridávam na neho funkcie s LLM: vyhľadávanie, ktoré odpovedá z vašich dokumentov a ku každej odpovedi uvedie zdroj, extrakciu, ktorá zo súborov robí polia, a asistentov, ktorí pracujú vo vnútri vášho produktu, nie vedľa neho.
Problém, ktorý to rieši
Vaši používatelia chcú vyhľadávanie alebo asistenta, ale model pridaný bez vašich dát dáva sebavedomé nesprávne odpovede a nikto vo vašom tíme nemá čas ho bezpečne zapojiť.
Čo získate
- Vyhľadávanie v dokumentoch, ktoré odpovedá s citáciami
- Extrakcia polí z PDF a iných súborov
- Asistent napojený na dáta vášho produktu
- Označenie odpovedí, pri ktorých si model nie je istý, na kontrolu
- Zdrojový kód a nasadenie, ktoré vlastníte vy
Ako to funguje
Najprv si prečítam váš kód a dáta, potom vyberiem jednu funkciu, ktorú pridám, napríklad vyhľadávanie vo vašich dokumentoch. Zabuduje sa do vášho existujúceho stacku a oprávnení, takže používatelia dostanú odpovede len z dát, ktoré smú vidieť. Všetko, pri čom si model nie je istý, sa označí na kontrolu človekom. Ďalšie funkcie nadväzujú na rovnakom základe. Prevádzkové náklady závisia najmä od toho, aký model používa každý krok, ako ukazujem v koľko stojí prevádzka AI agenta.
Kedy sa to nehodí
Nehodí sa, ak chcete nového samostatného agenta na WhatsAppe alebo v Telegrame (pozrite AI agenti a vývoj chatbotov), alebo ak funkcia model nepotrebuje a stačí bežný databázový dotaz.
Technológie
- OpenAI
- Anthropic
- LangChain
- PostgreSQL