STUDIU DE CAZ · DEZVOLTAT DE CLOUDHERO
Am construit Otto, asistentul AI din Octora, pentru a transforma informațiile din CRM, conversații și documente în răspunsuri cu surse și acțiuni gata de verificat. Amazon Bedrock oferă acces la modele, iar aplicația gestionează permisiunile, instrumentele și executarea acțiunilor.
PROBLEMA
Următorul pas într-o oportunitate de vânzare poate depinde de o discuție dintr-o ședință, de un angajament trimis prin e-mail, de un document atașat și de datele actuale din CRM. Asistentul trebuie să aducă aceste informații împreună și să respecte accesul utilizatorului care pune întrebarea.
CloudHero dezvoltă Octora pentru activitatea de partener AWS. Am construit Otto pornind de aici: un asistent care poate explica starea unei oportunități, poate indica informațiile relevante și poate pregăti următoarea acțiune pentru verificare.
ARHITECTURA PROCESULUI
Citește înregistrările și sursele la care utilizatorul are acces.
Folosește modelele din Bedrock și instrumentele definite în aplicație.
Prezintă sursele și o propunere pe care utilizatorul o poate edita.
Verifică din nou permisiunile și starea datelor înainte de executare.
AMAZON BEDROCK
Aplicația apelează API-ul Converse din Amazon Bedrock printr-un modul comun de integrare LLM. Trimite contextul conversației și definițiile instrumentelor în format JSON Schema, apoi gestionează apelurile cerute de model. Otto poate astfel să caute, să citească și să pregătească modificări printr-un set explicit de operațiuni.
Fiecare interacțiune are limite pentru apelurile către model, folosirea instrumentelor, numărul de tokeni generați și durata totală. Modulul de integrare înregistrează consumul de tokeni, aplică limite de timp și reîncearcă anumite cereri incompatibile cu modelul, de un număr limitat de ori. Interacțiunile Otto sunt procesate într-o coadă Redis/RQ dedicată, în afara cererii web.
Interfața LLM acceptă și un alt furnizor. Separarea ei de logica CRM permite păstrarea verificărilor de acces și a procesului de aprobare atunci când configurația modelului se schimbă. Aplicația gestionează executarea instrumentelor, căutarea informațiilor și aprobările.
CONTRIBUȚIA CLOUDHERO
Căutarea structurată și căutarea în text acoperă date din CRM, e-mailuri, text extras din documente, transcrieri și note. Fiecare citire ține cont de utilizator și de echipă. Rezultatele au dimensiuni limitate, astfel încât o căutare largă să nu ocupe întregul context al modelului.
Otto asociază trimiterile din răspuns cu informațiile găsite. La compunerea răspunsului, referințele sunt verificate față de sursele disponibile, iar utilizatorul poate deschide înregistrarea relevantă. Căutarea structurată și căutarea în text furnizează contextul acestui proces.
Otto poate propune un contact, o sarcină, o notă, actualizarea unei înregistrări sau o ciornă de e-mail. Înainte de executare, serverul verifică utilizatorul, accesul actual la surse, datele introduse și eventualele modificări intervenite între timp. Aprobarea acțiunii de e-mail salvează o ciornă; nu trimite mesajul.
Fiecare încercare de procesare are un identificator propriu. Dacă interacțiunea eșuează sau este anulată, propunerile pregătite sunt invalidate. Versiunile propunerilor permit detectarea editărilor făcute pe date vechi, iar interfața poate distinge între o acțiune pregătită și una finalizată.
Pe lângă Otto, implementarea include module pentru calificarea oportunităților, analiza vânzărilor, relația cu clienții, coordonarea AWS, onboarding, procesarea notelor vocale și rezumate zilnice. Ele folosesc aceeași bază: context cu acces controlat, modele configurabile și executare gestionată de aplicație. O interfață MCP expune și operațiuni CRM pentru clienți externi autorizați, cu drepturi explicite de citire sau de citire și scriere. Mediul analizat separă API-ul Flask/Gunicorn de procesele Redis/RQ, cu PostgreSQL pentru date și servicii configurate prin Docker Compose.
Utilizatorul poate întreba ce blochează o oportunitate, poate verifica discuțiile relevante și poate revizui o propunere de continuare fără să adune manual informațiile din fiecare sursă. Contribuția tehnică acoperă întregul traseu: integrarea modelului, căutarea și citarea surselor, permisiunile, procesarea în fundal și validarea acțiunilor.
Aceleași întrebări apar în vânzări, gestionarea conturilor și asistenții interni: ce poate citi modelul, ce poate propune și ce trebuie verificat pe server înainte de salvarea unei modificări?
PROIECTUL TĂU AI
Pornim de la date, sisteme și acțiunile permise. Stabilim ce merită construit și pregătim planul de implementare.
Planifică implementarea AI