Cum evaluezi un agent AI înainte de lansare
Evaluează întregul proces: răspunsul, informațiile folosite, acțiunile propuse și verificările care permit executarea lor. Un răspuns plauzibil este doar o parte dintr-o sarcină îndeplinită corect.
Începe cu o sarcină precisă și măsoară situația inițială
Descrie ce încearcă utilizatorul să facă, ce informații poate accesa aplicația și ce acțiuni îi sunt permise. „Răspunde la o întrebare de vânzări” este prea vag. „Identifică blocajul unei oportunități la care utilizatorul are acces, indică sursele și propune o sarcină de urmărire” descrie un rezultat pe care îl poți verifica.
Adună exemple reprezentative înainte să modifici implementarea. Include cereri obișnuite, informații lipsă, surse contradictorii și cereri care depășesc permisiunile utilizatorului. Păstrează o versiune fixă a setului pentru comparații. Folosește și scenarii separate pentru verificările ulterioare, astfel încât ajustările repetate pe aceleași exemple să nu fie singura dovadă a calității.
Ce arată evaluarea RaptorCI
În studiul de caz RaptorCI, CloudHero a evaluat analiza codului cu AI folosind 60 de scenarii fixe de pull request, cu problemele așteptate marcate. Rata totală de identificare a problemelor a crescut de la 42% la 66%, iar precizia de la 51% la 60%.
| Indicator | Înainte | După |
|---|---|---|
| Rata totală de identificare (recall) | 42% | 66% |
| Precizie | 51% | 60% |
| Identificarea problemelor de logică de business | 60% | 82% |
Recall arată câte dintre problemele așteptate au fost identificate. Precizia arată câte dintre problemele raportate au fost valide. Rezultatul pentru logica de business se referă la o categorie și nu trebuie prezentat ca acuratețe generală.
Verificarea a identificat și aproximativ 19 erori reale care nu figurau în setul de rezultate așteptate. Un set de referință poate fi incomplet: un rezultat absent din barem trebuie analizat înainte de a fi etichetat drept alarmă falsă. Păstrează reperul inițial, documentează decizia evaluatorului și marchează explicit actualizările setului.
Aceste rezultate descriu o aplicație și un anumit set de teste. Nu sunt o estimare pentru alt agent. Costul de aproximativ 0,12 USD per pull request din studiul de caz reprezintă consumul modelelor, fără costul complet al infrastructurii și administrării.
Testează permisiunile și acțiunile, alături de răspunsuri
- Căutarea informațiilor: aplicația găsește sursa relevantă, o indică și recunoaște când informația lipsește sau este învechită?
- Permisiuni: căutarea și instrumentele limitează accesul la înregistrările utilizatorului? Include încercări de acces la informații restricționate ale altor utilizatori.
- Acțiuni: modificarea propusă corespunde cererii? Datele, aprobarea și eventualele schimbări ale înregistrării sunt verificate la executare?
- Erori: ce se întâmplă dacă un instrument nu răspunde, o integrare este indisponibilă sau utilizatorul reia cererea? Verifică dacă acțiunea a fost executată efectiv.
- Administrare: echipa poate investiga procesarea cererilor, consumul și erorile fără să expună inutil informații sensibile?
În Octora, asistentul Otto salvează o ciornă după aprobarea unei acțiuni de e-mail. Testul trebuie să verifice exact acest rezultat și faptul că mesajul nu a fost trimis. Un simplu indicator „instrument executat cu succes” nu surprinde diferența.
Stabilește criteriile de lansare și continuă monitorizarea
Agreează criteriile de acceptare cu persoanele responsabile de proces. O sugestie cu impact redus și o modificare importantă a datelor necesită verificări diferite. Documentează erorile care blochează lansarea, situațiile care cer intervenția unui om și limitele pe care utilizatorii trebuie să le cunoască.
Urmărește separat calitatea rezultatelor, disponibilitatea, timpul de răspuns și costul. Un API funcțional poate returna răspunsuri slabe; rezultate bune în teste nu demonstrează că integrările funcționează fiabil în utilizarea reală. Repetă evaluările relevante după modificări ale modelelor, prompturilor, căutării, instrumentelor sau surselor de date.
Când dovezile sunt insuficiente, următorul pas poate fi un experiment restrâns sau corectarea datelor. Serviciul nostru de evaluare și planificare AI te ajută să definești această decizie. Pentru o aplicație existentă, vezi cum evaluăm și îmbunătățim aplicațiile AI.