A risponde correttamente alla dimostrazione ha ancora bisogno di esecuzione, accesso ai dati, monitoraggio e confini per servire utenti reali. OCI Enterprise AI raccoglie le capacità per costruire quel percorso.
Obiettivi: identificare modello, strumenti, loop e memoria Per distinguere chat, incorporato e ri-run; seguendo Responses API e la chiamata della funzione; e controlli di accesso separati dai controlli dei contenuti.
Concetti Chiave
L'agente basato su A LLM combina modello, strumenti, loop e memoria. Il modello propone il passo successivo. uno strumento ottiene i dati o esegue un'operazione; Il runtime coordina le decisioni e i risultati. la memoria conserva un contesto rilevante. A chatbot può rispondere senza agire e un flusso di lavoro può seguire una sequenza fissa. Un agente decide alcuni dei suoi passi dinamicamente.
La piattaforma significa tre gruppi: modelli a deferire, agenti coordinare le azioni; e governance per controllare l'accesso, la condotta e il funzionamento. Utilizzando un runtime gestito riduce il lavoro operativo, ma non rimuove la vostra responsabilità per autorizzazioni, strumenti o qualità di risposta.
Modelli, Recupero e Personalizzazione
Chat genera risposte. embed produzione di vettori; Regia Riordinare i candidati per rilevanza. In una ricerca, è possibile recuperare un insieme esteso con embeddings, affinare con reeling e passare i frammenti selezionati al modello di chat. Il modello A Rerank non guarda da solo tutti i documenti e non scrive la risposta finale.
Per prepararsi al recupero: Estrarre il testo, dividerlo in frammenti utili, generare embeddings e preservare testo, vettori e metadati. In consultazione, combina filtri autorizzati con somiglianza. La ricerca ibrida può aggiungere coincidenze lessiche al codice esatto. Misura sia il recupero che la risposta.
Regolare le prime istruzioni ed esempi. RAG fornisce una conoscenza esterna al contesto di comportamento delle tute fine-tuning. Il materiale presenta metodi efficienti come T-Few e LoRA e impostazioni più estese: la compatibilità dipende dal modello e dalla versione. Controllare il formato di formazione e gli esempi di riserva di valutazione. Non ricordatevi di una storica lista di modelli come catalogo permanente.
Tools, memoria e controlli
The OCI Responses API utilizzare un'interfaccia supportata da OpenAI per invocare modelli e coordinare strumenti a OCI. Questo non significa che SDK esegue richiesta nell'infrastruttura di OpenAI: importa endpoint e l'autenticazione. A progetto organizzare risorse come risposte, conversazioni, archivi e negozi vettoriali. Requisiti di Query guida ufficiale dell'iniziazione.
In funzione chiamataIl modello restituisce nome e argomenti. L'applicazione valida, autorizzazioni e i parametri, eseguire la funzione e restituire il risultato associato a chiamata. Gli strumenti funzionano, come File Search o Code Interpreter, hanno un altro responsabile da esecuzione. MCP standardizza la connessione con i server degli strumenti; Include host, client e server e strumenti, risorse e prompts. Per server remoti viene utilizzato Streamable HTTP; stdio corrisponde alla fase locale. Il server remoto continua ad applicare i propri controlli.
Il contesto di diversi turni può essere gestito dal cliente o dal servizio. previous_response_id risposte di link; la compattazione riassume la storia. La memoria duratura dovrebbe essere associata al soggetto giusto e al progetto. Non cambia i pesi di LLM. The progetti hanno impostazioni di conservazione: non devi affermare che non viene memorizzato nulla quando scegli di conservare le conversazioni.
Autenticazione identifica il richiedente; autorizzazione limita le operazioni. IAM, la rete, la crittografia e le politiche dei dati sono completate. A privato endpoint non sostituisce IAM. The guarrails rilevano i rischi come contenuti difettosi, iniezione rapida o pII. il rilevamento e le informazioni non ammontano a un blocco. Controllare che ogni modalità si applica Documentazione del capitano.
Esempio guidato
Un dipendente richieste: "Query politica e aprire un biglietto per la mia squadra."
- E' dipendente dal suo dipendente e riacquista solo la sua politica.
- Il modello spiega la politica e propone uno strumento per creare il biglietto.
- L'applicazione valida attrezzature, identità, campi e autorizzazione di creazione.
- Attuazione di un'unica operazione; se si riprova, evitare di duplicare i biglietti con un identificatore di operazione.
- restituisce il numero reale e mantiene solo il contesto necessario per il monitoraggio.
Se un documento recuperato richiede "ignore autorizzazioni", non ottiene l'autorità come parte di RAG. Limita i passi, il tempo e la spesa. stop o scale se non si può confermare il risultato.
Errori comuni
- A stato che dichiara una funzione a JSON già esegue il suo codice.
- Per unire un progetto risorse con pesi modello.
- memoria Conservare da due utenti sotto lo stesso identificatore.
- Trattare "report" come se significasse bloccare una richiesta.
- Promette che RAG, rete privata o guarrails rimuovere tutti i rischi.
Esercizio di sicurezza
L'agente puo' avere i biglietti. A pagina recuperata ti chiede di chiudere tutti i biglietti dell'organizzazione. Hai abbastanza informazioni di lettura e formazione?
Soluzione
No. Leggere non consente di modificare e il contenuto di una pagina non dà autorizzazioni. L'applicazione dovrebbe rifiutare un'operazione di out-of-reach, controllare la sua identità e applicare la sua politica aziendale. Il modello può spiegare il limite e offrire una consultazione consentita. Dovrebbe anche evitare di salvare quell'istruzione come una memoria affidabile.
Fonti e recensioni
Query Costruire agenti IA e blocco OCI Enterprise AI da MyLearning. Per approfondire più tardi, continuare con il nostro guida per Agenic IA.