Sintesi
Come possono i dati dei clienti diventare contesto per un chatbot RAG?
L'esempio collega Oracle Autonomous Database 23ai, AI Vector Search e OCI Generative AI. Inizia con cliente, piano, contratto, fatturazione e soddisfazione tabelle. Le viste preparano il testo e i metadati; la procedura sp_elt_insert_into_docs divide il contenuto, genera embeddings e lo memorizza in DOCS per il recupero.
Si esaminano DBMS_VECTOR, DBMS_VECTOR_CHAIN, UTL_TO_CHUNKS e JSON_TABLE, insieme ai parametri di settore, caso e vista. Il percorso prepara policy di accesso, Autonomous e il suo wallet, API Key, VCN e un’istanza Windows di OCI Compute. Si installa poi il chatbot; NGINX è una configurazione facoltativa.
La demo confronta profili e casi selezionati per osservare le modifiche al contesto recuperato. Genera anche clienti di prova, aggiorna i loro embeddings e interroga le informazioni dalla chat. Alla fine si esaminano DOCS, metadati, viste e procedura in Autonomous.
Inizio
Il presentatore presenta un chatbot collegato a Oracle Autonomous Database 23ai con AI Vector Search. Il walkthrough combina la preparazione dei dati dei clienti, la generazione di embeddings e le domande RAG.
Caso d’uso e architettura per i dati dei clienti
L'architettura centralizza le informazioni dei clienti in Autonomous Database 23ai e utilizza OCI Generative AI per le embedding. La macchina virtuale A può ospitare il chatbot che interroga questo contenuto. I pacchetti DBMS_VECTOR e DBMS_VECTOR_CHAIN sono introdotti per i dati vettoriali, insieme all'accesso alla rete e a autorizzazioni per gli utenti di esempio.
Modello relazionale, visualizzazioni e metadati
Il modello inizia con il cliente, piano, contratto, fatturazione e sondaggio di soddisfazione tabelle. Le visualizzazioni combinano questi tabelle in un identificatore del cliente, testo di contesto e metadati. I metadati supporta i filtri di ricerca del recuperatore. La procedura A consuma quindi le viste per convertire il testo in embeddings e memorizzarlo in DOCS.
La procedura per la generazione e lo stoccaggio di embeddings
La procedura sp_elt_insert_into_docs e il suo inserimento in DOCS sono esaminati. La struttura contiene un identificatore, industria, caso, testo, embedding e metadati. I valori provengono da viste che condividono una struttura comune di identificatore del cliente, contenuto di testo e metadati. La tabella di destinazione include un campo vettoriale per memorizzare la rappresentazione del testo.
frammentazione del testo con UTL_TO_CHUNKS
UTL_TO_CHUNKS divide il testo di visualizzazione in blocchi utilizzando criteri configurabili come parole, dimensioni, sovrapposizione e tipo di divisione. JSON_TABLE poi converte il risultato in righe. Il passthrough identifica ogni identificatore a blocchi, posizione di partenza, lunghezza e contenuto, preparazione di input per la generazione di embeddings.
Generazione di embedding con OCI Generative AI
Il testo stracciato diventa embeddings attraverso OCI Generative AI, utilizzando le credenziali precedentemente preparate e un modello multilingue. JSON_TABLE converte i risultati in un identificatore, testo e struttura vettoriale per l'inserimento in DOCS. La query include una condizione che aggiunge valori non ancora presenti nella tabella di esempio.
Politica di accesso per OCI Generative AI
Le politiche di accesso richieste per OCI Generative AI sono esaminate. Il presentatore spiega che questi sono già configurati nell'ambiente prima di continuare con la creazione Autonomous e il resto dell'integrazione.
Creazione di Autonomous Database 23ai e passeggiata
Viene creato un database Autonomous utilizzando il carico di lavoro del magazzino dati e la versione di esempio 23ai. Il nome, la capacità e la password sono impostati, e provisioning è permesso di terminare. Il wallet viene poi scaricato, una password protegge il file ZIP e il file viene mantenuto per la connessione dell'applicazione.
Creazione della configurazione API Chiave e OCI
Un API Chiave è creato dal profilo utente per collegare l'applicazione a OCI. La configurazione chiave e generata viene salvata per preparare i file dell'ambiente in seguito. Il walkthrough collega queste credenziali con lo autorizzazioni dell'utente che esegue l'integrazione.
Creazione della rete cloud virtuale
La procedura guidata di creazione VCN viene introdotta con il nome configurabile e l'intervallo di rete. Il presentatore utilizza una rete esistente e valuta le porte di laboratorio: 3389 per Remote Desktop e 3002 per l'accesso all'applicazione. Questo prepara la rete selezionata per l'istanza di host chatbot.
Creazione di istanza OCI Compute
Un'istanza OCI Compute viene creata utilizzando una Windows immagine e la VCN preparata. Una volta fornito, il suo indirizzo IP viene utilizzato per l'accesso desktop remoto. La password generata viene modificata al primo login, e la macchina è pronta per l'installazione dei componenti dell'applicazione.
Configurazione opzionale NGINX e firewall
NGINX è introdotto come un passo opzionale per la pubblicazione del servizio di applicazione locale. Il server viene scaricato ed estratto, la sua configurazione viene sostituita con la configurazione dell'esempio e viene rivisto l'inoltro associato alla porta 3002. NGINX è quindi riavviato, e una regola firewall Windows è preparata per la porta dell'applicazione.
Installazione e configurazione del chatbot
Il progetto viene copiato, il wallet viene aggiunto e la configurazione OCI è preparata con il percorso chiave. Viene quindi installato Conda e vengono completate le variabili di connessione utente del wallet e dello sviluppo Autonomous. Anche il numero di clienti di test da generare è configurato.
Il processo di installazione crea l'ambiente e le dipendenze, prepara l'utente e autorizzazioni, credenziali vettoriali, caso tabelle, DOCS, visualizzazioni e la procedura di incorporazione. Poi elabora il contenuto, aggiunge un indice e rende il chatbot disponibile attraverso il suo indirizzo locale o il endpoint pubblicato configurato.
Demo RAG: profili, casi e domande dei clienti
La demo inizia con un cliente di prova e una domanda senza nessun caso selezionato; il chatbot non recupera alcuna informazione su quel cliente. Selezione di un caso fornisce un contesto per una risposta. Il profilo viene poi cambiato in Product Manager, che ha più casi nell'esempio, e una risposta utilizza le informazioni da diverse viste.
Generazione di nuovi clienti e aggiornamento di embeddings
Generate Data aggiunge un cliente di prova e inserisce i record nelle tabelle correlate. La procedura quindi converte il contenuto delle viste in embeddings. Il profilo e i casi vengono selezionati per interrogare il nuovo cliente e viene richiesto un elenco di clienti disponibili. Il test mostra nuove informazioni che raggiungono il contesto recuperato dal chatbot.
Revisione della tabella DOCS e vettori
Lo schema di sviluppo è aperto in Database Actions per query DOCS. Industria, caso, testo, metadati e embeddings sono esaminati in relazione a filtri e ricerche vettoriali. Viene quindi ispezionata una visione: contiene l'identificatore del cliente, i metadati e il testo contestuale prima della trasformazione degli embeddings eseguita dalla procedura.
Procedura dinamica per settore, caso e udito
La struttura della procedura è aperta e collegata alla query esaminata all'inizio del video. L'industria, il caso e i parametri della vista consentono di riutilizzare l'elaborazione su diverse fonti di esempio. La chiusura presenta questa preparazione come base per un chatbot collegato a Autonomous Database 23ai.
Risorse relativo
- AI Vector Search Chatbot - Codice e guida del progetto
- Oracle AI Vector Search - Ricerca di incorporazioni e somiglianze
- DBMS_VECTOR_CHAIN - Fragmentazione e generazione di embedding
- OCI Generative AI - Modelli e funzionalità
- LangChain - Integrazione Oracle AI Vector Search
- NGINX per Windows - configurazione opzionale