Resumo
Como os dados do cliente podem se tornar contexto para um chatbot RAG?
O exemplo conecta Oracle Autonomous Database 23ai, AI Vector Search e OCI Generative AI. Começa com cliente, plano, contrato, faturamento e satisfação tabelas. Vistas preparam texto e metadados; O procedimento sp_elt_insert_into_docs divide o conteúdo, gera incorporações e armazena em DOCS para recuperação.
Revisam-se DBMS_VECTOR, DBMS_VECTOR_CHAIN, UTL_TO_CHUNKS e JSON_TABLE, além dos parâmetros de indústria, caso e vista. O percurso prepara políticas de acesso, Autonomous e seu wallet, uma API Key, VCN e uma instância Windows de OCI Compute. Depois, instala-se o chatbot; NGINX é apresentado como configuração opcional.
A demo compara perfis e casos selecionados para observar as mudanças no contexto recuperado. Também gera clientes de teste, atualiza seus embeddings e consulta as informações pelo chat. Ao final, revisam-se DOCS, metadados, vistas e procedimento em Autonomous.
Início
O apresentador apresenta um chatbot conectado a Oracle Autonomous Database 23ai com AI Vector Search. A caminhada combina preparação de dados do cliente, geração de incorporação e consultas RAG.
Caso de uso e arquitetura para dados de clientes
A arquitetura centraliza as informações dos clientes em Autonomous Database 23ai e usa OCI Generative AI para incorporação. A máquina virtual pode hospedar o chatbot que consulta este conteúdo. Os pacotes DBMS_VECTOR e DBMS_VECTOR_CHAIN são introduzidos para dados vetoriais, ao lado do acesso à rede e permissões para os usuários de exemplo.
Modelo relacional, visualizações e metadados.
O modelo começa com cliente, plano, contrato, faturamento e pesquisa de satisfação tabelas. Vistas combinam esses tabelas em um identificador de cliente, texto de contexto e metadados. Os metadados suportam filtros de busca. Um procedimento então consome as visualizações para converter texto em embeddings e armazená-lo em DOCS.
O procedimento para gerar e armazenar incorporações.
O procedimento sp_elt_insert_into_docs e sua inserção em DOCS são revisados. A estrutura contém um identificador, indústria, caso, texto, incorporação e metadados. Os valores vêm de visões compartilhando uma estrutura comum de identificador de cliente, conteúdo de texto e metadados. A tabela alvo inclui um campo vetorial para armazenar a representação de texto.
Fragmentação de texto com UTL_TO_CHUNKS
UTL_TO_CHUNKS divide texto de visualização em pedaços usando critérios configuráveis, como palavras, tamanho, sobreposição e tipo de divisão. JSON_TABLE converte o resultado em linhas. A trilha identifica cada identificador de blocos, posição inicial, comprimento e conteúdo, preparando a entrada para a geração de embeddings.
Geração de incorporação com OCI Generative AI
O texto em pedaços torna-se incorporado através de OCI Generative AI, usando credenciais previamente preparadas e um modelo multilingue. JSON_TABLE converte os resultados em um identificador, texto e estrutura vetorial para inserção em DOCS. A consulta inclui uma condição que adiciona valores ainda não presentes na tabela de exemplo.
Políticas de acesso para OCI Generative AI
As políticas de acesso necessárias para OCI Generative AI são revistas. O apresentador explica que estes já estão configurados no ambiente antes de continuar com a criação Autonomous e o resto da integração.
Criação de Autonomous Database 23ai e caminhada
Um banco de dados Autonomous é criado usando a carga de trabalho do data warehouse e o exemplo da versão 23ai. O nome, capacidade e senha estão definidos, e provisionamento está autorizado a terminar. A wallet é então baixada, uma senha protege o arquivo ZIP, e o arquivo é mantido para a conexão do aplicativo.
Criação de configurações API Chave e OCI
Um API Chave é criado a partir do perfil do usuário para conectar o aplicativo ao OCI. A chave e a configuração gerada são salvas para preparar os arquivos de ambiente mais tarde. A passagem conecta essas credenciais com o permissões do usuário executando a integração.
Criação da Rede de Nuvem Virtual
O assistente de criação VCN é introduzido com nome configurável e alcance de rede. O apresentador usa uma rede existente e revisa as portas de laboratório: 3389 para Remote Desktop e 3002 para acesso a aplicativos. Isso prepara a rede selecionada para a instância de host do chatbot.
Criação da instância OCI Compute
Uma instância OCI Compute é criada usando um Windows imagem e o VCN preparado. Uma vez fornecido, seu endereço IP é usado para acesso remoto ao desktop. A senha gerada é alterada no primeiro login, e a máquina está pronta para a instalação do componente de aplicação.
NGINX opcional e configuração de firewall
NGINX é introduzido como um passo opcional para publicar o serviço de aplicação local. O servidor é baixado e extraído, sua configuração é substituída pela configuração do exemplo, e o encaminhamento associado à porta 3002 é revisado. NGINX é reiniciado, e uma regra de firewall Windows está preparada para a porta da aplicação.
Instalação e configuração do chatbot
O projeto é copiado, a wallet é adicionada e a configuração OCI é preparada com o caminho da chave. Conda é então instalado, e Autonomous, wallet e desenvolvimento variáveis de conexão de usuário são concluídas. O número de clientes de teste a gerar também está configurado.
O processo de instalação cria o ambiente e dependências, prepara o usuário e permissões, credenciais vetoriais, caso tabelas, DOCS, visualizações e o procedimento de incorporação. Ele então processa conteúdo, adiciona um índice e torna o chatbot disponível através de seu endereço local ou do endpoint publicado configurado.
Demo RAG: perfis, casos e consultas de clientes
A demo começa com um cliente de teste e uma pergunta sem caso selecionado; O chatbot não recupera nenhuma informação sobre aquele cliente. Selecionar um caso fornece contexto para uma resposta. O perfil é então alterado para Product Manager, que tem mais casos no exemplo, e uma resposta usa informações de várias visões.
Geração de novos clientes e atualização de incorporações
Generate Data adiciona um cliente de teste e insere registros nas tabelas relacionadas. O procedimento converte conteúdo de visualização em embeddings. O perfil e os casos são selecionados para consultar o novo cliente, e uma lista de clientes disponíveis é solicitada. O teste mostra novas informações alcançando o contexto recuperado pelo chatbot.
Revisão da tabela DOCS e vetores
O esquema de desenvolvimento é aberto em Database Actions para consultar DOCS. Indústria, caso, texto, metadados e embeddings são revisados em relação a filtros e buscas vetoriais. Uma visão é então inspecionada: contém o identificador do cliente, metadados e texto de contexto antes da transformação de incorporação realizada pelo procedimento.
Procedimento dinâmico pela indústria, caso e audição.
A estrutura do procedimento é aberta e conectada à consulta revisada no início do vídeo. A indústria, os parâmetros de caso e visão permitem que o processamento seja reutilizado em diferentes fontes de exemplo. O fechamento apresenta esta preparação como base para um chatbot conectado a Autonomous Database 23ai.