OCI Generative AI permette di incorporare modelli gestiti in un'applicazione. Servizio di inferenza, un modello personalizzato, ricerca vettoriale e una consultazione SQL hanno diverse responsabilità.
Obiettivi: Riconoscere Playground, modelli e endpoint; Per distinguere la formazione dall'hosting; collegare AI Vector Search con RAG; e spiegare come Select AI utilizza il linguaggio naturale sui dati strutturati.
Concetti Chiave
Modello A di chat genera una risposta. un modello embedding trasforma il contenuto in una rappresentazione numerica. Le famiglie, le versioni, le regioni e le modalità ammesse cambiano: controlla il catalogo disponibile per l'uso. I vecchi nomi che appaiono in una dimostrazione non sono una lista esaustiva oggi.
The Parco giochi consente di esplorare prompts e parametri senza iniziare con il codice. Quando un test è utile, lo si integra con lo API e il corrispondente SDK. Il test della console A non visualizza automaticamente l'applicazione completa.
Riforme una alla volta. Temperatura influenza la distribuzione del campionamento; top-p limita i candidati con probabilità accumulata; top-kQuando disponibile, per quantità. Il limite di uscita limita la lunghezza e non limita accuratezza. Le guide preambolo A conducono senza re-training pesos.
Personalizzazione e cluster dedicati
Il servizio offre modelli pre-formati e opzioni di personalizzazione per i modelli supportati. Nel flusso di perfezionamento presentato dal corso, si preparano esempi, la Object Storage conserva e utilizza calcolo da un Dedicated AI Cluster Per allenarsi. Il risultato è un modello personalizzato. L'hosting A risorsa e un endpoint servono inferenze.
Non confondere il suo Ammasso di perfezionamento con hosting. Si regola il modello e l'altro assiste richieste. Metodi efficienti come T-Few o LoRA aggiornano una parte dei parametri responsabili. la loro disponibilità dipende dalla famiglia. Controllare i formati, autorizzazioni, valutare, capacità e costi prima di eseguire lo lab. Gli esercizi di questa guida non richiedono che vengano messi in atto.
AI Vector Search e Select AI
AI Vector Search embeddings archiviazione in colonne di tipo VECTOR con dati relativi. La funzione di distanza A consente di cercare somiglianze e di combinarle con i filtri aziendali. Gli embedding possono essere generati con un modello ONNX supportato all'interno della base o con un servizio esterno come impostato.
Select AI converte le domande in linguaggio naturale in operazioni su dati strutturati utilizzando un profilo IA, un contesto di schema e un set up LLM. Può restituire SQL, risultati o una narrazione come azione. La consultazione generata dovrebbe rispettare autorizzazioni ed essere controllata. Non e' una ricerca vettoriale per definizione.
Esempi: "Ricerca istruzioni simili a questo malfunzionamento" indica recupero semantico "Aggiungi le riparazioni di settembre da sede" ha bisogno di una corretta consultazione e aggregazione. Per scrivere una risposta con i documenti, RAG aggiunge la generazione dopo il recupero. Il tipo. VECTOR di per sé non scrive o permette l'accesso.
Esempio guidato
A assistente dovrebbe spiegare una politica di riparazione e dare un'occhiata al numero di ordini aperti.
- Testare il formato di risposta in Playground con una politica fittizia e senza dati personali.
- Preparare documenti, frammenti e generare embeddings compatibili con le consultazioni.
- Riforma il relativo frammento e cita la versione utilizzata.
- Per contare gli ordini, utilizzare una consultazione controllata o Select AI con tabelle approvato ispezionare SQL, filtri e risultati.
- Fornisce entrambi i risultati al modello di chat, distinguendo la politica documentaria con figura computerizzata.
- Valuta le domande ambigue, le fonti assenti e la negazione di autorizzazioni prima di integrare l'applicazione.
Non usare il fine-tuning per memorizzare il numero di comandi: cambierà. Inoltre non presumere che il provider LLM riceve o mantiene lo stesso in qualsiasi configurazione. Controllare il flusso di dati effettivo.
Errori comuni
- Per unire Object Storage con la calcolo che forma il modello.
- Trattare un endpoint come dataset di formazione.
- Per dire che Select AI conosce tutti tabelle senza un contesto adeguato e autorizzazioni.
- Confronta i vettori generati in spazi incompatibili.
- Per interpretare l'obiettivo accuratezza di un indice approssimativo come garanzia esatta per ogni consultazione.
Esercizio di progettazione
L'utente A chiede "Quanti ordini dal mio quartier generale sono eccezionali?" e poi "Cosa dice la politica sui ritardi?" Quali due percorsi di dati richiedono assistente?
Soluzione
Il primo richiede la consultazione strutturata con filtro centrale e stato, eseguito con autorizzazione. La secondo ha bisogno di tornare e utilizzare la politica attuale come prova. I due possono essere combinati con una risposta, ma non è possibile sostituire un conteggio esatto con somiglianza vettoriale o presumere che il recupero di un documento dà accesso a tutti gli ordini.
Fonti e recensioni
Query OCI Generative AI, AI Vector Search y Select AI. Il materiale utilizza sia Oracle Database 23ai che Oracle AI Database 26ai. controllare la documentazione e la disponibilità della vostra versione.