OCI Generative AI permite incorporar modelos gestionados a una aplicación. El servicio de inferencia, un modelo personalizado, la búsqueda vectorial y una consulta SQL tienen responsabilidades distintas.
Objetivos: reconocer Playground, modelos y endpoints; distinguir entrenamiento de hosting; relacionar AI Vector Search con RAG; y explicar cómo Select AI utiliza lenguaje natural sobre datos estructurados.
Conceptos clave
Un modelo de chat genera una respuesta; un modelo embedding convierte contenido en una representación numérica. Las familias, versiones, regiones y modalidades admitidas cambian: comprueba el catálogo disponible para el caso de uso. Los nombres antiguos que aparecen en una demostración no son una lista exhaustiva actual.
El Playground permite explorar prompts y parámetros sin empezar por código. Cuando una prueba es útil, la integras mediante la API y el SDK correspondiente. Una prueba en consola no despliega automáticamente la aplicación completa.
Ajusta parámetros de uno en uno. Temperature influye en la distribución de muestreo; top-p limita candidatos por probabilidad acumulada; top-k, cuando está disponible, por cantidad. El límite de salida restringe longitud, no exactitud. Un preámbulo orienta conducta sin reentrenar pesos.
Personalización y clusters dedicados
El servicio ofrece modelos preentrenados y opciones de personalización para modelos compatibles. En el flujo de fine-tuning presentado por el curso, preparas ejemplos, los guardas en Object Storage y usas cómputo de un Dedicated AI Cluster para entrenar. El resultado es un modelo personalizado; un recurso de hosting y un endpoint permiten servir inferencias.
No confundas el cluster de fine-tuning con el de hosting. Uno ajusta el modelo y el otro atiende solicitudes. Métodos eficientes como T-Few o LoRA actualizan una parte de parámetros entrenables; su disponibilidad depende de la familia. Verifica formatos, permisos, evaluación, capacidad y costos antes de reproducir el laboratorio. Los ejercicios de esta guía no necesitan provisionarlos.
AI Vector Search y Select AI
AI Vector Search almacena embeddings en columnas de tipo VECTOR junto con datos relacionales. Una función de distancia permite buscar similitud y combinarla con filtros de negocio. Los embeddings pueden generarse con un modelo ONNX compatible dentro de la base o mediante un servicio externo, según la configuración.
Select AI convierte preguntas en lenguaje natural en operaciones sobre datos estructurados mediante un perfil de IA, contexto de esquema y un LLM configurado. Puede devolver SQL, resultados o una narración según la acción. La consulta generada debe respetar los permisos y comprobarse; no es una búsqueda vectorial por definición.
Ejemplos: «Busca instrucciones parecidas a este fallo» apunta a recuperación semántica; «Suma las reparaciones de septiembre por sede» necesita una consulta y agregación correctas. Para redactar una respuesta con documentos, RAG añade la generación después de recuperar. El tipo VECTOR por sí solo no redacta ni autoriza acceso.
Ejemplo paso a paso
Un asistente debe explicar una política de reparación y consultar el número de órdenes abiertas.
- Prueba el formato de respuesta en Playground con una política ficticia y sin datos personales.
- Prepara documentos autorizados, fragmenta y genera embeddings compatibles con las consultas.
- Recupera el fragmento pertinente y cita la versión utilizada.
- Para contar órdenes, usa una consulta controlada o Select AI con tablas aprobadas; inspecciona SQL, filtros y resultados.
- Entrega ambos resultados al modelo de chat, distinguiendo política documental de cifra calculada.
- Evalúa preguntas ambiguas, fuentes ausentes y denegación de permisos antes de integrar la aplicación.
No uses fine-tuning para memorizar el número de órdenes: cambiará. Tampoco supongas que el proveedor del LLM recibe o conserva lo mismo en cualquier configuración; revisa el flujo de datos real.
Errores frecuentes
- Confundir Object Storage con el cómputo que entrena el modelo.
- Tratar un endpoint como el conjunto de datos de entrenamiento.
- Afirmar que Select AI conoce todas las tablas sin un contexto y permisos adecuados.
- Comparar vectores generados en espacios incompatibles.
- Interpretar la precisión objetivo de un índice aproximado como garantía exacta para cada consulta.
Ejercicio de diseño
Un usuario pide «¿Cuántas órdenes de mi sede están pendientes?» y luego «¿Qué dice la política sobre demoras?». ¿Qué dos rutas de datos necesita el asistente?
Solución
La primera necesita una consulta estructurada con filtro de sede y estado, ejecutada con autorización. La segunda necesita recuperar la política vigente y usarla como evidencia. Puedes combinar las dos en una respuesta, pero no sustituir un conteo exacto por similitud vectorial ni asumir que recuperar un documento otorga acceso a todas las órdenes.
Fuentes y repaso
Consulta OCI Generative AI, AI Vector Search y Select AI. El material usa tanto Oracle Database 23ai como Oracle AI Database 26ai; comprueba documentación y disponibilidad de tu versión.