Transcripciones
1. ACERCA DEL CURSO: En este video curso, aprende Lang chin
y sus conceptos. LangChn es un framework diseñado
para construir aplicaciones impulsadas
por grandes modelos de lenguaje Proporciona herramientas y
abstracciones para
facilitar la integración de
LLM en las aplicaciones, permitiendo tareas
como responder, generación de
texto, Rag,
chatbots En este curso, hemos cubierto las siguientes lecciones con ejemplos de
live running. Empecemos con
la primera lección.
2. LangChain: introducción, características y casos de uso: En esta lección,
aprenderemos qué es Lang chin. También discutiremos
las características así como sus casos de uso. Empecemos. Lang chain es un
framework diseñado para desarrollar aplicaciones impulsadas
por grandes modelos de lenguaje. Simplifica
todo el ciclo de vida de las aplicaciones
LLM
desde el desarrollo
hasta la implementación y monitoreo Es útil para construir aplicaciones conscientes del contexto y
basadas en el razonamiento. Puede integrar fácilmente
LLM en aplicaciones que permiten tareas como la generación de
texto, Rag, quotien answer y otras
. Al encadenar múltiples
modelos y procesos, ang chain permite al usuario
construir flujos de trabajo complejos Con eso, puede administrar fácilmente varios componentes de un
sistema EA usando la cadena Lang. Primero entendamos
¿qué interpreta Lang Chin? Significa Lang plus chain. Eso significa que los grandes
modelos de lenguaje para Lang así
como la cadena son para
combinar estos LLM, como encadenar estos Así que la cadena se construye
alrededor de LLM como Open Es,
GPT, HuggingPase modelos
, Con la cadena Lang, puede encadenar fácilmente
múltiples pasos o componentes como recuperar datos
de una base de datos o almacén de
documentos, procesar estos datos para
generar incrustaciones. También puede generar
respuestas usando un LLM interactuar con
API y bases Aquí están las características
de la cadena Lang. Se puede
integrar fácilmente con LLM. Proporciona una interfaz unificada para interactuar con
diferentes modelos. Crear cadenas de operaciones
en las que
se agregue la salida de un paso como entrada
al siguiente paso. Por ejemplo, una cadena que recupera documentos relevantes
y responde usando un LLM La cadena Lang también soporta memoria. Como su nombre indica, la
memoria se utiliza para almacenar y recuperar el contexto a
través de las interacciones. A través de esto,
puede crear fácilmente booards de
chat o
aplicaciones que requieran contexto de
interacciones anteriores, como la memoria Lang chin también
proporciona herramientas para indexar así como para
recuperar documentos Entonces estarías
conociendo de Rag, así que Rag es recuperación de generación
aumentada Lang chin también ayuda en la
construcción de sistemas de trapo, como un vector almacenado para recuperar documentos
relean para una
consulta Lang chin también soporta agentes que son sistemas que utilizan LLM para decidir qué acciones
tomar y en Como un agente para
facilitar el trabajo de ventas, un agente que puede interactuar con API
externas o bases de datos. LangChn también proporciona herramientas para
indicaciones para que pueda administrar y
optimizar
fácilmente las Lang chin es modular que
permite a los desarrolladores mezclar y combinar componentes para que se puedan construir fácilmente flujos de trabajo
personalizados. Veamos ahora los
casos de uso de Lang chin. Si quieres construir un sistema de respuesta
de cociente, puedes
lograrlo fácilmente con Lang chin Esto recuperará
información relevante y
generará respuestas. Crea fácilmente agentes
conversacionales que mantienen el contexto a través de
las interacciones como un booard de chat Implementa Rag también con cadena
Lang para que puedas obtener texto que sea más preciso y
basado en tus propios documentos También puedes resumir textos, resumir
fácilmente documentos largos o artículos con Lang chin, construir
fácilmente herramientas para que se puedan generar
citas Con eso, cree fácilmente asistente virtual
personal
para tareas como programar, recuperar información,
redactar un correo electrónico y otras Entonces en esta lección, vimos lo que es Lang chin, sus características. También vimos los casos de uso. Gracias por
ver el video.
3. Qué es el encadenamiento en LangChain: En esta lección,
entenderemos qué es el encadenamiento en lang chin Ya vimos cómo interpretar lang chin
como lang plus chain. Entonces veamos qué es la cadena. Lang chain es un proceso para combinar múltiples
componentes o pasos en una secuencia para que
puedas cumplir una tarea específica. El encadenamiento es importante para
que puedas mezclar y combinar componentes para facilitar el trabajo
de crear flujos de trabajo personalizados, construir
fácilmente sistemas
que usen el contexto de pasos
anteriores
como el historial de chat Con eso,
también puedes
descomponer fácilmente las tareas difíciles en pasos más pequeños y
fáciles con el encadenamiento Aquí hay un ejemplo rápido de
encadenamiento en cadena lang. Vamos a
construir un trapo que es recuperación sistema de
generación aumentada En esto, ¿cuál es el primer
paso que se recupera? Puede usar un recuperador para
obtener documentos relevantes. Entonces el generar pasan los documentos relevantes y
un cociente que es un prompt, pidió a un LLM que
genere una respuesta ¿Y cuál será la salida? La respuesta será
devuelta al usuario. Entonces, la secuencia de
pasos que vimos es una cadena que combina recuperación y generación en un
solo flujo de trabajo. Entonces este es el
concepto de encadenamiento. El encadenamiento es como vincular
múltiples componentes para crear una secuencia de
operaciones como los recuperadores de
documentos Entonces, chicos, vimos lo que está
encadenando en cadena Lang. Gracias por
ver el video.
4. Componentes/módulos de LangChain: En esta lección,
entenderemos cuáles son los componentes
del lang chin. También considerarlos como los
módulos de lang chin. Veamos para construir flujos de trabajo
complejos, incluyendo LLM, Lang chin ha
proporcionado algunos componentes Déjanos verlas. El
primero es el preprocesamiento Como su nombre indica, prepara sus
datos sin procesar como sus documentos para que pueda usarlos
en flujos de trabajo ang chin. También incluye la tarea de
dividir texto en trozos, limpiar los datos y
generar incrustaciones Luego vienen tus modelos. Estos son tus LLM, es
decir, modelos de lenguaje grande o
incluso los modelos de incrustación. Debes haber oído hablar de GPT, también abrazando
modelos de cara con
eso, también incluye tus modelos
personalizados afinados Luego viene el componente
prompts. Estas son sus consultas
sobre instrucciones o considerarlas como la entrada, cual se le da al LLM
para generar respuestas. Estas son las indicaciones que
escribes en Chat GBT. Puede ser estático o
generado dinámicamente en función del
contexto o la entrada del usuario. Luego viene la memoria. Como
su nombre indica, almacena y recupera
como tu historial de chat También permite que las aplicaciones
mantengan la continuidad
y la conciencia del contexto. El cambio, como comentamos anteriormente, es combinar múltiples componentes en
una secuencia de pasos. La idea es
pasar la salida de un componente como
entrada al siguiente, formando un flujo de trabajo estructurado. A través de esto, puede trabajar
fácilmente alrededor flujos de trabajo
complejos como respuesta diaria, generación de
texto,
resumen, etcétera Índices, estas son las herramientas para organizar y
recuperar datos de manera eficiente puede relacionarlo con una definición
laica de índices, por eso usamos índices para que podamos recuperar
los datos rápidamente En esto también,
puede habilitar fácilmente recuperación
rápida de información
relevante. Agentes, estos son
los sistemas que utilizan LLM para decidir acciones e interactuar con
herramientas externas o APIs Con esto, puede realizar
tareas como llamar a API, cola a la
base de datos y otras. Entonces, chicos, vimos cuáles son los
componentes de la cadena Lang. En las próximas lecciones, las discutiremos una por una, y después de eso, veremos un ejemplo de ejecución en vivo
de la cadena Lang.
5. Componente de preprocesamiento de LangChain: En esta lección,
entenderemos el primer componente del ang chin, es
decir, el preprocesamiento.
Veamos. Como su nombre indica, el proceso Lang chin comienza con cargadores de documentos
y divisores de texto Esto puede incluir documentos PDF. La carga y
preprocesamiento de datos es
lo que incluye el
componente de preprocesamiento Después de esto, la salida se pasa a otros componentes como
modelo, índices y cadenas. Generalmente, bajo los componentes
ang chin, este componente de cargadores de
documentos y divisores de texto no
están incluidos, pero esto sigue siendo
una parte esencial
del ecosistema Lang chin Esto facilita su trabajo
en la construcción de flujos de trabajo. Entonces por qué deberíamos comenzar con
el paso de cargador de documentos y divisor de
texto para que este sea el paso de ingestión de datos incluye el punto de entrada para traer sus
datos externos al sistema El papel de los divisores de texto es asegurar que tus datos estén en el formato
correcto para que puedan ser procesados fácilmente
por el modelo, ya sea LLM
o modelo de boda Cuando divide el
documento en trozos, permite un
procesamiento paralelo y
una recuperación eficiente Con eso, también se puede
lograr escalabilidad. Dividir los datos le permite
manejar grandes conjuntos de datos. Chicos, vimos cuál es el componente de pre procesamiento
de la cadena Lang.
6. Componente de modelos de LangChain: En esta lección,
entenderemos cuál es el componente de modelos de la cadena
Lang. Vamos a ver. Los modelos, como su nombre indica, se refieren a sus LLM, es
decir, modelos de lenguaje grande También puede incluir
sus modelos de incrustación. Estos modelos son realmente
responsables de administrar, comprender, generar
y transformar texto a partir de la
entrada recibida. Veamos los tipos que los modelos en Lang chin pueden incluir LLM, y también puede incluir
los modelos de incrustación. Algunos de los ejemplos de LLM son los modelos GPT,
metas, modelos Lama Son los cerebros de las aplicaciones de la cadena
lang para que puedas realizar
generación de
texto, resumir texto, traducción, problemas y otros Tiene la capacidad de
generar texto similar al humano. También puede responder iones, resumir el contenido y
realizar otras operaciones Luego vienen tus modelos de
incrustación. Esto se utiliza para
convertir su texto en representaciones
numéricas.
Eso son incrustaciones Esto se utiliza para tareas
como la evaluación documentada, clústeres para que pueda habilitar
fácilmente a los sistemas para encontrar información relevante
a un ritmo rápido Ahora veamos por qué son importantes estos
modelos. En realidad proporcionan
la inteligencia y son el cerebro detrás de las aplicaciones de barbilla
Lang. Para que esa tarea como
crear contenido, resumir texto, quien responda se
pueda lograr fácilmente Al combinar tanto el LLM como sus modelos de
incrustación, cadena
Lang se puede utilizar para
construir sistemas potentes Entonces, chicos, ¿vimos cuál es el componente de los modelos
en la cadena Lang?
7. Componente de instrucciones de LangChain: En esta lección,
entenderemos cuál es el componente prompts de
lang chain. Veamos. Entonces, las indicaciones son básicamente
las consultas de entrada, instrucciones o contexto
que proporciona al LLM Siempre que escribas un prompt
en Chat GPT o copiloto, así que esto es lo que
llamamos un Esto básicamente actúa como un puente entre el
usuario y el LLM, y en realidad permite que el modelo interprete y responda
a una tarea específica ¿Cuál es el papel de los
prompts en Lang chin? Todos sabemos lo que es un prompt. Obtuvimos muchas respuestas al
escribir indicaciones en copiloto,
Claude AI, chat, GPT, Gemini y muchos otros Pero, ¿cuál es el papel de los
prompts en Lang chin? En realidad, guía al
LLM mientras responde una pregunta o mientras
resume un texto Estas indicaciones también pueden incluir un contexto adicional,
como el historial de chat, recuperar documentos y otros para que se pueda
anunciar la relevancia y hacer la respuesta de los
LLM sea más precisa Con eso,
también puedes personalizar tus indicaciones de acuerdo a tareas o dominios
específicos Esto los hace altamente flexibles. Entonces, ¿por qué las indicaciones son
importantes en la cadena lang?, realidad determinan cómo el LLM interpreta y
responde a Esto ayuda a lograr resultados
más precisos y
relevantes. Si los proms están bien diseñados, pueden mejorar significativamente el rendimiento de las aplicaciones de la
cadena lang Las indicaciones bien diseñadas ayudan en flujos de trabajo
complejos como Rag, tableros de
chat u otros Entonces, chicos, vimos
lo que son los prompts y el papel del
componente prompts en la cadena lang
8. Componente de memoria de LangChain: En esta lección,
entenderemos el componente de memoria de
lang gin. Veamos. Como su nombre indica,
la memoria se refiere a la capacidad de almacenar y
recuperar contexto a través de interacciones. Por lo que el sistema recuerda entradas,
salidas u otra información
relevante
anteriores ,
salidas u otra información
relevante Entonces hay dos
tipos de memoria, corto plazo y a largo plazo. Como su nombre indica,
si el contexto se almacena durante la duración de una sola interacción o sesión, se le llama memoria a corto plazo, como recordar solo
el cociente previo de un usuario en un chatbot, para que el flujo de
la conversación se Luego viene tu memoria a
largo plazo. Almacena contexto o datos a través de múltiples sesiones
o interacciones, como guardar los
datos históricos de lo que un usuario ingresa en un chatbot para que se puedan generar
respuestas personalizadas Esto también ayuda a
guardar las preferencias del usuario. ¿Por qué es importante la memoria? Permite fácilmente múltiples
interacciones para que el sistema pueda hacer referencia a entradas o salidas
anteriores. Esto fácil es el trabajo en brindar respuestas más relevantes
y precisas. Si estás construyendo agentes
conversacionales, asistente virtual
personal, entonces la memoria es realmente importante Entonces, chicos, vimos cuál es el componente
de memoria de lang chin. También vimos los tipos.
9. Componente de cadenas de LangChain: En esta lección,
entenderemos el componente
de cadenas de la cadena lang. Entonces estas son secuencia
de operaciones o pasos que combinan
múltiples componentes. Esto es como pasar
la salida de un componente como
entrada al siguiente, que se forme un
flujo de trabajo estructurado. Aquí están los dos tipos de
cadenas simples y complejas. Cuando cada chip se ejecuta
uno tras otro, se llama cadena simple. Esto es como una secuencia lineal. Por ejemplo, una cadena
que recupera documentos y luego
genera un resumen Luego vienen tus complejas cadenas. Estos no son lineales y
pueden incluir ramificación, lazo o toma de decisiones Por ejemplo, una cadena que
recupera documentos. También evalúo la relevancia
y genera una respuesta. Por qué las cadenas son importantes. Proporcionan una forma estructurada organizar flujos de trabajo complejos. A través de esta función,
puede
crear fácilmente aplicaciones complejas. También permiten la modularidad y reutilización para que
los desarrolladores puedan mezclar y combinar componentes
para diferentes casos de uso Entonces, chicos, vimos cuál es el componente
de cadena de Lang chin. Gracias por
ver el video.
10. Componente de índices de LangChain: En esta lección,
entenderemos cuáles son los índices componentes de la cadena
ang. Veamos. Si desea almacenar
datos de una manera que permita una recuperación eficiente y
rápida de los datos, entonces use los índices. De manera similar, los índices en cadena
Lang son herramientas
para organizar y almacenar datos que permiten
una recuperación y búsqueda eficientes. Facilitan la búsqueda rápida de información
relevante y actúan como un repositorio estructurado para
documentos e incrustaciones Aquí están los dos tipos de
índices, vector y documento. Los índices vectoriales almacenan representaciones
numéricas. Eso son incrustaciones de texto. Para permitir la búsqueda semántica y la recuperación basada en
similitud, como una biblioteca, FAI duplica para una
búsqueda eficiente de similitud de vectores densos El segundo tipo es documento. Almacena documentos en bruto
o tanques de texto, como una base de datos de archivos PDF o artículos indexados por
título ¿Por qué son importantes los índices? Para tareas basadas en la recuperación, estos son realmente
importantes y permiten que
los sistemas encuentren y
utilicen rápidamente información relevante. Estos son importantes para construir aplicaciones eficientes
que sean escalables. Si se trata de
conjuntos de datos grandes o consultas complejas, entonces el
componente de índice realmente ayuda. Chicos, vimos cuáles son los componentes de
índice de la cadena ang. También vimos los
tipos de índices.
11. Componente de agentes de LangChain: En esta lección,
entenderemos el componente de agentes de la cadena
lang. Veamos. Los agentes son
sistemas impulsados por IA que utilizan LLM para decidir qué
acciones tomar Actúan como tomadores de
decisiones inteligentes que
interactúan dinámicamente con herramientas, API o fuentes de datos
para lograr un objetivo Aquí están los dos
tipos de agentes, acción
única y acción
múltiple. El agente de acción única realiza una tarea o
acción específica basada en la entrada, como un agente que recupera datos
meteorológicos de un APA El segundo es multi acción usando los agentes multi acción, realizar
fácilmente una
secuencia de acciones, iterativamente para resolver problemas
complejos Como un agente que planea un viaje. Entonces, ¿cuáles son las cosas que
se requieren para planificar un viaje? Al igual que un agente se utiliza para
reservar vuelos, hoteles, e incluso el transporte
¿por qué son importantes los agentes? Son importantes porque habilita el
comportamiento
autónomo e inteligente. Esto permite que el sistema maneje tareas
complejas de varios pasos sin ningún tipo de
flujos de trabajo predefinidos e independientemente. Si estás construyendo aplicaciones
que requieren razonamiento, planificación o interacción
con sistemas externos, entonces los agentes son bastante útiles. Entonces chicos, vimos lo que son los
agentes en Lang Chin. También vimos los tipos. Gracias por
ver el video.
12. LangChain con RAG - Proceso: En esta lección, veremos el proceso de ang
chain con RAG Discutiremos
paso a paso
cómo se implementa la cadena Lang con RAG. Empecemos. Acabamos de ver la
cadena Lang con flujo de trabajo RAG. Simplemente usaremos lo mismo para implementar
la cadena
Lang con RAG Primero fueron los cargadores de documentos. Estos fueron los
encargados de cargar datos de diversas
fuentes externas como subir un PDF o múltiples archivos
PDF, bases de datos y Entonces, para ese código interno, usaremos el cargador Pi PDF
para cargar documentos PDF. Luego vienen tus divisores de texto. En esto, desglosamos los documentos grandes en trozos más pequeños para que
puedan ser procesados por LLM Para ello, hemos utilizado el divisor de texto
recursivo para dividir documentos en
trozos. Luego vienen los modelos. Estos son los modelos LLM
o modelos de incrustación. Para eso, hemos utilizado la
clase de incrustaciones de fase de abrazo para el modelo de incrustación Esto se utiliza para configurar
el modelo de incrustación. En nuestro caso, hemos utilizado
los transformadores de oraciones. Para LLM, hemos utilizado la clase de tubería de fase abrazadora para que podamos
configurar el LLM local En este caso, hemos
utilizado lo siguiente. Luego viene su mensaje esta es la entrada querer prompts utilizados para interactuar con el LLM
que ya discutimos Para eso, hemos creado una función personalizada
responder subrayado qui que tome una pregunta como
entrada y actúe como el
baile de graduación para el Qahin Entonces viene tu memoria. Esto es para almacenar
datos intermedios o contexto. En esta implementación, no
hemos utilizado memoria, pero el
almacén de subrayado vectorial y los trozos de
subrayado del documento pueden considerarse como parte Cadenas, este es un componente que se refiere a la
secuencia de operaciones. La Qchain de recuperación se utiliza en nuestro código para combinar el
recuperador y el LLM Índices, la historia
vectorial de dobles FAI se utiliza para
indexar los trozos del documento Esto ayuda en la indexación de documentos para
una recuperación eficiente Agentes, este componente se refiere a la entidad de toma de decisiones que interactúa con el sistema En nuestro código, hemos utilizado
la clase de sistema RAC local que actúa como
agente de alto nivel, planificando nuestro flujo Entonces, chicos, vimos el proceso. Ahora en la última lección, veremos el
ejemplo de codificación y ejecutaremos una cadena Lang con
sistema Rack en Google Colab
13. LangChain con RAG: ejemplo final de codificación: En esta lección, veremos
el ejemplo final de codificación para implementar la
cadena Lang con Rag Veremos el código y también entenderemos los pasos en forma
de fragmentos de código Y al final,
también ejecutaremos el código. Subiremos
más de un PDF y lo
resumiremos usando
nuestra cadena Lang con sistema Rag. Empecemos. Entonces aquí está nuestro Google Colab, creamos un nuevo cuaderno
y aquí está nuestro código Entonces entendamos el código. Primero, instalaremos
los paquetes necesarios. Espero que sepan que
en Google Collab, utilizamos el siguiente comando para instalar cualquier biblioteca o paquete del índice de paquetes
Python Aquí estamos instalando
los paquetes necesarios
como transformadores de oración
anhain El código entonces importa varios
módulos y clases de estos paquetes como aquí, Bien. Los módulos importados permiten funcionalidades
como división de texto, carga de
documentos, incrustación
y modelo de lenguaje Ahora vamos a configurar el registro
aquí en el paso dos. Este código se utiliza para configurar el módulo de registro en Python. La primera línea aquí establece la configuración básica
para el módulo de registro. La siguiente línea crea
una instancia de registrador. El registrador G devuelve
una instancia de registrador. Aquí, la siguiente
es una variable
Python incorporada que contiene el nombre del módulo actual. En la primera línea, esta función se utiliza para configurar
el módulo de registro. A continuación se establece el nivel de
registro en info. Esto significa que se
procesarán todos los
mensajes de registro con un nivel de información o superior. Ahora vamos a crear una clase que represente un sistema local de Rag Inicialicemos ahora objeto
del sistema Rag local usando en Aquí los documentos,
considérelo como una lista para almacenar
los documentos cargados. Vector Underscore store almacena
los documentos incrustados. Ahora subiremos PDF de
la máquina local a collab. Para ello se utiliza la siguiente función archivos de carga de
puntos. Los nombres de los archivos cargados
se registran y se devuelven. Cualquier excepción durante la carga se captura, registra y borra Bien, el método es parte de una clase y usa un
registrador para registrar mensajes. Devuelve una lista que es una
lista de rutas PDF subidas. Luego viene su función de documentos de
subrayado de carga. Esto cargará y analizará
los documentos PDF. Define un método de carga de
subrayado de documentos para cargar y pasar documentos PDF
desde rutas de archivo dadas Lo siguiente Irades a través cada ruta de archivo PDF
intenta cargar el documento usando Pi PDF loader y agrega las páginas cargadas a la lista de documentos de
autopunto Cualquier excepción durante la
carga se captura registrada y el método
continúa con el siguiente archivo. el número de páginas cargadas para registra el número de páginas cargadas para
cada archivo y el
número total de páginas. El método actualiza la lista de documentos
autopuntados con las páginas de documentos cargados. Ahora el siguiente paso para dividir
documentos en trozos. Este método dividirá los documentos
cargados en fragmentos usando un divisor de texto
corregido recursivo El divisor divide los
documentos en trozos, que se almacenan en fragmentos de subrayado de
documentos con puntos propios Eso es aquí. Toma parámetros opcionales, tamaño de guión bajo de
fragmento y superposición de guiones bajos de fragmentos El valor predeterminado es 1,000 y un
valor predeterminado para esto es 200. Se registra el número de trozos
creados. Siguiente paso, configurar
el modelo de incrustación. Este código configura el modelo de incrustación utilizando transformadores de cara de
abrazo Se necesita un modelo opcional, parámetro de nombre de
subrayado. El modelo elegido
se utiliza para crear una instancia de
incrustaciones de caras de abrazo Se registra el proceso de configuración,
incluido el nombre del modelo. Cualquier excepción durante la configuración
se captura y se vuelve a poner en marcha. Después el siguiente paso
en el siguiente paso, crearemos un almacén vectorial
a partir de los fragmentos de documentos Este código crea un almacén vectorial a partir de fragmentos de documentos usando el FAI Ws utiliza el modelo de incrustación previamente
configurado para generar vectores a partir de los fragmentos de documento,
fs punto
del método
Underscore
Documents crea el almacén de a partir de fragmentos de documentos usando
el FAI Ws utiliza
el modelo de incrustación previamente
configurado
para generar vectores a partir de los fragmentos de documento,
fs punto
del método
Underscore
Documents crea el almacén de vectores. El proceso de creación
se registra y cualquier excepción se
registra por cat y se vuelve a poner en marcha. En el siguiente paso,
configuraremos un LLM local
usando Hugging Este código establece un modelo local de lenguaje grande usando transformadores de cara de abrazo Carga un modelo preentrenado y tokenizer usando el ID de subrayado del
modelo especificado una canalización
de
generación de texto a texto crea una canalización
de
generación de texto a texto con el
modelo cargado y el tokenizador La tubería se envuelve en una instancia de
tubería de fase de abrazamiento y se almacena en LLM de punto automático El proceso de configuración se
registra en cualquier excepción, el proceso de configuración se registra y cualquier excepción se captura,
registra y vuelve a poner en marcha. Ahora vamos a crear un Qchin
usando la tienda de vectores y LM. Este código establece un QA que es una cadena de respuesta de cociente usando el almacén de vectores y Crea una instancia Q
de recuperación con el elemento especificado y el almacén de
vectores como recuperador. El recuperador está configurado
para devolver los primeros K resultados. El proceso de configuración de Qin está
bloqueado con el valor de K. Cualquier excepción durante la configuración
se bloquea y vuelve a subir. Ahora vamos a responder una pregunta
usando el sistema AC. El siguiente código define un método para responder a un
usando un sistema de CA. Toma un cociente
como entrada y utiliza la cadena de subrayado de QA
para generar una respuesta,
el cociente y la respuesta se
registran con fines de seguimiento La respuesta es devuelta
por el método. Cualquier excepción durante
el proceso de respuesta se captura, registra y vuelve a poner en marcha. Ahora vamos a ejecutar el proceso de configuración
completo. Bien. Este código
define un método, ejecutar la configuración de guiones bajos para ejecutar el
proceso de configuración completo para un sistema RAG Llama a varios métodos en
secuencia para cargar archivos PDF, cargar documentos, dividir documentos, configurar incrustaciones,
crear un almacén de vectores, configurar un LLM local y configurar Este método toma parámetros
opcionales para personalizar el proceso de configuración. Se registra la finalización del proceso de
configuración. Cualquier excepción durante la configuración se captura, registra y vuelve a poner en marcha. Ahora bien, aquí está el ejemplo de uso. Esto crea una instancia
del sistema Rag local y
ejecuta su proceso de configuración El proceso de configuración
configura el sistema con parámetros
específicos como tamaño del
fragmento y el modelo de idioma Después de la configuración, el
código hace dos preguntas. El primero está aquí
y el segundo está aquí e imprime la respuesta. Las preguntas demuestran
la capacidad del sistema para comprender el tema principal y resumir puntos clave
a partir de los documentos Las respuestas se
generan con éxito utilizando el sistema Rag Entonces aquí lo que voy a hacer. Voy a ejecutar el código completo. También puede seleccionar
tiempo de ejecución desde aquí, seleccionar cambiar tipo de tiempo de ejecución y seleccionar T para
GPU y hacer clic en Guardar. Ahora lo ejecutaré. Vamos a esperar. Ahora aquí, subamos los documentos.
Haga clic en Elegir archivos. Entonces digamos que subiré en medio de muestra punto PDF y certificación
Python. Voy a hacer clic en Abrir. Ahora hemos
subido dos documentos. Ahora extraerá el resultado. Está mostrando
los temas principales, así
como resumió los puntos clave de
los documentos. Entonces en estos chicos, podemos
trabajar con Lang Chin. Vimos a Lang chin con ejemplo de
Rag.
Gracias por ver.