Transcripciones
1. Acerca del curso: En este video curso, aprende Olama y sus conceptos Oma es una plataforma de código abierto
para descargar, instalar, administrar, ejecutar e implementar modelos de lenguaje
grande. Todo esto se puede hacer
localmente con Olama. Los LLM populares
como Lama by Meta,
Mistral, Gemma de
Google DeepMind,
F de Microsoft, Quin de
Alibaba Cloud pueden ejecutarse localmente Alibaba Cloud pueden LLM significa modelos de
lenguaje grande. Estos modelos están diseñados
para entender generar e interpretar el lenguaje humano
a un alto nivel. Estos están capacitados en
vastos conjuntos de datos y pueden realizar tareas como la generación de
texto, resumen, la traducción
y la respuesta a preguntas Aquí, el modelo LLM está procesando un
prompt de entrada y generando una respuesta como un prompt
es escrito en el chat En este curso, hemos cubierto las siguientes lecciones con ejemplos de
live running. También hemos mostrado cómo crear un GPT personalizado que sea un modelo GPT de chat en
forma de asistente Empecemos con
la primera lección.
2. Ollama: introducción y características: En esta lección
aprenderemos ¿qué es Oma? Es introducción y
características. A ver. Entonces lama es básicamente una plataforma de código abierto que
permite a un usuario descargar, instalar, ejecutar e implementar modelos de lenguaje
grande, y todo esto se puede hacer
en su sistema local Entonces te estarías
preguntando qué son los LLM. Entonces LLM significa modelos de lenguaje
grande. Se trata de modelos que
básicamente están diseñados para entender generar así
como interpretar lenguajes humanos. Bien. Por lo que incluye
miles de millones de parámetros. Entonces debes haber oído
hablar de modelos LLM como Lama,
Phi, Gemma, Mistral con Entonces, cuando los parámetros aumentan, el rendimiento del
modelo también mejora. Bien, normalmente contiene
miles de millones de parámetros, lo que les permite captar patrones de lenguaje
complejos y generar texto. Bien, entonces actualmente, tenemos Lama 3.2 mistrl siete B, Bien, estos modelos están entrenados en vastos conjuntos de datos como
artículos de Internet,
libros, así como
a través Y estos modelos LLM, cuando les haces una pregunta
en el momento
oportuno, genera una respuesta Bien, entonces LLM procesa la información y genera
un nuevo contenido para ti, razón por la
que la
llamamos IA generativa Bien, puedo realizar tareas como contestar preguntas,
traducción, resúmenes. Bien, puede generar
texto para ti. Puedes escribir un artículo,
blogs, un correo electrónico desde él. Bien. Puedes ejecutar estos
LLM usando Olama Estas son las características de Olama. Consiste en una biblioteca de modelos
preconstruida que incluye tu ama por meta, Mistral por MtoAI, tu Phi LLM de Microsoft
y muchos otros Bien, también te permite
personalizar y crear tu modelo. Veremos en este curso que cómo podemos
crear nuestro propio modelo. Es bastante fácil
ejecutarlo y administrarlo. Incluye API simples. Es multiplataforma. Puedes trabajar
con Olama en Windows localmente en Windows, Mac, así como Linux. Bien, tiene un archivo modelo. Crearemos
un archivo de modelo más adelante cuando creemos
nuestro propio modelo. Bien, el archivo modelo empaqueta todo lo necesario
para ejecutar un LLM Entonces este es un archivo único que estaremos
creando y lo usaremos para administrar
y ejecutar nuestro modelo. Entonces veamos qué puede
hacer Oma y por qué es tan popular. Puede permitirle ejecutar
LLM en su sistema local. Eso es en tu Windows ten, Windows 11, Mac y Linux. Bien, entonces esta es una interpretación básica de
Olama lo que Olama puede hacer Usando la instalación de Olama
localmente, lo que haremos más adelante. Puedes descargar, ejecutar,
incluso implementar y administrar fácilmente incluso implementar y administrar tu Lama Gemma Mistral
Phi Quin Todas estas LLMs, Quinn Bien, Pi es de Microsoft,
MStroL es por Mitrol
Gamma es Bien, Lama es de Meta. Entonces de esta manera,
podrás ejecutar fácilmente todos estos modelos usando Olama
localmente. Lo veremos más tarde. Entonces, chicos, en este video,
vimos ¿qué es Olama? Por qué está siendo ampliamente utilizado. ¿Cuáles son sus características?
Gracias por ver el video.
3. Instala Ollama en Windows 11 localmente: En este video, aprenderemos a instalar Olama en Windows 11 Olama es una
plataforma de código abierto para descargar,
instalar, implementar y ejecutar LLM Veamos cómo instalar Olama, ve al navegador web
en Google Type, Olama y presiona Enter Al presionar Enter, el sitio web
oficial es visible. Haga clic en él. Ahora puedes ver que el
sitio web oficial es visible. Queremos la versión para Windows, así que voy a hacer clic directamente aquí. Descargar. Ahora el botón de descarga para
Windows es visible. Esto es en lo
que necesitamos hacer click. Haga clic en la descarga iniciada
664 MB. Vamos a esperar. Hemos descargado el archivo EXE. Ahora, haga clic con el botón derecho y haga clic en Abrir para comenzar la instalación. Minimizar, haga clic en Instalar. Ahora la configuración se
instalará, esperemos. Y Guys, tenemos instalado Olama Ahora puedes ir a iniciar
Tipo CMD, haz clic en Abrir. Ahora verifiquemos Type
Olama y presione Enter. Si lo siguiente es visible, eso significa que
instalamos Olama con éxito Bien, estos son los comandos
disponibles. Entonces de esta manera, chicos,
podemos instalar fácilmente Oma.
4. Instala Llama 3.2 en Ollama Windows 11 localmente: En este video,
aprenderemos a instalar ama 3.2 en Windows 11. Entonces para eso, primero,
instalaremos Olama que es una plataforma de
código abierto para ejecutar LLM Después en el segundo paso,
instalaremos Lama 3.2 en Olama Ya instalamos Olema
en los videos anteriores. Por lo que ahora
instalaremos directamente Lama 3.2. Empecemos. Ahora, usaremos Olama
para instalar nuestro Lama 3.2. Para eso, chicos, necesitamos
usar el comando. Aquí se ejecuta un modelo, es
decir ejecutar comando. Entonces solo escribe lama, ejecuta el nombre del modelo Entonces ese es Lama 3.2. También puedes verificar esto. Si recuerdas que abrimos
esto, ve a modelos. Ahora bajo modelo, puedes ver estamos instalando
Lama 3.2 de Meta Haga clic en él. Y aquí, podrás encontrar
el mismo comando. Ve a continuación. Puedes ver todos los comandos o
detalles sobre Lama 3.2, y aquí está,
estamos instalando 3.2, para que puedas comparar el
siguiente comando Es lo mismo. Bien. Olama Lama, 3.2. Eso es. Solo necesitas
presionar Enter y
tardará algún tiempo en instalarlo. También mostrará que
cuántos GBs se descargarán. Pulse Intro. O
se puede ver que está jalando. Aquí son dos GB, por lo que
llevará algún tiempo. Vamos a esperar. Chicos, ahora pueden ver que lo hemos instalado.
El éxito es visible. Bien, ahora puedes
escribir directamente tu prompt aquí. Entonces digamos que voy a preguntar. ¿Qué es el I generativo? Entonces me
va a dar una respuesta. Así que has instalado Lama 3.2 exitosamente en tu
sistema usando Olama Y puedes preguntar Entonces, chicos, en este video,
vimos cómo podemos instalar Oma. Instalamos Lama 3.2 en Olama y también
probamos un prompt Gracias por
ver el video.
5. Instala Mistral 7b en Ollama Windows 11 localmente: En este video,
aprenderemos cómo podemos instalar la IA Mistral en
Windows 11 localmente Entonces, al principio, necesitamos
descargar e instalar Olama que es una plataforma de
código abierto para ejecutar LLM En el segundo paso, los
instalaremos Mistral AI. Empecemos con el primer paso. Instalando Olama. Empecemos. Ya instalamos Olama en los videos anteriores ahora para
ejecutar tu modelo Mistle AI Es necesario escribir este
comando run command. Entonces déjame teclearlo. Aquí está Olama corre y
luego menciona el nombre del modelo. Pero queremos el nombre
exacto del modelo. Entonces en este mismo
sitio web, vaya a modelos. Aquí y puedes
buscar el modelo que quieras o puedes ir a continuación. Cuando vas abajo, puedes
ver que Mistral es visible. Bien, queremos el siete
B. Voy a darle click sobre él. Bien, entonces aquí está, y
aquí está el comando. Es necesario escribir este comando. Si quieres alguna otra
versión, puedes dar click aquí. Pero ahora mismo, siete
B es la última. Puede copiar este
comando directamente, o bien puede escribir directamente
Mistral presione enter Tomará algún tiempo tirar. Veamos cuántos GBs. Son cuatro GB, por lo que tomará buena cantidad de
minutos. Vamos a esperar. Ahora aquí puedes ver
que es un éxito. Es visible. Ahora puedes preguntar
directamente cualquier cosa. Digamos, voy a
preguntar, ¿quién es usted? Bien, ya pueden ver, soy un gran
mot de Lenguaje entrenado por mistro Entonces déjame preguntarte ¿qué es Python? Veamos la respuesta
por el modelo. Eso es, chicos,
instalamos con éxito a Miss Trolley. Gracias por
ver el video.
6. Enumera los modelos de running en Ollama localmente: En este video,
aprenderemos cómo podemos
enumerar fácilmente los modelos en ejecución en
OlaMAF que van a iniciar,
Tipo CMD, haga clic Bien, escribe Olama y
podrás ver todos los comandos. Entonces queremos enumerar. Entonces queremos enumerar
los modelos en ejecución. Entonces teclearé OLaMaps
y presionaré Centro. Entonces este fue el
último Mistral. Bien, de esta manera, puedes enumerar
fácilmente el modelo running. Gracias por
ver el video.
7. Lista todos los modelos instalados en tu sistema con Ollama: En este video,
veremos cómo podemos
enumerar los modelos en lama Eso significa que todos los modelos
instalamos usando Olama
en nuestro sistema local Veamos cómo podemos enumerarlos. Para eso vaya al
tipo de inicio CMD, haga clic en Abrir. Entonces ahora aquí en tipo Olama y se pueden ver
todos los comandos Queremos enumerar los modelos, no enumerar los modelos en ejecución. Solo queremos listar
todos los modelos. Para eso, voy a escribir Olama List. Eso es. Y presione Centro. Así que hemos instalado
dos modelos hasta ahora, Mistral, así como Lama 3.2 Entonces estos son los modelos visibles ahora mismo porque lo
instalamos usando Olama En este Maguis
puedes listar fácilmente los modelos que has
instalado utilizando Gracias por
ver el video.
8. Mostrar la información de un modelo con Ollama localmente: En este video,
veremos cómo
podemos mostrar la información
para un modelo. Instalamos en nuestro
sistema usando Oma. Entonces en Comando prom,
escribimos lama, y todos los comandos
son visibles Entonces para mostrar, necesitamos
usar el comando show. ¿Bien? Ahora mismo,
tenemos dos modelos aquí. Enumeramos usando el comando de lista de
espacios Oma. Bien, ahora digamos que
quiero la información referente a Lama 3.2, tipo de
suelo, lama, show, Lama 3.2, y veamos qué
información Aquí está, toda la
información es visible. Parámetros de arquitectura
3.2 mil millones, todos sabemos, la longitud del contexto así como la cuantificación
para la optimización es visible y las licencias De esta manera, chicos,
también podemos revisar nuestro segundo. Eso significa
show de lama. Entonces Señorita troll. Y déjame comprobarlo otra vez. Es Miss troll,
derecho, Centro de Oración. Y aquí está la
información. Fue para 7.2 mil millones de parámetros y la longitud del contexto
y la longitud de incrustación Con la cuantificación también es visible y la licencia también Entonces, chicos, vimos cómo podemos mostrar la información
de una modelo con Ulama Gracias por
ver el video.
9. Cómo detener una modelo para correr en Ollama: En este video, aprenderemos a detener nuestro
modelo running en Olama Bien, así que aquí puedes ver que
volvimos a correr nuestro modelo. Bien, Olama corre Lama 3.2. También podemos verificarlo como usando el comando list running
models, el comando ps. Entonces cuando escriba olamaAspacps, se mostrará
que
mostrará el Aquí está, es visible porque la estábamos
ejecutando actualmente. Aquí está estoy nuevamente demostrando que
Lama 3.2 se estaba ejecutando. Bien, ahora tenemos que detenerlo. Para ese tipo lama, Stop. Y el mismo comando también
es visible aquí. Puedes escribir lama aquí. Presiona Intro y todos los
comandos están visibles. Este es el comando stop.
Modelo de parada o funcionamiento. Ahora menciona el nombre del
modelo que necesitas para parar. Eso es Lama 3.2 y presiona
Enter. Ahora es parar. Se puede verificar nuevamente
usando lama Ps, comando
lama space ps, y
nada será visible Ahora un modelo de ejecución stop D. Usando el comando stop,
gracias por ver el video.
10. Cómo ejecutar un modelo que ya está instalado en Ollama localmente: En este feed,
aprenderemos cómo podemos ejecutar un
modelo ya instalado en Olama localmente Para eso, vaya a iniciar Tipo CMD. Haga clic en Abrir. Entonces aquí
está ahora Tipo Oma. Bien. Entonces primero, enumeraremos los modelos que ya
instalamos aquí, así que escribe Olama y
el comando list Bien. Presentador y ya puedes
ver instalamos dos de ellos. Ahora, ninguno de ellos está funcionando, debemos verificar también
enumerar los modelos en ejecución. Veamos cuáles están ejecutando todos los PSP de
Oma para ver los modelos que
se ejecutan en lista Presionaré Enter y
podrás ver que ninguno de ellos
está funcionando en este momento. Entonces, lo que voy a hacer,
lo ejecutaré primero. Ahora, digamos que voy a
ejecutar Lama 3.2 para eso. Utilice el comando Ejecutar un modelo. Eso significa que voy a escribir
Olamarun Lama 3.2. Tenemos que mencionar
los parámetros también exactamente 3.2 presione Enter. Ahora lo
volverá a ejecutar, y empezó. Bien. Ahora puedes escribir cualquier cosa, y digamos Así
empezamos con Lama Voy a escribir algo un prompt. Bien. Entonces de esta manera, puedes volver a ejecutar
tus modelos LLM en Ulama usando el comando run Gracias por
ver el video.
11. Crea un GPT personalizado o personaliza un modelo con OLLAMA: En este video,
aprenderemos cómo podemos crear un GBT personalizado o se
puede decir personalizar
un modelo con el Oma Así que en Google Type, Olama y Prey
Center, da clic aquí Aquí está el sitio web oficial. Ya descargamos Olama. Bien, ahora ve a Github,
su Github oficial. Aquí en Ir a continuación. Y aquí en se puede ver
personalizar un modelo. ¿Bien? Necesitamos crear
este archivo de modelo. Crearemos en código VS, y luego crearemos un modelo y también ejecutaremos el
modelo más adelante con nuestro nombre. Bien, primero
crearemos un archivo de modelo. Entonces hagámoslo. código
VS para ello, primero
vamos a instalar. Empecemos. Al principio, vaya al navegador web en Google Type VS Code
y presione Enter. Ahora el
sitio web oficial es visible code.visualstudio.com Haga clic en él. Ahora puedes
ver que la versión es visible. Puedes hacer clic directamente en
Dwload desde aquí, y aquí están las
versiones para Windows, Linux, así como
Mac. Voy a hacer clic aquí. Y ahora se descargará el código VS. Aquí está el
archivo instalador. Esperemos. Ahora, haga clic con el botón derecho y haga clic en Abrir para comenzar la instalación, minimizar, aceptar el
acuerdo, haga clic en Siguiente. Tomará 373 MB. Haga clic en Siguiente. Haga clic en Siguiente. También creará
una carpeta Menú Inicio. Si quieres crear un
ícono de Dextrop, puedes dar click aquí, pero no lo crearé, así que
haz clic en Siguiente. Ahora haz clic en Instalar. Chicos
instalamos con éxito VSCode. Haré clic en Finalizar, pero
desmarcaré esto para que pueda abrirlo desde otro
lugar. Haga clic en Finalizar. Entonces chicos instalamos con éxito
VSCode, vamos a abrirlo. Vaya al tipo de inicio
VSCode, y ábralo. Ahora, chicos, voy a dar click aquí
y voy a abrir una carpeta. Digamos que mi carpeta
está en unidad D. Voy a crear una nueva
carpeta, proyecto Amit. Bien. Haré clic y haré
clic en Seleccionar carpeta. Como confío. Ahora, haga clic derecho, cree un nuevo archivo, asígnele el nombre Archivo de
modelo. Bien, aquí está. Ahora puedes ver aquí
tenemos un crear un archivo de modelo. Código, solo cópielo
y pegarlo ahí. Bien, lo he pegado, y también he
hecho algunos cambios Entonces, en lugar de este asistente de personal de
Mario, acabo de mencionar que
eres analista de cricket. Contesta solo como
asistente de Amid Demand, ya
sabes jugar al cricket, entrenar a otros cricketers y todos los términos
relacionados con el Bien, archivo, guarda. Ahora, haga clic derecho y
copie la ruta, minimice. Bien. Vaya a la
hora de inicio CMD, haga clic en Abrir Ahora puedes ver tus modelos, ¿qué modelos están
funcionando? FactyeOlama Revisaré los modelos
usando PS Command, lama Ps press center
y podrás ver nuestro Lama 3.2 está funcionando.
Bien, aquí está. Ahora sólo voy a llegar al
camino, clic derecho y pegar. Aquí está, es nuestra unidad D. Yo directamente puedo hacer esto también decolon y estamos
dentro de D Drive Ahora haz DIR en CMD, y tienes un proyecto Amit. Espacio CD proyecto Amith, y estás dentro de tu carpeta Aquí está. Escriba
el comando create. Es necesario mencionar el nombre de
su modelo. Digamos, voy a mencionar a la
analista de cricket Amethy guión F, y luego archivo
modelo y Así que acabo de tomar el
código de aquí. Aquí está, Olama crea Mari Hyphen M. Acabo de
mencionar mi nombre de modelo Ahora veamos lpresentador Lo siento, me acabo de perder Obviamente. Bien, entonces lama
create es el comando Puedes verificarlo desde aquí. Crear un modelo
a partir de un archivo de modelo. Esto es lo que estamos haciendo. Y solo
presionaré Enter ahora. Y se puede ver el éxito. Bien. Bien, entonces ahora lo voy a ejecutar. Nuestro modelo es creado olmaRun analista de
cricket Ametho, así que acabo de crear tu analista de
cricket Pulse Intro. Bien, entonces ya
estamos ejecutando nuestro modelo
. El comando Ejecutar. Obviamente, ya sabes
que aquí está. Puedes verificar todos
los comandos usando el Olama. Eso es. Ahora presionaré Enter. Ya lo puedes ver nosotros lo ejecutaremos. Ahora bien, este es nuestro GPT personalizado, que es como nuestro asistente Ahora su GPT personalizado está listo. Tipo Hola, ¿cómo
te va hoy? Aquí, se puede ver que es visible que soy analista de cricket. Bien, entonces déjame
preguntarte cómo jugar un perfecto o jugar un cover drive
perfecto. Bien, entonces el
asistente de enseñanza o
asistente de cricket es responder Bien. Y Entonces, chicos, de esta manera, pueden
crear fácilmente
su GPT personalizado Creamos un asistente de enseñanza en forma de analista de
cricket. Así que aquí estaban nuestros archivos. Recuerda, Indiv en medio del proyecto, y este era nuestro archivo modelo Insider, código S. Bien, acabamos de agregar
este aviso aquí, y esto se fijó para más creatividad.
Bien, temperatura uno. De Laman dos, este
es el nombre del modelo, y este es nuestro mensaje Si quieres tomarlo, puedes tomarlo
del Github oficial. Y este es el código. Este era nuestro archivo modelo, y estos fueron los
comandos para ejecutarlo.
12. Quita cualquier modelo con Ollama localmente: En este video,
aprenderemos a eliminar cualquier modelo en Olama localmente Para eso, vayamos a iniciar
y tecleemos CMD, ábralo. Ahora déjame escribir el comando Olama y encontrar todos los
comandos aquí fácilmente Primero voy a enumerar todos los
modelos de este sistema. Lista de espacios Olama. Olmaspace list y presiona enter. Aquí están los dos modelos que
instalamos mistro y Lama 3.2. El primero es por mistro y
el segundo es por Meta. Ahora, lo que voy a hacer
necesito quitarlo. Bien, entonces usa el comando RM. Oma espacio RM y mencionar
el nombre del modelo. Digamos, voy a mencionar a Mistral. Mencionaré a Mistral
y aquí está el nombre. Entonces necesitas simplemente escribir
mistrl y centro de prensa. Si vas a escribir Lama, también
debes mencionar
el parámetro Eso quiere decir que en este caso, el nombre es Lama 3.2 Bien, entonces déjame
desinstalarlo, ¿de acuerdo? Espacio Oma Espacio RM
Lama 3.2 eliminado. Bien, ahora llene de nuevo la lista de
Lama de verificación. Se puede ver que solo uno
de ellos es visible. Aquí está mistroll es visible porque acabamos de
eliminar Lama 3.2 Entonces, chicos, de esta
manera, podrán
quitar fácilmente cualquier modelo con lama Gracias por
ver el video.
Amit Diwan, Corporate Trainer
