Transcripciones
1. Introducción al curso: Hola a todos. Bienvenido a este curso. Soy tu instructor
timidilato. Y gracias por tomar la
decisión aprender y entender sobre la
gobernanza de la inteligencia artificial y la ciberseguridad. Ahora, la IA es uno de los campos
más emocionantes en todo el mercado está
lleno de oportunidades y empleos. Se oye hablar de ello en las noticias, todas partes,
más o menos en las redes sociales. Cada vez más personas
están queriendo
conocer esta nueva tecnología. Y la demanda de profesionales de
IA está en auge en todas partes. Ahora, la IA es como un campo
masivo y
puedo pasar edades solo
hablando. Pero el foco de este curso
en particular es yo, gobernanza y ciberseguridad, que es un tema que mucha
gente le interesa. Reúne a dos de los
más calientes de la actualidad, que es la
inteligencia artificial y la ciberseguridad. Y honestamente
creo que no hay suficiente material presente
sobre esto o lo es, pero está esparcido por
todo el lugar. Podrías encontrar cursos sobre IA. Encontrarás preguntas
sobre ciberseguridad, pero no hay suficientes
cursos
te están enseñando a los sistemas de inteligencia artificial de seguridad. Y ojalá esto
llene ese vacío. Si no tienes idea de qué es AIA y cómo funciona cuando nadie, te
guiaré a través de
lo básico también antes de
profundizar en el gobierno de las secciones de
ciberseguridad. Si realmente quieres aprender
sobre las cosas básicas III y no realmente interesado en la saga
desaparecen y la ciberseguridad. Tengo otro curso aquí que tejidos en lo básico de
la IA y prácticamente te enseña sobre IA y tanto la teoría
como la práctica. Si quisieras simplemente
mirar ese tema. Quién es este curso
para chicos, como, yo diría casi todo el mundo porque creo que todo el mundo
debería saber de la IE dado cómo está impactando al
mundo y la sociedad que
nos rodea está teniendo un
impacto masivo sobre nosotros, ¿verdad? Entonces en un trabajo como sociedad y
definitivamente debes saber todo al respecto, Definitivamente
te lo agradecerías. Pero si
quieres dejar que lo mires, quiero decir,
si eres especialista en gestión de riesgos
o gobernanza, definitivamente
agradecerías este curso porque ya
estás en ese campo escribiéndote
evaluando el riesgo y entendiendo si estás
en ciberseguridad, querrías saber sobre las
visitas de IA y cómo mitigarlas. Si estás en el propio campo de la
IA, como si fueras científico de datos o tu ingeniero de
aprendizaje automático. Y quieres aprender sobre
los riesgos potenciales y
quieres entender lo que son entonces definitivamente este
curso es para ti. A veces se obtiene la visión del túnel y no se obtiene
el panorama general de la tecnología en la
que estamos trabajando. Por último, dije
que cualquiera que esté interesado en la IA, no
hay requisitos previos
para este curso. Quiero decir, no necesitas
tener un doctorado en matemáticas, como una programación Python
o algo así. No. El libro va es
más o menos para cualquiera que quiera saber acerca de la IA y
cuáles son los riesgos a su alrededor? ¿ Cuáles son los temas que
vamos a estar tocando, chicos? Estos son los temas que abordaré
brevemente sobre la IA y el impacto que está teniendo en los seres humanos y
la sociedad y por qué. Haremos una visión rápida
del aprendizaje automático. Está instalado.
Es importante saber porque ahí es
donde viene la mayor parte
del rescate y es el subcampo más popular en inteligencia artificial. Entonces en realidad entramos en
la carne del curso. Veremos por qué la gobernanza y la gestión de riesgos lo plantean tan importante y cómo crear un marco particularmente
de gobernanza. Entonces conseguiremos un poco más instructor
técnico comprenda los riesgos cibernéticos que son exclusivos de los sistemas EHR, y cómo crear un marco de
ciberseguridad que esté personalizado para la inteligencia
artificial. Ahora que ya sabes, ojalá un
poco sobre el curso, poco más sobre mí para que
sepas quién es tu maestro,
quién te está enseñando. Mi nombre es femoris largo. Llevo cerca de dos décadas en el
campo InfoSec. Actualmente estoy radicado
en el Reino Unido donde me muevo repentinamente después de
pasar una década en los EAU. Soy escritoras publicadas
porque siempre me encantó enseñar y básicamente
crear una vena. Se trata de tecnologías nuevas y
emocionantes. Tengo un canal de YouTube llamado
Cloud Security Guide, que está enfocado específicamente
en la seguridad en la nube y los riesgos de IA y
caballeros, asesoría profesional. Entonces Blues, por favor visita y suscríbete allí
si te interesa ahí. Así que sí, eso es
más o menos sobre mí chicos. Una cosa para este
curso es proyecto. Ahora, me gustaría que aplicaras
los conocimientos que
obtienes en este curso. Y quiero que cree un modelo de amenazas para aplicaciones
basadas en IA. Y creo firmemente que el conocimiento no aplicado
se olvida. Aprenderás
a crear un
modelo de amenazas en las futuras secciones. Y quiero que
utilices el conocimiento neto y el modelo de cabeza de cetonas
de un sistema de IA. Puede ser una habilitada
como de uso común, recomendaría como vehículos
autoconducidos. Escuchamos mucho sobre eso. Toma los principios
que aprendiste en este curso y aplícalo y
crea una evaluación
de riesgo de amenazas de vehículos autoconducidos. Hágamelo saber para que pueda obtener mis
comentarios, todo eso también. Eso más o menos lo envuelve, chicos, espero que les haya dado una buena introducción sobre este curso. Empecemos a aprender acerca IA y cómo gobernarla
y asegurarla. Y te veré
en la siguiente sección.
2. Descripción AI: Hola chicos, Bienvenidos
a esta sección. Antes de saltar a la
gobernanza y la gestión de riesgos, yo, quería tener
una más rápida segura, pero es útil saber
lo que está asegurando,
cuál es su gobierno antes de
que realmente comenzara. Si ya eres como un experto en IA y ya relevante qué IA
y aprendizaje automático. No necesitas un repaso. Entonces por todos los medios
salte esta sección. Pero siempre me
recomendaron que
hagas refrescantes conceptos básicos. Y a veces
se puede
atar un poco en los detalles y
olvidar el panorama general. Cuál es el experto en
Inteligencia Artificial AI, la persona que se llama el
padre de John McCarthy. En 195060 organizó una conferencia
muy famosa
llamada la conferencia de modo oscuro. En su charla acuñó el término inteligencia
artificial
y lo definió como la ciencia e
ingeniería de hacer máquinas
inteligentes.
Básicamente, ¿qué significa eso? Los signos de problemas,
como dije, los signos de que los sistemas
informáticos puedan realizar tareas con solo humanos hacen
como el reconocimiento del habla, el reconocimiento de la
visión, visión las decisiones
inteligentes, el procesamiento del
lenguaje. ¿ Por qué necesitamos hacer eso?
Podrías preguntar, vale, bueno, ¿por qué hay
seres humanos? ¿ Por qué querría una máquina con
la que empezar a hacer esto? Esto suena un poco aterrador. Pero honestamente chicos,
la cantidad de datos,
datos generados hoy
tanto por humanos como por máquinas, supera con
creces la capacidad
humana, la capacidad de los seres humanos para absorber y
tomar decisiones basadas en eso, la
inteligencia artificial es más o menos como formar la base para todo el aprendizaje informático futuro es el futuro de todas las decisiones
complejas. Y veremos por qué,
por qué es como realmente no factible que los
seres humanos sigan haciendo esto. Si ya ha
interactuado con un EA. Si te ha gustado
un sitio web y has visto un chatbot pop up y
empieza a hablar contigo. Esa es una forma muy básica de IA. Tu computadora ejecutando una forma
especializada de IA. Que no sea capaz de
responder a su pregunta. Ves que se pone, entonces se obtiene un ser humano auditivo que
comunica estrategia con una persona solo para darte una idea de si
estás usando Netflix. Realmente te gusta cómo matriz personaliza las películas
que te recomienda entonces eso es machine learning
y físico real sido como si tuviera miles
de millones de usuarios usándolo
en un momento dado. Y como dije, cómo no es factible que los seres humanos empiecen
a hacer esto. ¿ Cómo crees que
regulan el discurso de odio en la plataforma o materiales
inapropiados? ¿ Te imaginas el
costo de proteger monitorear a todos
estos seres humanos? Por eso
tienen incluso en EIA para detectar y eliminar las caderas
alcanzan desde su plataforma. Cada vez que lo sabes, tu
parecía como cada vez que usas una ciudad de Excel y cómo llamas y estás usando
esos blancos asistidos, asistencia basada en
voz en
cualquier momento que cometas un error. ¿ Cómo se llama
Alex? Nuestra ciudad no es capaz de entender
lo que estás diciendo. Entonces usa esos
datos y comienza a
aprender a partir de eso,
y aprende de ella. Entonces esta es la IA en acción. Básicamente, el aprendizaje automático de IA
es más o menos
responsable del crecimiento explícito de la
asistencia en espacios en blanco, ya sabes, asistencia de voz
digital
porque aprenden a seguir
aprendiendo en base a lo
que son comprensivos y con base en
eso, mejora cada vez más impacto de por qué de repente
se convierte en un gran problema. Ya sabes, le pegas a cualquiera, oye, todas las veces que viene RDA
está cambiando todo. Todo eso. ¿ Por qué, ¿por qué realmente
se está convirtiendo en un gran problema? Bueno, sólo para poner en contexto, a se llama la Cuarta Revolución
Industrial. ¿ Qué significa eso? Bueno, antes teníamos evolución de
la industria, cómo vivían los seres humanos, y tuvo un impacto masivo. Contamos con ciencia de vapor y tecnologías
digitales. Las tres primeras revoluciones
industriales, que acaban de venir de
esa sociedad moderna. Como si realmente quieres
volver atrás, la gente encontró eso, que luego calientas cosas, entonces tienes energía
y se retransmitió. Al advenimiento de
las máquinas de vapor. Steam estaba alimentando todo. Desde la protección agrícola, el
seguimiento de la manufactura. La gente solía vivir
en farmacia y
doblarlas fabricación basada en esquema sucedió. La gente comienza a trasladarse de granjas a las ciudades y más
específicamente a la fábrica. Pero la vida de fábrica fue
muy difícil, ¿verdad? Los obreros de fábrica eran baratos
y abundantes y eran personas que llevaban
largas y largas horas y condiciones muy inseguras. Entonces, ¿qué pasó? Automatización llegó
producción en masa musulmana, notablemente la línea de
montaje, el lenguaje de montaje
va, la gente está sentada ahí poniendo cosas
ahí, se vería, ¿verdad? Eso sucedió, la producción en masa comenzó a suceder, la automatización. Y esa fue la Segunda Revolución
Industrial. Después de eso, el hecho de que estés sentado aquí y hablando conmigo en una computadora en Internet. Esa es la tasa de
revolución digital. Estás disfrutando de la
nube, internet, y resume un dispositivo de mano con
dispositivo digital. Todos ellos son básicamente la Tercera Revolución Industrial porque eso pasamos
de lo analógico a lo digital. Entonces eso te da ahora
entiendes lo grande que es a, por qué se le ha llamado la
Cuarta Revolución Industrial. Porque en base a una
cosa cada vez más
se está descargando a las
computadoras y el, y el reino y las decisiones
y que están dando, se les ha dado cada vez más, ¿cómo lo llaman cosas
importantes para hacer? Todas estas divisiones
industriales, hemos representado cambios
muy grandes. Como a nivel de
sociedad realmente honesto. La vida pasó de la
granja a la fábrica. Y a la gente le gusta la gente que comenzó a automatizar
cada vez más cosas. Entonces por eso es cosas
tan importantes como la
electricidad y la producción en masa. Entonces eso es lo grande que es. Agradable. Y por qué ciertamente sucedió
ahora se podría decir como, ¿por qué estás en los
últimos dos años? Pero dos razones muy simples, aumentando la potencia de cómputo
y aumentando la capacidad de los datos. Ahora, la IA necesita mucha y
mucha potencia de cómputo. No fue factible honestamente. Es decir, se puede
ver, como dije, John McCarthy lo
mencionó en 1956, pero recientemente no tenía
ese poder de cómputo. Ahora con cosas como
Cloud computing, computadoras se han vuelto tan
poderosas que pueden
procesar esos datos. La
segunda cosa son los datos. Simplemente no
teníamos tantos datos porque aprendizaje
automático requiere
una gran cantidad de datos. Y es por eso que
necesitabas estas dos cosas
son necesarias ahora tenemos zettabytes de datos disponibles más el costo del
almacenamiento ha bajado. Estas son las dos
cosas que
realmente tienen pobreza y pobreza I, y conducen a la cuarta revolución
industrial. Espero que hayas entendido que este tipo está teniendo un
impacto tan grande en lo que es la IA. Ahora vamos a lo
principal que es el aprendizaje
automático, que hablaré
en la siguiente sección.
3. Descripción del aprendizaje automático: Hola a todos. Bienvenidos a esta sección que
es chicos de aprendizaje automático. No es aprendizaje automático. Es más o menos como el
motor que impulsa el ojo. Y se define como la capacidad de las máquinas
para aprender de los datos. Y básicamente
enseñas a una computadora a hacer algo sin
programar en dsolve. Y actualmente es el subcampo más desarrollado y el más
prometedor de la IA para industrias como
gobiernos e infraestructuras. Y es el más comúnmente utilizado como el subcampo de la
IA en nuestra vida cotidiana. ¿ Qué es los chicos de machine learning? Como dije, simplemente
ponga programas de computación. Ya sabes, no son inteligentes en el sentido real de la palabra. Tienen un conjunto de instrucciones
codificadas como toman datos
y producen salida, y no pueden
salir de eso. Toma una calculadora, por ejemplo, cuando esquema de culpabilidad o han parecido
mágico, ¿verdad? Estás poniendo números
en interés diciéndote. Pero al final del
David sólo está tomando entradas y procesándolo y dándole
salida nada más. En el aprendizaje automático,
lo que sucede es que toma datos que estás aprendiendo
y aprende de ella. Se alimenta en un algoritmo
para crear un programa. Y básicamente aprende con
base en esos datos. Entonces tomemos, solo para
darte un ejemplo, así es como funciona el
aprendizaje automático. Básicamente, le das a una computadora
montones y muchos datos. Se llama datos de entrenamiento. Entonces le das un algoritmo
para entender esos datos. ¿ Qué hace la máquina? Toma los datos,
toma un algoritmo, y luego construye
un modelo que
usaremos para predecir
algo que aún no ha sucedido. Ahora,
¿qué haces? Entonces lo alimentas datos
reales y
verás qué hace? ¿ Hace una
predicción,
predicción correcta o la producción
equivocada? Ahora en base a eso,
si es correcto, maravilloso, le alimentas más datos para mostrar que la precisión sube. Si está mal, entonces
vuelves a entretenerlo, más entrenamiento, más
entrenamiento para. Tú. Básicamente conservarlos
algoritmo varias veces hasta que la salida deseada
esté bien. ¿Qué está pasando? La máquina básicamente está
aprendiendo sobre una piedra y los resultados se volverán cada
vez más precisos con el tiempo. Es así lo diferente que
es el aprendizaje
automático del sistema informático normal. Entonces sólo para darte
un mejor ejemplo, este es nuestro tradicional puede predecir programas usados
para trabajar correcto? Tienes entrada, lo
pondrás en un algoritmo y luego saldría una
salida. Así es como se puede predecir
los resultados es trabajar. Entonces el aprendizaje automático
es así. tienes entrada y salida Yatienes entrada y saliday
les das aprendizaje automático. Tienes un algoritmo
basado en eso. Toma la entrada y
mira a la salida. Y a partir de eso,
crea un modelo digital utilizado para tomar decisiones futuras sobre ese insumo
que está entrando, es aprender por sí mismo. Esto es lo diferente que es de la programación normal
que solía suceder. Ok chicos, Ahora, hemos
cubierto este tema. Espero que esto haya sido un buen
repaso para ti. Teníamos una mayor con IA y por qué se ha vuelto tan
prominente hoy en día. Y tuvimos una visión general del aprendizaje
automático también. Aprendimos cómo funciona el
aprendizaje automático y cómo toma sus decisiones. Lo creas o no. Ahora tienes el
conocimiento fundacional que necesitas ahora para entender sobre la
gobernanza y la gestión de la IA. Espero que eso fuera chicos útiles. Y te veré
en la siguiente sección.
4. Necesidad de gobernar AI: Hola chicos, Bienvenidos
a esta sección. Y aquí empezamos a
meternos en la carne real
del curso, que es los aspectos de gobernanza y gestión de
riesgos de la IA. La primera pregunta es, ¿por qué chicos? ¿ Por qué crees que la IA necesita ser gobernanza y tasa de evaluación de riesgos? Si trabajas en una
empresa como yo, sabrías que la
mayoría de las empresas ya tienen estos departamentos de gestión y
marcos de gobierno en su lugar. ¿ Por qué necesitamos algo
diferente para la IA? Bueno, la respuesta simple
es que la IE introduce ciertos nuevos tipos de los cuales no
estaban presentes antes. Supongo que como un disruptor como es esa tecnología disruptiva, a diferencia de la mayoría de los disruptores,
Tiene que ser abordado y mitigado explícitamente de
una manera ligeramente diferente. Deberíamos echar un
vistazo cuando le preguntes gente cuáles son los riesgos
clave en los sistemas. Mucha gente está
hablando de IA, como Elon Musk, Bill Gates y todo ese lote y cómo pueden
impactarnos negativamente, ¿verdad? Quiero decir, si
hablas del resto, yo sólo, he mencionado
algunos de ellos. Contamos con sesgos y los modelos de inteligencia
artificial y compromisos de seguridad. Voy a estar hablando
del 2D superior en una sección completa. No voy a pasar
demasiado tiempo en eso. Pero si estás
hablando de privacidad, tienes estas tecnologías de
reconocimiento facial. Creo que muchos países
están implementando reconocimiento
facial
con base en el ojo. Y pueden almacenar que los datos de una gran cantidad de
riesgos de privacidad entran. Tienes cosas como la
tarifa fija que habrías visto,
ve a YouTube y pon D Fig. Verás como videos
absolutamente precisos de personas como Tom
Cruise, Morgan Freeman. No vas a creer
lo preciso que
es lo que realmente asusta a la gente. ¿ Cómo sabremos qué es
real y qué no está bien? Y si quieres volver a las máquinas
autónomas,
hablaré más de eso. Básicamente cosas
que están
funcionando completamente sin ninguna intervención
humana absoluto y la gente asusta de que una
de estas máquinas comenzó a apoderarse del mundo
o algo así. Y una interrupción
laboral mucho más práctica. Ai, como, como dije, a va a hacerse cargo de
muchas de las cosas que
los humanos solían hacer. Muchas cosas que
van a conseguir una materia mundana automatizada que son humanas verbalmente
no necesita realmente tanto. Obviamente anti-electrón hacer eso va a ser subcontratado a IA, va a hacerse cargo y
muchos empleos desaparecerán. 100%, quiero decir, sin ninguna duda. Pero muchos de esos se van
a crear todo tipo. Entonces es por eso que es tan
importante invertir en tu futuro e
invertir en IA. La última semana podría
ser un poco raro, pero sí,
el fin del mundo, como personas que ven
películas como determinador, como matriz o
algo así. Piensan que las máquinas
van a apoderarse del mundo. Pero afortunadamente aún no hemos
llegado a ese punto. Pero sigue siendo algo
así como mucha gente sí dice que las máquinas
que vamos a llegar a ser sentience, ¿verdad? Vas a empezar a apoderarse
del mundo y de todo. Pero honestamente la pelvis con contextos
mucho más prácticos. Tomemos algunos ejemplos también. Cuando hablamos de los riesgos y algo que ha sucedido hace
unos años como 2016. Toolbox, que Microsoft está
describiendo en el Microsoft comenzó como un experimento entendimiento
conversacional. Cuanto más charlas
con este tablero, se llamaba el inteligente
que se pondría y
empezamos a involucrarnos con personas demasiado casuales y
conversaciones de Clifford. Fue diseñado para aprender de introducciones y
personas híbridas en Twitter. Desafortunadamente, lo que pasó en algunas personas decidió alimentarlo como este sistema información
ofensiva. Y Microsoft realmente tuvo que
disculparse por eso porque esta pizarra estaba dirigida
a niños de 18 a 24 años
en redes sociales. Fue blanco de un
ataque coordinado de un subconjunto de personas y empezaron a
alimentarlo como información realmente
ofensiva. Entonces no pasamos 24 horas,
tuvo que ser desactivado. Microsoft tuvo que
emitir en realidad una disculpa por
el dolor molesto fuera. Esto fue darle un ejemplo. Digamos, realmente nos damos cuenta cómo la IA podría estar completamente
fuera de control. Estas personas explotaron sobre la
luminosidad que había ahí. Dijeron que simplemente no
vamos a no prepararnos con este tipo
de cosas que podría pasar y se podría alimentar como cosas inapropiadas y
va a empezar a alimentarlo. Por lo que dijeron que
seguirán definiéndolo. Pero esto es como un
simple ejemplo de lo que pasó cuando no
tomaste en cuenta lo que
posiblemente podría pasar. De acuerdo, ese fue un ejemplo un poco
sin hogar. Echemos un vistazo a algo
que es chicos aterradores de VMO, que son armas autónomas,
cualesquiera que sean las armas autónomas, básicamente los pines
que seleccionaron Y puertas objetivos sin intervención
humana. Como, ya sabes, helicópteros
armados, pueden buscarlo. Y como
dividendo ilimitado, cumpliendo ciertos criterios y todo
lo que la gente está mirando. Un EIS, lamentablemente,
como simplemente dice electro, ha llegado a un punto en el que el despliegue del éxito es prácticamente
práctico en
unos pocos años, no décadas. Estas cosas lo
han descrito la próxima revolución en la guerra, cosa
muy aterradora y se han hecho muchos
argumentos. La gente ha visto, la gente
ha dicho eso, vale, qué pasa, estas
cosas no salieron y no
ocurrirán bajas humanas, ¿verdad? Pero y si alguien es
capaz de manipular esto, ya
sabes, como
disrupción y apoderarse y
empezar a
tararear a la gente. Por eso es tan
peligroso. Entonces eso es y Más de 30 mil. Tengo un vértice
investigadores y otras personas decidieron una
carta abierta sobre el tema. Y 2015, dijeron que
no queremos que esto suceda. Por favor, no inviertas
en esta investigación realmente te muestra algunos de los aspectos más aterradores que
pueden ocurrir y mostrar. Se volverá como
una IA casi siempre. Por eso es tan importante
tener regulaciones. Tan importante tener la
gobernanza de la IA en su lugar. Solo quería
mostrarte que esto era como, te mostré un ejemplo un poco humorístico
y esto fue como
unos ejemplos más aterradores a los que
puedes echar un vistazo. El dispersante, hacen extremos
opuestos, no, Echemos un
vistazo a un real, cómo la IA puede realmente impactar
negativamente a las personas son casos de sesgos
y prejuicios de IA, que entraré
en el siguiente sección.
5. Bies en modelos de AI: Hola chicos. En esta sección vamos a
hablar de prejuicios y prejuicios de IA. Entonces en la
sección anterior, vimos a una madre, un ejemplo gracioso y el
peor de
los casos, lo gracioso va en Microsoft Word y autónomo porque era como el
peor de los casos. Ahora echemos un
vistazo a un ejemplo de la vida real como un IS de
prejuicios y sesgos de IA. Por lo que ahora lo creas o no, los módulos pueden estar sesgados contra
un género en particular, edad. Si esos datos no se
ponen adecuadamente dentro del módulo, porque los seres humanos son
particulares golpean a los humanos inconscientemente o conscientemente. Puede que tengamos que
estar sesgados hacia una raza o color en particular
o algo así. Y puede alimentarse en los datos que se utilizan para entrenar modelos
de aprendizaje automático. Y en realidad puede conducir a decisiones
equivocadas que hemos tomado que pueden afectar su salud. Fuimos todo. Entonces como las organizaciones están reemplazando
cada vez más algoritmo de toma de decisiones
humanas con algoritmos, pueden suponer que estos algoritmos, no
son sesgados. Pero como dije, estos algoritmos reflejan
el mundo real, ¿verdad? Lo que significa que
no intencionalmente pueden llevar adelante estos virus porque resultados
incorrectos en realidad
pueden arruinar la vida de
alguien. Entonces echemos un
vistazo a este artículo de noticias, que es el electro estudio público publicado por primera vez
en Science Magazine, encontró
que el algoritmo de
salud, como si fuera usuario en como 200
millones de personas en Estados Unidos. Fue sesgada contra
una raza en particular porque fue determinando quién necesita más atención médica de la salud. Desafortunadamente,
fue como una polaroid, creo que la gente blanca
por encima de otras personas. Y debido a que mi señalamiento, en realidad
fue negar a
personas que
en realidad podrían necesitar atención médica debido a que los datos no fueron
alimentados a millones y miles de millones de negros se vieron
afectados por un número Bye en este algoritmo de
atención sanitaria en particular. Entonces por eso es tan importante asegurarse de
que esto no suceda porque en realidad puede tener efecto
real en la vida real en las personas. Así que veamos reales, Ahora veamos esto. Veamos un
ejemplo en detalle. Brújula. Quiero decir, no sé si
estás familiarizado con esto porque esto estuvo en
las noticias bastante tiempo. Se llama el Correccional Delincuente Manejo de Perfiles para sanciones alternativas, creo que la competencia arriba. Se trataba de un
sistema de aprendizaje automático que
se utilizó para cualquiera de
los Estados Unidos en los tribunales. Lo que haría,
se prediría que hay alguien
recomendaría un crimen o no. Ya sabes, cuando las personas a las que
se les ha dictado sentencias de cárcel, realidad les daría
una calificación basada en
cómo, cuánta probabilidad de que esta persona recomiende un delito. Nuevamente, el juez en realidad
estaba usando esta lectura para asignar
tiempo a la cárcel, encuentra, ya sabes, lo que sea que esté pasando
es como la gente, espero que la raza particular fuera
vista tan casi dos veces más probable que los blancos
ser etiquetado de alto riesgo. Y a pesar de que
no entregaron computación muy pequeña traducida crímenes
completamente inofensivos. Y el resultado opuesto fue
impulsado por la gente blanca. Por lo que se les dio seguridad
de
bajo nivel a pesar de que tenían historias
criminales y son como alta probabilidad de
ser tu amigo. Por eso fue tan
peligroso y trabajo. Se tomó en efecto, tomando en cuenta muchas
cosas como los datos que van a envejecer y al
empleo y todo. Y con base en eso, se estaba
asignando esta cosa física. Entonces es por eso que desgraciadamente, la
gente tiene un particular se etiqueta
incorrectamente como de alto riesgo de venir en el futuro crimen el doble
que los blancos. Incluso la empresa lo negó. Pero desgraciadamente los
resultados, particularmente, si se puede ver esto grueso, echemos un vistazo a, quiero decir, todos porque
pueden engancharse. Pero el ejemplo medio
es bastante gracioso. Visual Bowden, ella había
cometido como un pequeño robo, mío a discriminadores, y
cuando era una menor. Y el otro tipo
más allá, era un criminal mucho más experimentado. Tuvo tiempo de cárcel por
robo a mano armada y otros cargos. Pero según el campus y las puntuaciones fueron de bajo riesgo y frontera
visual era de alto riesgo. Y dos años después, la capitalina va
a responder a haber hecho una predicción equivocada porque ambos que abordan obispo
ordenó no cometieron ningún tipo nuevo. Y Theta por otro lado, estaba cumpliendo en
sentencia ETS para raza general. Ahora espero que
entiendas que pueden echar un vistazo a
otros ejemplos también. Pero ahora espero que
entiendas exactamente cómo IA puede perpetuar injusticia
existente
y los sesgos que las antenas hacen
involuntariamente a los
datos que se alimentan en ella. Y luego en la siguiente sección, vamos a echar un
vistazo a qué principios
podemos poner para evitar que esto
suceda. Esto nos lleva al final de toda
la sección de gobernanza, la, lo que llamó
la sección de riesgos. Nos fijamos en los riesgos que
están presentes a los ojos de lo que ustedes llaman algunos
ejemplos de IA yendo mal. Los peligros de ir en lo que es el peor de los casos y
el estudio de caso de sesgo. Por lo que se puede ver hay todo tipo de coseno i y el cheque completamente
diferente a Occidente, al que normalmente estamos
acostumbrados aquí. Por lo que ahora echemos un vistazo a qué otras medidas y
controles podemos poner en marcha para asegurarnos de que estos sistemas de
IA no tengan estos riesgos y cómo
mitigarlos en la siguiente sección. Gracias.
6. Regulaciones de AI: Hola chicos. Bienvenido a esta sección,
que ahora que tenemos un buen
entendimiento fundacional acerca IA y cuáles son los riesgos y
problemas que pueden causar. Ahora echemos un vistazo de
alto nivel a cómo se crea un marco de
gobernanza para I. Entonces, básicamente, tenemos
un marco de control. Deseo marco de gestión
para que se ponga en marcha la IA. ¿ Cómo vamos sobre eso? Toda esta sección va
a estar enfocada en eso ahora. Por lo que el primer paso son los disfraces,
reglamentos y normas. Ahora, el primer paso es a
nadie le gustan las regulaciones. Porque las regulaciones
parecen burocracia. La gente tiene que llenar
formularios y no cumples con cientos de
eso no era nadie así. Afortunadamente, en realidad no. Desafortunadamente, debo
estar regulado para
protegernos y utilizar la tecnología sin
manipulación ni sesgo. Hablamos de que la IA estaba
sesgada en su última sección. Ahora la mejor manera de
asegurarse de que no sea sesgada y las reglas
son las estimaciones seguras de que las regulaciones están ahí. El triste hecho es que las empresas
suelen enfocarse más en ganancias y estas cosas no le
van a dar una prioridad
adecuada. Queríamos echar un vistazo a las colisiones de
yada en primer lugar, porque B es central para
terminar por todo. Y vamos a echar un vistazo al panorama regulatorio para
la IA, que es la regulación más
importante, la regulación
EIA
actualmente en camino. Como dije, la
necesidad de normatividad. Necesita regulaciones
para protegerse a sí mismo y sus usuarios del mal uso interno
y externo. Y los gobiernos están utilizando
la IA para tomar decisiones rápidas
que pueden tener un enorme, puede impactar tu
salud, tu vida. ¿ Como una enorme cantidad de
diferencias podemos hacer? Y se ve cómo pueden ocurrir decisiones equivocadas, decisiones
injustas, que pueden como vimos, que gente ha sido privada
de atención médica, gente se le ha dado
la cárcel. Todos estos. Entonces si tienes reglamentos, tenemos rendición de cuentas, derechos
humanos. Envía, establece normas
mínimas de trato
que todo el mundo puede aceptar. Dice que todo el mundo
tiene derecho a remediar si no se cumplen esas
normas, entonces en realidad se pueden
documentos que se supone aseguren los estándares que están presentes y cualquiera que sea tan grande, manera estandarizada
se hace responsable. Por eso es tan importante. El país. Lo curioso es que no
existe una legislación específica diseñada
específicamente para regular IA está siendo regulada por la normativa existente como la protección de
datos, la protección
del consumidor. Y esos se han
pasado para regular. Y los gobiernos están trabajando
duro y rápido en ello. Pero ninguna legislación
se ha aprobado adecuadamente en China ha puesto en estrategias
similares, el puerto USS en
la Casa Blanca como un tiroteo luego precipitantes
para la regulación de la IA. Y es como la mayoría de los países
se están centrando en eso. Quería centrarme
en la regulación que se espera tenga más impacto en todo el mundo en esta tecnología en
particular. El global como hablé, se está haciendo
una enorme cantidad de
trabajo. El más ambicioso propone
algunos hasta ahora es del papá
del chico de la Unión Europea para viajar y tú actúas el
año pasado en abril de 2021. Es la primera propuesta de
cómputo del mundo para regular la IA. Y va a tener un
enorme impacto, créanme, en el límite de la IA
y cómo las empresas, tanto a pequeña escala como start-ups, grandes gigantes tecnológicos,
saben cómo pueden usar la IA. Es muy interesante. Ocupa el enfoque espacial. No se prohíbe,
no dice todos los AAs buenos. Por lo que ocupa el enfoque
espacial y hace ilegal
el uso de A4, el violonchelo, propósitos
inaceptables
como el reconocimiento facial y utilizarlo para lo que
llamó escalamiento social. Puedes clasificar a las personas en función un sistema inmunológico confiable
que pueda explotar a las personas. Es por eso que la regulación estadounidense
sigue siendo importante. Pero ¿por qué crees que me estoy
enfocando en esto más que todas las demás regulaciones
que hay ahí y en qué hace especial esta? Bueno, simplemente poner chicos, generalmente regulaciones de la UE, El final por establecer el estándar para el
resto del mundo. No es nada concreto. Pero por lo general eso es
lo que pasó. Cualquiera que haya trabajado en el RGPD, datos privados señalan que usted
lanzó un reglamento sobre RGPD y casi todas el
RGPD y casi todas
las demás regulaciones
del mundo, todos los demás gobiernos,
casi sólo adaptó el RGPD a su entorno
particular. Entonces por eso es tan importante porque
el reglamento EIA, va a marcar el tono para el resto de las empresas. En cualquier empresa que
trabaje en la ONU, incluso fuera de las
cifras, veremos. Por eso es tan importante
conocer realmente esta parte interesante
de la misma, el alcance de la misma. Por lo que tiene un alcance extra
territorial. Es como el RGPD. Es como si se extendiera fuera
de los órganos de la UE. Cualquier proveedor pondrá en el mercado el
sistema de IA. Tú, por supuesto,
definitivamente en la escuela. Pero si eres como
tu proveedor o usuario, se
encuentran en el exterior, pero tu sistema de salidas
se está utilizando en la UE. Por otra parte, estará en
alcance, alcance muy amplio. Y esto, sí, sus sistemas pueden mucho potencialmente
meterse en él. Por lo que está en la tubería y la
gravedad que
llamamos lo
más importante que queremos ver es esta. Como dije, ¿cómo
categoriza los riesgos? En lugar de optar por una manta, una prohibición completa, o
por completo permitir. Se ha utilizado un enfoque espacial
basado en unos pocos niveles, como un aceptable
frente a bajo riesgo de Kiva. Así. Cuanto mayor sea el
riesgo y más lo que llamamos va a poner más restricciones y más
controles encima de eso, las obligaciones motoras
sobre la empresa. Asegúrate de qué tan
transparente
es el algoritmo y las dificultades reportadas
no se están utilizando. Sistema de hidrosfera inaceptable,
simplemente se unen así que ni siquiera
tenemos que pensar en eso, supongo que eres la luna? El foco principal de
esta regulación está en los sistemas de IA a hiperescala. Y estarán sujetos a importantes obligaciones de
cumplimiento de monitoreo técnico. Si estás en el bajo riesgo
y solo tienes que ser transparente
al respecto. Sólo tenemos que informarles. ¿ De qué son los sistemas de alturas de los que
estamos hablando? Quiero decir, esto puede ser como sistemas de
transporte que pueden
poner la salud y la vida de las personas abordar grandes sistemas
educativos que pueden determinar quién
tiene acceso a la educación. Al igual que examinar el puntaje del examen. Como la cirugía robótica. los empleados les gusta escalar a
los empleadores para su trabajo tarde, lo que puede tener un impacto
en quién es contratado o no. Al igual que la puntuación crediticia,
la aplicación de la ley, la migración, todas estas cosas. Aquí es donde cae tu
altura SKA y evaluación de la conformidad de
video
viene en bits Estoy hablando de cuál es la evaluación de
conformidad? Sólo para entender esto. Pero confirmado con
estos SNPs básicamente, es como se puede
decir segunda auditoría, sistemas
de alto riesgo,
necesitarán someterse
a una
evaluación de conformidad. Básicamente, lo que sucede es que pasa por significativo como las evaluaciones tardías
si la precisión en que se evalúa su calidad de
documentación técnica, todo el sistema, es
decir cumpliendo
con el reglamento. Ocurre si pasa, entonces se obtiene una
certificación de la UE. Es similar al registro de
dispositivos médicos, que ya están
ahí en la UE. Puede ser auto hecho, puede ser una autoevaluación. Pero si es como algunos sistemas
que son más sensibles, entonces necesitas que un
tercero experto entre como un completamente indiferente en la
regulación necesita entrar. Tomemos un ejemplo
de una bio-métrica. Por lo que tiene un
sistema AAC utilizado para identificación
bio-métrica por un tercero
tendrá que entrar. El choque
entra en más detalle aquí. Pero sólo para hacerte
entender ahora y después, incluso después de pasar la evaluación de
conformidad y algunos cambios sucedan, tendrá
que volver a suceder. Es una muy poderosa, es como
se puede ver, es como una auditoría de todo
el ecosistema, cómo está funcionando, cuáles
son las reglas y todo lo que no
tendría que poner en juego. Por eso espero que eso te haga entender qué tipo de marco
regulatorio está en marcha que se está
planeando para los sistemas de IA. Ahora, entendiste
la normatividad que están en su lugar
y entrando. Veamos el modo ahora su marco de gobernanza
para la IA en Irlanda. veo en la
siguiente sección, chicos.
7. Marco de gobernanza en AI: Hola chicos. En esta clase, voy a echar un vistazo al marco de
gobernanza de IA. Ahora, hablamos de las leyes, reglamentos y todo. Ahora bien, mientras
se va a emerger una regulación integral
y ejecutable ,
pero va a llevar algún tiempo. Pero mientras tanto,
las empresas no pueden simplemente sentarse y esperar a
que lleguen estas cosas. Un nuevo lugar donde se necesita
tener algún tipo de hola chicos. En esta clase me voy a
centrar en el marco de gobernanza. Ahora, hablamos las revoluciones de
EA en
la clase anterior. Hablamos de cómo están llegando
estas leyes, qué tipo de mandato
controla para ser IA portátil. Y la cosa es que Visa
va a tomar algún tiempo. No se puede esperar que las empresas
se sientan y esperen a
que algo suceda. Por lo que las empresas están
obligadas a poner
en marcha marcos de
gobierno como para asegurarse porque se llama y
muchas empresas
ya están trabajando
ahí para poner en marcha marcos de
gobierno. Especialmente en
países donde se ha estado trabajando mucho en la IA. La empresa debe ser proactiva. Y necesitan tener un
famoso en su lugar para mitigar los riesgos únicos que
la inteligencia
artificial
se está poniendo en
marcha antes de comenzar
en el viaje de la IA, asegúrese de tener
estas cosas en su lugar. ¿ De qué están hablando? Entonces, si lo miras
desde un nivel muy alto, el e-gobierno de La Meca, independientemente de qué
sector te encuentres,
independientemente de la
tecnología que estés utilizando? Como lo que sea. Esto es agnóstico de la tecnología, algoritmo agnóstico y
todo lo que
hablan para
partes generales de un tejido. ¿ Cuándo es la política? Así que siéntate a tono por cómo no
has estado controlando la organización de
órganos. ¿ Cuáles son los
principios generales que
tienes y cómo se
controlará? ¿ Cuáles son las cosas en su lugar? A continuación, es necesario
informar al comité. Esta será gente
de los equipos de datos,
de los equipos de tecnología, de sus equipos de seguridad, de sus equipos de gestión de riesgos. Para que el marco se ponga en
marcha para como una IA que controla
adecuadamente. Y obviamente es una solución que sabían que toman decisiones. Entonces se están tomando decisiones de
go, no-go
en las iniciativas iniciales, moviéndose un poco. Pero por debajo de eso, tienes
un marco de gestión de riesgos. Esto identificará cuáles son las visitas críticas,
que son el Arrhenius. Qué tipo de es, cómo tomamos todos esos espacios ser
una ciberseguridad, ya
sea como sesgo de integridad. Todas estas cosas
conducirán a
convertirse en IA, este marco
de gestión. Y por último, principios, estos
serán en toda la empresa. Entonces AI básicamente para asegurarse de
que está funcionando correctamente. Por lo tanto,
principios de confianza, integridad ,
explicabilidad, equidad
y resiliencia. Y hablaremos más de esto. Estos son básicamente
ayudan a
asegurarse de que usted está gobernando
adecuadamente sobre la organización. Y entro en más
detalle en esto. Pero esto es básicamente un punto de referencia de
alto nivel, alto nivel como un marco
esquelético para cómo implementar la gobernanza. Si sientes esto demasiado alto
nivel y te sientes bien, necesito más detalles al respecto. ¿ Cómo realmente pongo mi
gobierno en mi organización? Votar es que no necesitas
construir cosas desde cero. En 2019, Singapur, diablillamente, una primera edición del marco de dominancia del
modelado. Así que básicamente para el día, bienes raíces para
la adopción retroalimentación. Y proporciona como
fácilmente te proporciona orientación
implementable
sobre cómo implementar gobernanza de la
IA dentro de ella es
como una plantilla excelente. Si quieres usar esto. Y entra en
muy buen detalle, literalmente
se pueden tomar los principios
que están ahí y ponerlo en organización para usar para crear un marco de
gobernanza aérea. Es una muy buena plantilla. Se centra en dos principios
rectores que deben ser explicables, transfiriendo los mismos principios de los que hablamos antes.
Céntrico humano. Quiero decir, debería poner antes nuestras
dietas interés humano, en lugar de ganancias y
todo lo demás por el estilo. Aquí es donde
debemos enfocarnos. Definitivamente
te recomendaría que pongas esto en Google. Lo encontrarás si
te tomas en serio la
implementación de la gobernanza de IA
dentro de tu organización. Hablé de principios de qué otros principios
crear confianza en los sistemas de IA. Cuando hablas de confianza, confianza es imperativa, ¿verdad? Quiero decir, si tus clientes
no sienten que tu sistema los
está juzgando correctamente
o estos sesgos, esto puede tener un gran problema para replicación de
tus clientes si acompaño la repetición
y la tasa de mercado, las empresas son sencillamente, podría estar sujeta a importantes hallazgos. Podrías estar sujeto
a que tu solicitud sea dañada y la industria. Todas estas cosas
entrarán en su lugar. Entonces la confianza es imperativa
para cómo
creamos cruzados ricos
por lo tanto, principios. Poner a los expertos,
integridad, explicabilidad, equidad, resiliencia,
¿qué es la integridad? Estamos hablando de la integridad del
algoritmo. Asegurarse de que nadie altere el algoritmo
o los datos. Cómo puede suceder eso.
Vamos a mirar en el futuro. Estamos mirando a
la clase futura. Explicabilidad. ¿ Sabes cómo
está tomando su decisión la IA? ¿ Es como una caja negra? Nadie tiene idea de cómo funciona
el oído,
cómo, ¿cuál es la
lógica que se está utilizando? No necesita ser
transferido por completo aquí. La imparcialidad. Ya hablamos de justicia, ¿verdad? Al igual que no deberían ser sesgados. Si estás tomando decisiones
sobre una sociedad en particular, debería reflejar todas las razas. Índices de etnias ID que los datos de
entrenamiento no deberían
tener igual que el 90% cuando se excluye
el grupo
étnico y todos los demás grupos porque eso
sería completamente inaceptable. Y el último es
atributo de resiliencia técnicamente robusto. Es necesario tener
controles en su lugar. El oído debe
poder desviar los ataques, debe poder recuperarse. Y veremos más
detalle de estas cosas. Entonces estos son los cuatro principios
básicos chicos, hay
que tener en su lugar. Eso cubre el marco de
gobernanza. Espero que eso fuera útil. Espero que tengas una
buena idea ahora cómo crear un marco de
gobernanza de IA, ¿cómo hacerlo prácticamente? Bueno, ¿qué aprendimos aquí? Habíamos aprendido acerca de
las regulaciones y estándares de AIG, cómo están los gobiernos. Creo que al reto, principios de
confianza, cómo incrustar la aplicación AA
del cliente. Una cosa a tener en cuenta, y cómo crear un marco de
gobernanza global para asegurarse de que sus
aplicaciones que están ahí, sean seguras y confiables. Eso concluye más o menos la parte
de gobernanza de nuestro rumbo. Espero que entendáis ahora qué otros, están en un alto nivel. Cómo crear un framework Ws independientemente del
sector en el que te encuentres. Ahora, vamos a
entrar en la siguiente sección. Están entrando en más detalle
sobre seguridad técnica. Hemos hablado de conocimientos de
alto nivel entran en qué tipo de discos de seguridad están presentes
dentro de las aplicaciones de IA. Y los veré en
la próxima clase, chicos. Gracias.
8. Riesgos de seguridad en AI: Hola chicos y bienvenidos. Esta es muy posiblemente la sección
más importante del curso que es
los
riesgos de ciberseguridad en los sistemas de la IE. Ahora hemos conseguido la base sobre gobernanza y gestión
y lo que tenemos que hacer. Ahora echemos un vistazo realmente ciberseguridad y los sistemas
vasculares. Y si de verdad quisieras
echarle un vistazo, por
lo general provoca que
haya tres tipos de formas en seguridad que
esto puede suceder. Ai puede causar el
disco involuntariamente o puede ser
uso maliciosamente como alguien. Puede actuar como un habilitador habilitador para los ciberdelincuentes. Ya sabes, lo que iba a pasar
en las células se ve comprometido. Este es un mundo en el que
es un área muy, muy nueva. Y no mucha gente
está haciendo trabajo en esto,
lamentablemente, lamentablemente, desde la perspectiva de los
profesionales de la ciberseguridad. Si pides una guía normal de
ciberseguridad y lo haré ahora mismo en 2022, ¿cómo te aseguras en
un sistema
abordarla desde la forma tradicional que se acercan
asegurando cualquier sistema, seguridad,
sistema de software o hardware que está ahí como cómo no tenías que
configurarlo y duro en el sistema hacer
pruebas de penetración y todo eso. Pero lo que no se dan cuenta es cómo se
configura el sistema, quién tiene acceso. Pero de lo que no se
dan cuenta de esto son ciertos discos que son
muy exclusivos de AIS Systems. Y ese es todo el propósito
de esta sección en particular, es concienciar sobre la seguridad única de los
interruptores en el aprendizaje automático. Entonces, por su propia naturaleza, los componentes de
IA no obedecen a las mismas reglas que el software
estadístico, los sistemas de
IA y los algoritmos de
aprendizaje automático. Están confiando en reglas que, que se
basan en el análisis de datos o en grandes
colecciones de datos. Y te metes con estos datos, en
realidad puede cambiar el
comportamiento del sistema. Lo que está sucediendo es, a medida
que se agrega cada vez más, IA se está utilizando para automatizar la decisiones en todos los sectores. El fin exponiendo estos
sistemas de los ciberataques, que pueden tomar ventajas de los defectos y
vulnerabilidades de la IA. Y si realmente necesitas saber esto para
mitigar adecuadamente estos ataques. ¿
Hablaste de los riesgos de seguridad, café, yo cómo puede
pasar y lo que sea. Esto es, un papel muy excelente. Yo recomendaría a
cualquiera que vaya a leer esto como malicioso report.com de la
CIA. ¿ Qué dijeron? En realidad, este informe
fue escrito por 26 autores de 14 instituciones, academia,
sociedad civil, industria. Tenían un taller de dos días
realizado en Australia. Creo que fue febrero de 2017. Y se puede repasar este reporte. Es un reporte de accidente,
pero ¿qué hizo lo mismo? Puedes mirarlo
en tu propio tiempo, pero dijeron ciertas cosas que me parecieron muy interesantes. Las capacidades de IA descendente se están volviendo cada vez más poderosas que por la propagación, ¿verdad? Lo que va a pasar es que el panorama
de amenazas va a cambiar. Los viajes existentes se
van a expandir. El costo de los ataques
bajará debido
al uso de la IA. Normalmente, estarías pagando a la
gente en el doctorado. Esas cosas que puedes descargar hacen. Sé que surgirán nutrientes, que no teníamos ni idea. Y de lo contrario,
como en la práctica, no
esperarías
este derribo cambio de nivel de amenaza
existente. Algo estaba sucediendo de una
manera particular a malware completamente cambiado, ataques
DDoS, vamos a
cambiar para acomodar a la IE. Por eso chicos,
por eso estoy entendiendo. Esto es lo que está diciendo este
documento. En realidad, cuando
habló de los riesgos de seguridad
que se ponen en la IA, hay dos tipos
de categorías. Uno son los discos que no
son exclusivos de la IA, y el otro que
son únicos de la IA. En el primero, es técnicamente es como
ser atacado y el segundo una oreja está
siendo manipulada o se está utilizando para
atacar otra cosa. Si hablas de la
visita no son singulares. Estamos hablando de seguridad de la tasa de
infraestructura subyacente, cómo se están asegurando los datos, cómo se almacenan los datos. ¿ Los sistemas están configurados correctamente? Acceso a Internet
correctamente
configurado, solo las cosas estándar con propósito
de ciberseguridad
ya saben. Y el otro
es la seguridad de datos. ¿ Cómo se
transportan esos datos? Asegure los conjuntos de datos y
no conseguir demasiado sí, no
creo que sea la falta
de conocimiento lo que quiero decir, como alguien que
ha estado trabajando en seguridad en la
nube durante
los últimos dos años. Esta es otra
área de la
que siento que
falta mucho conocimiento. Es por eso que no está
ahí usos he hecho este curso chicos para
empoderar a la gente a saber
sobre estas cosas. El desconocimiento sobre IA, Esto es muy severo. Tienes profesionales de EA, tienes profesionales de seguridad, pero no tienes gente
que sepa entre los dos. ¿ Y cuáles son los
visitantes únicos que vienen? Cuáles son las decisiones
que necesita para la IA donde podemos hablar de ataques de
envenenamiento y qué
verá el envenenamiento de datos con más detalle. Pero básicamente
recuerda lo que dije. Los
algoritmos de aprendizaje automático utiliza datos a qué decisiones? ¿ Y si pudiera meterme
con estos datos? ¿ Y si realmente pudiera
cambiar los datos? Ciertamente, en realidad afectará las decisiones que está tomando
el
algoritmo de aprendizaje automático. Hablando de los modelos
de aprendizaje automático, ¿y si contamino? Y si ese modelo es como un modelo comercial
se está sacando de un repositorio en algún lugar, puedo ir y ponerlo de
nuevo a la derecha. O tal vez pueda poner un nuevo modelo de
machine learning, que es muy bueno, pero tiene una puerta trasera dentro.
Es como un troyano. Están llegando nuevas vulnerabilidades porque las empresas
quieren usar un rápido. No suelen construir los
modelos desde cero, ¿verdad? En realidad lo compran
comercialmente fuera de alguna poderosa red
disponible de código abierto allí. Estos son los nuevos
tipos de física que verás entrar
por el camino. Echemos un vistazo,
recuerda, lo hicimos hace un tiempo, el algoritmo de aprendizaje automático. Ahora, echemos un
vistazo desde
la perspectiva de seguridad y
ves alguna IA específica. Ahora, cuando un modelo de
aprendizaje automático ha sido entrenado en datos, estos datos pueden ser
en realidad venenosos, contaminados por un atacante. El entrenamiento y
la superficie sólo se realiza. Pensarías que
¿cómo podría pasar esto? Bueno, mucho tiempo
esta beta es hace datos de capacitación no es algo que nuestra empresa
negocio desde cero, pero en realidad está disponible
abierto en código abierto, como si estuviera completamente disponible. O muerden comercialmente
porque no
tienen el tiempo y la energía
para hacerlo ellos mismos. Pero debido a que mucha gente,
lo subcontratan. Y luego la guía. Entonces, ¿conseguiste estos modelo de
datos pre-entrenados ya está ahí? ¿ Y si voy allí y
contamino los datos? ¿ Y si hubiera
cambiado las etiquetas? Y usted entiende
la decisión en su lugar, la formación básica
en sí podría estar equivocada. Vale, entonces pasamos
a la siguiente fase, que es el trig modelo de
entrenamiento, estás entrenando un algoritmo de
aprendizaje automático. Estamos en tendencia en los modelos de datos
equivocados. Entonces, qué pasa como te
mostré estos modelos, el ojo suele ser muy,
computacionalmente, muy intensivo. Requieren la mitad de nuestros datos, VP de capacitación y ese resultado, muchos que hacen lo que
hacen, subcontratan y a la Cloud y confían
en modelos preentrenados,
modelos que
ya están pre -entrenado. Apenas llegar de
Internet. ¿A qué puedo ir? Simplemente puedo ir y tirar. Me gusta inyectar maliciosos de
nuevo a ella dentro de la morula. Cuando descargues este modelo,
tendrás una puerta trasera. Cualquier motivo, molesto, lo que sea Es como modelo de
reconocimiento oficial. Pongo ahí un dos que no se reconocerá mi
rostro. Y no lo
sabrás, ¿verdad? El Odd Tal vez sea como un
auto autoconductor, ¿verdad? Tienes esos autos
autoconducidos. Y en lugar de una señal de stop, cambié para ignorar dejar de decir, qué
va a pasar. Se puede imaginar el
impacto que será. Por lo que tendrás aquellos en datos
característicos de entrenamiento y modelos
incorrectos desde el principio. Por eso es tan
crítico si lo puede pasar si los actores directivos acceden a los
datos de entrenamiento o al modelo, en realidad
pueden manipular
esa información. Y lo que sucede a continuación,
los datos de producción. ¿ Cómo se llama los
datos de producción será usted está entrenando el modelo en cada
vez más datos, verdad? Entonces lo que sucederá es que muchas
veces
estos datos han sido manejados por científicos de datos y no están capacitados
sobre seguridad. Esto no es como un
nuevo único para la IA, pero estos
datos de producción pueden ser violados. Espero que entiendas
ahora cuando estamos
hablando del aprendizaje automático y se está haciendo
el suplente. Puedes tener cosas
como el envenenamiento de datos. Se pueden tener cosas como la
policía modelo que hay una puerta trasera de la que solo los
atacantes conocen. Y puede hacer que AWS
suceda debido a una intensa cantidad de datos
que se ha bombeado en él. Entonces esto es más desde la perspectiva de aprendizaje,
pero ¿qué pasa? Veamos desde
el ciclo de vida de un modelo. Esto es, este es tu modelo tradicional de
machine learning es un enfoque simplificado, pero veamos desde el contexto de todo el
ciclo de vida de un módulo. Como dije antes,
por el aire, se necesitan tantos datos, se necesitan tanta
potencia computacional para entrenar algoritmos. El actualmente que más empresas hacen es que suelen utilizar modelos. El chat entrena por las
grandes corporaciones y las modifican ligeramente. Por ejemplo, tienes
como modelos populares de
reconocimiento de imágenes como de Microsoft. Y lo que hacen, estos modelos
están poniendo más Hu Zu, como si fuera como un repositorio. Lo que puedo hacer es que
el atacante
simplemente puede ir y modificar los modelos en el repositorio
y envenenará el pozo para cualquiera más
también con hacerlo bien. El siguiente paso será envenenamiento de datos como este que ya
hablé contigo. Alguien puede ir y
envenenar los datos, que se han utilizado
para entrenar el modelo para que tome decisiones
incorrectas. A continuación se realizan pruebas moderadas. Estás probando el modelo. Vas a tener
una base de datos donde
podrás tener
puntos de datos en general. Por lo que el siguiente paso, optimizando el video
o afinando el modelo. Lo estás haciendo
para asegurarte de que sea corto, está tomando
las decisiones correctas. Puedes tener una brecha de datos donde no
tuviste un
punto de datos aquí también. El segundo es el modelo comprometido. Entonces lo que sucede aquí
en el modelo comprenden el atacante no es como manipular el
algoritmo ni nada. Está explotando software. Esta vulnerabilidad es, ya
sabes, ya sabes, tú, si has trabajado en
aplicaciones como vulnerabilidades de
una aplicación tradicional, pueden manipular
el software que está ahí para acceder a su aprendiendo como trabajo interno de las acuarelas
tradicionales de aprendizaje automático, debes asegurarte de que tus configuraciones de
seguridad tradicionales estén ahí desde tus
componentes y todo. De acuerdo, entonces ahora la
modelo se pone en vivo. Se pueden tener cosas
como modelar visión, ¿qué es más la televisión? Más televisión es como. Tomemos un ejemplo de un modelo de reconocimiento de
imágenes. Cosas que son muy sutiles. Ya sabes, lo que puedo hacer es si yo, si muestro ese modelo de
reconocimiento de imagen, como una imagen de un gato, por solo cambiar un
poquito por unos pixeles, en realidad
puedo modelar
no podré clasificarlo como un gato. Cosas que son indistinguibles
para un ser humano, el modelo cambió por completo
el funcionamiento de un módulo. Y entonces, ¿qué hacen los atacantes para
seguir probándolo, probándolo, ¿quieres ver
cómo evadir esa moral y qué tenemos que
hacer para asegurarnos de que no funcione correctamente? Después de
eso, ¿qué pasa? Extracción modelo. Entonces, ¿qué es la extracción de modelos
y la extracción de datos? Pueden mantener a los atacantes pueden
seguir agregándolos o quién. Pueden mirar,
lo que está regresando, las respuestas que está enviando
el modelo. Y en realidad pueden usar
eso para recrear el modelo. Para que usted pueda tener su
propiedad intelectual de IP que se le diga. Porque estamos empezando
en frecuencias. Sigue citando ese modelo, tratando de entender cómo funciona
el modelo, ¿cuál es el resultado
que sale? Y se había graduado en tragedia, construye una imagen
de ese modelo, por qué está sucediendo, porque el modelo está dando
demasiados datos. Nosotros, en base a eso, él es capaz de extraer
datos y la lógica modal. Por último es el compromiso moral que hablé antes también. Entonces básicamente, el modelo puede ser el software con
este modelo se construye, los pasivos de software, se
pueden comprometer, llevando a un compromiso
del modelo interno también, espero que hayan entendido chicos. Ojalá esto fuera bueno. Pude explicarles dentro del
ciclo de vida de un modelo, ¿cuáles son los tipos de
amenazas que pueden ocurrir? Y se puede ver que muchas
de estas cosas son completamente ignoradas por profesionales de la
ciberseguridad Hoy en día, no
se dan cuenta de
que estas cosas pueden pasar. Entonces por eso es tan importante
para ti entender. Ahora que lo has entendido. En la siguiente sección,
vamos a
hablar de como crear un marco de
ciberseguridad. ¿ Cuáles son las cosas
que debe hacer para
asegurarse de que su IA esté
asegurada correctamente.
9. Marco de seguridad: Hola chicos. De acuerdo, así que ahora
casi hemos llegado a la última, nuestra última clase, que está creando un
marco de ciberseguridad para los sistemas de IA. Como cómo otra vez, ahora
entendimos la
vasculatura ahí, ¿verdad? Entonces, ¿cómo los aseguramos verdad? ¿ Ahora? Odio decirte
esto,
no hay una estrategia única en la aplicación controles de
seguridad para proteger algoritmos de
IA y
aprendizaje automático. Lo que estás haciendo en este momento, solo
necesitas
personalizarlo un poco y elegir
cuidadosamente los controles
específicamente para la IA. primer paso es bastante simple, regular
regulaciones y
leyes de evaluación que
se cumple la aplicación de IA. Se remonta a la
normatividad de la que
hablábamos , el RGPD. No le diste que tú desregulación y
todo eso bien. Porque los médicos establecen el
punto de referencia y se establece el tono para todas las demás cosas que
van a suceder. Es necesario mantener un
inventario del sistema de IA. Si ni siquiera sabes qué
sistemas se están utilizando, CDD o competencia,
no podrás asegurarlos, ¿verdad? Y son unos
pasos básicos que no
creerás con qué facilidad
se lo perderá. Luego crearás una línea de base de
seguridad de IA y aprendizaje
automático. Y lo vemos en
la próxima sección. ¿ Qué tan difícil hacer eso? Esto se basa en la física. Tendrás que asegurarte de que
esos controles estén ahí. Y necesitas actualizar tus procesos de seguridad
existentes para incorporar técnicas de IA y
aprendizaje automático. Necesitas
asegurarte de que si
tienes pruebas de seguridad sucediendo, está cubriendo el aprendizaje
automático de IA? Si tienes, como, no sé, pasando las pruebas de
penetración. Es la empresa de TI IN, está
probando al candidato de datos para estar contaminado o no como pueden ocurrir ataques en la cadena de
suministro. Por último, y por supuesto, eso
es lo que realmente,
realmente quiero enfocarme . Al igual que como
lo llamas, la conciencia acerca de la IA. Es tan importante educar a sus profesionales de la ciberseguridad
y a los científicos de datos. El toque de la CIA apuntando algoritmos de
aprendizaje automático, porque una vez que los eduques
como testigo se crea
lentamente, lentamente, entonces
podrás mitigar
estos riesgos adecuadamente. Pero actualmente hay una
gran brecha en el marketing, desafortunadamente, eso es
lo que quieres saber. Entonces sólo para recapitular, mirando las leyes, manteniendo inventario, crear una línea de base. Te mostraré cómo y luego actualizaré tus procesos de
seguridad existentes. Tener revisiones de seguridad anualmente están descubriendo sus sistemas de
aprendizaje automático de IA tampoco lo son. Y por supuesto,
la creación de inocencia
ahora puede dejarnos ver
los controles de seguridad
que deberían estar ahí. Quería ir basándome en las
vesículas que están ahí. El primero que es
el ataque más común, que
hablé, veneno de datos. Como dije, lo puse en la descripción
que se podía mirar. Básicamente, como te dije, el atacante
desplazando los datos,
que los aprendizajes de la máquina, a
qué se llama
toma de decisiones se ve comprometida porque
se alimenta de datos sin procesar. ¿ Qué necesitas hacer la
seguridad que contiene para asegurarte de que los datos supermodelo y debes asegurarte de que cheques
y saldos. Están ahí. Cualquiera que verifique la
integridad de los datos, que pueda comprometerse con estos
datos, que pueda modificarlos. Ok, el siguiente paso es envenenamiento
modelo, en el
que como te dije, como alguien puede
inyectar algún tipo de comandos
maliciosos
dentro de la puerta trasera, como una puerta trasera
al aprendizaje automático. Y es especialmente
riesgoso porque mayoría de las empresas
no creen modelo desde cero y eran como en las disponibles públicamente,
como los ataques a la cadena de suministro. No uses modelos directamente desde Internet
sin revisarlos. Utilizar modelos que son
las amenazas realmente lo
identifican y existe el control
de seguridad de elevación. Si especialmente si estás
trabajando en alto riesgo, definitivamente te
diría que no uses cosas que estén disponibles
públicamente. Fuga de datos en la que el
atacante puede comprometer, incapaz de acceder a
los datos en vivo que se han alimentado al sistema en las
fases de ajuste fino sobre la producción. Quieres
asegurarte de tener una canalización de datos si monto de seguridad
autorizado acceso, si usó un get de
tercero que maduro, su integridad
se verifica de nuevo, una cadena de suministro y
que entra aquí. ¿ Qué significa la lista
comprometida el modelo? Cuando
te hablé de que alguien puede comprometer las bibliotecas. La mayoría del software hoy en día se basa en bibliotecas de software de código
abierto. Es necesario asegurarse de que
esas sean de seguridad pública. Necesitas
asegurarte de que esos se estén
probando y no
necesitas tener algún
tipo de monitoreo. Por favor use algo así como fluctuación sucede dentro
del modelo de aprendizaje automático, algunos cambios están sucediendo. Es necesario definir métricas y puede identificar rápidamente las
anomalías que están sucediendo. Innovación modelo. ¿ Qué es la división modal? Este es otro movimiento de
los ataques más comunes. El atacante encuentra una
manera de engañarlos, son básicamente engañarlo para que tome una
decisión equivocada. Ciertamente cambió lo importante. Como te dije, si es un reconocimiento de imagen,
traté de encontrarlo. Tal vez si acabo de
poner unos pocos píxeles, entonces no clasificará
la imagen correctamente. ¿ Qué necesitas hacer? Necesitas realmente poner estos datos
adversarios dentro de eso
cuando lo estás probando, soporta todo tipo de datos incorrectos. También ve cómo la mortalidad x, porque si la has probado,
entonces puedes asegurarte, te
aseguras de que sea parte de
tu calle de pruebas. ¿ Qué hace la extracción de datos
modelo de este tipo? Esto ya se lo ha dicho, ¿verdad? Alguien puede intentar modelar datos. Y la lógica Introducción a prácticamente
lo mismo en realidad, ¿qué comía el atacante parece? Sigue enviando a Claudio
cada vez más consultas. Y quiere ver qué
tipo de salida está llegando. Y en base a eso, puedes
entender cómo
funciona tu modelo y qué datos están llegando y
reconstruir el modelo. Podemos reconstruir los datos. El control aquí es
más o menos lo mismo. Necesitas controlar
qué tipo de, cuánto detalle está dando tu
modelo. Es necesario asegurarse de que los
datos probablemente estén desinfectados. No estás recibiendo
demasiados datos. Es cierto o no dos variables. necesario
mirarlo realmente desde una perspectiva de riesgo, limitar la cantidad de
información que se está saliendo. Porque míralo
desde los ojos de un atacante y cómo se
puede usar maliciosamente. Chicos, ahora que lo
saben, ahora pueden
echarle un vistazo. Por lo que estos son los
controles reportados. Harás una evaluación
de riesgos de tus herramientas de gestión de modelos. Y es como si
tienes un modelo de alto riesgo, no
te gusta,
tomarlo de Internet. Crearás tu hoja de evaluación de
riesgos en
base a los controles
que te he dicho, harás verificación de modelo, verás la integridad. ¿ Está ponderada esta probabilidad? ¿ Lo están utilizando las empresas? Como qué clase de como
si está completamente fuera del azul
innovador lo está usando,
ningún cliente lo es. No
uses ese modelo. Entonces te
asegurarás de que la idea
de controles a partir de la verificación de datos es que hicieron un analizado los controles en su lugar
a partir de tus datos. Al igual que si haces una
debida diligencia completa del vendedor, si viene de
tarifa externa que Seguridad de Sistemas, te asegurarás de que esos controles idea de que los datos
vuelven a ser mejor luchar contra tus modelos y los componentes que
son el software. Este modelo es seguro, probado con pruebas contradictorias, como te dije, te
asegurarás de que salga la salida. Está adecuadamente desinfectada o no. Y la seguridad de los componentes, no
me gustaron las bibliotecas de
software. Como espero que ustedes bajo chicos estrictos lo que
yo estaba tratando de decir, sé que es mucho que tomar, pero esto es sólo para desarrollar
esa mentalidad dentro de ustedes sí entienden la
seguridad particular distancia
que están ahí. Si quieres hacer
una inmersión profunda real, hay algunos
recursos disponibles de una ESA, de Microsoft. Puedes ir a este
enlace y
descargarlos y realmente te puede gustar. Espero que este curso te haya
ayudado a entender lo que necesitas hacer y
cómo entenderlo. Para que puedas referirte a las fuentes. Hay muchas, muchas
fuentes disponibles. Espero esto, he creado esa motivación dentro de ti para ir a mirar estos cursos. Bien, así que finalmente chicos, lo
estamos alineando. Esta fue la última clase,
creo así que lo que
entendimos es que ahora entendiste los distritos de ciberseguridad, existen los riesgos únicos
que pueden suponer los sistemas de IA? Y cómo rastrear el modelado o qué, ¿qué
necesitas mirar? Cómo poder palpar análisis
campus de un
sistema y cualesquiera
controles únicos que necesites para crear y poner desde la
perspectiva de la IA. Ok chicos, pasemos a nuestra última clase y
espero que hayan disfrutado esto. Y digamos nuestras despedidas en
la sección que viene, por favor. Gracias.
10. Camino: Felicidades chicos, hemos llegado al final
de esta masterclass. Y sinceramente espero que ahora
tengan una apreciación por el nuevo entorno que usted y cuánto la IA va a cambiar
el panorama de amenazas es como una tecnología irreductible e interrumpir todos los disruptores o cambiar las cosas por
lo bueno y lo malo. Además, hay que asegurarse, pero la conciencia es como el conocimiento
es que el poder es el sensor. Ahora, espero haber
deshacer ese conocimiento. Como dije, Cómo construir sobre lo que has aprendido
para el proyecto. Te lo dije, necesitas crear un modelo de amenaza de un
sistema de IA o puedes haber investigado que desprende
sesgo y entender cómo
sucedió porque esto realmente
te
permitirá entender esta lección. A menos que los aplique,
lo olvidará. Espero que esto les haya sido
útil chicos. Por favor, déjame una opinión y comentarios si es
positivo o negativo. Y agradecería sus comentarios sobre esto
si quisieran seguirme. Estoy ahí en YouTube y
el tipo de seguridad en la nube, ese es el nombre de mi canal. Y eso es más o menos, chicos. Muchas gracias por
tomar mi clase y les deseo todo
lo mejor en su viaje de aprendizaje
automático de IA, y espero verte
en futuros cursos también. Gracias.