Gobernanza y seguridad de la inteligencia artificial 2023 | Taimur Ijlal | Skillshare
Menú
Buscar

Velocidad de reproducción


  • 0.5x
  • 1x (Normal)
  • 1.25x
  • 1.5x
  • 2x

Gobernanza y seguridad de la inteligencia artificial 2023

teacher avatar Taimur Ijlal, Cloud Security expert, teacher, blogger

Ve esta clase y miles más

Obtenga acceso ilimitado a todas las clases
Clases enseñadas por líderes de la industria y profesionales activos
Los temas incluyen ilustración, diseño, fotografía y más

Ve esta clase y miles más

Obtenga acceso ilimitado a todas las clases
Clases enseñadas por líderes de la industria y profesionales activos
Los temas incluyen ilustración, diseño, fotografía y más

Lecciones en esta clase

    • 1.

      INTRODUCCIÓN AL CURSO

      4:36

    • 2.

      Visión general de IA

      5:54

    • 3.

      Visión general de la Machine

      2:48

    • 4.

      Necesidad de gobernanza de IA

      5:27

    • 5.

      Sesgo en modelos de IA

      4:53

    • 6.

      Regulación de IA

      7:17

    • 7.

      Marco de gobernanza de IA

      5:54

    • 8.

      Riesgos de ciberseguridad en la IA

      11:11

    • 9.

      Marco de seguridad cibernética

      7:16

    • 10.

      Mucho más adelante

      1:02

  • --
  • Nivel principiante
  • Nivel intermedio
  • Nivel avanzado
  • Todos los niveles

Generado por la comunidad

El nivel se determina según la opinión de la mayoría de los estudiantes que han dejado reseñas en esta clase. La recomendación del profesor o de la profesora se muestra hasta que se recopilen al menos 5 reseñas de estudiantes.

141

Estudiantes

2

Proyectos

Acerca de esta clase

La Inteligencia Artificial (IA) está causando cambios masivos en nuestras vidas, tanto a nivel individual como social con el mercado global de A.I. que se espera que alcance alrededor de 126 mil millones de dólares para 2025. A medida que cada vez más toma de decisiones se gestiona por los sistemas de IA, se están introduciendo nuevos y únicos riesgos debido a una rápida adopción de I.I.

La gobernanza de la IA y la ciberseguridad es un nuevo campo para muchos profesionales debido a la (aparente) complejidad que le rodea. Según la Guía de mercado de Gartner para la gestión de confianza, riesgos y seguridad de la IA: “La IA plantea nuevos requisitos de gestión de confianza, riesgo y seguridad que no abordan los controles”. Este curso innovador se ha abordado para cubrir esta brecha para que profesionales de gestión de riesgos y expertos en ciberseguridad puedan comprender la naturaleza única de los riesgos de IA y cómo abordarlos.

  • ¿Te interesa aprender los nuevos riesgos que introducen la Inteligencia Artificial (IA) y el aprendizaje automático?

  • ¿Quieres saber cómo crear un marco de gobernanza y ciberseguridad para la IA ?

Si respondiste a SÍ, este curso es para ti! Este curso está diseñado específicamente para enseñarte sobre los riesgos de IA sin ningún conocimiento previo asumido. Para este curso no se requieren conocimientos técnicos de los sistemas de IA.

Con tu curso aprenderás :

  • Los riesgos clave que los modelos de IA y Machine Learning introducen y cómo abordarlos

  • Cómo crear un marco de gobernanza en tu organización para permitir la gestión de riesgos

  • Los riesgos de ciberseguridad que los sistemas de IA introducen y cómo abordarlos
  • Cómo implementar controles de seguridad en cada fase del ciclo de vida de Machine Learning

¡Empecemos!

Conoce a tu profesor(a)

Teacher Profile Image

Taimur Ijlal

Cloud Security expert, teacher, blogger

Profesor(a)

Habilidades relacionadas

IA e innovación Fundamentos de la IA
Level: Beginner

Valoración de la clase

¿Se cumplieron las expectativas?
    ¡Superadas!
  • 0%
  • 0%
  • Un poco
  • 0%
  • No realmente
  • 0%

¿Por qué unirse a Skillshare?

Mira las galardonadas Skillshare Originals

Cada clase tiene lecciones cortas y proyectos prácticos

Tu membresía apoya a los profesores de Skillshare

Aprende desde cualquier lugar

Ve clases sobre la marcha con la aplicación de Skillshare. Progresa en línea o descarga las clases para verlas en el avión, el metro o donde sea que aprendas mejor.

Transcripciones

1. Introducción al curso: Hola a todos. Bienvenido a este curso. Soy tu instructor timidilato. Y gracias por tomar la decisión aprender y entender sobre la gobernanza de la inteligencia artificial y la ciberseguridad. Ahora, la IA es uno de los campos más emocionantes en todo el mercado está lleno de oportunidades y empleos. Se oye hablar de ello en las noticias, todas partes, más o menos en las redes sociales. Cada vez más personas están queriendo conocer esta nueva tecnología. Y la demanda de profesionales de IA está en auge en todas partes. Ahora, la IA es como un campo masivo y puedo pasar edades solo hablando. Pero el foco de este curso en particular es yo, gobernanza y ciberseguridad, que es un tema que mucha gente le interesa. Reúne a dos de los más calientes de la actualidad, que es la inteligencia artificial y la ciberseguridad. Y honestamente creo que no hay suficiente material presente sobre esto o lo es, pero está esparcido por todo el lugar. Podrías encontrar cursos sobre IA. Encontrarás preguntas sobre ciberseguridad, pero no hay suficientes cursos te están enseñando a los sistemas de inteligencia artificial de seguridad. Y ojalá esto llene ese vacío. Si no tienes idea de qué es AIA y cómo funciona cuando nadie, te guiaré a través de lo básico también antes de profundizar en el gobierno de las secciones de ciberseguridad. Si realmente quieres aprender sobre las cosas básicas III y no realmente interesado en la saga desaparecen y la ciberseguridad. Tengo otro curso aquí que tejidos en lo básico de la IA y prácticamente te enseña sobre IA y tanto la teoría como la práctica. Si quisieras simplemente mirar ese tema. Quién es este curso para chicos, como, yo diría casi todo el mundo porque creo que todo el mundo debería saber de la IE dado cómo está impactando al mundo y la sociedad que nos rodea está teniendo un impacto masivo sobre nosotros, ¿verdad? Entonces en un trabajo como sociedad y definitivamente debes saber todo al respecto, Definitivamente te lo agradecerías. Pero si quieres dejar que lo mires, quiero decir, si eres especialista en gestión de riesgos o gobernanza, definitivamente agradecerías este curso porque ya estás en ese campo escribiéndote evaluando el riesgo y entendiendo si estás en ciberseguridad, querrías saber sobre las visitas de IA y cómo mitigarlas. Si estás en el propio campo de la IA, como si fueras científico de datos o tu ingeniero de aprendizaje automático. Y quieres aprender sobre los riesgos potenciales y quieres entender lo que son entonces definitivamente este curso es para ti. A veces se obtiene la visión del túnel y no se obtiene el panorama general de la tecnología en la que estamos trabajando. Por último, dije que cualquiera que esté interesado en la IA, no hay requisitos previos para este curso. Quiero decir, no necesitas tener un doctorado en matemáticas, como una programación Python o algo así. No. El libro va es más o menos para cualquiera que quiera saber acerca de la IA y cuáles son los riesgos a su alrededor? ¿ Cuáles son los temas que vamos a estar tocando, chicos? Estos son los temas que abordaré brevemente sobre la IA y el impacto que está teniendo en los seres humanos y la sociedad y por qué. Haremos una visión rápida del aprendizaje automático. Está instalado. Es importante saber porque ahí es donde viene la mayor parte del rescate y es el subcampo más popular en inteligencia artificial. Entonces en realidad entramos en la carne del curso. Veremos por qué la gobernanza y la gestión de riesgos lo plantean tan importante y cómo crear un marco particularmente de gobernanza. Entonces conseguiremos un poco más instructor técnico comprenda los riesgos cibernéticos que son exclusivos de los sistemas EHR, y cómo crear un marco de ciberseguridad que esté personalizado para la inteligencia artificial. Ahora que ya sabes, ojalá un poco sobre el curso, poco más sobre mí para que sepas quién es tu maestro, quién te está enseñando. Mi nombre es femoris largo. Llevo cerca de dos décadas en el campo InfoSec. Actualmente estoy radicado en el Reino Unido donde me muevo repentinamente después de pasar una década en los EAU. Soy escritoras publicadas porque siempre me encantó enseñar y básicamente crear una vena. Se trata de tecnologías nuevas y emocionantes. Tengo un canal de YouTube llamado Cloud Security Guide, que está enfocado específicamente en la seguridad en la nube y los riesgos de IA y caballeros, asesoría profesional. Entonces Blues, por favor visita y suscríbete allí si te interesa ahí. Así que sí, eso es más o menos sobre mí chicos. Una cosa para este curso es proyecto. Ahora, me gustaría que aplicaras los conocimientos que obtienes en este curso. Y quiero que cree un modelo de amenazas para aplicaciones basadas en IA. Y creo firmemente que el conocimiento no aplicado se olvida. Aprenderás a crear un modelo de amenazas en las futuras secciones. Y quiero que utilices el conocimiento neto y el modelo de cabeza de cetonas de un sistema de IA. Puede ser una habilitada como de uso común, recomendaría como vehículos autoconducidos. Escuchamos mucho sobre eso. Toma los principios que aprendiste en este curso y aplícalo y crea una evaluación de riesgo de amenazas de vehículos autoconducidos. Hágamelo saber para que pueda obtener mis comentarios, todo eso también. Eso más o menos lo envuelve, chicos, espero que les haya dado una buena introducción sobre este curso. Empecemos a aprender acerca IA y cómo gobernarla y asegurarla. Y te veré en la siguiente sección. 2. Descripción AI: Hola chicos, Bienvenidos a esta sección. Antes de saltar a la gobernanza y la gestión de riesgos, yo, quería tener una más rápida segura, pero es útil saber lo que está asegurando, cuál es su gobierno antes de que realmente comenzara. Si ya eres como un experto en IA y ya relevante qué IA y aprendizaje automático. No necesitas un repaso. Entonces por todos los medios salte esta sección. Pero siempre me recomendaron que hagas refrescantes conceptos básicos. Y a veces se puede atar un poco en los detalles y olvidar el panorama general. Cuál es el experto en Inteligencia Artificial AI, la persona que se llama el padre de John McCarthy. En 195060 organizó una conferencia muy famosa llamada la conferencia de modo oscuro. En su charla acuñó el término inteligencia artificial y lo definió como la ciencia e ingeniería de hacer máquinas inteligentes. Básicamente, ¿qué significa eso? Los signos de problemas, como dije, los signos de que los sistemas informáticos puedan realizar tareas con solo humanos hacen como el reconocimiento del habla, el reconocimiento de la visión, visión las decisiones inteligentes, el procesamiento del lenguaje. ¿ Por qué necesitamos hacer eso? Podrías preguntar, vale, bueno, ¿por qué hay seres humanos? ¿ Por qué querría una máquina con la que empezar a hacer esto? Esto suena un poco aterrador. Pero honestamente chicos, la cantidad de datos, datos generados hoy tanto por humanos como por máquinas, supera con creces la capacidad humana, la capacidad de los seres humanos para absorber y tomar decisiones basadas en eso, la inteligencia artificial es más o menos como formar la base para todo el aprendizaje informático futuro es el futuro de todas las decisiones complejas. Y veremos por qué, por qué es como realmente no factible que los seres humanos sigan haciendo esto. Si ya ha interactuado con un EA. Si te ha gustado un sitio web y has visto un chatbot pop up y empieza a hablar contigo. Esa es una forma muy básica de IA. Tu computadora ejecutando una forma especializada de IA. Que no sea capaz de responder a su pregunta. Ves que se pone, entonces se obtiene un ser humano auditivo que comunica estrategia con una persona solo para darte una idea de si estás usando Netflix. Realmente te gusta cómo matriz personaliza las películas que te recomienda entonces eso es machine learning y físico real sido como si tuviera miles de millones de usuarios usándolo en un momento dado. Y como dije, cómo no es factible que los seres humanos empiecen a hacer esto. ¿ Cómo crees que regulan el discurso de odio en la plataforma o materiales inapropiados? ¿ Te imaginas el costo de proteger monitorear a todos estos seres humanos? Por eso tienen incluso en EIA para detectar y eliminar las caderas alcanzan desde su plataforma. Cada vez que lo sabes, tu parecía como cada vez que usas una ciudad de Excel y cómo llamas y estás usando esos blancos asistidos, asistencia basada en voz en cualquier momento que cometas un error. ¿ Cómo se llama Alex? Nuestra ciudad no es capaz de entender lo que estás diciendo. Entonces usa esos datos y comienza a aprender a partir de eso, y aprende de ella. Entonces esta es la IA en acción. Básicamente, el aprendizaje automático de IA es más o menos responsable del crecimiento explícito de la asistencia en espacios en blanco, ya sabes, asistencia de voz digital porque aprenden a seguir aprendiendo en base a lo que son comprensivos y con base en eso, mejora cada vez más impacto de por qué de repente se convierte en un gran problema. Ya sabes, le pegas a cualquiera, oye, todas las veces que viene RDA está cambiando todo. Todo eso. ¿ Por qué, ¿por qué realmente se está convirtiendo en un gran problema? Bueno, sólo para poner en contexto, a se llama la Cuarta Revolución Industrial. ¿ Qué significa eso? Bueno, antes teníamos evolución de la industria, cómo vivían los seres humanos, y tuvo un impacto masivo. Contamos con ciencia de vapor y tecnologías digitales. Las tres primeras revoluciones industriales, que acaban de venir de esa sociedad moderna. Como si realmente quieres volver atrás, la gente encontró eso, que luego calientas cosas, entonces tienes energía y se retransmitió. Al advenimiento de las máquinas de vapor. Steam estaba alimentando todo. Desde la protección agrícola, el seguimiento de la manufactura. La gente solía vivir en farmacia y doblarlas fabricación basada en esquema sucedió. La gente comienza a trasladarse de granjas a las ciudades y más específicamente a la fábrica. Pero la vida de fábrica fue muy difícil, ¿verdad? Los obreros de fábrica eran baratos y abundantes y eran personas que llevaban largas y largas horas y condiciones muy inseguras. Entonces, ¿qué pasó? Automatización llegó producción en masa musulmana, notablemente la línea de montaje, el lenguaje de montaje va, la gente está sentada ahí poniendo cosas ahí, se vería, ¿verdad? Eso sucedió, la producción en masa comenzó a suceder, la automatización. Y esa fue la Segunda Revolución Industrial. Después de eso, el hecho de que estés sentado aquí y hablando conmigo en una computadora en Internet. Esa es la tasa de revolución digital. Estás disfrutando de la nube, internet, y resume un dispositivo de mano con dispositivo digital. Todos ellos son básicamente la Tercera Revolución Industrial porque eso pasamos de lo analógico a lo digital. Entonces eso te da ahora entiendes lo grande que es a, por qué se le ha llamado la Cuarta Revolución Industrial. Porque en base a una cosa cada vez más se está descargando a las computadoras y el, y el reino y las decisiones y que están dando, se les ha dado cada vez más, ¿cómo lo llaman cosas importantes para hacer? Todas estas divisiones industriales, hemos representado cambios muy grandes. Como a nivel de sociedad realmente honesto. La vida pasó de la granja a la fábrica. Y a la gente le gusta la gente que comenzó a automatizar cada vez más cosas. Entonces por eso es cosas tan importantes como la electricidad y la producción en masa. Entonces eso es lo grande que es. Agradable. Y por qué ciertamente sucedió ahora se podría decir como, ¿por qué estás en los últimos dos años? Pero dos razones muy simples, aumentando la potencia de cómputo y aumentando la capacidad de los datos. Ahora, la IA necesita mucha y mucha potencia de cómputo. No fue factible honestamente. Es decir, se puede ver, como dije, John McCarthy lo mencionó en 1956, pero recientemente no tenía ese poder de cómputo. Ahora con cosas como Cloud computing, computadoras se han vuelto tan poderosas que pueden procesar esos datos. La segunda cosa son los datos. Simplemente no teníamos tantos datos porque aprendizaje automático requiere una gran cantidad de datos. Y es por eso que necesitabas estas dos cosas son necesarias ahora tenemos zettabytes de datos disponibles más el costo del almacenamiento ha bajado. Estas son las dos cosas que realmente tienen pobreza y pobreza I, y conducen a la cuarta revolución industrial. Espero que hayas entendido que este tipo está teniendo un impacto tan grande en lo que es la IA. Ahora vamos a lo principal que es el aprendizaje automático, que hablaré en la siguiente sección. 3. Descripción del aprendizaje automático: Hola a todos. Bienvenidos a esta sección que es chicos de aprendizaje automático. No es aprendizaje automático. Es más o menos como el motor que impulsa el ojo. Y se define como la capacidad de las máquinas para aprender de los datos. Y básicamente enseñas a una computadora a hacer algo sin programar en dsolve. Y actualmente es el subcampo más desarrollado y el más prometedor de la IA para industrias como gobiernos e infraestructuras. Y es el más comúnmente utilizado como el subcampo de la IA en nuestra vida cotidiana. ¿ Qué es los chicos de machine learning? Como dije, simplemente ponga programas de computación. Ya sabes, no son inteligentes en el sentido real de la palabra. Tienen un conjunto de instrucciones codificadas como toman datos y producen salida, y no pueden salir de eso. Toma una calculadora, por ejemplo, cuando esquema de culpabilidad o han parecido mágico, ¿verdad? Estás poniendo números en interés diciéndote. Pero al final del David sólo está tomando entradas y procesándolo y dándole salida nada más. En el aprendizaje automático, lo que sucede es que toma datos que estás aprendiendo y aprende de ella. Se alimenta en un algoritmo para crear un programa. Y básicamente aprende con base en esos datos. Entonces tomemos, solo para darte un ejemplo, así es como funciona el aprendizaje automático. Básicamente, le das a una computadora montones y muchos datos. Se llama datos de entrenamiento. Entonces le das un algoritmo para entender esos datos. ¿ Qué hace la máquina? Toma los datos, toma un algoritmo, y luego construye un modelo que usaremos para predecir algo que aún no ha sucedido. Ahora, ¿qué haces? Entonces lo alimentas datos reales y verás qué hace? ¿ Hace una predicción, predicción correcta o la producción equivocada? Ahora en base a eso, si es correcto, maravilloso, le alimentas más datos para mostrar que la precisión sube. Si está mal, entonces vuelves a entretenerlo, más entrenamiento, más entrenamiento para. Tú. Básicamente conservarlos algoritmo varias veces hasta que la salida deseada esté bien. ¿Qué está pasando? La máquina básicamente está aprendiendo sobre una piedra y los resultados se volverán cada vez más precisos con el tiempo. Es así lo diferente que es el aprendizaje automático del sistema informático normal. Entonces sólo para darte un mejor ejemplo, este es nuestro tradicional puede predecir programas usados para trabajar correcto? Tienes entrada, lo pondrás en un algoritmo y luego saldría una salida. Así es como se puede predecir los resultados es trabajar. Entonces el aprendizaje automático es así. tienes entrada y salida Yatienes entrada y saliday les das aprendizaje automático. Tienes un algoritmo basado en eso. Toma la entrada y mira a la salida. Y a partir de eso, crea un modelo digital utilizado para tomar decisiones futuras sobre ese insumo que está entrando, es aprender por sí mismo. Esto es lo diferente que es de la programación normal que solía suceder. Ok chicos, Ahora, hemos cubierto este tema. Espero que esto haya sido un buen repaso para ti. Teníamos una mayor con IA y por qué se ha vuelto tan prominente hoy en día. Y tuvimos una visión general del aprendizaje automático también. Aprendimos cómo funciona el aprendizaje automático y cómo toma sus decisiones. Lo creas o no. Ahora tienes el conocimiento fundacional que necesitas ahora para entender sobre la gobernanza y la gestión de la IA. Espero que eso fuera chicos útiles. Y te veré en la siguiente sección. 4. Necesidad de gobernar AI: Hola chicos, Bienvenidos a esta sección. Y aquí empezamos a meternos en la carne real del curso, que es los aspectos de gobernanza y gestión de riesgos de la IA. La primera pregunta es, ¿por qué chicos? ¿ Por qué crees que la IA necesita ser gobernanza y tasa de evaluación de riesgos? Si trabajas en una empresa como yo, sabrías que la mayoría de las empresas ya tienen estos departamentos de gestión y marcos de gobierno en su lugar. ¿ Por qué necesitamos algo diferente para la IA? Bueno, la respuesta simple es que la IE introduce ciertos nuevos tipos de los cuales no estaban presentes antes. Supongo que como un disruptor como es esa tecnología disruptiva, a diferencia de la mayoría de los disruptores, Tiene que ser abordado y mitigado explícitamente de una manera ligeramente diferente. Deberíamos echar un vistazo cuando le preguntes gente cuáles son los riesgos clave en los sistemas. Mucha gente está hablando de IA, como Elon Musk, Bill Gates y todo ese lote y cómo pueden impactarnos negativamente, ¿verdad? Quiero decir, si hablas del resto, yo sólo, he mencionado algunos de ellos. Contamos con sesgos y los modelos de inteligencia artificial y compromisos de seguridad. Voy a estar hablando del 2D superior en una sección completa. No voy a pasar demasiado tiempo en eso. Pero si estás hablando de privacidad, tienes estas tecnologías de reconocimiento facial. Creo que muchos países están implementando reconocimiento facial con base en el ojo. Y pueden almacenar que los datos de una gran cantidad de riesgos de privacidad entran. Tienes cosas como la tarifa fija que habrías visto, ve a YouTube y pon D Fig. Verás como videos absolutamente precisos de personas como Tom Cruise, Morgan Freeman. No vas a creer lo preciso que es lo que realmente asusta a la gente. ¿ Cómo sabremos qué es real y qué no está bien? Y si quieres volver a las máquinas autónomas, hablaré más de eso. Básicamente cosas que están funcionando completamente sin ninguna intervención humana absoluto y la gente asusta de que una de estas máquinas comenzó a apoderarse del mundo o algo así. Y una interrupción laboral mucho más práctica. Ai, como, como dije, a va a hacerse cargo de muchas de las cosas que los humanos solían hacer. Muchas cosas que van a conseguir una materia mundana automatizada que son humanas verbalmente no necesita realmente tanto. Obviamente anti-electrón hacer eso va a ser subcontratado a IA, va a hacerse cargo y muchos empleos desaparecerán. 100%, quiero decir, sin ninguna duda. Pero muchos de esos se van a crear todo tipo. Entonces es por eso que es tan importante invertir en tu futuro e invertir en IA. La última semana podría ser un poco raro, pero sí, el fin del mundo, como personas que ven películas como determinador, como matriz o algo así. Piensan que las máquinas van a apoderarse del mundo. Pero afortunadamente aún no hemos llegado a ese punto. Pero sigue siendo algo así como mucha gente sí dice que las máquinas que vamos a llegar a ser sentience, ¿verdad? Vas a empezar a apoderarse del mundo y de todo. Pero honestamente la pelvis con contextos mucho más prácticos. Tomemos algunos ejemplos también. Cuando hablamos de los riesgos y algo que ha sucedido hace unos años como 2016. Toolbox, que Microsoft está describiendo en el Microsoft comenzó como un experimento entendimiento conversacional. Cuanto más charlas con este tablero, se llamaba el inteligente que se pondría y empezamos a involucrarnos con personas demasiado casuales y conversaciones de Clifford. Fue diseñado para aprender de introducciones y personas híbridas en Twitter. Desafortunadamente, lo que pasó en algunas personas decidió alimentarlo como este sistema información ofensiva. Y Microsoft realmente tuvo que disculparse por eso porque esta pizarra estaba dirigida a niños de 18 a 24 años en redes sociales. Fue blanco de un ataque coordinado de un subconjunto de personas y empezaron a alimentarlo como información realmente ofensiva. Entonces no pasamos 24 horas, tuvo que ser desactivado. Microsoft tuvo que emitir en realidad una disculpa por el dolor molesto fuera. Esto fue darle un ejemplo. Digamos, realmente nos damos cuenta cómo la IA podría estar completamente fuera de control. Estas personas explotaron sobre la luminosidad que había ahí. Dijeron que simplemente no vamos a no prepararnos con este tipo de cosas que podría pasar y se podría alimentar como cosas inapropiadas y va a empezar a alimentarlo. Por lo que dijeron que seguirán definiéndolo. Pero esto es como un simple ejemplo de lo que pasó cuando no tomaste en cuenta lo que posiblemente podría pasar. De acuerdo, ese fue un ejemplo un poco sin hogar. Echemos un vistazo a algo que es chicos aterradores de VMO, que son armas autónomas, cualesquiera que sean las armas autónomas, básicamente los pines que seleccionaron Y puertas objetivos sin intervención humana. Como, ya sabes, helicópteros armados, pueden buscarlo. Y como dividendo ilimitado, cumpliendo ciertos criterios y todo lo que la gente está mirando. Un EIS, lamentablemente, como simplemente dice electro, ha llegado a un punto en el que el despliegue del éxito es prácticamente práctico en unos pocos años, no décadas. Estas cosas lo han descrito la próxima revolución en la guerra, cosa muy aterradora y se han hecho muchos argumentos. La gente ha visto, la gente ha dicho eso, vale, qué pasa, estas cosas no salieron y no ocurrirán bajas humanas, ¿verdad? Pero y si alguien es capaz de manipular esto, ya sabes, como disrupción y apoderarse y empezar a tararear a la gente. Por eso es tan peligroso. Entonces eso es y Más de 30 mil. Tengo un vértice investigadores y otras personas decidieron una carta abierta sobre el tema. Y 2015, dijeron que no queremos que esto suceda. Por favor, no inviertas en esta investigación realmente te muestra algunos de los aspectos más aterradores que pueden ocurrir y mostrar. Se volverá como una IA casi siempre. Por eso es tan importante tener regulaciones. Tan importante tener la gobernanza de la IA en su lugar. Solo quería mostrarte que esto era como, te mostré un ejemplo un poco humorístico y esto fue como unos ejemplos más aterradores a los que puedes echar un vistazo. El dispersante, hacen extremos opuestos, no, Echemos un vistazo a un real, cómo la IA puede realmente impactar negativamente a las personas son casos de sesgos y prejuicios de IA, que entraré en el siguiente sección. 5. Bies en modelos de AI: Hola chicos. En esta sección vamos a hablar de prejuicios y prejuicios de IA. Entonces en la sección anterior, vimos a una madre, un ejemplo gracioso y el peor de los casos, lo gracioso va en Microsoft Word y autónomo porque era como el peor de los casos. Ahora echemos un vistazo a un ejemplo de la vida real como un IS de prejuicios y sesgos de IA. Por lo que ahora lo creas o no, los módulos pueden estar sesgados contra un género en particular, edad. Si esos datos no se ponen adecuadamente dentro del módulo, porque los seres humanos son particulares golpean a los humanos inconscientemente o conscientemente. Puede que tengamos que estar sesgados hacia una raza o color en particular o algo así. Y puede alimentarse en los datos que se utilizan para entrenar modelos de aprendizaje automático. Y en realidad puede conducir a decisiones equivocadas que hemos tomado que pueden afectar su salud. Fuimos todo. Entonces como las organizaciones están reemplazando cada vez más algoritmo de toma de decisiones humanas con algoritmos, pueden suponer que estos algoritmos, no son sesgados. Pero como dije, estos algoritmos reflejan el mundo real, ¿verdad? Lo que significa que no intencionalmente pueden llevar adelante estos virus porque resultados incorrectos en realidad pueden arruinar la vida de alguien. Entonces echemos un vistazo a este artículo de noticias, que es el electro estudio público publicado por primera vez en Science Magazine, encontró que el algoritmo de salud, como si fuera usuario en como 200 millones de personas en Estados Unidos. Fue sesgada contra una raza en particular porque fue determinando quién necesita más atención médica de la salud. Desafortunadamente, fue como una polaroid, creo que la gente blanca por encima de otras personas. Y debido a que mi señalamiento, en realidad fue negar a personas que en realidad podrían necesitar atención médica debido a que los datos no fueron alimentados a millones y miles de millones de negros se vieron afectados por un número Bye en este algoritmo de atención sanitaria en particular. Entonces por eso es tan importante asegurarse de que esto no suceda porque en realidad puede tener efecto real en la vida real en las personas. Así que veamos reales, Ahora veamos esto. Veamos un ejemplo en detalle. Brújula. Quiero decir, no sé si estás familiarizado con esto porque esto estuvo en las noticias bastante tiempo. Se llama el Correccional Delincuente Manejo de Perfiles para sanciones alternativas, creo que la competencia arriba. Se trataba de un sistema de aprendizaje automático que se utilizó para cualquiera de los Estados Unidos en los tribunales. Lo que haría, se prediría que hay alguien recomendaría un crimen o no. Ya sabes, cuando las personas a las que se les ha dictado sentencias de cárcel, realidad les daría una calificación basada en cómo, cuánta probabilidad de que esta persona recomiende un delito. Nuevamente, el juez en realidad estaba usando esta lectura para asignar tiempo a la cárcel, encuentra, ya sabes, lo que sea que esté pasando es como la gente, espero que la raza particular fuera vista tan casi dos veces más probable que los blancos ser etiquetado de alto riesgo. Y a pesar de que no entregaron computación muy pequeña traducida crímenes completamente inofensivos. Y el resultado opuesto fue impulsado por la gente blanca. Por lo que se les dio seguridad de bajo nivel a pesar de que tenían historias criminales y son como alta probabilidad de ser tu amigo. Por eso fue tan peligroso y trabajo. Se tomó en efecto, tomando en cuenta muchas cosas como los datos que van a envejecer y al empleo y todo. Y con base en eso, se estaba asignando esta cosa física. Entonces es por eso que desgraciadamente, la gente tiene un particular se etiqueta incorrectamente como de alto riesgo de venir en el futuro crimen el doble que los blancos. Incluso la empresa lo negó. Pero desgraciadamente los resultados, particularmente, si se puede ver esto grueso, echemos un vistazo a, quiero decir, todos porque pueden engancharse. Pero el ejemplo medio es bastante gracioso. Visual Bowden, ella había cometido como un pequeño robo, mío a discriminadores, y cuando era una menor. Y el otro tipo más allá, era un criminal mucho más experimentado. Tuvo tiempo de cárcel por robo a mano armada y otros cargos. Pero según el campus y las puntuaciones fueron de bajo riesgo y frontera visual era de alto riesgo. Y dos años después, la capitalina va a responder a haber hecho una predicción equivocada porque ambos que abordan obispo ordenó no cometieron ningún tipo nuevo. Y Theta por otro lado, estaba cumpliendo en sentencia ETS para raza general. Ahora espero que entiendas que pueden echar un vistazo a otros ejemplos también. Pero ahora espero que entiendas exactamente cómo IA puede perpetuar injusticia existente y los sesgos que las antenas hacen involuntariamente a los datos que se alimentan en ella. Y luego en la siguiente sección, vamos a echar un vistazo a qué principios podemos poner para evitar que esto suceda. Esto nos lleva al final de toda la sección de gobernanza, la, lo que llamó la sección de riesgos. Nos fijamos en los riesgos que están presentes a los ojos de lo que ustedes llaman algunos ejemplos de IA yendo mal. Los peligros de ir en lo que es el peor de los casos y el estudio de caso de sesgo. Por lo que se puede ver hay todo tipo de coseno i y el cheque completamente diferente a Occidente, al que normalmente estamos acostumbrados aquí. Por lo que ahora echemos un vistazo a qué otras medidas y controles podemos poner en marcha para asegurarnos de que estos sistemas de IA no tengan estos riesgos y cómo mitigarlos en la siguiente sección. Gracias. 6. Regulaciones de AI: Hola chicos. Bienvenido a esta sección, que ahora que tenemos un buen entendimiento fundacional acerca IA y cuáles son los riesgos y problemas que pueden causar. Ahora echemos un vistazo de alto nivel a cómo se crea un marco de gobernanza para I. Entonces, básicamente, tenemos un marco de control. Deseo marco de gestión para que se ponga en marcha la IA. ¿ Cómo vamos sobre eso? Toda esta sección va a estar enfocada en eso ahora. Por lo que el primer paso son los disfraces, reglamentos y normas. Ahora, el primer paso es a nadie le gustan las regulaciones. Porque las regulaciones parecen burocracia. La gente tiene que llenar formularios y no cumples con cientos de eso no era nadie así. Afortunadamente, en realidad no. Desafortunadamente, debo estar regulado para protegernos y utilizar la tecnología sin manipulación ni sesgo. Hablamos de que la IA estaba sesgada en su última sección. Ahora la mejor manera de asegurarse de que no sea sesgada y las reglas son las estimaciones seguras de que las regulaciones están ahí. El triste hecho es que las empresas suelen enfocarse más en ganancias y estas cosas no le van a dar una prioridad adecuada. Queríamos echar un vistazo a las colisiones de yada en primer lugar, porque B es central para terminar por todo. Y vamos a echar un vistazo al panorama regulatorio para la IA, que es la regulación más importante, la regulación EIA actualmente en camino. Como dije, la necesidad de normatividad. Necesita regulaciones para protegerse a sí mismo y sus usuarios del mal uso interno y externo. Y los gobiernos están utilizando la IA para tomar decisiones rápidas que pueden tener un enorme, puede impactar tu salud, tu vida. ¿ Como una enorme cantidad de diferencias podemos hacer? Y se ve cómo pueden ocurrir decisiones equivocadas, decisiones injustas, que pueden como vimos, que gente ha sido privada de atención médica, gente se le ha dado la cárcel. Todos estos. Entonces si tienes reglamentos, tenemos rendición de cuentas, derechos humanos. Envía, establece normas mínimas de trato que todo el mundo puede aceptar. Dice que todo el mundo tiene derecho a remediar si no se cumplen esas normas, entonces en realidad se pueden documentos que se supone aseguren los estándares que están presentes y cualquiera que sea tan grande, manera estandarizada se hace responsable. Por eso es tan importante. El país. Lo curioso es que no existe una legislación específica diseñada específicamente para regular IA está siendo regulada por la normativa existente como la protección de datos, la protección del consumidor. Y esos se han pasado para regular. Y los gobiernos están trabajando duro y rápido en ello. Pero ninguna legislación se ha aprobado adecuadamente en China ha puesto en estrategias similares, el puerto USS en la Casa Blanca como un tiroteo luego precipitantes para la regulación de la IA. Y es como la mayoría de los países se están centrando en eso. Quería centrarme en la regulación que se espera tenga más impacto en todo el mundo en esta tecnología en particular. El global como hablé, se está haciendo una enorme cantidad de trabajo. El más ambicioso propone algunos hasta ahora es del papá del chico de la Unión Europea para viajar y tú actúas el año pasado en abril de 2021. Es la primera propuesta de cómputo del mundo para regular la IA. Y va a tener un enorme impacto, créanme, en el límite de la IA y cómo las empresas, tanto a pequeña escala como start-ups, grandes gigantes tecnológicos, saben cómo pueden usar la IA. Es muy interesante. Ocupa el enfoque espacial. No se prohíbe, no dice todos los AAs buenos. Por lo que ocupa el enfoque espacial y hace ilegal el uso de A4, el violonchelo, propósitos inaceptables como el reconocimiento facial y utilizarlo para lo que llamó escalamiento social. Puedes clasificar a las personas en función un sistema inmunológico confiable que pueda explotar a las personas. Es por eso que la regulación estadounidense sigue siendo importante. Pero ¿por qué crees que me estoy enfocando en esto más que todas las demás regulaciones que hay ahí y en qué hace especial esta? Bueno, simplemente poner chicos, generalmente regulaciones de la UE, El final por establecer el estándar para el resto del mundo. No es nada concreto. Pero por lo general eso es lo que pasó. Cualquiera que haya trabajado en el RGPD, datos privados señalan que usted lanzó un reglamento sobre RGPD y casi todas el RGPD y casi todas las demás regulaciones del mundo, todos los demás gobiernos, casi sólo adaptó el RGPD a su entorno particular. Entonces por eso es tan importante porque el reglamento EIA, va a marcar el tono para el resto de las empresas. En cualquier empresa que trabaje en la ONU, incluso fuera de las cifras, veremos. Por eso es tan importante conocer realmente esta parte interesante de la misma, el alcance de la misma. Por lo que tiene un alcance extra territorial. Es como el RGPD. Es como si se extendiera fuera de los órganos de la UE. Cualquier proveedor pondrá en el mercado el sistema de IA. Tú, por supuesto, definitivamente en la escuela. Pero si eres como tu proveedor o usuario, se encuentran en el exterior, pero tu sistema de salidas se está utilizando en la UE. Por otra parte, estará en alcance, alcance muy amplio. Y esto, sí, sus sistemas pueden mucho potencialmente meterse en él. Por lo que está en la tubería y la gravedad que llamamos lo más importante que queremos ver es esta. Como dije, ¿cómo categoriza los riesgos? En lugar de optar por una manta, una prohibición completa, o por completo permitir. Se ha utilizado un enfoque espacial basado en unos pocos niveles, como un aceptable frente a bajo riesgo de Kiva. Así. Cuanto mayor sea el riesgo y más lo que llamamos va a poner más restricciones y más controles encima de eso, las obligaciones motoras sobre la empresa. Asegúrate de qué tan transparente es el algoritmo y las dificultades reportadas no se están utilizando. Sistema de hidrosfera inaceptable, simplemente se unen así que ni siquiera tenemos que pensar en eso, supongo que eres la luna? El foco principal de esta regulación está en los sistemas de IA a hiperescala. Y estarán sujetos a importantes obligaciones de cumplimiento de monitoreo técnico. Si estás en el bajo riesgo y solo tienes que ser transparente al respecto. Sólo tenemos que informarles. ¿ De qué son los sistemas de alturas de los que estamos hablando? Quiero decir, esto puede ser como sistemas de transporte que pueden poner la salud y la vida de las personas abordar grandes sistemas educativos que pueden determinar quién tiene acceso a la educación. Al igual que examinar el puntaje del examen. Como la cirugía robótica. los empleados les gusta escalar a los empleadores para su trabajo tarde, lo que puede tener un impacto en quién es contratado o no. Al igual que la puntuación crediticia, la aplicación de la ley, la migración, todas estas cosas. Aquí es donde cae tu altura SKA y evaluación de la conformidad de video viene en bits Estoy hablando de cuál es la evaluación de conformidad? Sólo para entender esto. Pero confirmado con estos SNPs básicamente, es como se puede decir segunda auditoría, sistemas de alto riesgo, necesitarán someterse a una evaluación de conformidad. Básicamente, lo que sucede es que pasa por significativo como las evaluaciones tardías si la precisión en que se evalúa su calidad de documentación técnica, todo el sistema, es decir cumpliendo con el reglamento. Ocurre si pasa, entonces se obtiene una certificación de la UE. Es similar al registro de dispositivos médicos, que ya están ahí en la UE. Puede ser auto hecho, puede ser una autoevaluación. Pero si es como algunos sistemas que son más sensibles, entonces necesitas que un tercero experto entre como un completamente indiferente en la regulación necesita entrar. Tomemos un ejemplo de una bio-métrica. Por lo que tiene un sistema AAC utilizado para identificación bio-métrica por un tercero tendrá que entrar. El choque entra en más detalle aquí. Pero sólo para hacerte entender ahora y después, incluso después de pasar la evaluación de conformidad y algunos cambios sucedan, tendrá que volver a suceder. Es una muy poderosa, es como se puede ver, es como una auditoría de todo el ecosistema, cómo está funcionando, cuáles son las reglas y todo lo que no tendría que poner en juego. Por eso espero que eso te haga entender qué tipo de marco regulatorio está en marcha que se está planeando para los sistemas de IA. Ahora, entendiste la normatividad que están en su lugar y entrando. Veamos el modo ahora su marco de gobernanza para la IA en Irlanda. veo en la siguiente sección, chicos. 7. Marco de gobernanza en AI: Hola chicos. En esta clase, voy a echar un vistazo al marco de gobernanza de IA. Ahora, hablamos de las leyes, reglamentos y todo. Ahora bien, mientras se va a emerger una regulación integral y ejecutable , pero va a llevar algún tiempo. Pero mientras tanto, las empresas no pueden simplemente sentarse y esperar a que lleguen estas cosas. Un nuevo lugar donde se necesita tener algún tipo de hola chicos. En esta clase me voy a centrar en el marco de gobernanza. Ahora, hablamos las revoluciones de EA en la clase anterior. Hablamos de cómo están llegando estas leyes, qué tipo de mandato controla para ser IA portátil. Y la cosa es que Visa va a tomar algún tiempo. No se puede esperar que las empresas se sientan y esperen a que algo suceda. Por lo que las empresas están obligadas a poner en marcha marcos de gobierno como para asegurarse porque se llama y muchas empresas ya están trabajando ahí para poner en marcha marcos de gobierno. Especialmente en países donde se ha estado trabajando mucho en la IA. La empresa debe ser proactiva. Y necesitan tener un famoso en su lugar para mitigar los riesgos únicos que la inteligencia artificial se está poniendo en marcha antes de comenzar en el viaje de la IA, asegúrese de tener estas cosas en su lugar. ¿ De qué están hablando? Entonces, si lo miras desde un nivel muy alto, el e-gobierno de La Meca, independientemente de qué sector te encuentres, independientemente de la tecnología que estés utilizando? Como lo que sea. Esto es agnóstico de la tecnología, algoritmo agnóstico y todo lo que hablan para partes generales de un tejido. ¿ Cuándo es la política? Así que siéntate a tono por cómo no has estado controlando la organización de órganos. ¿ Cuáles son los principios generales que tienes y cómo se controlará? ¿ Cuáles son las cosas en su lugar? A continuación, es necesario informar al comité. Esta será gente de los equipos de datos, de los equipos de tecnología, de sus equipos de seguridad, de sus equipos de gestión de riesgos. Para que el marco se ponga en marcha para como una IA que controla adecuadamente. Y obviamente es una solución que sabían que toman decisiones. Entonces se están tomando decisiones de go, no-go en las iniciativas iniciales, moviéndose un poco. Pero por debajo de eso, tienes un marco de gestión de riesgos. Esto identificará cuáles son las visitas críticas, que son el Arrhenius. Qué tipo de es, cómo tomamos todos esos espacios ser una ciberseguridad, ya sea como sesgo de integridad. Todas estas cosas conducirán a convertirse en IA, este marco de gestión. Y por último, principios, estos serán en toda la empresa. Entonces AI básicamente para asegurarse de que está funcionando correctamente. Por lo tanto, principios de confianza, integridad , explicabilidad, equidad y resiliencia. Y hablaremos más de esto. Estos son básicamente ayudan a asegurarse de que usted está gobernando adecuadamente sobre la organización. Y entro en más detalle en esto. Pero esto es básicamente un punto de referencia de alto nivel, alto nivel como un marco esquelético para cómo implementar la gobernanza. Si sientes esto demasiado alto nivel y te sientes bien, necesito más detalles al respecto. ¿ Cómo realmente pongo mi gobierno en mi organización? Votar es que no necesitas construir cosas desde cero. En 2019, Singapur, diablillamente, una primera edición del marco de dominancia del modelado. Así que básicamente para el día, bienes raíces para la adopción retroalimentación. Y proporciona como fácilmente te proporciona orientación implementable sobre cómo implementar gobernanza de la IA dentro de ella es como una plantilla excelente. Si quieres usar esto. Y entra en muy buen detalle, literalmente se pueden tomar los principios que están ahí y ponerlo en organización para usar para crear un marco de gobernanza aérea. Es una muy buena plantilla. Se centra en dos principios rectores que deben ser explicables, transfiriendo los mismos principios de los que hablamos antes. Céntrico humano. Quiero decir, debería poner antes nuestras dietas interés humano, en lugar de ganancias y todo lo demás por el estilo. Aquí es donde debemos enfocarnos. Definitivamente te recomendaría que pongas esto en Google. Lo encontrarás si te tomas en serio la implementación de la gobernanza de IA dentro de tu organización. Hablé de principios de qué otros principios crear confianza en los sistemas de IA. Cuando hablas de confianza, confianza es imperativa, ¿verdad? Quiero decir, si tus clientes no sienten que tu sistema los está juzgando correctamente o estos sesgos, esto puede tener un gran problema para replicación de tus clientes si acompaño la repetición y la tasa de mercado, las empresas son sencillamente, podría estar sujeta a importantes hallazgos. Podrías estar sujeto a que tu solicitud sea dañada y la industria. Todas estas cosas entrarán en su lugar. Entonces la confianza es imperativa para cómo creamos cruzados ricos por lo tanto, principios. Poner a los expertos, integridad, explicabilidad, equidad, resiliencia, ¿qué es la integridad? Estamos hablando de la integridad del algoritmo. Asegurarse de que nadie altere el algoritmo o los datos. Cómo puede suceder eso. Vamos a mirar en el futuro. Estamos mirando a la clase futura. Explicabilidad. ¿ Sabes cómo está tomando su decisión la IA? ¿ Es como una caja negra? Nadie tiene idea de cómo funciona el oído, cómo, ¿cuál es la lógica que se está utilizando? No necesita ser transferido por completo aquí. La imparcialidad. Ya hablamos de justicia, ¿verdad? Al igual que no deberían ser sesgados. Si estás tomando decisiones sobre una sociedad en particular, debería reflejar todas las razas. Índices de etnias ID que los datos de entrenamiento no deberían tener igual que el 90% cuando se excluye el grupo étnico y todos los demás grupos porque eso sería completamente inaceptable. Y el último es atributo de resiliencia técnicamente robusto. Es necesario tener controles en su lugar. El oído debe poder desviar los ataques, debe poder recuperarse. Y veremos más detalle de estas cosas. Entonces estos son los cuatro principios básicos chicos, hay que tener en su lugar. Eso cubre el marco de gobernanza. Espero que eso fuera útil. Espero que tengas una buena idea ahora cómo crear un marco de gobernanza de IA, ¿cómo hacerlo prácticamente? Bueno, ¿qué aprendimos aquí? Habíamos aprendido acerca de las regulaciones y estándares de AIG, cómo están los gobiernos. Creo que al reto, principios de confianza, cómo incrustar la aplicación AA del cliente. Una cosa a tener en cuenta, y cómo crear un marco de gobernanza global para asegurarse de que sus aplicaciones que están ahí, sean seguras y confiables. Eso concluye más o menos la parte de gobernanza de nuestro rumbo. Espero que entendáis ahora qué otros, están en un alto nivel. Cómo crear un framework Ws independientemente del sector en el que te encuentres. Ahora, vamos a entrar en la siguiente sección. Están entrando en más detalle sobre seguridad técnica. Hemos hablado de conocimientos de alto nivel entran en qué tipo de discos de seguridad están presentes dentro de las aplicaciones de IA. Y los veré en la próxima clase, chicos. Gracias. 8. Riesgos de seguridad en AI: Hola chicos y bienvenidos. Esta es muy posiblemente la sección más importante del curso que es los riesgos de ciberseguridad en los sistemas de la IE. Ahora hemos conseguido la base sobre gobernanza y gestión y lo que tenemos que hacer. Ahora echemos un vistazo realmente ciberseguridad y los sistemas vasculares. Y si de verdad quisieras echarle un vistazo, por lo general provoca que haya tres tipos de formas en seguridad que esto puede suceder. Ai puede causar el disco involuntariamente o puede ser uso maliciosamente como alguien. Puede actuar como un habilitador habilitador para los ciberdelincuentes. Ya sabes, lo que iba a pasar en las células se ve comprometido. Este es un mundo en el que es un área muy, muy nueva. Y no mucha gente está haciendo trabajo en esto, lamentablemente, lamentablemente, desde la perspectiva de los profesionales de la ciberseguridad. Si pides una guía normal de ciberseguridad y lo haré ahora mismo en 2022, ¿cómo te aseguras en un sistema abordarla desde la forma tradicional que se acercan asegurando cualquier sistema, seguridad, sistema de software o hardware que está ahí como cómo no tenías que configurarlo y duro en el sistema hacer pruebas de penetración y todo eso. Pero lo que no se dan cuenta es cómo se configura el sistema, quién tiene acceso. Pero de lo que no se dan cuenta de esto son ciertos discos que son muy exclusivos de AIS Systems. Y ese es todo el propósito de esta sección en particular, es concienciar sobre la seguridad única de los interruptores en el aprendizaje automático. Entonces, por su propia naturaleza, los componentes de IA no obedecen a las mismas reglas que el software estadístico, los sistemas de IA y los algoritmos de aprendizaje automático. Están confiando en reglas que, que se basan en el análisis de datos o en grandes colecciones de datos. Y te metes con estos datos, en realidad puede cambiar el comportamiento del sistema. Lo que está sucediendo es, a medida que se agrega cada vez más, IA se está utilizando para automatizar la decisiones en todos los sectores. El fin exponiendo estos sistemas de los ciberataques, que pueden tomar ventajas de los defectos y vulnerabilidades de la IA. Y si realmente necesitas saber esto para mitigar adecuadamente estos ataques. ¿ Hablaste de los riesgos de seguridad, café, yo cómo puede pasar y lo que sea. Esto es, un papel muy excelente. Yo recomendaría a cualquiera que vaya a leer esto como malicioso report.com de la CIA. ¿ Qué dijeron? En realidad, este informe fue escrito por 26 autores de 14 instituciones, academia, sociedad civil, industria. Tenían un taller de dos días realizado en Australia. Creo que fue febrero de 2017. Y se puede repasar este reporte. Es un reporte de accidente, pero ¿qué hizo lo mismo? Puedes mirarlo en tu propio tiempo, pero dijeron ciertas cosas que me parecieron muy interesantes. Las capacidades de IA descendente se están volviendo cada vez más poderosas que por la propagación, ¿verdad? Lo que va a pasar es que el panorama de amenazas va a cambiar. Los viajes existentes se van a expandir. El costo de los ataques bajará debido al uso de la IA. Normalmente, estarías pagando a la gente en el doctorado. Esas cosas que puedes descargar hacen. Sé que surgirán nutrientes, que no teníamos ni idea. Y de lo contrario, como en la práctica, no esperarías este derribo cambio de nivel de amenaza existente. Algo estaba sucediendo de una manera particular a malware completamente cambiado, ataques DDoS, vamos a cambiar para acomodar a la IE. Por eso chicos, por eso estoy entendiendo. Esto es lo que está diciendo este documento. En realidad, cuando habló de los riesgos de seguridad que se ponen en la IA, hay dos tipos de categorías. Uno son los discos que no son exclusivos de la IA, y el otro que son únicos de la IA. En el primero, es técnicamente es como ser atacado y el segundo una oreja está siendo manipulada o se está utilizando para atacar otra cosa. Si hablas de la visita no son singulares. Estamos hablando de seguridad de la tasa de infraestructura subyacente, cómo se están asegurando los datos, cómo se almacenan los datos. ¿ Los sistemas están configurados correctamente? Acceso a Internet correctamente configurado, solo las cosas estándar con propósito de ciberseguridad ya saben. Y el otro es la seguridad de datos. ¿ Cómo se transportan esos datos? Asegure los conjuntos de datos y no conseguir demasiado sí, no creo que sea la falta de conocimiento lo que quiero decir, como alguien que ha estado trabajando en seguridad en la nube durante los últimos dos años. Esta es otra área de la que siento que falta mucho conocimiento. Es por eso que no está ahí usos he hecho este curso chicos para empoderar a la gente a saber sobre estas cosas. El desconocimiento sobre IA, Esto es muy severo. Tienes profesionales de EA, tienes profesionales de seguridad, pero no tienes gente que sepa entre los dos. ¿ Y cuáles son los visitantes únicos que vienen? Cuáles son las decisiones que necesita para la IA donde podemos hablar de ataques de envenenamiento y qué verá el envenenamiento de datos con más detalle. Pero básicamente recuerda lo que dije. Los algoritmos de aprendizaje automático utiliza datos a qué decisiones? ¿ Y si pudiera meterme con estos datos? ¿ Y si realmente pudiera cambiar los datos? Ciertamente, en realidad afectará las decisiones que está tomando el algoritmo de aprendizaje automático. Hablando de los modelos de aprendizaje automático, ¿y si contamino? Y si ese modelo es como un modelo comercial se está sacando de un repositorio en algún lugar, puedo ir y ponerlo de nuevo a la derecha. O tal vez pueda poner un nuevo modelo de machine learning, que es muy bueno, pero tiene una puerta trasera dentro. Es como un troyano. Están llegando nuevas vulnerabilidades porque las empresas quieren usar un rápido. No suelen construir los modelos desde cero, ¿verdad? En realidad lo compran comercialmente fuera de alguna poderosa red disponible de código abierto allí. Estos son los nuevos tipos de física que verás entrar por el camino. Echemos un vistazo, recuerda, lo hicimos hace un tiempo, el algoritmo de aprendizaje automático. Ahora, echemos un vistazo desde la perspectiva de seguridad y ves alguna IA específica. Ahora, cuando un modelo de aprendizaje automático ha sido entrenado en datos, estos datos pueden ser en realidad venenosos, contaminados por un atacante. El entrenamiento y la superficie sólo se realiza. Pensarías que ¿cómo podría pasar esto? Bueno, mucho tiempo esta beta es hace datos de capacitación no es algo que nuestra empresa negocio desde cero, pero en realidad está disponible abierto en código abierto, como si estuviera completamente disponible. O muerden comercialmente porque no tienen el tiempo y la energía para hacerlo ellos mismos. Pero debido a que mucha gente, lo subcontratan. Y luego la guía. Entonces, ¿conseguiste estos modelo de datos pre-entrenados ya está ahí? ¿ Y si voy allí y contamino los datos? ¿ Y si hubiera cambiado las etiquetas? Y usted entiende la decisión en su lugar, la formación básica en sí podría estar equivocada. Vale, entonces pasamos a la siguiente fase, que es el trig modelo de entrenamiento, estás entrenando un algoritmo de aprendizaje automático. Estamos en tendencia en los modelos de datos equivocados. Entonces, qué pasa como te mostré estos modelos, el ojo suele ser muy, computacionalmente, muy intensivo. Requieren la mitad de nuestros datos, VP de capacitación y ese resultado, muchos que hacen lo que hacen, subcontratan y a la Cloud y confían en modelos preentrenados, modelos que ya están pre -entrenado. Apenas llegar de Internet. ¿A qué puedo ir? Simplemente puedo ir y tirar. Me gusta inyectar maliciosos de nuevo a ella dentro de la morula. Cuando descargues este modelo, tendrás una puerta trasera. Cualquier motivo, molesto, lo que sea Es como modelo de reconocimiento oficial. Pongo ahí un dos que no se reconocerá mi rostro. Y no lo sabrás, ¿verdad? El Odd Tal vez sea como un auto autoconductor, ¿verdad? Tienes esos autos autoconducidos. Y en lugar de una señal de stop, cambié para ignorar dejar de decir, qué va a pasar. Se puede imaginar el impacto que será. Por lo que tendrás aquellos en datos característicos de entrenamiento y modelos incorrectos desde el principio. Por eso es tan crítico si lo puede pasar si los actores directivos acceden a los datos de entrenamiento o al modelo, en realidad pueden manipular esa información. Y lo que sucede a continuación, los datos de producción. ¿ Cómo se llama los datos de producción será usted está entrenando el modelo en cada vez más datos, verdad? Entonces lo que sucederá es que muchas veces estos datos han sido manejados por científicos de datos y no están capacitados sobre seguridad. Esto no es como un nuevo único para la IA, pero estos datos de producción pueden ser violados. Espero que entiendas ahora cuando estamos hablando del aprendizaje automático y se está haciendo el suplente. Puedes tener cosas como el envenenamiento de datos. Se pueden tener cosas como la policía modelo que hay una puerta trasera de la que solo los atacantes conocen. Y puede hacer que AWS suceda debido a una intensa cantidad de datos que se ha bombeado en él. Entonces esto es más desde la perspectiva de aprendizaje, pero ¿qué pasa? Veamos desde el ciclo de vida de un modelo. Esto es, este es tu modelo tradicional de machine learning es un enfoque simplificado, pero veamos desde el contexto de todo el ciclo de vida de un módulo. Como dije antes, por el aire, se necesitan tantos datos, se necesitan tanta potencia computacional para entrenar algoritmos. El actualmente que más empresas hacen es que suelen utilizar modelos. El chat entrena por las grandes corporaciones y las modifican ligeramente. Por ejemplo, tienes como modelos populares de reconocimiento de imágenes como de Microsoft. Y lo que hacen, estos modelos están poniendo más Hu Zu, como si fuera como un repositorio. Lo que puedo hacer es que el atacante simplemente puede ir y modificar los modelos en el repositorio y envenenará el pozo para cualquiera más también con hacerlo bien. El siguiente paso será envenenamiento de datos como este que ya hablé contigo. Alguien puede ir y envenenar los datos, que se han utilizado para entrenar el modelo para que tome decisiones incorrectas. A continuación se realizan pruebas moderadas. Estás probando el modelo. Vas a tener una base de datos donde podrás tener puntos de datos en general. Por lo que el siguiente paso, optimizando el video o afinando el modelo. Lo estás haciendo para asegurarte de que sea corto, está tomando las decisiones correctas. Puedes tener una brecha de datos donde no tuviste un punto de datos aquí también. El segundo es el modelo comprometido. Entonces lo que sucede aquí en el modelo comprenden el atacante no es como manipular el algoritmo ni nada. Está explotando software. Esta vulnerabilidad es, ya sabes, ya sabes, tú, si has trabajado en aplicaciones como vulnerabilidades de una aplicación tradicional, pueden manipular el software que está ahí para acceder a su aprendiendo como trabajo interno de las acuarelas tradicionales de aprendizaje automático, debes asegurarte de que tus configuraciones de seguridad tradicionales estén ahí desde tus componentes y todo. De acuerdo, entonces ahora la modelo se pone en vivo. Se pueden tener cosas como modelar visión, ¿qué es más la televisión? Más televisión es como. Tomemos un ejemplo de un modelo de reconocimiento de imágenes. Cosas que son muy sutiles. Ya sabes, lo que puedo hacer es si yo, si muestro ese modelo de reconocimiento de imagen, como una imagen de un gato, por solo cambiar un poquito por unos pixeles, en realidad puedo modelar no podré clasificarlo como un gato. Cosas que son indistinguibles para un ser humano, el modelo cambió por completo el funcionamiento de un módulo. Y entonces, ¿qué hacen los atacantes para seguir probándolo, probándolo, ¿quieres ver cómo evadir esa moral y qué tenemos que hacer para asegurarnos de que no funcione correctamente? Después de eso, ¿qué pasa? Extracción modelo. Entonces, ¿qué es la extracción de modelos y la extracción de datos? Pueden mantener a los atacantes pueden seguir agregándolos o quién. Pueden mirar, lo que está regresando, las respuestas que está enviando el modelo. Y en realidad pueden usar eso para recrear el modelo. Para que usted pueda tener su propiedad intelectual de IP que se le diga. Porque estamos empezando en frecuencias. Sigue citando ese modelo, tratando de entender cómo funciona el modelo, ¿cuál es el resultado que sale? Y se había graduado en tragedia, construye una imagen de ese modelo, por qué está sucediendo, porque el modelo está dando demasiados datos. Nosotros, en base a eso, él es capaz de extraer datos y la lógica modal. Por último es el compromiso moral que hablé antes también. Entonces básicamente, el modelo puede ser el software con este modelo se construye, los pasivos de software, se pueden comprometer, llevando a un compromiso del modelo interno también, espero que hayan entendido chicos. Ojalá esto fuera bueno. Pude explicarles dentro del ciclo de vida de un modelo, ¿cuáles son los tipos de amenazas que pueden ocurrir? Y se puede ver que muchas de estas cosas son completamente ignoradas por profesionales de la ciberseguridad Hoy en día, no se dan cuenta de que estas cosas pueden pasar. Entonces por eso es tan importante para ti entender. Ahora que lo has entendido. En la siguiente sección, vamos a hablar de como crear un marco de ciberseguridad. ¿ Cuáles son las cosas que debe hacer para asegurarse de que su IA esté asegurada correctamente. 9. Marco de seguridad: Hola chicos. De acuerdo, así que ahora casi hemos llegado a la última, nuestra última clase, que está creando un marco de ciberseguridad para los sistemas de IA. Como cómo otra vez, ahora entendimos la vasculatura ahí, ¿verdad? Entonces, ¿cómo los aseguramos verdad? ¿ Ahora? Odio decirte esto, no hay una estrategia única en la aplicación controles de seguridad para proteger algoritmos de IA y aprendizaje automático. Lo que estás haciendo en este momento, solo necesitas personalizarlo un poco y elegir cuidadosamente los controles específicamente para la IA. primer paso es bastante simple, regular regulaciones y leyes de evaluación que se cumple la aplicación de IA. Se remonta a la normatividad de la que hablábamos , el RGPD. No le diste que tú desregulación y todo eso bien. Porque los médicos establecen el punto de referencia y se establece el tono para todas las demás cosas que van a suceder. Es necesario mantener un inventario del sistema de IA. Si ni siquiera sabes qué sistemas se están utilizando, CDD o competencia, no podrás asegurarlos, ¿verdad? Y son unos pasos básicos que no creerás con qué facilidad se lo perderá. Luego crearás una línea de base de seguridad de IA y aprendizaje automático. Y lo vemos en la próxima sección. ¿ Qué tan difícil hacer eso? Esto se basa en la física. Tendrás que asegurarte de que esos controles estén ahí. Y necesitas actualizar tus procesos de seguridad existentes para incorporar técnicas de IA y aprendizaje automático. Necesitas asegurarte de que si tienes pruebas de seguridad sucediendo, está cubriendo el aprendizaje automático de IA? Si tienes, como, no sé, pasando las pruebas de penetración. Es la empresa de TI IN, está probando al candidato de datos para estar contaminado o no como pueden ocurrir ataques en la cadena de suministro. Por último, y por supuesto, eso es lo que realmente, realmente quiero enfocarme . Al igual que como lo llamas, la conciencia acerca de la IA. Es tan importante educar a sus profesionales de la ciberseguridad y a los científicos de datos. El toque de la CIA apuntando algoritmos de aprendizaje automático, porque una vez que los eduques como testigo se crea lentamente, lentamente, entonces podrás mitigar estos riesgos adecuadamente. Pero actualmente hay una gran brecha en el marketing, desafortunadamente, eso es lo que quieres saber. Entonces sólo para recapitular, mirando las leyes, manteniendo inventario, crear una línea de base. Te mostraré cómo y luego actualizaré tus procesos de seguridad existentes. Tener revisiones de seguridad anualmente están descubriendo sus sistemas de aprendizaje automático de IA tampoco lo son. Y por supuesto, la creación de inocencia ahora puede dejarnos ver los controles de seguridad que deberían estar ahí. Quería ir basándome en las vesículas que están ahí. El primero que es el ataque más común, que hablé, veneno de datos. Como dije, lo puse en la descripción que se podía mirar. Básicamente, como te dije, el atacante desplazando los datos, que los aprendizajes de la máquina, a qué se llama toma de decisiones se ve comprometida porque se alimenta de datos sin procesar. ¿ Qué necesitas hacer la seguridad que contiene para asegurarte de que los datos supermodelo y debes asegurarte de que cheques y saldos. Están ahí. Cualquiera que verifique la integridad de los datos, que pueda comprometerse con estos datos, que pueda modificarlos. Ok, el siguiente paso es envenenamiento modelo, en el que como te dije, como alguien puede inyectar algún tipo de comandos maliciosos dentro de la puerta trasera, como una puerta trasera al aprendizaje automático. Y es especialmente riesgoso porque mayoría de las empresas no creen modelo desde cero y eran como en las disponibles públicamente, como los ataques a la cadena de suministro. No uses modelos directamente desde Internet sin revisarlos. Utilizar modelos que son las amenazas realmente lo identifican y existe el control de seguridad de elevación. Si especialmente si estás trabajando en alto riesgo, definitivamente te diría que no uses cosas que estén disponibles públicamente. Fuga de datos en la que el atacante puede comprometer, incapaz de acceder a los datos en vivo que se han alimentado al sistema en las fases de ajuste fino sobre la producción. Quieres asegurarte de tener una canalización de datos si monto de seguridad autorizado acceso, si usó un get de tercero que maduro, su integridad se verifica de nuevo, una cadena de suministro y que entra aquí. ¿ Qué significa la lista comprometida el modelo? Cuando te hablé de que alguien puede comprometer las bibliotecas. La mayoría del software hoy en día se basa en bibliotecas de software de código abierto. Es necesario asegurarse de que esas sean de seguridad pública. Necesitas asegurarte de que esos se estén probando y no necesitas tener algún tipo de monitoreo. Por favor use algo así como fluctuación sucede dentro del modelo de aprendizaje automático, algunos cambios están sucediendo. Es necesario definir métricas y puede identificar rápidamente las anomalías que están sucediendo. Innovación modelo. ¿ Qué es la división modal? Este es otro movimiento de los ataques más comunes. El atacante encuentra una manera de engañarlos, son básicamente engañarlo para que tome una decisión equivocada. Ciertamente cambió lo importante. Como te dije, si es un reconocimiento de imagen, traté de encontrarlo. Tal vez si acabo de poner unos pocos píxeles, entonces no clasificará la imagen correctamente. ¿ Qué necesitas hacer? Necesitas realmente poner estos datos adversarios dentro de eso cuando lo estás probando, soporta todo tipo de datos incorrectos. También ve cómo la mortalidad x, porque si la has probado, entonces puedes asegurarte, te aseguras de que sea parte de tu calle de pruebas. ¿ Qué hace la extracción de datos modelo de este tipo? Esto ya se lo ha dicho, ¿verdad? Alguien puede intentar modelar datos. Y la lógica Introducción a prácticamente lo mismo en realidad, ¿qué comía el atacante parece? Sigue enviando a Claudio cada vez más consultas. Y quiere ver qué tipo de salida está llegando. Y en base a eso, puedes entender cómo funciona tu modelo y qué datos están llegando y reconstruir el modelo. Podemos reconstruir los datos. El control aquí es más o menos lo mismo. Necesitas controlar qué tipo de, cuánto detalle está dando tu modelo. Es necesario asegurarse de que los datos probablemente estén desinfectados. No estás recibiendo demasiados datos. Es cierto o no dos variables. necesario mirarlo realmente desde una perspectiva de riesgo, limitar la cantidad de información que se está saliendo. Porque míralo desde los ojos de un atacante y cómo se puede usar maliciosamente. Chicos, ahora que lo saben, ahora pueden echarle un vistazo. Por lo que estos son los controles reportados. Harás una evaluación de riesgos de tus herramientas de gestión de modelos. Y es como si tienes un modelo de alto riesgo, no te gusta, tomarlo de Internet. Crearás tu hoja de evaluación de riesgos en base a los controles que te he dicho, harás verificación de modelo, verás la integridad. ¿ Está ponderada esta probabilidad? ¿ Lo están utilizando las empresas? Como qué clase de como si está completamente fuera del azul innovador lo está usando, ningún cliente lo es. No uses ese modelo. Entonces te asegurarás de que la idea de controles a partir de la verificación de datos es que hicieron un analizado los controles en su lugar a partir de tus datos. Al igual que si haces una debida diligencia completa del vendedor, si viene de tarifa externa que Seguridad de Sistemas, te asegurarás de que esos controles idea de que los datos vuelven a ser mejor luchar contra tus modelos y los componentes que son el software. Este modelo es seguro, probado con pruebas contradictorias, como te dije, te asegurarás de que salga la salida. Está adecuadamente desinfectada o no. Y la seguridad de los componentes, no me gustaron las bibliotecas de software. Como espero que ustedes bajo chicos estrictos lo que yo estaba tratando de decir, sé que es mucho que tomar, pero esto es sólo para desarrollar esa mentalidad dentro de ustedes sí entienden la seguridad particular distancia que están ahí. Si quieres hacer una inmersión profunda real, hay algunos recursos disponibles de una ESA, de Microsoft. Puedes ir a este enlace y descargarlos y realmente te puede gustar. Espero que este curso te haya ayudado a entender lo que necesitas hacer y cómo entenderlo. Para que puedas referirte a las fuentes. Hay muchas, muchas fuentes disponibles. Espero esto, he creado esa motivación dentro de ti para ir a mirar estos cursos. Bien, así que finalmente chicos, lo estamos alineando. Esta fue la última clase, creo así que lo que entendimos es que ahora entendiste los distritos de ciberseguridad, existen los riesgos únicos que pueden suponer los sistemas de IA? Y cómo rastrear el modelado o qué, ¿qué necesitas mirar? Cómo poder palpar análisis campus de un sistema y cualesquiera controles únicos que necesites para crear y poner desde la perspectiva de la IA. Ok chicos, pasemos a nuestra última clase y espero que hayan disfrutado esto. Y digamos nuestras despedidas en la sección que viene, por favor. Gracias. 10. Camino: Felicidades chicos, hemos llegado al final de esta masterclass. Y sinceramente espero que ahora tengan una apreciación por el nuevo entorno que usted y cuánto la IA va a cambiar el panorama de amenazas es como una tecnología irreductible e interrumpir todos los disruptores o cambiar las cosas por lo bueno y lo malo. Además, hay que asegurarse, pero la conciencia es como el conocimiento es que el poder es el sensor. Ahora, espero haber deshacer ese conocimiento. Como dije, Cómo construir sobre lo que has aprendido para el proyecto. Te lo dije, necesitas crear un modelo de amenaza de un sistema de IA o puedes haber investigado que desprende sesgo y entender cómo sucedió porque esto realmente te permitirá entender esta lección. A menos que los aplique, lo olvidará. Espero que esto les haya sido útil chicos. Por favor, déjame una opinión y comentarios si es positivo o negativo. Y agradecería sus comentarios sobre esto si quisieran seguirme. Estoy ahí en YouTube y el tipo de seguridad en la nube, ese es el nombre de mi canal. Y eso es más o menos, chicos. Muchas gracias por tomar mi clase y les deseo todo lo mejor en su viaje de aprendizaje automático de IA, y espero verte en futuros cursos también. Gracias.