¿Real o IA? Cómo detectar fotos, videos, clones de voz y deepfakes generados por IA en 2026

1. Introduccion: Espera. ¿Qué es esa IA generada y esto? ¿Qué pasa con ella? Vivimos en una época que S ya no es lo mismo que creer. Y eso es súper raro y muy abrumador. Derecha. Durante la mayor parte de la historia humana, nuestros ojos fueron la fuente de verdad más confiable. Si viste una foto de alguien haciendo algo, asumías que sucedió. Por supuesto que pasó. Pero ahora un solo baile de graduación de IA puede crear un mundo que nunca existió. Foto que parece que fue filmada por un fotógrafo geográfico nacional, excepto que no lo fue. Fue generado por el ojo. Un video con noticias impactantes de que todo el mundo cree en una campaña de moda con una camisa que planeas comprar. La buena noticia. A pesar que esas herramientas son cada vez mejores, nuestros ojos siguen siendo más inteligentes de lo que pensamos. Sólo hay que saber qué buscar. Y por eso creé este curso. Quiero compartir todos mis conocimientos, cómo detectar fotos generadas por IA, videos, noticias y locuciones y cómo mantenerme seguro y consciente En la realidad un poco extraña de hoy. Entonces, sí, voy a derramar el té. Y dividí el curso en cuatro secciones, cuatro secciones prácticas, y espero que cada una tenga muchas cosas que te van a sorprender. Hay mucho que discutir, así que vamos. 2. Proyecto de clase: Proyecto de clase. Después de ver los autos, quiero que uses lo que has aprendido y entrenes tus ojos y veas esas pequeñas inconsistencias que revelan una foto o video generado por IA Quiero que veas y quiero que notes lo que la mayoría de la gente echa de menos. Y te sorprenderá cómo tu conciencia se agudiza una vez que empieces a buscar las pistas Bien, pero ¿cuál es tu proyecto de clase? ¿Qué necesito que hagas? Un video viral o no viral de IA o una foto. Si prefieres video, elige un clip corto que sea claramente generado por IA. Puedes encontrar muchos de esos en TikTok, Instagram, tomas de YouTube o X. Si no encuentras ninguno, solo busca video de IA Deep fake o Influencer de IA Ser, por ejemplo, una entrevista de celebridad falsa I desfile de modas o una escena cinematográfica generada por IA, cualquier cosa que parezca casi real y verlo despacio y más de una vez Juega primero a una velocidad normal. Después vuelve a verlo en cámara lenta. Observe los pequeños cambios que se cayeron y busque esas inconsistencias visuales y las pistas que estaremos discutiendo en Y cuando los veas, congela fotograma y toma capturas de pantalla o capturas de pantalla. Pausa en el momento exacto, sucede algo extraño. el momento exacto en que notas algo extraño y tomas la captura de pantalla. Y luego marca en círculo los detalles que notaste o escribe pequeñas notas tal como lo hice para mostrarte. Entonces, por supuesto, comparte tus hallazgos, sube tu captura de pantalla en la galería de proyectos de clase aquí mismo e incluye una breve descripción de qué video analizas. También puedes compartir el enlace si quieres. Y qué inconsistencias encontraste con esas flechas y notas en la propia captura de pantalla Entonces tengo mucha curiosidad, por favor compártelo conmigo. Estoy muy, muy emocionado de ver lo que notas porque verdaderamente mi objetivo, el objetivo de este curso es que dejes el curso, termines el curso con una alfabetización visual más fuerte y comprensión más profunda de cómo cuestionar lo que ves en línea en este momento. 3. Qué es el contenido generado por IA (Deepfakes, clones de voz, arte con IA): El contenido generado por IA es defectos, clones de voz y arco de IA. Volvamos por un segundo a 2020 o 2021. Tiempos más simples, ¿verdad? Cuando la inteligencia más artificial con la que la mayoría de nosotros interactuábamos estaba corriendo silenciosamente de fondo Por ejemplo, recomendándonos videos, reencaminándonos por el tráfico de Fue cuando trabajaba principalmente detrás de escena con cosas que realmente no veíamos. Pero ¿recuerdas ese video con el falso profundo de Morgan Freeman Yo no soy Morgan Freeman. Y lo que ves no es real. Bueno, al menos en términos contemporáneos, no lo es. ¿Y si te dijera que ni siquiera soy un ser humano? ¿Me creería? ¿Cuál es tu percepción de la realidad? ¿Es la capacidad de capturar, procesar y dar sentido a la información que reciben nuestros sentidos? Si puedes ver aquí, probar o oler algo, ¿eso lo hace real? ¿O es simplemente la capacidad de sentir? Me gustaría darle la bienvenida a la era de la realidad sintética. Ahora, ¿qué ves? Está lejos de ser perfecto porque, sí, es de 2020. Y en ese momento, solía platicar con mis colegas sobre el futuro de la tecnología y la IA. Y mi arma secreta eran videos falsos de Tom Chris. ¿Qué pasa TikTok ¿Ustedes genial si hago algunos deportes? A mí me encanta. Más para la experiencia de audio. Tanto como el impulso. Oye, escuchen, fans del deporte y de TikTok. Si te gusta lo que estás viendo, solo espera a lo que viene después. Videos de intercambio de caras altamente realistas publicados en Tik Tok. El creador Chris conoció a plus e imitador, mostrando a Tom Cruise haciendo cosas cotidianas ampliamente compartidas y marcó el momento en que los efectos se vuelven lo suficientemente convincentes para cuatro espectadores casuales que se desplazaban por Bueno, gracioso. Entonces, cuando lo estaba mostrando y discutiendo con mis amigos en el trabajo, siempre llamó la atención de la gente. Era el tipo de cosas que hacían ir a la gente, Espera, ¿qué? ¿Qué está pasando? Y de pronto a todos les preocupaba el aprendizaje automático durante como 5 minutos porque los asustaba y los fascinaba al mismo tiempo Te voy a enseñar algo de magia. Lo real. Pero allá por 2021 y 2020, IA generativa aún no era una gran cosa. Esto fue antes del surgimiento de la IA generativa antes de que pudiéramos pedirle a una modelo que tomara una foto, generara una foto, una canción o un video completo fuera de FNN AR Recuerdo haber discutido sobre lo que sucedería cuando esta tecnología entrara en manos de todos. Y la mayoría de la gente que conozco imagina un futuro de pesadilla , presidentes falsos, fake news , finge todo, y tantas cosas que tratan de engañarnos. Y luego bueno, sí, sucede. Y ahora estamos nadando en imágenes de IA, videos de IA, canciones I, historias, noticias falsas. Todo en todas partes. La IA ahora es parte de nuestros teléfonos, nuestros feeds y nuestra cultura. Nuestras operaciones favoritas ahora tienen muy avanzadas impulsadas por IA. Y probablemente notes que tus ajustes sociales se inundan últimamente con videos de IA muy realistas del tipo que te hacen dejar garabatear y pensar que es un poco extraño, pero espera, espera ¿Esto es real? Los torpes regalos de Ai de los que solíamos reírnos Los dedos extraños, sonrisas congeladas y los cambios de escenas incómodas. Ya casi se han ido. Los últimos videos generados por IA se mueven más suavemente. Los rostros se ven vivos, e incluso las voces llevan una emoción que nos parece convincente a tantos de nosotros. Y son lo suficientemente realistas como para que muchos de estos clips cortos ya se estén derramando en Tik Tok, Instagram y YouTube, difuminando la línea entre lo filmado y lo que se compone Entonces, en definitiva, sí, la siguiente ola de video y fotos de IA está aquí, y esta vez, en realidad se ve real y es de súper alta calidad. La IA generativa se generalizó casi de la noche a la mañana. Y de pronto todas nuestras conversaciones anteriores de W is se convirtieron en, Bien, ¿y ahora y qué? Entonces ahora vivimos en una época en la que la realidad es muy remezclable. IA puede generar personas, voces e imágenes que nunca existieron. Y desafortunadamente, cada vez son más difíciles de distinguir aparte de lo real. Entonces, para empezar, desempaquetemos los tres grandes falsificaciones profundas, clones de Vice y arte de IA Profundo falsifica videos o imágenes donde la cara o el cuerpo de alguien ha sido reemplazado digitalmente usando inteligencia artificial La parte profunda proviene del aprendizaje profundo, un tipo de IA que entrena en miles de imágenes de una persona hasta que puede mapear de manera realista la cara sobre el cuerpo de otra persona Y el resultado, una persona puede parecer que dice o hace algo que nunca hizo. Puedes hacerlos decir o hacer lo que quieras. Sí, por ejemplo, mi ejemplo favorito del pasado Tom Cruise en TikTok, videos hiper realistas de Tom Cruz haciendo trucos de magia y golf hechos por el artista de YVX y un imitador, videos hiper realistas de Tom Cruz haciendo trucos de magia y golf hechos por el artista de YVX y un imitador, totalmente falsos pero también totly virales. También, otro ejemplo que fue muy viral en el pasado, aunque fue hace siglos, un falso video de Obama para advertir a la gente sobre defts y desinformación Estás entrando en una era en la que nuestros enemigos pueden parecer que cualquiera está diciendo cualquier cosa en cualquier momento. Aunque nunca dijeran esas cosas. Entonces, por ejemplo, podrían hacerme decir cosas como, no lo sé. Kill Monger tenía razón, o Ben Carson está en el lugar Hundido ¿O qué tal esto? Simplemente, el presidente Trump es un difato total y completo. Ahora, ya ves, nunca diría estas cosas, al menos no en un discurso público, sino alguien más lo haría alguien como Jordan Peele Este es un momento peligroso. Para avanzar, necesitamos estar más atentos con lo que confiamos de Internet Ese es un momento en el que necesitamos confiar en fuentes de noticias confiables. Puede sonar básico, pero cómo avanzamos, y la era de la información va a ser la diferencia entre si sobrevivimos o si nos convertimos en algún tipo de distopía ****** up Gracias. Quédate despierto, *******. También otro ejemplo de hace siglos a partir de 2020, presentador de noticias I de Corea del Sur cuando la emisora Ji ha tenido un gemelo defake entregar noticias reales en la Se les dijo a los espectadores, pero de todos modos planteó preguntas éticas. Entonces, ¿por qué necesitamos aprender a identificarlos y prestar atención más que nunca? Porque los defaks pueden ser divertidos o creativos, pero también pueden ser súper peligrosos, aunque muchas veces no nos damos cuenta al principio. Se utilizan para estafas de desinformación y pornografía no consensuada Creo que realmente desafían cómo definimos la verdad en los espacios digitales actuales. Bien. Entonces ahora, ¿qué son los clones de voz? Entonces, la clonación de voz usa IA para imitar el habla de una persona, el ritmo, el acento y el tono, todo lo que hace que la forma en que hablamos horas usando solo unos segundos de su voz real Sí, esto da mucho miedo. Y piénsalo como un falso profundo pero para tu voz. Una vez clonada tu voz, alguien podría hacer que suene como si estuvieras diciendo cualquier cosa. Cualquier cosa. En serio, cualquier cosa. ¿Ejemplos reales de ello? Bien, vayamos al pasado porque todo empezó hace mucho tiempo en 2021. Por ejemplo, ese año ese año, una gran estafa corporativa ocurre cuando los estafadores usan una voz clonada del director general de una compañía para engañar a un empleado para que use 243 mil Dollis Además, hay muchos endosos falsos de celebridades. Los clones de voz de IA de grandes celebridades como, por ejemplo, Emma Watson o Tom Hanks se han utilizado en las artes falsas falsas La IA viral generó canción usando voces clonadas de Drake y el fin de semana sin su permiso. Bien, y ahora el tercer gran jugador AI rt. Entonces, ¿qué es? El arte de IA es cuando algoritmos como Dali, Magni o Diffusion estable generan imágenes y videos a partir de mensajes de texto Escribes, por ejemplo, un gato con gafas de sol gucci en Marte y wala tienes tu Un gato aparece en segundos. Y para desacreditar los mapas, como probablemente ya sabrás, no es copiar a un solo artista porque presta millones de imágenes en línea para crear algo, algo nuevo Y los artistas la utilizan como herramienta creativa, pero otros la ven como plagio, ya que aprende de la obra humana ¿Y cuáles son los ejemplos fuertes? ¿Por ejemplo? Sí, sí, yo también era hace años, pero era muy ruidoso, así que tenemos que retroceder en el tiempo a eso. Especial de Teatro Ópera, una ganadora de la feria de arte de Colorado que resultó ser IA generada desatando el debate sobre lo que cuenta como arte real ¿Es arte? ¿Debería ser banda? ¿Debería ganar? ¿Los debates fueron interminables? El siguiente ejemplo, el Willie wonk experience Mm y el evento promocionado con IA generaron visuales que Entonces, como pueden ver, los grandes jugadores libres, se trata de algo un poco diferente, pero también tienen similitudes. Entonces aquí se puede ver lo que son en un atajo en pocas palabras 4. Consecuencias en el mundo real: desinformación, estafas, daños a la reputación: Consecuencias de palabras, estafas de desinformación, daño reputacional Las consecuencias de los videos y fotos generados por IA son un tema tan amplio Entonces creo que tenemos que hablar de ello un poco más porque el tema realmente lo merece. Muchas veces, no nos damos cuenta lo enorme que es el tema y de lo serio que se pone porque no estamos viendo las consecuencias reales en la vida real, por ejemplo, en nuestras vidas, pero no significa que no estén ahí. Entonces como ya sabrás, IA tiene una vista de sombra, y a los copos seguramente lo son. Son el tipo de tecnología que hace que te baje un poco el estómago porque videos, fotos, e incluso voces que se ven y suenan perfectamente reales excepto que no lo son. Oye, aquí vamos. A ahí, Swifties y cyber Guerreros. Taylor aquí, estoy muy emocionada de anunciar que el peso ha terminado. El álbum especial No B four Edition acaba de caer. Giro. En realidad no soy Taylor. Yo soy Perry. Y esto es un falso profundo. Sí. Esto fue muy divertido, pero las deepfakes no son solo Las falsificaciones profundas pueden ser extremadamente peligrosas. Como ya sabes, pueden hacer que cualquiera parezca decir o hacer algo que en realidad nunca sucedió. Y si bien el concepto no es nuevo, porque como ya sabes, también fue factible en 2020 La alta calidad de la misma es. Lo que solía parecerse a una mala sincronización de labiales o un filtro de video un poco fallido ahora se un filtro de video un poco fallido ahora se ve realmente creíble. Demasiado creíble Y esa es la parte que asusta a la mayoría de la gente, y honestamente, también me asusta un poco Sí, por eso estoy creando este material para ti ahora mismo porque la misma creatividad que hace divertida e inspiradora y tan buena para jugar también nos da herramientas que pueden doblar la realidad de formas con las que nunca antes habíamos tenido que lidiar porque una falsificación profunda no es solo una broma o un truco digital Se puede armar. Puede propagar mentiras más rápido de lo que podemos **** verificarlas. Arruinar la reputación de alguien completamente la noche a la mañana o cambiar silenciosamente opinión pública antes de que alguien se dé cuenta que está sucediendo porque entonces es demasiado difícil detenerla Y una de las mayores preocupaciones, por supuesto, son las elecciones. Imagina despertar con un video de un candidato político diciendo algo totalmente horrible totalmente asqueroso y todos lo creen porque se ve y suena exactamente como ellos Aunque después se demuestre falso, el daño el daño ya está hecho. La confianza se rompe y las líneas se difuminan y la democracia que corre sobre la confianza y la verdad recibe otro gran éxito. Por ejemplo, mi abuela o mi mamá creerían totalmente cualquier falso que vieran. Y comenzarían a decirles a sus amigos lo terrible mentiroso que era ese candidato Y así es como este pequeño círculo de desinformación personal comienza a extenderse silenciosamente pero muy poderosamente llegando a la comida de lo que podemos esperar Y eso es lo que hace que las heces se sientan tan inquietantes, no solo que existan, sino porque nos recuerdan lo frágil es realmente nuestro sentido compartido de la verdad en estos momentos Y por eso, es un momento extraño para estar viviendo, lo admito, un mundo donde, como ya te he dicho, s es creer que ya no aguanta del todo. Además, otras versiones inquietantes del effet son muy íntimas No hay falsificaciones explícitas consensuadas a menudo llamadas porno falso, conforman la abrumadora mayoría de los videos falsos en línea Casi todas ellas se dirigen a mujeres. Muchos de ellos figuras públicas, celebridades, influencers o animadores Es difícil incluso hablar de esto porque en esencia, esta ya no es una historia tecnológica. Por supuesto, es un caso de abuso, humillación, y sí, también de poder También mi recordatorio para ti de que detrás de cada ruptura de IA en los titulares hay personas reales que a menudo son violadas de formas en las que nunca consintieron. Hace unos meses, bromeé en una publicación sobre IA y huelgas de Hollywood que mayoría de las herramientas de generación de video me recordaban a las primeras películas de captura de movimiento como The Polar Express, fascinantes pero en lo profundo del extraño valle Divertido a la vista, pero ni cerca de lo real. Y sí, tengo que recuperar eso ahora porque la versión más nueva de Open AI de Sora en una ola de modelos de generación han cambiado completamente el panorama. Estos videos ya no son demos lindas . Ellos son cinematográficos Puedes escribir una frase, y el resultado parece que fue filmado por un equipo de filmación completo en un plató real. También puedes crear un video de cabeza parlante muy realista solo a partir de una sola foto y un clip de audio completo con movimiento facial natural y perfecta sincronización de labios Y por supuesto, los detalles incluyen descargo de responsabilidad de IA responsable, dicen que es para personajes virtuales no para suplantación, pero probablemente puedas imaginar lo rápido que se podría cruzar la línea Y eso es lo que tenemos que preocuparnos. Las mismas herramientas que hacen el arte hermoso también pueden hacer mentiras terriblemente reales Y claro, el mundo no se ha desmoronado. Sí, porque en el pasado, una buena falsificación profunda era realmente difícil de hacer. Y ahora cada día es cada vez más fácil. Los que parecen cinematográficos a menudo tomaban enormes cantidades de potencia informática y algunas habilidades técnicas avanzadas Ahora, las herramientas son muy amigables para principiantes, y hacen que sea muy fácil para casi todos acceder a la tecnología. Además, el proceso es cada vez más barato de lo que era antes mucho más barato. Por supuesto, afortunadamente para nosotros, algunas plataformas sociales, por ejemplo, YouTube tipo de atención. Incluso si no están eliminando videos de IA, están silenciosamente por debajo de clasificar las cosas generadas por IA Y algunos videos de IA se derribaron rápidamente, y otras empresas parecen estar preparándose para cualquier ley que se les presente. Pero no podemos confiar en las plataformas de redes sociales o las leyes para regular eso. Necesitas aprender a ser súper observador y más analítico para sobrevivir en los tiempos que vienen porque cuando empiezas a analizar y observar las cosas con más cuidado, resulta que muchos deflectos no son tan perfectos y aún no son tan convincentes Pero hay que analizarlo a un nivel más profundo, y eso es exactamente lo que vamos a discutir hoy también. Por ejemplo, una vez vi un video falso de un líder europeo admitiendo derrota Una idea espeluznante, sí, pero ¿creíble? Para mí, no. Pero para tanta gente, hasta la gente que conozco. Además, las personas un poco mayores que no están acostumbradas a ese tipo de falsificaciones Sí, muy creíble. Entonces, si bien el video fue desacreditado muy rápidamente, demostró cómo se pueden armar las falsificaciones en la guerra para socavar la moral y difundir la para socavar la moral y difundir O si quieres otro ejemplo, mira el gancho de imagen de Explosión del Pentágono de mayo de 2024 La imagen falsa generada por IA de una explosión cerca del Pentágono se volvió viral en X, compartida incluso por El mercado de valores bajó brevemente antes de que la imagen fuera desacreditada Y eso es realmente aterrador cómo incluso una sola imagen de IA puede sacudir confianza del público y mover los mercados en, como, minutos. Entonces la mayoría de nosotros nos preocupamos por defectos en el contexto de política o escándalos de celebridades y con razón Pero, oh, chico, los riesgos no se detienen ahí. Uno de los lugares que me mantiene despierta por la noche es también la atención médica, un campo construido sobre la confianza, la precisión y la verdad. Imagina lo que sucede cuando esos cimientos empiezan a temblar. No te estreses tanto. Aquí están solo algunos estéreos sin vender que lamentablemente son completamente posibles en el mundo actual. Desinformación de salud pública, por ejemplo, un video falso o un conocido médico recomendando una cura extraña Anuncio de gobierno fabricado sobre, por ejemplo, una pandemia. Y como ya sabes, desinformación se propaga tan rápido y los hechos podrían convertirla en viral Y lo que también me preocupa por los retiros manipulados de medios, escaneos alterados o reportes falsos podrían ser utilizados para fraude de seguros o peor, dando lugar a diagnósticos erróneos o tratamientos dañinos Y la reputación destruida también son un peligro real porque imagina un clip falso o un cirujano respetado, o un respetado especialista en salud diciendo algo racista o un video fabricado de un paciente revelando información confidencial de salud. Incluso unos segundos podrían arruinar una carrera y destruir la confianza y mover el mercado. Y además, la nueva tecnología está dando tantas oportunidades para pescar porque los veranos ya usan audio deep fix para hacerse pasar por CEOs, por lo que no es muy difícil imaginarlos fingiendo ser médico, tu terapeuta, o tu farmacia Y, por supuesto, esta también es una preocupación muy real. Ciencia falsa porque las falsificaciones podrían ser utilizadas para manipular imágenes de investigación o entrevistas, creando la ilusión de, por ejemplo, avances científicos Ya sabes, eso rompe el empuje no sólo en un científico, sino en la ciencia misma. Y desafortunadamente, ya ninguno de ellos es hipotético Ya estamos viendo primeras versiones del mismo, y me temo, sí, se va a poner más intenso, desafortunadamente. Entonces podría ser que ya estemos viviendo en un mundo donde las mejores falsificaciones son indetectables, desafortunadamente, en mi humilde opinión, Porque la próxima generación de modelos de video de IA ya está ahí. Probablemente hayas visto cosas como Open AI Sora, la versión más reciente, especialmente o el video de Google, herramientas que convierten el texto plano en escenas de video realistas. No son exactamente deepfakes, sino primos la misma extraña nueva familia de Y están detrás del salto repentino de calidad. Por ejemplo, la versión más reciente de Google Video es un sistema de generación de video de Deep Mind. La versión más reciente del video está diseñada para crear escenas de video completamente realizadas desde solo un texto hasta el prompt. Y lo que es muy importante, no solo genera las imágenes. También puede producir diálogos, ambiente, efectos de sonido y música que se sincronizan naturalmente con lo que está en pantalla. Y sí, entiende cómo el movimiento de la luz y la gravedad interactúan con la salida con la vista previa gratuita de K disponible a través de vértice AI Así que ahora cualquier persona con cuenta de Google AI puede experimentar con ella, aunque la cantidad de clips que puedas generar depende de tu nivel de suscripción de autos. E incluso en el plan de entrada, puedes experimentar con las posibilidades que Tools te brinda. Entonces, cuando el video de IA se vuelve realista, estamos entrando en un nuevo capítulo extraño. video de una manera, el medio en el que hemos confiado durante décadas comienza a sentirse completamente poco confiable. Ya no puedes creer tus ojos. Entonces, ¿cómo te proteges? Para responder a esa pregunta, Google lanzó algo junto a la versión más reciente del video llamada Sync ID, una especie de sistema de huellas digitales para AimDia Puede escanear un video y decirte que fue creado usando los únicos AITOLs de Google de Google Entonces así es como funciona. Cada video producido por el video más reciente lleva una marca de agua invisible, una firma oculta incrustada directamente en los datos de los archivos Para que puedas verlo o escucharlo, pero el Sync ID de Google puede detectarlo instantáneamente confirmando si un clip es genuino o generado por IA ¿Esto es real o generado por IA? A veces puede ser difícil de decir. Durante cientos de años, los humanos han utilizado marcas de agua para demostrar dónde se creó el contenido Un reto es desarrollar una marca oculta para los espectadores pero visible para quienes la buscan. Ingresa Synth ID de Google Deep Mind. Puede producir una marca de agua digital que es imperceptible para los humanos y funciona en los productos de Google para etiquetar imágenes, video, audio y texto generados por IA video, audio La marca de agua puede soportar técnicas de edición comunes como reordenar y recortar, agregar ruido, compresión, recorte ¿Cómo? Para las imágenes, se puede incrustar directamente en los píxeles. Para video, también marca frame. Para el audio, SynthID convierte la señal en un espectrograma, una representación visual de las ondas sonoras en las que incrusta la marca de agua antes convertir todo de nuevo No puedes leer ni escuchar ni ver las marcas de agua, así podrás disfrutar plenamente de tus creaciones La tecnología SynthID ya se utiliza en la IA generativa, los productos de consumo de Google Synth ID es solo una herramienta que estamos utilizando para asegurarnos de que las herramientas generativas de IA se construyan teniendo en cuenta la seguridad desde el principio Y lo sé, suena tranquilizador, ¿verdad? Bueno, no debería no debería todo porque aquí es donde se vuelve realmente complicado. Synth ID solo funciona para videos hechos con productos propiedad de Gols Si otra compañía dice MIT, Idobe o cualquier desarrollador independiente construye un modelo sin esa marca de agua Sync ID puede detectarlo. Y al igual que hemos visto con las imágenes generadas por IA, gente eventualmente encontrará formas eliminar o enmascarar esas marcas de agua Y no es difícil imaginar a dónde va esto. Plataformas sociales como meta o TikTok probablemente desplegarán sus sistemas de detección más avanzados, pero la historia nos dice cómo se desarrolla esto Cada nueva capa de detección se encontrará rápidamente con un paseo. Creo que se convertirá en un juego interminable de ida y vuelta como un juego digital de gato y ratón. Pero eso lleva a la verdadera pregunta. ¿Qué sucede cuando la realidad misma se vuelve negociable? Cuando un discurso político, una actuación de celebridades o un clip de noticias de última hora se pueden generar en segundos, y las herramientas destinadas a exponer falsificaciones ya no pueden seguir el ritmo Eso ya no es ciencia ficción. Ese es el campo de batalla de la información que ya entramos. Y la parte verdaderamente peligrosa, a veces esos videos no tienen que engañar a todos. Solo tienen que llegar a la persona adecuada en el momento adecuado. Entonces tal vez la pregunta más interesante no es sobre la tecnología en absoluto. Se trata de las personas, cómo elegimos usarlo, compartirlo y creer en ella, y cómo sobrevivir en estos tiempos y cuidar nuestro bienestar como sociedad. Y pienso para hacer eso, para sobrevivir en el mundo de hoy, hay que entender cómo funciona todo y por qué funciona así. 5. Cómo es la generación de imágenes de IA: Generación de imágenes de IA de pie. Hay un tipo especial de magia en escribir algunas palabras o algunas frases, por ejemplo, un gato esponjoso que lleva gafas de sol en una tabla de surf al atardecer y verlo aparecer en tu pantalla como un pensamiento hecho real, como un pensamiento hecho visible. Y la primera vez que usé uno de estos artles de IA en realidad me reí a carcajadas, no porque la salida fuera perfecta, sino porque sentía que acababa susurrar una idea y de repente apareció en Súper extraño para mí, pronto, tuve este poder. De pronto tuve acceso a algún tipo de magia blanca o entré en el mundo de Harry Potter. Pero no es magia. Herramientas como Majury Dolly, toda difusión estable, y todo lo demás han convertido la imaginación en algo que aparece instantáneamente en nuestras pantallas y para bien o para mal, han hecho que la creatividad se sienta como colaboración entre humano y un chico Pero debajo de la poesía y la magia, debajo de ella, debajo de ella. Es un fascinante y también inquietante. Realidad. Los sistemas, las herramientas no entienden lo que están generando. No saben lo que es una tarjeta o cómo se siente una puesta de sol. Sé inteligencia artificial y los modelos, los módulos LAM, no están inspirados, entrenaron. Así que vamos a retroceder un poco el telón. Arte de predicción al nivel más simple más simple, estas herramientas funcionan prediciendo cómo deberían verse los píxeles, los píxeles que desea Cuando cronometras un prompt, por ejemplo, digamos, café París de los sesenta visto y acuarela, el modelo no lo pinta como lo haría un artista En cambio, comienza con un ruido, una imagen aleatoria de campo estático, y luego elimina gradualmente el caso un pequeño paso a la vez hasta que se convierte en algo reconocible Y sé que ya escuchaste mucho esta palabra. Este proceso. Escucha, a este proceso se le llama difusión. Y te lo puedes imaginar. puede pensar en ello como desdibujar una imagen que nunca Y en el entrenamiento, el módulo ya ha visto millones, a veces miles de millones de imágenes junto con el texto que las describe describen. Por ejemplo, aprende los patrones de que el café suele incluir mesas, tazas, iluminación de gusanos, y también aprendió que acuarela significa bordes más suaves y tonalidades descoloridas También aprendió que 1960 Sporis tiene cierto tipo de moda y arquitectura Con el tiempo, aprende el lenguaje visual de nuestro mundo humano. Entonces no el significado detrás de esto, sino la forma de la misma. Entonces cuando le das un prompt, traduce tu palabra a esa gramática visual aprendida. No crea a partir de la memoria. No, se reconstruye en base a la probabilidad. Incrustaciones y fichas. Aquí es donde se pone un poco nerd. Cuando escribes palabras en esos modelos, se convierten en lo que se llama incrustaciones, como pequeños vectores matemáticos representan significado En el mundo de los modelos, perro, cachorro y canino viven muy juntos en este espacio multidimensional abstracto de riqueza humana Así entiende el modelo que esas palabras están relacionadas, aunque nunca antes las había visto una al lado de la otra. Y la vista visual funciona de manera similar. Cada color, cada línea, cada sombra y textura también existen en este enorme mapa de relaciones entre palabras. Entonces, cuando le pides al modelo un paisaje tormentoso, busca en su memoria en un sentido estadístico donde tormentoso y ver scape se superponen y luego comienza a construir una imagen que encaje Entonces no, para desacreditar los mitos, no es sacar fotos viejas de una base de Se trata de imaginar la combinación más probable de detalles visuales que coincidan con tu prompt Es un poco como cómo tu cerebro completa una oración antes de que alguien la termine. Excepto que la IA está haciendo eso con píxeles en lugar de palabras. Los grandes jugadores libres. Cada uno de los grandes nombres de los que probablemente escuchaste y probablemente usaste Mejoni Dolly y Stable Diffusion tiene su propia vibra, algo así como tres artistas pintando la misma escena en diferentes En mi humilde opinión, Madgeny a menudo se siente como un conductor porque emite sus imágenes cinematográficas, malhumoradas y muchas veces más surrealistas que las imágenes de las otras Corre sobre este acorde, lo que de alguna manera hace que todo el proceso se sienta comunal. Med journey utiliza su propio modelo de difusión, pero está afinado para la estética más que el realismo fotográfico. Es menos cómo sería esto en la vida real y más ¿cómo sería esto en un hermoso sueño? Dalí a través de abrir los ojos es el pragmático del grupo. Es el que trata de hacer las cosas bien. El módulo ha sido entrenado con más moderación y más filtrado, y ha incorporado salvaguardas contra la generación de personas reales o contenido explícito También puede editar fácilmente imágenes existentes, agregando, eliminando o reimaginando partes de una foto, manteniendo todo consistente con la iluminación y la perspectiva Luego hay una difusión estable duradera, y a diferencia de los demás, es de código abierto, lo que significa que cualquiera puede descargarlo , modificarlo y usarlo como quiera, y quiera. Esa es tanto su fuerza su peligro porque se ha utilizado para deslumbrar el arte oral y también para cosas menos saladas como el porno falso o la propaganda Entonces, lo que en realidad están aprendiendo. Entonces aquí está la parte que se siente casi existencial. Estos modelos no ven las imágenes de la forma en que lo hacemos nosotros. No conocen la belleza ni el contexto o la emoción. Como ya te he recordado, ellos solo le patrones. Aprenden que las cosas llamadas montañas a menudo tienen formas de jacked. Ese cielo suele ser azul. Esa tristeza se correlaciona con piedras de escamas grises o miradas hacia abajo No se sienten af cuando rinden una puesta de sol. Simplemente predicen estadísticamente colores de los píxeles que corresponden a la puesta del sol. Y sin embargo los resultados pueden hacerte sentir algo. ¿Y eso no es extraño? El arte en sí es falso. Es sintaxico Pero nuestra reacción ante ello, lo que evoca en nosotros, puede ser real. El sitio ético. Por supuesto, la conversación no termina con cómo funcionan estos módulos. Rápidamente se vuelve a cómo se usan. Están entrenados en enormes colecciones de imágenes offline a menudo raspadas de Internet sin el consentimiento del artista original Y cuando EI genera algo al estilo de un artista vivo, no es inspiración, es imitación. El modelo aprende ese estilo iniciando el artista, trabajo de ese artista línea por línea, color por color. Entonces eso plantea enormes preguntas sobre la propiedad, crédito y la creatividad porque quién es el artista en ese caso, la persona que escribió las indicaciones, los ingenieros que construyeron el modelo o los innumerables artistas a menudo anónimos cuya obra la entrenó Y como puedes adivinar, todavía no hay una respuesta clara. Hay tantas perspectivas que tenemos que tomar en consideración, y la cuestión en sí importa tanto. Estas preguntas importan tanto, y creo que es muy importante para nosotros como sociedad discutirlas, pensar en ellas, pensar nuestro enfoque personal, cómo lo vemos. Y lo que personalmente temo cuando se trata de este mundo de arte generativo realmente bueno es lo rápido que está cambiando lo que realmente parece porque cada imagen, cada foto que vemos en línea ahora lleva un minúsculo invisible interrogación. ¿Eso fue pintado, fotografiado o generado? Y ¿importa? Creo que sí importa. Y es muy fácil romantizar la IA o monizar la IA. Pero a lo mejor la verdad yace algo en el medio. Medio viaje, plataforma dolly, difusión de mesa. No son mágicos. Tampoco hay monstruos. Son solo espejos que aprenden a imitar el trabajo humano. 6. Casos de uso comunes: arte, anuncios, memes y propaganda generados por IA: Casos de uso comunes, arte generado por IA, anuncios, memes y propaganda. Creo que cada nueva tecnología encuentra su voz en algún lugar entre el juego y el poder. Y por supuesto, la generación de imágenes de IA y la generación de video no es diferente. Cuando herramientas como Megury dolly y la difusión estable se volvieron accesibles para todos, lo primero que hizo la gente no fue crear anuncios políticos ni la propaganda falsa Hicieron memes. Cas en serie espacial, escenas bíblicas protagonizadas por Shrek Los políticos se convirtieron en princesas de Disney. Y así es como la mayoría de las cosas nuevas empiezan, por supuesto, inocentemente, con curiosidad y humana Pero como novedad de la misma tecnología que nos hizo reír y que nos hizo reír, también empezamos a dar forma a lo que vemos, lo que compramos, y en lo que creemos. Entonces ahora analicemos y discutamos qué es lo que la gente está usando realmente estos recorridos para el bien y para lo malo. Y preparé algunos casos interesantes para que los veas. Generé arte. Sí, el arte de la IA ya ha creado una crisis de identidad para el mundo creativo. Por un lado, es lo más emocionante que le ha pasado a la cultura virtual en décadas porque un joven de 14 años no puede hacer imágenes que parezcan pertenecer a Cualquier poeta puede visualizar sus palabras y experimentar con la interpretación, la interpretación visual. Un diseñador de moda puede crear prototipos de colecciones enteras en un día. Es una especie de democratizar la creación de una manera que se siente liberadora y tan profundamente abrumadora y preocupante Por supuesto, la belleza de la misma puede ser la accesibilidad. Arte que solía requerir años. Años de duro entrenamiento o herramientas costosas ahora comienzan con una oración. Cualquiera que sea la frase que desees, pero es muy complicada. Porque cuando todo es arte, cuando todos pueden generar arte, el arte pierde parte de su significado. Y cuando un modelo entrenado en el trabajo de otras personas produce una imagen hermosa. Ya te hablé de la pregunta. Creo que es la pregunta más importante. ¿De quién es realmente el arte? Y esta es la pregunta en la que no puedo dejar pensar porque he visto impresionantes piezas de arte generadas por IA que realmente me conmovieron. También he visto otros que se sentían muy huecos, como el equivalente visual de una caloría vacía. Lo he consumido, pero no sentí nada. Entonces, a mis ojos, cuando se trata de arte, IA puede producir belleza, pero puede producir intención. Como. Si el arte generado se convierte en una herramienta de negocio. Entonces el Os salvaje fue uno de los primeros abrazar completamente las visuales generativas, porque claro que lo La publicidad es, después de todo, contar historias con un discurso de venta, Instagram, anuncios de Facebook, anuncios de YouTube. Ahora, en lugar de contratar fotógrafos, estilistas y equipos de producción completos, los alquileres pueden llegar a una Una joven pareja en una azotea de Barcelona, Hora Dorada, sosteniendo café helado 30 segundos después, ahí está. Es casi demasiado bonito para beber. Sí, pero es demasiado bueno para no hacerlo. Las imágenes y videos publicitarios generados por IA son más baratos, rápidos e infinitamente personalizables ¿Necesitas que tu modelo sea mayor, más diversa, vistiendo una camisa diferente? Bueno, esa es una forma rápida. Pero hay un costo, claro, no sólo en los trabajos, sino en la autenticidad y la confianza del cliente porque se trata de imágenes que no provienen de la experiencia vivida. Son compuestos de nuestra idea colectiva de felicidad o deseo Entonces estamos entrando en una época en la que los rostros sonrientes en las vallas publicitarias pueden ni siquiera existir Pero se ven reales, ¿verdad? Digamos que algunos sueños son demasiado ambiciosos, pero nunca hemos creído en los límites. Los retos no nos detuvieron. Nos empujaron hacia adelante. Cada obstáculo, cada duda nos conformó en algo más fuerte porque el progreso no se trata del pasado. Se trata de lo que es posible. Y lo que es posible es todo. Memes. A mis ojos, personalmente, el arte se trata de expresión. Las artes se tratan de persuasión, y los memes son una forma de conectar con otras personas, y de conectar con el humor y algo que sea relatable Y Yi me ha convertido convirtiéndome en algo salvaje, honestamente. Ahora puedes generar humor hiper específico que se sienta adaptado a tu nicho exacto, por ejemplo, millennials de mediados de los 30 que aman leche de avena y tiene crisis existencial y tuvieron Y a veces de alguna manera la IA lo consigue. Y yo haberme hecho la creación más surrealista, más estratificada Y sí, más absurdo que nunca. Porque ahora los formatos enteros de mí emergen de la noche a la mañana porque alguien descubre cómo generar infinitas variaciones de la misma broma. Es divertido, pero también es como las narrativas culturales por ahora porque, claro, siempre fue así Los memes se propagan más rápido que los hechos. Ellos dan forma a la percepción de alguna manera. Se convierten en taquigrafía de opiniones e identidades. Y cuando la IA los está creando, ese proceso se acelera diez veces Entonces solíamos decir que Internet nunca se olvida. Ahora se siente más como Internet, nunca deja de remezclar la realidad Propaganda, el caso de uso más oscuro. Y, sí, sí, aquí es donde mi estado de ánimo cambia. La misma tecnología que puede hacer arte hermoso y memes risibles también puede hacer manipulación y oh chico, manipulación tan seria Y las imágenes y videos generados por IA se están utilizando para difundir historias falsas y agitar la división en estos momentos. Por ejemplo, una foto de un corte de Líder Mundial. Corte a hacer algo escandaloso. Una escena de protesta que nunca ocurre. Una foto falsa de desastre diseñada para generar pánico o simpatía. Estas imágenes viajan tan rápido y S desafortunadamente, mucho más rápido que la comprobación de hechos o la verdad. Y la propaganda siempre ha existido, siempre existió, pero esta nueva versión de la misma parece lo suficientemente real como para eludir nuestro escepticismo A veces es muy coordinado. Campañas respaldadas por el Estado que intentan influir en elecciones o en la opinión internacional. Otras veces es más como llamadas descentralizadas, una publicación aleatoria de una cuenta anónima que se vuelve viral antes de que algo que alguien sepa es falso. De cualquier manera, el resultado es la misma confusión y confusión es tan poderosa porque cuando todo puede ser falso, hasta las cosas reales empiezan a sentirse sospechosas. Esa es la parte más aterradora, creo. No es que creeremos mentiras, pero eventualmente algunos de nosotros dejaremos de creer en nada. Entonces sí, estas herramientas están creando arte y nosotros y memes y propaganda. Pero lo que los une a todos es algo claramente humano El deseo de comunicar algo. Entonces la gente usa estas herramientas, gente buena y la mala gente usa estas herramientas para expresar, persuadir, conectar e influir, tal como siempre lo hemos hecho El medio es nuevo, pero el proceso no lo es. La misma tecnología que hace una falsificación política profunda que es tan peligrosa también puede hacer una tarjeta de cumpleaños. El mismo algoritmo que los toros en campaña publicitaria pueden ilustrar un poema de amor. 7. Señales de imágenes falsas: las pistas visuales: Signo de imágenes y fotos falsas, los artefactos visuales. Estas son imágenes generadas por IA usando el mismo prompt con un año de diferencia. Muy impresionante a la derecha. El avance es casi increíble. Pero incluso ahora, las fotos e imágenes generadas por IA a menudo se ven perfectas a primera vista hasta que miras más de cerca. Entonces empiezas a ver los extraños detalles. Y esa es la buena y la mala noticia. La tecnología continúa, y definitivamente va a estar casi impersistb a medida que esta tecnología avance Pero ahora mismo todavía quedan algunos pequeños artefactos, algunos pequeños errores que comete la IA. Empezar con texto. A veces la IA todavía lucha con el lenguaje en imágenes y fotos. Un letrero en la calle que diga alto podría salir así. logotipo de una camiseta podría transformarse en algo irreconocible y Eso es porque el modelo en realidad no llega. Simplemente sabe cómo se ve el texto. Primero una regla simple. Siempre acercar el zoom. A la IA le encanta estropear los pequeños detalles. Y esto es lo que debes buscar cuando haces zoom. Texto en el fondo. calles, carteles, portadas de libros, placas porque el texto de IA a menudo parece casi correcto. Las letras se funden entre sí. Las palabras no tienen sentido o las fuentes cambian aleatoriamente. Si algo se ve bien desde lejos, pero empieza a desmoronarse, cuando acercas, sí, eso suele ser IA. Así que siempre mira letreros, carteles, vallas publicitarias, matrículas, tiendas, nombres de tiendas porque la IA odia estos Y también te voy a mostrar cómo funciona en la práctica porque tengo tantos ejemplos interesantes para ejemplificar mejor esto ¿Y qué suele salir mal? Las palabras galimatías, las letras parecen reales, pero las palabras no tienen sentido, como si casi deletreara algo, pero no Fusión de letras, el texto se dobla, se estira o se funde en el fondo Las líneas rectas de repente se convierten en fuentes onduladas o suaves e inconsistentes. Una palabra, tres estilos de fuente diferentes o letras que cambian aleatoriamente de tamaño o forma. Imposible claridad o ninguna en absoluto. O el texto es extrañamente borroso comparado con todo lo demás o poco realista nítido, de todos modos, eso todos modos, Texto que evite ser legible. IA a menudo mantiene los signos distantes lo suficientemente claros para que no los cuestiones hasta el Zoom, ¿verdad? Y las fotos reales suelen tener texto aburrido y legible, aunque sea un poco borroso Y la IA intenta parecer convincente pero colapsa bajo Zoom. Después hay asimetría. Los humanos son asimétricos. Gloriosamente así Nuestros rostros, manos e incluso nuestras sonrisas llevan minúsculas inconsistencias Pero la IA, por supuesto, tiende a crear equilibrio. Se sobrecorrige. Así que mira de cerca los retratos que parecen perfectos donde ambos lados de la cara se reflejan un poco de manera poco natural Este problema de perfección es más profundo que la estética. Los influencers generados por IA como el modelo virtual Iana pus o Lil Miku suelen parecer demasiado simétricos, demasiado suaves, demasiado consistentes Son muy atractivos, sí, pero de una manera que se siente diseñada. Los humanos se ahogan en la perfección porque, bueno, es un signo de realidad otro lado, eso es gracioso, a veces verás las formas extrañas opuestas o joyas desalineadas, aretes que no coinciden, o fondos que se curvan donde no deberían es una textura increíble, pero sigue siendo torpe Creo que es el equivalente artista de un niño dibujando una hermosa casa con las ventanas flotando un poco demasiado altas. Los retratos de moda generados por los ojos suelen tener aretes fundidos o joyas asimétricas También veremos las manos con el dedo oculto y no sabemos dónde está ni copas de vino dobladas en direcciones rectas. En el hielo. Un sorteo más sutil en las fotos generadas por IA suele esconderse en el hielo Si miras de cerca, los reflejos pueden parecer demasiado agudos, demasiado blancos, casi como si estuviera pintado. Los alumnos a veces tienen este pequeño círculo de luz blanco perfecto, algo que realmente sucede en la vida real fuera del estudio de fotografía. Por ejemplo, cuando comparé una imagen de mí misma generada por IA con una foto real de mí misma, mira, la diferencia se hizo obvia. En la versión AI, mi cabello se veía poco natural y elegante Como cada hebra había sido ron plano y la luz en mis ojos se veía extrañamente uniforme Mira, este círculo perfecto de la opepa que no se sentía vivo. La foto real, se puede ver como luz del día es visible en mi piel, en mi rostro, pero también en las pupilas, reflejos más suaves, suaves en lugar de manchas blancas puras. Para ser justos, la imagen de IA estaba tratando de imitar una foto de estudio con iluminación artificial y la configuración del estudio a veces puede crear esos reflejos brillantes y brillantes en los alumnos Pero la IA tiende a exagerar. Los reflejos se vuelven demasiado redondos, demasiado brillantes y demasiado perfectos, dando a toda la cara ese aspecto ligeramente plástico para pulir. Cuando miras los detalles, por ejemplo, en pupilas, sombras claras y anatomía. Un pequeño pero importante obsequios. este momento, la iluminación puede ser una de las formas más fáciles de captar una foto falsa y generada por IA porque la luz real se comporta Siempre tiene dirección, tono y profundidad. Y la luz AI, se vuelve confusa. Es posible que veas a una persona parada bajo el sol con sombras que caen en dos direcciones o reflejos que no coinciden con lo que hay cerca. Por lo que es muy importante prestar atención a los reflejos, también los reflejos en espejos, vasos, agua. A menudo revelan una realidad completamente diferente. A veces hay un desorden de la mano en el espejo un objeto que no existe en el primer plano o incluso una segunda fase que la IA olvidó borrar. Y cuando se trata de anatomía, sí, lo sé. Podrías pensar en las famosas manos de IA, dedos que se multiplican como filas de calor, brazos que se doblan y en ángulos imposibles, y dientes que se difuminan en calcas blancas. Orejas que se desvanecen en aretes. Ahora mismo, esas cosas casi se han ido porque estos módulos están aprendiendo rápido. Entonces ahora a la IA le va mucho mejor con las manos, los dedos y los pies, pero a veces de vez en cuando, todavía comete estos errores. Así que mira esos dos retratos. Una es la IA generada y otra es real. ¿Y tú qué opinas? ¿Qué pequeñas imperfecciones delatan a la real? ¿Qué sientes cuando miras la versión de IA? Y nada resalta un ojo a primera vista. Se regala en los micro detalles. Así que mira donde la iluminación no entra completamente porque la iluminación ocular a menudo se ve cinematográfica pero sin dirección Se siente uniformemente agradable en la cara, carece de sombras duras donde deberían existir. Entonces, ¿qué opinas? Y cuando le pido a JTPT que juzgue qué foto fue generada por el ojo y cuál era real, se equivocó Y JTPT dijo que la foto que personalmente tomé a mi amigo fue definitivamente generada por IA, lo cual, claro, no lo fue, y esos fueron los argumentos que Porque, mira, la foto de la derecha es real, 100% real. Es una persona real y una imagen casi cruda de mi sesión de fotos editada solo a la ligera en sala en vivo Entonces, si estás juzgando un ojo basado en lo bonito o lo pulido que se ve una persona, ya estás en problemas hoy en día. Y creo que aquí es donde la verdadera lección. Ya no hay un solo regalo visual. Cualquiera que reclame un ojo siempre se ve así y esto es demasiado simplificante fotografía de alta calidad puede parecer más artificial que la IA hoy en día borrosa. ¿El fondo es súper borroso? En muchas imágenes generadas por IA, el fondo suele ser demasiado borroso o demasiado nítido o hiperreal Las fotos reales pueden, por supuesto, tener poca profundidad de campo. Pero no, el desenfoque de IA se ve diferente. Es exagerado, repartido uniformemente por todo lo que hay detrás del tema En realidad me equivoqué este durante el experimento últimamente. Seguí la lista de verificación de lapso de medios, tomando a la persona vello facial, textura de la piel, luz, y sus ojos. Y cuando estaba mirando una foto, creo que todo me parece auténtico. El tono de la piel era natural. Las reflexiones tenían sentido. Estaba súper convencido de que es real, pero no lo fue. Y los antecedentes lo delataron. Mira, esa operación hecha borrón superfecto fue la pequeña pista que me Entonces, cuando intentas identificar si la imagen, la foto que estás viendo es generada por IA o no, pregúntate, ¿la imagen se ve demasiado real? Porque si el desenfoque es un extremo de las fotos de IA, hiperrealidad es el otro A veces las imágenes de IA se ven tan nítidas y pulidas que comienzan a sentirse irreales Como si cada color y textura se hubiera vuelto al máximo. En la foto aquí, hay varias pistas de que la foto podría ser generada por IA Pero lo que realmente lo delata es lo perfecto, lo perfecto que se ve todo. Las hojas de los árboles son casi resplandecientes, poco naturales crujientes y luminosas, y la línea de árboles es extrañamente Al igual que alguien los arregle con una regla. Es el tipo de equilibrio que podrías ver en una escotilla cuidada, no en una acera ordinaria de la ciudad Y ese es el regalo de la hiperrealidad de IA cuando el mundo se ve más claro, más brillante, más intenso y de colores, y más preciso que el real jamás podría Así que mira esas fotos, mira esas fotos y pregúntate, ¿se ven reales a reales? Y también, mira, si miras el lugar donde está sosteniendo mano de su madre los detalles funden de una manera que no tiene mucho sentido. Contexto más cuando la historia no suma, incluso cuando una foto de IA se ve impecable, técnicamente, a menudo hay algo raro en la historia que cuenta Mira los detalles en el fondo. El soldado podría estar usando el uniforme de la época equivocada. Un edificio puede presentar estilos arquitectónicos de tres continentes diferentes o una mano puede descansar sobre una mesa invisible. Es porque la IA todavía tiene problemas con la lógica. Sabe cómo se ven los objetos, pero sabe cómo interactúan. Pondrán a una persona sentada cómodamente en una silla que no tenga flex de vez en cuando. Incluso las expresiones faciales pueden parecer incomparables. Como todos en la imagen la foto están reaccionando a un momento ligeramente diferente. Y eso es porque lo son. Cada fase se genera de forma independiente. Entonces el ritmo emocional nunca canta del todo. A veces el fondo se ve muy lavado o genérico. Está destinado a apoyar al tema principal, pero no contar una historia. Por lo que la IA no presta atención para generar tantos detalles. Aprendiendo a ver de otra manera. Sí, tengo que decirte que el punto no es volvernos paranoicos porque fácilmente podemos volvernos paranoicos, Te cuento todo esto porque quiero que te vuelvas consciente y más observador ¿Necesitarías tu promesa meñique? Porque aprender a detectar fotos y videos falsos, no se pretende que se trate de desconfiar Solo tenemos que mirar un poco más de lo que hacíamos antes y usar nuestra intuición humana en nuestros ojos, sobre todo cuando una foto desata fuerte reacción en nosotros, por ejemplo, indignación PA. Necesitamos tomar un respiro antes de considerar compartirlo y pasarlo más lejos. Acercar, verificar el texto, para retrasar el fondo. Porque, sí, la verdad es que esas fotos van mejorando cada semana. Las escenas visuales están cerrando, los detalles se están reduciendo, y pronto la diferencia entre fotos reales y falsas podría no vivir en los píxeles en absoluto ya que todos los Muriels mejoran y mejoran Entonces tal vez la habilidad más impresionada en esta nueva era, porque creo que podemos llamarla así, la nueva era de la IA no va a ser sobre alfabetización técnica. Tal vez se trate de alfabetización emocional, la capacidad de sentir cuando alguien se siente bien y real se ve bien y real pero no se siente bien y real. 8. Lista de laboratorios de medios del Massachusetts Institute of Technology (MIT): Investigadores del Massachusetts Institute of Technologies Media Lab decidieron hacer algo poderoso. En lugar de simplemente escribir artículos académicos sobre falsificaciones profundas, querían ayudar a la gente común, a que todos los vieran y experimentar de primera mano lo complicado que puede ser distinguir un de ¿Qué hicieron? Construyeron un sitio web llamado Detectar falsificaciones, un proyecto interactivo donde se pueden ver fotos, alguna IA generada, otras no Puedes intentar adivinar cuál es cuál. La idea es simple. La idea es que al practicar ejemplos reales, comiences a notar los pequeños detalles visuales que la IA generó Media Away. El proyecto se basa en un esfuerzo de investigación masivo llamado Kegels Defect Detection Challenge, una competencia global respaldada por AVS, Facebook, Microsoft y la asociación Y el reto ofrecía 1 millón de precio a equipos que podían construir los mejores modelos de aprendizaje automático para detectar defectos. Entonces es bastante grande. Era bastante grande. Y el enfoque del MIT fue un poco diferente. En lugar de afinar el algoritmo perfecto, querían explorar algo más humano. ¿Cómo pueden la conciencia y la práctica hacernos mejores detectores de medios manipulados por IA Entonces su hipótesis era que si las personas están expuestas a medios generados por IA y a falsificaciones profundas y aprenden a detectar lo que se siente mal, volverán mejores en reconocer el engaño a través de todo tipo de contenido digital generado por IA Entonces, como ya les he dicho, lanzan el sitio web de detección de falsificaciones utilizando miles de medios seleccionados del conjunto de datos de FDC Y la última versión del sitio cuenta con 32 imágenes cortas, y podemos hacer clic a través de adivinar cuáles son reales y ver instantáneamente si lo hicimos bien. Entonces eso es realmente emocionante porque podemos comprobarlo. Podemos comprobar qué tan observantes somos en tiempo real y obtener las respuestas y las pistas de inmediato. Como puedes ver aquí, el proyecto también comparte pistas sutiles como pequeño signo Puedes buscar e intentar decidir si esta foto esta imagen podría ser falsa. Estas no son reglas duras, sino patrones que a menudo revelan la manipulación. Y el MIT también publica la lista con los ocho signos de una falsificación profunda. Entonces tengo curiosidad por saber qué comparten aquí, qué debemos buscar, y ¿cuáles son los signos más comunes? Es muy bueno conocerlos. Enfócate en el rostro porque mayoría de las falsificaciones profundas giran en torno a la transformación facial, intercambiando una cara por otra o ajustando tristemente expresiones Entonces hay que estudiar análisis ahí. Mira de cerca las mejillas y la frente. ¿La piel se ve antinaturalmente lisa o extrañamente arrugada ¿Los rasgos faciales coinciden con la edad de la persona? falsificación profunda a veces combina una cara llena amarilla con ojos o cabello más viejos creando este desajuste muy extraño. Revisa los ojos y las cejas. Iluminación y sombra, como ya te he dicho, cómo fingir. Entonces hay que analizar. Son los ojos reflejando la luz de forma natural. A sombras cayendo donde esperas que lo hagan. Porque las falsificaciones a menudo extrañan profundidad la física húmeda real de la luz Presta atención a las gafas. El deslumbramiento o la reflexión en las gafas pueden verse mal. A veces no hay resplandor en absoluto o demasiado y no se desplaza correctamente cuando se mueve la cabeza. Analizar el vello facial. quemaduras laterales de las aves o el establo pueden agregar o eliminar digitalmente, pero la IA aún lucha para que se vean realistas Así que los titulares en algunas vainas podrían difuminar ligeramente el licor. Observe que los lunares faciales son pequeñas burlas Porque las falsificaciones profundas pueden olvidarlas por completo o hacer que se muevan ligeramente de un cuadro a otro, y debes analizarlo porque es una buena manera de distinguir qué es lo que se genera la IA y lo que es real porque las características reales de la piel se mantienen consistentes Y los medios generados por IA ¿sabes?, los topos, o las pecas pueden cambiar la estructura, estar en diferente posición, y muy a menudo es consistente, por ejemplo, cuando tienes algunas fotos de una persona similar Mira el parpadeo. Los defectos más antiguos se olvidaron de parpadear. Estoy aquí en la Universidad de Harvard. Apenas un lugar extraordinario se remonta al siglo 1600. Siempre me pregunté cómo sería ir a una escuela así. Cosas bastante nerd. Nerds serios Pero agradable. A veces sobrecompensarás De cualquier manera, el patrón natural de parpadeo todavía puede ser una pista. Estudia los labios, porque hundimiento de labios sigue siendo una de las partes más calientes para perfeccionar Los movimientos fuera de la boca se sincronizan perfectamente con el ingenio. ¿Se siente un poco apagada como una película de dudas? Presta atención a D. Estad ahí, Steve. Oye, ¿qué pasa? ¿TikTok? Mira, hago muchas de mis propias acrobacias, pero también hago mucha limpieza industrial, ¿de Es importante. Entonces, obviamente, mantienes las manos limpias, pero necesitas ese producto exfoliante para cortar realmente la mugre, Sólo otro consejo para ustedes habladores, o la propina a la propina tomó propinas. Me estoy poniendo muy viejo para eso. Yo no La desfiguración de alta calidad todavía puede engañar incluso a los profesionales capacitados Pero con la práctica, tu cerebro comienza a captar las pequeñas inconsistencias, iluminación que no coincide con una piel que se ve un poco demasiado perfecta o que tiene demasiado contraste en algunas partes, como, por ejemplo, en este Y cuando se trata del MIT, el proyecto de detección facial se construye sobre esa idea exacta. Cuanto más entrenamos nuestra intuición, más difícil se vuelve para los medios generados por IA manipularnos porque somos muy observantes y muy Así que puedes intentar experimentarte aquí mismo, ver las fotos, hacer tus conjeturas y ver con qué facilidad se puede engañar nuestra percepción de la verdad Y ahora intentemos identificar a unos cuantos juntos. Será divertido. Eso es lo que dijo. Y tengo que ser honesto cuando pruebo por primera vez esas pruebas y estaba tan segura de que sería genial para reconocer las falsas. 100% accurncy no hay problema, lo haré mucho. Fácil. O al menos eso es lo que me dije antes de saltar los medios del MIT detectar experimentos falsos para ver si podía distinguir una imagen generada por IA a partir de una real. Vine muy preparado. Tráelo, yo. y yo estaba así. Tenía confianza, tal vez incluso un poco engreído. Y luego me engañaron. Sí, me engañaron una y otra vez. Oh, ahora veamos algunos ejemplos juntos y desglosemos a qué vale la pena prestar atención. Como mencioné antes, tantas veces, siempre vale la pena acercar los detalles Ahí suele esconderse las pistas. Algunas de esas imágenes son lamentablemente de baja resolución, que hace que sea más difícil acercar correctamente, lo sé. Pero, por ejemplo, aquí, la placa se ve bien a primera vista. No obstante, una vez que miramos las insignias del modelo de auto, empiezan a aparecer más dudas. edición de imágenes hace que el programador de tareas, por supuesto, pero las marcas en el suelo también se sienten inconsistentes y poco coherentes Entonces echemos un vistazo más de cerca a las ruedas y las manijas de las puertas del auto porque detalles como estos suelen revelar más. Esta es esta rueda parece que se generó imprecisamente El asiento reflejado en la ventana también me parece antinatural Y quiero enfatizar que estoy totalmente seguro de que esta imagen es generada por IA. Para mí, lo que encontré, las cosas que ya mencioné, ya es evidencia suficiente y muy clara. Entonces, ¿estoy seguro? Sí, ¿lo soy? ¿Y el veredicto? Bueno, sí, se trata de una imagen artificial generada por IA. Así que a la siguiente, a primera vista, este parece menos rayado Todos los gabinetes tienen asas idénticas lo que ya sugiere que esta es una foto real. En el mostrador, podemos ver un menú que sostiene topográficamente Respeta el espaciado, la iluminación y las líneas limpias, lo que, de nuevo, apunta hacia que se trata de una imagen real Los detalles de fondo como los elementos en la vitrina, también apoyan la idea de que esta es la foto real. Lo único que me hace pausar es ese objeto amarillo y por qué el tipo de la camisa azul está sosteniendo uno en el mostrador o estufa. Pero la resolución es demasiado baja para resolverla completamente, creo. Y para mí, esta es una foto real. Vamos a comprobarlo. Voila. Es una foto real. Eso fue fácil, ¿verdad? ¿Y cómo votó? Tengo mucha curiosidad. Házmelo saber. Házmelo saber en la sección de discusión. Tengo mucha curiosidad. Ahora echemos un vistazo más de cerca a esta imagen. ¿Qué tenemos aquí? Un restaurante elegante, pero parece una imagen más antigua porque los defectos son muy obvios. Veamos las telas, las caras y las hojas de los árboles. En un tamaño muy pequeño, esta foto podría pasar como real. Pero a este tamaño, cuando nos acercamos, todo está claro como el día. Esto es definitivamente lo que he generado. Entonces, ¿cómo votó al principio? Vale la pena pasar por muchos más ejemplos porque realmente varían en dificultad. Estos fueron bastante fáciles. Había grandes banderas rojas, pero también me he encontrado casos que eran mucho menos obvios. Entonces en los próximos capítulos, pasaremos por muchos más de ellos juntos porque aunque estos parezcan fáciles, yo también lo pensé al principio. Pero te voy a mostrar un poco más tarde que no siempre es tan sencillo. Y puedes experimentar con este proyecto, con este sitio y probarte a ti mismo y a ti mismo tiempo libre y dejarme saber en la sección de discusión cómo va y si estás mejorando cada vez más en notar patrones y notando los falsos Creo que la gente es realmente capa para usar un par. Creo que la mayoría de la gente cree historia de Miller. 9. ¡Es hora de poner a prueba tus habilidades!: Otra forma de poner a prueba tus habilidades. Ya pasamos algún tiempo discutiendo cómo detectar imágenes generadas por IA, pero como ya sabes, la teoría es una cosa. Tengo otra forma muy divertida y muy práctica pero muy educativa de aprender a distinguir y decidir qué es real y qué no así que ahora es el momento de ver qué bien funcionan realmente tus ojos en la práctica. Y esto me encanta. A mí me encanta esto. Tengo que decirte que soy un poco adicto a esto. Entonces creo que también te volverás adicto a ello. Entonces, escucha, un usuario creativo redid que ha estado experimentando con mi viaje desde los primeros días tenía las mismas preguntas que nosotros ¿Qué tan bien podemos realmente notar la diferencia entre las fotos reales y las generadas por IA? Por lo que construyó un juego llamado Reality Check para averiguarlo. En esta tarea sencilla pero muy adictiva, verás dos fotos una al lado de la otra. Uno real y otro generado por IA, y tendrás que decidir cuál fue tomado por humanos. Después de cada ronda, verás la respuesta correcta, junto con la fuente de la imagen real y el prompt de IA que produjo la falsa. Es divertido y muy humillado, y es un gran recordatorio de lo convincentes que ya se han vuelto las herramientas de IA Entonces probémoslo juntos, y es hora de ver cuán agudos son realmente tus instintos El autor del proyecto estableció como el modal comenzó a dar miedo bien, comencé a preguntarme, qué tan bien los humanos pueden decir realmente las fotos generadas por IA de las realmente. Todos, lo sé, piensan que pueden detectar contenido generado por IA, pero ¿de verdad pueden hacerlo? También me he dado cuenta en mi círculo de colegas que todos dicen que son buenos para detectar medios generados por IA A veces su conciencia es dormir y se olvidan tener cuidado porque son tan engreídos y tan bajos que no pueden dejarse engañar No, cada uno de nosotros puede ser engañado hoy en día porque el contenido generado por IA es muy bueno Entonces los tiempos han cambiado, definitivamente. Entonces, pongamos a prueba tus habilidades de manchado y veamos qué tan agudo es tu yo Y, por supuesto, el sitio web es gratuito, no requiere registro. Cada pocos días, aparecen nuevas fotos en el lateral con un tema fresco. El reto siempre está cambiando. Ahora mismo, en el momento de grabar este material, el tema son los líos, los líos reales, las bebidas derramadas, los cuartos cardicos y Este tema caduca en aproximadamente una hora, cuando visites el sitio web, cuando me veas aquí hablando, el enfoque casi seguro será algo completamente diferente. 10. ¡Prueba el ojo! ¿IA o foto real? Edición de compras de comestibles: Lanza tu ojo. AI. Una foto real. Adición de compras de abarrotes. Bien, recibí comentarios de que lo que más disfrutas es pasar por más ejemplos juntos. Y dijiste que es algo adictivo. Entonces hagámoslo. Más ejemplos y más consejos prácticos sobre qué buscar. Y buenas noticias. Mientras tanto plataforma de verificación de realidad. Se ha mejorado significativamente. Ahora puedes optar por sets del pasado y elegir temas específicos. Eso significa que puedes explorar todas las categorías de fotos y jugar lotes pasados. Entonces, por ahora, vayamos por la categoría de compras juntos porque creo que es un gran mapa de guerra ¿Por qué? Las tiendas de abarrotes están llenas de textos , etiquetas y pequeños detalles. Entonces tendremos mucho que señalarte y mostrarte. Vamos. Aquí tenemos dos aceites de supermercado. A primera vista, ambas fotos parecen un poco sospechosas. No, pero no, en realidad solo uno de ellos fue generado por la IA, así que tenemos que encontrarla. Veamos de cerca el texto de las casillas porque eso nos puede decir mucho. Y recuerda, fuentes limpias, consistentes y muchos detalles suelen ser signos de fotos reales. Pequeñas inconsistencias o letras de aspecto extraño siguen apareciendo muy a menudo en las imágenes generadas por IA Entonces como puedes ver a primera vista, todo aquí se ve bien. Muchos detalles. Nada me salta todavía. Siempre vale la pena verificar si los mismos productos son realmente idénticos, porque ahí es donde la IA a menudo se desliza y se confunde Entonces voy a volver al texto. Sí, los estamos comprobando. Y ahora vuelvo al texto esas primeras casillas porque pueden ser un buen punto de referencia. Nada obviamente sospechoso. ¿Ves algo? ¿Ves algo? Ahora, pasemos a la segunda foto. Y nuevamente, escaneamos los detalles y el texto. Así es exactamente como miramos todo lenta y cuidadosamente para agudizar la conciencia y aprender los patrones Aquí hay muchos pequeños detalles, pero están tan borrosos que honestamente es muy difícil juzgarlos. Pero volvamos aquí por un momento. Oh, creo que ahí está nuestra primera pista. El mismo Zoop, el mismo producto, pero los gráficos son un poco diferentes. ¿Lo ves? Claro. Estos podrían ser sabores diferentes, pero los que están junto a ellos también tienen diferencias sutiles, y eso ya es muy sospechoso. Aquí, por ejemplo, este, bien, probablemente un sabor diferente, pero no debería haber diferencias en el logotipo de la compañía. Ahora vuelvo al texto con extra precaución, y aquí también, el logotipo de la compañía es ligeramente diferente, y en la vida real, esas diferencias no existen. Entonces ahí lo tenemos. Tenemos nuestra pista. Este se genera. Y pasemos al siguiente. ¿Será truco aquí? Bien, comencemos por mirar primero los detalles porque son los más importantes. ¿Estos paquetes de pasta son realmente idénticos? Obviamente tenemos que verificar. Así es como buscas la primera pista. Seguimos investigando paso a paso. Ahora vamos a revisar las botellas de agua. Las copas se ven diferentes. Estas son algunas pequeñas banderas rojas aquí y en las etiquetas, también, pero también podrían girarse en diferentes direcciones. Entonces eso por sí solo no es un veredicto todavía. diferente grosor de copa en productos de la misma marca definitivamente levanta sospechas, pero aún así no es suficiente decirlo con certeza. Entonces seguimos buscando ahora estos textos, desgraciadamente, ya se ven muy yoguis. Son demasiado nítidos y nítidos en comparación con el resto de la imagen. Se siente como si alguien le acabara de decir al modelo y al prompt exactamente cuál debería ser el texto en los estantes. ¿Qué opinas? Entonces seguimos adelante. Sigo buscando, escaneando todo, y oh, hombre, ahí está. El mismo producto, pero uno de ellos tiene letras claramente disertadas. ¿Lo ves? Eso básicamente grita un ojo. Y justo al lado, tenemos otra confirmación, creo, en la leche. Vale la pena excavar en busca de pistas. Siempre es realmente satisfactorio cuando los encuentras. Y solo para que no parezca que estoy ignorando la foto de la izquierda, aunque ya estoy segura de la de la derecha, vamos a comprobar si todo aquí se ve bien. Muchos detalles, detalles creíbles. La fuente no es demasiado nítida y los mismos productos no tienen diferencias evidentes en Sí, ahora estoy seguro. El de la derecha SAI, honestamente, 100% seguro. Bien, a la siguiente. Y entonces, bien, ambas tiendas de abarrotes se ven bastante inusuales. ¿Cuál no existe realmente? Lo resolveremos juntos, ¿de acuerdo? Entonces uno a la izquierda, esa escala se ve bastante inusual. Y mi primer pensamiento es, ¿alguien mencionó esto en el prompt y simplemente se puso un poco imaginativo ¿O es esto realmente algo real en esa tienda? En estos días, cuando miras lugares inusuales, automáticamente te vuelves alerta extra. ¿Realmente existen? Pero los detalles en la escala parecen estar bien. Los números en el dial se ven correctos. No hay bandera roja hasta el momento. Y aquí tenemos algún tipo de menú. A pesar de que solo es parcialmente legible, tiene sentido. No hay ningún texto falso galimatías generado por Ai. Menciona algo sobre sabor a coco, sabor a cacao. Suena sabroso, ¿verdad? Así que seguimos escaneando más detalles porque nunca se sabe dónde podría estar ocultando algo que de repente grita, Esta foto es yo. honestamente no tengo idea de lo que es este producto, pero todo lo demás todavía se ve bien No activa ninguna alarma. Entonces, ¿qué pasa con el de la derecha? ¿Qué tenemos aquí? Primero, cosa extraña, el mismo producto, pero diferentes etiquetas y diferentes colores locales. Busquemos un poco más la historia. Vea lo que se esconde más profundo en el fondo. La mano del hombre parece un poco inquietante, pero está en movimiento, por lo que algunos artefactos podrían aparecer naturalmente ahí A lo mejor la lámpara será nuestra pista. La forma en que se monta el cable en esa lámpara es bastante extraña. Nunca antes había visto una construcción así. Creo que necesito echarle un vistazo más de cerca. Mm. Para mí, eso ya es un gran signo de interrogación, para ser honesto. Así que seguimos adelante, y siempre vale la pena revisar las manijas y agarres de las puertas. Y si, algo raro aparece enseguida. ¿Lo ves? Son diferentes y no deberían serlo. Bingo. Esta es una y. Sobre la siguiente. Entonces a primera vista, diría que ambos parecen IA porque se sienten bastante artificiales. Pero eso probablemente también sea solo la iluminación y el procesamiento de fotos. Sólo uno de ellos es en realidad IA. Entonces detalles, detalles, eso es lo que más importa. Tenemos que mirar los detalles, ¿de acuerdo? Aquí, no todas las cebollas o tal vez lame tienen el final típico esperarías que tengan Pero supongo que no siempre se ven perfectamente definidos así, así que esto aún no es una bandera roja. Así que vamos a revisar los precios. Todo aquí parece estar bien. Números claros, legibles y realistas. En la foto de la derecha, desafortunadamente, nada es legible, así que realmente no podemos juzgar nada con base en eso. Entonces, siguiente pregunta, ¿las verduras se ven reales? ¿Los detalles aquí regalan algo? En la foto de la izquierda, hay muchos detalles a los que la IA generalmente no presta tanta atención. Como las marcas en las etiquetas, por ejemplo. En la imagen de la derecha, sin embargo, algo ya me está molestando. Los extremos de la lechuga se ven realmente extraños. Mira, casi antinatural. Honestamente, nunca los había visto así. Sigo buscando otras pistas, pero sí, las etiquetas de precio no nos están dando nada útil aquí Aún así, nada de la izquierda levanta sospechas, así que el de la derecha es un ojo para mí. Bingo. ¿Qué tenemos aquí? Dos carritos de compras en una tienda, ambos con carne empacada entre los abarrotes Ambos paquetes de carne se ven bien, así que necesitamos buscar otra ropa. Aquí hay mucha de la marca de los camioneros, pero el logotipo se ve prácticamente igual en cada paquete Pero aquí, sí, esto no es bueno. Esto inmediatamente grita, IA no pudo manejar los detalles de la marca Así que tenemos nuestra mayor bandera roja aquí mismo, y certeza instantánea de inmediato. Esa fue fácil, tengo que admitirlo. Mira, solo por la marca Green Leaf solo, puedes decir que es IA porque el nombre no se generó correctamente en cada paquete. Y aquí, incluso puedes empezar a adivinar qué tipo de gamba se utilizó para generar Tenía curiosidad si la criatura le dijo que generara productos de la marca hoja verde, pero claramente no esta vez. Así sucesivamente a la siguiente. Y una vez más, tenemos la sección saludable de la tienda, verduras, vitaminas coloridas Entonces, ¿qué podría sospechar aquí? Desafortunadamente, para medios las etiquetas son demasiado nítidas, demasiado uniformes, y en eso muy reconocible últimamente en todas partes iPhone Entonces ya estoy casi seguro. Las propias verduras en realidad se ven bien, pero el texto te hace pensar que esta foto no fue tomada con un teléfono o una cámara. Y, por supuesto, en los lattes, incluso tenemos ese tipo de cueros, formas borrosas, borrosas que fingen Muy, mucho en ese estilo clásico de IA. Ahora veamos el lado derecho. Aquí, todo se siente más natural cuando se trata de detalles, países de origen, más información sobre el precio tock, cosas importantes para un cliente real Diferentes colores, más variedad matiz. Oh, sobre todo este empaque de aquí. Realmente apoya la idea de que esta foto es real. En tanto, de vuelta a la izquierda, si seguimos revisando, mira esos hongos, diferentes textos e ilustraciones diferentes sobre un mismo producto. Sí, vamos. Eso es obviamente un ojo. Obviamente. Bien, esta vez estamos en un pasillo menos saludable, pero bueno, ¿a quién no le apetece el encaje vez en cuando el sabor de la infancia El estante vacío y la foto de la izquierda me hacen sentir incómoda, pero con tantos productos fuertemente marcados, ya conozco los detalles Vamos a regalar cual foto es A. Entonces que comience la investigación. Y la foto de la derecha, hay detalles que de inmediato potencian su credibilidad. Por ejemplo, el letrero de la piscina en la puerta. Esa es una buena señal. Entonces ahora vamos a acercar las fichas de la izquierda. Oh, no, oh, no. Ya tenemos nuestro primer rebaño rojo. Diferentes ilustraciones de papas en el mismo sabor. Te lo dije, los detalles exponen la versión de IA rápido. Y en este paquete, algo está claramente desordenado de esa manera tan típica de IA tanto, en la foto la derecha, todo es consistente. Los mismos productos tienen los mismos textos, colores y gráficos. Y a la izquierda, algunos de esos otros artículos no parecen sospechosos al principio. Pero esos respaldos de encaje y su ilustración ya nos contaban todo lo que necesitábamos saber. Estoy seguro de ello. Esa es IA. Bien, a la siguiente. Bien, entonces ahora estamos mirando el mundo desde la perspectiva de un shopper empujando una tarjeta, y aquí esos pequeños detalles en la tarjeta exactamente en el tipo de complejidad que como ya sabes, IA a veces no logra manejar correctamente. Y estos son toneladas de detalles aquí, marcas y logotipos que son fáciles de leer. En ninguna parte los líderes de Gibras y muestran algunas cosas son un poco borrosas debido a la resolución, pero aún puedes decodificarlas sin ningún problema. Entonces, honestamente, al principio no veo ninguna bandera roja, ¿y usted? ¿Y eso significa que se están escondiendo en alguna parte? Vamos a ver. Tienes que escanearlo todo. Ah, y esta foto incluso capturó detalles como la condición del cabello de otro comprador. Oye, pero mira aquí. No se vean raras esas ruedas del carrito de compras , de diferentes alturas. Esa es una gran bandera roja. Para mí, ya eso ya significa que esto es IA. Y, sí, ahí vamos en esta tarjeta, también. Entonces tenemos esos errores clásicos irregulares de IA y no errores. Las barreras de malla cerca de la caja. Esta se ve así, y esa se ve diferente. Sí, no. Podríamos seguir buscando, pero ya sabemos lo que necesitamos saber IA. Bien, aquí vamos otra vez. Lo mismo. Probablemente un error, pero bueno, cada repetición es una buena práctica para afilar nuestros ojos y nuestra conciencia, ¿verdad? Entonces, ¿recuerdas qué foto era un ojo? ¿Recuerdas qué detalles exponían el que pretendía ser real Yo creo, claro, que sí. Bien. Sigamos adelante. Bien, ahora estamos en la tienda de delicatessen Una de estas fotos es estilo para parecer un poco más viejo. A lo mejor eso está destinado a atraernos para que bajemos la guardia. ¿Qué opinas? Empecemos por la izquierda con los precios. Sí, olvídate. Estamos estamos viendo todo. Estamos examinando todo, absolutamente todo. Y enseguida, podemos ver que hay muchos detalles en esta foto. Ahora a la derecha, Mm, espera un segundo. Melocotones y melocotones frescos. Y los más baratos, ¿qué se supone que deben ser exactamente si se ven exactamente iguales? Eso es súper sospechoso. Echemos un vistazo rápido a los alrededores, también, aunque básicamente ya estoy visto, pero un poco de confirmación nunca duele. La observación es algo que hay que practicar. El resto parece estar bien, pero esos melocotones, sí, creo que soy shaw ¿Y usted qué? Bingo a la siguiente. Bien, una vez más, estamos de vuelta en los pasillos sanos. Esta fuente aquí se parece un poco a que podría ser e, pero también sé que no es una fuente que pertenezca exclusivamente a AI. Entonces siguiente subir precios y detalles. Desafortunadamente, los detalles están bastante lejos, que hace que sea difícil tener mucha confianza. Simplemente no se ve tanto. Los bultos difieren ligeramente entre sí, pero eso fácilmente podría ser una cosa de perspectiva Entonces podría ser una pista, o puede que no. Aquí no tenemos asas, repente o productos idénticos colocados uno al lado del otro para comparar. Y como saben, ahí es exactamente donde la IA suele fallar. Entonces me encanta mirar los productos que se suponía que eran idénticos pero anaranjados. Pero aquí no tenemos nada que comparar. A la izquierda, estos frutos me levantan algunas sospechas porque algunos de ellos son muy irregulares. Y esto de aquí mismo, ¿cómo es que incluso ahí tirado sin caerse de la canasta o sin que los clientes la derriben mientras pasan No hay manera de que no se caiga, ni posibilidad. Y aquí tenemos muchas cebollas realmente enormes. De hecho empiezo a preguntarme si son demasiado enormes. Cebollas más grandes que las manzanas. Quiero decir, bien, técnicamente posible, pero honestamente no he visto cebollas así en el supermercado en mucho tiempo, mucho menos que muchas de ellas todas tan masivas. El resto de las verduras están demasiado lejos para decirnos realmente algo, pero esas cebollas definitivamente me hicieron pensar que me hicieron parar y pensar. Así que sigamos buscando, comprobando otras pistas. Pero por ahora, las cebollas claramente nos están diciendo que esta foto es mucho más sospechosa. Y este fragmento aquí también plantea dudas. Bien, ahora estoy seguro. ¿Y usted qué? A la siguiente. Ahora nos estamos moviendo a una parte completamente diferente del mundo. Mercados al aire libre, no un supermercado moderno. Entonces, ¿qué cosas buenas tenemos a la izquierda? Había escrito precios, muchos detalles diferentes, un gatito. Una caja etiquetada como zanahoria fresca. Honestamente, ya puedo adivinar que esto no será IA. Un letrero como zanahoria fresca probablemente no mostraría esto claramente en una foto de IA. Probablemente sería borrosa o ilegible. A la IA generalmente no le gusta lidiar con tantos detalles. Aún así, seguimos buscando detalle por detalle. ¿Vemos algo sospechoso? Es la construcción del techo, ¿de acuerdo? Ese es otro lugar donde la IA suele estropearse. Los bultos y otros detalles también se ven bien. No. Entonces eso debe significar que la foto de la derecha es nuestro sospechoso. Mira esas canastas con ropa, casi como no sé, cobijas. Eso es algo extraño tener en un mercado de alimentos, sobre todo exhibido así. Y básicamente solo al lado este puesto muy centrado en vegetales. Para mí, eso ya grita IA porque Ai realmente no entiende el contexto Los propios vegetales no levantan sospechas. Se generan de manera convincente, y honestamente, las verduras se ven creíbles en Pero en la foto de la izquierda, incluso tenemos detalles súper realistas como una caja registradora. Y en la foto de la derecha, por otro lado, algunas cosas simplemente no suman. Esas canastas en particular. Y ahí lo tenemos. Bien, entonces estamos de vuelta en el supermercado, pero esta vez, definitivamente no es ecológico. Tanto robo de plástico. Y lo que inmediatamente llama la atención. Sí, ese letrero fresco. la derecha, a la derecha, a mí, es una vez más que le gusta mucho a font eye. Pero echemos un vistazo más de cerca a los tomates. A lo mejor nos dirán más o quizá no. la izquierda, sin embargo, tenemos un letrero mucho más pulido, creíble y fresco, y todos esos detalles para cada producto, etiquetas de precio con fotos y descripciones Sé que sueno como un disco rayado, pero estas son exactamente las cosas que la IA suele estropear. Y aquí, todo parece correcto sin las inconsistencias que son tan típicas de la IA Todo está claramente etiquetado como una tienda sólida y bien organizada. Incluso los detalles en la nevera aquí se ven muy reales. Entonces, sí, creo que ahora podemos estar seguros. Ahora, algo para los amantes de Apple. Muchas manzanas empacadas. Echemos un vistazo más de cerca. Enseguida, puedo ver que a la izquierda, los detalles se ven bien a primera vista. El meshbg, la forma en que la luz se refleja en el empaque de la manzana, el texto en el soporte de la manzana Sí, todo parece legítimo. Y a la derecha, texto muy claro, muy sencillo. Y como ya sabes, ya sabes lo que pienso de eso. La IA hace esto todo el tiempo. El texto simple es fácil de afilar para la IA, por lo que termina demasiado perfecto, demasiado nítido, demasiado limpio, demasiado legible, mientras que a menudo lucha con cosas más complejas. Estos aquí son simples, razón por la cual son súper afilados y casi demasiado legibles. A la izquierda, los detalles se sienten mucho más convincentes. Y mira aquí, algunas de estas manzanas están realmente deformes, casi no como las manzanas en absoluto Además, el fondo está muy borroso mientras que el texto de venta de punto naranja sal es muy nítido Eso no sigue las reglas de la óptica. Sigamos mirando de cerca y realmente lo hagamos realidad. Pero mi confianza ya está creciendo, sobre todo porque a la izquierda, aunque realmente lo intenté, no pude encontrar ni una sola bandada roja. Por lo que te voy a mostrar algunos detalles más para que puedas buscar por ti mismo y juzgar. Pero creo que ya estoy de tienda. Entonces, sí. Entonces sí, ya estoy haciendo clic. Bien, ahora nos estamos mudando a Asia. Aquí, los nombres de los productos no nos dicen tanto, pero aún podemos juzgar si las cosas se sienten reales, al menos tanto como sea necesario. Y recuerda, un gran truco con fotos como esta es comprobar si los mismos productos son realmente idénticos. La IA lucha mucho con eso. A la izquierda, los tés y el agua se ven impecables. Algunos productos, mismos productos, mismos detalles. El logo de Coca Cola también se ve correcto, que es algo que la IA suele estropear. Aquí hay toneladas de detalles. Hasta el reloj se ve bien. Cada elemento se siente sólido. Creo que nada levanta sospechas. Así que vamos a agarrar una lupa y dirigirnos a la derecha. Aquí, el empaque es menos visible y más difícil de juzgar. Aún así, puedes decir los detalles org como refinados y en algunos paquetes como este de aquí, parece como si los elementos se estuvieran fundiendo entre sí, y esas botellas, las formas de cedro, algunas de ellas parecen que no se generaron y esas botellas, las formas de cedro, algunas de ellas parecen que no se generaron del todo correctamente. Así que seguimos analizando todo pieza por pieza. Y nadie más veo el espejo muestra un reflejo incorrecto, lo cual es muy común en las fotos generadas por IA porque no hay forma una nevera de tienda se vería así en la vida real con ese tipo de disposición de tienda. ¿Lo ves? Entonces ahora creo que estoy muy seguro. Este es AI 100%. Ese es el indicado. Bien, ambas fotos parecen que salieron directamente del catálogo de una tienda. Por lo que son muy simétricos y dominados por la iluminación artificial. A primera vista, seamos honestos, ambos parecen un poco sospechosos. Entonces echemos un vistazo más de cerca al texto. Para mí, las letras de la foto de la izquierda desprenden menos de una vibra de IA, pero eso es solo una primera solo una primera impresión subjetiva Tenemos que seguir cavando e ir más profundo. Por supuesto, también examinamos la fruta comprobando cualquier forma extraña o cualquier anomalía Y también miramos el empaque, porque sabemos que la IA suele tropezar con los detalles. Entonces en la foto de la izquierda, hasta las patas de los expositores se ven reales, ven regulares, bien hechas, lo que, para mi, apoya la idea de que esta sea una foto real. Entonces ahora vamos a revisar el siguiente a la derecha. Un mercado tan bonito, tantas cosas saludables. Pero espera, aquí supuestamente tenemos el mismo producto, la misma etiqueta, el mismo precio abajo, y sin embargo son completamente diferentes en color. Uno se ve verde por dentro, el otro amarillo. Los hongos de arroz arriba también difieren mucho, pesar de que comparten una sola acción de precio. Los aguacates no levantan sospechas. Felizmente los comería hoy para almorzar, honestamente. Como siempre, también tengo que echar un vistazo a los bultos. Yo no sería yo mismo si no verificara si tienen sentido. También tenemos algún tipo de lista o menú aquí, pero es muy borroso, y es extraño que parte de ella esté en una fuente gruesa, mientras que otra olla es delgada y una especie de sonrisa Para mí, esta foto es definitivamente un ojo. Bueno, bien. Y estamos de vuelta en la cerveza de camote. Y una vez más, tenemos una cebolla grande más pequeña que antes, creo. ¿Qué opinas? Por supuesto, empezamos por verificar el precio tock. Nos pueden decir mucho, y odio decirlo, pero desgraciadamente, estoy viendo esa forma afilada que realmente ama a Ahi Y mira esto. Cebollas rojas orgánicas dos veces. Y uno de ellos no es rojo en absoluto. Claro, un empleado dolorido podría cometer un error, pero esto definitivamente me pone en alto erg A la derecha, también tenemos códigos de barras. Algo que la IA suele estropearse. Aquí en realidad se ven bien, lo que apoya la idea de que esta foto podría ser real. El texto es legible, lo que nos gusta y no siente que se genere IA. Echemos un vistazo más a esas pilas de precios. Sí, me sigue gritando. Y ahora vamos a revisar los antecedentes. Ahí atrás hay un gran desenfoque, así que obtenemos menos pistas concretas Pero mira esto. Encuentro esa exhibición cerca de la entrada a la zona trasera realmente extraña. Ese es un lugar extraño para un stand con productos frescos. Por lo general no hay espacio para algo así ahí. Ahora revisemos dos veces el lado derecho para estar seguros de que no hay banderas rojas. Pero hasta reconozco algunos de los anillos. Esta es definitivamente una foto real, y eso significa que la otra sin duda, es la IA. Vamos a revisar. Sí. Sí. Oh, guau. Todo el spread. S con todo tipo de anuncios en. Estoy adivinando en algún lugar de Italia, tantas texturas, colores y sabores Sinceramente, ni siquiera sabría cuál elegir. la izquierda, tenemos variedades mucho más elaboradas, cuidadosamente etiquetadas A la derecha, ¿ve esto? Risotto a porcini el mismo letrero en varios lugares, pero el arroz en sí se ve completamente diferente Y ahí arriba, Alter tufo pero espera. Eso parece que tiene jengibre humérico y azafrán en él. Y por encima de eso, supuestamente una i porcinieporcina, otra vez. De ninguna manera. A la izquierda, las texturas realmente coinciden con las descripciones y se sienten mucho más convincentes. El de la derecha es IA, estoy seguro de ello. Bien, volvamos a la fruta fresca. Me encanta esta vibra. Lo primero que nos salta es el letrero encima de la tienda. El de la izquierda, tienda de fuente muy limpia, súper legible, y a la derecha, más antigua, visiblemente desgastada, pero aún legible Y aquí está el primer momento de duda. No estoy seguro de que AI se encargara de ese tipo de desgaste esta voluntad. Porque cada cuero y número se ve perfectamente encarnados. También tenemos un montón de detalles aquí, códigos de barras, plátanos colgados en ganchos, detalles sobre empaques importados, uno importante. Puedes pagar con tarjeta, Mastercard y Visa, y a la IA realmente no le gustan esos íconos y a menudo arruina los colores Pero aquí, están en lo cierto. En este punto, ya sé que la foto de la derecha es real. Y a la izquierda, la fruta podría verse muy bien generada a primera vista, pero miren esto. ¿Esas ciruelas realmente se sentarían así sin caerse? Yo no lo creo. Entonces para mí, esa es 100% AI. Bien. Bien, y Asia, de nuevo, siempre puedo escuchar al jefe y platicar solo mirando esas fotos, pero solo una de ellas es real. ¿Cuál? El letrero se ve muy nítido, muy nítido. Y mi primer pensamiento es, esto podría ser un ojo. Pero eso por sí solo no es prueba. A la izquierda, la caja está llena de detalles. Eso siempre, siempre es una buena señal. Los productos en sí también tienen muchos detalles finos. El colorido empaque y su textura sí me hicieron hacer una pausa por un segundo. Pero el resto de los detalles y sobre todo esos pequeños iconos en el cartón cartón están muy bien hechos. Las manos a la derecha se ven bien. Pero mira esas mandíbulas. La IA estropeó la textura allí. Para que los frascos se deformen así, tendrían que estar enyesados y sentados bajo la fuerte luz solar directa . Esta es IA, desgraciadamente, estoy 100% segura. 11. Por qué nos encanta las imágenes y los videos falsos: Por qué nos enamoramos de las imágenes falsas y los videos falsos. Tengo que decirte a veces pienso realmente lo difícil que es ahora ser un cerebro humano. Debido a que hemos cruzado el punto de afinación, las imágenes y los videos de IA pueden verse tan fotorrealistas Hemos pasado miles de años evolucionando para confiar en nuestros sentidos, para creer en nuestros ojos, para seguir nuestros instintos, para reconocer el peligro y la comodidad solo por la vista Los ojos siempre fueron tan importantes. Y ahora de pronto el mundo se llena de imágenes y videos que parecen verdaderos pero que no lo son. Pero todavía estamos programados por defecto para creer Y mira, somos emocionales antes que somos lógicos. Aquí está la cosa. No procesamos imágenes y videos como lo hacen las computadoras. No escaneamos, verificamos y hacemos referencias cruzadas. Nos sentimos primero porque estamos bien, humanos. Entonces, cuando vemos una foto de un animal bebé, escuchamos derretirse instantáneamente. Vemos un cuadro de destrucción o tragedia, y nos cae el estómago y al instante nos sentimos tristes y sentimos la empatía por las personas que podrían resultar perjudicadas en esta estrategia Este instinto es parte de lo que nos hace empatía humana a través Pero también es lo que nos hace tan extremadamente vulnerables a manipulación de la IA porque las imágenes generadas por saben cómo presionar esos botones emocionales Y las personas que usan IA, sean personas que usan IA saben cómo hacerlo porque una foto de protesta falsa que se alinea con tus creencias políticas, sí, es más probable que te lo creas Marco falso de historia milagrosa con una imagen inspiradora, podrías compartirlo antes que Fox Check. Y no, no nos enamoramos de los medios falsos para el contenido generado por IA porque somos tontos, para nada Nos enamoramos de ellos porque nos importan las cosas que vemos. Yo lo veo así porque queremos que las cosas tengan sentido porque queremos que el mundo parezca que ya creemos en él. Y desafortunadamente, a nuestros cerebros modernos les encantan los atajos. Son eficientes pero a veces muy perezosos. Los psicólogos llaman a estos atajos sesgos cognitivos, y modelan silenciosamente la forma en que interpretamos todo Hay sesgo de confirmación, lo que nos hace confiar en información que concuerda con nosotros y dudar de cualquier cosa que no lo haga. Por eso dos personas pueden mirar la misma foto falsa o video falso y sacar conclusiones opuestas. Cada uno ve solo lo que refuerza su visión del mundo. Entonces hay sesgo emocional. Es más probable que creamos algo que nos haga sentir algo. Indignación, alegría, miedo, cuanto más fuerte es la emoción, más rápido queremos compartir la foto o el video Y luego está la autoridad por nosotros donde una imagen estampada con una marca de agua de aspecto oficial en nuestro banner de repente se siente legítima para nosotros, y las herramientas de IA han aprendido este truco, por cierto A veces generarán logotipos falsos de CNN o gráficos al estilo BBC, por lo que debemos tener cuidado Y nos gusta pensar que somos racionales, pero la verdad es que la emoción siempre entra primero en la habitación. La lógica aparece tarde y cansada, preguntando qué pasó. Las imágenes generadas por IA están tan pulidas que a menudo se sienten más reales La iluminación es impresionante. Los colores son cinematográficos. La composición es exactamente lo que elegiría un fotógrafo profesional o tal vez lo que un fotógrafo profesional desea que pueda elegir. Y nuestros cerebros se lo comen. Ya nos hemos atraído a la armonía visual a la belleza a las cosas que encajan. Algo se ve tan bien. Nuestro instinto es confiar en él. A menudo pienso cuando observo a la gente, por ejemplo, en el parque, esperando un taxi, que nos desplazamos tan rápido que nuestro cerebro básicamente no tiene oportunidad de notar nada pange En el tiempo que lleva estudiar realmente una foto, ya hemos visto cinco más. Las plataformas en las que vivimos están diseñadas para un consumo rápido, muy rápido, no reflexionar y hacer una pausa para analizar lo que realmente estamos viendo Entonces, cuando aparece una imagen falsa, nuestros cerebros hacen lo que han sido entrenados para hacer, reaccionar, no reflexionar. Es que no hacemos una pausa lo suficiente para aplicar lo que sabemos sobre el contenido generado por IA Creo que la solución no es dejar de confiar en las fuentes que vemos, sino que tenemos que empezar a buscar más profundo y analizar más Y puede ser aprender a hacer una pausa por 2 segundos más de lo habitual para hacer preguntas simples. ¿Quién compartió esta foto o video? ¿De dónde vino? ¿Cuál es el propósito de esta imagen existente? Porque a medida que la línea entre real y lo falso se difumina y se difuminará porque la tecnología es cada vez mejor, la verdad no se anunciará con una etiqueta Tendremos que notarlo y distinguirlo nosotros mismos. 12. Herramientas para detectar imágenes de IA: Para detectar imágenes de IA. Seamos completamente honestos. La mayoría de nosotros no tenemos tiempo para acercar cada foto que vemos en línea y analizar la iluminación en la oreja izquierda de alguien. Internet y bueno, toda nuestra vida se mueve demasiado rápido para eso. Y nuestra capacidad de atención y nuestro enfoque no están realmente en buenas condiciones en este momento. Pero por otro lado, como medios de IA, las imágenes de IA se vuelven más difíciles de detectar a simple vista vamos a necesitar algunos callejones digitales nos ayuden a separar imágenes reales, fotos y videos reales de los generados que intentan engañarnos Agradecidamente, sí, hay herramientas para eso, pequeñas pero poderosas creadas para ayudarnos. Pero bueno, desafortunadamente, no puedes sentirte completamente aliviado porque estas herramientas pueden reemplazar nuestra intuición Están más aquí solo para apoyarlo. Aquí hay algunos métodos para saber si esa foto que estás viendo alguna vez fue realmente una foto en absoluto. Alguna vez has tenido ese presentimiento, espera, ¿no he visto esta imagen en alguna parte antes? Ya estás pensando como detective, y eso es algo bueno. Una búsqueda inversa de imágenes te permite subir una foto o pegar un enlace y ver dónde más apareció en línea. Las dos herramientas más conocidas son Google Images y TN eye. Así es como funciona. Arrastras una imagen a la barra de búsqueda y la herramienta recorre la web para ver versiones visualmente similares Si encuentra una foto idéntica de años atrás, digamos, una imagen de stock de 2017 que pronto se está arrojando ahora como noticia de última hora con algunos cambios, acabas de atrapar una noticia falsa en el acto. Y sí, las búsquedas inversas no son muy útiles para contenido completamente generado para contenido que fue generado por Mangione, ejemplo, pero la búsqueda inversa es especialmente útil para detectar Y hemos visto muchos de estos, mucho contenido reciclado en estos días, fotos reales modificadas un poco usando IA, usadas fuera de contexto o generadas por IA haciéndose pasar por evidencia documental Y si la foto es realmente nueva y no aparece en ningún otro lado, eso no significa automáticamente que sea falsa. Pero todavía vale la pena levantar una ceja. A veces este silencio puede decir mucho. Entonces tenemos que analizar de dónde viene la foto y qué sitio web o qué persona publicó. Cada foto lleva datos ocultos dentro de ella, una especie de diario secreto llamado metadatos. Recuerda detalles como cuándo y dónde se tomó la imagen, qué cámara usaría, incluso qué configuración la capturó. Herramientas como aceptar herramientas pueden abrir ese diario por ti. Muestran los datos brutos detrás de una foto sellos de tiempo, ubicación geográfica, información del dispositivo, historial de edición. Y aquí está la trampa. Las fotos generadas por IA generalmente no tienen esos metadatos. Incluyen algo genérico como creado con Stable Diffusion en lugar de un modelo de cámara y todos los datos específicos sobre la configuración. Entonces, si encuentras que falta una imagen, suelen ser huellas digitales, los metadatos habituales Esa es tu primera pista. Puede que nunca lo haya tomado una persona real sosteniendo una cámara. Pero esto es muy importante. Los metadatos no son infalibles. Muchas fotos reales pierden sus metadatos mucho antes de que las veamos. Los sitios web a menudo lo eliminan automáticamente para hacer que las imágenes sean más pequeñas y más rápidas de cargar. Lo mismo sucede en las plataformas de redes sociales y las aplicaciones de mensajería. Por ejemplo, cuando envías una foto para messenger WhatsApp en Instagram, los datos activos se borran para proteger la privacidad y, por supuesto, para reducir el tamaño del archivo. Entonces, si abres una imagen y no encuentras metadatos en absoluto, eso no significa automáticamente sea falso y que sea generado por IA Podría significar que se ha comprimido, optimizado o compartido en línea varias veces, y los metadatos simplemente se eliminaron en el camino. Así que los metadatos pueden ser una pista, pero desafortunadamente, no siempre. Detectores de imagen AI. Ahora hay herramientas que están diseñadas para detectar otras herramientas. Varias plataformas están trabajando en formas automatizadas de saber si una imagen fue generada por IA o Desafortunadamente, funcionan como detectores digitales de mentiras. No son completamente confiables. Son muy imperfectos, pero se vuelven más inteligentes todos los días, así que hay esperanza. Y por ejemplo, colmena escanea fotos en busca de firmas reveladoras de IA, diminutas irregularidades estadísticas y patrones textiles que los ojos humanos pueden ver El defensor de la realidad va un paso más allá combinando múltiples métodos de detección, incluyendo metadatos y análisis visual, así para darle un alcance de probabilidad no solo real o falso, sino cuán seguros estamos de que esto es real o esto es falso. Pero como ya te dije, desafortunadamente, ninguna de esas plataformas, ninguna de esas herramientas es impecable porque modelos de IA evolucionan constantemente y las herramientas de detección tienen que correr para mantenerse al día Y me temo que honestamente, ninguna cantidad de tecnología nos salvará si no aprendemos a reconocer la manipulación y a detectar que algo está mal nosotros mismos. ¿Por qué lo repito tantas veces? ¿Por qué hablo tan en serio sobre esto? Porque, mira, a veces es increíblemente fácil enamorarse de las fotos, videos de medios generados por IA , especialmente si no los estás mirando con ojo crítico Si bien algunas de estas estafas y algunos de los medios generados por IA parecen casi súper divertidos en retrospectiva, las personas que quedan atrapadas en ellas son reales y también lo son las reales y también lo Por ejemplo, en enero de 2025, una mujer de amigos perdió casi 830 k euro. Después de que Estafadores fingieran ser la línea Red Pitt. Sé que suena hilarante, y al principio, no me lo creí. Pero sí, realmente sucede. Entonces suena gracioso al principio, pero el resto de la historia no lo es. Y comenzó inocentemente un mensaje amistoso de una cuenta que decía pertenecer a la madre de Brad Pitt, que más tarde se convirtió en conversación privada con el mismo de una cuenta que decía pertenecer a la madre de Brad Pitt, que más tarde se convirtió en conversación privada con Y los impostores le dijeron que Brad estaba recibiendo tratamiento por cáncer de riñón Y que su dinero se congeló temporalmente debido al divorcio. Y para que la historia fuera más creíble, le enviaron fotos generadas por IA Brad Pitt tirado en su cama de hospital, junto con un video editado Y las fotos parecían lo suficientemente convincentes como para engañar incluso a los espectadores cuidadosos Entonces, al final, la mujer transformó grandes sumas de dinero para ayudar a Brad Pitt y sólo más tarde se dio cuenta de que había sido despojada. vocero del verdadero Brad Pitt confirmó que el actor no se comunica con nadie en las redes sociales y la policía francesa abrió investigaciones Nur screen, fotos falsas de Brad Pitt generadas por IA que engañaron a una mujer real para convertirla en un enemigo, no en relaciones amorosas que engañaron a una mujer real para convertirla en un enemigo, no en relaciones amorosas reales. Estafadores haciéndose pasar por Pit estafaron a una mujer de 53 años en Francia de obtener estos 850.000 dólares en un increíble esquema de pesca del gato solo el falso Brad Pitt supuestamente necesitaba para el tratamiento del cáncer en Francia de obtener estos 850.000 dólares en un increíble esquema de pesca del gato solo el falso Brad Pitt supuestamente necesitaba para el tratamiento del cáncer. La mujer incluso se divorció de su propio marido. El engaño que incitó al verdadero Brad Pitt a emitir un comunicado Es horrible que los estafadores aprovechen la fuerte conexión de los fans con las celebridades, pero este es un recordatorio importante para no responder a la divulgación en línea no solicitada, especialmente de actores que no tienen Lamentablemente, este caso no es único. Estafas similares asistidas por IA han aparecido en todo el mundo, no sólo en Francia. Porque el contenido generado por IA puede sentirse tan profundamente personal, y cuando juega con la empatía, la soledad o la argencia, incluso los más inteligentes de nosotros podemos ser soledad o la argencia, incluso los más inteligentes de 13. ¿Y los deepfakes? ¿Cómo funcionan en realidad los deepfakes?: ¿Qué pasa con los defectos? ¿Cómo funcionan realmente los defectos? Las falsificaciones de E D eran muy torpes, las caras parpadeaban, los tonos de piel no coincidían, los ojos se desincronaban . Ahora pueden ser extremadamente realistas y están mejorando cada semana. Y en esencia, las falsificaciones D utilizan el aprendizaje automático para imitar el rostro humano, cómo se mueve, cómo reacciona, cómo respira Y los algoritmos analizan y mapean las expresiones faciales de una persona, luego recrear esas expresiones con una cara diferente en capas en la parte superior Bajo el capó, mucho de esto sucede a través de algo llamado una red generativa de adversarios llamada Básicamente es una batalla entre dos IA. Una IA está tratando de crear el falso, el otro tratando de detectarlo, y el falsificador sigue mejorando hasta que el detector pueda notar la diferencia. Así es como funciona. El resultado fabricaciones hiper realistas que pueden caer incluso los ojos más escépticos Por eso es un sistema tan inteligente y uno profundamente peligroso. Si alguna vez has usado un filtro de Snapchat o Instagram que te haga ver como un cachorro, suaviza tu piel, o intercambia tu rostro con tu mejor amigo. Enhorabuena. Ya conociste una versión para bebés de la tecnología detrás de dFx Y si bien los filtros son solo por diversión, los robos son intensos sobre lograr primos En lugar de lindas orejas de perro, estamos hablando de videos donde alguien parece decir o hacer algo que nunca hizo, y se ve completamente real. Entonces, ¿cómo sucede eso? ¿Cómo es eso posible? Vamos a discutirlo en detalle. El primer paso, la máquina aprende tu cara. Y es duro. El falso es impulsado por el aprendizaje automático, que es exactamente lo que parece. Enseñar una computadora para aprender de ejemplos en lugar de simplemente seguir instrucciones. Digamos que la IA quiere aprender cómo se ve tu cara. Es este dato, por supuesto, miles de imágenes o videos tuyas girando la cabeza enlazando, sonriendo, frunciendo el ceño, hablando, riendo, estornudando todo ello Cuanto más, mejor. Y luego el algoritmo estudia todo ese metraje y empieza a notar patrones sobre ti. Cómo se mueven tus cejas cuando te sorprendes. La forma que hacen tus labios cuando dices, Guau, cómo tus ojos se arrugan cuando sonríes Por supuesto, cuantos más datos obtiene, más inteligente se vuelve. Construye una máscara digital de tu cara, una que pueda moverse y reaccionar igual que la cosa real, igual que tu cara real. El segundo paso, el gran intercambio de caras de IA. Ahora que la IA conoce tu cara, puede empezar a intercambiarla sobre el cuerpo de otra persona. Bien, lo sé. Imagina el algoritmo como un maquillador digital súper avanzado excepto en lugar de contador de cimientos, es su boca. Se necesita la cara A de la persona, por ejemplo, Tom Cruz y los movimientos de abeja abeja de la persona. Decir una posición en el golf actor. Luego cuadro por cuadro, pinta las expresiones de Tom Cruise sobre la cara del actor, sincronizándose perfectamente con cada parpadeo, cada sonrisa, cada película de escucha Es tan bueno imitando cómo la luz golpea la piel o cómo se mueven los músculos que tu cerebro se vuelve Lo ves y piensas Bien, sí, se ve real. El primer paso la batalla de IA, conoce a los JAN. Bien, aquí es donde las cosas reciben llamada de ciencia ficción. La mayoría de los defts usan algo llamado, como ya te dijimos, una red generativa de adversarios llamada JN y son dos AI Encerrado en una competencia sin fin. Te lo puedes imaginar así. El primer AI es el artista. Es trabajo es hacer lo falso, para crear el video más convincente que pueda Y la segunda IA es el detective. Es trabajo es mirar ese falso y gritar falso cada vez que detecta algo fuera. Juegan este juego una y otra vez cada vez que la primera IA, el artista se pone un poco mejor un engañoso y convincente El detective a su vez, se agudiza al avistar bandadas. Siguen empujándose entre sí hasta que la falsa, la versión falsa, la falsa profunda se vuelve tan realista que incluso el detective puede decir que no es real. Ahí es cuando el video se gradúa en una deface convincente. Inclinado un poco Esta idea surgió de dos informáticos, Ian Goodfellow y Joshua Benju quienes se les ocurrió JMS en 2014, originalmente como un experimento creativo, no como una herramienta para Y ahora el cuarto paso, los toques finales. Una vez que el EI crea los editores de defak podrían limpiarlo simplemente iluminando bordes suaves o hacer coincidir el sonido con los movimientos de la boca, a veces con clones de voz de IA Y en este punto, la falsificación es casi impecable Podrías jugarlo lado a lado con la persona real, y la mayoría de la gente nota la diferencia. Por eso es a la vez fascinante y aterrador como tecnología, una obra maestra de imitar que también puede destruir la confianza en lo que vemos y escuchamos Entonces, como puedes ver, falsificaciones profundas no son solo un problema tecnológico Son un tema humano. Tocan todo lo que nos hace quienes somos, nuestra dignidad, nuestra privacidad, nuestra capacidad de confiar en lo que vemos aquí. Y sí, se pueden utilizar para humillar, para engañar, para controlar Pueden torcer las elecciones, arruinar reputaciones y erosionar la realidad compartida de la que depende la democracia Entonces creo que podemos discutir con eso. Los defectos no son sólo una violación de los derechos humanos. También están preocupando nuestro sentido compartido de la verdad. Y como ocurre con la mayoría de las cosas en esta era de EI, esta tecnología no es inherentemente malvada Es lo que la gente hace con ella lo que define la historia como define cómo se verá el mundo. 14. Videos con IA y… la rapidez con la que avanza: Vídeos de EI y qué tan rápido progresa. Los modelos de video EI han evolucionado mucho en los últimos años. Recuerda que en el famoso Will Smith comiendo espagueti clip de abril de 2023. El que parecía un sueño febril de fundir fideos y rostros de desorden, se hizo usando una versión muy temprana de difusión estable, y en su momento, era a la vez hilarante y horrorizante Un divertido escaparate de lo extraño que podría ser el video de IA. Pero era, ya sabes, no era realista, y todos nos reímos de ello. Entonces, si hay un video que capta perfectamente lo lejos que ha llegado la generación de videos de IA, creo que es este famoso Will Smith comiendo spaghetti club. El clip se volvió viral, no porque fuera bueno, no de ninguna manera, sino porque estaba muy mal. Destacó exactamente dónde estaba el video de IA en ese momento. Sí, impresionante en concepto, pero completamente convincente en ejecución en ese entonces Y durante meses, Will Smith comiendo espaguetis se convirtió en una broma corriente y sin querer un referente Cada vez que se lanzó un nuevo modelo de video, gente lo compara con ese clip. Bien, pero ¿es mejor que Will Smith comiendo espaguetis? Y esa es la parte divertida. Se convirtió en una especie de vara de medición cultural para el progreso de la IA. Y los modelos actuales como el video de Google o Open As Newest Sa producen videos que se ven cinematográficos y realmente animados Y cuando los ves uno al lado del otro con el video de los espaguetis, la diferencia es enorme. Entonces en menos de dos, tres años, pasamos de ser un jabón muy poco realista porque a metraje que casi podría engañar al ojo humano Lo que comenzó como un Mm se ha convertido silenciosamente en un mercado histórico, prueba de lo rápido que está evolucionando la generación de IA. Ahora, avance rápido unos años una vez más y compare ese costo temprano con la vista de Google dos demo o el reciente video de Sora de Chad Nelson de Open AI. Creo que la diferencia es que cae la mandíbula. Movimientos de fluido, la iluminación se siente cinematográfica, y las caras de los personajes casi pasan por personas muy reales Entonces, este salto de calidad no se parece a nada que hayamos visto en la tecnología de medios. Aún así, por supuesto, aún no es perfecto, porque algunas áreas clave aún delatan la ilusión. Por ejemplo, realista, estamos cruzando esa línea invisible donde los humanos de IA dejan espeluznantes y comienzan a verse creíbles En el VoEmo, por ejemplo, el DJ y el doctor se veían impresionantemente vivos hasta que notas la sutil olfatía en las Los humanos son increíblemente buenos para detectar incluso las irregularidades más pequeñas en los rostros. Nos han cableado para leerlos desde que éramos gatos. Curiosamente, la mayoría de las demos son cortes rápidos o clips cortos, por lo que no vemos mucho rango emocional Y, no, eso son clips cortos, y la forma de editar no es una coincidencia porque sostener tomas más largas, videos más largos harían que las imperfecciones fueran más obvias y más visibles Así que los cortes rápidos son simplemente más seguros. Audio y sincronización de labios. El hundimiento del movimiento realista de la boca con audio natural es un desafío Las herramientas pueden alinear los movimientos faciales con el diálogo o el video de referencia, pero aún no siempre son fluidas. El momento a menudo se siente un poco, un poco apagado, o los labios se mueven de maneras que no coinciden del todo con el comportamiento muscular humano. Ahora está muy cerca de la perfección, pero no siempre ahí todavía. Así que vamos a cavar más profundo, deberá 15. Cómo detectar un video generado por IA: Para detectar un video generado. Hay algo en el video que es sentirse sagrado hasta ahora. Durante generaciones, la cámara de abrazos fue la prueba definitiva, la cosa que silenció todas las dudas Una foto podría ser editada, modificada. Una historia podría ser exagerada. Pero un video que era evidencia. Vamos. Esa era pura realidad, pero solo grabarla. Y ahora, se está quitando esa certeza. Esos clips realistas de gente haciendo o diciendo cosas que nunca hicieron han cambiado sus roles. Pueden verse auténticos, sonoros, convincentes y viajar por Internet en segundos. Pero como ya sabes, si sabes dónde buscar, aún puedes detectar algunas señales de videos generados por IA. Vamos a discutirlos. ¿Cuánto dura el video? Aquí hay una pista simple pero sorprendentemente confiable cuando intentas averiguar si un video fue hecho por IA o no, la longitud del mismo. Incluso con el increíble progreso de herramientas como Google Video free, versión estadounidense de Open AI, Sra, nano Banana, y el resto, la mayoría de los clips generados por IA siguen siendo bastante cortos, muy a menudo menores de 15 segundos ¿Por qué? Porque generar video no se trata sólo de crear unos pocos fotogramas realistas. Se trata de mantener la consistencia en cientos de miles de fotogramas seguidos. Cuanto más largo sea el video, más difícil será para el modelo mantener todo estable, iluminación, física, movimiento, expresiones faciales y continuidad de un fotograma a otro. Entonces, si alguna vez has notado un video de IA que luce perfecto durante los primeros segundos y luego comienza a derivar un poco, tal vez el fondo desplaza objetos, como, por ejemplo, aretes se derriten un poco o la ropa de alguien empieza a cambiar eso es exactamente lo que está pasando. El modelo pierde la pista de lo que creó antes. Los disparos largos y continuos también requieren memoria temporal y comprensión de lo que sucedió hace unos segundos, y el modelo actual de IA aún lucha con eso. En cambio, están capacitados para generar ráfagas cortas de acción coherente, razón por la cual tantas demos y clips promocionales utilizan cortes muy rápidos de edición estilo montaje Porque cada segmento corto oculta las debilidades modales al restablecer la escena antes de que se acumulen errores Entonces por ahora y gran énfasis en por ahora, si te encuentras con un solo video ininterrumpido de pocos minutos donde alguien se mueve de forma natural, habla fluidamente, y la iluminación y el fondo se mantienen consistentes, y la iluminación y el fondo se mantienen consistentes, lo más probable es Pero claro, esto está cambiando bastante rápido. Tanto Google como Open AI han dicho que su modus de próxima generación apuntará a videos continuos de más de unos minutos de duración Pero por el momento, la duración sigue siendo una de las mayores herramientas de control de gas, para el encapsulado, los medios generados por IA Tan corto y flujo menos o más largo, pero editando e incluyendo muchos cortes diferentes tal vez IA. Largo y continuo, muy probablemente real. Creo que es una pequeña pista, pero realmente poderosa, sobre todo porque el resto de las pistas visuales poco a poco comenzarán a desaparecer Observa lo que cambia cuando alguien sale del marco. Aquí hay otra pista sutil pero poderosa. Observa lo que sucede cuando una persona sale de la pantalla y luego regresa. Los modelos AIV a menudo luchan por mantener esta continuidad visual a través de cortes de transiciones de escena Cuando un personaje desaparece de la vista, el modelo olvida temporalmente su aspecto Entonces, cuando esa persona reaparece, pequeños detalles suelen ser inconsistentes Así que mira de cerca, y comenzarás a notar cosas como que su ropa cambia repentinamente de color de tela. Una camisa azul tiende un poco verde o una chaqueta se vuelve mucha soldadura. Joyas que misteriosamente intercambian lados, desaparecen o reaparecen, por ahora los aretes pueden ser un Y también ligeras diferencias en la edad o rasgos faciales. La misma persona podría parecer repentinamente más joven, mayor o tener un peinado diferente después de cada corte en cada escena. Incluso pequeños accesorios como una taza, un teléfono o un collar pueden cambiar de posición o forma entre escenas. Eso ya lo sabes. Eso es porque la mayoría de los modelos III actuales aún no tienen una memoria estable de los personajes que generan. Crean cada nueva escena desde cero, guiados por un prompt o contexto, pero no por la lógica de continuidad como usan los cineastas humanos Y como ya te dije, esta es exactamente la razón por la que muchos videos de demos generados por IA se basan en esas ediciones rápidas y tarjetas de salto cinematográficas Ayuda a ocultar estos fallos técnicos. En el momento en que la cámara se aleja, el modile llega a reiniciarse y no tiene que coincidir perfectamente con lo que vinimos antes En contraste, en un video de película real, estos pequeños detalles se mantienen consistentes. El mismo atuendo, la misma iluminación, la misma persona, envejeciendo solo en tiempo real. Y esa continuidad natural es sorprendentemente difícil de fingir para la IA por ahora. Entonces, la próxima vez que estés en el programa donde el eclipe es real o se genera IA, presta atención no solo a lo que ves ahora mismo, sino a lo que cambia silenciosamente entre los Los labios son la parte más difícil de fingir. Como ya les dije en los capítulos anteriores, incluso con tecnología de vanguardia, incluso con tecnología de vanguardia IA todavía lucha a veces por sincronizar perfectamente el movimiento de la boca con el habla Este océano, es una fuerza, un ácaro salvaje, indómito. Y ella manda tu w con cada luz rompedora. El resultado, cosas labiales que siempre tienen razón, pero a veces no quie A veces notarás palabras que parecen separadas del sonido como una película mal doblada Otras veces, la forma del mo no coincide con los sonidos que se están haciendo. Oh, chico. Me encantan los acentos. No puedes esperar al verano, ¿eh? Necesidad de entrar. Hace tanto frío. Se está congelando aquí arriba. Simplemente me encanta mi voz. Guau. Este lugar es increíble. Es posible que veas labios redondeados durante E o labios quietos cuando alguien supuestamente está hablando rápido, así que eso no sería posible en la vida real. Esos signos pueden ser muy, muy sutiles, pero una vez que empiezas a buscarlo, puedes detectarlo de vez en cuando. Y si alguna vez ves un video y notas que el habla de alguien parece mecánico o separado de su expresión facial, sí, necesitas profundizar y estresar ese sentimiento y buscar más pistas porque la verdadera emoción aparece en los músculos alrededor de la boca No sólo las palabras que salen de ella. Según esta vieja carta marítima, la isla perdida no es un mito. Debemos preparar una expedición de inmediato. Parpadeo. Los ojos son las ventanas al alma, y al parecer también a la IA generamos la detección de videos porque uno de los primeros obsequios de videos falsos fue, por supuesto, la tasa de parpadeo Durante mucho tiempo, los videos generados por IA no parpadearon en absoluto. Sí, era el momento en que sí olvidó que los humanos cierren los ojos a veces. Eso ha mejorado masivamente desde entonces, pero el parpadeo todavía a veces parece antinatural, demasiado infrecuente, demasiado rígido, o demasiado perfectamente cronometrado o La razón es fascinante. Parpadear no es solo una acción mecánica para los humanos. Es emocional. Porque, mira, trata de notarlo esa semana. Eso es algo muy gracioso de observar. Parpadeamos más cuando estamos estresados, y parpadeamos menos cuando estamos muy concentrados Y parpadeamos irregularmente cuando estamos nerviosos o mintiendo. Y los modelos de IA no entienden ese matiz todavía. Simplemente insertan parpadeos donde piensan que pertenecen. También puedes observar micro movimientos extraños, ojos que no rastrean naturalmente pupilas que parecen vibrar o gases que se sienten un poco desprendidos Los videos de IA y las personas en videos de IA a menudo sienten que están mirando a través de ti. ¿Eso da un poco de miedo? La luz de las sombras y la física de la realidad. La luz es muy honesta. Sigue las reglas de la física. Siempre tiene dirección y consecuencia, y en los videos generados por IA, muchas veces no. Observa cómo las sombras caen sobre una cara o fondo. ¿La iluminación cambia lógicamente cuando alguien gira la cabeza ¿Los reflejos coinciden con la fuente de luz? ¿La piel brilla de manera antinatural como si hubiera sido alisada por maquillaje invisible o caja suave invisible Estas son pistas muy pequeñas de que la IA ha mezclado múltiples imágenes o no logra estimular la luz consistente A veces incluso verás ir sombras, contornos tristes donde la cara no se alinea perfectamente de fotograma a fotograma. Y no es sólo la cara. La ropa, los pliegues, los movimientos del cabello y los reflejos de joyería pueden delatar IA. La luz se comporta de manera muy inconsistente o súper extraña, esa es tu pista para detenerte Aunque el rostro parezca convincente, el resto del cuerpo podría traicionar al falso Por ejemplo, de fake a veces renderizan cuerpos que se mueven ligeramente desincronizados con la cabeza. Un decir que es demasiado agudo, un gesto que termina demasiado pronto. Por lo que también debes prestar atención a las manos y los hombros. Si parecen muy rígidos, o la emoción se siente un poco flotada, probablemente estés mirando una cara marco de otra persona sobre el cuerpo de otra persona Y aquí está el otro giveaway. Emoción. Los humanos reales se mueven cuando hablan. Nos mueven. Aparecen las emociones. Por ejemplo, la ira nos pone más tensos, la tristeza nos hace saber, encogernos, encogernos los hombros y la suavidad nos hace más pequeños. Los efectos pueden imitar el movimiento, pero no la intención y no las emociones espontáneas 16. Clones de audio y voz generados por IA: explicación de la tecnología de clonación de voz: Generé nubes de audio y video. Hay algo mágico y un poco vergonzoso en escuchar tu propia voz reproducida para ti Creo que todos tuvimos ese momento. ¿Realmente sueno así? Espera, ¿de verdad sueno así? Ahora imagina el mismo video, la misma voz diciendo palabras que nunca dijiste a la perfección, con confianza con tu tono Con tu ritmo y hasta tu risa. Sí. Ese es el extraño peligro de la clonación de voz de IA. En tan solo unos años, tecnología de voz sintética ha saltado de monótonos aerobóticos a réplicas como humanas que pueden susurrar, llorar, la tecnología de voz sintética ha saltado de monótonos aerobóticos a réplicas como humanas que pueden susurrar, llorar, bromear o sutter. Al igual que nosotros. Es el tipo de salto que se siente sacado directamente de la ciencia ficción, excepto que ya está aquí en tu podcast, tus Tik Ts, y a veces, desafortunadamente, tus llamadas telefónicas. Entonces hablemos de cómo funciona realmente. Antes había clones de voz, había texto a voz, la voz original de IA. Lo has escuchado en todas partes. Si Alexa, direcciones GPS, menús automatizados de atención al cliente. Estas voces leen texto en voz alta usando muestras fonéticas pregrabadas cosidas en palabras Los sistemas de texto a voz fueron funcionales, no emocionales. Suenan Bien, bien. Cuando te están dando indicaciones cuando intentas llegar al Starbucks más cercano para tu favorito, Mo karate o bien, no existe tal cosa como más karate, creo Últimamente sólo bebo americano, así que no sé. Entonces esas voces suenan bien cuando te están dando indicaciones o leyendo tu calendario, pero no se sienten como nadie. Son voces sin historia, sin ninguna personalidad más profunda. La clonación de voz, sin embargo, es muy diferente. No se trata de leer texto. Se trata de replicar identidad y pequeños detalles sobre la voz de alguien que hace suya la voz Entonces, una voz clon se construye a partir de patrones de habla de una persona real, todos los patrones su ritmo, tono, acento y todas las pequeñas consultas que hacen que su voz y su forma de hablar sean únicos Todos tenemos esas cosas que hacen que nuestra forma de hablar sea muy única. Entonces no se limita a copiar cómo se pronuncian las palabras. Aprende a quién suenas cuando sientes cosas diferentes y emociones diferentes también. Entonces, donde pregunta texto a voz, ¿cómo deberían sonar las palabras? La clonación de voz pregunta, ¿cómo lo dirías? Entonces, para clonar una voz, y IImdal necesita grabaciones de esa A veces incluso unas pocas horas, a veces solo unos segundos pueden ser suficientes. Cuanto más claro y natural sea mejor el audio, claro. El modelo luego lo estudia en detalle microscópico, tono, tono, respiración, sincronización, forma de boca, hasta el grano tenue en el dispositivo, esa imperfección suave que hace que cada uno de nosotros suene como nosotros mismos Entonces divide todo eso en un plano de su discurso Entonces cuando le das nuevo texto, la IA usa ese plano para generar audio que suena como la misma persona solo hablando bien nunca han hablado o diciendo frases que nunca pronunciaron Entonces, bajo el capó, esto involucra redes neuronales complejas que analizan y reproducen formas de onda, patrones de energía sonora que hacen de una voz una voz Pero la versión más simple es esta. La IA presta tu voz lo haría un impresionista talentoso Ahora son decenas de plataformas que hacen que la clonación de voz sea accesible para cualquiera. Algunos de ellos son buenos, otros menos. Por ejemplo, incluso los amores se han convertido en una de las herramientas de generación de voz más populares y realistas. Puede replicar la voz de una persona a partir de solo un clip corto, agregando tono convincente, ritmo e incluso emoción Su tecnología es impresionante y también aterradora en su precisión muchas veces rápido ojo de Sherlock Holmes tomó mi ocupación, y sacudió la cabeza con una sonrisa notar mis miradas cuestionadoras Más allá de los hechos obvios que tiene el ojo rápido de Sherlock Holmes tomó en mi ocupación, y sacudió la cabeza con una sonrisa notar mis miradas cuestionadoras Más allá de los hechos obvios que tiene, en algún momento realizó labores manuales. Bien, así que consigue esto Estoy en este nuevo café del centro, tratando de actuar todo sofisticado con un espresso, ¿sabes? Bien, así que consigue esto. Estoy en este nuevo café del centro, tratando de actuar todo sofisticado con un espresso. Ahora mismo, este guión también es bastante popular. Ofrece una función sobre dup para creadores y podcasters Puedes grabar unos minutos de tu propia voz y luego editar tu audio solo escribir nuevas palabras y el clon las rellena sin problemas. Luego nos hemos parecido a la IA, y se enfoca en voces sintéticas personalizadas para juegos cinematográficos y accesibilidad, permitiendo a las marcas de narradores crear voces que suenen consistentes, familiares y Hay muchos, muchos otros, también, por supuesto, desde proyectos de código abierto hasta grandes LB de IA. Algunos priorizan el consentimiento y el uso ético. Otros no hacen muchas preguntas. Esa es la tensión del movimiento, desafortunadamente. Hemos construido una herramienta que puede hablar en la voz de cualquiera, pero aún no hemos descubierto cómo proteger esas voces de ser mal utilizadas Entonces, la clonación de voz no es inherentemente mala. De hecho, ya está haciendo cosas notables. Las personas que han perdido la voz a causa de la enfermedad ahora pueden reclamarlas a través del discurso sintetizado construido partir de grabaciones antiguas. Eso es increíble. Los cineastas pueden restaurar el diálogo para dañar el audio. Los estudiantes de idiomas pueden practicar la pronunciación con ejemplos hiper realistas Incluso los defensores de la accesibilidad están utilizando voces cloneadas para devolver emociones y nuevas entradas a la comunicación digital Pero por cada uso hermoso y saludable, hay una estafa docky one llama usando voces cloneadas para hacerse pasar por miembros de la familia, discursos políticos falsos, podcasts falsos profundos Entonces creo que es muy cierto que cuando ya no puedes confiar en el sonido de la voz de alguien, la voz de alguien, por ejemplo, cuando te llaman, el mundo puede convertirse en un lugar aterrador. En el pasado, teníamos el cartonaje El príncipe nigeriano o la reina Diana quiere enviarte correos mensuales de principios de los 20 Pero ahora tenemos las estafas más inteligentes. Los que no solo roban dinero, sino que también confían. Los estafadores hoy en día no llaman a tu puerta ni se alondean en callejones oscuros Viven en tu bandeja de entrada, tus mensajes de texto, tus mensajes directos. Porque ahora, gracias a la IA, pueden sonar como tu banco, tu jefe, tu mamá. Utilizan los dispositivos de clonación falsos y escenarios argent perfectamente escritos diseñados para hacerte entrar en pánico el tiempo suficiente para clic o decirles algo que definitivamente no deberías Algunos fingen ser representantes de servicio al cliente, otros publican como organizaciones benéficas después de una tragedia, y algunos incluso crean frentes completos de tiendas falsas que desaparecen en el momento en que su Es un extraño tipo de mod de intimidad. Aquellas personas que saben lo suficiente ti para manipular tus emociones. Sabrán que te apresurarás a ayudar si alguien dice que tus amigos se quedaron atascados en el extranjero o que harás clic si la línea de asunto dice en voz atrasada La tecnología ha hecho que sea más fácil que nunca engañar. Pero el no ha cambiado mucho. Siguen contando con tu amabilidad, nuestro miedo, nuestro instinto de confianza Y eso es lo que lo hace tan inquietante porque las estafas no solo están tomando dinero de personas, de personas aleatorias Se trata de usar las partes más suaves de nosotros, las partes que quieren creer las partes que quieren ayudar Y creo que muchos de nosotros creemos que esto es exagerado. Sólo temer traficar hasta que realmente lo presenciamos nosotros Por ejemplo, yo mismo no he sido testigo de una estafa de clonación de voz, así que luchamos alegremente. Por favor, espero que nunca cambie, pero mi tío lamentablemente recibió una llamada telefónica donde una voz que sonaba exactamente como decían sus hijos, aterrorizaba que hubiera estado en un accidente y necesitaba pagar rápidamente 10.000 K para salir de una situación peligrosa El llamante incluso dio detalles, detalles gráficos convincentes. Y como puedes imaginar, mi tío estaba aterrorizado. Pensó que su hijo realmente había tenido un accidente y resultó herido. Y, claro, es que es su hijo, así que quiso transferir el dinero lo más rápido posible. Por suerte, colgó por un momento e intentó llamar al número real de su hijo, y su hijo lo recogió completamente confundido porque, bueno , claro, no había tenido ningún accidente o no necesitaba dinero. Pero los chismes que usaban el audio clon y el audio falso, esperaban que mi tío entrara Haga la transferencia inmediatamente durante esa llamada telefónica falsa. Entonces, lamentablemente, esto le puede pasar a cualquiera, a la gente al azar, a la gente común, gente como tú y yo, incluso a aquellos que no están activos en línea, incluso a aquellos que no están publicando en YouTube o muy activos en Instagram y otras redes sociales y nunca comparten la voz o los videos públicamente. El hijo de mi tío, por ejemplo, no es influencer ni creador de contenido Es ingeniero y conferenciante, y sin embargo su voz seguía siendo un clon 17. Cómo detectar falsos de voz con IA: Cómo detectar falsificaciones de voz de IA. Creo que hay una intimidad muy extraña la voz humana porque antes incluso de aprender a leer, antes de que podamos entender el lenguaje, conocemos el sonido del cuidado, ira, el calor y el miedo. La voz lleva emoción mucho antes de que lleve algún significado específico. Quizá por eso la IA generó voces. Estas llamadas falsificaciones de voz dan tanto miedo. Nos imitan. La clonación de voz se ha vuelto increíblemente buena en poco tiempo Y lo que solía requerir horas de grabaciones de calidad de estudio ahora se puede hacer con un clip de 30 segundos de un video de YouTube o un correo de voz Eso significa que la voz de cualquiera, tú toda la mía, tu jefe, la de tu mamá se puede clonar y usar para decir cosas que nunca dijimos. Y al igual que los videos falsos profundos, estas voces sintéticas no son solo un milagro técnico. Son una herramienta de manipulación emocional. Pero a veces, si escuchas muy cacaffllly, todavía hay algunas formas de saber cuándo una voz no es real, y cuando no hay un humano real Hablando trata de escuchar la forma en que hablo durante unos minutos y nota los pequeños detalles. Y notarás que el habla humana real respira mucho. Se levanta, cae, tropieza suspiros. Tiene gradación cambiante y textura, calidez. Las voces de IA, a veces incluso las avanzadas suelen sonar un poco demasiado suaves porque extrañan las micro imperfecciones que nos hacen más creíbles El carcaj del amor, la forma en que nuestro lanzamiento se desvía cuando nos emocionamos demasiado. Las pequeñas vacilaciones cuando piensas antes de hablar una frase que es valiente y IA tiende a mantener todo más equilibrado Tono similar, ritmo similar, temperatura emocional similar en todo momento Y si estás al teléfono con alguien que suena emocionalmente plano o un poco robótico en algunas frases, sobre todo si están pidiendo algo urgente, confía en tu intuición de que algo anda mal La voz de una persona real siempre conlleva estrés, excitación o fatiga. Uno falso claramente lleva la ilusión de ello, pero a veces esa ilusión se engaña. La IA se ha vuelto genial para sonar natural, pero aún lucha con algunas partes de imitar el ritmo natural de Necesito un trago. Oye, amigo. ¿Quieres venir al pub? Deberíamos conseguir algo de comer ahora. Oye, amigo, ¿quieres venir al boozer? Liverpool son los campeones. Campeones. Bienvenido a Tokio Somos los mejores del mundo. Oh, hola ahí. Mm hm. Adivina qué acento es este. Es posible que escuches pausas raras a mitad de oración como si alguien estuviera leyendo de un teleprompter que está saltando fotogramas o un énfasis extraño, por ejemplo, pronunciando finanzas tan bien como o enfatizando como o enfatizando Al principio, mi voz puede sonar perfectamente normal. Pero si escuchas atentamente, algunas de mis pausas llegan apenas un momento antes de lo que esperas Ciertas palabras llevan un brillo que no coincide del todo con el estado de ánimo de la oración. Como si mi tono olvidara lo que quería decir. Podrías notar que respiro en momentos extrañamente convenientes, casi como planeé mis respiraciones en lugar de Si prestas atención, el ritmo de mi conversación se mantiene un poco demasiado estable, como si estuviera siguiendo un metrónomo invisible La emoción viene a través, pero de una manera que se siente ensayada, como si estuviera imitando un sentimiento en lugar Mi risa, cuando aparece, termina una fracción de segundo demasiado limpiamente sin el desordenado desvanecimiento que estás acostumbrado a escuchar de personas reales vez en cuando, me deslizo sobre una consonante demasiado suavemente como si fuera más aliento que cuerpo Cuando me emociono, mi tono sube, pero nunca lo suficientemente impredecible como para sentirme A veces es muy sutil, como un retraso de medio segundo antes después o una pausa que se siente un poco demasiado larga. Y estos pequeños errores de tiempo suelen ser las únicas señales de que estás tratando con una voz clonada porque si bien la IA puede replicar el sonido, no entiende el significado emocional de las palabras No sabe por qué algo es gracioso o por qué tu voz se suaviza cuando dices el nombre de alguien Irónicamente, una de las formas más fáciles detectar una voz falsa es lo que no escuchas El audio real y las conversaciones reales siempre llevan un poco del mundo a su alrededor. Pueblo de habitación, respiración, zumbido de fondo, el débil eco del Las voces de IA suelen existir en una especie de aspiradora estéril perfectamente limpia, perfectamente silenciosa. Es como escuchar a alguien hablar en una habitación insonorizada, y la mayoría de la gente no tiene estudios de podcast en sus casas, ¿verdad? otro lado, algunos clips de voz mal generados incluyen ruido de fondo que no coincide con la situación, como un *** estático consistente que no reacciona al habla o reverberación no coincidente que hace que una llamada telefónica suene como si estuviera sucediendo dentro Así que siempre tenga cuidado durante las llamadas telefónicas, sea observador y use sus oídos. El detector más potente que tienes no es ningún software elegante . Sigue siendo tu intuición y tus sentidos. Si algo de un mensaje de voz se siente apagado, por ejemplo, el ritmo, el tono, la energía, no lo dudes Profundiza, escucha ese sentimiento. Porque los estafadores muy a menudo ponen en armas la urgencia. Necesito tu ayuda ahora mismo. No se lo digas a nadie. Envíame el dinero inmediatamente ahora mismo. Hablaremos más tarde, ¿de acuerdo? Esas frases son banderas rojas incluso sin IA. Agrega una voz clonada encima, y se convierte en un peligroso cóctel de confianza y miedo. Entonces, cuando recibas una llamada telefónica así, respira antes de reaccionar. Vuelva a llamar a la persona a un número verificado como lo hizo mi tío. Haz una pregunta que solo la versión real de ellos sabría responder. Puedes discutir esa pregunta con tus seres queridos. Entonces cuando una conversación extraña, cuando sucede una llamada telefónica extraña como esa, ellos sabrán qué pregunta hacer. Piensa en eso antes. Porque, sí, estamos viviendo tiempos extraños y es muy bueno tener siempre cuidado, y siempre tienes cuidado cuando estás preparado y cuando estás muy consciente de las cosas que suceden a tu alrededor. Entonces no hay que estar tanto estresado porque sabe que sabe cómo lidiar con ese tipo de situaciones. Y no podemos evitar que la tecnología evolucione, pero podemos reducir la velocidad para reaccionar con más cuidado. Las falsificaciones de voz son uno de los trucos más nuevos en la desinformación jugable y también uno de los más personales, creo, porque suenan como alguien que conoces, alguien a Y cuando escuchas que tu ser querido está en peligro, claro, te asustas. Y los estafadores lo saben. Los estafadores lo saben muy bien. Saben que este es el momento tu pensamiento racional puede desaparecer, y es más probable que les des los datos que necesitan, tu contraseña, tu dinero, tus códigos. Por cierto, recuerdas Este sitio web que te mostré en uno de los capítulos anteriores, la misma persona en la Tierra es un proyecto interactivo del Media Lab del MIT creado por el mismo equipo detrás de detectar falsificaciones Pero en lugar de enfocarse en fotos y rostros, éste se trata de voces. La idea es muy sencilla. Escuchas clips de audio cortos y decides si fueron hablados por la misma persona o tal vez por dos personas diferentes. A veces las voces son reales y a veces han sido clonadas o alteradas digitalmente Mientras lo estábamos disparando, el set incendió las montañas en Malibú, en los lugares exteriores Pero todos estos edificios, ya sabes, todos esos edificios metálicos. Todo lo que quedaba eran pequeños charcos de aluminio en el suelo Mientras estábamos disparando en el Set Burn abajo en las montañas en Malibú, las ubicaciones exteriores Pero todos estos edificios, ya sabes, todos esos edificios metálicos. Todo lo que quedaba eran pequeños charcos de aluminio en el suelo Es genial. Sí, se siente bien estar involucrado con algo que realmente aboga por la amabilidad en una época en la que, como, nuestro mundo parece recompensar el odio de muchas maneras extrañas, ¿verdad Estoy muy emocionada solo de volver a salir con esos tipos. ¿En serio? Me divertí mucho en el set, y realmente extraño eso. Tipo de libertad. Y, por supuesto, el objetivo no es ganar call points. Es para entrenar tus oídos. Empiezas a notar cosas sutiles sobre cómo suena la voz humana real y cómo distinguirla. Empiezas a notar pequeñas pausas y calzoncillos, emociones y cambios de tono. La forma en que la pronunciación cambia con el estado de ánimo. Cómo las voces de IA a veces suenan demasiado suaves, demasiado planas o demasiado consistentes. Y creo que después de algunas rondas, te das cuenta de lo fácil que es estar lleno aunque estés seguro que quieres, quieres que te atrapen y no caerás en la trampa y cómo agudizar tu atención te ayuda a detectar cuando algo suena raro En definitiva, la misma persona o no proyecto puede ayudarte o tal vez puedas ayudar a tus padres, alguien de tu familia, alguien de tus amigos o tus seres queridos a volverse oyentes más conscientes en un mundo donde la IA ya puede imitar cómo nos vemos y cómo sonamos 18. Verificación cruzada y pensamiento crítico. Técnicas de verificación de fuentes: Verificación cruzada y pensamiento crítico. Técnicas de verificación de fuentes. Hoy en día nos desplazamos por muchas fotos, videos y titulares pegadizos todos los días, a veces cada hora Y ante las prisas, es tan fácil olvidar la pregunta más simple y más arraigada de todas ¿De dónde vino esto? En el mundo donde cualquiera cualquiera puede publicar cualquier cosa y donde la IA puede hacer que todo se vea tan real. El arte de la verificación se ha convertido en una especie de habilidad moderna de supervivencia. Entonces, empieza con el cargador. ¿Quién arrojó esto primero? Cada pieza de contenido tiene un origen, aunque Internet se esfuerce mucho por ocultarlo. Si te encuentras con una imagen impactante o un video viral, tómate un momento para ver quién lo publicó primero. ¿Fue arrojado por una fuente creíble, un periodista de confianza, un medio de noticias verificado, una organización de renombre? ¿O parecía aparecer de la nada? De una cuenta anónima sin historial. Haga clic en el perfil. Mira las publicaciones más antiguas, las cosas más antiguas que comparten. ¿Esta persona suele compartir material original, o en su mayoría descansa contenido sensacional de otros? ¿Tienen seguidores que se ven auténticos o aparecen recién creados Suena simple, pero la mayoría del contenido falso o generado por IA se propaga porque gente lo comparte sin mirar la fuente Las fuentes reales tienen una prueba, y el contenido falso, el contenido generado por IA generalmente no Consulta la fecha y hora de carga. Cada foto, video y publicación lleva una marca de tiempo, y esos pequeños números pueden decirte mucho Si el video afirma mostrar noticias de última hora, verifique cuándo fue realmente subido. A veces el mismo clip resurgirá años después renombrado para que coincida con una Un video de incendios forestales de 2019 se convierte en metraje de esta mañana, tal vez solo modificado un poco Una protesta de un país se convierte en protesta en otro país. Comparar con noticias creíbles y fuentes locales. Cuando ocurre un acontecimiento importante, los periodistas reales dejan muchas huellas, artículos, transmisiones Testigo presencial cita sellos de tiempo. Si algo en línea parece extraordinario pero no está siendo reportado por medios establecidos, esa es una razón para dudar y encontrarlo extremadamente extraño, creo Así que debemos buscar múltiples perspectivas. Las noticias locales suelen tener los detalles más precisos desde el principio. Si los titulares internacionales no coinciden, no coincidan con lo que circula en las redes sociales esa discrepancia podría apuntar a desinformación o al menos exageración desinformación o al menos Por supuesto, no necesariamente te estoy diciendo que elijas una fuente confiable y apegarte a ella. Pero en estas señales, debes estar cruzando las cosas extrañas que lees para no caer en las trampas. Sigue las pistas de contexto. Cada pieza genuina de los medios lleva señales invisibles y pistas de contexto Escucha el acento. O lenguaje de fondo en un video. Busque puntos de referencia reconocibles, patrones climáticos o placas de matrícula Compárelos con una cobertura confiable de puntos de venta establecidos. Si algo no se alinea, si la inundación en París muestra palmeras o la tormenta de nieve en Nueva York tiene pasto verde Confía en tus ojos, el contexto rara vez miente. Grupos de verificación como Bell y Cat, BBC Verify y Reuters fact check suelen utilizar este método, lo que llaman inteligencia de código abierto para confirmar si una imagen realmente pertenece a donde dice Las mismas habilidades que descubren la desinformación global pueden ayudarte a verificar la autenticidad de una sola publicación viral Realmente creo que cuanto más lento vas, más agudo ves. Realmente creo que es verdad. Sé que la comprobación de hechos puede ser aburrida. No es rápido. Es lo contrario del tempo online y la súper productividad para la que hemos sido entrenados. Pero ralentizar, incluso solo por unos segundos puede ahorrarle a veces, ahorrar tiempo, energía e incluso seguridad y dinero Entonces, antes de creer ese poderoso video o foto emocional, muchas veces, es mejor dejar de entrar en pánico o dejar de reaccionar y preguntar, ¿quién hizo ¿Quién publicó esto? ¿Cuándo se hizo? ¿Dónde más ha aparecido? ¿Qué podría ganar alguien creerlo? 19. ¿Real o IA? ¿Puedes ya decir qué es real?: Practica. Real o generado por IA Entonces, ¿puedes decir lo que es real? Tomemos un descanso de la teoría por un momento. Has aprendido sobre deepfakes, clones de voz, fotos sintéticas, manipulación emocional, todas las formas en que el mundo digital puede doblar la realidad ahora mismo Pero este conocimiento solo se convierte en sabiduría, y solo se vuelve poderoso cuando practicas notar con más cuidado Entonces en este capítulo, quiero guiarte a través de algunos ejemplos del mundo real e invitarte a analizarlos más despacio, mirar más de cerca y notar lo que te están diciendo las pequeñas pistas Y para ello, primero, discutiremos algunos de los ejemplos muy ruidosos, muy populares porque son un poco graciosos, pero también son muy buenos para aprender porque te diré por qué fueron creados. Entonces comenzaremos con ellos. Empezaremos con todos estos, los de los que probablemente hayas oído hablar o probablemente los hayas visto. Pero hay una razón por la que se volvieron virales y tenemos que discutirlo. Bien, así que comencemos con la simple. Si te pusiste en línea en 2023, probablemente viste este. P Francis luciendo inesperadamente elegante con un enorme abrigo acolchado blanco estilo valentiaga La imagen se extendió por todas partes, ganando tanto risas como confusión. Sí. A primera vista, se sintió creíble para algunas personas La iluminación era suave y cinematográfica. La textura de la chaqueta se veía impecable, y la expresión de los poetas parecía, creo, natural Pero eran colas diminutas. Las manos se ven ligeramente deformadas. Las aguas poco profundas no coincidían del todo con la culpa de la tela y el fondo estaba un poco demasiado crujiente. Veredicto, claro, ya sabes que es generado por IA. Esta imagen se convirtió en un hito cultural, no por quién estaba en ella, sino por la facilidad con la que la gente la creía. Sí, esta fue divertida, inofensiva y un poco absurda Y eso es lo que lo hizo funcionar. No parecía una porquería. Parecía una foto inocente tomada para mostrarle a la gente que Pope es una persona como tú y yo, y también te puede interesar un poco moda y apreciar el buen abrigo globo Cuando me volví viral un conjunto de fotos que mostraban a Donald Trump siendo abordado y arrestado por la policía, provocaron llamadas instantáneas en línea Los medios de comunicación se desmoronan para confirmar si era real. Mira de cerca, sin embargo, y notarías pequeñas inconstantes Insignias de pols desordenadas, manos un poco asimétricas, extraños desenfoques faciales e iluminación que no coincidía iluminación que La composición se sintió como una película todavía. Demasiado dramático, demasiado cinematográfico para ser real. Veredicto, por supuesto, ya sabes generado por IA. No era sólo una foto. Fue una especie de narración revolucionaria. Y eso es lo que la IA está aprendiendo a hacer francamente bien, crear virales que aprovechen nuestra imaginación cultural, no una manera, no una lógica Un soldado ucraniano sosteniendo un gato durante lo que. Esta imagen circuló en redes sociales mostrando a un joven soldado aplastado entre escombros sosteniendo a un gato atigrado cerca de su pecho Su expresión igual pausa agotamiento y ternura capturaron caliente Este es más complicado. La iluminación es consistente, las sombras caen naturalmente el gato se ve real. Nada grita un hielo de inmediato, pero acercar el zoom. Las insignias uniformes e inconsistentes. Los dedos alrededor del gato están ligeramente borrosos y no coinciden Ya sabes que es generado por IA. Es un ejemplo perfecto de cómo las fotos de imágenes generadas por IA ahora operan en la zona gris, no para engañar de manera obvia, sino para Juega con nuestra empatía, usando nuestra amabilidad como gancho Éste parecía científico y objetivo, ¿no? Una vista aérea codificada por colores que muestra inundaciones masivas después de una tormenta. Tozens de cuentas lo arrojan como prueba de la escala de eventos Al principio, parecía legítimo, impulsado por datos, neutral, pero los investigadores luego rastrearon la imagen hasta un conjunto de datos sintético creado por un modelo de IA capacitado para visualizar hipotéticos Los metadatos no mostraron identificación de satélite ni marca de tiempo. Entonces, esta es muy importante porque muestra cómo la desinformación no siempre comienza con mala intención A veces el contexto simplemente se pierde en el camino, y hace que la diferencia sea una gran diferencia, una diferencia peligrosa. IA crea algo educativo, alguien lo captura y para cuando llega a las redes sociales, se ha convertido en una noticia de última hora. Cartel de Netflix baby Render, con el actor Richard Gatz con ojos de caza y conocido difundido ampliamente en línea provocando espectaculación, que se veía Pero en este caso, es Oh. 100% hecho en humanos. Un retrato profesional filmado por un fotógrafo, editado con herramientas de Sony, no herramientas de IA. Entonces el veredicto es real. No es generado por IA. Lo fascinante es que nuestra percepción se ha volteado. Ahora sospechamos de la realidad misma. Las fotos auténticas pueden verse demasiado perfectas, mientras que el arte con IA puede sentirse emocional y real. Entonces, como resultado, tendremos generaciones de televidentes que dudan de todo. Bien, continuaremos el ejercicio en uno de los siguientes capítulos porque recibí los comentarios de que realmente te encanta hacerlo. Entonces discutiremos muchos más ejemplos, y voy a acercar esos ejemplos para mostrarte los detalles que tienes que analizar y tienes que notar. Más de esta historia. La próxima vez que algo viral se cruce en tus pies, una foto, un video, una captura de pantalla. A por 5 segundos y pregúntate. ¿Qué emoción está tratando de hacerme sentir? ¿Tiene sentido la luz, la textura o el fondo? ¿Apostaría dinero? Esto es real. ¿Puedo encontrar primero dónde aparece esta foto o este video? Si las respuestas te hacen dudar, profundiza. No se desplace más allá. No lo compartas. Porque detectar contenido generado por IA o contenido falso no muestra Es necesario. Para permanecer despierto en un mundo que se aprovecha de nuestras reacciones. 20. Ética, seguridad y tendencias futuras. Uso ético del contenido de IA: Ética, seguridad y tendencias futuras, uso ético del contenido de IA. Cómo crear compartir e innovar responsablemente. La conversación en torno a la IA suele oscilar entre dos extremos Emoción sin aliento y ser totalmente anti IA. Pero en algún lugar entre esos dos enfoques extremos se encuentra el verdadero trabajo, aprender a usar esta tecnología manera responsable porque la IA no va a ninguna parte Ya está entretejido en nuestro arte, nuestra escritura, nuestro marketing, nuestras aulas, nuestras vidas. Cuando la gente pregunta qué está permitido en la IA, suelen significar legalmente, pero legalidad. Es el piso, no el techo. Lo que está permitido no siempre es lo correcto. Entonces legalmente, el contenido generado por IA vive en un término medio turbio La ley de derechos de autor, por ejemplo, sigue poniéndose al día con un mundo donde los modelos de IA pueden crear. La lente modelo de millones de fotos en línea, incluidas las que tienen derechos de autor ¿Quién es el dueño de la salida? El usuario, la empresa que ha entrenado el modelo. Todos los artistas cuya obra estudió el modelo. Hasta el momento, los tribunales y los legisladores siguen debatiendo eso, pero la moralidad suele responder más rápido que Si estás utilizando arte generado por IA, eso imita claramente el estilo de otro artista Sin permiso, puede que aún no sea ilegal, pero creo que sigue siendo un poco explotador y no es justo Entonces la prueba ética es simple, creo. Si un humano hizo el original y no consiente en ser imitado, le debes crédito, contexto o compensación Por ejemplo, una de las indicaciones más comunes que la gente usa en M journey y Sora se crea al estilo de studio gibl Por ejemplo, la gente usa indicaciones como ésta o ésta. ¿Es ilegal? estilo general, las paletas suaves, las grandes corridas pictóricas generalmente no están protegidas Pero caracteres específicos, logotipos y diseños distintivos son como, por ejemplo, en este caso, Tortora, sin rostro, el tipo Gibbly low. Entonces, si tu imagen parece que presenta un personaje Gibbi reconocible, o una copia cercana de un accesorio de escena de firma, estás a la deriva hacia un territorio de trabajo derivado Marca, falso aval. Usar el logotipo del nombre de Gibb o parecer personajes para promocionar un producto o evento puede implicar respaldo y puede generar marcas comerciales o problemas de paso en el futuro ¿Es moral? El estilo y la sensación de Gib proviene de décadas de artesanía humana, maquetación, pintura de fondo , movimiento dibujado a mano, imitarlo para vender algo sin permiso o crédito puede ser legal en muchos contextos, pero en muchos ojos, no es fa Porque vamos a deconstruir la vibra, los ingredientes que vemos en las películas de Gib Ángulos de cámara de baja estatura infantil, comida táctil, brillo de vapor y peso Fondo con textura acuarela y perspectiva atmosférica. Ma, decidida, tranquila, y el viento como un personaje, moviendo el pelo de lavado de hierba Historias de esquina, los granos saturados buscan la naturaleza, cálida linterna forrada al anochecer Entonces es muy específico, muy de marca. El trabajo de Gibley conlleva valores culturales específicos, tranquilidad, naturaleza respetuosa, gentileza Copiar la superficie sin honrar el espíritu puede abaratar lo que la gente ama y pasar tanto tiempo puliendo Entonces estas son banderas rojas y no hagas esto. Bofetear al personaje de Gibb se encuentra. B gran espíritu del bosque, un traje, espíritu, sin clon de rostro en fusión. Usar póster estilo Gibby de estudio como copia de marketing para un producto comercial, haciendo cotizaciones falsas o trailers que impliquen que Gib los hizo o los avala Mi consejo, siempre podemos usar Pn más seguro en lugar de pedirle al modelo que genere algo de estilo gibbly. Por ejemplo, podemos pedir un paisaje pintado a mano con bordes suaves y profundidad atmosférica, un acogedor pueblo en ladera y hora dorada, enfocarnos en el viento en los árboles y líneas de lavado, gentil realista, cálido, vivido en texturas O Vista de niño de una cocina, mesa grande de madera, sopa humeante, estados de ánimo de polvo de luz solar, pincelada pictórica, calma, magia doméstica, calma, magia doméstica, Porque la IA hace que sea muy fácil replicar voces, rostros y estilos, pero solo porque podamos no significa que debamos La clonación de voz a alguien sin permiso, incluso como broma, cruza límites personales muy serios. Usar la semejanza de una celebridad en un video de IA sin autorización de derechos podría violar la ley de propiedad intelectual Pero incluso fuera del contexto jurídico, viola algo más profundo la autonomía Entonces mi proturb de sentirme bien y escribir moralmente antes de usar la IA para crear algo que imite el trabajo de alguien, o no es el estilo de alguien, incluso hipotéticamente, pregúntate, sentirían ¿Estaría bien con esto si se invirtieran los roles? Etiquetar lo que genera la IA. Creo que hoy la transparencia puede convertirse en el nuevo fideicomiso. Si creas o compartes contenido generado por IA, ten claro eso. Un título simple, como un nodo al final de tu subtítulo generado con majoni o creado usando IA hace más que protegerte legalmente Ayuda a mantener el ecosistema digital más honesto. Esto importa, sobre todo para el contenido que parece realista y podría confundirse con documentación. Una foto falsa etiquetada como arte es expresión creativa, pero una foto falsa etiquetada como evidencia es manipulación. Desafortunadamente, no todos los públicos de marcas, grandes o pequeños, de lujo o personales se sienten cómodos con el uso del ojo, por supuesto. Por ejemplo, recientemente me encontré una marca de moda premium de mi país de origen que comenzó a usar ojo para mostrar su ropa y diferentes looks de estilo como inspiración. Sus piezas no son baratas, todo lo contrario. Y la marca se posiciona como de gama alta y sus clientes esperan ese nivel de autenticidad y artesanía. Pero cuando la marca comenzó a publicar imágenes y videos generados por IA de sus colecciones, muchos clientes se molestaron. Sentían que la marca estaba tratando de ahorrar dinero en sesiones de fotos profesionales y modelos reales, lo que hacía que la marca se sintiera menos genuina, menos amable En la parte superior de eso. La IA generó looks y la ropa no se veía exactamente como las reales. Las texturas y los detalles estaban apagados y era casi imposible decir cómo una pieza encajaría o cubriría realmente un cuerpo real Después de todo, un modelo de IA no entiende la tela, grosor, el movimiento o cómo se comporta un Material bajo Por lo tanto, es un buen recordatorio de que aunque la IA pueda hacer que algo se vea hermoso, autenticidad y la realidad siguen siendo importantes, especialmente cuando las personas pagan por calidad, la artesanía y la confianza 21. Cuándo se puede utilizar la IA para bien: La IA se puede utilizar para el bien. Pero bueno, no quiero ponerme pesimista. La IA, cuando se usa éticamente, tiene un potencial increíble. Puede amplificar la creatividad, reducir barreras y ayudar a las personas a expresarse de nuevas maneras Si lees ejemplos en vivo, por supuesto, Accesibilidad. Las voces generadas por IA ayudan a que las personas que perdieron habla debido a una enfermedad se comuniquen nuevamente . Eso ya lo sabes. Educación. Las herramientas generativas pueden visualizar temas complejos para los estudiantes, haciendo que el aprendizaje sea más inclusivo. Restauración. IA puede restaurar el audio dañado y las imágenes de películas que de otro modo podrían perderse, la salud mental, diario de IA y las aplicaciones de acompañamiento emocional, cuando se manejan de manera responsable pueden apoyar la reflexión y La palabra clave es, por supuesto, responsabilidad porque por cada uso positivo, hay una imagen especular para el daño. Accesibilidad versus suplantación, creatividad versus plagio Es un tema muy, muy complejo, como puedes ver. Toque humano. Cada marco ético para la IA eventualmente se reduce a esta idea. Siempre debe haber un ser humano en el proceso. IA puede generar, ayudar y sugerir, pero los humanos deben revisar, aprobar y asumir la responsabilidad lo que se libera en el mundo. Eso es cierto para artistas, maestros, periodistas, especialistas en marketing y formuladores de políticas Cuando usas AE para crear algo, sigues siendo el autor. Lo que significa que tú también eres el responsable de su impacto. La pregunta no es solo ¿la IA puede hacer esto, sino que debería hacerlo con IA? Si la IA puede generar una foto o incluso crear una sesión de fotos y video complejos, arte, o incluso una película completa. ¿Qué le queda a los humanos por hacer? Yo lo veo de esa manera. La IA puede producir y generar, pero solo nosotros podemos elegir. Elegimos lo que merece existir, lo que se alinea con nuestros valores, lo que significa negar Todo radica en la intención. Entonces creo que cada vez que creamos algo, deberíamos preguntarnos, ¿Esto ayuda o está dañando Aclarar o tal vez confundir, servir o explotar. 22. Detección vs. generación: Detección versus generación, el futuro de la verdad en un mundo donde todo puede ser falso. Desafortunadamente, es muy cierto. Cada vez que crees que has aprendido a detectar falsificaciones, a detectar contenido de IA, la tecnología sube de nivel. El contenido generado por IA está mejorando rápidamente, más rápido que nuestra capacidad de detectarlo. Cada nueva herramienta, cada nuevo modelo, nueva versión de modelos existentes que prometen hiperrealismo, mejores rostros, voces más limpias, movimiento más fluido empuja a través de los alimentos hacia la zona gris Y por cada avance de generación, otro equipo en algún lugar está compitiendo para construir el aún mejor. Modelos generativos como So apica, runway, y muchos más ya están creando videos tan realistas que podrían pasar por al metraje de un estudio de cine en Mientras tanto, los generadores de fotos, como M jenny y la difusión estable, pueden renderizar iluminación, anatomía y reflejos con una precisión fotográfica cercana. Por lo pronto las imperfecciones en las que alguna vez confiamos para detectar falsificaciones como sombras extrañas, textos extraños desaparecerán Ocurren más raramente en este momento. A Aprenderé a replicar física, emoción, incluso artefactos de lentes de cámara Esto significa que las herramientas de detección pueden confiar más únicamente en pistas de superficie Tienen que mirar más y más profundamente también en los datos en sí. Pero estos datos también se pueden modificar, claro. Como ya te dije antes, una de las soluciones más prometedoras para el contenido generado por IA y profunda crisis falsa es el marcado de agua. Incorporar firmas ocultas en todo el contenido generado por IA que demuestre su origen, como un soporte de ADN para los medios, invisible a la vista Pero trazable con las herramientas adecuadas. Empresas como Opening Eye, Google Deep Mind y Adobe ya están experimentando con sistemas de marcas de agua que etiquetan contenido en el punto de creación programa de credenciales de contenido de Adobe, por ejemplo, etiqueta imágenes con meta datos que muestran quién las hizo, cuándo y qué herramientas. Pero el watermking solo funciona si es universal y Si la mitad de Internet lo usa y la otra mitad no, seguiremos nadando en esta incertidumbre. Además, incluso a medida que avanzan las herramientas, queda un hecho. La detección no funciona sin confianza. Un Watermg no significa nada y gente no cree en el sistema detrás de él. Una verdadera bandera de IA solo es útil si confiamos en la plataforma para aplicarla de manera justa. medios de comunicación, los gobiernos, las empresas tecnológicas y los usuarios cotidianos tendrán que estar de acuerdo en que contenido muy fino importa más que compartirlo rápido. Y en esta economía, es muy difícil creer que sea factible, ¿verdad? Pero este es un tema muy complejo para una discusión más larga también. Entonces, ¿cómo podría ser el futuro? Aquí hay un vistazo de a dónde podrían ir las cosas. Cada medio digital, por ejemplo, imagen, foto, video y archivo de audio creado por el modelo NII Lleva una firma rastreable por defecto. Las plataformas sociales muestran automáticamente etiquetas generadas por IA o indicadores de autenticidad. Instagram ya lo hace, pero no siempre es correcto. Muchas veces muestra contenido generado por IA junto al contenido que no fue generado por IA. Y muchos, muchos creadores luchan con eso. Los algoritmos de detección se ejecutan silenciosamente en segundo plano, marcando contenido manipulador o engañoso antes de que sea tendencia y se vuelva viral Y también YouTube ya hace eso. Los gobiernos introducen leyes de transparencia falsas profundas que requieren revelaciones públicas en los medios de comunicación y contenido político de nosotros Pero incluso en ese escenario optimista, contenido generado por IA y el contenido falso nunca desaparecerán porque la tecnología seguirá evolucionando. Siempre hay alguien tratando de estar un paso adelante. Y es exactamente por eso que necesitamos educarnos constantemente y mantenernos al día con la tecnología porque mientras más gente sepa cómo funciona esta tecnología, menos poder tiene para engañar Y para ser honesto, lo sé, sé que puede llegar a ser abrumador. Estoy contigo y estoy aquí para ti. 23. ¡Detecta la diferencia! ¿IA o Real? Edición Baked Goods: Diferencia positiva. Edición AI o Real Baked Goods. ¿Estás listo para volver a probar tus ojos? Ahora estamos iniciando una serie que definitivamente hará que aquellos de ustedes que tienen hambre sean un poco más hambrientos o incluso mucho. Recomiendo no ver este capítulo completamente con el estómago vacío porque puede ser peligroso. Y creo que los productos horneados son un tema difícil porque no van a haber muchos subtitulado. No habrá muchos detalles como en una edición de compras de comestibles, realmente necesitamos ser muy cuidadosos y necesitamos atención al detalle. Entonces, ¿nos vamos? Empecemos. Entonces dos pasteles. A primera vista, ambos son muy parecidos a velas , muy demasiado dulces. Pero veamos los detalles. Aquí, lo que inmediatamente me llama la atención es la textura. Parece que ves que tiene esas bolsas de aire que, por un lado, se ven naturales. Siento que antes he comido pastel con una textura similar. Definitivamente hay algo extraño en la bifurcación aquí. Veamos los detalles del mantel porque eso podría regalar algo. Está bien. Bien, ¿qué más? Qué más vale la pena mirar aquí el confeti. Ves que algo extraño está pasando con algunas de las formas. Veamos cómo se ve en el de la derecha, y aquí el confeti no cambia tanto de forma Pero aquí, algunos de ellos se ven un poco doblados. Bien, echemos otro vistazo a estos detalles. Y ahora creo que esto es lo que más me dice. La textura del helado. Ves aquí la textura es muy, muy fuerte. Y aquí es similar, pero a pesar de que están separados por muy poco en cuanto a profundidad de campo, aquí la textura sigue siendo diferente. Entonces, en mi opinión, esto será generado por IA porque el cono de helado tiene diferentes texturas, y supongo que vienen del mismo paquete del mismo fabricante, por lo que deberían ser los Aquí tenemos texto, por supuesto, ilegible. Esta es una foto con una profundidad de campo muy, muy poco profunda. Y echemos un vistazo al pistacho. Analicemos los detalles. Pero lo que de inmediato me llama la atención, sobre todo en esta foto, es esta forma plástica. ¿Lo ves como si la masa estuviera hecha de plástico? Totalmente como si fuera plástico. Además, tiene sospechosamente muchas capas. Sé que este tipo de pastel tiene muchas capas, pero aquí, hay poco realistas muchas de ellas Y creo que esta está más caliente porque hay muchos menos detalles Aquí tenemos dos texturas, en realidad, incluso gratis porque aquí el pastel está en rayo decorativo. Y aquí, también hay texturas realmente libres. Pero este ángulo es muy extraño. ¿Lo ves? Estoy tratando de imaginar cómo lo colocarías, cómo lograrías este ángulo. Pero entonces todo lo demás no estaría en el mismo ángulo. Hay algo muy antinatural en este ángulo, sí. Entonces echemos un vistazo más. A lo que se utilizó la iluminación y seguir adelante. Bien, echemos un vistazo más a qué iluminación se utilizó y sigamos adelante. Bien. Aquí tenemos dos casas de pan de jengibre, y por supuesto, estamos buscando como siempre pequeños detalles y pequeñas inconsistencias Aquí ya se puede ver una diferencia muy grande en grosor. Además, creo que sería muy difícil hacer algo así con glaseado, sobre todo mirando las capas inferiores. Además de estas figuritas de aquí, ¿lo ves? Tienen una forma indefinida muy indefinida, muy, sí, muy borrosa y indefinida Estos están bien, pero luego cuando nos movemos hacia la derecha, algo extraño empieza a suceder mientras aquí, todo tiene una forma realista definida. Lo mismo con los ornamentos. ¿Lo ves? Como si estuvieran mal generados y las formas se perdieran. Esto definitivamente se genera. Bien, esta es más difícil porque a primera vista, yo diría que ambas son alcanzables en vida real que ambas fotos se vean reales El campo devo aquí es muy, muy realista. Me pregunto qué es esto, pero bien podría ser jabón o alguna herramienta de cocina. Sin embargo, la iluminación realmente me hace preguntarme porque aquí la luz es muy dura. Y el cupcake no muestra reflejos tan fuertes. Además, aquí veo inconsistencias en la servilleta. Y como sabemos, esos muy raramente aparecen en la realidad en fotos reales. Aquí la textura es uniforme. Entonces, para mí, ese es generado por IA. Esta es difícil porque una de las fotos es realmente de mala calidad. Como pueden ver, el de la derecha. Y estas fotos están tan despojadas de contexto que ambas podrían haber sido generadas por IA Entonces aquí, honestamente preferiría saltarme esto porque este ejemplo no te dirá nada. Lo único que podemos mirar es la regularidad del confeti, pero realmente lo único extraño es esto Creo que en la fotografía de producto, no habría tales grumos de pastel y confeti, así que estoy apostando Pero como dije, este no es un muy buen ejemplo. Entonces pasemos a la siguiente. Pasemos a esta apetitosa foto. Probablemente dije en otra ocasión que la IA muy a menudo lucha con las esquinas en las fotos son con detalles, detalles y contextos en esquinas Y aquí tenemos un precio o número de producto. Además, también contamos con una herramienta para llenarlos con crema. Creo que sin un prompt, mencionándolo explícitamente, esta herramienta no estaría aquí. Y si hubiera tal pronta, probablemente aparecería más en primer plano Entonces esto me hace pensar que es una foto real. Veamos también cómo se llenan, cuáles se llenan de una manera que definitivamente se vendería a un cliente. Aquí, todo parece estar bien, incluso en los que están más lejos. Y aquí se hace un poco más descuidadamente, además de que varían mucho en tamaño Lo ven por ejemplo, esta es mucho más pequeña que esta, que esa y ésta también. Entonces, como pueden ver, los de aquí en esta zona están muy apretados. Creo que esto no sería realmente vendible. Entonces, en mi opinión, esto es un alto generado y este desenfoque aquí también. Sí, creo que hay muchas señales que apuntan a que esto es un alto generado. Vamos a seguir adelante. Aquí nuevamente, tenemos la misma situación mencioné anteriormente, rincones de productos con los que la IA a menudo lucha. Aquí, es difícil decir qué es exactamente esto. Aunque el pastel con cerezas se ve bien. Y en esta, tenemos algún tipo de tarta de queso, creo, aunque, espera, ¿de verdad se ve Porque ahora estoy empezando a preguntarme si esto es en realidad un artefacto y una bruma en la foto generada por IA, sobre todo cuando miramos Y la reflexión aquí, ¿la ves? En una foto de la derecha, el reflejo es realista. Mientras que aquí, la reflexión está en un lugar completamente equivocado, en un ángulo muy equivocado. Entonces mi confianza inicial de que todo estaba bien con estos objetos me bajó la guardia. Esta reflexión es totalmente poco realista y tal como pensaba Sí, tal como pensaba. Bien, esto es complicado de nuevo porque aquí hay muy pocos detalles. Generalmente no me gustan las fotos de productos. Los encuentro muy difíciles de analizar. Aquí hay algunos detalles. Yo diría que este croisson tiene una forma muy extraña que en la fotografía de producto, no elegirían un croisson tan irregular para presentar A presentar. Lo vi pronunciando todo con acento francés. No, no sé cómo deshacerme de él. Bien, echemos un vistazo más de cerca aquí. Creo que la textura nos da la mayor cantidad de pistas aquí qué textura podría ser real Aquí, una cosa inmediatamente destaca. Este es defectuoso, y definitivamente nadie vendería tal combinación. Además, el patrón también se refleja un poco incorrectamente aquí. Si bien todos estos son realmente elegantes. Entonces para mi, no hay absolutamente ninguna duda de que este es un i generadores. Sí. Sigamos adelante. Cuando miro el de la izquierda, lo primero que inmediatamente me llama la atención es que veas el precio tock, y aquí los nombres se imprimen a diferentes alturas cuando lo miras desde el sitio así Y eso me hace pensar que podría ser generado por IA. Por otro lado, los detalles de estos canales son hermosos y todo lo demás tiene sentido Pero aquí me sorprende que en exhibición, estas cookies sean tan irregulares, como pueden ver. Echa un vistazo aquí. No quiero acercarme, pero mira, son muy irregulares. Además, este, por ejemplo, parece un poco como que también ha sido mordido en estos hábitats Uno tiene la forma de algún tipo de fantasma y el otro es normal. Además, no tengo idea de lo que es esto en el fondo. Se ve muy desordenado, sobre todo comparado con el de la izquierda Entonces, sí, en mi opinión, esto se genera. Sí. Bien, ahora estamos echando un vistazo más de cerca porque seguro, los detalles volverán a decidir nuestra elección. El de la izquierda parece estar bien. Todo aquí es regular. Podría ser una foto promocionando algún café, creo. Pero lo que inmediatamente me llamó la atención es que este de aquí tiene una forma completamente diferente. Es mucho más alto y tiene mucho más sentimiento. Sé que pueden ocurrir tales irregularidades, sobre todo cuando alguien no está haciendo esto en un café, sino, por ejemplo, para uso personal. Pero me parece que esto revela mucho. Además, la crema tiene un color ligeramente diferente, pesar de que es el mismo sabor que la otra que esta de aquí. Entonces, sí. Para mí, es generado por IA. Bien, aquí definitivamente necesitamos mirar los detalles, y hay muchos de ellos, pero antes, me quejaba de que no había detalles, así que es lindo que aquí estén A primera vista, aquí todo es simétrico. Cuando miramos estas manchas de crema aquí, como pueden ver, sí, todo está bien Y aquí no tengo idea. Bien, ahora veo ahora veo una cosa que es extraña. Podría pasar, pero creo que es extraño para mí. El de pepino con un pepino tan ligeramente deformado. Además, es una opción muy extraña poner pepino ahí. Echemos un vistazo también a las bayas. Estos dos son un poco sospechosos en forma, creo. Al igual que la perspectiva de esta rosquilla aquí, pero echemos otro vistazo Aquí hay muchos detalles, y en mi opinión, y en mi opinión, IA definitivamente se equivocaría en al menos un detalle aquí. Entonces eso me hace pensar que esta foto es real, y esta es generada por IA Bien, esta foto definitivamente se ve muy escandinava. Echemos un vistazo a la textura de estos productos horneados. Esta textura me preocupa un poco. Parece una especie de i. Y por otro lado, lo que me destaca aquí es que esta parte, esta parte de aquí se ve inconclusa Y aquí se ve realmente extraño, como Ai ya tomó la salida fácil. Definitivamente se supone que estos dos son los mismos que éste. El primer rollo de canela también tiene una forma muy extraña sin su típica espiral. Entonces sigo apostando a que este es generado por IA. Bien. Bien, veamos las formas de estos bagels porque las formas nos lo dirán más, creo Aquí son muy irregulares. Tales formas irregulares no suelen suceder con este tipo de bagels Bien, no son bagels. Son pretzels. Yo no los como. Muy a menudo dicen: Sí, mi bate, perdóname. Pero mira, esos son muy, muy irregulares. Y creo que formas tan diferentes no suelen suceder con los pretzels Aquí, por otro lado, todo es muy parejo. Y eso te hace pensar que este es definitivamente generado por IA. Bien. Bien, pasa a la siguiente. Echemos un vistazo a los frutos secos. Todo me parece bien aquí. Pero revisemos también la textura del plato. También está bien. Pero lo que inmediatamente me llama la atención es esto muy deforme aquí o el hecho de que esto debería ser agudo en este lugar porque el que está al lado es Y tampoco entiendo por qué esta está sobreexpuesta. Sí, para mí, esta es una señal muy clara de que esto tiene que ser generado por IA Bien, tengo que admitir que esta es difícil, pero creo que en realidad diría que ambas de estas dos fotos podrían ser fácilmente generadas por IA Hay fotos donde es muy difícil señalar una cosa específica. Esto podría iluminarse con algún tipo de studio lite, por ejemplo. Y cuando lo miro, este me parece más ish, pero como pueden ver, es realmente muy difícil de decir. Y como dije, el libro podría ser generado por IA o el libro podría ser real pero muy, muy editado Bien, vamos a comprobarlo. Bien. Bien. Bien. Aquí tenemos una horcajada muy guapa, creo, austríaca Sé que esas cucharas vintage existen y tienen formas como esta. Pero no podrías comerte este troddle con esa cuchara Entonces apuesto a que esta se genera. Bien. Hacia el siguiente. Aquí, veamos la textura del confeti. Bien, aquí creo que todavía no hay nada muy atractivo. Lo que definitivamente es alarmante en esta foto es esta galleta de jengibre con glaseado aquí, que es mucho más delgada, mucho más delgada que las demás porque creo un pan de jengibre tan delgado sería Corrígeme si me equivoco, pero esta es una muy delgada. Se puede ver que aquí es mucho más delgado que esto. Además, esta herramienta también está muy extrañamente bancada. Y aquí vemos una especie de engrosamiento muy extraño. Además debajo de él, parece vidrio roto. Guau. Sí. Sí, para mí, esto es generado por IA, seguro. No creo que alguien creara intencionalmente tal ilusión de cristales rotos. Esto es muy inquietante. Sí. Bien, y la última foto en esta ronda, desafortunadamente, de nuevo, de la categoría no me gusta como ya sabéis, creo que mi primer instinto fue que esta tiene una textura muy desigual Se puede ver lo mucho que está pasando aquí. Creo que es muy difícil lograr tal efecto de forma natural. Bien. Y sin embargo, no. Entonces ese fue mi primer error entonces en esta ronda. Entonces echémosle otro vistazo. Como puede ver, por la pequeña cantidad de detalles, esto fue muy, muy difícil. Por eso prefiero aquellos en los que hay muchos más detalles y es más fácil de distinguir. Y ¿qué opinas de esta ronda? ¿Te resultó difícil distinguir qué foto es generada por IA Házmelo saber en la sección de comentarios en la sección de discusión porque tengo mucha curiosidad. Házmelo saber. 24. Una prueba visual: eventos de alfombra roja: Prueba visual a partir de los eventos de alfombra roja. Bien, el siguiente capítulo son los eventos de alfombra roja. Definitivamente habrá muchos detalles aquí. Muchas cámaras, muchos elementos que pondrán a prueba nuestra percepción. Entonces creo que este es un tema principal excepcionalmente genial para pasar juntos. Veamos qué tan furtivos serán estos maridajes. ¿Estás listo? Vamos. Bien, justo como pensé. Hay muchos detalles, pero además solo una foto tiene texto. Siempre prefiero voluntad obviamente con texto y una gran cantidad de texto y detalles porque es más fácil de juzgar. Cuanto menos hay, más difícil se pone. Entonces echemos un vistazo. Vamos a acercar esta foto. Aquí el texto, creo que no hay nada sospechoso en él. Nada se mezcla. Ninguna piel parece que se titula. Ahora veamos la geometría aquí de la alfombra y las puertas. Se puede ver que es una foto tomada con flash. Veamos el segundo porque creo que nos va a poder contar mucho más. Aquí ya puedo ver las señales, las pequeñas señales, los pequeños artefactos que no deberían estar ahí. Como, por ejemplo, aquí, algo está algo mal generado. Por supuesto, podemos señalar mucho a la menor resolución de la foto. Pero cuando miras, por ejemplo, estas caras y este brazo, puedes ver que algo aquí no se genera correctamente. Lo mismo aquí. Esta nariz, esta mano Así que en este punto, no hay mucho más que podamos decir porque hay muy pocos detalles, pero también podemos ver que ahí no hay cueros reales Solo hay una especie de manchas de marcador de posición que la IA a menudo se congeló en segundo plano, por lo que no tiene que refinar los detalles Entonces de inmediato, tenemos pruebas de que esta foto se ve bien aquí en este tamaño. Pero cuando acercamos el zoom, podemos ver muchas cosas mal generadas, muchos artefactos. Entonces podemos decir esto con total certeza, esto es IA generada. Hacia el siguiente. Entonces aquí a primera vista, ambas fotos parecen que fueron generadas por la IA. En mi humilde pinon, hay muchas banderas rojas en ambos Entonces echemos un vistazo más de cerca. Piel impecable y su textura en general, pero esto podría ser una pista o podría no ser porque como probablemente sabes en esta parte del mundo, la gente realmente tiene muy buenos genes y una piel hermosa, por lo que esto podría ser completamente natural Dedos con niños, a veces las proporciones pueden verse diferentes, claro. Entonces, el hecho de que este golpe aquí se vea así también podría ser solo una cuestión de perspectiva, nada concluyente todavía Los ojos se ven naturales. Los detalles también. Esta podría ser una foto AI bien generada, pero también podría ser completamente natural y completamente real. Ahora veamos éste. Enseguida noté algunas inconsistencias relacionadas con los zapatos . ¿Ves eso? Como si tuvieran una forma muy extraña o se generaran mal? Y para mí, aunque ahora que estoy mirando la suela, zapato tiene una suela completamente delgada aquí en la parte posterior, y el otro tiene una alta, y son muy asimétricos Lo mismo aquí con las plumas y aquí las terminaciones, el final de esta capa Y cuando miramos estos cordones de los zapatos, también se puede ver que están mal generados. IA tomó la salida fácil, y puedo decir esto con total certeza de que, sí, esta es IA generada. De las caras, no es tan obvio. Aunque cuando miramos a los ojos aquí, podemos decir un poco más. Pero en esta foto, creo que son los zapatos que más regalan los zapatos. Entonces sí, aquí tenemos dos actrices, ¿cuál de ellas es real Veamos éste. Siempre es, lo sé, lo estoy repitiendo como un disco rayado, pero siempre vale la pena comparar logotipos y texto porque cuando hay múltiples instancias del mismo texto, la IA suele tener problemas para reproducirlos. Mm hmm. Veamos también la mano. La mano se ve natural, creo. La IA también a menudo lucha con patrones que se repiten intensamente. Aquí, este oso. Este oso, como puedes ver, es ligeramente diferente en tamaño, pero el texto, por ejemplo, esta E se termina exactamente de la misma manera. Entonces eso me parece real. Si esto fuera IA, creo que habría algunas pistas más, algunos detalles más generados erróneamente. Entonces apuesto a que esta es real. Pero ahora veamos esto. Y el primer plano teóricamente, todo está bien, aunque aquí tengo la impresión que algo salió mal con el ojo, pero a veces a esta resolución, eso también puede suceder en fotos reales, así que esto aún no es decisivo Pero mira aquí, algo claramente salió mal con la generación Face. Creo que la IA asumió que no miraríamos tan de cerca que a este tamaño, se ve bien, pero mira, aquí, se nota claramente que la IA tomó la salida más fácil, sí. Entonces, aunque el primer plano pueda parecer en parte creíble, podría ser creíble, el fondo definitivamente regala un Ojo. Bien. Sí. Pasemos al siguiente. Estos son más duros a primera vista. Manos, mira las manos. Difícil de decir. Esta mano pertenece a esta mujer, y aquí sólo las manos este apretón de manos pertenecen a nuestros principales personajes de primer plano Esta foto no tiene gran resolución, así que no podemos decir mucho al respecto. Pero los detalles aún parecen creíbles. La profundidad de campo, considerando que esta es una foto flash, también. Bien, veamos el segundo. Aquí, a primera vista, esta mano se ve muy Ish, como se me generó y este dedo sí, pero vamos a mirar más allá. Aquí, los ojos definitivamente tienen la vibra AIS. Sí, aquí no tengo dudas, creo. Y mira esta mano. No tengo ninguna duda. Desde la distancia, se ve bien. No levanta sospechas enseguida. Pero cuando se amplía, pueden ver grandes mechones rojos y detalles generados erróneamente, y podemos estar 100% seguros, creo Bien, aquí están pasando muchas cosas. Entonces, ¿qué debemos mirar primero? Siempre me gusta mirar los logotipos, como ya saben, y los patrocinadores, si se generan correctamente. Y en realidad, a primera vista, sin querer, ya aterricé con mi click en una foto generada por IA porque Mira estas caras y mira estos nombres de patrocinadores mal generados. Este es el mismo logotipo que aquí. Bueno, no es lo mismo. Se puede ver lo inexacto que se genera. Cuando la foto es pequeña, se ve bien. Puede engañar a una mirada cuidadosa, pero basta con hacer zoom para darse cuenta de que todo se genera erróneamente y que en realidad hay muchos detalles mal generados, muchos artefactos Entonces aquí ni siquiera necesito mirar la segunda foto, tal vez solo un vistazo rápido. Aquí cada persona es real. Ya podemos decir eso, y hay muchos más detalles. Entonces este es definitivamente generado por IA. Hacia el siguiente. Bien, aquí tenemos a dos actrices saludándonos Una foto es borrosa. Entonces de inmediato, sabemos que aquí será más difícil juzgar. Esta mano también está en movimiento, lo que normalmente podría ser una pista, pero desafortunadamente, la calidad de la foto deja mucho que desear. Hay un desenfoque muy fuerte. No estamos en condiciones de evaluarlo bien. Pero la pulsera se ve real y detallada. Aquí los aretes, la mano se ve bien. Esta zona aquí me hace preguntarme un poco, pero podría ser absolutamente real. Entonces echemos un vistazo a la segunda foto. Bien, aquí tengo la impresión de que algo anda mal con esta cámara y lo mismo con esta. ¿Lo ves como si las cámaras se estuvieran fusionando? Entonces, aunque nuestra actriz se vea creíble, el dedo también regala mucho Y igual que ahora. Yo lo veo aquí los zapatos. ¿Ves eso? Aquí se pueden ver claramente las banderas rojas. Y ese dedo sigue en el marco. Sí, esto se va a generar. Bien, dos hermosas mujeres asiáticas, y sólo una de ellas es real. Veamos el de la derecha. Por supuesto, todo está borroso. Aquí vemos algún texto, pero no podemos decir mucho al respecto. Entonces, desafortunadamente, esta parte es demasiado borrosa para juzgarla. Aquí podemos preguntarnos por qué este dedo es más oscuro. Esta uña es más oscura. El embrague, esta mano en esta mano, no vemos este esmalte de uñas oscuro, así que esa podría ser la primera bandera roja. Pero la cara se ve creíble. Las terminaciones de los aretes son las mismas. Aquí, la parte superior también se ve creíble. Bien, veamos el segundo. A lo mejor habrá más pinos a los que agarrarse. Bien. Y enseguida, vemos que a pesar de que la foto se ve increíble, como una foto de moda, algo anda mal con estas gafas como si estuvieran mezclándose. ¿Ves eso? ¿Además de este anillo? ¿Está en los dedos? ¿O también está atrapando a éste? Algo anda mal aquí, igual que con esto de vuelta. Como si fuera un canal mal generado de vuelta. Sí, creo que esta definitivamente será la IA generada, aunque el resto, por ejemplo, desde esta perspectiva, se vea muy real. Pero también se puede decir por los aretes. Mira, ¿lo ves? No hay aretes idénticos. Este es un error de IA muy, muy común. Bien, pasemos a la siguiente. Aquí, tenemos aquí a dos celebridades muy características. Empecemos por el de la derecha. Y aquí al instante veo que el texto está muy bien generado, no generado. Simplemente se ve muy bien, muy creíble, como si fuera real Entonces podría ser real. Por ejemplo, aquí, probablemente fue Amazon. Y aquí se puede ver que son los mismos. Entonces, a pesar de que la cara se ve tan perfecta que fácilmente podría ser acusada de ser generada por IA, el texto de patrocinador es súper preciso. ¿Ves eso? Están alineados uno debajo del otro. Entonces esto me parece una foto real, definitivamente. Bien, veamos esta. Y enseguida, este cordón plantea mis dudas porque quién iría a un evento con tanta gente con un cordón tan desgastado, uno que está a punto de romperse. Aquí, las terminaciones de las manos también levantan un poco mis sospechas. Echemos un vistazo también a las solapas. Ves aquí hay una costura, y aquí no hay costura. Lo mismo con este botón. El tejido está acabado de manera muy extraña. Pero el rostro no levanta sospechas. El rostro se ve bien. Pero mira aquí, aquí los rostros de estas personas también se ven un poco mal generados. A lo mejor se puede ver aquí en esta zona, pero, por ejemplo, aquí y aquí es muy visible. Entonces, para mí, el veredicto ya es claro. Esta es la IA generada. Bien, otra vez, tenemos dos actrices. Uno está sonriendo con una sonrisa muy, muy hollywoodense. El otro fue por una sonrisa misteriosa, más tímida. Entonces, ¿qué podemos decir aquí? ¿Qué foto a primera vista se ve más generada por IA? Yo diría éste, pero vamos a comprobar si todo aquí está realmente bien. Esta cámara se ve un poco extraña. Tengo que admitirlo solo colgando ahí. Alguien bien podría tenerlo en una correa, pero se ve raro. Eso levanta un poco mis sospechas. El resto parece estar bien, pero este fotógrafo de aquí me parece sospechoso. El rostro se ve creíble. No vemos el segundo arete, así que aquí no podemos decir mucho. Pero veamos éste. Aquí enseguida veo que muchas cosas están mal con las caras. Esto ve esto, esto y esto, y todo eso. Aquí es como si la cara estuviera en el lugar equivocado. Aquí, las manos también se funden con la cámara. Esta cara, definitivamente basada en esto, este traje también está subgenerado, y igual que éste Desde la distancia, estas fotos pueden arrullar ojos cuidadosos. Pero desgraciadamente, esto es claramente generado por los ojos. A la siguiente. Bien, aquí tenemos lo que más me gusta porque dice mucho, la matrícula. Vamos a verlo. Se ve muy creíble. Cheque. El logo actual también está bien generado. La gente de dentro también se ve bien generada. Quiero decir, no generado. Esta es probablemente solo una foto real. Los logotipos de los globos también se ven iguales en todas partes. No tenemos ninguna bandera roja en las caras. Entonces veamos la segunda foto. Por supuesto, están desenfocados, así que no podemos decir mucho. Aquí ya puedo ver que algo con la cámara es mortal generado. Esta persona de aquí se ve más como si estuviera sosteniendo un arma que una cámara. Entonces veamos los detalles. Aquí, tampoco parece que estas sean caras reales, estas formas, estos dedos. Los dedos y las manos nos dicen mucho aquí, y creo que el veredicto ya está claro Bien, comencemos con esta. Se parece un poco a una selfie, pero no es una selfie. La gente de fondo parece real, sobre todo esta pantalla, también. Yo diría que no hay nada fuera hasta ahora. El letrero también está bien. Todas las palmeras tienen hojas regulares, las manos se ven naturales. Los zapatos tienen detalles. Yo diría que esto me parece real. Entonces veamos éste. Aquí tenemos algún tipo de cerebro. En el marco. Y aquí ya veo una cara mal generada o una cara borrosa con movimiento Vamos a verlo más de cerca. Oh, guau, aquí está la estructura también. Es muy extraño. Lo ves. Desde la distancia, se ve bien, pero no celebrarían ninguna Gala con tal estructura porque todo podría colapsar. Sí. Cuando miramos el detalle, así vemos muchas cosas generadas de manera muy inexacta Se puede ver que la IA tomó la salida fácil, así que aquí el caso es fácil y el veredicto ya está claro Bien, sigamos adelante. A primera vista, claro, parecen más IA generada, pero sabes que estas fotos también pueden ser muy astutas Entonces veamos los detalles y a las manos. Sí, creo que estas manos son generadas por IA. Pero por otro lado, los zapatos no se ven tan mal, aunque me pregunto qué cayó de ellos aquí. Y, sí. Sí, por esta cara y por esta cámara, ya puedo decir que esto es IA generado, desafortunadamente. Lo mismo aquí. Por este detalle erróneamente generado, este artefacto, por la generación inexacta de estos rostros, ¿ves cómo estos rostros se mezclan aquí, cómo se generan muy Aquí a primera vista, lo que me hizo preguntarme fue que el logo del cañón está invertido, pero ya no recuerdo cómo está en el mío, si es así, también. Pensé que podría ser una IA RO, pero aquí en realidad todo se genera correctamente. Quiero decir, no generado. Esta es una foto real. Comprobemos eso. Bien, a la siguiente. Entonces comencemos con la foto que tiene texto. Entonces con este, parece un poco sospechoso, pero ¿es muy sospechoso? ¿Es esto una pista suficiente? Creo que aquí, el texto en sí es realmente sospechosamente malo, malo, malo, muy malo y realmente inexacto También pienso que esta cara aquí es muy reveladora porque ojos negros, labios negros, no creo que alguien con ese aspecto se le permita entrar en esta parte del evento. También puedes ver que la cara que ves aquí, esta silueta. Faltan muchos detalles aquí. Creo que ya estoy 100% seguro de que esto es IA, y, sí, las mentiras también lo están diciendo. Entonces la foto de este tamaño se ve completamente real. Pero cuando nos acercamos a los detalles, instantáneamente vemos elementos mal generados sin detalles. Entonces esta foto es real. Aunque a primera vista, también podríamos tener algunas dudas, pero aquí todo echa un vistazo. Entonces el veredicto es claro. Bien, de nuevo, tenemos muchos camarógrafos y fotógrafos Echémosles un vistazo más de cerca. Aquí el texto plantea mis dudas, igual que esta pierna aquí. Creo que empecé. Bien, estas piernas. Creo que se generan completamente erróneamente. Como puedes ver los detalles, aquí están muy todo mezcla al igual que estas manos. De ninguna manera. De ninguna manera esto es real. Lo mismo aquí. Sí. Veamos también esta foto, pero ya estoy prácticamente seguro de esa, la primera que digo que generé. Esta foto es borrosa en movimiento. Pero cuando miramos los detalles, la cámara se ve bien. Aquí tampoco nada se mezcla. En el fondo, podemos ver diferentes marcas. Sí, estoy 100% seguro, sobre todo después si pasas por esta categoría tú mismo, recuerda mirar zapatos, piernas, ya sea, por ejemplo, tal textura de piel o tal gesto es realmente posible. Bien. Ese es el veredicto Bien, aquí tenemos que divs. Empecemos por el de la izquierda. Aquí el texto es un poco difícil de ver. Los dedos también me dan pequeñas dudas, pero solo podrían ser dedos muy delgados. El rostro se ve creíble. Estos aretes aquí parecen un poco diferentes, pero eso podría ser también, un reflejo. Veamos a la gente. Desafortunadamente, no somos capaces de valorar los zapatos porque están muy, muy borrosos. Pero el bolso. Oh, accidentalmente lo marqué. Oh, ya ves, me apresuré demasiado, y no quería marcar esto en absoluto, porque a mí, esto también me parece real. Así que no te importa. Echemos otro vistazo para discutir. Sí, tenemos que discutirlo. Ahora que accidentalmente ya sabemos que esto es realmente real, todavía miraría los detalles del bolso. Y ahora pensemos por qué esto es un. ¿Ves estas manos aquí en realidad miraríamos instantáneamente y ya sabemos que las uñas se generan, que la uña se genera en el lugar equivocado? ¿Y qué pasa con la gente? Bien, también hay banderas rojas. Por ejemplo, este hombre se genera bien, pero aquí algo parece fuera de lugar. Y aquí no se generó la protección de la lente. Entonces ese sería también mi veredicto. Esta es definitivamente una i. Así que ahora pasa a la siguiente. Bien, veamos a la gente. Tienen expresiones insólitas. Las cámaras son diferentes. Pero aquí podemos ver que esto es probablemente cañón o Nikon. Aquí, estos detalles también son visibles aquí. Los zapatos tienen detalles. Ya creo que esto va a ser esta es una foto real. Pero veamos el segundo y acerquemos a la gente. ¿Ves esta mochila? De ninguna manera. Aunque se tratara de algún diseño muy, muy original. Y estos zapatos, un zapato es mucho más grueso que el otro. Aquí también falta un pedazo de cara. Aquí le pasó algo a las gafas. Aquí, ¿qué tipo de lente es esta? ¿Quién lo sostiene? ¿ De dónde vino esta lente? Esta enorme mano aquí. Estos dedos definitivamente se generaron. Bien, ahora comencemos con el análisis del de la izquierda. Al instante veo que el texto es consistente. ¿Puedes ver festival de cine? Aquí algo es el movimiento borroso. Eso podría ser un ojo hacer en, pero estos parecen idénticos. ¿Puedes ver? Todos ellos excepto éste, en realidad. Firme aquí un poco difícil de leer. Aquí tengo dobletes. Pero el número es bueno. Sin preocupaciones. La llanta también se ve real. También miremos a la cámara. Los dedos parecen estar bien. Veamos el segundo. Bien, creo que accidentalmente acerqué algo que nos dice mucho Esta mano y el logo, que tiene diferentes colores y formas desde todos los ángulos. Además, aquí, esta sombra también parece tener la forma equivocada, y con esta mano, creo que ya vimos. Además de estos zapatos, cuanto más lo miremos, más banderas rojas hay, aunque en esta talla, se ve bien, ¿verdad? Bien. Aquí al instante veo la consistencia del logotipo de Audi y Audi Audi. En el fondo, podemos echarle un vistazo. Aparece en todas partes, y es lo mismo. Aquí también tenemos el nombre del mismo hotel en el fondo aquí también. Los detalles son borrosos, pero se puede ver que, por ejemplo, el letrero de aquí está bien, se ve muy real Entonces sí, esta foto me parece una foto real. Pero echemos un vistazo al segundo. Aquí hay muy pocos detalles, pero esta foto también se ve, esta foto se parece mucho a ish. Verás, estas espigas tienen formas diferentes, y creo que eso nunca sucede. Lo mismo aquí. Hay una longitud diferente de este espacio y la espiga. Los zapatos también se ven mal generados. Aquí es lo mismo. Sí, creo que a estas alturas, podemos estar seguros de que ésta es generada por IA. Bien. El segundo al último de esta categoría en esta ronda, comencemos aquí con el actor sonriente. Empecemos por analizar lo que más me encanta analizar los zapatos. Aquí, los zapatos parecen tener todos los detalles y ser iguales de igual grosor. Aquí también tenemos muchos detalles. Aquí también, estos apretones de manos parecen reales, creo. Aquí en general, sí, hay muchos detalles. Las rosas también se ven reales. Entonces veamos la segunda foto. Estamos buscando algo sospechoso aquí. Sí, creo que este ritmo ya está regalando IA aquí. Y como puedes ver aquí, también hay distancias equivocadas. Al principio, la IA mantiene esta distancia, y luego no hay una distancia adecuada entre estas puertas. Aquí, también vemos banderas rojas, sobre todo en estos zapatos. Y desafortunadamente, también se puede ver en esta mano en esta muñeca. Entonces creo que ya tenemos el veredicto. Desafortunadamente, esta foto es generada por IA. Bien, y la última de esta serie en esta ronda, veamos si es la más dura. Aquí tenemos muy pocos detalles. Entonces yo empezaría con eso. Bien. Aquí, por el contrario, hay muchos detalles, muchas cámaras, caras. A pesar de que están fuera de foco, todavía podemos ver algunos detalles. Por ejemplo, gafas. Y también, hay notas que podríamos mirar, pero incluso los micrófonos mantienen su forma Lo mismo con el teléfono, tienen, esta será una foto real. Ya lo puedo sentir. Y aquí tenemos que echarle un vistazo. Bien, bastó con hacer zoom para ver detalles de zapatos y errores de zapatos, artefactos de zapatos. Los zapatos son parte del estilo que tiene muchos detalles, muchas formas, y también son difíciles de reproducir de manera realista en movimiento, por lo que pueden decirnos mucho aquí Y por eso, creo que podemos estar, podemos estar muy seguros. Esto es IA generado. Bien. Nosotros lo logramos. Nosotros lo logramos. Y se acabó otra ronda. Tengo mucha curiosidad qué conjunto de fotos fue la más dura, la más difícil para ti. Házmelo saber en la sección de discusión. Yo de verdad, de verdad, necesito saberlo como siempre. ¿Y estás listo para la siguiente ronda? Vamos a repasarlo juntos. 25. Práctica: ¿IA o real? Edición de tatuajes: Una verdadera edición de tatuajes. Bien, ahora me gustaría pasar juntos por los tatuajes porque los tatuajes tienen muchos detalles. Lo que importa aquí es la línea, el fondo. Sí, todos los detalles. Entonces creo que este es el tema perfecto perfecto para pasar juntos. Entonces veamos lo difícil que será esta ronda. ¿Estás listo? Vamos. Entonces comencemos con la foto de la izquierda. A primera vista, las manos parecen bien aquí. Nada en las uñas levanta mis sospechas. La textura de la piel, los aretes, todo está bien. Sólo la textura de este anillo me hace preguntarme un poco por qué tiene tan pocos detalles, pero eso es muy poco para afirmar algo por ahora. Entonces veamos la segunda foto. Y aquí, desgraciadamente, ya se puede ver esta mano. Este dedo entra y de repente termina aquí. Sí, desgraciadamente, definitivamente, esto es IA generada. Además de eso, compara aquí el ancho de estas tumbas. Y esos anillos lo ves. Los detalles los detalles como siempre, como siempre, como de costumbre. Y como esta talla, podría pasar. Pero una vez que acercas, puedes verlo negro sobre blanco. Bien, vamos a ver esta. Un diseño del oeste muy inusual. Sin embargo, aquí veo el cuero de fuentes de estilo manuscrito. Y como sabemos, la IA realmente no maneja esos muy bien. Este reloj parece un poco sospechoso, pero a lo mejor ya estoy siendo súper sospechoso. Aún así, el tatuaje en sí, sus detalles, su forma, la irregularidad de las letras me hacen casi seguro de que esta es una foto real Entonces echemos un vistazo al segundo. Aquí, enseguida me pregunto qué es este fragmento del chaleco naranja porque no tiene sentido para mí. También me pregunto de dónde viene esta irregularidad de la lente Aquí se puede ver que en cada piso, se ven diferentes, en cada piso, se ven diferentes. Pero volvamos al tatuaje. La blusa parece que se lleva de atrás a adelante. Algo también está mal con este botón. Ese tipo de detalles desafortunadamente muy a menudo revelan una i. si, definitivamente algo anda mal con este botón. Y creo que ya es suficiente. Aquí la textura de la blusa tampoco se ve del todo natural, del todo real. Creo que mientras estas barandas, podemos estar casi seguros de que esta ya es IA generada A pesar de que tengo que admitir que aquí es de bastante buena calidad, pero , sí, estoy seguro de que es hora de que llegue el veredicto Bien, comencemos con el de la izquierda. A primera vista, los músculos de los brazos parecen bastante simétricos. La rosa también tiene los detalles adecuados, creo. Se pueden ver los dedos, así que eso hace que sea un poco más difícil juzgarlo. Pero estos botones parecen estar bien, la textura de tiro también. Entonces echemos un vistazo al segundo. Lo que no me sienta bien en esta foto es que cuando alguien tiene la piel pálida, creo que tiene piel pálida por todas partes en las manos y luego en los brazos. Pero aquí, la piel es mucho más oscura que esta. O más bien estos detalles. Aquí la manga está directamente sobre la piel. No se introducen pigmentos más ligeros. Y aquí también, estos detalles. ¿Lo puedes ver? Como si algo aquí no se generara del todo bien. Y lo mismo aquí. Este puño es mucho más grande que este. Creo que estoy casi seguro de que esto va a ser un generado. Oh, ya hice clic accidentalmente. Y, sí, accidentalmente hice clic en algún lugar mientras tanto, pero esto es IA, así que vamos a escribir Entonces, veamos éste ahora. Los dedos sobresalen instantáneamente. Desafortunadamente, a pesar de que los alrededores están bien, ve este pulgar aquí, las terminaciones de estos dedos y también la forma esta camiseta se sienta en el hombro aquí podría ser una bandera roja Desafortunadamente, con base en estos hechos y aquí también, estos agujeros en la playera, estos son detalles que indican que se genera esta foto. Pero echemos un vistazo a éste también. Aquí las manos y los detalles. Incluso somos capaces de leerlos. Entonces sí, desafortunadamente, esta foto estas manos, estas extrañas llamadas detalles en la camisa claramente nos dicen que esta foto es generada por IA. Bien, aquí, a primera vista, yo diría éste. Pero porque estas líneas de estiramiento en la mano realmente me sorprenden. Pero vamos a ver éste. Aquí de nuevo, el anillo está en un lugar muy extraño. Y si esto fuera un tatuaje, está demasiado saturado en comparación con esto. Éste, tengo que admitir que es más complicado. Este golpe también tiene una forma un poco extraña. Incluso tengo que mirar mi propio pulgar. Entonces volvamos a ver. Bien. El anillo está en el lugar correcto. También se pueden ver pelos, con los que a veces lucha un tipo. Lo que me sorprende es la diferencia de que aquí están el pelo es tan oscuro y aquí ya son grises. Pero si, esto es complicado, tengo que admitirlo, porque apuesto a que esta es la IA generada. Como pueden ver, Bien. Bien, ese fue el ejemplo donde algo anda mal en ambos autos, y digo, ambos son hi generados, y sin embargo solo uno lo está. Entonces es simplemente cuestión de una foto muy específica e iluminación y detalles muy específicos. Y por eso las sombras caen de la manera que lo hacen. Veamos estos detalles. Aquí tenemos muchos detalles, así que habrá mucho que analizar. ¿Algo aquí se genera mal? Podría admitir que es extraño que esto esté fuera de foco aquí. La proa de este barco aquí también me sorprende un poco. Echemos un vistazo al segundo. Este tiene tipo de más detalles. También me parece un poco más realista. Aquí también podemos ver un bonito sombreado. Bien, creo que esto es un artefacto de IA. Aquí todos los detalles parecen conectar entre sí. Aquí hay un dragón, luego esta flor, la curva misma, la luz. Podría ser simplemente una foto muy editada. Lo que me hace preguntarme es esta silla, estos elementos metálicos metálicos. Pero veamos el segundo. El trasfondo también es muy extraño, pero aquí me parece que esto se genera bien, pero esto aquí. Y esto es, en mi opinión, un artefacto típico de IA, IA generó erróneamente Además, este sombreado blanco. Sí, creo que sí. En esta foto, hay muchos detalles escritos a mano, texto escrito a mano No están completos, por lo que no podemos juzgar si tienen sentido. A primera vista, echemos un vistazo a esta cruz. Bueno, aquí, los detalles de la cruz son un poco engañosos. Como se puede ver, si apenas se mantiene unida. Es muy sospechoso, pero echemos un vistazo también al segundo. Este tatuaje muy extrañamente entra en el pájaro. Aquí, también hay muchos elementos generados regularmente. Además, una sombra de pájaro bastante extraña, que es más grande que esta ave misma aquí. Bien, entonces a pesar de esto levantando mis sospechas, el texto manuscrito, la fuente manuscrita, y aparte de esta cruz, nada levanta Dije, Esto es ai tolerado. Bien, comencemos con los dedos porque podrían decirnos algo. ¿Algo suscita fuertes sospechas a primera vista, sorprendentemente, no. Entonces echemos un vistazo al segundo. Creo que este elemento amarillo de la playera aquí es muy extraño. También muy extraño sombreado. Se puede ver como si hubiera sangre en este tatuaje. Y este rojo aquí se ve muy perturbador, sobre todo esto. Después de todo, esos elementos, creo, no aparecen en los tatuajes. Entonces, para mí, esto ya es una señal de que esto podría ser IA generada. Veamos el veredicto. Bien. Oh, sorprendentemente, no. Ahora con éste, todos los detalles, todos los detalles. Esta fumb parece sospechosa. Entonces veamos la playera. Aquí el final de la camisa y este pliegue se ven muy AI como, muy Aish Pero veamos el segundo. Aquí los detalles se generan bien. Todos los elementos del tatuaje tienen sentido. Entonces aquí, tanto este bulto el cierre de la camisa y este extraño pliegue, sí. Sí, lo sabíamos. Nosotros lo sabíamos. Bien, aquí inmediatamente vemos que esta pantorrilla está doblada de una manera muy antinatural Echemos un vistazo a esto. ¿Ves esto como si el zapato se estuviera metiendo en la piel? A modo de boceto, también está saturado de manera antinatural. Y también se pueden ver pliegues. Yo diría que esto tiene que ser un ojo, pero veamos éste también. Aquí puedes ver de inmediato que se trata de un boceto a pluma. También puedes ver desengrasar inteligente. Es un tatuaje bastante específico, pero a lo mejor alguien tiene una idea muy abstracta. Pero es cierto que este color este verde es extraño aquí. Pero aún así, la forma de esta pantorrilla y lo extraña que es aquí la saturación de este boceto. Bien, bien. Sí. Sí. Echemos un vistazo a esta mano. Algo nos llama la atención aquí. Hay muchos detalles. Todo parece hecho con mucha precisión. No puedo negarlo. Aquí también, no tenemos nada que plantee dudas, creo, pero veamos esta mano. Bien, podemos decir lo mismo de esta mano. Desafortunadamente, el anillo parece demasiado apretado, y los dedos tienen una forma un poco sospechosa, especialmente esta. Aquí hay una especie de rosas inacabadas, y como sabemos, esto no sucede con un tatuaje de henna de henna tan fresco Entonces el caso es claro. Bien, aquí creo que las uñas nos dirán mucho. Comprobemos si vemos algún dato sospechoso sobre ellos. A lo mejor en esto. Aquí destaca la forma. Este anillo también el anillo la decoración muy sospechosa. Aquí también vemos estos finales. No, no, no tales uñas. Aquí también. El anillo está apretando el dedo Sí, inmediatamente veo esto. Esto tiene que ser un ojo. Sí, a primera vista, me parece que esto tiene que ser un ojo, pero echemos un vistazo. Este túnel, ves que no hay manera de que alguien realmente tenga un agujero tan irregular en la oreja. La forma de la mano, este pliegue aquí, también se ve muy sospechosa Esta mancha en el tatuaje hace que el tatuaje desaparezca. El texto también, ves esto es y luego de repente el texto desaparece. Parece que no tiene sentido. Este tatuaje está muy estirado en el cuello. Veamos éste. Aquí, sin embargo, los detalles parecen tener mucho más sentido. Entonces estoy apostando por éste. Sí. Bien. Sorprendentemente no. Echemos un vistazo, entonces. A lo mejor, sí, esta foto ya no está disponible del autor. Pero veamos qué podría tener aquí. Bueno, esta mano, en efecto. Esta mano puede decirnos mucho aquí. Ya ves, incluso cuando somos súper cuidadosos, súper observantes, súper enfocados, todavía podemos perdernos cosas Sí, y probablemente esta cabeza, también. Incluso cuando somos súper cuidadosos, todavía podemos perder algunos mechones rojos. Esa es la lección de este conjunto. Echemos un vistazo a estos detalles aquí. Colores muy saturados. Echemos un vistazo al segundo. Aquí, el cabello es definitivamente un plus porque la IA suele tener dificultades con él. Aquí, sin embargo, también tenemos líneas muy inconsistentes. ¿Ves eso? En un tatuaje real, no habría líneas tan inacabadas cuando está fresco Aquí, por otro lado, todo está mucho más arreglado Bien. La intuición también fue orientadora. Aquí, de inmediato diría que esta será IA porque vemos una inconsistencia muy grande en el color de la piel Pero busquemos más pruebas. Por otro lado, los detalles en los bordes sugieren que en realidad esta podría ser una foto real porque un ye suele tener dificultades con fragmentos de borde, pero veamos esto. El pez está muy estirado. Los tatis, como pueden ver, son muy tramitados. Aún así, el sombreado de la piel es de alguna manera real y natural. Bien, entonces veamos qué prompt se utilizó. Pez koi Sí. Bien. Entonces, como ya te he dicho, incluso cuando somos súper cuidadosos, todavía podemos faltar algunas grandes banderas rojas, y cuanto más practiquemos, más observadoras y más cuidadosas nos ponemos Pero no hay manera de que puedas coger todas las fotos que generó la IA porque son muy buenas. Hacia el siguiente. Entonces aquí a primera vista, creo que todos estaremos de acuerdo en que esto se ve como IA. ¿El anillo nos dirá algo? Aquí hay demasiada textura de la piel. Parece antinatural. Pero echemos un vistazo a la segunda mano. Bien, aquí por otro lado, las uñas son extremadamente poco realistas, creo ¿Ves cómo se está pelando esta uña? Entonces a pesar de que la textura de la piel, levanta sospechas, estas uñas con una pista absolutamente enorme, enorme bandera roja Bien, aquí a primera vista, difícil de decir, tenemos que mirar más de cerca. Aquí vemos jugar rebobinar ons. Hay muchos detalles. También hay direcciones cardinales aquí, pero veamos la segunda foto. Aquí estas manos parecen tener un pulgar ligeramente extrañamente doblado Aquí se ve mucho más realista, aunque en ambas fotos, el desenfoque sigue siendo muy fuerte, pero estoy apostando por ésta. Sí. Yo de inmediato diría que este texto, mira, aquí hay alguien que puso en el prompt lo que se debe escribir. Pero aquí, la IA ya la generó de manera incorrecta, igual que tampoco logró colocar el mismo texto más arriba. Entonces sí, esto es IA. Aquí, a primera vista, ambos parecen reales, aunque este punto realmente me hace preguntarme porque las Ms también son las letras s también son muy diferentes, y sin embargo se ve aquí la k también se escribe un poco extrañamente Pero veamos otros detalles. Tenemos un topo. Pero creo que esta nariz nos dice mucho aquí. No parece real. No parece natural. Aquí por otro lado, este, este elemento menos saturado como si fuera más viejo. Y estos genes, honestamente, este es un ejemplo difícil, pero sigo apostando por éste. Bien, y así es como es. Entonces esta nariz nos dio una buena pista. Y así es como terminamos estas rondas, esta serie. Espero que hayas disfrutado pasando por todos los ejemplos conmigo. Avísame si quieres ver más de esos. Puedo grabar más ejemplos para ti. Más rondas desde la plataforma de verificación de realidad. Estoy muy agradecida de que exista tal plataforma. Es increíble para practicar y para hacer que nuestros ojos sean más cuidadosos. Tan grandes gracias al autor de Reality Check. Y avísame si quieres pasar por más ejemplos juntos porque de verdad me encanta me encantaría sentir más por ti. Házmelo saber. 26. Palabras finales y mi pregunta para ti: Palabras finales y mi pregunta a usted. Sí, como ya te dije, IA seguirá evolucionando y será aún mejor en el arte, más suave en el habla, inteligente e imitando nuestros lazos emocionales durante los videos generados por imitando nuestros lazos emocionales durante los Nos engañará, nos sorprenderá, nos frustrará y nos moldeará de maneras que no lo vemos Pero creo que todavía tenemos algo de poder. Seguimos decidiendo qué es ético, valía la pena creerlo, qué vale la pena compartir. No somos impotentes en esto. Simplemente somos un poco nuevos en eso. Realmente no puedo enfatizar esto lo suficiente. En este mundo, en esta economía, lento es un nuevo inteligente. Todo sobre los medios masivos y las redes sociales actuales está construido para hacernos reaccionar, hacer clic, compartir comentarios, decidir más rápido de lo que nuestra intuición puede ponerse al día Cada vez que paramos antes de compartir un post impactante. Cada vez que nos detenemos a revisar una fuente antes de enviar algo a nuestros amigos o familiares o cuestionarnos una foto o imagen antes de creerla, estamos practicando nuestro mindfulness digital que nos salvará, que tiene el poder de salvar a nuestra sociedad También tendremos que enseñarnos constantemente a los niños y a nosotros mismos cómo leer imágenes y videos, cómo detectar sesgos, preguntar fuentes y buscar signos de fabricación y cosas generadas por IA Entonces, ¿a dónde vamos desde aquí? Avanzamos con los ojos abiertos. A lo mejor soy un poco ingenuo, pero creo que el mundo necesita construir sistemas que protejan la verdad, no solo las ganancias Entonces realmente espero que este curso sido interesante e informativo para usted. Espero con ansias escuchar sus experiencias. Dime, dime qué es lo que más te sorprendió. Qué parte del curso te interesó más. Realmente necesito saber. Dime, me encanta saber de ti. Además, estaré publicando sobre el tema así que estad atentos. Disfrutas del curso, por favor házmelo saber en la sección de revisión. Y si tienes alguna duda, no dudes en preguntar en la sección de discusión, estaré muy feliz de responder y ayudar. También he creado un curso separado sobre cómo detectar texto generado por IA, aprender cosas secretas sobre cómo detectar lo que fue generado por, por ejemplo, HGPT Es súper útil si quieres reconocer cuando algo fue escrito por IA y solo pregunta importante, si quieres aprender a evitar sonar como GPT tú mismo, especialmente en el trabajo profesional y creativo Entonces espero verte ahí, y realmente espero saber de ti en la sección de discusión o revisión. Nos vemos ahí.