ABURRIDO 111 (Patreon)

Renovado de las vacaciones y con el rabo en llamas de trabajo les doy el que correspondía al jueves de la semana pasada. Este es de comentarios. ya viene el de noticias, aunque este nos adentramos en varias noticias porque sí, los leo y creo que hay muchos nuevos datos sobre privacidad en redes, Colombia, empleo que ustedes han aportado a la conversación que vale la pena acotar junto con Canadá y el reino de lo imposible.

PROHIBIDA SU REPRODUCCIÓN PARCIAL O TOTAL, SOLO PARA LOS MIEMBROS DE ESTE PATREON.

POR CIERTO AQUÍ VA EL MENSAJE Y LOS ARTÍCULOS EN REFRENCIA AL CASO DE APPLE, PORQUE NO PUEDO DEJAR DE COMPARTIR CUANDO ALGUIEN HACE UN COMENTARIO CON ESTE NIVEL DE DETALLE

Santiago Zarate

7:40

Saludos Profesor!,

Creo que me pase escribiendo, espero sea de su interes para un aburrido de comentarios o uno general.

Vamos a ponernos un sombrero de aluminio (Un tinfoil hat cualquiera)

Otro mensaje por aca de como la tecnologia avanza, policymakers, C-Level people etc, toman decisiones sin pensar en las consecuencias o implicaciones de como un pequeño cambio puede convertirse en un problema que pueda afectar a muchas personas, sin tomar en cuenta un escenario basico de threat modeling.

Son tres articulos el primero [1] habla de un algoritmo que basicamente reconstruye imagenes partiendo de una imagen con mucho ruido o poca resolucion, aqui lo que quiero citar es lo siguiente: Google has published a set of examples showing low-resolution photos upscaled in a cascade. A 32×32 photo can be enhanced to 64×64 and then 256×256. A 64×64 photo can be upscaled to 256×256 and then 1024×1024.

El segundo [2] habla de las posibles consecuencias de que Apple le reporte a los padres sobre el comportamiento de sus hijos menores de 13 años (mediante la identificacion y ofuscamiento de imagenes sexualmente explicitas, es mas HASTA HAY UN EPISODIO DE BLACK MIRROR SOBRE ESTO! solo que, al mas puro estilo de black mirror[2.1], la conclusion de este articulo sums it up).

Sobre este segundo articulo la cita que saco aca es la siguiente: Reporting children’s texting behavior to their parents can reveal their sexual preferences, which can result in violence or even homelessness.

Y la pregunta aca es hasta cuando seran solo menores de 13 años, y que implicaciones puede tener para otros lugares, y que evita que esta tecnologia este al alcance de gobiernos...

Ahora el tercer articulo, es un hilo en twitter[3] de Hector Martin, quien esta llevando un port (Llevar software de una plataforma a otra) de Linux para Apple Silicon (Chips M1, lo mas nuevo de Apple), donde basicamente el CEO de una compañia (Quien por Ego o cuestion de una competencia de ver quien mea mas, un pissing contest cualquiera[4]) lo reta a producir dos imagenes [5] que difieran en 1 pixel.

Basicamente el punto de Hector es:

No, they did a terrible job technically. All indication is they're using equality comparison for NeuralHashes, which is not how perceptual hashes work, and means they'll have a ridiculously bad false negative rate without any adversarial stuff. They aren't even catching CSAM.

Lo que me trae a lo que une a esos tres articulos:

Por las caracteristicas de como funcionan los hashes y como funcionan las cosas en el mundo de ML/IA, pueden existir colisiones, o mejor dicho, la AI puede pensar que esta viendo algo, cuando en realidad es otra cosa[6].

Teniendo eso como base, quien impide utilizar la tecnologia de google para convertir un mosaico de los que se utilizan para proteger personas, para reconstruir y reordenar una imagen para producir en base a eso una imagen que luego se puede utilizar para conseguir "aproximaciones" de esa imagen (que despues de todo, es lo que ofrece Apple) en iCloud enabled devices?.

O quien dice que esa imagen no fue especialmente manipulada ([5][6] y [7]) con un fin que sirve a mayores poderes con el fin de fabricar informacion que pueda garantizar el arresto de una persona, basados en la evidencia encontrada en sus telefonos? (Los metadatos casi siempre, se pueden manipular, ABSOLUTAMENTE TODOS).

Y podemos seguir haciendo threat modeling, for the sake of an argument, digamos que expanden ese check para CSAM sin limite de edad: Para quien se toma una foto sugestiva, y como los organos y cuerpos los hay de todo tipo, que garantiza que un conjunto de fotos, tomadas por una persona consciente, mayor de edad, en todas sus facultades, y le llega un aviso o le llega la policia buscando pistas? que hace? se desnuda para demostrar que apple se equivoco?.

Asi que bien, en principio suena "bien" para algunos padres preocupados, pero honestamente? Aveces hay que ponerse el sombrero de aluminio. Y para los haters de Apple, una sola palabra: Google Photos.

[1] petapixel.com/2021/08/30/googles-new-ai-photo-upscaling-tech-is-jaw-dropping

[2] scientificamerican.com/article/apples-new-child-safety-technology-might-harm-more-kids-than-it-helps

[2.1] bustle.com/p/black-mirrors-arkangel-is-extremely-creepy-take-on-the-very-real-effects-technology-censorship-have-on-kids-7709092

[3] twitter.com/marcan42/status/1429827683714670599

[4] en.wikipedia.org/wiki/Pissing_contest

[5] twitter.com/marcan42/status/1428933147660492800

[6] theverge.com/2021/8/18/22630439/apple-csam-neuralhash-collision-vulnerability-flaw-cryptography (ver codigo en Github)

[7] news.ycombinator.com/item?id=28106867