Apple introducirá con iOS y iPadOS una tecnología criptográfica con la que limitar la distribución de material de abuso sexual infantil en servicios como iCloud, y empleará aprendizaje automático en el dispositivo para advertir de contenido sexual explícito en su app Messages.
La compañía tencológica ha compartido las novedades en materia de protección infantil, nuevas herramientas diseñadas con expertos que buscan proteger a los niños de depredadores que utilizan servicios digitales para llegar hasta ellos. En primer lugar, las nuevas herramientas de comunicación permitirán a los padres desempeñar un papel más informado al ayudar a sus hijos a navegar la comunicación en línea.
Una de las principales preocupaciones en este área es la compartición de material de abuso sexual infantil. Apple ha anunciado «nuevas aplicaciones criptográficas» en las próximas versiones de iOS y iPadOS que permitirán detectar las imágenes de este tipo que estén guardadas en iCloud.
Según, la compañía explica que este método no escanea las imágenes en la nube, sino que se basa en una comparación en el dispositivo de las imágenes conocidas proporcionadas por organizaciones de seguridad infantil antes de que sean subidas a iCloud. Lo que se compara no es la imagen en sí, sino los ‘hashes’ de las imágenes, una especie de huella digital. Una tecnología criptográfica llamada ‘intersección de conjuntos privados’ es la que determina si hay una coincidencia sin revelar el resultado, y se adjunta a la imagen una vez subida a iCloud.
La tecnología de ‘umbral de intercambio secreto’ asegura un alto nivel de coincidencia, y es entonces cuando Apple recibe una alerta, para que los equipos humanos la revisen. Si se confirma, se desactiva la cuenta del usuario y se envía un informe a las asociaciones pertinentes y a la Policía.
SOBRE LA SEGURIDAD EN MENSAJES: La aplicación Mensajes agregará nuevas herramientas para advertir a los niños y a sus padres cuando reciban o envíen fotos sexualmente explícitas.
En el caso de que se trate de un contenido recibido, la ‘app’ lo difuminará y mostrará una advertencia, recursos informativos e incluso asegurará que «está bien si no quiere ver esa foto». También se puede avisar a los niños de que los padres serán notificados si decide ver la imagen. Si se trata del envío de este tipo de contenidos, el menor recibirá una advertencia y los padres una notificación.
Esta novedad estará disponible en las cuentas familiares de iCloud para iOS 15, iPadOS 15 y macOS Monterey.