Twitter ha lanzado un programa de recompensas específico para mejorar su algoritmo de recorte de imágenes, con el que espera que los ‘hackers’ que se apunten a esta competición contribuyan a conocer los potenciales daños que generar. La red social pagará entre 500 y 3.500 dólares a quienes puedan descubrir estos problemas que pueden llegar a discriminar a los usuarios.
No hay que olvidar que el pasado año, la plataforma protagonizó una gran polémica tras descubrirse que el algoritmo de Twitter de recorte de imágenes eliminaba de forma repetida rostros negros o con el tono de piel oscuro en general, en favor de las caras de personas blancas.
La competición, distinta del programa de recompensas por fallos de seguridad, dará a los participantes acceso tanto al modelo como al código empleados por la plataforma para realizar un recorte de la imagen de los ‘tuits’ cuando esta excede determinadas dimensiones.
Según las palabras de Rumman Chowdhury y Jutta Williams, ambas directivas en Twitter y que han anunciado este concurso, encontrar un sesgo en los modelos de aprendizaje automático (o machine learning) es difícil y, a veces, las empresas se enteran de los daños éticos involuntarios cuando ya han llegado al público. Como parte de la DEF CON AI Village de este año la firma ha introducido primer concurso de recompensas por sesgo algorítmico en su historia.
Los participantes que superen el reto deberán tener en cuenta métodos cuantitativos y cualitativos en su enfoque. Quien quiera participar, debe registrarse en la página de HackerOne.
El algoritmo en cuestión, conocido como algoritmo de prominencia, genera una imagen previa y para ello se basa en la forma en que ve el ojo humano, priorizando lo que puede ser más importante, y estima lo que una persona podría querer ver primero dentro de una imagen, como ya ha explicado Twitter en otras ocasiones.
Los daños pueden ser involuntarios, cuando los fallos se producen en imágenes «naturales» que alguien publicaría razonablemente en Twitter, o intencionados, cuando los fallos pueden producirse a partir de imágenes adulteradas o manipuladas.
Los equipos ganadores pueden aspirar a estos premios:
🔘 3.500 dólares el primer puesto
🔘 1.000 dólares para el segundo puesto
🔘 500 dólares para el tercer puesto
🔘 1.000 dólares para el más innovador
🔘 1.000 dólares para el más generalizable (es decir, que se aplique al mayor número de tipos de algoritmos).
Los ganadores se anunciarán en el taller DEF CON AI Village organizado por Twitter el 8 de agosto.