Twitter dijo el viernes que ofrecerá una «recompensa» monetaria a los usuarios e investigadores por ayudar a erradicar el sesgo algorítmico en la plataforma de redes sociales.
La compañía de tecnología de San Francisco dijo que este sería «el primer concurso de recompensas algorítmicas de la industria», con premios de hasta $ 3,500.
La competencia se basa en el software de «recompensas por errores» que ofrecen ciertos sitios y plataformas para encontrar agujeros de seguridad y vulnerabilidades, según los ejecutivos de Twitter Roman Choudhury y Jutta Williams.
«Encontrar sesgos en los modelos de aprendizaje automático es difícil y, a veces, las empresas detectan daños morales no deseados una vez que llegan a la audiencia», escribieron Choudhury y Williams en una publicación de blog.
‘Queremos cambiar eso.’
Dijeron que el modelo de recompensa de los piratas informáticos es prometedor para encontrar sesgos algorítmicos.
«Nos inspira cómo la comunidad de investigación y los piratas informáticos de seguridad han ayudado a crear las mejores prácticas para identificar y mitigar las vulnerabilidades con el fin de proteger al público», escribieron.
«Queremos hacer crecer una comunidad similar … con el fin de identificar de manera proactiva y colectiva los daños de los algoritmos».
La medida se produce en medio de crecientes preocupaciones sobre los sistemas algorítmicos automatizados que, a pesar de los esfuerzos por ser neutrales, pueden incluir sesgos racistas u otras formas.
Twitter, que a principios de este año lanzó su Iniciativa de Justicia Computacional, dijo en mayo que había descartado un sistema automatizado de recorte de imágenes después de que su revisión encontró sesgo en el algoritmo que controla el trabajo.
La plataforma de mensajería dijo que encontró que el algoritmo presentaba un ‘trato desigual basado en diferencias demográficas’, con blancos y hombres favorecidos sobre negros y mujeres, y un sesgo de ‘cosificación’ centrado en el pecho o las piernas de una mujer, descrito como una ‘apariencia masculina’. . «
«Defensor de la Web. Geek de la comida galardonado. Incapaz de escribir con guantes de boxeo puestos. Apasionado jugador».
More Stories
La Agencia Espacial Europea abre una fábrica de ideas para impulsar la innovación espacial en Austria
F1 24: Modo Carrera renovado
Una nueva función de WhatsApp pronto permitirá a los usuarios transferir archivos sin conectarse a Internet; Detalles aquí