Twitter dijo el viernes que ofrecerá una «recompensa» monetaria a los usuarios e investigadores por ayudar a erradicar el sesgo algorítmico en la plataforma de redes sociales.
La compañía de tecnología de San Francisco dijo que este sería «el primer concurso de recompensas algorítmicas de la industria», con premios de hasta $ 3,500.
La competencia se basa en el software de «recompensas por errores» que ofrecen ciertos sitios y plataformas para encontrar agujeros de seguridad y vulnerabilidades, según los ejecutivos de Twitter Roman Choudhury y Jutta Williams.
«Encontrar sesgos en los modelos de aprendizaje automático es difícil y, a veces, las empresas detectan daños morales no deseados una vez que llegan a la audiencia», escribieron Choudhury y Williams en una publicación de blog.
‘Queremos cambiar eso.’
Dijeron que el modelo de recompensa de los piratas informáticos es prometedor para encontrar sesgos algorítmicos.
«Nos inspira cómo la comunidad de investigación y los piratas informáticos de seguridad han ayudado a crear las mejores prácticas para identificar y mitigar las vulnerabilidades con el fin de proteger al público», escribieron.
«Queremos hacer crecer una comunidad similar … con el fin de identificar de manera proactiva y colectiva los daños de los algoritmos».
La medida se produce en medio de crecientes preocupaciones sobre los sistemas algorítmicos automatizados que, a pesar de los esfuerzos por ser neutrales, pueden incluir sesgos racistas u otras formas.
Twitter, que a principios de este año lanzó su Iniciativa de Justicia Computacional, dijo en mayo que había descartado un sistema automatizado de recorte de imágenes después de que su revisión encontró sesgo en el algoritmo que controla el trabajo.
La plataforma de mensajería dijo que encontró que el algoritmo presentaba un ‘trato desigual basado en diferencias demográficas’, con blancos y hombres favorecidos sobre negros y mujeres, y un sesgo de ‘cosificación’ centrado en el pecho o las piernas de una mujer, descrito como una ‘apariencia masculina’. . «
More Stories
El código en los datos previos al entrenamiento mejora el rendimiento del LLM en tareas que no son de codificación
Un marco para resolver ecuaciones diferenciales parciales equivalentes puede guiar el procesamiento y la ingeniería de gráficos por computadora
Epiroc ha lanzado una nueva plataforma de perforación de producción de pozos largos