El informe de diversidad de Snap estrena nuevos proyectos de ingeniería anti-sesgo

SeoMarketing

Apasionado por el Marketing Digital

29 de abril de 2021

Los ingenieros de Snap están trabajando para erradicar los prejuicios raciales de los productos de la compañía, incluso cuando la mejora de la representación diversa en la fuerza laboral de la compañía es lenta.

Snap, Inc. publicó su segundo informe anual de diversidad el jueves, que contiene resultados mixtos. La compañía ha logrado avances modestos en la contratación de grupos raciales y étnicos subrepresentados, aumentando en 0,5 puntos porcentuales hasta el 13,6 por ciento a nivel de liderazgo.

Hubo una mejora notable en la contratación de empleados negros, particularmente mujeres negras, (la contratación en el último grupo aumentó del 2% al 5% de las nuevas contrataciones) y en la elevación de las mujeres a roles de liderazgo tecnológico. En el otro extremo del espectro, la retención de empleados hispanos se redujo levemente, al igual que la representación de personas asiáticas en roles de liderazgo, a un 14.3 por ciento (que es desproporcionadamente bajo en comparación con la representación de personas asiáticas en toda la empresa en un 34.3 por ciento).

En general, la representación de Snap de empleados negros e hispanos / latinos se compara con el resto de la industria tecnológica, en alrededor del 4 al 6 por ciento cada uno. Poco menos de la mitad de los empleados de Snap, el 47 por ciento, son blancos.

Mejoras modestas y ligeras pérdidas caracterizan el año de Snap en la demografía de la fuerza laboral de DEI.

Mejoras modestas y ligeras pérdidas caracterizan el año de Snap en la demografía de la fuerza laboral de DEI.

Imagen: captura de pantalla: Snap, inc.

Snap ha recopilado datos de diversidad internamente durante años, pero publicó su primer informe de diversidad pública en julio de 2020.Se informa que el director ejecutivo de la compañía, Evan Spiegel, dudaba en publicar los datos porque dijo que temía que hicieran más daño que bien al dar potencialmente credibilidad numérica. a la noción de que las personas de color están subrepresentadas en las empresas de tecnología. En última instancia, Snap publicó los datos, que mostraron que coincidían con la mayoría de los promedios de las empresas de tecnología.

Al igual que con el primer informe, la demografía no fue el único enfoque del informe de este año. Este año, Snap destacó el trabajo que ha realizado para compartir las experiencias de las personas de color con la fuerza laboral en su conjunto, empoderar a los grupos de recursos para empleados con un acceso más amplio al liderazgo, fomentar el talento diverso con programas de capacitación que han llevado a pasantías en la empresa. hacer de la diversidad, la equidad y la inclusión (DEI) una métrica de desempeño en toda la empresa, y más.

También se asegura de que su contenido Discover refleje con precisión la demografía de sus usuarios al encuestar y estudiar a los espectadores. Ha aumentado la representación de las personas de color y las personas LGBTQ + en los programas Discover a más del 50 por ciento. Esta iniciativa en el equipo de contenido en particular es notable, en parte, porque Snap fue criticado el año pasado después de que los empleados compartieran, y Mashable informara, prácticas pasadas de prejuicios raciales en el equipo de contenido. Posteriormente, Snap realizó una investigación y los gerentes involucrados en las acusaciones abandonaron la empresa.

“Nuestra ambición es asegurarnos de que nuestra plataforma de contenido Discover, que seleccionamos intencionalmente, presente contenido que refleje la diversidad de los Snapchatters y sus intereses”, dice el informe.

Equidad de ingeniería

Como empresa de tecnología, Snap también ha centrado estos esfuerzos en el producto, no solo en las personas. Esto ha dado lugar a iniciativas para eliminar los prejuicios inconscientes y la insensibilidad racial del lenguaje de codificación, el aprendizaje automático e incluso la mecánica de una cámara.

“Ambos estamos reescribiendo nuestros algoritmos de aprendizaje automático para eliminar el sesgo inconsciente y adoptando principios de diseño inclusivos en la forma en que desarrollamos nuestros productos desde el principio”, dice el informe. “Estamos comprometidos a construir una cámara más inclusiva para Snapchat, una que sea accesible para todos, inclusive para todos, en términos de edad, estatus, tono de piel, tamaño corporal, habilidad y lenguaje, y que esté moldeada por diversas perspectivas”.

Son los primeros días para todos estos proyectos, pero Snap quería compartir sus esfuerzos iniciales, incluso si es algo ligero en detalles.

Un portavoz de Snap compartió con Mashable el origen del proyecto de inclusión de la cámara. Bertrand Saint-Preux, un ingeniero del equipo de cámaras de Snap que es Black, reflexionó sobre su experiencia personal al usar la cámara Snap, notando que no siempre lo representaba con precisión. Esto hizo que profundizara en la historia de la cámara y descubrió que la forma en que las cámaras calibran la luz se basa en la piel blanca de forma predeterminada. Las aberturas a menudo todavía no son lo suficientemente anchas hoy para capturar todos los tonos de piel.

Saint-Preux lideró un esfuerzo interno para combatir el legado histórico racialmente sesgado de la cámara. Ahora, Snap está colaborando con expertos en fotografía y videografía de cine y televisión para garantizar que su cámara (que, en los teléfonos inteligentes, usa hardware físico del teléfono, pero se ejecuta en el software Snap), capture con precisión los tonos de piel y los rasgos faciales de todas las personas. Esto incluye mejorar la forma en que el flash frontal captura poca luz (importante para iluminar con precisión un sujeto y capturar colores y detalles). También está trabajando en el procesamiento de fotos después de que se toma una foto para asegurarse de que su representación sea precisa.

Una segunda iniciativa gira en torno al aprendizaje automático (ML). ML potencia gran parte de la experiencia de la cámara Snap, desde la edición de fotos hasta los efectos AR. Sin embargo, debido a que los sistemas de inteligencia artificial como ML reflejan los sesgos inconscientes de sus creadores, pueden funcionar de manera desigual en la práctica.

Parte de esto se debe a que los conjuntos de datos, como las fotos de caras, a menudo no son racialmente diversos, por lo que una cara blanca se convierte en el valor predeterminado para identificar una cara. Esto hace que los sistemas como el seguimiento facial de Snap sean menos efectivos para las personas de color. Esta ineficacia también proviene de las prioridades escritas en los algoritmos. Snap explica que “si el algoritmo no ha sido optimizado para la varianza, si no está programado para ser tan bueno para buscar cualquier cosa que no sea blanca, entonces fallará al ver caras más oscuras”. En el informe, Snap reconoce que encontrar mejores datos de entrenamiento ha sido un desafío.

“Si bien ML es una herramienta poderosa que puede ayudar a personalizar la experiencia de un Snapchatter, está intrínsecamente diseñado para aprender y optimizar en forma agregada”, dice el informe. “Entonces, si bien la experiencia general del producto puede mejorar según las medidas globales, es posible que nos estemos quedando cortos para ciertas poblaciones dentro de nuestra comunidad”.

Snap está tratando de “optimizar la variación” mientras audita sus algoritmos. Está investigando momentos en los que los algoritmos de seguimiento facial no funcionan muy bien y está creando sistemas para identificar estos escenarios, predecir cuándo pueden ocurrir y, en última instancia, solucionarlos.

Una tercera iniciativa de ingeniería es erradicar el lenguaje racialmente insensible del código real que impulsa a Snap. Por ejemplo, algunos códigos usan terminología como “maestro” y “esclavo” para clasificar cosas. Reconocer el sesgo racial en el lenguaje de codificación ha lanzado un ajuste de cuentas en la comunidad de codificación, y ahora también ha llegado a Snap. El año pasado, el ingeniero senior Tammarrian Rogers se convirtió en el primer Director de Inclusión de Ingeniería de Snap en encabezar el proyecto.

Sin duda, es conveniente que Snap elija compartir estas iniciativas de ingeniería en etapa inicial al mismo tiempo que publica estadísticas de diversidad decepcionantes. Sin embargo, eso no disminuye su importancia y el potencial que tienen para elevar el nivel de DEI en la industria tecnológica en su conjunto.

Quizá tambén te interese leer …

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Abrir chat