El pasado octubre, actualizamos las Cuentas de Adolescentes de Instagram en EE. UU., Reino Unido, Australia y Canadá, configurando por defecto a los adolescentes en una nueva opción de contenido 13+. Inspirada en los criterios de clasificación de películas y los comentarios de los padres, esta configuración está diseñada para ayudar a los adolescentes a ver contenido apropiado para su edad por defecto. Desde su lanzamiento, 9 de cada 10 adolescentes han permanecido en esta configuración. También introdujimos una opción más estricta, Contenido Limitado, pensada para padres que desean una experiencia aún más restrictiva para sus hijos.
Hoy, compartimos avances en este trabajo, incluyendo la prueba de una nueva forma para asegurar que los adolescentes no vean repetidamente ciertos tipos de contenido en nuestras plataformas.
Expansión Global de la Configuración de Contenido 13+ para Adolescentes en Instagram, Facebook y Messenger
Estamos expandiendo nuestra configuración de contenido 13+ a las cuentas de adolescentes a nivel global en Instagram, Facebook y Messenger. La nueva configuración por defecto 13+ de Facebook está diseñada para ocultar contenido inapropiado para adolescentes en lugares como el Feed y Reels, y para limitar la capacidad de los adolescentes para interactuar con Perfiles, Páginas, Grupos y Eventos que publican predominantemente contenido inadecuado. En Messenger, esta configuración restringe la visualización de enlaces a contenido inapropiado de Facebook y la interacción con cuentas que comparten principalmente dicho contenido. La configuración de Contenido Limitado también estará disponible en Facebook y Messenger a finales de este año.
A medida que hemos expandido estas nuevas configuraciones a más países y aplicaciones, hemos continuado invitando a padres de todo el mundo a calificar el contenido de Facebook e Instagram. Hemos recibido comentarios de cientos de miles de padres que han evaluado más de 15 millones de piezas de contenido. En nuestra encuesta más reciente, a finales de abril, padres de EE. UU., Reino Unido, Australia y Canadá revisaron contenido de Facebook recomendado a adolescentes en sus países, y menos del 2% de las publicaciones fueron consideradas inapropiadas por la mayoría de ellos.
Nuevas Medidas para Evitar la Exposición Repetitiva a Ciertos Contenidos en Instagram para Adolescentes
Continuamos explorando otras formas de asegurar que los adolescentes tengan experiencias positivas y apropiadas para su edad en nuestras aplicaciones. Reconocemos que algunos contenidos —como publicaciones sobre nutrición, levantamiento de pesas o cómo manejar la ansiedad— pueden ser útiles, pero deben equilibrarse con otros tipos de contenido en lugar de mostrarse repetidamente. Por ello, estamos probando formas de limitar la exposición de los adolescentes a demasiadas publicaciones de este tipo de una sola vez, incluyendo en Explorar, Feed y Reels.
Evaluación Externa Rigurosa de la Configuración de Contenido para Cuentas de Adolescentes
Para garantizar que nuestras nuevas configuraciones de contenido ofrezcan la experiencia positiva y apropiada para la edad que deseamos para las cuentas de adolescentes, solicitamos a Alice (anteriormente ActiveFence) que evaluara dichas configuraciones y realizara pruebas de estrés sofisticadas y adversas. Alice está compuesta por expertos en seguridad en línea con amplia experiencia en la prueba de sistemas diseñados para mantener a las personas seguras.
Alice comparó temas maduros, basándose en las directrices de Meta sobre contenido apropiado para la edad, encontrados en Instagram, un competidor líder y en películas calificadas como 13+. Esto proporcionó un punto de referencia útil para comprender lo que los adolescentes podían ver en las cuentas de adolescentes de Instagram en comparación con otros lugares. La evaluación de Alice encontró que:
- Las cuentas de adolescentes de Instagram con la configuración predeterminada 13+ vieron un 68% menos de contenido maduro que en la experiencia para adolescentes del competidor.
- Las cuentas de adolescentes de Instagram con la configuración más estricta de Contenido Limitado experimentaron una capa adicional de protección, viendo un 96% menos de contenido maduro que en la experiencia para adolescentes del competidor.
- Cuando las cuentas de adolescentes de Instagram vieron contenido maduro, fue menos intenso que el contenido maduro visto en el competidor y en películas calificadas como 13+.
- Instagram bloqueó términos de búsqueda maduros con mayor frecuencia que su competidor.
- Las siguientes funcionalidades funcionaron según lo descrito: las cuentas de adolescentes de Instagram están configuradas por defecto en el ajuste de contenido 13+; los adolescentes no pueden seleccionar la configuración de Más Contenido sin el permiso de un padre, y los adolescentes en la configuración de Contenido Limitado no pueden ver ni publicar comentarios.
El análisis de Alice identificó dos áreas de mejora, las cuales abordamos rápidamente:
- Las cuentas de adolescentes de Instagram ya contaban con salvaguardias para evitar la interacción con cuentas que regularmente comparten contenido inapropiado para la edad. Cuando la evaluación de Alice identificó algunas excepciones, actualizamos inmediatamente nuestras señales de detección para capturarlas mejor. Como señala el informe de Alice, «estas medidas de mejora fueron reevaluadas posteriormente y se encontraron efectivas antes de la publicación».
- En los raros casos en que los investigadores de Alice encontraron contenido maduro en Instagram, este involucraba principalmente «acrobacias arriesgadas» o «desafíos virales». Tras la revisión, descubrimos que el «car surfing» —una tendencia recientemente popular— aún no estaba cubierto por nuestras políticas, a diferencia del «subway surfing», que ya estaba restringido para adolescentes. Actuamos rápidamente para actualizar nuestras políticas y restringir este contenido para adolescentes.
Nos sentimos alentados por estos resultados y continuaremos realizando pruebas de estrés rigurosas a nuestros sistemas para ayudarnos a seguir mejorando. Más detalles sobre los resultados de Alice y la metodología están disponibles aquí.
Nota: Existen muchas diferencias entre las redes sociales y las películas. No trabajamos con la MPA al actualizar nuestras configuraciones de contenido, y ellos no están calificando ningún contenido en Instagram, ni están respaldando o aprobando nuestras configuraciones de contenido de ninguna manera. Más bien, nos inspiramos en las directrices públicas de la MPA, que ya son familiares para los padres, así como en sus comentarios. Nuestros sistemas de moderación de contenido no son los mismos que una junta de clasificación de películas, por lo que la experiencia puede no ser exactamente la misma.
DnG