¡Se acabaron las peleas en grupos! Facebook agregara moderadora con AI
¡Se acabaron las peleas en grupos! Facebook añadirá moderadora con AI, La aplicación busca que los administradores en grupos puedan tener un mayor control de las conversaciones y discusiones dentro de la red social.
Los conflictos en redes sociales son recurrentes, en el caso de Facebook nunca falta quien opte por subir el tono de la conversación dentro de diferentes grupos, por lo que ahora la aplicación estaría por utilizar inteligencia artificial para buscar mantener el orden, detectando las peleas para que los administradores puedan intervenir y lanzar una cubetada de agua.
La intención de esta nueva serie de herramienta no es otra más que ayudar a los más de 70 millones de personas que dirigen y moderan grupos en la plataforma, pues de acuerdo con Facebook, de sus 2.850 millones de usuarios mensuales, más de 1.800 millones participan en alguno de las decenas de millones de grupos activos cada mes.
La AI decidirá cuando deberá enviar a los administradores lo que la empresa determina como “alertas de conflicto”, ya sea porque se considere “polémica” o “insalubre”, lo que sin duda podrá filtrar el contenido que los usuarios pueden ver, así como limpiar a comunidad en las redes sociales que se volvieron masivas a tal grado que un contado grupo de administradores no pueden controlarlo.
Los errores dentro de la tecnología
A pesar de que desde hace algún tiempo se hace uso de la AI dentro de la aplicación, esta puede fallar al no entrenarse de forma correcta, pues solo comprende lo que ve, pero no entiende el contexto ni la sutileza del asunto, por lo que en muchas ocasiones llegan a sancionar a los usuarios por hacer uso de determinados términos que para la AI incitan al odio.
Y es que desde hace varios años, las redes sociales comenzaron a buscar regular los contenidos que se comparten dentro de sus plataformas, por lo que Facebook y Twitter hacen que la inteligencia artificial sea clave para determinar que se está viendo en línea, para detectar y eliminar el discurso de odio en sus timelines.
Por desgracia, no hay una solución realmente fácil para Facebook y sus rivales. De acuerdo con UNIA, todavía hay mucha dependencia de la tarea de los mismos usuarios para reportar contenidos de odio. El Consejo Europeo, también hay mucho debate en lo que significa con exactitud el hate speech, algo crucial para poder aplicar las reglas de forma justa y eficaz. Y según STOMP Out Bullying, la única, mejor solución, es usar un discurso que lo contraataque.
Cómo funcionará AI
De acuerdo con un portavoz de Facebook, la AI enviará las señales de la conversación para determinar cuándo enviar una alerta, tales como los tiempos de respuesta a los comentarios y el volumen de comentarios en una publicación, además de que algunos administradores ya tienen configuradas alertas de palabras clave que pueden detectar temas que también pueden dar lugar a discusiones.
Al recibir la alerta, el administrador podrá tomar acciones que, según Facebook, tienen como objetivo ralentizar las conversaciones, con la esperanza de calmar a los usuarios, ya sea limitando la frecuencia con las que algunos miembros del grupo pueden publicar comentarios y determinar la rapidez con la que se pueden hacer comentarios en publicaciones individuales.
Para llegar a esto se utilizaron capturas de pantalla de un argumento simulado de Facebook en un grupo llamado “Otros cachorros de la gente”, donde un usuario responde a la publicación de otro escribiendo: “Cállate, eres tan tonto. Detente hablando de ALIMENTOS ORGÁNICOS idiota !!! ” “¡IDIOTAS!” responde otro usuario en el ejemplo. “¡Si estas tonterías siguen sucediendo, me voy del grupo!”
En esta situación la conversación aparece en una pantalla con las palabras “Alertas de moderación” en la parte superior, debajo de las cuales aparecen varias palabras en letra negra dentro de burbujas grises. A la derecha, la palabra “Conflicto” aparece en azul, en una burbuja azul.
Además, se adjuntará algunos tips para responder a una conversación acalorada sobre el tema, además de poder limitar a un miembro a publicar conforme así se decida dentro de las publicaciones grupales para el Día siguiente.
Facebook anuncia nuevas herramientas para apoyar a creadores de comunidades
La compañía anunció nuevas herramientas para empoderar y ayudar a los líderes de comunidad, una parte importante de la plataforma. En Argentina, más de 30 millones de personas son miembros activos de Grupos de la red social.
Este miércoles, Facebook anunció una serie de herramientas para empoderar a los creadores de comunidades, basadas en los comentarios recibidos por parte de administradores de Grupos en Facebook.
Hay más de 70 millones de administradores y moderadores activos que dirigen Grupos de Facebook en todo el mundo, y "lo que hacen cada día es esencial" para la misión de la red social, de crear comunidad y hacer del mundo un lugar más conectado.
De hecho, hace cuatro años, la compañía tuvo su primera Facebook Communities Summit en Chicago, donde anunció esta nueva misión de la empresa ante cientos de administradores de Grupos, y compartió nuevas funciones para impulsar sus comunidades en Facebook.
- Página de inicio para administradores: un lugar para gestionar tu comunidad
La Página de inicio para administradores es un destino más sencillo e intuitivo donde se encuentran todas las herramientas, configuraciones y funciones que los administradores pueden adaptar de acuerdo a sus necesidades. Con esta nueva experiencia, ahora pueden:
- Ver rápidamente lo que requiere atención en cuanto a publicaciones, miembros y comentarios reportados.
- Encontrar las herramientas clave que están buscando gracias a un diseño más claro y reorganizado que muestra lo que está disponible en cada categoría.
- Acceder a las nuevas funciones que se implementen en el futuro.
- Nuevas herramientas para ayudar a moderar conversaciones y posibles conflicto
Mantener a los Grupos de Facebook seguros es una prioridad, y los administradores desempeñan un papel clave para ayudar a mantener una cultura segura y saludable dentro de sus comunidades. Facebook implementó la moderación de comentarios en el asistente administrativo, lo que les permite establecer criterios para moderar automáticamente tanto las publicaciones como los comentarios. Con esta función, que ya está disponible en computadoras y celulares, los administradores pueden:
- Restringir a las personas que no cumplen los requisitos para participar, por ejemplo el tiempo que tiene la cuenta de Facebook o cuanto tiempo llevan siendo miembros del Grupo.
- Rechazar publicaciones y comentarios con enlaces específicos y dar retroalimentación a los autores para que editen y envíen de nuevo para revisión. Esto permite reducir el contenido promocional.
- Utilizar los criterios sugeridos por Facebook para evitar spam en el Grupo, mantener conversaciones positivas y resolver conflictos dentro de éste. Los administradores pueden explorar, agregar y editar esos criterios para satisfacer las necesidades de su Grupo. También tienen la opción de deshacer acciones específicas del asistente administrativo, o de cambiar y perfeccionar los criterios a lo largo del tiempo.
Facebook también está probando un nuevo tipo de alerta de moderación llamado Alertas de moderación. Ésta utiliza inteligencia artificial para detectar y notificar a los administradores en dónde puede haber conversaciones conflictivas o perjudiciales dentro del Grupo, con el fin de que tomen las medidas necesarias.
Cuando sea conveniente, los administradores pueden reducir el ritmo de una conversación. Por ejemplo, pueden limitar temporalmente la frecuencia con la que determinados miembros del Grupo comentan, y controlar la frecuencia con la que se pueden hacer comentarios en determinadas publicaciones que ellos seleccionen.
- Nuevas formas para que los creadores de comunidades fortalezcan la cultura comunitaria
Para los administradores, es importante poder definir, dar forma y consolidar la cultura de una comunidad. Conocer quiénes son sus miembros, así como establecer reglas y normas claras para que la comunidad las siga, es el elemento principal para lograrlo.
La red social lanzó una nueva opción, resumen del miembro, para que los administradores puedan ver un resumen consolidado de la actividad de cada miembro del grupo, como el número de veces que publicaron y comentaron, o cuando se eliminaron publicaciones o se silenciaron en el grupo.
Los administradores ahora pueden apelar las infracciones por el contenido que ellos u otros administradores hayan publicado o aprobado, así como el contenido de los miembros. Facebook revisará estas apelaciones para asegurarse de que se haya tomado la decisión correcta.
Con el fin de que resulte más sencillo compartir y aplicar las normas en los grupos, los administradores y moderadores ahora pueden etiquetar las reglas del grupo en los comentarios y publicaciones. Los miembros también pueden etiquetar reglas de grupo específicas cuando reporten publicaciones y comentarios a los administradores, lo que ayuda a hacer que la moderación de la comunidad sea más sencilla.
En los últimos meses, Facebook también introdujo varias actualizaciones de sus herramientas de administración basandose en los comentarios específicos que recibie de la comunidad de administradores. Esto incluye funciones como fijar comentarios, notificaciones de anuncios de los administradores y más opciones que se pueden consultar en el blog de la comunidad.
