Saltar al contenido

Facebook lanza una herramienta de detección de suicidio impulsada por inteligencia artificial

20 diciembre, 2017

Facebook siempre ha ofrecido una variedad de opciones de soporte para ayudar a quienes consideran el suicidio. Ahora, la red social lanza una herramienta automatizada de Inteligencia Artificial que apunta a detectar publicaciones suicidas antes de que sean reportadas.

Confiar en los informes de personas que ven publicaciones preocupantes es solo una de las formas en que Facebook ha intentado proporcionar una red de seguridad para las personas con problemas, y al agregar inteligencia artificial a la mezcla, la compañía espera acelerar la detección y la oferta. ayuda más rápido cuando más importa.

El vicepresidente de gestión de productos de Facebook, Guy Rosen, explica:

«Durante el último mes, hemos trabajado con personal de primera respuesta en más de 100 controles de bienestar basados en informes que recibimos a través de nuestros esfuerzos de detección proactiva. Esto se suma a los informes que recibimos de personas en la comunidad de Facebook. También usamos el reconocimiento de patrones para ayuda a acelerar los informes más preocupantes. Hemos encontrado que estos informes acelerados (que hemos señalado requieren atención inmediata) se envían a las autoridades locales dos veces más rápido que otros informes. Nos comprometemos a seguir invirtiendo en tecnología de reconocimiento de patrones para mejorar servir a nuestra comunidad «.

Las nuevas herramientas de detección se están extendiendo a numerosos países después de un exitoso período de pruebas en los EE. UU. En última instancia, la alerta de suicidio de AI estará disponible en todo el mundo, además de en la UE, donde las leyes de privacidad son un poco complejas.

Rosen da un pequeño detalle sobre cómo funciona la característica:

  • Estamos comenzando a desplegar inteligencia artificial fuera de los EE. UU. Para ayudar a identificar cuándo alguien podría estar expresando pensamientos de suicidio, incluso en Facebook Live. Eventualmente estará disponible en todo el mundo, excepto en la UE.
  • Este enfoque utiliza tecnología de reconocimiento de patrones para ayudar a identificar publicaciones y transmisiones en vivo que probablemente expresen pensamientos de suicidio. Continuamos trabajando en esta tecnología para aumentar la precisión y evitar los falsos positivos antes de que nuestro equipo revise.
  • Utilizamos señales como el texto utilizado en la publicación y los comentarios (por ejemplo, comentarios como «¿Estás de acuerdo?» Y «¿Puedo ayudar?» Pueden ser indicadores fuertes). En algunos casos, hemos descubierto que la tecnología ha identificado videos que pueden no haber sido denunciados.

Todavía será posible que los usuarios preocupados de Facebook informen sobre publicaciones que les parezcan preocupantes, pero se espera que con la introducción de AI, se pueda ahorrar un tiempo precioso para ayudar a las personas.