Si la IA detecta señales de riesgo —incluso indirectas—, la conversación pasará por revisión humana antes de que se envíe cualquier alerta. (Meta)
La medida se suma a las notificaciones que la plataforma ya enviaba a los padres supervisores cuando un adolescente buscaba repetidamente términos relacionados con atentar en contra de su vida en Instagram en un período corto de tiempo.
En paralelo, Meta trabaja en la capacidad de contactar a los servicios de emergencia cuando una conversación, de un adulto o un adolescente, con Meta AI sugiera riesgo inminente de atenta en contra de su vida.
La función amplía lo que la empresa ya hace en Facebook e Instagram: cuando detecta una publicación con riesgo creíble de atentar en contra de su vida, alerta a las autoridades. El año pasado realizó más de 19.000 derivaciones en todo el mundo para que los servicios de emergencia hicieran controles de bienestar.
Meta desarrolló un sistema de IA dedicado a identificar este tipo de conversaciones de riesgo. (Meta)
Para afinar las respuestas de Meta AI ante este tipo de conversaciones, la compañía recopiló retroalimentación de más de 75 profesionales de salud mental, todos especializados en adolescentes, que revisaron cientos de interacciones y evaluaron si las respuestas eran apropiadas para esa franja de edad.
Las Cuentas para Adolescentes se ubican automáticamente en una configuración de contenido para mayores de 13 años que también aplica a las conversaciones con Meta AI: en ese modo, el asistente está entrenado para no mantener conversaciones sexuales o románticas con menores ni facilitar recetas de bebidas alcohólicas, entre otras restricciones.
Ahora, la configuración de Contenido Limitado, una opción más restrictiva para padres que prefieren mayor control sobre la experiencia de sus hijos en Instagram, se extenderá también a las interacciones con Meta AI.
Las Cuentas para Adolescentes quedan automáticamente en una configuración de contenido para mayores de 13 años, incluidas las charlas con Meta AI. (Meta)
Cuando los padres activen esa opción, el asistente rechazará responder a un rango más amplio de consultas, lo que reduce la posibilidad de conversaciones potencialmente inapropiadas.
Si ves que alguien publica contenido alarmante de salud mental actúa de inmediato: contacta a los servicios de emergencia de tu zona si el peligro es inminente.
Luego, comunícate directamente con esa persona o avisa a alguien cercano que pueda hacerlo. Es fundamental que sepa que no está sola y que puede contar con apoyo real.
Si los padres activan esa opción, el asistente rechazará un rango más amplio de consultas. (Meta)
También puedes reportar la publicación. Una vez lo hagas, el equipo capacitado de Meta revisará el caso, ocultará el contenido y le enviará a tu amigo una notificación con recursos de apoyo y líneas de ayuda.
En Estados Unidos, existe la Red Nacional de Prevención del Suicidio para pedir ayuda. Puedes llamar al 1-888-628-9454 o al 1-800-273-8255, donde recibirás apoyo gratuito y confidencial las 24 horas del día, los siete días de la semana. Los CDC también recomiendan sus propias políticas, programas y prácticas de prevención.
En Argentina, el Centro de Asistencia al Suicida ofrece orientación y apoyo. Cuenta con una línea de prevención del suicidio disponible en el 135 (línea gratuita), (011) 5275-1135 y 0800 345 1435 para llamadas desde todo el país.
En México, quienes buscan ayuda o asistencia pueden comunicarse con la Línea de la Vida al 800-911-2000, un servicio gratuito disponible las 24 horas del día, los siete días de la semana.
En Colombia, la Línea de la Vida brinda apoyo emocional a personas que enfrentan una crisis suicida o angustia. En Bogotá, está disponible a través de la línea 106 o por WhatsApp al 300 754 8933. En Barranquilla, el número es 339 99 99; en Medellín, la Línea Amiga atiende en el 444 44 48; y en Cali, la atención también se ofrece mediante la línea 106.
En Perú, el Ministerio de Salud (Minsa) ofrece apoyo emocional a través de la Línea 113 Salud, disponible a nivel nacional por teléfono, WhatsApp o Telegram en los números 955 557 000 y 952 842 623.
En España, el Ministerio de Sanidad dispone de la Línea 024, especializada en la atención a la conducta suicida.
