La empresa tecnológica Meta activó una nueva función que alertará a los padres si sus hijos de entre trece y diecisiete años presentan signos de angustia psicológica. El sistema operará a través de las conversaciones que los adolescentes mantengan con el asistente inteligente Meta AI. Las notificaciones de seguridad ya se encuentran disponibles en Estados Unidos, Reino Unido, Australia y Canadá. La corporación tiene previsto expandir el software a nivel internacional antes de finalizar el presente año.
El novedoso mecanismo de detección se diseñó en colaboración con reconocidos especialistas en salud mental. Cuando el algoritmo registra señales de riesgo, incluso referencias indirectas, el chat se somete a una rigurosa revisión manual. Un equipo de analistas humanos evalúa el contexto de la interacción antes de emitir la advertencia correspondiente. En casos de sospecha ambigua, la compañía optará por enviar la notificación de igual manera.
Además de las advertencias familiares, la compañía de Mark Zuckerberg trabaja en canales de comunicación directa con servicios de emergencias locales. Esta opción se activará cuando las interacciones con Meta AI sugieran un peligro inminente y real para el usuario. Durante el último período anual, la corporación realizó más de diecinueve mil derivaciones a las autoridades globales. Las intervenciones se ejecutaron para garantizar el bienestar de los jóvenes vulnerables.
Para optimizar las respuestas del sistema computacional, se recopiló la retroalimentación de setenta y cinco profesionales médicos. Los psicólogos clínicos revisaron cientos de conversaciones simuladas para garantizar respuestas adecuadas a la edad. Estas medidas complementan los avisos previos que ya recibían los adultos tutores cuando se realizaban búsquedas reiteradas de términos de riesgo. El objetivo principal es ofrecer un soporte emocional oportuno y seguro.
La plataforma también extendió el filtro de configuración de contenido limitado a las conversaciones del asistente conversacional. Con esta modalidad restrictiva, el programa tiene prohibido mantener diálogos de índole romántica o sexual con menores de edad. Asimismo, el chatbot rechazará responder consultas inapropiadas o facilitar recetas de bebidas alcohólicas a adolescentes. Los tutores podrán ajustar estas limitaciones desde el panel de control de la aplicación.
En caso de que un usuario detecte contenido alarmante publicado por un tercero, Meta aconseja dar aviso inmediato a los familiares o allegados. De igual forma, las publicaciones de riesgo pueden reportarse de manera confidencial dentro de la propia red social. Tras la denuncia, los moderadores de la plataforma ocultarán el archivo y enviarán guías de ayuda al afectado. La oportuna intervención ciudadana representa una herramienta clave para salvar vidas.
La iniciativa corporativa busca disminuir los índices de trastornos emocionales e incentivar el uso responsable de las tecnologías digitales. Los países donde ya opera la función disponen de líneas telefónicas gubernamentales gratuitas de asistencia psicológica las veinticuatro horas. Meta ratificó que continuará invirtiendo recursos en el desarrollo de parches de seguridad para reforzar la protección de la infancia en entornos virtuales.
(Con información de Infobae)
