Социальная сеть Facebook разработала алгоритмы, которые обнаруживают сообщение с суицидальным содержанием.
Сервис начал использовать искусственный интеллект для определения пользователей, которые могут находиться в зоне риска самоубийства.
Алгоритмы Facebook проявляют признаки до самоубийства в постах пользователей и комментариях их друзей. Например, такие посты могут содержать описание боли, страданий или предопределения. Среди комментариев друзей алгоритм определяет слова обеспокоенности и вопросы о том, все ли с другом в порядке. Если команда работников Facebook подтвердила сделанное программой предположения, компания выходит на связь с пользователем и предлагает помощь.
Пока что алгоритм работает только для США. Перед тем, как распространять программу на другие страны, Facebook планирует заручиться поддержкой организаций здравоохранения и организаций, занимающихся психологической поддержкой людей.
В будущем социальная сеть предусматривает расширение сфер применения программы на обнаружение постов от террористов.
