В последнее время часто говорят, что интернет является одной из причин, которая подталкивает людей к решению покончить жизнь самоубийством. Разумеется, это происходит из-за того, что онлайн очень легко оскорблять других, скрываясь за анонимностью. Однако, Facebook намерен если не положить этому конец, то хотя бы начать менять ситуацию, прибегая к помощи искусственного интеллекта.
В настоящее время одна из крупнейших социальных сетей тестирует механизм для отслеживания постов пользователей, которые могут думать о том, чтобы нанести себе вред. Новая функция предназначена для того, чтобы быстро обнаруживать подобные публикации, прежде чем о них кто-либо сообщит.
Сервис сканирует посты и видео в реальном времени с помощью метода, называемого «распознавание образов», останавливая внимание, например, на встревоженных комментариях, которые могут указывать на суицидальные мысли пользователей.
Функция уже какое-то время работает в тестовом режиме в США и других странах, в число которых, почему-то не входит Европейский союз. Facebook никак не прокомментировал этот факт.
Кроме того, искусственный интеллект используется для приоритизации помеченных сообщений, чтобы они быстрее поступали к живым модераторам, а те могли известить об опасности местные власти и полицию.