Facebook * запустит ИИ-систему прогнозирования самоубийств по всему миру

Facebook * собирается использовать программное обеспечение для обнаружения пользователей с суицидальными наклонностями по всему миру. В марте компания начала тестировать систему в США, сканируя публикации и комментарии на наличие фраз, которые могли бы указывать на самоубийство.

Компания не раскрыла почти никаких технических подробностей программы. Тем не менее, известно, что система ищет определённые фразы, которые могут указывать на суицид даже косвенно — например, «Ты в порядке?» или «Я могу помочь?».

Если ИИ находит признаки потенциального самоубийства, то предупреждает команду специальных сотрудников Facebook * , которые эти отчёты обрабатывают. В то же время, программа советует пользователям под угрозой или их друзьям ресурсы вроде телефонных линий экстренной помощи. Иногда работники социальной сети могут просить вмешаться местные органы власти.

Вице-президент Facebook * по управлению продуктами Гай Роузен (Guy Rosen) рассказал, что тесты в США оказались успешны, поэтому компания решила запустить систему и в других странах. Она планирует нанять людей, которые при необходимости в любое время могли бы звонить властям и разговаривать с их представителями на их родном языке.

Роузен не уточнил, в каких странах Facebook * запустит программу, но заверил, что в конечном итоге она будет действовать во всём мире. Исключение — Евросоюз с его особыми законами, которые Роузен отказался обсуждать.

Facebook * много чего знает о своих 2,1 млрд пользователей — эти данные она использует для таргетированной рекламы. Тем не менее, раньше компания не сканировала переписки на наличие признаков вредоносного поведения.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Instagram * удалил сотни ссылок на «группы смерти»

Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) сообщает о том, что администрация Instagram * удалила несколько сотен ссылок, имеющих отношение к деятельности так называемых «групп смерти».

Первый всплеск активности «групп смерти» произошёл в январе этого года. По обращению РОЦИТ в начале февраля администрация «ВКонтакте» заблокировала и удалила теги опасных групп, но после этого они переместились в Instagram * .

Проблема носит весьма серьёзный характер. Пользователей-подростков вовлекают в сетевую «игру» с помощью тематических хештегов (например, «#ищукуратора», «#синийкит», «#морекитов» и др.). Далее им предлагается выполнить ряд специфических заданий, которые могут быть связаны с нанесением физического вреда самому себе, и психологически подготовиться к совершению самоубийства. Общение при этом переводится в сферу личных коммуникаций.

Сообщается, что администрация Instagram * удалила 321 ссылку, связанную с «группами смерти». В соцсети Facebook * , купившей Instagram * в 2012 году, заявили следующее: «Сообщения о нарушениях, имеющих отношение к суициду и членовредительству, находятся в приоритете у наших команд в Instagram * и Facebook * . Мы рассматриваем данные сообщения в порядке чрезвычайной срочности и безотлагательно удаляем весь противоправный контент».

Ежедневно специалистами Роскомнадзора, администраторами популярных интернет-площадок и активистами общественных организаций выявляются и блокируются более 150 сообществ, посвящённых самоубийствам. Скорость реакции на российских ресурсах составляет 1–3 часа. Информация с зарубежных ресурсов, как правило, удаляется в течение суток.

Инструменты для предотвращения самоубийств появились в Facebook * Live и Facebook * Messenger

В опубликованном недавно манифесте генеральный директор Facebook * Марк Цукерберг (Mark Zuckerberg) написал о том, что компания находится в том положении, которое предоставляет большие возможности для предотвращения нанесения людьми вреда самим себе. Согласно данным Всемирной организации здравоохранения, на нашей планете людьми в возрасте от 15 до 29 лет совершается одна попытка суицида каждые 40 секунд. Самоубийство является второй ведущей причиной смертности.

Именно поэтому Facebook * представила новые инструменты для оказания поддержки людям, склонным к суициду, а также ресурсы для тех, кто может заметить тревожные признаки во время общения с такими людьми через мессенджер компании или просмотра их прямых трансляций. Ранее пользователи социальной сети могли сообщать только о тревожных публикациях в Facebook * .

Пользователь, заметивший склонность к суициду человека, который ведёт трансляцию через социальную сеть, теперь сможет с ним связаться, а заодно сообщить об этом видео самой компании. Facebook * , в свою очередь, уже обеспечит человека, нуждающегося в помощи, необходимыми ресурсами. В список таких ресурсов входят связь с другом, звонок по телефону доверия и советы касательно того, как справляться с такими побуждениями.

Facebook * при этом не останавливает сами трансляции, поскольку, как рассказала исследователь компании Дженнифер Гуадагно (Jennifer Guadagno) сайту TechCrunch, если сделать это слишком рано, то можно вовсе лишиться возможности помочь человеку.

Новые инструменты по предотвращению случаев суицида были представлены в сотрудничестве с такими американскими организациями, как Кризисная текстовая линия, Национальная ассоциация по расстройствам пищевого поведения и Национальная горячая линия по предотвращению суицидов. С ними пользователи могут связываться напрямую через Facebook * Messenger.

Facebook * также использует искусственный интеллект и систему распознавания моделей поведения для поиска тревожных публикаций. В будущем, возможно, эти же технологии компания начнёт использовать и для обнаружения склонных к самоубийству пользователей в Facebook * Live и Facebook * Messenger.

Instagram * будет оказывать психологическую поддержку склонным к суициду пользователям

Социально ориентированные интернет-сервисы являются простым и удобным способом поделиться сокровенными мыслями даже с незнакомыми людьми. При этом зачастую многие используют те же социальные сети, чтобы рассказать об отчаянии или депрессии, подталкивающих к совершению необдуманных поступков. Чтобы своевременно зафиксировать резкую смену настроения у пользователей Instagram * , фотосервис обзаведётся персональным инструментом, который сможет уведомлять о подозрительных сообщениях на суицидальную тематику.

Активировать «тревожную кнопку» сможет любой пользователь, увидевший в тексте намёки на желание причинить вред самому себе. После за дело возьмётся уже администрация Instagram * , от лица которой автору записи будет сгенерировано послание со следующим текстом:

«Кто-то прочитал оставленную вами запись и считает, что вы переживаете сложный период времени. Если вам нужна поддержка, мы хотели бы вам её предоставить».

Администрация Instagram * , разумеется, не собирается напрямую оказывать психологическую помощь своим пользователям. Вместо этого авторам подозрительных сообщений будет предложено воспользоваться специализированными сайтами и обратиться по указанным номерам горячей линии, операторы которой окажут квалифицированную помощь.

«Данный инструмент разработан для того, чтобы вы всегда помнили: вас окружает небезразличное виртуальное сообщество, готовое прийти на помощь тогда, когда вы больше всего нуждаетесь в поддержке», — объяснила цель озвученной инициативы исполнительный директор Instagram * Марна Левин (Marne Levine).

Инструменты Facebook * по предотвращению суицидов стали доступны всем пользователям

Социальная сеть Facebook * обновила свои инструменты по предотвращению суицидов — теперь они доступны пользователям по всему миру. Ранее этими инструментами, позволяющие людям помечать тревожные публикации друзей, могли пользоваться только англоязычные члены социальной сети. Остальные могли сообщить о публикации подозрительного содержания через специальную форму, однако новые инструменты значительно упрощают и ускоряют процесс.

Facebook * заявила, что теперь ресурсы для предотвращения самоубийств будут доступны на всех языках, поддерживаемых социальной сетью. Эти инструменты были разработаны совместно с рядом психиатрических организаций и с помощью людей, имеющих личный опыт в попытках расстаться с жизнью. Впервые эти инструменты стали доступны некоторым пользователям из США в прошлом году.

Вскоре пользователи Facebook * по всему миру смогут помечать публикации друзей через выпадающее меню, если они вдруг заметят в поведении человека что-то подозрительное. При этом у пользователя будет несколько вариантов выбора: например, можно будет анонимно поделиться списком номеров организаций по предотвращению суицидов или отправить сообщение поддержки. Также подозрительная публикация может быть просмотрена специальной командой Facebook * , после чего она самостоятельно свяжется с находящимся в опасности человеком и предложит информацию, которая может быть ему полезна.

Такие инструменты могут помочь спасти немало жизней — или, как минимум, рассказать миру о растущей угрозе. В США за последние три десятка лет количество самоубийств выросло до критической отметки: тенденция прослеживается у мужчин всех возрастов и женщин от 45 до 64 лет.

Веб-страницы «зацеперов» и «руферов» предлагается блокировать в досудебном порядке

МВД выступает с предложением наделить Роскомнадзор полномочиями для досудебной блокировки сайтов, групп и аккаунтов в социальных сетях, где размещаются видеоролики «зацеперов», «руферов» и прочих нарушителей правил поведения на железнодорожном транспорте.

Речь, как сообщает сетевое издание «РИА Новости», идёт о веб-страницах, на которых публикуются «подвиги» экстремалов, проделывающих всевозможные трюки на общественном транспорте. Это могут быть сайты с обсуждением предстоящих акций и отчётами об уже проделанных хулиганствах.

По статистике, число случаев травмирования и гибели детей, вовлечённых в рискованные выходки на объектах транспорта, постоянно растёт. Так, в 2011 году из-за подобного поведения погибли два подростка, а за четыре месяца нынешнего года — уже восемь.

Большой рост несчастных случаев, как говорят в МВД, обусловлен во многом героизацией и популяризацией таких хулиганов в Интернете, куда они выкладывают записи своих похождений и активно консультируют других подростков, провоцируя их на аналогичные действия.

Поэтому, считает ведомство, веб-ресурсы с описанием деяний «зацеперов» и «руферов» необходимо признать пропагандирующими суицидальное поведение и дать полномочия Роскомнадзору блокировать их в досудебном порядке.

Роскомнадзор заблокировал восемь групп «ВКонтакте», пропагандировавших суицид

В Роскомнадзор поступила информация о 11 приватных группах, пропагандирующих суицид. В настоящий момент 8 страниц заблокировано, а 3 находятся на анализе в Роспотребнадзоре, сообщается на официальной странице ведомства в социальной сети Facebook * . По последним данным, запрещённая информация на них была удалена администраторами самостоятельно.

В Роскомнадзоре отмечают, что пользователями и журналистами также были идентифицированы администраторы нескольких крупных сообществ, которые «намеренно подталкивали подписчиков к суицидальному поведению».

Глава Роскомнадзора Александр Жаров

«Поскольку Роскомнадзор не обладает функцией оперативно-розыскной деятельности, материалы были переданы в управление «К» МВД России. Уверен, что совместная работа пользователей, администрации соцсетей, Роскомнадзора и компетентных органов даст положительный результат. Такие люди должны быть выявлены и наказаны», — прокомментировал глава ведомства Александр Жаров.

Напомним, 16 мая «Новая газета» опубликовала материал о сети приватных групп во «ВКонтакте», где неизвестные склоняют детей к самоубийству. По данным издания, за полгода — с ноября 2015-го по апрель 2016-го — с собой покончили порядка 130 несовершеннолетних пользователей, которые состояли в этих группах. Роскомнадзор обязался проверить информацию, изложенную в расследовании «Новой газеты», и принять все необходимые меры, направленные на пресечение деятельности подобных групп.

Роскомнадзор разберётся с группами «ВКонтакте», склоняющими детей к суициду

Роскомнадзор проверит информацию, изложенную в расследовании «Новой газеты», в котором косвенным образом оказалась замешана крупнейшая российская социальная сеть «ВКонтакте». Корреспонденты издания утверждают, что установили пугающую закономерность: десятки школьников, покончивших с собой в течение последнего полугода, состояли в одних и тех же группах в соцсети.

Соответствующий материал был подготовлен обозревателем «Новой газеты» Галиной Мурсалиевой и вышел в свет 16 мая. Журналистка вместе с родственниками ушедших из жизни школьников путём суицида обнаружила сеть приватных групп во «ВКонтакте», где неизвестные склоняют детей к самоубийству. По данным «Новой газете», за полгода — с ноября 2015-го по апрель 2016-го — порядка 130 несовершеннолетних пользователей, состоявших в этих группах, свели счёты с жизнью.

Официальный представитель Роскомнадзора Вадим Ампелонский в интервью РБК рассказал, что эксперты ведомства ещё до публикации материала провели встречу с главным редактором «Новой газеты» Дмитрием Муратовым. Сейчас полученные от него данные находятся на изучении в Роскомнадзоре и Роспотребнадзоре, в прямые обязанности которого, в частности, входит борьба с пропагандой суицида среди несовершеннолетних в Интернете по федеральному закону «О защите детей от информации, причиняющей вред их здоровью и развитию».

Как пояснил Ампелонский, уже в ближайшие дни в реестр заблокированных по закону «О защите детей. » сайтов будут внесены URL всех предоставленных сообществ, где подтвердится наличие незаконной информации, без права на обжалование. Спикер ведомства также с сожалением признал, что не всегда удаётся привлечь к ответственности создателей подобных групп, поскольку правоохранительным органам зачастую бывает объективно сложно и установить личность создателей того или иного сообщества, и доказать их причастность к конкретным преступлениям.

«ВКонтакте» по просьбе Роспотребнадзора будет блокировать суицидальные паблики самостоятельно, параллельно с подготовкой официальных заключений экспертов, и размещать на закрытых страницах номера телефонов экстренной психологической помощи для подростков. Об этом «Интерфаксу» сообщили в пресс-службе ведомства.

Facebook * поборется с самоубийствами

Социальная сеть Facebook * с первых дней основания видела себя как нечто большее, чем просто инструмент для зарабатывания денег. Отсюда заявления о миссии компании — соединить всех людей в мире и раздача бесплатного Интернета. Теперь социальная сеть вовлечена в очередной амбициозный проект — попытку снизить количество самоубийств.

Facebook * , совместно с группой некоммерческих организаций, представила набор инструментов, направленный на предотвращение самоубийств. Теперь друзья пользователя, подозреваемого в суицидальных наклонностях, смогут сделать специальную отметку в его статусе, уведомив таким образом администрацию сети. Специальная команда экспертов рассмотрит подобные статусы, после чего предложит пользователю помощь. Ему будет отправлено сообщение со словами поддержки и несколько вариантов действий, среди которых: контакт с друзьями, советы профессионалов и телефон службы психологической помощи. Администрация социальной сети также свяжется с пользователем, поднявшим тревогу. Ему тоже будут предложены советы о том, как действовать в подобной ситуации.

Новый подход должен сменить существующую систему профилактики суицидов в Facebook * . Она была запущена в 2011 году и отличалась излишней сложностью. Пока что нововведения будут доступны только жителям США.

В компании напоминают, что предложенная система ни в коем случае не является заменой службам экстренной помощи.

📎📎📎📎📎📎📎📎📎📎