Переписка в сети, мессенджер

Поможет ли искусственный интеллект избавить соцсети и поисковики от противоправного контента

Количество детской порнографии и околосексуального контента с несовершеннолетними в российских соцсетях и поисковых системах сократится в разы. Такова цель совместного проекта по поиску и блокировке вредоносной информации, запущенного «Яндексом», VK и «Лабораторией Касперского» в рамках Альянса по защите детей в цифровой среде. Выявленные медиафайлы попадут в специальную базу, к которой для верификации запрещенных фото и видео на своих ресурсах смогут получить доступ и другие digital-компании, рассказали в альянсе. Привлечение бизнеса к этой инициативе участники рынка считают логичным: по их мнению, с участием IT-компаний противоправный контент будет блокироваться быстрее.

Дружественная блокировка

«Яндекс», VK и «Лаборатория Касперского» (ЛК) в рамках Альянса по защите детей в цифровой среде запустили пилотный проект по выявлению и блокировке детской порнографии, а также «сексуализированного контента с участием несовершеннолетних». Об этом «Известиям» рассказал представитель альянса. По его словам, с площадок «Яндекса» и из соцсетей VK («ВКонтакте» и «Одноклассники») такие видео будут передаваться в виде цифровых отпечатков (хэшей) и ссылок — при этом все данные будут зашифрованы. Это дает возможность фильтровать разные форматы сообщений, отметили в альянсе. Для поиска компании используют как искусственный интеллект, так и ручную модерацию.

— «Лаборатория Касперского» участвует в верификации выявленного партнерами контента: компания получает уже отмеченные ранее URL с противоправными видео, верифицирует их на своей стороне и те из них, которые соответствуют маркировке, добавляет в базы для обновления продуктов в области детской онлайн-безопасности, — сказал представитель альянса.

Выявленный противоправный контент блокируется навсегда, пояснил представитель бизнес-объединения. Это первый в РФ пример, когда крупные IT-компании коллективно занялись борьбой с вредоносными и противоправными материалами, подчеркнул он.

Компании и сейчас удаляют запрещенный контент, но его становится всё больше и распространяется он всё быстрее, отмечают в альянсе. Главное преимущество единой базы — более тщательное и быстрое выявление и блокировка противоправной информации, считает его представитель.

— В базу попадает только тот контент, который компании выявляют и удаляют проактивно, то есть дополнительно к реестрам запрещенного контента, закрепленного на уровне законодательства. По результатам пилота будет рассматриваться возможность подключения к базе иных компаний, которые работают с пользовательским контентом, — пояснили в альянсе.

«Известия» направили запрос в Роскомнадзор.

Тренд на модерацию

«Ростелеком» как участник альянса считает эту инициативу полезной — она позволит агрегаторам быстрее и точнее идентифицировать противоправный контент для его блокировки, отметил представитель оператора.

— Мы ожидаем, что мера будет эффективной, поскольку опасный для несовершеннолетних противоправный контент будет выявляться и блокироваться быстрее, — подчеркнул представитель «Газпром Медиа».

VK уже давно работает над защитой пользователей от нежелательной информации на всех своих коммуникационных платформах, включая социальные сети «ВКонтакте» и «Одноклассники», уточнили в пресс-службе холдинга.

— Мы всегда оперативно реагируем на противоправные материалы. Благодаря совместным проектам и обмену лучшими практиками мы сможем достичь большего результата ради нашей общей цели — сделать пространство интернета безопаснее для детей, — отмечают в компании.

В «Мегафоне» сообщили, что активно работают над решением проблемы распространения нежелательного контента для детей и реализуют собственные проекты в рамках альянса. Например, в компании разработали специальный детский тариф «Мегафон Kids», который помогает родителям оградить ребенка от вредного видео в Сети. Сейчас под фильтр попадает около 10 тыс. сайтов, и их перечень обновляется ежедневно.

Это добровольная инициатива участников альянса — «Национальная Медиа Группа» разделяет ее, рассчитывая, что по итогам пилота появится действенный инструмент для искоренения незаконных материалов, подчеркнул представитель НМГ.

В России появился новый тренд — в помощь законодательству приходят меры саморегулирования, заметил заместитель гендиректора «Института развития интернета» Борис Едидин.

— Компании самостоятельно берут на себя ответственность за выявление и удаление противоправного контента и делают это проактивно. Совместное технологическое решение крупнейших IT-гигантов — «Яндекс», VK и «Лаборатория Касперского» в рамках альянса по защите детей в цифровой среде — яркий пример работающего процесса саморегулирования в России. Подобный опыт могут взять на вооружение и западные компании, работающие с российской аудиторией, — разъяснил эксперт.

В среднем дети проводят в интернете около шести часов в день, приводит статистику директор Регионального общественного центра интернет-технологий (РОЦИТ) Рустам Сагдатулин.

— При этом 69% родителей считают, что их дети играют и ищут информацию по учебе, в то время как сами дети не скрывают, что используют интернет для общения (72%), просмотра видео и фильмов (70%) и ленты в социальных сетях (68%). Таковы данные опроса РОЦИТ по выявлению потенциальных интернет-угроз, проводимого в ноябре 2021 года, — уточнил эксперт.

По его мнению, включение в борьбу с запрещенными медиафайлами участников отрасли, коммерческих компаний «позволит не только увеличить скорость его выявления, но и в несколько раз снизить проникновение и распространение противоправного контента».

Маловероятно, что он исчезнет полностью — в сегодняшних реалиях это не представляется возможным, отмечают в РОЦИТ. Но участие саморегулирующих компаний, к которым в перспективе могут присоединяться другие, создаст существенные трудности и для создателей, и для распространителей опасных для детей материалов, надеется Рустам Сагдатулин.

Бизнесу такое решение необходимо в первую очередь для снижения рисков санкций со стороны госорганов, которые могут ставить вопрос о блокировке доступа к ресурсу в случае нарушения российского законодательства, считает руководитель направления «Разрешение IT&IP споров» юридической фирмы «Рустам Курмаев и партнеры» Ярослав Шицле. Эффективность такой меры зависит от того, каким образом реализуется поиск незаконного контента, отметил эксперт.

Он добавил, что если речь идет о техническом решении, автоматизирующем обработку фото и видео, то такая мера должна позволить практически незамедлительно выявлять и блокировать незаконные материалы.

Валерий Кодачигов, Известия