Противодействие противоправному контенту

Структура Роскомнадзора выделила 57,7 млн руб. на разработку системы «Окулус». Она будет находить в переписках, фотографиях и видео противоправный контент. Опрошенные Право.ru эксперты считают, что результаты работы искусственного интеллекта все равно будет проверять человек, и отмечают возможность ложных срабатываний системы.

Как сообщает «Коммерсант», компания «Эксикьюшн Эр Ди Си» (Execution RDS) получит от «Главного радиочастотного центра» (ФГУП ГРЧЦ, структура Роскомнадзора) 57,7 млн руб. на разработку системы поиска запрещенного контента «Окулус». Информация об этом размещена на сайте госзакупок.

Компании нужно сделать систему к 12 декабря 2022 года. «Окулус» будет искать на изображениях и кадрах видеоматериалов в сети противоправный контент. Речь идет о символике, водяных знаках, сценах, композициях, образах, лицах, статике и динамике движений. Согласно техническому заданию, система также должна будет распознавать текстовую информацию, включая расшифровку QR-кодов, переписки в чатах и каналах мессенджеров, URL-адреса, субтитры. Далее результат будет передаваться во внешнюю систему для выявления признаков нарушений.

Как следует из технического задания, в список контента, который должен находить «Окулус», входят:

материалы с признаками экстремизма и терроризма;
призывы к массовым незаконным мероприятиям;
выражения явного неуважения к обществу, государству и официальным символам РФ;
информация о способах совершения самоубийства и методах изготовления наркотиков;
пропаганда нетрадиционных сексуальных отношений среди несовершеннолетних;
демонстрация табачной продукции.

Предполагается, что мощность «Окулуса» должна составить 200 000 изображений в сутки, а время на анализ одного изображения — не более трех секунд.

Мнение юристов

По мнению партнера, руководителя практики IP/ IT Maxima Legal Максима Али, не стоит оценивать создание «Окулуса» как шаг, который перевернет правила игры в интернете. «Судя по всему, «Окулус» будет лишь помощником в поиске запрещенного контента. В конечном счете речь не идет об искусственном интеллекте-цензоре. Решение останется за государственным органом, а его всегда будет проверять и подписывать человек», — указывает он.

Партнер, глава IP практики BIRCH LEGAL (ранее Eversheds Sutherland) Екатерина Тиллинг тоже считает, что результаты работы искусственного интеллекта все равно будет анализировать человек. «Вопрос в объемах проверяемой информации и в том, каким образом и с какой тщательностью будут проводить эту проверку. Не приведет ли работа системы к ситуации, когда на основе ошибочно полученных данных сделают некорректные выводы о наличии или отсутствии преступления», — обращает внимание эксперт.

Возможные проблемы

Али считает, что, даже если нейросеть станет выявлять противоправный контент, велика вероятность ее ложных срабатываний. «Например, запрещенной считается информация о способах ухода от ответственности за незаконный оборот наркотиков. Как эта информация будет опознаваться программой и разграничиваться нейросетью с судебными актами, Википедией или диссертациями по праву?» — обращает внимание эксперт.

Тиллинг, в свою очередь, указывает на вопрос о защите прав и свобод, гарантированных Конституцией. Согласно ст. 23 документа, каждый имеет право на тайну переписки, телефонных переговоров, почтовых, телеграфных и иных сообщений. Ограничение этого права допускается только на основании судебного решения. «В какой мере новая система будет реализовывать свой функционал и при этом не допускать нарушения этих принципов, сложно сказать», — добавляет юрист.

Дарья Смирнова, Право.ру