Онлайн

Ученые начали разработку технологии по защите от кибердомогательств: интерес к их работе уже выразили Facebook и Instagram

2019-03-17 15:59 , Наука, HiTech, 130

Ученые начали разработку технологии по защите от кибердомогательств: интерес к их работе уже выразили Facebook и Instagram

Европейские исследователи разрабатывают технологию по выявлению и предотвращению кибердомогательств (CREEP) в социальных сетях, которая поступит в продажу к концу 2019 года, сообщает сайт La Tribune.

С 2018 года команда исследователей из Германии, Франции и Италии по заданию Европейского института инноваций и технологий (EIT Digital) работает над разработкой технологии, которая позволит предотвращать кибердомогательства в социальных сетях. В проект вовлечены психологи, социологи и специалисты компьютерных технологий.

Технология состоит из системы сканирования текстов в социальных сетях с выявлением в них элементов домогательств. После сканирования так называемый «виртуальный помощник», который в виде чат-бота связывается с жертвой преследования, соответственно профилю направляет интернет-пользователя на необходимые ресурсы для обеспечения его киберзащиты.

Компьютерные инженеры Елена Кабрио и Серена Виллата из университета Лазурного берега Sophia Antipolis работают в области искусственного интеллекта и воплощают французскую ветвь этого проекта. Они работают над технологиями распознавания домогательств.

«Киберпреследование предполагает поведение, которое носит повторяющийся характер в отношении одного человека», — объясняет Елена Кабрио.

Эксперты объясняют, что разработанный ими инструмент автоматического сканирования действует в заданном периметре, выявляет концентрацию сообщений в направлении определенной цели, которые появляются в виде узлов на графике. Затем система проводит семантический анализ. Самым сложным специалисты называют второй этап, который заключается в переводе результатов смыслового анализа в цифровые данные. Массовое количество сообщений еще не значит киберпреследование. Задача исследователей — сделать так, чтобы система не ошиблась.

«Мы должны быть очень точными для того, чтобы избежать перезагрузки отчетов о киберпреследованиях», — отмечает Елена Кабрио. В то же время сверхточность может привести к тому, что система может упустить некоторые случаи кибепреследований. По этой причине экспертам предстоит найти равновесие в разработке технологий. В этом им помогают итальянские коллеги из Фонда Бруно Кесслера. Знаменитый исследовательский центр координирует проект при участии многих докторов наук в области искусственного интеллекта и социологии.

«Наша цель заключается в том, чтобы предложить завершенное приложение к концу этого года и протестировать его в реальной среде», — говорит Энрико Мария Пирас, социолог из Фонда Бруно Кесслера.

Ожидалось, что проект должен был завершиться уже в 2018 году, однако было решено его продлить еще на год и расширить способности приложения, чтобы оно могло распознавать помимо текстов еще и изображения. В конце прошлого года технологию уже протестировали в одном из колледжей Тренто, где будет проведен повторный тест, и еще один — в Ницце.

Этот инструмент в первую очередь ориентирован на подростков, которые больше всего используют Instagram или Twitter.

«Нам необходимо адаптировать наше программное обеспечение так, чтобы оно было совместимо с политикой данных цифровых платформ», — говорит Елена Кабрио, когда ее спрашивают о возможности применения программы в большой социальной сети. Интерес к работе исследователей уже выразили Facebook и Instagram.

В последние годы проблемой кибердомогательства, с которой сталкиваются многие пользователи социальных сетей, серьезно занимаются не только исследователи, но и разработчики приложений. 23-летний Шарль Коэн, который уже десять лет интересуется программированием, два года назад запустил приложение под названием Bodyguard, у которого уже более 20 000 подписчиков, сообщает журнал Paris Match. Оно работает в три этапа: анализирует слова и контекст, отношения между людьми, которые обмениваются сообщениями, а на третьем этапе уже непосредственно разработчик занимается их сортировкой.

Пользователи этого приложения отмечают, что оно позволяет автоматически удалять сообщения, которые содержат оскорбления и насилие. На данный момент Bodyguard действует в YouTube. Разработчик намерен запустить приложение также в Twitter и Instagram.

Источник – RFI.

Лента

Рекомендуем посмотреть