Искусственный интеллект поможет бороться с буллингом

Компания Yahoo Japan заявила в среду, что удалит ненавистные и клеветнические комментарии со всех своих онлайн-сайтов с использованием искусственного интеллекта, активизируя усилия по борьбе с киберзапугиванием после предполагаемого самоубийства звезды реалити-шоу.

ФОТО: The Japan Times

Оператор онлайн-сервисов Yahoo усиливает мониторинг постов, содержащих ненависть, после смерти в начале этого года Ханы Кимура, участницы популярного реалити-шоу "Terrace House", которая стала объектом издевательств в социальных сетях.

Yahoo Japan опубликует список выражений, которые могут быть восприняты как вредоносные, и уточнит критерии для удаления. Сообщения, признанные ИИ вредоносными, будут автоматически удалены. Даже если пользователь, о котором известно, что он опубликовал неприемлемые сообщения, получит другой идентификатор, Yahoo Japan заблокирует его.

Чтобы обеспечить свободу выражения мнений, Yahoo Japan принимает запросы и жалобы от пользователей, чьи сообщения были удалены. Компания будет публиковать подробную информацию, включая количество удаленных сообщений, а также внутренние системы и правила, относящиеся к удалению, путем регулярного выпуска отчетов.

Yahoo Japan представила меры после получения набора рекомендаций от группы экспертов, которые обсуждали способы борьбы с клеветническими публикациями в интернете.

Смерть Кимуры, 22-летней профессиональной борцухи, в мае потрясла страну. Полиция сообщает, что она получила около 300 сообщений с угрозами и насмешками от примерно 200 аккаунтов, и полагает, что именно эти сообщения побудили ее покончить с собой. На прошлой неделе мужчина 20-ти лет из префектуры Осака был вызван в прокуратуру за размещение в социальных сетях агрессивных сообщений против Кимуры.

Как сообщало издание "Комментарии", искусственный интеллект показал свою надежность в качестве второго пилота.