Эксперт МИФИ оценил использование ИИ для цензуры

Игра Roblox начала цензурировать сообщения в чате с помощью ИИ. Чат игровой платформы будет сканироваться с помощью искусственного интеллекта, который удалит нецензурную лексику и видоизменит сообщения так, чтобы они были более подходящими под требования платформы.

На сайте радиостанции Business FM » старший преподаватель кафедры «Кибернетика» НИЯУ МИФИ Роман Душкин прокомментировал эту новость, отметив, что цензура рано или поздно появится везде, но то, как это реализовал Roblox, вызывает вопросы, указывает генеральный директор «А-Я эксперт

 «Сейчас очень большое количество разработчиков столкнется с тем, что регулятор постепенно подтягивается к технологиям. Рано или поздно премодерация контента будет везде. Но не в таком виде, что ИИ-агенты, которые встроены внутри Roblox, будут что-то заменять. Вот это опасная, скользкая тема. На каком основании он будет заменять слова? А вдруг пользователь сказал одно, ИИ-агент заменит по своему разумению, получится совершенно противоположный смысл. Потом докажи, что это пользователь сделал или агент, у кого какое намерение было. Это классическая дилемма — казнить нельзя помиловать. Кто поставил запятую: ИИ-агент или сам пользователь?», - сказал Роман Душкин.

Эксперты напоминают, что уже сейчас в соцсетях в том или ином виде есть премодерация контента. Например, в том же TikTok видео, которые публикуют пользователи, сначала отсматривают модераторы и алгоритмы на основе ИИ.