В четверг Meta объявила, что начинает внедрять более совершенные системы искусственного интеллекта для обеспечения соблюдения требований к контенту, поскольку планирует сократить количество сторонних поставщиков. Задачи, связанные с контролем за контентом, включают выявление и удаление контента о терроризме, эксплуатации детей, наркотиках, мошенничестве и мошенничестве.
Компания заявляет, что будет использовать эти более продвинутые системы искусственного интеллекта в своих приложениях, как только они будут стабильно превосходить текущие методы контроля за контентом. В то же время это уменьшит зависимость от сторонних поставщиков при обеспечении соблюдения требований к контенту.
«Хотя у нас по-прежнему будут люди, которые просматривают контент, эти системы смогут выполнять работу, которая лучше подходит для технологий, например, повторяющиеся проверки графического контента или областей, где злоумышленники постоянно меняют свою тактику, например, с незаконной продажей наркотиков или мошенничеством», — объяснила Мета в своем блоге.
Мета считает, что эти системы искусственного интеллекта могут обнаруживать больше нарушений с большей точностью, лучше предотвращать мошенничество, быстрее реагировать на реальные события и снижать чрезмерное правоприменение.
Компания заявляет, что первые испытания систем искусственного интеллекта оказались многообещающими, поскольку они могут обнаружить вдвое больше контента с сексуальным домогательством для взрослых, чем ее группы проверки, а также снижают уровень ошибок более чем на 60%. В нем также говорится, что системы могут выявлять и предотвращать новые учетные записи, выдающие себя за другое лицо с участием знаменитостей и других высокопоставленных лиц, а также помогают остановить захват учетных записей, обнаруживая такие сигналы, как вход в систему из новых мест, изменение пароля или редактирование профиля.
Кроме того, Meta утверждает, что системы могут выявлять и смягчать около 5000 попыток мошенничества в день, когда мошенники пытаются обманом заставить людей раскрыть свои данные для входа.
«Эксперты будут проектировать, обучать, контролировать и оценивать наши системы искусственного интеллекта, измеряя производительность и принимая самые сложные и эффективные решения», — написала Мета в своем блоге. «Например, люди будут продолжать играть ключевую роль в том, как мы принимаем наиболее рискованные и наиболее важные решения, такие как апелляции об отключении учетной записи или отчеты в правоохранительные органы».
Этот шаг произошел в связи с тем, что Meta в течение последнего года или около того ослабляла свои правила модерации контента, поскольку президент Дональд Трамп вступил в должность во второй раз. В прошлом году компания прекратила стороннюю программу проверки фактов в пользу X-подобной модели Community Notes. Он также снял ограничения на «темы, которые являются частью основного дискурса» и заявил, что пользователям будет предложено использовать «персонализированный» подход к политическому контенту.
Это также связано с тем, что Meta и другие крупные технологические компании в настоящее время сталкиваются с несколькими судебными исками, требующими привлечь гигантов социальных сетей к ответственности за причинение вреда детям и молодым пользователям.
В четверг Meta также объявила, что запускает помощника по поддержке Meta AI, который предоставит пользователям доступ к круглосуточной поддержке. Помощник будет доступен по всему миру в приложениях Facebook и Instagram для iOS и Android, а также в Справочном центре Facebook и Instagram на компьютере.