Instagram признал проблему, которая копилась месяцами: пользователи всё чаще натыкаются на аккаунты, выглядящие как обычные люди, а потом узнают, что за фото стоит не человек, а генеративная модель. Ответ платформы — переименовать существующую метку «AI creator» в более понятную «AI-generated profile» и начать урезать охват тех, кто не потрудился её поставить.
Метка обязательна не для всякого использования AI. Если создатель просто редактирует фото, полирует подписи или делает графику с помощью нейросети, помечать профиль не нужно. Требование касается конкретно случаев, когда сам человек на фотографиях — полностью или в значительной степени сгенерирован искусственным интеллектом.
Триггеров для такого решения хватало. Приложение для гей-знакомств Goose оказалось в центре расследования Wired после того, как выяснилось: сеть из десятков AI-сгенерированных мужских «инфлюенсеров» продвигала сервис в Instagram, причём некоторые из этих аккаунтов писали пользователям напрямую, зазывая регистрироваться. Ещё тревожнее история со здоровьем — New York Times в июле нашла сотни AI-сгенерированных «врачей» и «целителей», которые продвигали добавки и делали медицинские заявления ничего не подозревающей аудитории.
Это не первая головная боль Meta с генеративным AI в этом году. Ранее компания уже отзывала функцию, позволявшую создавать изображения с использованием чужой внешности без явного согласия — после жалоб пользователей её убрали. А на прошлой неделе Meta согласилась выплатить 18 миллиардов долларов по иску 29 штатов из-за вреда, который соцсети наносят детям и подросткам — вместе с этим компания вводит лимит в два часа в день для подростков и «ночной режим» с блокировкой уведомлений.
Во что углубиться:
- Расследование Wired про приложение Goose и сеть AI-инфлюенсеров
- AI-фейковые врачи в соцсетях: как индустрия wellness использует сгенерированные лица для продажи добавок
- Соглашение Meta на 18 миллиардов долларов по искам штатов о вреде соцсетей детям