Илон Маск был вынужден приструнить свой искусственный интеллект Grok после ряда громких скандалов. Отныне ИИ-инструмент в соцсети X больше не сможет редактировать фотографии реальных людей, чтобы показать их в откровенном или полуобнаженном виде.
Это решение приняли на фоне массового возмущения дипфейками — поддельными изображениями, которые создавались с помощью нейросети без согласия самих героев фото.
Об этом пишет BBC.
Мы внедрили технологические меры, чтобы предотвратить редактирование аккаунтом Grok изображений реальных людей в откровенной одежде, — официально заявили в X.
Битва за безопасность: от Калифорнии до Лондона
Эти перемены не упали с неба. Они стали результатом колоссального давления со стороны регуляторов. Всего через несколько часов после объявления изменений главный прокурор Калифорнии заявил о начале масштабного расследования по поводу распространения сексуализированных дипфейков, в том числе тех, которые касаются несовершеннолетних.
Не менее яростной была реакция в Великобритании. Премьер-министр Кир Стармер неоднократно призывал Маска взять ИИ под контроль, а британский регулятор Ofcom прямо намекнул: если платформа не начнет соблюдать законы, ее могут просто заблокировать на уровне провайдеров.
Представитель Ofcom назвал этот шаг желанным развитием событий, но подчеркнул, что расследование нарушений X продолжается:
Мы работаем круглосуточно, чтобы получить ответы на вопросы о том, что пошло не так.
Геоблоки и платный щит
Чтобы пресечь злоупотребления, X внедряет несколько уровней защиты:
- Геоблокировка: возможность генерировать реальных людей в бикини, нижнем белье или подобной одежде будет отключена в юрисдикциях, где это незаконно;
- Только для избранных: функция редактирования изображений через Grok теперь доступна исключительно владельцам платных подписок. В компании считают, что это облегчит привлечение нарушителей к ответственности;
- Воображаемая нагота: Илон Маск уточнил, что с включенными настройками NSFW (небезопасно для работы) Grok позволит создавать наготу воображаемых взрослых людей (не реальных), что соответствует стандартам фильмов с рейтингом R.
Свобода слова или унижение достоинства
Стоит напомнить, что ранее Маск активно защищал Grok, обвиняя критиков в попытках подавить свободу слова. Он даже репостил созданные ИИ изображения британского премьера в бикини, что только подлило масла в огонь конфликта с Лондоном.
Тем не менее, эксперты и активисты настроены скептически. Клэр МакГлинн, профессор права Даремского университета, считает, что эти меры запоздали:
Это слишком поздно для тысяч женщин, ставшими жертвами, чьи изображения уже гуляют по сети.
Спасут ли ограничения от злоупотреблений
Главный вопрос остается открытым: как Grok будет идентифицировать, является ли человек на фото реальным? И не обойдут ли пользователи геоблоки с помощью обычных VPN-сервисов, популярность которых в Британии уже взлетела после усиления контроля за контентом?
Исследовательница Риана Пфефферкорн выразила удивление, что платформе понадобилось столько времени для банальных мер предосторожности:
Функции редактирования должны были быть удалены, как только начались первые злоупотребления.
Пока что шаг Маска выглядит как попытка найти компромисс между своей философией вседозволенности и риском полной потери рынка Великобритании. Но сможет ли алгоритм стать этичным — покажет только время.
Ранее мы писали, какой чат-бот был выбран пользователями как лучший — читай в материале, какой ИИ был признан лучшим.
Больше видео? Не вопрос! Эксклюзивы, интервью, смешные Shorts и не только – скорее на Youtube Вікон. Твой уютный канал!