Компания Meta объявила о новых инструментах безопасности для подростков, которые общаются с Meta AI. Если искусственный интеллект обнаружит в сообщениях возможные признаки суицидальных мыслей или самоповреждения, об этом могут сообщить родителям. Кроме того, компания работает над механизмом, который в критических случаях позволит обращаться в экстренные службы.
Об этом сообщили в официальном блоге Meta.
Родители будут получать уведомления
Нововведение касается подростков, чьи аккаунты находятся под родительским контролем в Instagram. Если Meta AI во время общения заметит признаки того, что ребёнок может находиться в кризисном состоянии или говорить о самоубийстве либо самоповреждении, система отправит уведомление одному из родителей.
Вместе с уведомлением они получат рекомендации специалистов о том, как правильно начать разговор с ребёнком и оказать ему поддержку.
В компании пояснили, что алгоритмы создавались при участии психологов, медицинских экспертов и самих родителей. Система учитывает даже косвенные или завуалированные упоминания о возможном самоповреждении.
При этом перед отправкой уведомления каждый случай дополнительно будет проверять человек. Если ситуация вызывает сомнения, Meta обещает действовать в интересах безопасности подростка и всё же информировать родителей.
На данный момент функция уже работает для пользователей в США, Канаде, Великобритании и Австралии. До конца года её планируют сделать доступной в других странах.
В критических случаях могут уведомлять экстренные службы
Отдельно Meta сообщила, что разрабатывает систему, которая позволит обращаться в службы спасения, если анализ переписки покажет, что человек может находиться под непосредственной угрозой самоубийства.
Компания отмечает, что похожий механизм уже действует в Facebook и Instagram. Если модераторы получают информацию о реальной угрозе жизни пользователя, они могут передать её соответствующим службам.
По данным Meta, только в течение прошлого года было осуществлено более 19 тысяч таких уведомлений в разных странах мира.
К разработке привлекли десятки психологов
Чтобы сделать ответы Meta AI более безопасными для подростков, компания обратилась к более чем 75 клиническим психологам и специалистам по психическому здоровью.
Эксперты проанализировали сотни сценариев общения и оценили, насколько ответы искусственного интеллекта являются уместными для детей и подростков.
После этого Meta обновила поведение AI. Теперь во время разговоров на сложные темы он должен не только рекомендовать обратиться за помощью, но и сначала признавать эмоции собеседника, не прерывая диалог слишком резко.
Для подростков усилят ограничения
Компания также расширяет действие режима Limited Content, который родители могут включить для аккаунтов своих детей в Instagram.
После активации этого режима ограничения будут распространяться и на общение с Meta AI. Искусственный интеллект будет отказываться отвечать на более широкий перечень потенциально опасных или неприемлемых запросов.
В Meta поясняют, что это должно снизить риск того, что подростки столкнутся с неприемлемым или чувствительным контентом во время общения с искусственным интеллектом.
В компании подчёркивают, что главная цель новых изменений — помочь подросткам вовремя получить поддержку, а родителям — узнать о возможных проблемах до того, как ситуация станет критической.
Ранее мы сообщали, что российские спецслужбы активно атакуют украинских пенсионеров, используя новые мошеннические схемы. Как это работает и чем могут грозить эти манипуляции — читайте подробности в нашем материале.
Больше видео? Не вопрос! Эксклюзивы, интервью, смешные Shorts и не только – скорее на Youtube Вікон. Твой уютный канал!