Компанія Meta оголосила про нові інструменти безпеки для підлітків, які спілкуються з Meta AI. Якщо штучний інтелект виявить у повідомленнях можливі ознаки суїцидальних думок або самоушкодження, про це можуть повідомити батьків. Крім того, компанія працює над механізмом, який у критичних випадках дозволить звертатися до екстрених служб.
Про це повідомили в офіційному блозі Meta.
Батьки отримуватимуть попередження
Нововведення стосується підлітків, чиї акаунти перебувають під батьківським контролем в Instagram. Якщо Meta AI під час спілкування помітить ознаки того, що дитина може перебувати у кризовому стані або говорити про самогубство чи самоушкодження, система надішле повідомлення одному з батьків.
Разом зі сповіщенням вони отримають рекомендації від фахівців, як правильно розпочати розмову з дитиною та надати їй підтримку.
У компанії пояснили, що алгоритми створювалися за участі психологів, медичних експертів і самих батьків. Система враховує навіть непрямі або завуальовані згадки про можливе самоушкодження.
При цьому перед надсиланням повідомлення кожен випадок додатково перевірятиме людина. Якщо ситуація викликає сумніви, Meta обіцяє діяти на користь безпеки підлітка й усе ж інформувати батьків.
Наразі функція вже працює для користувачів у США, Канаді, Великій Британії та Австралії. До кінця року її планують зробити доступною в інших країнах.
У критичних випадках можуть повідомляти екстрені служби
Окремо Meta повідомила, що розробляє систему, яка дозволить звертатися до служб порятунку, якщо аналіз листування покаже, що людина може перебувати під безпосередньою загрозою самогубства.
Компанія зазначає, що схожий механізм уже діє у Facebook та Instagram. Якщо модератори отримують інформацію про реальну загрозу життю користувача, вони можуть передати її відповідним службам.
За даними Meta, лише протягом минулого року було здійснено понад 19 тисяч таких повідомлень у різних країнах світу.
До розробки залучили десятки психологів
Щоб зробити відповіді Meta AI більш безпечними для підлітків, компанія звернулася до понад 75 клінічних психологів і фахівців із психічного здоров’я.
Експерти проаналізували сотні сценаріїв спілкування та оцінили, наскільки відповіді штучного інтелекту є доречними для дітей та підлітків.
Після цього Meta оновила поведінку AI. Тепер під час розмов на складні теми він має не лише рекомендувати звернутися по допомогу, а й спочатку визнавати емоції співрозмовника, не перериваючи діалог надто різко.
Для підлітків посилять обмеження
Компанія також розширює дію режиму Limited Content, який батьки можуть увімкнути для акаунтів своїх дітей в Instagram.
Після активації цього режиму обмеження поширюватимуться і на спілкування з Meta AI. Штучний інтелект відмовлятиметься відповідати на ширший перелік потенційно небезпечних або неприйнятних запитів.
У Meta пояснюють, що це має зменшити ризик того, що підлітки зіткнуться з неприйнятним або чутливим контентом під час спілкування зі штучним інтелектом.
У компанії наголошують, що головна мета нових змін — допомогти підліткам отримати підтримку вчасно, а батькам — дізнатися про можливі проблеми до того, як ситуація стане критичною.
Раніше ми повідомляли, що російські спецслужби активно атакують українських пенсіонерів, використовуючи нові шахрайські схеми. Як це працює та чим можуть загрожувати ці маніпуляції — читай деталі в нашому матеріалі.
Більше відео? Ексклюзиви, інтерв’ю, смішні шортси і не лише – зазирай на Youtube Вікон. З нами затишно!