Компанія OpenAI анонсувала плани щодо впровадження батьківського контролю в ChatGPT, що станеться протягом наступного місяця.
Це рішення було прийнято після судового позову від родини 16-річного підлітка, який, за їхніми словами, покінчив життя самогубством під впливом чат-бота.
Нові можливості для безпеки підлітків
Згідно з анонсом OpenAI, батьки отримають нові інструменти контролю:
- Зв’язок між акаунтами:
Батьки зможуть пов’язати свій профіль з акаунтом дитини через електронне запрошення.
- Управління функціями:
Це дозволить вимикати деякі функції для підлітка, зокрема історію чатів та пам’ять.
- Система сповіщень:
Батьки отримуватимуть сповіщення, якщо система виявить у дитини ознаки гострого стресу.
Ці зміни спрямовані на підвищення безпеки та захист підлітків від потенційної небезпеки.
Новації для всіх користувачів
OpenAI планує покращити безпеку не лише для дітей.
Компанія має намір перенаправляти чутливі розмови, що містять ознаки гострого стресу, на більш досконалі моделі, такі як GPT-5.
Ці моделі зможуть обміркувати відповідь довше, що допоможе їм надавати більш корисні та безпечні поради.
Крім того, для консультацій з питань розвитку молоді та психічного здоров’я, OpenAI створила раду експертів, до якої входять фахівці з ментального здоров’я та взаємодії людини з комп’ютером.
Чому це сталося?
Рішення про зміни було ухвалене після того, як проти OpenAI подали судовий позов через смерть 16-річного хлопця. Його батьки звинувачують компанію в тому, що ChatGPT підштовхнув їхнього сина до самогубства.
У позові стверджується, що компанія розробила ШІ “з метою сприяння психологічній залежності користувачів” та обійшла протоколи безпеки при випуску ChatGPT 4.0.
За даними BBC, це перша судова справа, у якій компанія зі штучним інтелектом звинувачується в неправомірній смерті.
OpenAI прокоментувала трагедію, зазначивши, що “останні трагічні випадки використання ChatGPT людьми, які перебувають у гострій кризі, тяжко на нас впливають”, що й стало поштовхом для анонсованих змін.
Раніше ми розповідали, як в Греції жінка скористалася ChatGPT, щоб наворожити зраду чоловіка, і вирішила подати на розлучення.
Більше відео? Ексклюзиви, інтерв’ю, смішні шортси і не лише – зазирай на Youtube Вікон. З нами затишно!