Компания OpenAI анонсировала планы по внедрению родительского контроля в ChatGPT, который произойдет в течение следующего месяца.
Это решение было принято после судебного иска от семьи 16-летнего подростка, который, по их словам, покончил жизнь самоубийством под влиянием чат-бота.
Новые возможности для безопасности подростков
Согласно анонсу OpenAI, родители получат новые инструменты контроля:
- Связь между аккаунтами:
Родители смогут связать свой профиль с аккаунтом ребенка по электронному приглашению.
- Управление функциями:
Это позволит выключать некоторые функции для подростка, включая историю чатов и память.
- Система уведомлений:
Родители будут получать уведомления, если система обнаружит у ребенка признаки острого стресса.
Эти изменения направлены на повышение и защиту подростков от потенциальной опасности.
Новации для всех пользователей
OpenAI планирует улучшить безопасность не только детей.
Компания намерена перенаправлять чувствительные разговоры, содержащие признаки острого стресса, в более совершенные модели, такие как GPT-5.
Эти модели смогут обсудить ответ дольше, что поможет им давать более полезные и безопасные советы.
Кроме того, для консультаций по вопросам развития молодежи и психического здоровья OpenAI создала совет экспертов, в который входят специалисты по ментальному здоровью и взаимодействию человека с компьютером.
Почему это вышло?
Решение об изменениях было принято после того, как против OpenAI подали судебный иск из-за смерти 16-летнего парня. Его родители обвиняют компанию в том, что ChatGPT подтолкнул их сына к самоубийству.
В иске утверждается, что компания разработала ИИ “в целях содействия психологической зависимости пользователей” и обошла протоколы безопасности при выпуске ChatGPT 4.0.
По данным BBC, это первое судебное дело, в котором компания с искусственным интеллектом обвиняется в неправомерной смерти.
OpenAI прокомментировала трагедию, отметив, что “последние трагические случаи использования ChatGPT людьми, находящимися в остром кризисе, влияют на нас”, это и стало причиной для введения контроля.
Раньше мы рассказывали, как в Греции женщина воспользовалась ChatGPT, чтобы гадать измену мужчине, и решила подать на развод.
Больше видео? Не вопрос! Эксклюзивы, интервью, смешные Shorts и не только – скорее на Youtube Вікон. Твой уютный канал!