В США разгорелся судебный скандал вокруг компании OpenAI и ее главы Сэма Альтмана.
Родители 16-летнего Адама Рейна подали в суд, обвинив чат-бот ChatGPT в причастности к самоубийству их сына.
По словам истцов, ИИ предоставлял подростку смертельно опасные советы и подстрекал его к суициду. Об этом сообщило издание Reuters.
Что известно об обвинении
Согласно иску, поданному в суд в Сан-Франциско, 16-летний Адам Рейн скончался 11 апреля после нескольких месяцев общения с ChatGPT на тему самоубийства.
Родители парня Мэтью и Мария Рейн утверждают, что чат-бот не только подтверждал суицидальные мысли сына, но и предоставлял подробную информацию о методах самоубийства, подсказывал, как скрыть следы неудачной попытки, а также предложил составить предсмертную записку.
Семья Рейн считает, что OpenAI сознательно поставила прибыль выше безопасности пользователей, выпустив обновленную версию GPT-4o.
По мнению истцов, компания отдавала себе отчет, что функции, запоминающие взаимодействия и имитирующие эмпатию, могут повредить уязвимым людям, но все равно запустила продукт.
Это решение имело два последствия: оценка OpenAI выросла с 86 миллиардов долларов до 300 миллиардов долларов, а Адам Рейн покончил с собой, — заявили Мэтью и Мария Рейн.
Реакция компании и требования истцов
Представитель OpenAI выразил соболезнования семье, но отказался комментировать детали иска.
Он отметил, что у чатботов предохранительные механизмы, перенаправляющие пользователей на кризисные линии помощи, однако признал: “со временем они могут стать менее надежными во время длительного взаимодействия”.
Родители погибшего парня требуют не только денежной компенсации, но и обязать OpenAI ввести более строгие правила.
Среди их требований — обязательная проверка возраста пользователей, отказ в запросах на самоповреждение и предупреждение о риске психологической зависимости от ИИ.
Этот случай не первый, когда чат-бот обвиняют в причастности к трагедиям. Ранее сообщалось о самоубийствах подростков во Флориде и Техасе, где их семьи утверждали, что к трагедиям привели разговоры с другими ШИ-компаньонами.
Подобные инциденты стали причиной инициирования законопроектов, направленных на регулирование взаимодействия ИИ с несовершеннолетними.
Ранее мы рассказывали об исследовании, которое показало, что ChatGPT тратит тонны воды и вредит окружающей среде – читай подробности в нашем материале.
Больше видео? Не вопрос! Эксклюзивы, интервью, смешные Shorts и не только – скорее на Youtube Вікон. Твой уютный канал!