Искусственный интеллект в случае отсутствия четких правил и независимого контроля может представлять экзистенциальную угрозу для человечества. Об этом заявил Верховный комиссар ООН по правам человека Волкер Тюрк во время выступления на заседании Совета ООН по правам человека в Женеве.
По его словам, развитие технологии происходит настолько быстро, что человечество должно заранее установить предохранители, которые не позволят системам ИИ выйти из-под контроля.
ИИ может выйти из-под контроля
Тюрк подчеркнул, что опасность возникнет в случае, если системы искусственного интеллекта станут настолько мощными, что их разработчики больше не смогут полностью контролировать их поведение.
Он привел в качестве примера ситуации, когда ИИ может самостоятельно покинуть тестовую среду или попытаться помешать своему отключению.
По словам Верховного комиссара, необходимо уже сейчас внедрить надежные гарантии безопасности, а также независимый контроль за развитием технологии. Тюрк призвал страны, которые разрабатывают ИИ или обеспечивают его технологические цепочки поставок, договориться о четких красных линиях и общих правилах.
Горстка мужчин получила огромное влияние
Отдельно представитель ООН обратил внимание на концентрацию власти в сфере искусственного интеллекта.
Он заявил, что в настоящее время горстка мужчин имеет почти неограниченную власть над ИИ, контролируя значительные технологические ресурсы и огромные массивы данных.
По его мнению, вопросы развития искусственного интеллекта нельзя сводить только к технической безопасности. Технология уже влияет на рынок труда, демократию, распространение информации и окружающую среду.
Поэтому, подчеркнул Тюрк, ИИ должен работать на благо людей, а не наоборот. Reuters также отмечает, что среди крупнейших компаний в этой сфере есть Meta, Anthropic, OpenAI и Google.
ООН обеспокоена автономным оружием
Еще одной причиной для беспокойства Тюрк назвал использование искусственного интеллекта в войнах.
Верховный комиссар заявил, что его ужасают сообщения о полностью автономных беспилотниках, которые, согласно имеющимся данным, могла применять Россия в войне против Украины.
Речь идет об оружии, способном самостоятельно принимать решения о применении смертельной силы без непосредственного участия человека.
Тюрк призвал к срочному запрету автономного оружия, которое может лишать людей жизни без человеческого контроля.
В то же время он отметил, что война России против Украины продолжает приводить к гибели гражданских, разрушению критической инфраструктуры и другим серьезным нарушениям прав человека.
В мире более 60 вооруженных конфликтов
Выступление Тюрка касалось не только искусственного интеллекта. Он также заявил об ухудшении глобальной ситуации в сфере безопасности.
По его словам, сегодня в мире продолжается более 60 вооруженных конфликтов с участием как минимум одного государства. Такой уровень, по оценке Верховного комиссара, не наблюдался со времен Второй мировой войны.
Тюрк также выразил обеспокоенность из-за возобновления боевых действий между США и Ираном и возможных последствий этого противостояния для региона. В то же время он призвал государства не допускать дальнейшего разрушения международного права и усилить ответственность за нарушения прав человека.
Тюрк призвал не допустить неконтролируемого развития ИИ
По словам Верховного комиссара ООН, человечество должно действовать до того, как риски от сверхмощных систем искусственного интеллекта станут реальностью.
Речь идет не только о технических сбоях. Неконтролируемый ИИ потенциально может влиять на критическую инфраструктуру, информационное пространство, демократические институты и безопасность людей.
Именно поэтому Тюрк призвал государства и технологические компании усилить сотрудничество, внедрить независимый надзор и установить четкие границы для развития технологии.
Ранее мы писали, что OpenAI научит ChatGPT угадывать возраст пользователей — читай в материале, как это будет работать.
Больше видео? Не вопрос! Эксклюзивы, интервью, смешные Shorts и не только – скорее на Youtube Вікон. Твой уютный канал!