Штучний інтелект у разі відсутності чітких правил і незалежного контролю може становити екзистенційну загрозу для людства. Про це заявив Верховний комісар з прав людини Волкер Тюрк під час виступу на засіданні Ради ООН з прав людини в Женеві.
За його словами, розвиток технології відбувається настільки швидко, що людство має заздалегідь встановити запобіжники, які не дозволять системам ШІ вийти з-під контролю.
ШІ може вийти з-під контролю
Тюрк наголосив, що небезпека виникне у разі, якщо системи штучного інтелекту стануть настільки потужними, що їхні розробники більше не зможуть повністю контролювати їхню поведінку.
Він навів як приклад ситуації, коли ШІ може самостійно залишити тестове середовище або спробувати перешкодити власному вимкненню.
За словами Верховного комісара, необхідно вже зараз запровадити надійні гарантії безпеки, а також незалежний контроль за розвитком технології. Тюрк закликав країни, які розробляють ШІ або забезпечують його технологічні ланцюги постачання, домовитися про чіткі червоні лінії та спільні правила.
Жменька чоловіків отримала величезний вплив
Окремо представник ООН звернув увагу на концентрацію влади у сфері штучного інтелекту.
Він заявив, що наразі жменька чоловіків має майже необмежену владу над ШІ, контролюючи значні технологічні ресурси та величезні масиви даних.
На його думку, питання розвитку штучного інтелекту не можна зводити лише до технічної безпеки. Технологія вже впливає на ринок праці, демократію, поширення інформації та довкілля.
Тому, наголосив Тюрк, ШІ має працювати на користь людей, а не навпаки. Reuters також зазначає, що серед найбільших компаній у цій сфері є Meta, Anthropic, OpenAI та Google.
ООН занепокоєна автономною зброєю
Ще однією причиною для занепокоєння Тюрк назвав використання штучного інтелекту у війнах.
Верховний комісар заявив, що його жахають повідомлення про повністю автономні безпілотники, які, за наявними даними, могла застосовувати Росія у війні проти України.
Йдеться про зброю, здатну самостійно ухвалювати рішення про застосування смертельної сили без безпосередньої участі людини.
Тюрк закликав до термінової заборони автономної зброї, яка може позбавляти людей життя без людського контролю.
Водночас він зазначив, що війна Росії проти України продовжує призводити до загибелі цивільних, руйнування критичної інфраструктури та інших серйозних порушень прав людини.
У світі понад 60 збройних конфліктів
Виступ Тюрка стосувався не лише штучного інтелекту. Він також заявив про погіршення глобальної безпекової ситуації.
За його словами, сьогодні у світі триває понад 60 збройних конфліктів за участю щонайменше однієї держави. Такий рівень, за оцінкою Верховного комісара, не спостерігався від часів Другої світової війни.
Тюрк також висловив занепокоєння через відновлення бойових дій між США та Іраном та можливі наслідки цього протистояння для регіону. Водночас він закликав держави не допускати подальшого руйнування міжнародного права та посилити відповідальність за порушення прав людини.
Тюрк закликав не допустити неконтрольованого розвитку ШІ
За словами Верховного комісара ООН, людство має діяти до того, як ризики від надпотужних систем штучного інтелекту стануть реальністю.
Йдеться не лише про технічні несправності. Неконтрольований ШІ потенційно може впливати на критичну інфраструктуру, інформаційний простір, демократичні інституції та безпеку людей.
Саме тому Тюрк закликав держави та технологічні компанії посилити співпрацю, запровадити незалежний нагляд і встановити чіткі межі для розвитку технології.
Раніше ми писали, що OpenAI навчить ChatGPT вгадувати вік користувачів— читай в матеріалі, як це працюватиме.
Більше відео? Ексклюзиви, інтерв’ю, смішні шортси і не лише – зазирай на Youtube Вікон. З нами затишно!