Американські компанії, які займаються розробкою штучного інтелекту (ШІ), разом працюють над створенням органу щодо стандартів розвитку ШІ. Причиною такої співпраці називають побоювання щодо потенційної небезпеки штучного інтелекту, які нещодавно були озвучені низкою фахівців із розвитку цієї технології.
Про це поінформувало видання France24.
OpenAI, Google та Anthropic об’єдналися заради безпеки ШІ: що відомо
Компанія OpenAI заявила, що співпрацює зі своїми конкурентами Anthropic PBC та Google DeepMind щодо створення саморегульованого органу за зразком Управління з регулювання фінансової галузі (FINRA), яке контролює діяльність брокерів та інвестиційних фірм у США. Відповідна пропозиція надійшла від керівника Google DeepMind Деміса Гассабіса.
У липні Гассабіс закликав США створити організацію, яка б тестувала найпотужніші системи ШІ, перш ніж вони стануть доступними для громадськості.
Керівник відділу глобальної політики OpenAI Кріс Лехейн повідомив про те, що компанії-конкуренти співпрацюють вже кілька тижнів, передає видання Bloomberg.
Лехейн зазначив, що OpenAI підтримає пропозиції американських політиків, спрямовані на усунення потенційних катастрофічних ризиків, пов’язаних із ШІ.
Раніше генеральний директор Anthropic Даріо Амодей оприлюднив есе, у якому закликав обмежити розробку найсучасніших систем ШІ, щоб дослідники могли краще зрозуміти потенційні загрози. Його підтримали гендиректор OpenAI Сем Альтман та керівник SpaceXAI Ілон Маск.
Також повідомлялося, що минулого тижня дослідник Джейкоб Коксон пішов з Anthropic, зазначивши, що компанії-розробники ШІ “грають нашими життями”. Раніше Коксон також працював в OpenAI.
Колишній дослідник Google DeepMind Білал Чугтай підтримав занепокоєння, висловлені іншими фахівцями галузі.
— Я щиро вірю, що штучний інтелект має потенціал убити нас усіх, і що у нас, можливо, закінчується час, щоб уникнути цього, – написав Чугтай у соцмережах.
Тим часом американські антимонопольні регулятори скептично відреагували на надання компаніям винятку для координації дій з безпекових питань. Голова Федеральної торгової комісії Ендрю Фергюсон зауважив, що ставитиметься до таких запитів із “глибокою підозрою”.
На думку Фергюсона, наразі компанії “просять про створення бар’єрів для входу на ринок”, які захистять їх від конкурентів.
Своєю чергою гендиректор канадської компанії із розвитку штучного інтелекту Cohere Айдан Гомес звинуватив американських конкурентів у створенні “картелю” під виглядом турботи про безпеку.
— Штучному інтелекту потрібні захисні бар’єри. Це не є предметом суперечки і ніколи не було. Суперечка полягає в тому, хто їх пише, хто може брати участь і чиї інтереси захищають ці правила, – написав Гомес у своєму блозі.
Нагадаємо, що ООН вже попередила про те, що ШІ може становити екзистенційну загрозу для людства.
Більше відео? Ексклюзиви, інтерв’ю, смішні шортси і не лише – зазирай на Youtube Вікон. З нами затишно!