Американские компании, занимающиеся разработкой искусственного интеллекта (ИИ), вместе работают над созданием органа по стандартам развития ИИ. Причиной такого сотрудничества называют опасения относительно потенциальной опасности искусственного интеллекта, недавно озвученные рядом специалистов по развитию этой технологии.
Об этом проинформировало издание France24.
OpenAI, Google и Anthropic объединились ради безопасности ИИ: что известно
Компания OpenAI заявила, что сотрудничает со своими конкурентами Anthropic PBC и Google DeepMind по созданию саморегулирующегося органа по образцу Управления по регулированию финансовой отрасли (FINRA), которое контролирует деятельность брокеров и инвестиционных фирм в США. Соответствующее предложение поступило от руководителя Google DeepMind Демиса Хассабиса.
В июле Хассабис призвал США создать организацию, которая тестировала бы самые мощные системы ИИ, прежде чем они станут доступными для общественности.
Руководитель отдела глобальной политики OpenAI Крис Лехейн сообщил, что компании-конкуренты сотрудничают уже несколько недель, передает издание Bloomberg.
Лехейн отметил, что OpenAI поддержит предложения американских политиков, направленные на устранение потенциальных катастрофических рисков, связанных с ИИ.
Ранее генеральный директор Anthropic Дарио Амодей обнародовал эссе, в котором призвал ограничить разработку самых современных систем ИИ, чтобы исследователи могли лучше понять потенциальные угрозы. Его поддержали гендиректор OpenAI Сэм Альтман и руководитель SpaceXAI Илон Маск.
Также сообщалось, что на прошлой неделе исследователь Джейкоб Коксон ушел из Anthropic, отметив, что компании-разработчики ИИ “играют нашими жизнями”. Ранее Коксон также работал в OpenAI.
Бывший исследователь Google DeepMind Билал Чугтай поддержал беспокойство, высказанное другими специалистами отрасли.
— Я искренне верю, что искусственный интеллект имеет потенциал убить нас всех, и что у нас, возможно, истекает время, чтобы избежать этого, – написал Чугтай в соцсетях.
Тем временем американские антимонопольные регуляторы скептически отреагировали на предоставление компаниям исключения для координации действий по вопросам безопасности. Глава Федеральной торговой комиссии Эндрю Фергюсон отметил, что будет относиться к таким запросам с “глубоким подозрением”.
По мнению Фергюсона, сейчас компании “просят о создании барьеров для входа на рынок”, которые оградят их от конкурентов.
В свою очередь гендиректор канадской компании по развитию искусственного интеллекта Cohere Айдан Гомес обвинил американских конкурентов в создании “картеля” под видом заботы о безопасности.
— Искусственному интеллекту нужны защитные барьеры. Это не предмет спора и никогда не был. Спор состоит в том, кто их пишет, кто может участвовать и чьи интересы защищают эти правила, – написал Гомес в своем блоге.
Напомним, что ООН уже предупредила о том, что ИИ может представлять экзистенциальную угрозу человечеству.
Больше видео? Не вопрос! Эксклюзивы, интервью, смешные Shorts и не только – скорее на Youtube Вікон. Твой уютный канал!