Банки УкраиныНовости

Ученые спрогнозировали, когда искусственный интеллект будет угрожать мировой безопасности

Экс-работник OpenAI Леопольд Ашенбреннер опубликовал эссе, в котором выразил обеспокоенность, связанную с быстрым развитием всеобщего искусственного интеллекта (AGI). Работа составлена ​​в рамках инициативы Situational Awareness («Ситуативная осведомленность») и посвящена ушедшему в отставку соучредителю OpenAI Илье Суцкеверу.

«Гонки AGI начались. Мы строим машины, которые могут думать и размышлять. К 2025−2026 годам эти машины обгонят многих выпускников колледжей. Далее вмешаются органы национальной безопасности. Правительство США пробудится, и в 2027—2028 году мы получим некую форму правительственного проекта AGI. Ни один стартап не сможет справиться с сверхинтеллектом. Где-то у SiFi наступит финал», — пишет Ашенбреннер.

Сотрудники ИИ-корпораций составили обращение с требованием расширить права на разглашение потенциально опасной корпоративной информации.

«Компании, занимающиеся искусственным интеллектом, обладают закрытой информацией о возможностях и ограничениях своих систем, их защитных мерах и уровнях риска [технологий]. Пока у них есть лишь несущественные обязательства по предоставлению части этой информации правительствам, но не общественности», — говорится в документе.

Среди подписавших письмо 13 бывших и действующих сотрудников OpenAI, Google DeepMind и Anthropic, некоторые пожелали остаться анонимными. Авторы считают, что пока за ИИ-гигантами не установят эффективный государственный надзор, их работники «единственные, кто может привлечь их к ответственности».

Однако у таких компаний есть «сильные финансовые стимулы, чтобы избежать надзора». По словам авторов документа, чаще всего их ограничивают соглашения о конфиденциальности и другие корпоративные процедуры:

«Обычных мер защиты информаторов недостаточно, поскольку они завязаны на незаконной деятельности, тогда как многие беспокоящие нас риски еще не регулируются. Некоторые не без оснований опасаются разных форм возмездия, учитывая историю подобных случаев в отрасли».

В качестве смягчающей меры, авторы предложили корпорациям придерживаться нескольких принципов:

При этом ведущие национальные компании-разработчики рассматривают безопасность как второстепенную задачу. В настоящее время исследовательские учреждения «подносят на блюдечке AGI для Коммунистической партии Китая».

«Суперинтеллект даст решающее экономическое и военное преимущество. КНР еще не вышла из игры. В гонке за созданием AGI на карту будет поставлена ​​именно выживание свободного мира. Сможем ли мы сохранить наше превосходство над авторитарными государствами? Удастся ли нам избежать самоуничтожения на этом пути?», — размышляет Ашенбреннер.

Он считает, что только определенный круг лиц, связанных с разработкой ИИ-технологии, могут повлиять на будущее человечества.

Для Вас

• Банки Украины
• Обмен валюты
• Курсы Нацбанка
• Новости
• Вклады ф/л
• Потреб. кредиты

Авторизация